বহুবর্ষীয়ভাবে জ্ঞাত তথ্যের তথ্য তত্ত্বের সাধারণীকরণ কি আছে?

Question

আমি ক্ষমা চাইছি, এটি কিছুটা "নরম" প্রশ্ন।

তথ্য তত্ত্বের গণ্য জটিলতার কোনও ধারণা নেই। উদাহরণস্বরূপ, স্যাট এর একটি উদাহরণ, বা স্যাট এর আরও একটি উদাহরণ যা কিছুটা সন্তুষ্টির ইঙ্গিত করে একই পরিমাণ তথ্য বহন করে।

"বহুপাক্ষিকভাবে জ্ঞাত" ধারণাটি আনুষ্ঠানিক করার কোনও উপায় আছে কি?

এ জাতীয় কাঠামো উদাহরণস্বরূপ একটি এলোমেলো ভেরিয়েবল এক্স আপেক্ষিক ওয়াইয়ের মধ্যে বহুপক্ষীয়-কেএল বিভক্তির ধারণাটিকে সংজ্ঞায়িত করতে পারে কারণ ওয়াই প্রদত্ত বহুবর্ষের সময় এক্স গণনা করার জন্য প্রয়োজনীয় বিটের সংখ্যা Y

তেমনিভাবে, একটি এলোমেলো ভেরিয়েবল এক্স এর এনট্রপিকে এক্সকে এনকোড করার জন্য প্রয়োজনীয় বিটের সংখ্যা হিসাবে সংজ্ঞায়িত করা যেতে পারে যেভাবে বহুবর্ষের সময় ডিকোড করা যায়।

এ জাতীয় জেনারেলাইজেশন কি অধ্যয়ন করা হয়েছে? এটি কি ধারাবাহিকভাবে তৈরি করা যায়?

Comments

আপনি কি ক্রিপ্টোগ্রাফি এসই crypto.stackexchange.com এ জিজ্ঞাসা করার চেষ্টা করেছেন ?

— Zsbán আমব্রাস

এটা সম্ভব যে ক্রিপ্টো লোকদের একটি উত্তর থাকতে পারে, তবে প্রশ্নটি এখানে পুরোপুরি অনন্য-বিষয়বস্তুতে রয়েছে এবং আমি সন্দেহ করি যে এটির এখানে ভাল উত্তর পাওয়ার আরও ভাল সম্ভাবনা রয়েছে। কেবলমাত্র একটি দ্রষ্টব্য নোট: দয়া করে একই প্রশ্নটি ক্রিপ্টো.এসইতে পুনরায় পোস্ট করবেন না; একাধিক এসই সাইটে ক্রস পোস্ট করা সাইটের নিয়ম দ্বারা নিষিদ্ধ।

— DW

Answer 1

হ্যাঁ. সময়সীমাবদ্ধ কোলমোগোরভ জটিলতা হ'ল কমপক্ষে এমন একটি "জেনারালাইজেশন" (যদিও কড়া কথায় বলতে গেলে এটি সাধারণীকরণ নয়, তবে সম্পর্কিত ধারণা)। একটি সর্বজনীন টুরিং মেশিন ঠিক করুন$U$। দ্য$t(n)$একটি স্ট্রিং-সময়-সীমাবদ্ধ Kolmogorov জটিলতা $x$ একটি স্ট্রিং দেওয়া $y$ (সম্পর্কিত $U$), চিহ্নিত $K^t_U(x | y)$ (সাবস্ক্রিপ্ট) $U$ সংক্ষিপ্ততম স্ট্রিং হিসাবে সংজ্ঞায়িত হয় often $p$ (একটি "প্রোগ্রাম" জন্য) $U$) যেমন যে $U(p,y)=x$ এবং যেমন যে গণনা $U(p,y)$ সর্বাধিক লাগে $t(|x|)$সময়। যদি আপনি এটি "শর্তসাপেক্ষ তথ্য" এর সংজ্ঞা হিসাবে গ্রহণ করেন, তবে আপনি একইভাবে তথ্য তত্ত্ব থেকে সমস্ত সাধারণ ধারণাটি সংজ্ঞায়িত করতে পারেন।

যাইহোক, এই সময়-সীমাবদ্ধ সেটিংয়ে, তথ্য তত্ত্বের সাধারণ তত্ত্বগুলি সমস্ত ধারণ করে না বলে জানা যায়। উদাহরণস্বরূপ, তথ্যের প্রতিসাম্য স্বাভাবিক কোলমোগোরভ জটিলতা (সময় নির্ধারিত নয়), তবে সময়সীমাবদ্ধ রাখার জন্য জানা যায় না। উদাহরণস্বরূপ, ট্রয় লি-র থিসিসের Chapter ষ্ঠ অধ্যায়টি দেখুন ।

যদি আপনি উদ্বিগ্ন হন যে এটি বিতরণের পরিবর্তে স্ট্রিংয়ের ক্ষেত্রে প্রযোজ্য তবে আমি নীচের কাগজপত্রগুলি পড়ার পরামর্শ দিচ্ছি, যা বলে যে আসলে স্ট্রিংয়ের কলমোগোরভ জটিলতা এবং বিতরণের শ্যানন এনট্রপি খুব ঘনিষ্ঠভাবে সম্পর্কিত:

• গ্রুনওয়াল্ড এবং ভিটানাই। শ্যানন ইনফরমেশন এবং কোলমোগোরভ জটিলতা

• হাতুড়ি, রোমাশ্চেনকো, শেন, ভেরেশচাগেন। শ্যানন এন্ট্রপি এবং কোলমোগোরভ জটিলতার জন্য বৈষম্য ।

(অন্যদিকে, এমন কিছু সম্পত্তি রয়েছে যা দুজনের মধ্যে ভাগ করে নেওয়া হয়নি বলে জানা যায়, মুছনিক এবং ভেরেশচাগিন, শ্যানন এন্ট্রপি বনাম কলমোগোরভ জটিলতা দেখুন ))

Comments

আমার মূল উদ্বেগটি হ'ল সময়টি ট্যুরিং মেশিন নির্ভর। যেহেতু ট্যুরিং মেশিনগুলি একে অপরকে সর্বাধিক বহুগতির গতি-গতি বা গতি-ডাউন দিয়ে অনুকরণ করতে পারে, তাই লগ (লগ (টি)) দ্বারা জটিলতাটিকে দন্ডিত করে এগুলি একটি অ্যাডিটিভ ধ্রুবকের সমতুল্য বলে মনে হয়। তবে লেভিন জটিলতায় লগ (টি) ব্যবহার করা হয়েছে, কেন তা নিশ্চিত নই why

— আর্থার বি

@ আর্থার বি: আমি আপনার উদ্বেগ বুঝতে পেরেছি তবে এর চারপাশে সম্ভবত বেশ কয়েকটি মানক উপায় রয়েছে। সাধারণত যখন আপনি সময়সীমাবদ্ধ কোলমোগোরভ জটিলতা সম্পর্কে কোনও বিবৃতি প্রমাণ করেন তখন আপনি সমস্ত বহুপদী সময়সীমার জন্য "ফর্মের একটি বিবৃতি প্রমাণ করতে পারেন"$t(n)$, ... ", যে পর্যায়ে সর্বজনীন মেশিন পরিবর্তন করে যে কোনও বহুপদী ধীর গতি / গতি বাড়ানো এখন আর প্রাসঙ্গিক নয়, যেহেতু বিবৃতিটি যে কোনও ক্ষেত্রে প্রযোজ্য। (আপনি যা বলেছিলেন তা আমি অনুসরণ করি নি $\log \log t$, তবে আমি মনে করি যে এই সমস্যাটি হ্যান্ডেল করার চেষ্টা করার এটি অন্যরকম একটি উপায় ...)

— জোশুয়া গ্রাচো

Answer 2

একটি বিষয় হ'ল তথ্য তাত্ত্বিকতায় আমরা প্রচলিত থিওরিয়াল ব্যবহার করি, তা গণনা বিশ্বে রাখা হয় না। অতএব, আমরা এনট্রপির একটি গণনামূলক এনালগটি আনুষ্ঠানিকভাবে তৈরি করলেও, ফলস্বরূপ তত্ত্বটি আর কোনও তথ্য তত্ত্বের মতো না দেখায়।

উদাহরণস্বরূপ, যদি $f$ তাহলে একটি ডিস্ট্রিমেন্টিক ফাংশন $H(f(X)) \le H(X)$। যাইহোক, এন্ট্রপির কোনও কলুষিত গণনাগত ধারণার জন্য এটি আর ধরে রাখতে পারে না: উদাহরণস্বরূপ, সিউডোরেন্ডম জেনারেটরের কথা চিন্তা করুন, যা একটি সংক্ষিপ্ত বীজকে দীর্ঘ সিউডোর্যান্ডম আউটপুটে প্রসারিত করে। কম্পিউটেশনাল এনট্রপির যে কোনও অনুজ্ঞাপূর্ণ সংজ্ঞা দিয়ে আমি কল্পনা করতে পারি, দীর্ঘ সিউডোরন্ডম আউটপুটটিতে বৃহত গণনাভুক্ত এন্ট্রপি থাকবে (এটি দীর্ঘতর স্ট্রিংগুলির উপর একটি অভিন্ন বিতরণ থেকে গণনার পক্ষে পৃথক পৃথক), সুতরাং লঙ্ঘনকারী$H(f(X)) \le H(X)$।

Comments

আমি বুঝতে পেরেছি, আমি কেবল অবাক হয়েছি কতটা উদ্ধার বা প্যাচ করা যায়। সেক্ষেত্রে আপনি বাধাটি যোগ করতে পারলেন যে চ বহুবর্ষীয়ভাবে অবিচ্ছিন্ন, তবে এটি অ্যাড-হক অনুভব করে

— আর্থার বি

আমি বোধ করি বীজের উত্পন্ন উত্সাহিত রেডম স্ট্রিংয়ের চেয়ে বেশি তথ্য রয়েছে কারণ আমরা বীজ থেকে উত্পন্ন স্ট্রিংটি গণনা করতে পারি।

— কাভেঃ

@ কাভেহ, যদি আপনি তথ্য-তাত্ত্বিক বিবেচনায় কথা বলছেন: যদি সিউডোরেন্ডম জেনারেটরটি অবিচ্ছিন্ন হয় (সম্ভবত বহুপক্ষীয় সময়ে নয়, তবে নীতিগতভাবে), তবে এর ইনপুট এবং আউটপুটে একই পরিমাণ তথ্য, তাত্ত্বিকভাবে তথ্য রয়েছে; অন্যথায়, যদি সিউডোরডম বিষয়ী অ-পরিবর্তনীয় হয়, তবে আপনি ঠিক বলেছেন।

— DW

Answer 3

আমি কোনও তথ্য-থিওরেটিক কম্পিউটেশনাল মডেল সম্পর্কে অবগত নই, তবে গণ্য সংক্রান্ত জটিলতায় তথ্য তত্ত্বের স্পষ্ট প্রয়োগ রয়েছে।

উদাহরণস্বরূপ, ক্লাসিক $n \log n$তুলনা-ভিত্তিক বাছাইয়ের উপর নিম্ন সীমাবদ্ধতা ইনপুটগুলির সমস্ত সম্ভাব্য আদেশের মধ্যে পার্থক্য করার জন্য প্রয়োজনীয় সিদ্ধান্তের গাছের উচ্চতা সম্পর্কে একটি তথ্য-তাত্ত্বিক যুক্তির উপর ভিত্তি করে। আপনি অনুরূপভাবে অনুসন্ধান, ক্রম-পরিসংখ্যান, গড় ইত্যাদির গণনাগত জটিলতার উপর তুচ্ছ তথ্য-তাত্ত্বিক সীমা তৈরি করতে পারেন

আরও সাধারণভাবে, তথ্য-তাত্ত্বিক ফলাফলগুলি গণনা সংক্রান্ত জটিলতায় নিম্ন সীমা হিসাবে পরিবেশন করতে পারে। উদাহরণস্বরূপ, ইয়াওর "তথ্য-তাত্ত্বিক" যোগাযোগের জটিলতার ফলাফল {1 two দুটি সেট সমান কিনা তা নির্ধারণের ক্ষেত্রে গণনার নিম্নতর সীমাটি বোঝায়। যোগাযোগ জটিলতার আরও পরিশীলিত অ্যাপ্লিকেশনগুলি uring 2 T ট্যুরিং মেশিনের জন্য সময়-স্থানের ট্রেড অফ সরবরাহ করে}

---

{1} ইয়াও, অ্যান্ড্রু চি-চিহ। "বিতরণকারী কম্পিউটিং সম্পর্কিত প্রাথমিক জটিলতা (প্রাথমিক প্রতিবেদন)"। তত্ত্বের গণনা সম্পর্কিত একাদশ বার্ষিক এসিএম সিম্পোজিয়ামের কার্যক্রম। এসিএম, 1979

{2} এয়াল কুশিলিভিটস: যোগাযোগ জটিলতা। কম্পিউটারে অগ্রগতি 44: 331-360 (1997)।