কোলমোগোরভ-জটিল সংজ্ঞাগুলির সমতা

Question

কোলমোগোরভ-জটিলতা সংজ্ঞায়নের অনেকগুলি উপায় রয়েছে এবং সাধারণত, এই সমস্ত সংজ্ঞাগুলি একটি সংযোজক ধ্রুবকের সমতুল্য। এটি যদি $K_1$ এবং $K_2$ কোলমোগোরভ জটিলতা ফাংশন (বিভিন্ন ভাষা বা মডেলের মাধ্যমে সংজ্ঞায়িত) হয়, তবে সেখানে একটি ধ্রুবক সি থাকে $c$যা প্রতিটি স্ট্রিংয়ের জন্য $x$ , $|K_1(x) - K_2(x)| < c$ । আমি বিশ্বাস করি এটি কারণ প্রতিটি কলমোগরভ জটিলতার ফাংশন $K$ এবং প্রতিটি $x$ এটি ধারণ করে$K(x) \le |x| +c$ , কিছু ধ্রুবক জন্য$c$ ।

টুরিং-মেশিনের উপর ভিত্তি করে আমি কে এর জন্য নিম্নলিখিত সংজ্ঞাগুলিতে আগ্রহী$K$

1. রাজ্যের সংখ্যা : কে 1 ( x ) $K_1(x)$ ন্যূনতম সংখ্যা q হিসাবে সংজ্ঞায়িত করুন $q$যে কোনও q এর সাথে একটি টিএম শূন্য স্ট্রিংয়ে $q$ আউটপুট দেয় ।$x$
2. প্রোগ্রাম দৈর্ঘ্য : define $K_2(x)$ সবচেয়ে কম "কর্মসূচির" হতে যে আউটপুট $x$ । যথা, বাইনারি স্ট্রিংগুলিতে টিএমএস এনকোড করার একটি উপায় ঠিক করুন; একটি মেশিনের জন্য $M$ তার অবস্থান (বাইনারি) বোঝাতে যেমন এনকোডিং $\langle M \rangle$ । $K_2(x) = \min |\langle M \rangle|$যেখানে সর্বনিম্ন সমস্ত চেয়ে বেশি হয় খালি ইনপুটটিতে আউটপুট ।এম $M$$x$

হয় $K_1$ এবং $K_2$ সমতুল্য? তাদের মধ্যে কী সম্পর্ক, এবং কোনটি কলমোগোরভ জটিলতার ধারণাটিকে আরও ভালভাবে গ্রহণ করে, যদি তারা সমতুল্য না হয়।

কি বিশেষত বাগ আমাকে হার $K_2$ সঙ্গে বৃদ্ধি $x$ , যা সুপার-রৈখিক হতে বলে মনে হয় (অথবা ধ্রুবক সঙ্গে অন্তত রৈখিক এ $C>1$ যেমন যে $K_2 < C|x|$ বদলে $|x|+c$ )। সবচেয়ে সহজ টি এম বিবেচনা করুন যে আউটপুট $x$ - একটি যে শুধু এনকোড $x$ তার রাজ্য এবং ট্রানজিশন ফাংশন অংশ হিসেবে। এটি দেখতে অবিলম্বে যে $K_1(x) \le |x|+1$। তবে একই মেশিনের এনকোডিংটি অনেক বড় এবং তুচ্ছ বাউন্ড আমি পেয়েছি কে 2 ( এক্স ) ≤ | এক্স | লগ | এক্স | ।$K_2(x) \le |x|\log |x|$

Comments

এন স্টেটস সহ 2 এন 2 এরও বেশি মেশিন রয়েছে এবং তাদের গড় আকার কমপক্ষে এন 2 হয় , সুতরাং এগুলি কেবলমাত্র একটি সংযোজক ধ্রুবক দ্বারা পৃথক হওয়ার সম্ভাবনা কম। $2^{n^2}$$n$$n^2$

— কাভেহ

কে 2 ( x ) ≤ c + 2 | এর একটি সুপরিচিত আবদ্ধ রয়েছে এক্স | এক্স উপর নির্ভর করে কিছু স্থির সি জন্য । এর কারণ আমরা পারি সঙ্কেতাক্ষরে লিখা এক্স শুধু প্রতিটি বিট দ্বিগুন দ্বারা একটি উপসর্গ মুক্ত ভাষা এক্স এবং তারপর দিয়ে শেষ 01 । এটি লাগে 2 | এক্স | + + 2 বিট প্রতিনিধিত্ব করতে এক্স । সুতরাং, কারণ কে 2 সার্বজনীন উপসর্গমুক্ত মেশিনের ক্ষেত্রে সংজ্ঞায়িত হয়েছে, কে 2 ( এক্স $K_2(x) \leq c + 2|x|$$c$$x$$x$$x$$01$$2|x| + 2$$x$$K_2$≤ 2 | এক্স | + + 2 + + গ ' কিছু সংশোধন করা হয়েছে জন্য গ । এটিকেপ্রিফিক্স মুক্ত ভাষায় এক্স এনকোড করার আরও বুদ্ধিমান উপায় ব্যবহার করে কিছু উন্নত করা যেতে পারে। $K_2(x) \leq 2|x| + 2 + c'$$c$$x$

— কার্ল ম্যামার্ট

আমি কিভাবে দেখতে পাচ্ছি না। দেখে মনে হচ্ছে এক্স কোডটি এনকোডিংয়ের অংশ হিসাবে দেওয়া হয়েছে (কাঁচা ডেটা হিসাবে), অথবা আপনাকে অবশ্যই নিজের রাজ্য-মেশিন দ্বারা এক্স তৈরি করতে হবে । প্রথম বিকল্পটি প্রতারণা বলে মনে হচ্ছে এবং আমি দেখতে পাচ্ছি না কীভাবে এটি দ্বিতীয় বিকল্পের সাথে তুলনাযোগ্য হতে পারে (যা কে 1 বোঝায় )$x$$x$$K_1$

— রান জি।

@Ran জি .: কী বিন্দু invariance উপপাদ্য এ বর্ণিত হয় en.wikipedia.org/wiki/Invariance_theorem । আমি কোনো কার্যকর ব্যবস্থার একটি বৃদ্ধির হার আছে যা বর্ণনা করতে পারেন 2 | এক্স | তারপরে একটি সার্বজনীন ট্যুরিং মেশিন (আপনি যেমন কে 2 হিসাবে বর্ণনা করেছেন ) এটি একটি সংযোজক ধ্রুবকের মধ্যে মিলবে। সার্বজনীন মেশিন এক যে লাগে ⟨ এম ⟩ ইনপুট এবং আয় আউটপুট হয় এম যদি এম বন্ধ হয়ে যাবে। $2|x|$$K_2$$\langle M\rangle$$M$$M$

— কার্ল ম্যামার্ট

Answer 1

আমি আগে থেকে ক্ষমা চেয়ে নিচ্ছি এর জন্য আমি অনেক বেশি বিবরণ দিচ্ছি, তবে আমি লোকদের সাথে বিরোধিতা করতে চলেছি।

কে ( এক্স ) সম্পর্কে ≤ কে ′ ( এক্স ) + গ$K(x)≤K'(x)+c$

সত্য যে কে 1 ( এক্স ) ≤ কে 2 ( x এর ) + + গ সাধারণত একটি থেকে আসে অনুবাদক বিবরণ ভাষা # 1 এবং মধ্যে বিবরণ ভাষা # 2 না # 1 এর প্রোগ্রাম মধ্যে # 2 প্রোগ্রাম থেকে একটি অনুবাদ থেকে।$K_1(x)≤K_2(x)+c$

উদাহরণস্বরূপ কে সি ( এক্স ) ≤ কে পি ওয়াই টি হ ও এন ( এক্স ) + সি পি ওয়াই 2 সি এবং আপনি এই বৈষম্যটি কেবল এই হিসাবে পান:$K_\mathtt{C}(x)≤K_\mathtt{Python}(x)+c_\mathtt{py2c}$

void py_run(char * s) {
    // code of your Python interpreter
}

int main(void) {
    py_run("Put here your Python program of size Kpython(x)");
}

তারপর আপনার ধ্রুবক গ পি Y 2 গ ভালো কিছু হতে হবে 528 + + 490240688 যেখানে 528 এই কোডটি বিট এবং সংখ্যা 490240688 বিট আকার কর্মকর্তা পাইথন ইন্টারপ্রেটার সি তে লেখা অবশ্যই আপনি শুধুমাত্র ব্যাখ্যা করা কি সম্ভব হয় প্রয়োজন পাইথনের জন্য আপনার বর্ণনার ভাষা যাতে আপনি 69 এমবি থেকে ভাল করতে পারেন :-)$c_\mathtt{py2c}$$528+490240688$$528$$490240688$

গুরুত্বপূর্ণটি হ'ল আপনি নিজের সি কোডটিতে আপনার পাইথন প্রোগ্রামটি রৈখিকভাবে লিখতে পারেন । উদাহরণস্বরূপ, এমন একটি ভাষা যেখানে আপনার প্রতিটি চরিত্রের মধ্যে "বানা" লাগানো দরকার এটি খুব ভাল বর্ণনার প্রোগ্রাম নয় এবং সম্পত্তিটি তখন মিথ্যা। (তবে যদি বর্ণের ভাষা আপনাকে পৃথক ফাইলে বা একটি ব্লকে ডেটা লেখার অনুমতি দেয় তবে এই সমস্যাটি অদৃশ্য হয়ে যাবে)

আপনার কে 1 ( x ) = q ত্রুটিযুক্ত$K_1(x)=q$

কে 1 এর আপনার সংজ্ঞায় সমস্যাটি হ'ল কিউ স্টেটস সহ একটি ট্যুরিং মেশিন বর্ণনা করতে আপনাকে q বিটের বেশি প্রয়োজন হতে পারে কারণ আপনাকে ট্রানজিশনগুলি এনকোড করতে হবে।$K_1$$q$$q$

সুতরাং কোনও কে 1 এবং কে 2 সম্ভবত সমতুল্য নয়, তবে এটি মূলত কে 1 এর দোষ। আমি মনে করি আমরা সবার জন্য প্রমাণ করতে পারেন যে একটি > 0 সেখানে হয় গ একটি যেমন যে কে 1 ( এক্স ) ≤ একটি | এক্স | + গ a । অবশ্যই কোন একটি < 1 সত্য খণ্ডন যে যথেষ্ট কে 1 , যেহেতু এটি অর্থ হবে যে আমরা আরো সব এনকোড করতে একটি বৈধ ফাংশন নয় 2 এন দৈর্ঘ্য সম্ভাব্য স্ট্রিং$K_1$$K_2$$K_1$$a>0$$c_a$$K_1(x)≤a|x|+c_a$$a<1$$K_1$$2^n$এন মধ্যে একটি এন + + গ একটি বিট।$n$$an+c_a$

টুরিং মেশিনগুলি তৈরি করার সময় আকারটি অবিশ্বাস্যভাবে শক্ত tight ধারণা যে একটি ব্লক রয়েছে খ আছে যুক্তরাষ্ট্রের খ 2 খ উপায়ে প্রতিটি রাষ্ট্রের জন্য ট্রানজিশন খুঁজে পেতে এবং যে স্বাভাবিকের চেয়ে ভালো 2 খ উপায়ে আপনি পূরণ করতে পারেন খ বিট। তারপর আপনি প্রতিটি ব্লক সঞ্চয় করতে পারে লগ 2 খ তথ্য বিট। ( 2 লগ 2 বি নয় কারণ আপনাকে একরকম বা অন্য কোনও পথে ব্লকটি প্রবেশ করতে হবে)$b$$b^{2b}$$2^b$$b$$\log_2 b$$2\log_2 b$

So yeah... With blocks of size $2^{1/a}$ you could probably prove $K_1(x)≤a|x|+c_a$. But I already written way too much about why the number of states is not a valid Kolmogorov complexity function. If you want me to elaborate, I will.

Now about $K_2$

The naive descriptive language corresponds roughly to $K_2(x)=q\cdot 2 \cdot (\log_2 q + 2)$ (i.e. $\log_2q$ for each next state and details about write and termination).

আপনার যেমন মনে হচ্ছে, আমি দৃ convinced়ভাবে বিশ্বাস করি যে আরও ভাল / প্রতারক উপায় হ'ল "ডেটা" টুরিং মেশিনে এনকোড করার অনুমতি দেওয়া হবে, সম্ভবত বর্ণনার ভাষায় একটি বাইনারি ট্যাগ যুক্ত করে বলা হয়েছে যে কোনও রাজ্য যদি কোনও ডেটা রাজ্য হয় কিনা ( এটি কেবল কিছুটা লিখে পরবর্তী অবস্থাতে যান) বা যদি এটি অন্য কিছু করে। এইভাবে আপনি আপনার বর্ণনামূলক ভাষার এক বিটটিতে আপনার এক x এর বিট সংরক্ষণ করতে পারেন ।$x$

However if you keep the same $K_2$ you could use the same technique I used in the previous part to save a few bits, but I seem to be stuck at $K_2(x)≤a|x|\log|x|+c$ (for any $a>0$) .. maybe less than $\log|x|$, even, but obtaining $O(|x|)$ seems hard. (And I expect it should be $|x|$, not even $O(|x|)$.)

Comments

do you claim that $K_1$ is not a kolmogorov-complexity function? This is very surprising to me, since $K_1$ is actually the definition used in some intoduction to computability course I've once taken (not that it says anything about its correctness).

— Ran G.

Well the fact that $K_1(x)≤\frac12|x|+c$ is quite disturbing. Consider this: there are $2^n$ possible words of $n$ bits and you could encode them using a $\frac12n+c$ bits? That would imply $2^n=O(2^{\frac12n})$ (you encoding has to be injective)

— jmad

What if the python program has characters reserved by C?

— PyRulez