ঝর্ণা সংযোজন বিবৃতি প্রমাণ করতে ব্যবহৃত তথ্য তত্ত্ব?


54

আপনার পছন্দের উদাহরণগুলি কী যেখানে তথ্য তত্ত্বটি একটি ঝরঝরে সমন্বয়মূলক বিবৃতিটিকে একটি সহজ উপায়ে প্রমাণ করতে ব্যবহৃত হয়?

আমি যে কয়েকটি উদাহরণের কথা ভাবতে পারি সেগুলি স্থানীয়ভাবে ডিকোডেবল কোডগুলির নিম্ন সীমানার সাথে সম্পর্কিত, উদাহরণস্বরূপ, এই কাগজে: ধরুন যে বাইনারি স্ট্রিং দৈর্ঘ্যের এটি ধারণ করে যে প্রতি জন্য, জন্য আলাদা জোড়া { },তারপরে মিটার কমপক্ষে n এ হয়, যেখানে এর গড় অনুপাতের উপর রৈখিকভাবে নির্ভর করে । এন আই কে আমি জে 1 , জে 2 আই = এক্স জে 1x 2 2k i / mx1,...,xmnikij1,j2

ei=xj1xj2.
ki/m

আরেকটি (সম্পর্কিত) উদাহরণ বুলিয়ান কিউবে কিছু আইসোপিমিমেট্রিক বৈষম্য (আপনার উত্তরগুলিতে এ সম্পর্কে বিস্তারিত বলতে দ্বিধা বোধ করুন)।

আপনার আরও ভাল উদাহরণ আছে? সাধারণত, সংক্ষিপ্ত এবং ব্যাখ্যা করা সহজ।


কেউ কি "অন্য (সম্পর্কিত) উদাহরণটি বুলিয়ান কিউবে কিছু isoperimetric বৈষম্য" একটি রেফার দিতে পারেন?
vzn

উত্তর:


40

এর Moser এর প্রমাণ গঠনমূলক Lovasz স্থানীয় থিম । তিনি মূলত দেখান যে, স্থানীয় লেমার শর্তে, স্যাট-এর দ্বিতীয়-সহজতম অ্যালগরিদম আপনি কাজগুলি সম্পর্কে ভাবতে পারেন। (প্রথমটি সবচেয়ে সহজ হতে পারে যে কোনও কাজ না হওয়া পর্যন্ত কেবল এলোমেলোভাবে কার্যনির্বাহী চেষ্টা করা The দ্বিতীয় সহজতমটি এলোমেলোভাবে একটি কার্যভার বেছে নেওয়া, একটি অসন্তুষ্ট ক্লজ সন্ধান করা, এটি সন্তুষ্ট করা, তারপরে দেখুন কী কী অন্যান্য ধারাগুলি আপনি ভাঙলেন, পুনরাবৃত্তি করবেন এবং সম্পন্ন হওয়া পর্যন্ত পুনরাবৃত্তি করবেন see) বহুপক্ষীয় সময়ে এটি যে প্রমাণ হিসাবে প্রমাণিত হয়েছে তা সম্ভবত তথ্য তত্ত্বের সর্বাধিক মার্জিত ব্যবহার (বা কলমোগোরভ জটিলতা, যাই হোক না কেন আপনি এ ক্ষেত্রে এটি কল করতে চান) আমি দেখেছি।


1
মোসরের সুন্দর কলমোগোরভ জটিলতার প্রমাণটি এখানে ব্যাখ্যা করা হয়েছে: blog.computationalcomplexity.org/2009/06/… , তবে আমাকে স্বীকার করতে হবে যে আমি একটি এনট্রপি / পারস্পরিক-তথ্য / -ক্যালকুলেশন উদাহরণের আরও সন্ধান করছিলাম ...
দানা মোশকভিৎজ

Kolmogorov জটিলতা কিছু প্রশংসনীয় আকর্ষণীয় অ্যাপ্লিকেশন এই প্রশ্নের উত্তর হিসেবে দেওয়া আছে: cstheory.stackexchange.com/questions/286
অর্নবের

টেরি টাও তার ব্লগে মসারের
অ্যান্টনি

5
প্রকৃতপক্ষে, তাঁর দ্বিতীয় কাগজে (টার্ডোসের সাথে) আপনার আর পুনরাবৃত্তি করার প্রয়োজন নেই। আপনি কেবল একটি অসন্তুষ্ট শৃঙ্খলা সন্ধান করুন, এর ভেরিয়েবলগুলির জন্য একটি এলোমেলো অ্যাসাইনমেন্ট চয়ন করুন এবং পুনরাবৃত্তি করুন । এটাই. কিছু কারণে সহজ অ্যালগরিদম (একই বিশ্লেষণ থাকা) আটকে যায়নি।
যুবাল ফিল্মস

@ ডানামোশকভিত্জ: আপনার মন্তব্যের জবাবে আমাকে কেন তাড়াতাড়ি বলা হয়নি তা আমি জানি না: কলমোগোরভ জটিলতা এবং এনট্রপি বিভিন্নভাবে মূলত সমতুল্য। যেমন উদাহরণস্বরূপ হামার-রোমাশেঙ্কো-শেন-ভার্সাচাগিন: dx.doi.org/10.1006/jcss.1999.1677 । উদাহরণস্বরূপ, [এইচআরএসভি] এর উপর ভিত্তি করে, অর্ণবের উত্তরে শিয়েরের লেমার প্রমাণ এনট্রপির জায়গায় কলমোগোরভ জটিলতা ব্যবহার করে একই প্রমাণ সহ প্রমাণ করা যেতে পারে। পার্থক্যটি কেবলমাত্র দৃষ্টিকোণ: কে বর্ণনার দৈর্ঘ্য সম্পর্কে, এইচ প্রায় ... কখনও কখনও একটি অপরের চেয়ে সহজ / আরও প্রাকৃতিক হয়। Σপিআমিলগ ইন করুনপিআমি
জোশুয়া গ্রাচো

33

এই ধরণের আমার প্রিয় উদাহরণটি শিয়েরের লেমার এনট্রপি ভিত্তিক প্রমাণ। (আমি এই প্রমাণটি এবং জাইকুমার রাধাকৃষ্ণনের এনট্রপি এবং কাউন্টিং থেকে আরও বেশ কয়েকটি সুন্দর জিনিস শিখেছি ))

দাবি: ধরুন আপনি পয়েন্ট আর 3 যে এন x উপর স্বতন্ত্র অনুমান Y z- র -plane, এন ওয়াই উপর স্বতন্ত্র অনুমান এক্স z- র -plane এবং এন z- র উপর স্বতন্ত্র অনুমান এক্স Y -plane। তারপরে, n 2n x n y n znR3nxyznyxznzxyn2nxnynz

প্রুফ: n পয়েন্টগুলি থেকে এলোমেলোভাবে বেছে নেওয়া একটি বিন্দু হতে দিন । যাক পি এক্স , পি Y , পি z- র সম্মুখের তার অনুমান বোঝাতে Y z- র , এক্স z- র এবং এক্স Y যথাক্রমে প্লেন। p=(x,y,z)npxpypzyzxzxy

এক দিকে, , এইচ [ P X ] লগ এন এক্স , এইচ [ পৃ Y ] লগ ইন করুন এন ওয়াই এবং এইচ [ পৃ z- র ] লগ ইন করুন এন z- র , এনট্রপি মৌলিক বৈশিষ্ট্য দ্বারা।H[p]=logএনএইচ[পিএক্স]লগ ইন করুনএনএক্সএইচ[পিY]লগ ইন করুনএনYএইচ[পিz- র]লগ ইন করুনএনz- র

অন্যদিকে, আমাদের এবং এইচ [ পি x ] = এইচ [ y ] + এইচ [ জেড | y ] এইচ [ পি y ] = এইচ [ এক্স ] + এইচ [ জেড

H[p]=H[x]+H[y|x]+H[z|x,y]
H[px]=H[y]+H[z|y]
এইচ [ পি জেড ] = এইচ [ এক্স ] + এইচ [ ওয়াই | x ] শেষ তিনটি সমীকরণ যুক্ত করা আমাদের দেয়: এইচ [ পি x ] + এইচ [ পি ওয়াই ] + এইচ [ পি জেড ] = 2 এইচ [ এক্স ] + এইচ [ y ] + এইচ [ y | x ] + এইচ
H[py]=H[x]+H[z|x]
এইচ[পিz- র]=এইচ[এক্স]+ +এইচ[Y|এক্স]
এইচ[পিএক্স]+ +এইচ[পিY]+ +এইচ[পিz- র]= 2এইচ[এক্স]+ +এইচ[Y]+ + H[y|x]+ + এইচ [ জেড | y ] 2 এইচ [ এক্স ] + 2 এইচ [ y | x ] + 2 এইচ [ জেড | x , y ] = 2 এইচ [ পি ] , যেখানে আমরা এই সত্যটি ব্যবহার করেছি যে কন্ডিশনার এনট্রপি হ্রাস করে (সাধারণভাবে, এইচ [ ] এইচ [ a | বি ]H[z|x] +H[z|y] 2H[x]+2H[y|x]+2H[z|x,y]= 2H[p]H[a]H[a|b]যেকোন র্যান্ডম ভেরিয়েবলের জন্য )।a,b

সুতরাং, আমাদের কাছে , বা n 2n x n y n z রয়েছে2lognlognx+logny+lognzn2nxnynz- র


6
এহুদ ফ্রেডগুটের 'হাইপারগ্রাফিকস, এন্ট্রপি এবং ইনকয়ালিটিস' পরীক্ষা করার জন্য সম্পর্কিত একটি কাগজ। এটি দেখায় যে কীভাবে একটি এনট্রপি দৃষ্টিভঙ্গি, বিশেষত একটি জেনারেলাইজড শিয়েরের লেমা, সহজেই অনেকগুলি মানক অসমতা এবং কিছু অমানুষিক, জটিল-চেহারার বিষয়গুলি পুনরুদ্ধার করতে পারে। আমি মনে করি এটি একটি আলোকিত দৃষ্টিকোণ দেয়। লিঙ্ক: ma.huji.ac.il/~ehudf/docs/KKLBKKKL.pdf
অ্যান্ডি

26

রাধাকৃষ্ণান এর এনট্রপি প্রমাণ Bregman উপপাদ্য, যে নিখুঁত matchings সংখ্যা একটি দ্বিপাক্ষিক গ্রাফে ( এল আর , ) সবচেয়ে হয় Π বনাম এল ( ( বনাম ) ! ) 1 /( বনাম ) । প্রমাণ দুটি খুব চালাক ধারণা ব্যবহার করে। প্রমাণের স্কেচ এখানে দেওয়া হল:p(LR,E)vL(d(v)!)1/d(v)

  • সমানভাবে একটি নিখুঁত মিলের নির্বাচন করুন । এই পরিবর্তনশীল এর এনট্রপি হয় এইচ ( এম ) = log পিMH(M)=logp
  • জন্য যাক এক্স বনাম মধ্যে প্রান্তবিন্দু হতে আর যে সঙ্গে মিলেছে হয় বনাম মধ্যে এমvLXvRvM
  • ভেরিয়েবল এর এম হিসাবে একই তথ্য রয়েছে , তাই এইচ ( এম ) = এইচ ( এক্স )X=(Xv:vL)MH(M)=H(X)
  • : চতুর আইডিয়া 1 এলোমেলোভাবে (এবং অবিশেষে) একটি আদেশ নির্বাচন করে উপর এল , রাধাকৃষ্ণন একটি "এলোমেলোভাবে শৃঙ্খল রুল" চিঠিতে উপলব্ধ এইচ ( এক্স ) = Σ বনাম এল এইচ ( এক্স বনাম | এক্স তোমার দর্শন লগ করা : U < বনাম , )LH(X)=vLH(Xv|Xu:u<v,)
  • কন্ডিশনের তথ্য থেকে ( ) আমরা N v = | নির্ধারণ করতে পারি এন ( ভি ) এক্স ইউ : ইউ < ভি | (মোটামুটি: v এর সাথে মিলে যাওয়ার জন্য পছন্দগুলির সংখ্যা )।Xu:u<v,Nv=|N(v)Xu:u<v|v
  • যেহেতু এই তথ্য থেকে নির্ধারিত হয়েছে, শর্তাধীন এনট্রপিটি সমতার পরিবর্তিত হয় না H ( X v | X u : u < v , ) = H ( X v | X u : u < v , , N v) )NvH(Xv|Xu:u<v,)=H(Xv|Xu:u<v,,Nv)
  • চতুর আইডিয়া 2: তথ্যটি "ভুলে" , আমরা কেবল এনট্রপি বাড়াতে পারি: এইচ ( এক্স ভি | এক্স ইউ : ইউ < ভি , , এন ভি ) এইচ ( এক্স ভি | এন) v )Xu:u<v,H(Xv|Xu:u<v,,Nv)H(Xv|Nv)
  • ক্রেজি ফ্যাক্ট: ভেরিয়েবল সমানভাবে সেট 1 , , ডি ( ভি ) এ বিতরণ করা হয়েছে ।Nv1,,d(v)
  • এখন, এনট্রপি গণনা করার জন্য , আমরা এন ভি এর সমস্ত মানকে সংযুক্ত করব : এইচ ( এক্স ভি | এন ভি ) = ডি ( ভি ) i = 1 1H(Xv|Nv)NvH(Xv|Nv)=i=1d(v)1d(v)H(Xv|Nv=i)1d(v)i=1d(v)logi=log((d(v)!)1/d(v)).
  • ফলস্বরূপ সমস্ত অসমতা একসাথে একত্রিত করে এবং ক্ষয়কারীকে গ্রহণ করে।

এই বৈষম্য সাধারণীকরণ কানের-Lovász উপপাদ্য হল: কোন গ্রাফে নিখুঁত matchings সংখ্যা সর্বাধিক হয় Π বনাম ভী ( জি ) ( ( বনাম ) ! ) 1 / 2 ( বনাম ) । এই ফলাফলের একটি এনট্রপি প্রমাণ ক্যাটলার এবং র‌্যাডক্লিফ দ্বারা প্রমাণিত হয়েছিল ।GvV(G)(d(v)!)1/2d(v)


1
দুর্দান্ত উদাহরণ! একটি ছোট বিন্দু: আপনি যখন অনুমান করেন , আপনি সম্ভবত কেবল বলতে পারেন যে এইচ ( এক্স ভিএন ভি = i ) লগ আই দ্বারা উপরের সীমাবদ্ধ । H(XvNv)H(XvNv=i)logi
শ্রীকান্ত

আপনি একেবারে সঠিক এবং আমি একটি অসমতা ব্যবহার করার জন্য উত্তর সম্পাদনা করেছি।
ডেরিক স্টোলি

20

সম্মিলনীয় তত্ত্বে পিপ্পেঞ্জার একটি তথ্য-তাত্ত্বিক পদ্ধতি দ্বারা দুটি কাগজে খুব সুন্দর উদাহরণ রয়েছে। জে ঝুঁটি থিওরি, সের। একটি 23 (1): 99-104 (1977) এবং এন্ট্রপি এবং বুলিয়ান ফাংশনগুলির গণনা। তথ্য থিয়োরির আইইইই লেনদেন 45 (6): 2096-2100 (1999)। প্রকৃতপক্ষে, পিপ্পেঞ্জারের বেশ কয়েকটি কাগজপত্রে এনট্রপি / পারস্পরিক তথ্যের মাধ্যমে সংযুক্ত তথ্যগুলির সুন্দর প্রমাণ রয়েছে। এছাড়াও, দুটি বই: জুকনা, কম্পিউটার সায়েন্সে অ্যাপ্লিকেশন উইথ এক্সট্রিমাল কম্বিনেটেরিক্স এবং অ্যাগনার, সম্মিলিত অনুসন্ধানের কয়েকটি চমৎকার উদাহরণ রয়েছে। আমি দুটি পেডিকেও পছন্দ করি মাদিমান এট আল। অ্যাডটিভ কম্বিনেটেরিক্সে তথ্য-তাত্ত্বিক বৈষম্য এবং টেরেন্স টাও, এন্ট্রপি সমষ্টি হিসাব (আপনি সেগুলি গুগল স্কলারের সাথে খুঁজে পেতে পারেন)। আশা করি এটা সাহায্য করবে.


দুর্দান্ত পড়া তালিকার মতো মনে হচ্ছে!
ডানা মোশকোভিৎজ

17

আরেকটি বড় উদাহরণ টেরি তাও কারো নির্দেশ চলে না Szemerédi গ্রাফ নিয়মানুবর্তিতা থিম এর বিকল্প প্রমাণ । তিনি নিয়মিততা লেমার একটি শক্তিশালী সংস্করণ প্রমাণ করার জন্য একটি তথ্য-তাত্ত্বিক দৃষ্টিভঙ্গি ব্যবহার করেন, যা হাইপারগ্রাফের জন্য নিয়মিততা লেমা তার প্রমাণে অত্যন্ত কার্যকর বলে প্রমাণিত হয় । টাও-র প্রমাণ হ'ল হাইপারগ্রাফিক নিয়মিততা লেমার সবচেয়ে সংক্ষিপ্ত প্রমাণ।

আমাকে এই তথ্য-তাত্ত্বিক দৃষ্টিকোণটি খুব উচ্চ স্তরে ব্যাখ্যা করার চেষ্টা করি।

ধরা যাক আপনার দুটি দ্বিখণ্ডিত সেট ভি ভি 1 এবং ভি 2 এবং প্রান্ত সেট ই সহ ভি 1 × ভি 2 এর উপসেট রয়েছে দ্বিদলীয় গ্রাফ । প্রান্ত ঘনত্ব জি হয় ρ = | E | / | ভি 1 | | ভি 2 | । বলতে জি হয় ε -regular যদি সবার জন্য 1ভী 1 এবং ইউ 2ভী 2GV1V2V1×V2Gρ=|E|/|V1||V2|GϵU1V1U2V2, Subgraph দ্বারা প্রবর্তিত প্রান্ত ঘনত্ব এবং ইউ 2 হয় ρ ± ε | 1 | | 2 | / | ভি 1 | | ভি 2 | U1U2ρ±ϵ|U1||U2|/|V1||V2|

এখন, একটি প্রান্তবিন্দু নির্বাচন করার বিষয়ে বিবেচনা থেকে ভী 1 এবং একটি প্রান্তবিন্দু এক্স 2 থেকে ভী 2 এলোমেলোভাবে, স্বাধীন ও অবিশেষে। তাহলে ε ছোট এবং ইউ 1 , ইউ 2 বৃহৎ, আমরা ব্যাখ্যা করতে পারেন ε এর -regularity জি যে কন্ডিশনার বলে এক্স 1 হতে ইউ 1 এবং এক্স 2 হতে ইউ 2 অনেক সম্ভাবনা প্রভাবিত করে না যে ( এক্স 1 , এক্স 2x1V1x2V2ϵU1,U2ϵGx1U1x2U2জি তে একটি প্রান্ত গঠন করে। অন্য কথায়, হওয়ার পরও যে তথ্য দেওয়া হয় x 1 হয় ইউ 1 এবং এক্স 2 রয়েছে ইউ 2 , আমরা কিনা অনেক তথ্য অর্জিত নি ( এক্স 1 , x এর 2 ) একটি প্রান্ত বা না।(x1,x2)Gx1U1x2U2(x1,x2)

Smemeredi নিয়মিততা lemma (অনানুষ্ঠানিকভাবে) গ্যারান্টি দেয় যে যে কোনও গ্রাফের জন্য, কেউ একটি পার্টিশন এবং ধ্রুবক ঘনত্বের সাবটাইটে ভি 2 এর একটি পার্টিশন খুঁজে পেতে পারে যেমন সাব 2 এর সাবটাইটস U 1V 1 , U 2V এর জন্য 2 , উপর প্রবর্তিত subgraph ইউ 1 × ইউ 2 হয় ε -regular। উপরোক্ত ব্যাখ্যাটি দেওয়া, যে কোনও দুটি উচ্চ-এনট্রপি ভেরিয়েবল x 1 এবং x 2 দেওয়া হয়েছে এবং কোনও ইভেন্ট E ( x দেওয়া হয়েছে)V1V2U1V1,U2V2U1×U2ϵx1x2 , নিম্ন-এনট্রপি ভেরিয়েবলগুলি ইউ 1 ( x 1 ) এবং ইউ 2 ( এক্স 2 ) - "লো-এনট্রপি" খুঁজে পাওয়া সম্ভব কারণ ইউ 1 এবং ইউ 2 উপগ্রহগুলিস্থির ঘনত্বের - যেমন যেx 1 | এর থেকে প্রায় স্বাধীন ইউ 1 এবং এক্স 2 | 2E(x1,x2)U1(x1)U2(x2)U1U2Ex1|U1x2|U2বা ভেরিয়েবলের মধ্যে পারস্পরিক তথ্য খুব সামান্য। টাও এই সেটআপটি ব্যবহার করে নিয়মিততা লেমার আরও শক্তিশালী সংস্করণ তৈরি করে। উদাহরণস্বরূপ, তার প্রয়োজন নেই যে এবং x 2 স্বতন্ত্র ভেরিয়েবল (যদিও এখনও এই সাধারণীকরণের প্রয়োগ হয়নি, যতদূর আমি জানি)। x1x2


15

মূলত এই প্রশ্নের জন্য নিবেদিত একটি সম্পূর্ণ কোর্স রয়েছে:

https://catalyst.uw.edu/workspace/anuprao/15415/86751

কোর্স এখনও চলছে। সুতরাং এই লিখিত হিসাবে সমস্ত নোট উপলব্ধ হয় না। এছাড়াও, কোর্সের কয়েকটি উদাহরণ ইতিমধ্যে উল্লেখ করা হয়েছিল।


3
চমৎকার পয়েন্টার: দুর্দান্ত ক্লাসের মতো দেখাচ্ছে।
সুরেশ ভেঙ্কট

1
আমি যতদূর বলতে পারি, এই অফারটি অর্ধেকটি কোর্স, এমন কয়েকটি নোট রয়েছে যা আমার প্রশ্নের উত্তরের উত্তর দেয় এবং অর্ধ সেমিনারে, যোগাযোগের নিম্ন সীমানা, এক্সট্র্যাক্টর, সমান্তরাল পুনরাবৃত্তি ইত্যাদির মতো উদাহরণগুলি আবৃত করে, যার জন্য কেবল আরও অনেক কিছু প্রয়োজন তথ্য তত্ত্ব (এখানে কোনও নোট নেই, কেবলমাত্র মূল কাগজগুলির লিঙ্কগুলি)।
ডানা মোশকোভিৎজ

7

মনে করুন আমাদের d 2 তে পয়েন্ট রয়েছে এবং একটি মাত্রা হ্রাস করতে চাই। আমরা pairwise দূরত্বের সর্বাধিক দ্বারা পরিবর্তন চান 1 ± ε , তাহলে আমরা আমাদের মাত্রা থেকে কমে যায় করার হে ( লগ ইন করুন এন / ε 2 ) । এটি হলেন জনসন-লিন্ডেনস্ট্রাস লেমমা । এক দশক ধরে একটি মাত্রার জন্য সর্বাধিক পরিচিত নিম্ন আবদ্ধ ছিল Ω ( লগ এন / ( ϵ 2 লগ ( 1 / ϵ ) ) )n2d1±ϵdO(logn/ϵ2)Ω(logn/(ϵ2log(1/ϵ)))অ্যালন দ্বারা, সুতরাং আকার ব্যবধান ছিল । সম্প্রতি, জয়রাম এবং উড্রুফ এই ব্যবধানটি বন্ধ করে দিয়েছিলেন এলনের নিম্ন সীমানা উন্নতি করে। তাদের প্রমাণ সবে জ্যামিতিক কাঠামোর উপর নির্ভর করে। তারা কী করে তা প্রমাণ করে যে যদি আরও ভাল বাঁধাই সম্ভব হয় তবে এটি একটি নির্দিষ্ট যোগাযোগের জটিলতা নিম্ন সীমানাকে লঙ্ঘন করবে। এবং এই সীমাবদ্ধ তথ্য-তাত্ত্বিক সরঞ্জাম ব্যবহার করে প্রমাণিত হয়।log(1/ϵ)


4
মেট্রিক এম্বেডিংয়ের আরেকটি উদাহরণ: রেগেভ সম্প্রতি এনট্রপি যুক্তি ব্যবহার করে এমবেড করার জন্য সেরা সীমাগুলির খুব সংক্ষিপ্ত প্রমাণ দেখিয়েছে1d
অর্ণব

এটি খুব স্বাভাবিক এবং সুন্দর বলে মনে হচ্ছে এই খাঁটি জ্যামিতিক ফলাফলগুলি টিসিএসের লোকেরা প্রমাণ করেছিল!
ilaraz

6

ডেটা স্ট্রাকচারের বিশ্বে নিম্নলিখিত বরং মৌলিক সমস্যাটি বিবেচনা করুন। আপনি আকারের একটি মহাবিশ্ব আছে । আপনি একটি উপাদান সঞ্চয় করতে চান U [ মি ] , একটি স্ট্যাটিক ডাটা স্ট্রাকচার যাতে একজন ব্যবহারকারী জানতে চায় যখন যদি কিছু এক্স [ মি ] কিনা এক্স = U , শুধুমাত্র টি ডাটা স্ট্রাকচার মধ্যে বিট প্রোব প্রয়োজন হয়, যেখানে টি কিছু স্থির ধ্রুবক। লক্ষ্যটি হ'ল ডেটা স্ট্রাকচারের স্পেস জটিলতা হ্রাস করা (সঞ্চিত বিটের সংখ্যা অনুসারে)।mu[m]x[m]x=utt

আকারের মতো একটি ডেটা স্ট্রাকচার তৈরি করা যায় । ধারণাটি সহজ। ভাগ লগ মি বিট বর্ণনা করা প্রয়োজন U মধ্যে টি ব্লক। প্রত্যেকের জন্য আমি [ T ] এবং দৈর্ঘ্য প্রতিটি সম্ভাব্য bistring জন্য ( লগ ইন করুন মিটার ) / T , কিনা ডাটা স্ট্রাকচার সঞ্চয় আমি তম ব্লক ' U যে bitstring সমান।O(m1/t)logmuti[t](logm)/tiu

এখন, নিম্ন সীমা জন্য। যাক একটি উপাদান অবিশেষে থেকে এলোমেলোভাবে নির্বাচন করা যেতে [ মি ] । পরিষ্কারভাবে, এইচ [ এক্স ] = লগ মি । তাহলে এক্স 1 , ... , এক্স টি হয় T যে ক্রমানুসারে ডাটা স্ট্রাকচার মধ্যে তদন্ত (সম্ভবত adaptively) বিট, তারপর: এইচ [ এক্স ] = এইচ [ এক্স 1 ] + + এইচ [ এক্স 2 | এক্স 1 ] + + এইচX[m]H[X]=logmX1,,Xtt , যেখানে গুলি ডাটা স্ট্রাকচার মাপ। এটি দেয়: s m 1 / tH[X]=H[X1]+H[X2|X1]++H[Xt|X1,,Xt1]tlogsssm1/t

আমরা দুটি উপাদান এবং সঞ্চয় করতে চাইলে আঁটসাঁট সীমাটি জানা যায় না । এই দিকের সেরা ফলাফলের জন্য এখানে দেখুন ।t>1



3

জিয়াং, লি, ভিটানাইয়ের কোলমোগোরভ জটিলতা ব্যবহার করে অ্যালগরিদমের গড়-কেস বিশ্লেষণ

'অ্যালগরিদমগুলির গড়-কেস জটিলতার বিশ্লেষণ করা কম্পিউটার বিজ্ঞানের একটি খুব ব্যবহারিক তবে খুব কঠিন সমস্যা। বিগত কয়েক বছরে আমরা প্রমাণ করে দিয়েছি যে অ্যালগরিদমের গড়-কেস জটিলতা বিশ্লেষণের জন্য কলমোগোরভ জটিলতা একটি গুরুত্বপূর্ণ সরঞ্জাম। আমরা সংকোচনের পদ্ধতিটি তৈরি করেছি []]। এই কাগজটিতে আমরা এ জাতীয় পদ্ধতির শক্তি এবং সরলতা আরও প্রদর্শন করতে কয়েকটি সহজ উদাহরণ ব্যবহার করি। অনুক্রমিক বা সমান্তরাল কুইউয়াসোর্ট বা স্ট্যাকসোর্টকে বাছাই করার জন্য প্রয়োজনীয় স্ট্যাকের (সারি) সংখ্যার গড় সীমাটি আমরা প্রমাণ করি ''

এছাড়াও উদাঃ দেখুন Kolmogorov জটিলতা এবং Heilbronn ধরনের একটি ত্রিভুজ সমস্যা


3

স্কট অ্যারনসন স্যাম্পলিং এবং অনুসন্ধানের সমতুল্য । এখানে তিনি প্রসারিত চার্চ-টিউরিং থিসিসের বৈধতার ক্ষেত্রে জটিলতার তত্ত্বের নমুনা ও অনুসন্ধানের সমস্যার সমতা দেখান। স্ট্যান্ডার্ড ইনফরমেশন থিওরি, অ্যালগরিদমিক ইনফরমেশন থিওরি এবং কোলমোগোরভ জটিলতা মৌলিক উপায়ে ব্যবহৃত হয়।

তিনি জোর দিয়েছিলেন:
" আসুন আমরা জোর দিয়ে থাকি যে আমরা কলমোগোরভ জটিলতাটিকে কেবল একটি প্রযুক্তিগত সুবিধার্থ হিসাবে বা একটি গণনা যুক্তির জন্য শর্টহ্যান্ড হিসাবে ব্যবহার করছি না। পরিবর্তে, কোলমোগোরভ জটিলতা এমনকি অনুসন্ধান সমস্যার সংজ্ঞা দেওয়ার জন্যও প্রয়োজনীয় বলে মনে হচ্ছে .. "


0

এই এক এর সহজ এবং এছাড়াও একটি পড়তা: 10 কত সমন্বয় 6 10 জিনিষ 9 , সদৃশ যার ফলে? সঠিক সূত্রটি হ'ল

এন = (10 6 + 10 9 )! / (10 6 ! 10 9 !) ~ = 2 11409189.141937481

তবে কল্পনা করুন যে এক বিলিয়ন বালতির সারি ধরে চলার নির্দেশনা দিয়েছি, সেই পথে বালতিগুলিতে এক মিলিয়ন মার্বেল ফেলে রেখেছি। পরবর্তী বালতি "নির্দেশাবলী এবং 10 6 " একটি মার্বেল ড্রপ "নির্দেশাবলী ~ 10 9 " হবে । মোট তথ্য

লগ 2 (এন) ~ = -10 6 লগ 2 (10 6 / (10 6 + 10 9 )) - 10 9 লগ 2 (10 9 / (10 6 + 10 9 )) ~ = 11409200.432742426

যা একটি মজার, তবে আনুমানিক (লগ) গণনা করার খুব ভাল উপায়। আমি এটি পছন্দ করি কারণ এটি আমি কাজবিনেটিকগুলি কীভাবে করতে পারি তা ভুলে গেলে এটি কাজ করে। এটা বলার সমতুল্য

(ক + খ)! / এ! B ইংরেজী বর্ণমালার দ্বিতীয় অক্ষর! ~ = (একটি + খ) (ক + + খ) / একটি একটি

যা স্ট্রিলিংয়ের সান্নিধ্য ব্যবহার, বাতিল করা এবং কিছু হারিয়ে যাওয়ার মতো।


2
আপনি যদি নির্দিষ্ট সংখ্যার চেয়ে সাধারণ সীমাবদ্ধ করেন তবে এটি আরও পঠনযোগ্য। আমি মনে করি আপনি একটি হামিং বলের ভলিউমের এনট্রপি ভিত্তিক আনুমানিকতার কথা বলছেন।
সাশো নিকোলভ

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.