পলিনোমিয়াল সময়ে গড় অনুমান করা

Question

আসুন $f \colon \lbrace 0,1 \rbrace ^ n \to (2^{-n},1]$ একটি ফাংশন হোক। আমরা গড়ের গড় অনুমান করতে চাই ; যা: ।E [ f ( n ) ] = 2 - n ∑ x ∈ { 0 , 1 } n f ( x $f$$\mathbb{E}[f(n)]=2^{-n}\sum_{x\in \lbrace 0,1 \rbrace ^ n}f(x)$

NOTE: In the OP, the range of f was [0,1]. I changed this a bit for technical reasons. (This should simplify the problem; if not, forget it!)

যাক (এলোমেলোভাবে) মূল্নির্ধারক অ্যালগরিদম হও। অনুমান কালো বাক্স অ্যাক্সেস আছে । আমরা এই বোঝাতে ।E f E $E$$E$$f$$E^f$

দুটি শর্ত রয়েছে:

1) অনুমানের চলমান সময়: এখানে একটি একক বহুপদী রয়েছে যা সমস্ত এবং সমস্ত এর জন্য E f ( 1 n ) এর চলমান সময়টিকে পি ( এন ) দ্বারা আবদ্ধ করা হয়n $p(\cdot)$$n$$f$$E^f(1^n)$$\frac{p(n)}{\mathbb{E}[f(n)]}$ ।

2) আত্মবিশ্বাসের সঙ্গে মূল্নির্ধারক এর স্পষ্টতা $\delta$ : একটি একক বহুপদী বিদ্যমান $q(\cdot)$ , এইরূপ যে $n$ এবং সব $f$ , আমরা ${1 \over {q(n)}} < \frac{E^f(1^n)}{\mathbb{E}[f(n)]} < q(n)$সম্ভাব্যতা সঙ্গে অন্তত$\delta$।

NOTE: The confidence δ was not in the OP. The parameter δ is in (0,1), and may depend on n. For instance, it may be 1-1/2^n.

এ জাতীয় অনুমানকারী কি বিদ্যমান?

পটভূমি এবং প্রেরণা

আমি শুরুতে আমার অনুপ্রেরণার কথা উল্লেখ করিনি কারণ এর জন্য ব্যাকগ্রাউন্ড জ্ঞান দরকার। যাইহোক, উত্সাহীদের জন্য, আমি এটি সংক্ষিপ্তভাবে বর্ণনা করছি: নিম্নলিখিত অনুচ্ছেদে সংজ্ঞায়িত হিসাবে "যোগ্যতার প্রুফ" প্রসঙ্গে এই জাতীয় অনুমানকারীগুলির প্রয়োজনীয়তা দেখা দেয়:

মিহির বেল্লারে, ওপেড গোল্ডরিচ। গণনার দক্ষতা প্রমাণ করা , 1992. অপ্রকাশিত পাণ্ডুলিপি।

বিশেষ করে, পৃষ্ঠা 5 এর নীচে, লেখক পরোক্ষভাবে যেমন estimators অস্তিত্ব অধিকৃত (আছে স্পষ্টতা কোনো উল্লেখ আছে, এবং চলমান সময় অবিকল সংজ্ঞায়িত করা হয় না;। এখনো প্রসঙ্গ পরিষ্কারভাবে সবকিছু সংজ্ঞায়িত)

আমার প্রথম প্রয়াস ছিল " স্যাম্পলারের একটি নমুনা --- নমুনা সম্পর্কে একটি গণনার পরিপ্রেক্ষিত " পড়ার । এটি একটি খুব অনুরূপ সমস্যার সাথে সম্পর্কিত, তবুও ত্রুটিযুক্ত সম্ভাবনার সংজ্ঞাটি সংযোজক, যখন আমাদের গুণক। (আমি কাগজটি পুরোপুরি পড়িনি, সম্ভবত এতে আমার কোথাও কী প্রয়োজন তা উল্লেখ করা হয়েছে))

সম্পাদনা (শ্যুওশির অনুরোধ অনুসারে): বাস্তবে, "গণনার ক্ষমতার প্রুফ" সংজ্ঞাটির জন্য একটি "জ্ঞান নিষ্কর্ষক" এর অস্তিত্ব প্রয়োজন যাঁর (প্রত্যাশিত) চলমান সময় । যেহেতু আমরাই[চ(এন)]জানি না, তাই আমরা এটি অনুমান করতে চাই; তবুও এটি চলমান সময়কে যথেষ্ট পরিবর্তন করতে হবে না: এটি এটিকে বহুপদী ফ্যাক্টারে পরিবর্তন করা উচিত। নির্ভুল শর্ত এই জাতীয় প্রয়োজনীয়তা ক্যাপচার চেষ্টা করে।$p(n) \over E[f(n)]$$E[f(n)]$

Comments

আমি যথাযথ অবস্থা বুঝতে পারি না। সর্বদা 1 আউটপুটিং থেকে অ্যালগরিদম E কে বাধা দেয়? আপনার অর্থ কি 1 / কিউ (এন) <(সত্য মান) / (আনুমানিক মান) <q (এন)?

— Tsuyoshi Ito

দেখে মনে হচ্ছে p (n) = q (n) = O (1) এবং তুচ্ছ আলগোরিদিম যা "1" এর ফলাফলকে কাজ করে। এটি চলমান সময় হল (1), যা পি ( এন ) দ্বারা আবদ্ধ$E^f(1^n)$ । এবং এর যথার্থতা <= 1, যা q (n) এর চেয়ে কম। $\frac{p(n)}{\mathbb{E}[f(n)]}$

— রবিন কোঠারি 16

@ স্যুওশি ও রবিন: দুঃখিত ফেলাস, আমি নির্ভুল অবস্থায় একটি শর্ত মিস করেছি। এটাকে এখুনি দেখো!

— এমএস দৌস্তি

এছাড়াও, আমি অনুমান করি যে অনুমানকারীটি এলোমেলোভাবে তৈরি হয়েছে (কেবল এটি অন্যথায় অসম্ভব বলে মনে হচ্ছে বলে)। এই ঘটনা কি? এছাড়াও, যদি এটি হয় তবে রানিং-টাইম শর্ত এবং যথাযথ শর্তটির ঠিক কী প্রয়োজন?

— Tsuyoshi Ito

আমি মনে করি আমি প্রশ্নটি পরিষ্কারভাবে বুঝতে পারি না। চেরনফের সাথে আবদ্ধ একটি নিষ্পাপ নমুনা কেন ভাল অনুমানকারী নয়?

— সিলভাইন পিরননেট

Answer 1

সম্পাদনা: এটি সমস্যার সংস্করণ সমাধান করে যেখানে চ কেবলমাত্র 0 বা 1 আউটপুট দেয় তবে আমি মনে করি সমাধানটিকে আরও সাধারণ ক্ষেত্রে কাজ করার জন্য মানিয়ে নেওয়া যেতে পারে।

হয়তো আমি প্রশ্নটি ভুল বুঝেছি, তবে এটি খুব কঠিন দেখাচ্ছে না।

গড় অনুমানের পরিবর্তে, আসুন 1s সংখ্যাটি অনুমানের কথা ভাবি, এবং সেই নম্বরকে কল করুন। যাক । সুতরাং গড় কে / এন হয়। আপনি সময় O (N পলিয়লোগ (এন) / কে) এর বহুবচন গুণক গুণকের মধ্যে এটি অনুমান করতে চান।$N = 2^n$

আমি মনে করি এটি যে কোনও ধ্রুবক গুণকের মধ্যেও করা যেতে পারে। উদাহরণস্বরূপ, আপনি 2. একটি গুণক মধ্যে এই অনুমান করার জন্য তাই আউটপুট চান বলা যাক আলগোরিদিম K / 2 এবং 2k এর মধ্যে হতে হবে।$k'$

আমি একটি অ্যালগরিদম স্কেচ করব, যার উপযুক্ত চলমান সময় থাকা উচিত। প্রথমে পরীক্ষা করুন যে কে এন / 2 এবং এন এর মধ্যে রয়েছে This এটি সহজ, কেবল কয়েকটি এলোমেলো মানের নমুনা নিন এবং আপনি যদি অর্ধ 1s এর বেশি পান তবে এটি এই ব্যবধানে। সুতরাং আপনার কাছে একটি 2-আনুমানিকতা আছে। যদি তা না হয় তবে এটি N / 4 এবং N / 2 এর মধ্যে কিনা তা পরীক্ষা করে দেখুন। ইত্যাদি। প্রতিবার আপনি যখন বিরতি ছোট করেন, অনুমান করা আরও ব্যয়বহুল যে k এর মধ্যে রয়েছে in তবে ব্যয়টি অন্তরগতভাবে আনুপাতিকভাবে আনুপাতিকভাবে কতটা অন্তর অন্তর।

উদাহরণস্বরূপ, আপনি যদি পরীক্ষা করছেন যে কে এবং 2 এন / 2 কিউর মধ্যে রয়েছে , তবে আপনাকে ও ( 2 কিউ ) ক্যোয়ারী তৈরি করতে হবে। যাইহোক, যথেষ্ট পরিমাণে এই পদ্ধতিটি পুনরাবৃত্তি করার পরে, আপনার যে বিরতিতে কে রয়েছে তার ব্যবধানটি পাওয়া উচিত। বলুন কে এন / 2 কিউ এবং 2 এন / 2 কিউ এর মধ্যে রয়েছে । তারপরে কে আনুমানিক এন / 2 কিউ । সুতরাং 2 $N/2^q$$2N/2^q$$O(2^q)$$N/2^q$$2N/2^q$$N/2^q$$2^q$কে / এন সম্পর্কে। সুতরাং এই পদক্ষেপে আমরা ও (কে / এন) অনুসন্ধানগুলি ব্যয় করব। তবে এই পদক্ষেপে উঠতে q টি অন্যান্য পদক্ষেপের দরকার পড়ে তবে এটি কেবল একটি অতিরিক্ত পল্লগ (এন) ফ্যাক্টর। সুতরাং সামগ্রিক চলমান সময়টি হ'ল (এন পল্লগ (এন) / কে), 2-আনুমানিকের জন্য।

(প্রতিটি পদক্ষেপে যথাযথ নির্ভুলতা পেতে একজনকে আসলে ত্রুটি প্রশস্তকরণ করতে হবে But তবে এটি কেবল একটি অতিরিক্ত পললগ ফ্যাক্টর))

---

এই বেশ কয়েকটি পর্যায়ের প্রক্রিয়াতে আমি এটির ভাবতে চাইার কারণ হ'ল এটি প্রক্রিয়াটিকে অনুমান এবং পরীক্ষার পূর্বরূপ হিসাবে তুলে ধরে। যদি কেউ আপনাকে বলেছিল যে এন / 2 কিউ এবং 2 এন / 2 কিউর মধ্যে রয়েছে , তবে আপনি প্রতিশ্রুতিবদ্ধ সময়সীমার মধ্যে এই সত্যটি জেনে আরও ভাল নির্ভুলতার জন্য অনুমান করতে পারবেন। সুতরাং আমাদের কে কে অনুমান করার পদক্ষেপটি অপসারণ করতে হবে । এটি সেই ধরণের সমস্ত সম্ভাব্য অন্তরগুলিতে বাইনারি অনুসন্ধান করে করা হয়।$k$$N/2^q$$2n/2^q$$k$

নন-বুলিয়ান আউটপুটগুলির ক্ষেত্রে এই কাজটি করার জন্য, 1 এস সংখ্যা গণনা করার পরিবর্তে, কেবলমাত্র দেখানো মানগুলি যোগ করুন। আমি এটি উল্লেখ করার চেষ্টা করব যে এটি কঠোরভাবে কাজ করে।

Comments

(1) যেহেতু ফাংশনটি অ-অবিচ্ছেদ্য মানগুলি গ্রহণ করতে পারে, আপনি সম্ভবত 1s এর সংখ্যার পরিবর্তে মানগুলির যোগফলটি ব্যবহার করতে চান। (২) আমাদের কী পর্যায়ক্রমে পর্যায় অনুমান করতে হবে? আমি অনুমান করছি যে আমরা একক পর্যায়ে এটি করতে পারি, যতক্ষণ না যোগফল একটি নির্দিষ্ট বহুবর্ষের বেশি হয় ততক্ষণ পুনরাবৃত্তি করি। প্রশ্নে আমার মন্তব্য দেখুন।

— Tsuyoshi Ito

ওহ, আমি পরিসীমাটি [0,1] হ'ল লক্ষ্য করিনি। আমি ভেবেছিলাম এটি {0,1} ছিল} তবে আমার ধারণা একই পদ্ধতি কাজ করে। আমরা যথাযথ নির্ভুলতার সাথে আউটপুট বাইনারি উপস্থাপনের একটি নির্দিষ্ট অবস্থানে 1s এর সংখ্যা "গণনা" করতে পারি বলেই সম্ভবত আমরা একটি সমস্যার অন্যটিতে হ্রাস করতে পারি। সম্পর্কে (2), আমি আপনার পদ্ধতি সমতুল্য বলে মনে করি। আমি এটি এইভাবেই ভাবি যেহেতু এটি অনুমান-চেক প্রক্রিয়াটির মতো অনুভূত হয়, যেমন, কে-এর একটি স্বল্প অনুমান দেওয়া, আরও ভাল one আমি আমার উত্তরে এটি যুক্ত করব।

— রবিন কোঠারি

আমি সম্মত যে দুটি অ্যালগরিদম মূলত একই রকম। [0,1] এবং {0,1 for হিসাবে, আপনার অ্যালগরিদম সম্ভবত মুদ্রা ফ্লিপ (1 ডাব্লুপিএফ (এক্স) এবং 0 ডব্লিউপি দ্বারা অ-অবিচ্ছেদ্য মান f (x) এর প্রতিটি মূল্যায়ন প্রতিস্থাপনের পরে বর্ণিত হিসাবে কাজ করেছে 1-চ (x))।

— Tsuyoshi Ito

@ রবিন: উত্তরের জন্য ধন্যবাদ। কিছু আমার পক্ষেও অস্পষ্ট: আপনি বলেছিলেন: "কয়েকটি র্যান্ডম মানগুলি নমুনা করুন এবং যদি আপনি অর্ধেক 1 এর বেশি পান তবে এটি এই ব্যবধানে।" আমি বিশ্বাস করি এটি অবশ্যই মাপতে হবে: কতটি নমুনার ফলাফল কোন নির্ভুলতার জন্য? (এই ধরনের আত্মবিশ্বাস বিবেচনা করার জন্য আমি ওপি পরিবর্তন করেছি

— Otherwise

@ সাদেক: এটি চেরনফের আবদ্ধ। যদি আপনি কে এন / 2 (উদাহরণস্বরূপ একটি ন্যায্য মুদ্রা) হওয়ার প্রত্যাশা করেন তবে আপনি দ্রুত এন (1 + ইপিএস) / 2 এর চেয়ে বেশি দেখতে এবং একইভাবে নীচের গণ্ডির জন্য একটি লেজ বেঁধে লিখতে পারেন।

— সুরেশ ভেঙ্কট

Answer 2

যাক মান বোঝাতে চ থেকে র্যান্ডম নমুনার অসীম অনুক্রম (প্রতিস্থাপন সঙ্গে) প্রয়োগ { 0 , 1 } এন । যাক ট অন্তত ধনাত্মক পূর্ণসংখ্যা যেমন যে হতে Σ k আমি = 1 চ আমি ≥ এম কিছু মান এম , সম্ভবত এম = P ণ ঠ Y ঠ ণ ছ ( এন ) । আমি অনুমান করব যে অনুমানকারী এম $f_1,f_2,\ldots$$f$$\{0,1\}^n$$k$$\sum_{i=1}^k f_i \ge M$$M$$M=polylog(n)$ আপনি যা চান তা পূরণ করা উচিত।$M / k$

বিশ্লেষণের জন্য আপনি দৈব চলক সরাসরি Chernoff সীমা প্রয়োগ করতে পারবেন না কিন্তু তোমাদের Chernoff যাহাই হউক না কেন ব্যবহার করার অনুমতি দিতে একটি কৌতুক আছে। যাক μ বোঝাতে অজানা প্রত্যাশা ই ( চ ) । ধ্রুবক খুঁজুন ট ঠ ণ W এবং ট জ আমি ছ জ (কার্যাবলী μ ) যাতে সম্ভাব্যতা অন্তত সঙ্গে 1 - δ আমরা আছে Σ ট ঠ ণ W আমি = 1 চ আমি < এম এবং Σ ট $k$$\mu$$E(f)$$k_{low}$$k_{high}$$\mu$$1 - \delta$$\sum_{i=1}^{k_{low}} f_i < M$। সেই অঙ্কেরচআমিগুলি Chernoff ব্যবহার বেষ্টিত করা যেতে পারে। এটি অনুসরণ করে যে কমl1-probসম্ভাব্যতার সাথেকেএলওডব্লু<কে<কেএইচআইজিএইচএবং তাই অনুমানকারীএম/কেভালভাবে কেন্দ্রীভূত।$\sum_{i=1}^{k_{high}} f_i > M$$f_i$$k_{low} < k < k_{high}$$1-\delta$$M/k$