র্যান্ডমাইজেশন কখন অ্যালগরিদমকে গতি দেয় এবং এটি "হওয়া উচিত নয়"?

Question

এডলম্যান এর প্রমাণ মধ্যে অন্তর্ভুক্ত করা হয় পি / পি ণ ঠ Y শো যদি একটি সমস্যার জন্য একটি এলোমেলোভাবে অ্যালগরিদম হয় ঐ সময়ের মধ্যে রান করে টি ( এন ) আকারের ইনপুট উপর এন , তারপর সেখানে সমস্যার জন্য একটি নির্ণায়ক আলগোরিদিম ঐ সময়ের মধ্যে রানে Θ ( T ( এন ) ⋅ এন ) আকারের ইনপুট উপর এন [আলগোরিদিমের এলোমেলোভাবে অ্যালগরিদম রান Θ ( এন $BPP$$P/poly$$t(n)$$n$$\Theta(t(n)\cdot n)$$n$$\Theta(n)$স্বাধীন র্যান্ডমনেস স্ট্রিং। বারবার অ্যালগরিদমের জন্য অবশ্যই এলোমেলোতা থাকতে হবে যা সমস্ত সম্ভাব্য ইনপুটগুলির জন্য ভাল । ডিটারমিনিস্টিক অ্যালগরিদম অ-ইউনিফর্ম - এটি বিভিন্ন ইনপুট আকারের জন্য আলাদাভাবে আচরণ করতে পারে। সুতরাং অ্যাডলম্যানের যুক্তিটি দেখায় যে - যদি কেউ অভিন্নতার বিষয়ে চিন্তা করে না - র্যান্ডমাইজেশন কেবলমাত্র একটি কারণ দ্বারা ইনপুট আকারে রৈখিক দ্বারা আলগোরিদিম গতি বাড়িয়ে তুলতে পারে।$2^n$

র্যান্ডমাইজেশন গণনা গতিবেগ (আমাদের জ্ঞানের সেরা) যেখানে কিছু কংক্রিট উদাহরণ কি?

একটি উদাহরণ বহুপদী পরিচয় পরীক্ষা। এখানে ইনপুটটি হ'ল একটি এন-আকারের পাটিগণিত সার্কিট যা ক্ষেত্রের উপরে একটি এম-ভেরিয়েট বহুপদী গণনা করছে, এবং কার্যটি বহুবর্ণটি একইরকম শূন্য কিনা তা খুঁজে বের করা। একটি এলোমেলোনাযুক্ত অ্যালগরিদম একটি এলোমেলো পয়েন্টে বহুপদী মূল্যায়ন করতে পারে, যখন আমরা জানি সেরা নির্বাহী অ্যালগরিদম অনেকগুলি পয়েন্টের উপরে বহুবর্ষের মূল্যায়ন করে।

আরেকটি উদাহরণ ন্যূনতম spanning হয় গাছ, যেখানে Karger-ক্লেইন-Tarjan সর্বোত্তম এলোমেলোভাবে অ্যালগরিদম রৈখিক সময় (এবং ত্রুটি সম্ভাব্যতা ব্যাখ্যা মূলকভাবে ছোট!), এবং Chazelle সর্বোত্তম নির্ণায়ক অ্যালগরিদম সময় রান ( α হ'ল বিপরীত অ্যাকারম্যান ফাংশন, সুতরাং এলোমেলোভাবে গতি বাড়ানো সত্যিই ছোট)। মজার বিষয় হল, পেটি এবং রামচন্দ্রন প্রমাণ করেছেন যে যদি ন্যূনতম বিস্তৃত গাছের জন্য একটি অ-ইউনিফর্ম ডিটারিমিনিস্টিক লিনিয়ার টাইম অ্যালগরিদম থাকে তবে সেখানে অভিন্ন ডিটারিস্টেমিক লিনিয়ার টাইম অ্যালগরিদমও রয়েছে।$O(m\alpha(m,n))$$\alpha$

আরও কিছু উদাহরণ কি? কোনটি উদাহরণস্বরূপ আপনি জানেন যে এলোমেলোকরণের গতি বৃদ্ধি কোথায়, তবে এটি সম্ভবত কারণ আমরা এখনও পর্যাপ্ত দক্ষ নির্বাহী অ্যালগরিদম খুঁজে পাইনি?

Comments

নিবিড়ভাবে সম্পর্কিত: পিপিতে সমস্যাগুলি পি তে জানা নেই

— usul

আপনি সর্বদা কোনও ক্রিপ্টোগ্রাফিক-মানের সিউডোর্যান্ডম জেনারেটরের সাথে এলোমেলো জেনারেটর প্রতিস্থাপন করে যেকোন র্যান্ডমাইজড অ্যালগরিদমকে একটি ডিটিমিনিস্টিক অ্যালগরিদমে রূপান্তর করতে পারেন। কলুষিত ক্রিপ্টোগ্রাফিক অনুমানের অধীনে যে আমাদের জ্ঞানের সেরাটি বৈধ, এটি দুর্দান্ত কাজ করে। অতএব, আমার উত্তরটি হবে: "আমাদের জ্ঞানের সর্বাধিক উত্তর, উত্তরটি হ'ল: এ জাতীয় বাস্তব সমস্যা আর নেই"। (অন্য কথায়, আমাদের জ্ঞানের সেরা দিক থেকে, রানটাইমের ব্যবধানটি কোনও বাস্তব অন্তর্নিহিত পার্থক্যের চেয়ে শক্ত রানটাইম সীমানা প্রমাণ করতে আমাদের অক্ষমতা প্রতিফলিত করে।)

— ডিডাব্লু

যুক্তিসঙ্গত কঠোরতা অনুমানের অধীনে আপনি সিউডোর্যান্ডম জেনারেটরের কাছ থেকে অ্যালগরিদম এলোমেলোতা খাওয়াতে পারেন তবে বাস্তবে এটি থেকে একটি ডিস্ট্রিমেন্টিক অ্যালগরিদম পেতে আপনার সমস্ত সম্ভাব্য বীজের উপর অ্যালগরিদম চালানো দরকার। এই রান রান সময় আপ!

— ডানা মোশকভিত্জ

ডানার বক্তব্য ছাড়াও, আমি মনে করি যে বিপিপিকে অবতরণ করতে পিআরজি-র মূল অ্যালগরিদমের চেয়ে বেশি সময় চালানো দরকার (যদিও ফাঁকটি কী হতে পারে তা আমি জানি না)। এছাড়াও, এটি নির্দিষ্টতা এবং তাত্পর্যপূর্ণ-উচ্চ আত্মবিশ্বাসের মধ্যে একটি (মৌলিক?) ব্যবধানটি চিত্রিত করতে পারে: যথাযথতা সম্ভাব্যতা 2 - ও ( সি ) পাওয়ার জন্য এলোমেলোনা অ্যালগরিদম বার (যে কোনও ধ্রুবক গ ) পুনরাবৃত্তি করা যথেষ্ট , তবে নির্বিচারক সংস্করণটির প্রয়োজন সমস্ত বহুবচন বহু বীজ যাচাই করতে। $c$$c$$2^{-O(c)}$

— usul

@ ডানামোশকভিত্জ, এটি নির্ভর করে আপনি এটি কোন তাত্ত্বিক দৃষ্টিকোণ বা অনুশীলনের দৃষ্টিকোণ থেকে এসেছেন কিনা। অনুশীলনকারী দৃষ্টিকোণ থেকে, না, আপনার এটি করার দরকার নেই। Cs.stackexchange.com/a/41723/755 এ আমি নির্মাণের রূপরেখা দেখুন , যা কেবল বীজের উপর অ্যালগোরিদম চালায় । এলোমেলো ওরাকল মডেলের অধীনে কেউ দেখিয়ে দিতে পারেন যে অ্যাসিম্পটোটিক রানটাইমের কোনও বৃদ্ধি নেই এবং কোনও গণ্য-সীমাবদ্ধ বিরোধীও সম্ভবত অ্যালগরিদমের কোনও ইনপুট পেতে সক্ষম হবেন না যেখানে অ্যালগরিদম ভুল উত্তর দেয়। সমস্ত ব্যবহারিক উদ্দেশ্যে এটি সম্ভবত যথেষ্ট ভাল। $O(1)$

— ডিডাব্লু

Answer 1

আমি জানি না এলোমেলোকরণের "উচিত" বা "সাহায্য করা উচিত নয়", তবে, পূর্ণসংখ্যার প্রাথমিকতা পরীক্ষাটি সময় মতো করা যেতে পারে এলোমেলোভাবে মিলার – রবিন ব্যবহার করে, যতদূর আমি জানি, সবচেয়ে পরিচিত নির্ণায়ক আলগোরিদিম হয় ~ হে ( ঢ 4 ) GRH (নির্ণায়ক মিলার-রবিন) অথবা অভিমানী ~ হে ( ঢ 6 ) নিঃশর্তভাবে (AKS রুপভেদ)।$\tilde O(n^2)$$\tilde O(n^4)$$\tilde O(n^6)$

Comments

$N$$\log N\log\log N$$\tilde O(n^3)$

অনুরূপ শিরাতে সমস্যা হ'ল সীমাবদ্ধ ক্ষেত্রগুলির উপরে বহুবচনীয় অবিশ্বাস্যতা পরীক্ষা করা, যেখানে আবার পরিচিত ডিটারমিনিস্টিক অ্যালগরিদম এলোমেলোভাবে অ্যালগরিদমের চেয়ে খারাপ সীমানা রয়েছে, তবে আমি বিশদটি মনে রাখিনা।

— এমিল জেব্যাক মনিকা

Answer 2

$1+\epsilon$

এ জাতীয় এলোমেলো কৌশলটির প্রথম উদাহরণটি ডায়ার, ফ্রিজে এবং কান্নান করেছিলেন এবং নির্জনবাদী অ্যালগরিদমগুলির কঠোরতার ফলস্বরূপ বেরিনি এবং ফ্রেডি। অ্যালিস্টায়ার সিনক্লেয়ার এর উপর চমৎকার বক্তৃতা নোট রয়েছে ।

আমি নিশ্চিত নই যে আমি প্রশ্নের "এবং এটি" হওয়া উচিত নয়, সুতরাং আমি নিশ্চিত নই যে এটি বিলটির সাথে খাপ খায়।

Comments

$[n / \log n]^n$

Answer 3

আমি জানি না যে এটি আপনার প্রশ্নের উত্তর দেয় (বা এর কমপক্ষে কিছু অংশ)। তবে বাস্তব-বিশ্বের উদাহরণগুলির জন্য যেখানে এলোমেলোভাবে গতিবেগ সরবরাহ করতে পারে তা অপ্টিমাইজেশান সমস্যা এবং নো ফ্রি লাঞ্চ ( এনএফএল ) উপপাদ্যের সাথে সম্পর্কিত ।

একটি কাগজ রয়েছে "সম্ভবত একটি নিখরচায় দুপুরের খাবার নয় তবে কমপক্ষে একটি বিনামূল্যে ক্ষুধা" যেখানে দেখানো হয়েছে যে নিয়োগের র্যান্ডমাইজেশন, (অপ্টিমাইজেশন) অ্যালগরিদমে আরও ভাল পারফরম্যান্স থাকতে পারে।

সারাংশ:

$f : X \rightarrow Y$$X$$Y$সীমাবদ্ধ সেট। এই ফলাফলটিকে বলা হয় [দ্য] ফ্রি লাঞ্চের উপপাদ্য নয়। এখানে অপ্টিমাইজেশনের বিভিন্ন দৃশ্য উপস্থাপন করা হয়েছে। যুক্তিযুক্ত যে নো ফ্রি লাঞ্চের উপপাদ্য যে দৃশ্যের উপর ভিত্তি করে বাস্তব জীবনের অপ্টিমাইজেশনের মডেল নয় কেন। আরও বাস্তবসম্মত পরিস্থিতিগুলির জন্য এটি যুক্তিযুক্ত যে কেন অনুকূলকরণের কৌশলগুলি তাদের দক্ষতায় পৃথক। একটি ছোট উদাহরণের জন্য এই দাবি প্রমাণিত হয়।

তথ্যসূত্র:

1. অপ্টিমাইজেশনের জন্য কোনও নিখরচায় মধ্যাহ্নভোজ উপপাদক ( অনুকূলকরণের জন্য মূল এনএফএল উপপাদ্য) নেই
2. সম্ভবত একটি বিনামূল্যে মধ্যাহ্নভোজ নয় তবে কমপক্ষে একটি বিনামূল্যে ক্ষুধা প্রাপ্ত
3. $F$$F$
4. কোন ফাংশনের ক্লাসে যার জন্য নিখরচায় দুপুরের খাবারের ফলাফল নেই (এটি প্রমাণিত হয় যে কাপের সাবসেটগুলির ভগ্নাংশ অবহেলিতভাবে ছোট)
5. দুটি বিস্তৃত শ্রেণীর ক্লাস যার জন্য একটি নিখরচায় মধ্যাহ্নভোজন ফলাফল রাখে না (দেখায় যে কোনও এনএফএল ফলাফল ফাংশনগুলির বর্ণনার দৈর্ঘ্য পর্যাপ্ত পরিমাণে সীমাবদ্ধ থাকে)
6. অবিচ্ছিন্ন দুপুরের খাবারগুলি নিখরচায় সর্বোত্তম অপ্টিমাইজেশন অ্যালগরিদমগুলির নকশা (দেখায় যে ধারাবাহিক ডোমেনগুলির জন্য, [অফিশিয়াল সংস্করণ] এনএফএল ধরে রাখে না free )
7. নিখরচায় দুপুরের খাবারের বাইরে: স্বেচ্ছাসেবী সমস্যা শ্রেণীর জন্য বাস্তবসম্মত অ্যালগরিদমগুলি (দেখায় যে ".. [ক] বিনামূল্যে ফ্রিঞ্চ প্রজন্মের তত্ত্বগুলির লঙ্ঘনগুলি কাপের সমস্যাগুলির ক্ষেত্রে নন-ব্লক-ইউনিফর্ম বিতরণ হিসাবে প্রকাশ করা যেতে পারে ")
8. স্বর্ম-ভিত্তিক মেটিহিউরিস্টিক অ্যালগরিদম এবং নো-ফ্রি-লাঞ্চ উপপাদ্য ("[..t]) সুতরাং, পুনর্বিবেচনার সময়-আদেশযুক্ত পুনরাবৃত্তির জন্য ফলাফলগুলি পুনর্বিবেচনার ক্ষেত্রে ক্ষেত্রে সত্য নাও হতে পারে, কারণ পুনরাবৃত্তি পুনরাবৃত্তিগুলির একটি গুরুত্বপূর্ণ অনুমানকে ভেঙে দেয় এনএফএল উপপাদ্য প্রমাণের জন্য কাপ প্রয়োজন (মার্শাল এবং হিন্টন, ২০১০) ")
9. কোনও ফ্রি লাঞ্চ এবং অ্যালগরিদমিক র্যান্ডমনেস নেই
10. কোনও ফ্রি লাঞ্চ এবং বেঞ্চমার্কস নয় (এটি একটি সেট-তাত্ত্বিক পদ্ধতি যা কাপের সাথে সুনির্দিষ্ট নয় এমন মানদণ্ডে সাধারণীকরণ করা হয় , তবে এখনও নোট করে যে (অ-তুচ্ছ) এলোমেলোনাযুক্ত অ্যালগরিদমগুলি গড়ে ডিটারনিস্টিক অ্যালগরিদমকে ছাড়িয়ে যেতে পারে, "[..] এটা প্রমাণিত হয়েছে যে সাধারণ ক্ষেত্রে অনিয়ন্ত্রিত এনএফএল ফলাফলগুলি নিশ্চিত করার পক্ষে সম্ভাবনা অপর্যাপ্ত । [..] এই কাগজটি সম্ভাব্যতা ত্যাগ করে একটি সেট-তাত্ত্বিক কাঠামোকে অগ্রাধিকার দেয় যা পুরোপুরি সম্ভাব্যতার সাথে বিতরণ করে পরিমাপ-তাত্ত্বিক সীমাবদ্ধতাগুলি অমান্য করে ")

ডেভিড এইচ। ওলপার্টের নো-ফ্রি-লাঞ্চ (এবং ফ্রি লাঞ্চ) এর সংক্ষিপ্তসার, রাতের খাবারের ব্যয় কী? ( নোট করুন যে এনএফএল-প্রকারের উপপাদ্যগুলি তাদের প্রমানের প্রকারের কারণে কখনও আসল " দাম " নির্দিষ্ট করে না )

সাধারণীকরণযোগ্য অপ্টিমাইজেশনের (জিও) জন্য নির্দিষ্টকরণ:

1. $X$$Z$$X$$Z$

2. $f: X \to Z$

3. $m$$f$

   $$d_m = \{d_m(1), d_m(2), ..., d_m(m)\}$$ $\forall t$ $$d_m(t) =\{d^X_m(t),d^Z_m(t)\}$$ $d^Z_m(t)$$f[d^X_m(t)]$

4. $a = \{d_t \to d^X_m(t) : t=0..m\}$

5. $C(f, d_m)$

6. $C(., .)$

$C$$f$$C$$f$$C$$(f, d_m)$$f = f^*$

অবশেষে একটি সহজ (এবং একটি অত সহজ নয়) মন্তব্য কেন র্যান্ডমাইজেশন (এক রূপে বা অন্য কোনও রূপে) কঠোরভাবে ডিস্ট্রিমেন্টিক অ্যালগরিদমগুলির তুলনায় উচ্চতর কর্মক্ষমতা সরবরাহ করতে পারে।

1. অপ্টিমাইজেশনের প্রসঙ্গে (যদিও এতে সীমাবদ্ধ নয়), এলোমেলো অনুসন্ধানের পদ্ধতিটি গড়পড়তা থেকে স্থানীয়-চূড়ান্তভাবে নির্বিচার অনুসন্ধানের চেয়ে ভালভাবে পালাতে পারে এবং বৈশ্বিক-এক্সট্রিমায় পৌঁছতে পারে।
2. $2^A$$A$$A$$A$$A$

Answer 4

সেরা উদাহরণটি বর্তমানে ওডাব্লুএফের জন্য সেরা প্রার্থী হিসাবে বিবেচিত যেখানে যেখানে আশ্চর্যরূপে রান্না করা প্রতিটি জনপ্রিয় ওডাব্লুএফের মনে হয় এলোমেলোভাবে সাব-এক্সফোনশিয়াল অ্যালগরিদম রয়েছে যখন কোনও ডিস্ট্রিমেন্টিক সাব-এক্সফোনশিয়াল অ্যালগরিদম নেই (উদাহরণস্বরূপ পূর্ণসংখ্যার অখণ্ডকরণ গ্রহণ করুন)। আসলে, বেশিরভাগ ক্ষেত্রে, সম্ভবত কিছু পরামর্শের স্ট্রিং (ক্রিপটোয়ানালাইসিস) দেওয়া দক্ষ অ্যালগরিদম রয়েছে।

Answer 5

র্যান্ডমাইজেশন ব্যবহার করে যদি আপনার কাছে অ্যালগরিদম থাকে তবে আপনি সর্বদা সিউডো-এলোমেলো সংখ্যার সাহায্যে এটি একটি ডিস্ট্রিমেন্টিক অ্যালগরিদম দিয়ে প্রতিস্থাপন করতে পারেন: সমস্যার বর্ণনাটি ধরুন, একটি হ্যাশ কোড গণনা করুন, সেই হ্যাশ কোডটি একটি ভাল ছদ্ম-এলোমেলো সংখ্যার জেনারেটরের জন্য বীজ হিসাবে ব্যবহার করুন । বাস্তবে, কেউ যখন এলোমেলোমেশন ব্যবহার করে অ্যালগরিদম প্রয়োগ করে তখন বাস্তবে এমনটি ঘটে।

যদি আমরা হ্যাশ কোডটি ছেড়ে চলে যাই, তবে সত্যিকারের র্যান্ডমাইজেশন ব্যবহার করে এই অ্যালগরিদম এবং একটি অ্যালগরিদমের মধ্যে পার্থক্য হ'ল আমি উত্পন্ন এলোমেলো সংখ্যার ক্রমটি পূর্বাভাস দিতে পারি এবং আমি এমন একটি সমস্যা উত্পন্ন করতে পারি যে আমার সমস্যাটিতে প্রয়োগ করা পূর্বাভাসযুক্ত এলোমেলো সংখ্যা সর্বদা বজায় থাকবে সবচেয়ে খারাপ সিদ্ধান্ত নিতে। উদাহরণস্বরূপ, সিউডো-এলোমেলো পিভট দিয়ে কুইকসোর্টের জন্য আমি একটি ইনপুট অ্যারে তৈরি করতে পারলাম যেখানে সিউডো-এলোমেলো পিভট সর্বদা অ্যারেতে সর্বাধিক সম্ভাব্য মান খুঁজে পাবে। সত্যিকারের এলোমেলোভাবে এটি সম্ভব নয়।

হ্যাশ কোডের সাহায্যে আমার পক্ষে এমন সমস্যা তৈরি করা খুব কঠিন হবে যেখানে ছদ্ম-এলোমেলো সংখ্যাগুলি সবচেয়ে খারাপ ফলাফল দেয়। আমি এখনও এলোমেলো সংখ্যার পূর্বাভাস দিতে পারি, তবে আমি যদি সমস্যাটি পরিবর্তন করি তবে সিউডো-এলোমেলো সংখ্যার ক্রমটি সম্পূর্ণরূপে পরিবর্তিত হয়। তবুও, আপনার পক্ষে এটি প্রমাণ করা অসম্ভবের কাছাকাছি হবে যে আমি প্রমাণ করতে পারি না যে আমি এই জাতীয় সমস্যা তৈরি করতে পারি না।

Comments

আমি cstheory.SE এ নতুন। সুতরাং, ডাউনভোটার্স - এই উত্তরটিতে কী দোষ আছে?

— galdre

দুটি জিনিস ভুল: (1) আমরা সাধারণভাবে সিউডোরডম সংখ্যাগুলি কীভাবে বানাতে পারি তা জানি না, (২) যখন আমরা কীভাবে এটি নির্মাণ করতে পারি তা জানার পরেও সেগুলি গণনাগতভাবে ব্যয়বহুল। অনুশীলনে ব্যবহৃত সিউডোরান্ডম সংখ্যাগুলি তত্ত্বের ক্ষেত্রে কাজ করার গ্যারান্টিযুক্ত নয়; আমরা শুধু জানি যে তারা অনুভূতিপূর্ণভাবে কাজ করে বলে মনে হচ্ছে। (প্রকৃতপক্ষে, আসলে ব্যবহৃত বেশিরভাগ পিআরএনজি ভাঙা যেতে পারে, তাই তারা সাধারণত ব্যবহারের জন্য নিরাপদ নয়, কেবলমাত্র যখন আপনি বিশেষত সেগুলি ভাঙার চেষ্টা করছেন না

— যুবল ফিল্মাস

cstheory.se প্রোগ্রামিং অনুশীলন নয়, তাত্ত্বিক কম্পিউটার বিজ্ঞান * সম্পর্কে । এটি পছন্দ করুন বা না করুন, দুটি ক্ষেত্র বেশ আলাদা।

— যুবাল ফিল্মাস

@ ইউভালফিল্মাস: ১৯ Gu7 সালে সি গুন্থার উদ্ভাবিত অল্টারনেটিং স্টেপ জেনারেটরটি এখনও ভেঙে যায়নি (এখনও কোনও পাবলিক ব্রেক হয়নি, এবং আমি সন্দেহ করি এনএসএ এটি ভেঙে দিয়েছে)। আঠারো বছর অবধি অবিচ্ছিন্ন থাকার দীর্ঘ সময়, আমি অবাক হয়েছি যে এই জাতীয় সরল জেনারেটর (তিনটি এলএফএসআর এবং একটি এক্সওআর গেট, এটি কতটা সহজ?) এখনও ভাঙা হয়নি এবং আরও বেশিবার ব্যবহৃত হয় না।

— উইলিয়াম হার্ড

@ উইলিয়ামহির্ড: "ভাঙা" সংজ্ঞা অনুসারে এটি মনে হচ্ছে বাস্তবে এটি ভেঙে গেছে (সম্পর্কিত, আরও দক্ষ এবং ব্যাপকভাবে ব্যবহৃত এ 5 / এক্স পরিবারের মতো কম-বেশি)। Crypto.stackexchange.com/a/342 দেখুন ।

— এমিল জেবেক মনিকা