অপ্টিমাইজেশনের কৌশলগুলি কী কী নমুনা কৌশল ম্যাপ করে?

যে কোনও জেনেরিক স্যাম্পলিং অ্যালগরিদম থেকে, একটি অপ্টিমাইজেশন অ্যালগরিদম পেতে পারে।

নিশ্চয় বাড়ানোর লক্ষ্যে একটি অবাধ ফাংশন , তা থেকে নমুনা আঁকা যথেষ্ট । জন্য ছোট যথেষ্ট, এই নমুনা ফাংশনের বিশ্বব্যাপী সর্বাধিক (অথবা বাস্তবে স্থানীয় ম্যাক্সিমা) কাছাকাছি পড়া হবে । $f: \textbf{x} \rightarrow f(\textbf{x})$ $g \sim e^{f/T}$ $T$ $f$

"নমুনা" দ্বারা আমি বোঝাতে চাইছি, একটি ধ্রুবক পর্যন্ত পরিচিত লগ-সম্ভাবনা ফাংশন প্রদত্ত বিতরণ থেকে সিউডো-এলোমেলো নমুনা আঁকুন। উদাহরণস্বরূপ, এমসিএমসি স্যাম্পলিং, গীবস স্যাম্পলিং, বিম স্যাম্পলিং ইত্যাদি "অপ্টিমাইজেশন" বলতে বোঝায় একটি প্রদত্ত ফাংশনের মান সর্বাধিকীকরণের পরামিতিগুলি সন্ধানের চেষ্টা।

বিপরীত কি সম্ভব? সর্বাধিক কার্যকারিতা বা সংযোজক অভিব্যক্তি সন্ধানের জন্য একটি হিউরিস্টিক দেওয়া, আমরা কীভাবে একটি কার্যকর নমুনা পদ্ধতি বের করতে পারি?

উদাহরণস্বরূপ এইচএমসি গ্রেডিয়েন্ট তথ্যের সুযোগ নিয়েছে বলে মনে হচ্ছে। আমরা কি এমন একটি নমুনা পদ্ধতি তৈরি করতে পারি যা হেসিয়ানের বিএফজিএস-এর মতো অনুমানের সুবিধা গ্রহণ করে? (সম্পাদনা: স্পষ্টত হ্যাঁ: http://papers.nips.cc/paper/4464-quasi-newton-methods-for-markov-chain-monte-carlo.pdf ) আমরা সংযুক্তি সমস্যাগুলিতে এমসিটিএস ব্যবহার করতে পারি, আমরা কি এটি অনুবাদ করতে পারি? একটি নমুনা পদ্ধতিতে?

প্রসঙ্গ: স্যাম্পলিংয়ে অসুবিধা প্রায়শই যে সম্ভাবনা বিতরণের বেশিরভাগ ভর খুব ছোট অঞ্চলে থাকে। এই জাতীয় অঞ্চলগুলি খুঁজে বের করার আকর্ষণীয় কৌশল রয়েছে তবে এগুলি সরাসরি নিরপেক্ষ নমুনা পদ্ধতিতে অনুবাদ করে না।

সম্পাদনা: আমার এখন দীর্ঘায়িত অনুভূতি আছে যে এই প্রশ্নের উত্তর কিছুটা জটিল ক্লাসের # পি এবং এনপির সমতার সমান, উত্তরটি সম্ভবত "না" হিসাবে তৈরি করে। এটি ব্যাখ্যা করে যে কেন প্রতিটি নমুনা কৌশল একটি অপ্টিমাইজেশন কৌশল দেয় তবে বিপরীতে নয়।

sampling optimization

— আর্থার বি।
সূত্র

যদিও আমি মনে করি আমার এই প্রশ্নের বেশিরভাগ শব্দের প্রচলিত বোঝাপড়া আছে তবে আমি নিশ্চিত নই যে এর পরে কী হচ্ছে। আপনি "স্যাম্পলিং" বলতে যা বোঝাতে চেয়েছেন এবং "অপ্টিমাইজড" হ'ল কী হবে তা আপনি আরও কিছুটা পরিষ্কার করে বলতে পারেন? আপনি নিখুঁতভাবে ধরে নিয়েছেন বলে মনে হয় যে আপনার পাঠকরা একটি নির্দিষ্ট সেটিংয়ের কথা মনে রেখে একটি "বন্টন" (বা তার পরিবার?) জড়িত রয়েছে এবং যার মধ্যে একটি নির্দিষ্ট উদ্দেশ্য অনুমান করা হয়েছে, তবে আপনি কেবল যখন তৈরি করবেন তখন আপনি কেবল কী চান তা অনুমান করতে পারে শেষ অনুচ্ছেদে প্রদর্শিত হিসাবে বিস্তৃত বিবৃতি।

— হোবার

— আর্থার বি।

সিমুলেটেড অ্যানিলিং এবং এমসিসিএম স্যাম্পলিংয়ের মধ্যে একটি প্রাকৃতিক ম্যাপিং রয়েছে। এইচএমসি এবং গ্রেডিয়েন্ট বংশোদ্ভূত (যদি আপনি স্কুইন্ট করেন) এর মধ্যে কম সরাসরি ম্যাপিং থাকে। আমার প্রশ্ন হ'ল এটিকে আরও নিয়মতান্ত্রিক করা যায় কিনা। নমুনা নেওয়ার ক্ষেত্রে একটি অসুবিধা প্রায়শই দেখা যায় যে সম্ভাবনা বিতরণের বেশিরভাগ ভর খুব ছোট অঞ্চলে থাকে। এই অঞ্চলটি খুঁজে বের করার আকর্ষণীয় কৌশল রয়েছে তবে এগুলি সরাসরি নিরপেক্ষ নমুনা পদ্ধতিতে অনুবাদ করে না।

— আর্থার বি

এই স্পষ্টকরণগুলি অন্তর্ভুক্ত করতে দয়া করে আপনার প্রশ্নটি সম্পাদনা করুন। এটি অত্যন্ত গুরুত্বপূর্ণ কারণ আপনার "স্যাম্পলিং" শব্দের ব্যবহার (কিছুটা বিশেষায়িত) যদিও আপনার প্রসঙ্গে উপযুক্ত যদিও অনেক পাঠক বুঝতে পারে তার থেকে আলাদা। এছাড়াও, "অপ্টিমাইজেশন" এর আপনার ব্যাখ্যা সঠিক হলেও এটির অর্থ এখানে যথাযথভাবে সুনির্দিষ্ট করে তুলতে সহায়ক বলে মনে হচ্ছে না: "প্রদত্ত ফাংশন" কী এবং এটি কীভাবে "নমুনা" সম্পর্কিত হতে পারে তা চিহ্নিতকরণ দরকারী সংযোজন হতে পারে।

— whuber

এটা কি এখন ভাল?

— আর্থার বি।

এই দুটি কাগজে ম্যাক্স ওয়েলিং এবং বন্ধুরা একটি সংযোগ প্রকাশ করেছেন:

সংক্ষেপটি হ'ল "লার্নিং", অর্থাৎ। কোনও মডেলের অপ্টিমাইজেশানটি উত্তরোত্তর থেকে নমুনা হিসাবে মসৃণভাবে রূপান্তরিত হয়।

— bayerj
সূত্র

একটি লিঙ্ক আছে, এটি গম্বেল-সর্বোচ্চ কৌশল!

http://www.cs.toronto.edu/~cmaddis/pubs/astar.pdf

— আর্থার বি।
সূত্র

$U \sim unif[0,1]$ $F^{-1}(U) \sim F$

— সিদ
সূত্র