প্রথমত, আমি [কিছুটা প্যাডেন্টালিভাবে] নোট করি
বিভিন্ন ধরণের এমসিএমসি অ্যালগরিদম রয়েছে: মহানগর-হেস্টিংস, গীবস, গুরুত্ব / প্রত্যাখ্যানের নমুনা (সম্পর্কিত)।
গুরুত্ব এবং প্রত্যাখ্যানের নমুনা পদ্ধতিগুলি MCMC অ্যালগরিদম নয় কারণ তারা মার্কভ চেইনের উপর ভিত্তি করে নয়। আসলে, গুরুত্বের নমুনা লক্ষ্য বন্টন থেকে একটি নমুনা উত্পাদন করে না,চ বলুন, তবে কেবল গুরুত্ব ওজন ω বলুন, এর সাথে সম্পর্কিত ইন্টিগ্রালগুলির মন্টে কার্লো অনুমানের মধ্যে ব্যবহার করতে চ। নমুনা তৈরির জন্য সম্ভাব্যতা হিসাবে এই ওজনগুলি ব্যবহার করা থেকে সঠিক নমুনা হয় নাচযদিও প্রত্যাশার নিরপেক্ষ অনুমানক এর অধীনে চ উত্পাদিত হতে পারে।
দ্বিতীয়ত, প্রশ্ন
কেন কেউ মেট্রোপলিস-হেস্টিংসের পরিবর্তে গীবসের নমুনা নিয়ে যাবেন? আমি সন্দেহ করি এমন কিছু ঘটনা আছে যখন মেট্রোপলিস-হেস্টিংসের চেয়ে গিবস স্যাম্পলিংয়ের সাথে অনুমান বেশি ট্র্যাকটেবল হয়
একটি জিবস স্যাম্পেলার সহ মেট্রোপলিস-হেস্টিংস স্যাম্পলার প্রায় কিছু হতে পারে তার কোনও উত্তর নেই। আমি বরং বিশদ পদে জবাব দিয়েছি to an earlier and similar question. But let me add a few if redundant points here:
গিবস স্যাম্পলিংয়ের যে প্রাথমিক কারণটি চালু হয়েছিল তার প্রাথমিক কারণ হ'ল নিম্ন মাত্রার সিমুলেশনগুলির ক্রম তৈরি করে যা এখনও সঠিক লক্ষ্যে রূপান্তরিত করে ডাইমেনিয়ালিটির অভিশাপ (যা প্রত্যাখ্যান এবং গুরুত্বের নমুনা উভয়কেই প্রভাবিত করে) ভাঙা। যদিও লক্ষ্যটির মাত্রা অভিব্যক্তির গতিকে প্রভাবিত করে। মেট্রোপলিস-হেস্টিংস স্যাম্পেলারগুলি একটি প্রস্তাব-এর উপর ভিত্তি করে একটি মার্কভ চেইন (গিবস স্যাম্পলিংয়ের মতো) তৈরির জন্য ডিজাইন করা হয়েছে (যেমন গুরুত্ব এবং প্রত্যাখ্যানের নমুনা) একটি গ্রহণযোগ্যতা-প্রত্যাখ্যানের পদক্ষেপের মাধ্যমে ভুল ঘনত্ব সংশোধন করে। তবে একটি গুরুত্বপূর্ণ বিষয় হ'ল এগুলির বিরোধিতা করা হয়নি: যেমন, নিম্ন-মাত্রার শর্তসাপেক্ষ লক্ষ্যমাত্রা জটিল হলে মুখোমুখি হয়ে গিবস স্যাম্পলিংয়ের জন্য মেট্রোপলিস-হেস্টিংস পদক্ষেপের প্রয়োজন হতে পারে, যখন মেট্রোপলিস-হেস্টিংস প্রস্তাবগুলি (গিবস) সম্পূর্ণ শর্তসাপেক্ষে নির্মিত হতে পারে। একটি আনুষ্ঠানিক সংজ্ঞা, গিবস স্যাম্পলিং হ'ল মেট্রোপলিস-হেস্টিং অ্যালগরিদমের একটি বিশেষ ক্ষেত্রে যার গ্রহণযোগ্যতার সম্ভাবনা রয়েছে ability (যাইহোক, আমি ব্যবহার করতে আপত্তিসেই উদ্ধৃতিতে অনুমান , যেমন আমি এটি পরিসংখ্যানগত উদ্দেশ্যে সংরক্ষণ করব, যখন সেই নমুনা সংখ্যার ডিভাইস)
Usually, Gibbs sampling [understood as running a sequence of low-dimensional conditional simulations] is favoured in settings where the decomposition into such conditionals is easy to implement and fast to run. In settings where such decompositions induce multimodality and hence a difficulty to move between modes (latent variable models like mixture models come to mind), using a more global proposal in a Metropolis-Hasting algorithm may produce a higher efficiency. But the drawback stands with choosing the proposal distribution in the Metropolis-Hasting algorithm.