গিবস স্যাম্পলিং সম্পর্কিত বিভ্রান্তি

Question

আমি এই নিবন্ধটি জুড়ে এসেছি যেখানে এটি বলে যে গিবস স্যাম্পলিংয়ে প্রতিটি নমুনা গ্রহণ করা হয়। আমি একটু বিভ্রান্ত। প্রতিটি নমুনা যদি এটি গ্রহণ করে তবে কীভাবে আসে তা স্থির বিতরণে রূপান্তরিত হয়।

সাধারণ মহানগর অ্যালগরিদমে আমরা ন্যূনতম (1, পি (এক্স *) / পি (এক্স)) হিসাবে গ্রহণ করি যেখানে x * নমুনা বিন্দু। আমি ধরে নিচ্ছি যে এক্স * আমাদের এমন একটি অবস্থানের দিকে নির্দেশ করে যেখানে ঘনত্ব বেশি থাকে তাই আমরা লক্ষ্য বিতরণে চলেছি। অতএব আমি অনুমান করি যে এটি পিরিয়ডে জ্বলনের পরে লক্ষ্য বিতরণে চলে আসে।

যাইহোক, গীবস স্যাম্পলিংয়ে আমরা সমস্ত কিছু গ্রহণ করি তাই এটি আমাদের আলাদা জায়গায় নিয়ে যেতে পারে, তবুও আমরা কীভাবে বলতে পারি যে এটি স্থির / লক্ষ্য বন্টনে রূপান্তরিত করে?

ধরুন আমাদের কাছে । আমরা জেড গণনা করতে পারি না। মহানগর অ্যালগরিদমে আমরা শব্দটি ডিস্ট্রিবিউশন যোগ করার সাথে সাথে স্বাভাবিককরণের ধ্রুবক জেড বাতিল করে দেয়। সুতরাং এটি ঠিক আছে$p(\theta) = c(\theta)/Z$$c(\theta^{new})/c(\theta^{old})$$c(\theta)$

কিন্তু গীবস স্যাম্পলিংয়ে আমরা কোথায় ডিস্ট্রিবিউশন$c(\theta)$

যেমন কাগজে http://books.nips.cc/papers/files/nips25/NIP2012_0921.pdf এর দেওয়া আছে

সুতরাং আমাদের থেকে নমুনার সঠিক শর্তাধীন বিতরণ নেই, আমাদের কেবল শর্তাধীন বিতরণের সাথে সরাসরি আনুপাতিক have

Comments

সর্বদা 1 থাকলে মেট্রোপলিস-হেস্টিংসে কী হবে ? $p(x*)/p(x)$

— গ্লেন_বি -রিনস্টেট মনিকা

Answer 1

যখন আমরা মেট্রোপলিস-হেস্টিংস অ্যালগরিদম ব্যবহার করি তখন আমাদের একটি স্বীকৃতি অনুপাত গণনা করতে হবে এবং এলোমেলো পরিবর্তনশীল তারপরে আমরা হলে এলোমেলো পরিবর্তনশীল গ্রহণ করি ।

$$\alpha=\min(1,\frac{p(x^*)}{p(x)})$$ $U\sim\text{Uniform(0,1)}$$U<\alpha$

যাইহোক, গীবস স্যাম্পলিংয়ে আমরা সর্বদা এলোমেলো পরিবর্তনশীল ব্যতীত কারণ গ্রহণযোগ্যতা অনুপাত গণনা করতে হয় না (ভাল আপনি আসলে করেন তবে আপনি যখন জিনিসগুলিতে প্লাগ করেন তখন দেখেন যে সবকিছু বাতিল হয়ে গেছে এবং আপনার স্বীকৃতি অনুপাতটি এবং স্পষ্টভাবে সর্বদা চেয়ে কম এবং এর কারণে আপনি সর্বদা গ্রহণ করছেন। তবে আপনি এটিকে স্বজ্ঞাতভাবে ভাবতেও পারেন যে গীবস স্যাম্পলিংয়ের ক্ষেত্রে আপনি সম্পূর্ণ শর্ত থেকে নমুনা নিচ্ছেন যা একটি বদ্ধ ফর্মের অভিব্যক্তি যা আমরা সরাসরি থেকে নমুনা করতে পারি এবং তাই মহানগর-হেস্টিংস অ্যালগরিদম যেখানে আমরা সেখানে নমুনাগুলি প্রত্যাখ্যান করার দরকার নেই we কীভাবে নমুনা জানবেন না (বা সাধারণত) ফর্মটি চিনবেন না । আশা করি এইটি কাজ করবে!$\alpha=1$$U$$\alpha$$p(x)$

Comments

কীভাবে সবকিছু বাতিল হয়ে যায় তা আমি পাইনি। ওয়েল বলুন যে আমাদের 3 টি ভেরিয়েবলের ডিস্ট্রিবিউশন থেকে নমুনা নিতে হবে । সুতরাং যখন আপনি বন্ধ রূপের এক্সপ্রেশনটিতে পূর্ণ শর্তাবলীর অর্থ বোঝাতে চেয়েছিলেন আপনি পি (x1 | x2, x3) পি (x2 | x1, x3) এবং পি (x3 | x1, x2) বলতে চাইছেন। আমার প্রশ্ন গীবস স্যাম্পলিংয়ের ক্ষেত্রে আমরা জানি যে আসল বন্টন পি থেকে আমরা নমুনা নিতে চাই তা থেকে প্রাপ্ত শর্তাধীন বিতরণটি জানি। তুমি কি এটাই বুজাতে চাও. মেট্রোপলিস অ্যালগরিদমের ক্ষেত্রে আমরা পি জানি না তবে সি এর মতো কিছু যে পি (এক্স) = সি (এক্স) / জেড ?? $p(\theta)$

— ব্যবহারকারী 34790

ধরুন আমরা x1, x2 এবং x3 ভেরিয়েবলের জন্য এলোমেলো মানগুলি দিয়ে শুরু করি কীভাবে আমরা বলতে পারি যে এর স্থিতিশীল বিতরণ প্রয়োজনীয়টিকে রূপান্তর করে। এর মানদণ্ড কী?

— ব্যবহারকারী 34790

ধরুন আমার কাছে । আমি জেড জানি না। সুতরাং আমি কীভাবে$p(\theta) = c(\theta)/Z$$p(\theta)$

— থেইটা

আমি কেন সর্বদা এটির উপরে একটি প্রমাণ যুক্ত করেছি। গীবস স্যাম্পলিং ব্যবহার করতে আপনার সম্পূর্ণ শর্তাদি কী তা জানতে হবে।

Answer 2

টাইপো হিসাবে স্বীকৃতি হার সমান 1 এর প্রমাণ, মধ্য এবং তৃতীয় অংশে ডিনোনিটারে q এর জন্য এক্সপ্রেশনটির z_i প্রাইম থাকা উচিত, যাতে শেষ পর্যন্ত আপনি পি (z_i prime | z_i prime) পান।

অ্যালেক্স