এমসিএমসির জন্য ব্যবহারিক উদাহরণ

Question

আমি এমসিসিএম সম্পর্কিত কিছু বক্তৃতা দিয়ে যাচ্ছিলাম। তবে এটি কীভাবে ব্যবহৃত হয় তার ভাল উদাহরণ আমি পাই না। যে কেউ আমাকে একটি দৃ concrete় উদাহরণ দিতে পারে। আমি কেবল দেখতে পাচ্ছি তারা হ'ল তারা একটি মার্কভ চেইন চালায় এবং বলে যে এর নিশ্চল বিতরণটি পছন্দসই বিতরণ।

আমি একটি ভাল উদাহরণ চাই যেখানে কাঙ্ক্ষিত বিতরণ থেকে নমুনা পাওয়া শক্ত। সুতরাং আমরা একটি মার্কভ চেইন তৈরি করি। আমি কীভাবে ট্রানজিশন ম্যাট্রিক্সটি নির্বাচন করতে চাই যাতে মার্কভ চেইনের এর স্থিতিশীল বন্টন লক্ষ্য বন্টন হয় ধন্যবাদ

Comments

বেসিক মার্কভ চেইন তত্ত্বটি দেখানোর জন্য ব্যবহৃত হয় যে কোনও নির্দিষ্ট নমুনা প্রকল্পের একটি স্থিতিশীল বিতরণ থাকবে যা পছন্দসই যৌথ বন্টন। সহজ উদাহরণের জন্য, ভ্যানিলা গিবস নমুনা সম্পূর্ণ শর্তযুক্ত বিতরণ থেকে সিমুলেট করে। সংশ্লিষ্ট রূপান্তর কার্নেলগুলি একসাথে নেওয়া হয়, যদি তারা রূপান্তরকরণের শর্তগুলি পূরণ করে (প্রায়শই সরলভাবে দেখানো হয়) অনায়াসে স্থির বন্টন হিসাবে যৌথ বিতরণ হিসাবে প্রদর্শিত হতে পারে। একইভাবে মেট্রোপলিস হেস্টিংস ইত্যাদির জন্য। মনে হচ্ছে আপনি যে বক্তৃতাগুলিতে সন্ধান করছেন সেটি এমসিএমসি কীভাবে মার্কভ চেইন তা ব্যাখ্যা করে না

— Glen_b -Rininstate Monica

Answer 1

যে নমুনা থেকে শক্ত করা কঠিন তার বিতরণের একটি ভাল উদাহরণ হ'ল হার্ড-কোর মডেল, ওভারভিউয়ের জন্য এই পৃষ্ঠাটি দেখুন:

http://www.mathematik.uni-ulm.de/stochastik/lehre/ss06/markov/skript_engl/node34.html

এই মডেলটি কিছু স্থির n এর জন্য গ্রিডের উপর একটি বিতরণকে সংজ্ঞায়িত করে , যেখানে গ্রিডের প্রতিটি বিন্দুতে আপনার মান এক বা শূন্যের হতে পারে। হার্ড-কোর মডেলের অধীনে গ্রিডটি গ্রহণযোগ্য হওয়ার জন্য, গ্রিডে দুটি সংলগ্ন বিন্দুর উভয়েরই মান 1 হতে পারে না।$n \times n$$n$

হার্ড-কোর মডেলের অধীনে গ্রিডের জন্য নীচের চিত্রটি একটি উদাহরণ স্বীকারযোগ্য কনফিগারেশন দেখায় । এই চিত্রটিতে কালো বিন্দু এবং সাদা হিসাবে শূন্য দেখানো হয়েছে। লক্ষ্য করুন যে দুটি কালো বিন্দু সংলগ্ন নয়।$8 \times 8$

আমি বিশ্বাস করি যে এই মডেলটির অনুপ্রেরণা পদার্থবিজ্ঞান থেকে এসেছে, আপনি গ্রিডের প্রতিটি অবস্থানকে কণা হিসাবে এবং বৈদ্যুতিক চার্জ বা স্পিনের প্রতিনিধিত্বকারী সেই অবস্থানের মান সম্পর্কে ভাবতে পারেন।

আমরা গ্রাহ্য গ্রিডের জনসংখ্যা যে থেকে অবিশেষে নমুনা করতে চান তাহলে গ্রাহ্য গ্রিডের সেট হয়, আমরা নমুনা চান ই ∈ ই যেমন যে$E$$e \in E$

$p(e) = \frac{1}{|E|}$

যেখানে সম্ভাব্য সমস্ত অনুমোদিত কনফিগারেশনের সংখ্যা।$|E|$

ইতিমধ্যে এই উপহার একটি চ্যালেঞ্জ দেওয়া যে, আমরা বিবেচনা করা হয় গ্রিডের, আমরা কিভাবে নির্ধারণ করতে পারেন | E | গ্রহণযোগ্য গ্রিডের সংখ্যা? $n \times n$$|E|$

MCMC সম্পর্কে একটি দুর্দান্ত জিনিস হ'ল এটি আপনাকে এমন বিতরণগুলি থেকে নমুনা করতে দেয় যেখানে স্বাভাবিককরণের ধ্রুবকটি মূল্যায়ন করা কঠিন বা অসম্ভব।

এই সমস্যার জন্য কীভাবে এমসিসিএম প্রয়োগ করতে হবে তার বিশদটি নিয়ে আমি আপনাকে কাগজটি পড়তে দেব, তবে এটি তুলনামূলক সহজ।

Answer 2

আমি মনে করি আমি যে সর্বোত্তম উদাহরণটি দিতে পারি তা হ'ল:

মুরালি হারান রচিত একটি মার্কভ চেইন মন্টি কার্লো উদাহরণ

যার মধ্যে আর কিছু দরকারী কোড অন্তর্ভুক্ত রয়েছে।

আমি মনে করি যে আমি এখানে নিবন্ধটি পুনরুত্পাদন করতে পারি, তবে এটির কোনও মানে হয় না।

Answer 3

পরিসংখ্যানগুলিতে আরও দু: খজনক বিষয়। প্রশ্নটি পুরানো, তবে অন-লাইনের সূচনা উদাহরণগুলি পাওয়া শক্ত। সুতরাং আমি যদি এমসিএমসি দ্বারা বিভক্ত হয়ে এখানে পেজর্যাঙ্কের মার্কোভের এলোমেলো পদক্ষেপের অনুসরণ করে এবং উত্তর অনুসরণ করা সহজ করার জন্য প্রত্যাশায় পূর্ণ হয় তবে কেবল দুটি ক্ষেত্রে আমি দুটি দুর্দান্ত উদাহরণ সহজ করতে পারি। যেমন সদৃশ? এটি একটি ফলো-আপ প্রশ্ন হতে পারে।

FIRST EXAMPLE:

$N(0,1)$

এর বাইনারি সিদ্ধান্ত: অসুবিধা বুঝতে সব যান্ত্রিক পদক্ষেপের মধ্য দিয়ে গিয়ে, শুধু এক ঐন্দ্রজালিক কৌতুক যে হয় গ্রহণ বা প্রত্যাখ্যান করার একটি প্রস্তাব মূল্য ।

$x$mean$0$sd$~ 1$rnorm(10000)

eps$\epsilon$$x_i$$x_{i+1}$runif(1, - eps, eps)$x_i$

প্রতিটি প্রস্তাবিত মানটি এলোমেলো ফ্যাশনে পূর্বের মান থেকে এবং এর সীমার মধ্যে পৃথক হবে [- eps,+ eps]।

$i$$i + 1$

$N(0,1)$$x_{i+1}$$x_{i}$

min(1, dnorm(candidate_value)/dnorm(x))$1$$N(0,1)$ $pdf$$x_{i+1}$$x_i$min(1, ...)dnorm

সুতরাং আমাদের গ্রহণযোগ্যতার সম্ভাবনা আছে তবে আমাদের দ্বিপাক্ষিক সিদ্ধান্ত নেওয়া দরকার (নতুন প্রস্তাবিত মান গ্রহণ করুন, বা এটি প্রত্যাখ্যান করুন)। এবং এখানে আসল যাদু কৌশল: যদি সম্ভাবনাটি গণনা করা min(1, dnorm(candidate_value)/dnorm(x))হয় তবেrunif(1) থেকে অভিন্ন ড্রয়ের চেয়ে বড়$0$$1$x[i+1]x[i]

আমরা এটি হাজার হাজার বার করি এবং আমরা এই সমস্ত মানগুলি সংগ্রহ করি (কেবলমাত্র স্বীকৃত এবং পুনরাবৃত্ত মানগুলি) এবং যখন আমরা হিস্টোগ্রামের পরিকল্পনা করি তখন আমরা একটি সুন্দর বক্ররেখা পাই sd$1$$0$

$0$x = 0; vec[1] = x

SECOND EXAMPLE:

এটি আরও উত্তেজনাপূর্ণ, এবং এর উল্লেখ করে একটি ডেটাসেট প্রদত্ত এলোমেলো প্যারামিটারগুলির জন্য লগের সম্ভাবনা গণনা করে লিনিয়ার রিগ্রেশন কার্ভের পরামিতিগুলি অনুমান করার । যাইহোক, কোড লাইনগুলির উদাহরণগুলি উদাহরণস্বরূপ খুব অনুরূপ পদক্ষেপগুলি অনুসরণ করে এখানে সংরক্ষিত ঘনীভূত সিমুলেশনে নির্মিত হয়েছে ।

Comments

কয়েকটি ছোট ছোট সমাধানের প্রয়োজন: " জমিগুলি এখানে সিএমসিএম দ্বারা বিভক্ত " ... সম্পর্কে উল্টানো দরকার। " রোজনব্লুথ-হ্যাটিংস " .... সম্ভবত সেখানে একটি অতিরিক্ত "এস" দরকার। আমি বলব যে প্রথম উদাহরণটি ঠিক "নমুনা থেকে কঠিন" নয় (যেমন প্রশ্ন জিজ্ঞাসা করা হয়)। আপনার দুটি উদাহরণই মহানগর-হেস্টিংস হিসাবে দেখায় (যা অবশ্যই গুরুত্বপূর্ণ) তবে এর চেয়ে এমসিসিএম আরও বেশি। যেমন একটি উদাহরণ হিসাবে, অনেক লোক গিগস স্যাম্পলিং ব্যবহার করে, প্রায়শই জেএজিএস / বিজিজি / ইত্যাদির মাধ্যমে। সেখানে প্রস্তাবিত পদক্ষেপের গ্রহণযোগ্যতা সম্পর্কিত কোনও সিদ্ধান্ত নেই - আপনি সর্বদা সরে যান।

— গ্লেন_বি -রিনস্টেট মনিকা

আমি অনুপস্থিত "গুলি" সংশোধন করেছি, সিএমসিএম আইসোমে্রিক বানান। নাম ইস্যুতে সম্বোধন করে ইউটিউবে সম্ভবত অযৌক্তিকভাবে হাইপারলিংক থেকে মুক্তি পেয়েছেন। (পুরানো) প্রশ্নের সুনির্দিষ্ট অনুরোধ সত্ত্বেও কেন আমি বিস্তৃত করার জন্য প্রথম উদাহরণটি বেছে নিয়েছি তা ব্যাখ্যা করে। আমি আপনার এই সমস্ত বিষয় নির্দেশ করে প্রশংসা করি। আমি আপনার শেষ লাইনের প্রভাব সম্পর্কে নিশ্চিত নই।

— আন্তোনি পরেল্লদা

এটি কেবল রেখার একটি রেফারেন্স " এখানে একটি মাত্র যাদু কৌশল রয়েছে: প্রস্তাবিত মান গ্রহণ বা প্রত্যাখ্যান করার দ্বিপাক্ষিক সিদ্ধান্ত "; এটি উল্লেখ করার জন্য যে এটি সমস্ত MCMC অ্যালগরিদমের সম্পত্তি নয়। এর অর্থ এই নয় যে আপনার উত্তরটিতে কোনও সমস্যা আছে; আপনি যদি চান তবে এটি স্পষ্টতা হিসাবে বিবেচনা করতে পারেন। আইসোমেরিক বিটটি ভাল ছিল।

— গ্লেন_বি -রিনস্টেট মনিকা

Answer 4

এই ইউটিউব ভিডিওটি এমসিএমসি ব্যবহার করে সমাধান করা একটি সাধারণ সমস্যার সত্যই দুর্দান্ত দৃশ্য is

সুদের বন্টন হ'ল লিনিয়ার রিগ্রেশন (উপরের-ডান প্যানেল) এর সম্ভাব্য interালু এবং বিরতিগুলির উপরের উত্তর বিতরণ। কিছু slালু এবং ইন্টারসেপ্টের সংমিশ্রণগুলি খুব সম্ভাব্য (যেমন তাদের পর্যবেক্ষণ করা ডেটা পয়েন্টগুলি উত্পাদন করার উচ্চ সম্ভাবনা রয়েছে এবং আমাদের সাথে সামঞ্জস্যপূর্ণ) পূর্বের প্রত্যাশার ), তাই তাদের ঘন ঘন নমুনা দেওয়া উচিত। অন্যান্য সংমিশ্রণগুলি অসম্ভব (উদাহরণস্বরূপ যদি তারা কোনও নীল লাইনের সাথে মেলে যা ডেটার পয়েন্টের মেঘের মধ্য দিয়ে যায় না), এবং কম প্রায়ই নমুনা করা উচিত।

নীচের-বাম দিকের বড় প্যানেলটি ovালু এবং আটকানো দ্বিমাত্রিক জায়গার মধ্য দিয়ে মার্কভ চেইনের দ্বারা নেওয়া পথটি দেখায়। হিস্টোগ্রামগুলি এখনও অবধি চেইনের অগ্রগতির এক-মাত্রিক সংক্ষিপ্তসার দেখায়। চেইনটি পর্যাপ্ত পরিমাণে চলে গেলে opeাল এবং আটকানো সম্ভাব্য মানগুলির জন্য আমাদের কাছে বিতরণের খুব ভাল অনুমান হয়।

এই ক্ষেত্রে, এমসিসিএম ওভারকিল, তবে এমন কিছু সমস্যা রয়েছে যেখানে কোনও সমাধান লেখা শক্ত হয় এবং এটি সরাসরি সমাধান করার চেষ্টা না করে মার্কভ চেইন দিয়ে সম্ভাবনাগুলি অন্বেষণ করার পক্ষে অনেক অর্থবোধ করে।