এমন কোনও মন্টি কার্লো / এমসিসিএম স্যাম্পলার প্রয়োগ করা হয়েছে যা উত্তরোত্তর বিতরণের বিচ্ছিন্ন স্থানীয় ম্যাক্সিমাকে মোকাবেলা করতে পারে?

আমি বর্তমানে বেশ কয়েকটি ওডিইএস নিয়ে গঠিত মডেলের প্যারামিটারগুলি অনুমান করার জন্য একটি বেয়েসিয়ান পদ্ধতির ব্যবহার করছি। আমার কাছে অনুমান করার মতো 15 টি প্যারামিটার রয়েছে, আমার স্যাম্পলিংয়ের স্থানটি 15-মাত্রিক এবং আমার উত্তরোত্তর বিতরণের জন্য অনুসন্ধানে অনেকগুলি স্থানীয় ম্যাক্সিমা রয়েছে যা খুব কম সম্ভাবনার বৃহত অঞ্চলগুলি দ্বারা বিচ্ছিন্ন very

এটি আমার মন্টি কার্লো চেইনের সমস্যার মিশ্রণের দিকে নিয়ে যায় কারণ এটি একটি স্থানীয় সর্বাধিকের মধ্যে একটি চেইন "ঝাঁপিয়ে পড়ে" এবং অন্য ম্যাক্সিমার সাথে একটির সাথে পরিচয়যুক্তভাবে আঘাত করে এমন ঘটনা খুব কমই।

এই সমস্যার মোকাবেলা করা কাগজপত্রগুলি খুঁজে পাওয়া সহজ (নিচে দেখুন), তবে সত্যিকারের বাস্তবায়ন পাওয়া কঠিন বলে এই অঞ্চলে অনেক গবেষণা হয়েছে বলে মনে হয়। আমি কেবল আণবিক গতিবিদ্যা সম্পর্কিত প্যাকেজগুলি পেয়েছি, তবে বায়সিয়ান অনুমান নয়। (এমসি) এমসি স্যাম্পেলারগুলির বাস্তবায়নগুলি কি সেখানে বিচ্ছিন্ন স্থানীয় ম্যাক্সিমাকে মোকাবেলা করতে সক্ষম?

আমি মতলবকে নিয়ে কাজ করতে বাধ্য হচ্ছি কারণ এটিই আমার ওডিই মডেলটিতে লেখা আছে, সুতরাং মতলব সম্পর্কিত প্রস্তাবগুলি সর্বাধিক স্বাগত ;-)। তবে অন্য কোনও ভাষায় যদি একটি "হত্যাকারী অ্যাপ্লিকেশন" থাকে তবে আমি আমার পিআই কে ;-) স্যুইচ করতে রাজি করতে পারি।

আমি বর্তমানে একটি বিলম্ব-প্রত্যাখ্যান / অ্যাডেটিভ মন্টি কার্লো নমুনার সাথে কাজ করছি যা হ্যারিয়ো, লাইন এট আল-র দ্বারা রচিত । , এবং এটি হ'ল একমাত্র নমুনা আমি এখনও অবধি খুঁজে পেল যা স্ট্যান্ডার্ড মেট্রোপলিস-হেস্টিংস অ্যালগরিদমের চেয়ে বেশি পরিশীলিত

উল্লেখযোগ্য পদ্ধতিগুলি মনে হয়:

এর মধ্যে আমি যা শিখেছি তা নিয়ে 2017-মার্চ -07 এ EDIT আপডেট হয়েছে

বিভিন্ন প্রারম্ভিক পয়েন্ট সহ একাধিক অনুরূপ চেইন

আন্ত-চেইন অভিযোজন। একাধিক স্বতন্ত্র চেইনের দ্বারা উত্পন্ন পুলের নমুনাগুলির ইমেরিকাল কোভেরিয়েন্স ম্যাট্রিক্স ব্যবহার করুন চেইনের প্রস্তাব বিতরণগুলির সমবায় ম্যাট্রিক্স আপডেট করতে (1)

বিভিন্ন টেম্পারিং সহ একাধিক চেইন

টেম্পারিং: কিছু ধরণের "তাপমাত্রা" উত্তরোত্তর আড়াআড়ি পরিবর্তন করে বলে মনে হয়, শৃঙ্খলাগুলির মিশ্রণকে আরও সম্ভাব্য। (আমি এখনও এটিকে খুব বেশি ডাইভ করি নি) (১) টেম্পারিংয়ের উদ্দেশ্যটি উত্তরোত্তর সম্ভাব্যতা বিতরণের দ্বারা গঠিত (উচ্চ-মাত্রিক) সম্ভাবনা আড়াআড়ি সমতল করা। এটি সাধারণত উত্তর পরবর্তী সম্ভাবনা পাওয়ার দিকে নিয়ে যাওয়ার মাধ্যমে সম্পাদিত হয় $1/T$ $T>1$ $p(\theta\mid D)$ $\theta$ $D$ টেম্পারেড উত্তরীয় সম্ভাবনা গণনা করা হয়

পি (θ | ডি)^{1 / টি} α {(পি (ডি | θ) \cdot পি (θ))}^{1 / টি}

$p(\theta\mid D)^{1/T} \propto \left( p(D\mid\theta)\cdot p(\theta)\right)^{1/T}$

$T$ $T$ $p(\theta\mid D)^{1/T}$ $T\neq1$ $p(\theta\mid D)$

আসল, অবিবাহিত উত্তরোত্তর বিতরণ থেকে প্রাপ্ত নমুনাগুলি, সেই বিতরণের একটি স্বভাবযুক্ত সংস্করণ থেকে প্রাপ্ত নমুনাগুলি বিভিন্ন পদ্ধতি দ্বারা পাওয়া যেতে পারে:

$T$ $T=1$
ক্ষুদ্র-বিশ্ব এমসিএমসি। স্যাম্পলার দুটি প্রস্তাবের মধ্যে পরিবর্তন করে। প্রায়শই ছোট বৈকল্পিক সহ একটি প্রস্তাব বিতরণ ব্যবহৃত হয়, খুব কমই একটি বড় বৈকল্পিক সহ একটি প্রস্তাব ব্যবহৃত হয়। এই দুটি প্রস্তাবের মধ্যে পছন্দ স্টোকাস্টিক। বড় বৈকল্পিকের প্রস্তাবগুলি অন্য চেইন থেকেও আঁকা হতে পারে যা কেবল খুব বড় লাফিয়ে তোলে, রুক্ষ ফ্যাশনে নমুনার জায়গার যতটা সম্ভব স্যাম্পল করে ((২,7)

হ্যামিলটোনীয় মন্টি কার্লো (এইচএমসি)

আমি সে সম্পর্কে খুব বেশি কিছু জানি না, তবে জেজিএসের নো-ইউ-টার্ন স্যাম্পলার (নটস) এটি ব্যবহার করছে বলে মনে হচ্ছে। রেফ দেখুন। (8)। অ্যালেক্স রোগোজনিকভ এই বিষয়টির উপর একটি ভিজ্যুয়াল টিউটোরিয়াল তৈরি করেছেন ।

তথ্যসূত্র:

(1) ক্রেইও এট।, ২০০৯: আপনার প্রতিবেশীর কাছ থেকে শিখুন: সমান্তরাল-চেইন এবং আঞ্চলিক অভিযোজিত এমসিএমসি। জে এম স্ট্যাট এসোসো 104: 488, পৃষ্ঠা 1454-1466। http://www.jstor.org/stable/40592353

(২) গুয়াম এট আল।, ২০১২: ক্ষুদ্র ওয়ার্ল্ড MCMC টেম্পারিং সহ: এরগোসিটি এবং বর্ণালী ফাঁক। https://arxiv.org/abs/1211.4675 ( কেবলমাত্র আরএক্সআইভিতে )

(3): ব্রুকস এবং অন্যান্য। (2011)। মার্কভ চেইন মন্টি কার্লোর হ্যান্ডবুক। সিআরসি প্রেস।

(4): আলতেকার এট আল। (2004): সমান্তরাল মহানগর বয়েসিয়ান ফাইলেজেনেটিক অনুক্রমের জন্য মার্কভ চেইন মন্টি কার্লো মিলিয়ে। বায়োইনফরম্যাটিকস 20 (3) 2004, পৃষ্ঠা 407–415, http://dx.doi.org/10.1093/bioinformatics/btg427

(5): গিয়ার সিজে (1991) মার্কভ চেইন মন্টে কার্লো সর্বাধিক সম্ভাবনা। ইন: Keramidas (ইডি।), কম্পিউটিং বিজ্ঞান ও পরিসংখ্যান: 23 ইন্টারফেস উপর সিম্পোজিয়াম প্রসিডিংস । ইন্টারফেস ফাউন্ডেশন, ফেয়ারফ্যাক্স স্টেশন, পৃষ্ঠা 156-1163।

(6): গিল্কস ডাব্লুআর এবং রবার্টস জিও (1996)। MCMC উন্নয়নের কৌশল ইন: গিলসস ডাব্লুআর, রিচার্ডসন এস এবং স্পিগেলহাল্টার (এড) মার্কোভ চেইন মন্টি কার্লো অনুশীলনে । চ্যাপম্যান অ্যান্ড হল, পি। 89-114।

(7): গুয়ান ওয়াই, ইত্যাদি। ছোট পৃথিবীতে মার্কভ চেইন মন্টি কার্লো। পরিসংখ্যান এবং গণনা (2006) 16 (2), পৃষ্ঠা 193-202। http://dx.doi.org/10.1007/s11222-006-6966-6

(8): হফম্যান এম এবং জেলম্যান এ (২০১৪): ন-ইউ-টার্ন স্যাম্পলার: অভিযোজিতভাবে হ্যামিলটোনিয়ান মন্টি কার্লোতে পথের দৈর্ঘ্য নির্ধারণ করা। মেশিন লার্নিং রিসার্চ জার্নাল , 15, পৃষ্ঠা 1351-1381। https://arxiv.org/abs/1111.4246

— akraf
সূত্র

উপরের কৌশলগুলির কোনওটিই একাধিক অনুকূলের জন্য বিশেষভাবে উপযুক্ত নয়।

আরও ভাল পছন্দ হ'ল ডিফেরেনশিয়াল বিবর্তন এমসিসিএমসি এবং ড্রিমের এমসিএমসি যেমন ড্রেম। এই অ্যালগরিদমগুলি বেশ কয়েকটি এমসিএমসি চেইনের সাথে কাজ করে যা প্রস্তাব উত্পন্ন করতে মিশ্রিত হয়। আপনার যদি প্রতিটি অপটিমায় কমপক্ষে একটি চেইন থাকে তবে তারা অনুকূলতার মধ্যে দক্ষতার সাথে লাফাতে সক্ষম হবে। আর-এ একটি বাস্তবায়ন এখানে পাওয়া যায় https://cran.r-project.org/web/packages/BayesianTools/index.html

— ফ্লোরিয়ান হার্টিগ
সূত্র