উচ্চ-মাত্রিক ফাংশনের প্রত্যাশিত মানটি মূল্যায়ন করতে MCMC ব্যবহার করা

Question

আমি একটি গবেষণা প্রকল্পে কাজ করছি যা অপ্টিমাইজেশনের সাথে সম্পর্কিত এবং সম্প্রতি এই সেটিংয়ে এমসিসিএম ব্যবহার করার ধারণা ছিল। দুর্ভাগ্যক্রমে, আমি MCMC পদ্ধতিতে মোটামুটি নতুন তাই আমার বেশ কয়েকটি প্রশ্ন ছিল। আমি সমস্যার বর্ণনা দিয়ে এবং তারপর আমার প্রশ্ন জিজ্ঞাসা করে শুরু করব।

আমাদের সমস্যা খরচ ফাংশনের প্রত্যাশিত মান আনুমানিক হিসাব নিচে boils যেখানে একটি হল একটি ঘনত্ব -dimentional দৈব চলক ।$c(\omega)$$\omega = (\omega_1,\omega_2,...\omega_h)$$h$$f(\omega)$

আমাদের ক্ষেত্রে এর একটি বদ্ধ ফর্ম সংস্করণ বিদ্যমান নেই। এর অর্থ হল প্রত্যাশিত মানটিকে আনুমানিক করতে আমাদের মন্টি কার্লো পদ্ধতি ব্যবহার করতে হবে। দুর্ভাগ্যক্রমে, এটি দেখা গেছে যে এম অনুমানগুলি যে এমসি বা কিউএমসি পদ্ধতি ব্যবহার করে উত্পন্ন হয়েছিল তার ব্যবহারিক বিন্যাসে কার্যকর হওয়ার জন্য খুব বেশি বৈকল্পিক রয়েছে।$c(\omega)$$E[c(\omega)]$

একটি ধারণা যে আমাদের নমুনা পয়েন্ট উত্পন্ন করতে একটি গুরুত্বপূর্ণ স্যাম্পলিং বিতরণ ব্যবহার করতে হয়েছিল যা এর কম ভেরিয়েন্স অনুমান করবে । আমাদের ক্ষেত্রে, আদর্শ গুরুত্বের নমুনা বিতরণ, প্রায় সমানুপাতিক হতে হবে । দেখতে দেখতে কিভাবে ধ্রুবক পর্যন্ত পরিচিত, আমি অবাক হচ্ছি কিনা আমি প্রস্তাব বন্টন সহ এমসিএমসি ব্যবহার করতে পারেন অবশেষে থেকে নমুনা উত্পাদন করতে পারে ।$E[c(\omega)]$$g(\omega)$$c(\omega)f(\omega)$$g(\omega)$$c(\omega)f(\omega)$$g(\omega)$

আমার প্রশ্নগুলি এখানে:

• এই সেটিং এর মধ্যে এমসিসিএম ব্যবহার করা যেতে পারে? যদি তা হয় তবে কোন এমসিমিসি পদ্ধতি উপযুক্ত হবে? আমি ম্যাটল্যাবে কাজ করছি, সুতরাং ইতিমধ্যে একটি ম্যাটল্যাব বাস্তবায়ন রয়েছে এমন যে কোনও কিছুতে আমার একটা পছন্দ আছে।

• এমসিএমসির জন্য বার্ন-ইন পিরিয়ড দ্রুত করার জন্য এমন কোন কৌশল রয়েছে যা আমি ব্যবহার করতে পারি? এবং আমি কীভাবে বলতে পারি যে স্থির বিতরণ পৌঁছেছে? এই ক্ষেত্রে, প্রদত্ত জন্য গণনা করতে এটি বেশ কিছুটা সময় নেয় ।$c(\omega)$$\omega$

Comments

শেষ অনুচ্ছেদে টাইপ? পরিবর্তে ? $C(w)$$c(w)$

— এমপিক্টাস

আপনি না আছে উচ্চ-মাত্রিক সমাকলনের জন্য মন্টে কার্লো পদ্ধতি ব্যবহার করার জন্য শুধু কারণ একটি বদ্ধ ফর্ম অস্তিত্ব নেই। আপনি বিরল গ্রিডের উপর ভিত্তি করে পদ্ধতিগুলি ব্যবহার করতে পারেন । যদিও আমি নিজের পক্ষে ভাল এবং কনসকে জানি না।

— onestop

@ অনস্টপ - আপনি ঠিক আমার চেয়ে কিছুটা কম স্পষ্ট গ্রিড কাজ করছেন, যদিও আমি এই ধারণাটিও পরীক্ষা করে দেখতে চাই।

— বার্ক ইউ।

এটি অর্থের মতো কিছুটা শোনাচ্ছে।

— উইক

এটি ফিনান্সে প্রয়োগ করা যেতে পারে। আমরা যদিও এটি পাওয়ার সিস্টেমগুলির সর্বোত্তম পরিচালনার জন্য ব্যবহার করছি :)

— বার্ক ইউ

Answer 1

আমি সবসময় মনে রাখতে পারি, এমসিসিএমসি হ'ল একটি সংখ্যার একীকরণের সরঞ্জাম (এবং এটিতে বরং একটি অদক্ষ একটি)। এটি কোনও যাদু / রহস্যময় জিনিস নয়। এটি খুব কার্যকর কারণ এটি প্রয়োগ করা যুক্তিসঙ্গতভাবে সহজ। অন্যান্য কয়েকটি সংখ্যার ইন্টিগ্রেশন কৌশলগুলির তুলনায় এটির জন্য বেশি চিন্তাভাবনার প্রয়োজন নেই। উদাহরণস্বরূপ, আপনাকে কোনও ডেরাইভেটিভ করতে হবে না। আপনাকে কেবল "এলোমেলো সংখ্যা" তৈরি করতে হবে।

তবে, কোনও সংখ্যার একীকরণ পদ্ধতির মতো এটি সর্বজনীন ক্যাচ নয়। এমন কিছু শর্ত রয়েছে যখন এটি কার্যকর হয় এবং যখন শর্ত থাকে না।

এটি অন্য কৌশল সেট আপ করা বুদ্ধিমান হতে পারে। কত বড় , এবং আপনার কম্পিউটার কত দ্রুত, এবং ফলাফলের জন্য অপেক্ষা করতে আপনি কতটা সময় প্রস্তুত তার উপর নির্ভরশীল । একটি অভিন্ন গ্রিড কাজ করতে পারে (যদিও এর জন্য ছোট বা দীর্ঘ পরিমাণের অপেক্ষার প্রয়োজন)। "কাজ" হ'ল অবিচ্ছেদ্য মূল্যায়ন - সমীকরণটি আপনাকে বা আমি ফলাফলটির সাথে কী অর্থ সংযুক্ত করে তা বিবেচনা করে না (এবং তাই ফলস্বরূপ আমরা এলোমেলোভাবে পেলাম কি না সেদিকে এটি লক্ষ্য করে না)।$h$$h$

উপরন্তু, যদি আপনার অনুমান বেশ সঠিক হয়, রুঢ়ভাবে শীর্ণ করা হবে এবং ঘনিষ্ঠভাবে একটি ব-দ্বীপ ফাংশন অনুরূপ, তাই অবিচ্ছেদ্য কার্যকরভাবে স্থলে হয় ।$\omega$$f(\omega)$$\omega\rightarrow\omega_{max}$

আর সংখ্যার একীকরণের কৌশলটি ইন্টিগ্রালের অধীনে একটি টেলর সিরিজ ব্যবহার করছে। $f(\omega)\approx f(\omega_{max})+(\omega-\omega_{max})f'(\omega_{max})+\frac{1}{2}(\omega-\omega_{max})^{2}f''(\omega_{max})+\dots$

মুহুর্তগুলি সহজেই পাওয়া গেলে এটি একটি কার্যকর কৌশল ।$\omega$

এডউইন জয়েস এর একটি সুন্দর উক্তি আছে:

যখনই কোনও কিছু করার এলোমেলো পদ্ধতি রয়েছে, সেখানে একটি নন-এলোমেলো উপায় আছে যা আরও ভাল ফলাফল দেয়, তবে আরও চিন্তাভাবনা প্রয়োজন

একটি আরও "চিন্তাভাবনা" উপায় হ'ল অবিচ্ছেদ্য করতে "স্তরিত এমসিএমসি" ব্যবহার করা। সুতরাং "এলোমেলোভাবে" পরিবর্তে পুরো পরামিতি স্পেসে একটি স্থান বাছাই করুন: এটিকে "স্তর" হিসাবে ভাগ করুন। এই "স্তর" চয়ন করা উচিত যাতে আপনি ইন্টিগ্রালের উচ্চ অংশের একটি ভাল পরিসীমা পান। তারপর এলোমেলোভাবে প্রতিটি স্তরের মধ্যে নমুনা। তবে এটির জন্য আপনার নিজের কোডটি লিখতে হবে যা আমি কল্পনা করব (অর্থাত্ আরও চিন্তাভাবনা)।

Comments

আপনার পোস্টের জন্য আপনাকে অনেক ধন্যবাদ. আমি আপনার স্তরিত এমসি ধারণাটি খুব পছন্দ করি। আমি ভাবছিলাম যে আপনি যদি এর কোনও সংস্থান সম্পর্কে জানেন তবে আমি এটি পড়তে পারি? কর্মে উদাহরণ সহ যে কোনও কিছু প্রশংসিত হবে।

— বার্ক ইউ।

এটি আমার কাছে একটি ধারণা যা তাই আমি কোনও সংস্থান সম্পর্কে জানি না। স্তরটি সংজ্ঞায়িত করে এমন আরও একটি স্তর যুক্ত করে এটি এমসিসিএম কাঠামোর মধ্যে রাখা যেতে পারে। এবং আমার প্রধান দুর্বলতাগুলির একটি হ'ল স্টাফ করা - আমি অন্তরে একজন চিন্তাবিদ! আমি জানি এটি আপনাকে খুব বেশি সহায়তা করে না এবং আমি এর জন্য ক্ষমা চাইছি। তবে অবশ্যই আমি একমাত্র ব্যক্তি নই যিনি এটি ভেবেছিলেন। যে কেউ "ডিজাইন ভিত্তিক" পরিসংখ্যান এবং "বায়সিয়ান পরিসংখ্যান" করেছেন সে নিশ্চয়ই এটি ভেবে দেখেছিল।

— সম্ভাব্যতা ব্লগ

Answer 2

এখানে আপনার ভেরিয়েবলগুলি পারস্পরিক সম্পর্কযুক্ত বলে কোনও ইঙ্গিত পাওয়া যায় নি তাই আপনি কেন নিয়মিত মন্টি কার্লো এর বিপরীতে এমসিসিএম ব্যবহার করবেন তা আমি জানি না। উল্লিখিত স্তরযুক্ত নমুনা (ল্যাটিন হাইপারকিউব) এবং কিউএমসি সহ বিভিন্ন বিভিন্ন নমুনা পদ্ধতি রয়েছে। বিরল চতুর্ভুজ গ্রিডগুলি জ্যামিতিকভাবে (মাত্রিকতার অভিশাপ) বৃদ্ধি পাওয়ায় সমস্যার মাত্রা খুব বেশি না হলে (10 টির বেশি নয়) খুব কম বিচ্ছিন্ন চতুর্ভুজ পদ্ধতিগুলি খুব ভাল।

তবে মনে হচ্ছে আপনি গুরুত্বপূর্ণ নমুনা দেওয়ার ক্ষেত্রে সঠিক পথে আছেন। এখানে মূল কীটি এমন একটি পক্ষপাতদুষ্ট বিতরণ চয়ন করা উচিত যা আপনার আগ্রহের অঞ্চলে খুব বেশি ঘন ঘন সম্ভাবনা থাকে এবং এতে নামমাত্র বিতরণের চেয়ে ঘন লেজ থাকে।

আমি যুক্ত করতে চাই যে এটি একটি মুক্ত গবেষণার সমস্যা তাই আপনি যদি ভাল কিছু নিয়ে আসতে পারেন তবে সম্প্রদায়ের পক্ষে এটি খুব আগ্রহী হবে!

Comments

এর জন্য ধন্যবাদ! আপনি কি এমসিসিসির কার্যকারিতা এবং ভেরিয়েবলের মধ্যে পারস্পরিক সম্পর্কের মধ্যে সম্পর্ক সম্পর্কে আরও কিছুটা ব্যাখ্যা করতে পারেন? আমি সবসময় ভেবেছিলাম যে ভেরিয়েবলগুলি পরস্পর সম্পর্কিত হলে এমসিএমসি সংখ্যার একীকরণ কৌশলগুলি উপস্থিত করার চেয়ে একটি সুবিধা প্রদান করবে - যদিও কেন এটি করার পক্ষে আমি কোনও ভাল কারণ সরবরাহ করতে পারি না।

— বার্ক ইউ

Answer 3

যেহেতু কেউই আসলে সরাসরি প্রশ্নের উত্তর দেয়নি বলে মনে হয়: হ্যাঁ আপনি থেকে নমুনা দেওয়ার জন্য এমসিসিএম ব্যবহার করতে পারেন । এমসিএমসি কোনও বিতরণ থেকে নমুনা ব্যবহার করতে ব্যবহার করা যেতে পারে যেখানে বিতরণটি কেবলমাত্র আনুপাতিকতার ধ্রুবক পর্যন্ত পরিচিত।$g(\omega)$

এছাড়াও, আপনি এমসি ইন্টিগ্রেশন ক্ষেত্রে বৈচিত্র্য হ্রাস কৌশলগুলি সন্ধান করতে চাইতে পারেন। স্ট্যানফোর্ডে আর্ট ওভেন থেকে পাওয়া বিনামূল্যে বইয়ের অধ্যায়গুলি হ'ল সংস্থানগুলির একটি দুর্দান্ত স্ব-সংস্থার সেট set বিশেষত অধ্যায় 8, 9 এবং 10।

সেখানে আপনি অভিযোজিত নমুনা, পুনরাবৃত্তি এবং অন্যান্য কৌশলগুলির গভীরতর চিকিত্সা পাবেন।