গুরুত্বের নমুনা দ্বারা উত্পাদিত মন্টি কার্লো অনুমানের ফলাফল

আমি গত এক বছর ধরে মোটামুটি কাছাকাছিভাবে গুরুত্বের নমুনা নিয়ে কাজ করছি এবং কয়েকটি মুক্ত-সমাপ্ত প্রশ্ন রয়েছে যার সাথে আমি কিছুটা সহায়তা পাব বলে আশা করি।

গুরুত্ব সহকারে নমুনা দেওয়ার প্রকল্পগুলির সাথে আমার ব্যবহারিক অভিজ্ঞতাটি হ'ল তারা মাঝেমধ্যে চমত্কার নিম্ন-বৈকল্পিক এবং কম-পক্ষপাত অনুমান উত্পাদন করতে পারে। আরও ঘন ঘন, তবে, তারা উচ্চ-ত্রুটির প্রাক্কলন উত্পাদন করে যা কম নমুনা বৈকল্পিক কিন্তু খুব উচ্চ পক্ষপাত আছে produce

আমি ভাবছি যে কী কী ধরণের কারণগুলি গুরুত্বের নমুনা অনুমানের বৈধতাকে প্রভাবিত করে তা ঠিক ব্যাখ্যা করতে পারে কিনা? বিশেষত, আমি ভাবছি:

1) যখন বাইসিং বিতরণ মূল বিতরণের মতো সমান সমর্থন করে তখন গুরুত্বের নমুনা অনুমানের সঠিক ফলাফলে রূপান্তরিত হওয়ার নিশ্চয়তা দেওয়া হয়? যদি তা হয় তবে বাস্তবে এটি এত দীর্ঘ সময় নেয় কেন?

২) গুরুত্বের নমুনার মাধ্যমে উত্পাদিত অনুমানের ত্রুটি এবং পক্ষপাতদুষ্ট বিতরণের "মানের" (যেমন এটি কতটা শূন্য-বৈচিত্র্য বিতরণের সাথে মিলে যায়) এর মধ্যে কোনও পরিমাণের সম্পর্ক রয়েছে?

৩) আংশিকভাবে 1) এবং 2 এর উপর ভিত্তি করে) - কোনও সাধারণ মন্টি কার্লো পদ্ধতির চেয়ে গুরুত্বপূর্ণ স্যাম্পলিং ডিজাইনটি ব্যবহার করার আগে আপনি কতটা বিতরণ সম্পর্কে জানতে হবে তা কত পরিমাণে তা প্রমাণ করার উপায় রয়েছে।

monte-carlo information-theory importance-sampling

— বার্ক ইউ।
সূত্র

উত্তর:

গুরুত্ব স্যাম্পলিংয়ের মৌলিক মন্টি কার্লো পদ্ধতির ঠিক একই বৈধতা রয়েছে। এর মূল অংশে এটি মৌলিক মন্টি কার্লো । প্রকৃতপক্ষে, এটি কেবল রেফারেন্স পরিমাপের একটি পরিবর্তন, থেকে

\int h (x) f (x) d x

$\int h(x) f(x) \text{d}x$

সুতরাং এই উভয় ক্ষেত্রেই বৃহত সংখ্যার আইনের মাধ্যমে কনভার্জেন্স গ্যারান্টিযুক্ত, অর্থাত্ আপনি

বা

থেকেঅনুকরণ করেন কিনা। এছাড়াও, শব্দটি যদি

\int h (x) \frac{f (x)}{g (x)} g (x) d x

$\int h(x) \dfrac{f(x)}{g(x)} g(x) \text{d}x$

f

$f$

g

$g$

সীমাবদ্ধ, কেন্দ্রীয় সীমাবদ্ধ উপপাদ্যটিও প্রযোজ্য এবং সংক্রমণের গতি

\int h^{2} (x) \frac{f^{2} (x)}{g (x)} d x

$\int h^2(x) \dfrac{f^2(x)}{g(x)} \text{d}x$

। যদি এটি "অনুশীলনে এত দীর্ঘ সময় নেয়", কারণ এটি সিএলটি-র উপরের ভেরিয়েন্স ফ্যাক্টরটি বেশ বড় হতে পারে। তবে, এবং আমি জোর দিয়ে বলছি, গতি নিয়মিত মন্টি কার্লো,

with) এর মতোই

O (1 / \sqrt{n})

$\text{O}(1/\sqrt{n})$

।

O (1 / \sqrt{n})

$\text{O}(1/\sqrt{n})$

একটি গুরুত্বের নমুনা বিতরণের গুণমানটি উপরের বৈকল্পিক ফ্যাক্টরের সাথে সরাসরি সম্পর্কিত, যা "শূন্য-বৈকল্পিক বিতরণ" এর সাথে সমানুপাতিক । $|h(x)|f(x)$

— সিয়ান
সূত্র

আমি সন্দেহ করি যে ওপি পক্ষপাতদুষ্ট ছোট ভেরিয়েন্স অনুমানের প্রতিবেদন করছে, তবে মনে হচ্ছে এটির স্বল্পতা রয়েছে যা তিনি স্ব-স্বাভাবিকীকরণের গুরুত্বের নমুনা সম্পর্কে জিজ্ঞাসা করছেন। হার্মোনিক গড় অনুমানকারী সম্পর্কে র‌্যাডফোর্ড নীলের বাতুলি একটি ভাল উদাহরণের জন্য দেখুন, এটি 0 ভেরিয়েন্সের সাথে স্যাম্পলিংয়ের একটি গুরুত্বপূর্ণ অনুমান যা গ্রহণ করে এবং বাজে কথা বলে। আমি নিশ্চিত নই যে এটি নিয়মিত গুরুত্বের নমুনায় কখনই ঘটে না, তবে এটি অবশ্যই বিরল।

— deinst

এমনকি যদি এটি ওপি'র উদ্দেশ্য নাও ছিল তবে আমি যখন স্ব-স্বাভাবিকীকরণ ভয়াবহভাবে ভুল হয়ে যাবে তখন কীভাবে তা নির্ধারণ করা উচিত সে সম্পর্কে কিছু পয়েন্টারগুলিতে আগ্রহী।

— deinst

@ আগেও আমি স্ব-স্বাভাবিকীকরণ পদ্ধতি এবং এর ক্ষতি সম্পর্কে অবগত ছিলাম না এজন্য আপনাকে ধন্যবাদ! যাই হোক না কেন, আমি মনে করি সমস্যাগুলি আমার আইএস স্কিমের বৈশিষ্ট্যের সাথে প্রাসঙ্গিক হতে পারে তাই আপনার কারও ধারনা থাকলে আমি এই ধারণাটি আরও কিছু অন্বেষণ করতে চাই।

— বার্ক ইউ।

g (x)

$g(x)$

M

$M$

x_{1} . . x_{M}

$x_1..x_M$

g^{*} (x) = h (x) f (x) / \int h (x) f (x) d x

$g^*(x) = h(x)f(x)/\int{h(x)f(x)dx}$

x_{1} . . x_{M}

$x_1..x_M$

\hat{g (x)}

$\hat{g(x)}$

\hat{g (x)}

$\hat{g(x)}$

N

$N$

y_{1} . . . y_{N}

$y_1...y_N$

একটি প্যারামিমেট্রিক অনুমান ব্যবহার করে মন্টি কার্লো পরিবর্তনশীলতার চেয়ে উচ্চতর ক্রমের পরিবর্তনশীলতার পরিচয় দেয়, তাই আমি এটির পরামর্শ দেব না।

— শি'আন

$f$ $g$

δ = \int h (x) f (x) d x

$\delta=\int h(x)f(x)\text{d}x$

x_{1}, \dots, x_{n}

$x_1,\ldots,x_n$

g (x)

$g(x)$

\hat{δ} = \frac{\sum_{i = 1}^{n} h (x) f (x) / g (x)}{\sum_{i = 1}^{n} f (x) / g (x)} .

$\hat{\delta}=\frac{\sum_{i=1}^n h(x)f(x)/g(x)}{\sum_{i=1}^n f(x)/g(x)}.$

X / Y

$X/Y$

ω (X) = f (x) / g (X)

$\omega(X)=f(x)/g(X)$

E_{g} (\hat{δ}) \approx δ + \frac{δ {Var}_{g} (ω (X)) - {Cov}_{g} (ω (X), h (X) ω (X))}{n}

$E_g(\hat{\delta})\approx \delta + \frac{\delta \text{Var}_g(\omega(X))-\text{Cov}_g(\omega(X),h(X)\omega(X))}{n}$

{Var}_{g} (\hat{δ}) \approx \frac{{Var}_{g} (h (X) ω (X)) - 2 δ {Cov}_{g} (ω (X), h (X) ω (X)) + δ^{2} {Var}_{g} (ω (X))}{n} .

$\text{Var}_g(\hat{\delta})\approx\frac{\text{Var}_g(h(X)\omega(X))-2\delta\text{Cov}_g(\omega(X),h(X)\omega(X))+\delta^2\text{Var}_g(\omega(X))}{n}.$

$\text{Var}_g(\omega(X))$ $\text{Cov}_g(\omega(X),h(X)\omega(X))$

— deinst
সূত্র

X / Y

$X/Y$

G

$G$

@ বার্কুস্টুন রাজধানী জি একটি ছোট টাইপের একটি টাইপ যা আমি তাড়াতাড়ি ঠিক করব। এক্স / ওয়াই এলোমেলো ভেরিয়েবলগুলির একটি সাধারণ অনুপাত। IIRC এই লিউ এর মন্টে কার্লো বইয়ে ব্যাখ্যা করা হয় (শিরোনাম মধ্যে বৈজ্ঞানিক সঙ্গে কিছু।)

— deinst

@ দিন: দুর্দান্ত পয়েন্ট! প্রকৃতপক্ষে, স্ব-স্বাভাবিককরণ সংস্করণগুলির বৈশিষ্ট্য নিরপেক্ষ গুরুত্বের নমুনা অনুমানকারীগুলির থেকে বেশ আলাদা। তত্ত্ব অনুসারে, ডিনোমিনেটরটি অনুমান করার জন্য একটি পৃথক গুরুত্বের নমুনা লাগবে।

— শি'আন