মহানগর-হেস্টিংস সংহত - কেন আমার কৌশল কাজ করছে না?

ধরুন আমার একটি ফাংশন যা আমি একীভূত করতে চাই অবশ্যই ধরে নিচ্ছি শেষ পয়েন্টগুলিতে শূন্যে যায়, কোনও ব্লুপআপস নেই, দুর্দান্ত ফাংশন। আমি যেভাবে মুগ্ধ করে চলেছি তা হ'ল মেট্রোপলিস-হেস্টিংস অ্যালগরিদম ব্যবহার করে নমুনা এর বিতরণ আনুপাতিক থেকে , যা স্বাভাবিককরণের ধ্রুবকটি অনুপস্থিত missing যাকে আমি বলব এবং তারপরে এই উপর কিছু পরিসংখ্যান গণনা করব : $g(x)$

\int_{- \infty}^{\infty} g (x) d x .

$\int_{-\infty}^\infty g(x) dx.$

g (x)

$g(x)$

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \dots, x_n$

g (x)

$g(x)$

N = \int_{- \infty}^{\infty} g (x) d x

$N = \int_{-\infty}^{\infty} g(x)dx$

p (x)

$p(x)$

f (x)

$f(x)$

x

$x$

\frac{1}{n} \sum_{i = 0}^{n} f (x_{i}) \approx \int_{- \infty}^{\infty} f (x) p (x) d x .

$\frac{1}{n} \sum_{i=0}^n f(x_i) \approx \int_{-\infty}^\infty f(x)p(x)dx.$

যেহেতু , আমি অবিচ্ছেদ্য থেকে বাতিল করার জন্য পরিবর্তে can form ফর্মের একটি অভিব্যক্তি তৈরি করতে পারি সুতরাং এই ক্ষেত্রের সাথে সাথে সংহত করে দেওয়া উচিত, আমার ফলাফল , যা আমি চাই উত্তরটি পেতে কেবল পারস্পরিক গ্রহণ করতে পারি। অতএব আমি আমার নমুনার পরিসর নিতে পারি (পয়েন্টটি সর্বাধিক কার্যকরভাবে ব্যবহার করতে) এবং আমি আঁকা প্রতিটি নমুনার জন্য let এইভাবে $p(x) = g(x)/N$ $f(x) = U(x)/g(x)$ $g$

\frac{1}{N} \int_{- \infty}^{\infty} \frac{U (x)}{g (x)} g (x) d x = \frac{1}{N} \int_{- \infty}^{\infty} U (x) d x .

$\frac{1}{N}\int_{-\infty}^{\infty}\frac{U(x)}{g(x)} g(x) dx = \frac{1}{N}\int_{-\infty}^\infty U(x) dx.$

U (x)

$U(x)$

1

$1$

1 / N

$1/N$

r = x_{max} - x_{min}

$r = x_\max - x_\min$

U (x) = 1 / r

$U(x) = 1/r$

U (x)

$U(x)$ আমার নমুনাগুলি সেই অঞ্চলের বাইরে শূন্যের দিকে মূল্যায়ন করে তবে সেই অঞ্চলে

1

$1$ তে সংহত করে । সুতরাং আমি যদি এখন প্রত্যাশিত মানটি গ্রহণ করি তবে আমার পাওয়া উচিত:

E [\frac{U (x)}{g (x)}] = \frac{1}{N} \approx \frac{1}{n} \sum_{i = 0}^{n} \frac{U (x)}{g (x)} .

$E\left [\frac{U(x)}{g(x)}\right ] = \frac{1}{N} \approx \frac{1}{n} \sum_{i=0}^n \frac{U(x)}{g(x)}.$

আমি নমুনা ফাংশন জন্য আর এই পরীক্ষার চেষ্টা $g(x) = e^{-x^2}$ । সেক্ষেত্রে আমি নমুনা তৈরি করতে মেট্রোপলিস-হেস্টিংস ব্যবহার করি না তবে নমুনা তৈরি করতে প্রকৃত সম্ভাবনাগুলি ব্যবহার করি rnorm(কেবলমাত্র পরীক্ষার জন্য)। আমি যে ফলাফলগুলি খুঁজছি তা আমি বেশিরভাগই পাই না। মূলত আমি যা গণনা করবো তার সম্পূর্ণ

\frac{1}{n (x_{max} - x_{min})} \sum_{i = 0}^{n} \frac{1}{e^{- x_{i}^{2}}} .

$\frac{1}{n(x_{\max} - x_\min)} \sum_{i=0}^n \frac{1}{ e^{-x_i^2}}.$ এটা আমার তত্ত্ব নির্ণয় করা উচিত

1 / \sqrt{π}

$1/\sqrt{\pi}$ । এটি কাছাকাছি আসে তবে এটি প্রত্যাশিতভাবে রূপান্তরিত হয় না, আমি কি কিছু ভুল করছি?

ys = rnorm(1000000, 0, 1/sqrt(2))
r = max(ys) - min(ys)
sum(sapply(ys, function(x) 1/( r * exp(-x^2))))/length(ys)
## evaluates to 0.6019741. 1/sqrt(pi) = 0.5641896

ক্লিফাবের জন্য সম্পাদনা করুন

কারনেই আমি সীমার ব্যবহার শুধু সহজে একটি ফাংশন যে অঞ্চলে, যেখানে আমার পয়েন্ট বেশি নন-জিরো, কিন্তু যে সংহত সংজ্ঞায়িত হয় ব্যাপ্তির উপর । ফাংশনটির সম্পূর্ণ স্পেসিফিকেশন হ'ল: এই অভিন্ন ঘনত্ব হিসাবে আমাকে ব্যবহার করতে হবে না । আমি আরও কিছু ঘনত্ব ব্যবহার করতে পারি যা সংহত হয়েছিল , উদাহরণস্বরূপ সম্ভাবনা ঘনত্ব তবে এটি স্বতন্ত্র নমুনার তুচ্ছ অর্থাত্ সংশ্লেষ করে $1$ $[-\infty, \infty]$

U (x) = {\begin{cases} \frac{1}{x_{max} - x_{সর্বনিম্ন}} & x_{সর্বোচ্চ} > এক্স > {এক্স}_{সর্বনিম্ন} \\ 0 & otherwise. \end{cases}

$U(x) = \begin{cases} \frac{1}{x_\max - x_\min} & x_\max > x > x_\min \\ 0 & \text{otherwise.} \end{cases}$

U (x)

$U(x)$

1

$1$

P (x) = \frac{1}{\sqrt{π}} e^{- x^{2}} .

$P(x) = \frac{1}{\sqrt{\pi}} e^{-x^2}.$

\frac{1}{n} \sum_{i = 0}^{n} \frac{P (x)}{g (x)} = \frac{1}{n} \sum_{i = 0}^{n} \frac{e^{- x_{i}^{2}} / \sqrt{π}}{e^{- x_{i}^{2}}} = \frac{1}{n} \sum_{i = 0}^{n} \frac{1}{\sqrt{π}} = \frac{1}{\sqrt{π}} .

$\frac{1}{n} \sum_{i=0}^n \frac{P(x)}{g(x)} = \frac{1}{n} \sum_{i=0}^n \frac{e^{-x_i^2}/\sqrt{\pi}}{e^{-x_i^2} } = \frac{1}{n} \sum_{i=0}^n \frac{1}{\sqrt{\pi}} = \frac{1}{\sqrt{\pi}}.$

আমি এই কৌশলটি অন্য সংস্থাগুলির জন্য চেষ্টা করতে পারি যা সংহত করে । তবে, আমি এখনও এটি জানতে চাই কেন এটি অভিন্ন বিতরণের জন্য কাজ করে না। $1$

— মাইক ফ্লাইন
সূত্র

শুধুমাত্র দ্রুত এটি সন্ধান করা, সুতরাং আপনি কেন পরিসীমা (এক্স) ব্যবহারের সিদ্ধান্ত নিয়েছিলেন তা ঠিক জানি না। শর্তসাপেক্ষে এটি বৈধ হওয়ার কারণে এটি অত্যন্ত অদক্ষ! সেই আকারের একটি নমুনার পরিসীমা আপনি গ্রহণ করতে পারেন এমন সবচেয়ে অস্থির পরিসংখ্যান সম্পর্কে is

— ক্লিফ এবি

@ ক্লিফ্যাব আমার পয়েন্টগুলি যে বিরতিতে রয়েছে তার বিরতিতে ইউনিফর্ম বিতরণকে সংজ্ঞায়িত করে পরিসীমাটি ব্যবহার করে আমার সম্পর্কে বিশেষ কিছু নেই। সম্পাদনাগুলি দেখুন।

— মাইক ফ্লায়েন

আরও পরে এটিকে আমি পরে দেখব। তবে বিবেচনা করার মতো কিছু হ'ল x যেন ইউনিফর্ম আরভি'র সমষ্টি, তবে , রেঞ্জ । তবে x যদি সাধারণ আরভি'র অ-দেগেনেরেটের সেট হয় তবে , ।

n \to \infty

$n \rightarrow \infty$

(x) \to 1

$(x) \rightarrow 1$

n \to \infty

$n \rightarrow \infty$

range (x) \to \infty

$\text{range}(x) \rightarrow \infty$

— ক্লিফ এবি

@ ক্লিফ্যাব আপনি হয়ত সঠিক ছিলেন বলে আমি মনে করি কারণটি ছিল যে অখণ্ডের সীমা নির্ধারণ করা হয়নি এবং সুতরাং অনুমানকারীর বৈচিত্রটি কখনই রূপান্তরিত হবে না ...

— মাইক ফ্লিন

এটি একটি অত্যন্ত আকর্ষণীয় প্রশ্ন, যা একই ঘনত্ব থেকে এমসিসিএম আউটপুটের উপর ভিত্তি করে ঘনত্ব এর স্বাভাবিককরণের ধ্রুবককে প্রায় ঘনিষ্ঠ করার বিষয়ে সম্পর্কিত । (একটি পার্শ্ব মন্তব্য কি যে সঠিক ভাবনাটি হলো এই যে হয় সমাকলনযোগ্য হয়, অনন্ত এ শূন্য যাচ্ছে যথেষ্ট নয়।) $g$ $g$ $g$

আমার মতে, আপনার পরামর্শ সম্পর্কে এই বিষয়ে সর্বাধিক প্রাসঙ্গিক এন্ট্রি হ'ল গেফ্যান্ড এবং ডি (1994, জেআরএসএস বি ) এর একটি কাগজ , যেখানে লেখকরা থেকে উত্পন্ন করার সময় । এই কাগজের একটি ফলাফল হ'ল, কোনও সম্ভাবনার ঘনত্বের জন্য [এটি আপনার সমতুল্য ] যেমন নিম্নলিখিত পরিচয় দেখায় যে থেকে প্রাপ্ত একটি নমুনা একটি উত্পাদন করতে পারে

\int_{X} g (x) d x

$\int_\mathcal{X} g(x) \,\text{d}x$

p (x) \propto g (x)

$p(x)\propto g(x)$

α (x)

$\alpha(x)$

U (x)

$U(x)$

{x; α (x) > 0} \subset {x; g (x) > 0}

$\{x;\alpha(x)>0\}\subset\{x;g(x)>0\}$

\int_{X} \frac{α (x)}{g (x)} p (x) d x = \int_{X} \frac{α (x)}{N} d x = \frac{1}{N}

$\int_\mathcal{X} \dfrac{\alpha(x)}{g(x)}p(x) \,\text{d}x=\int_\mathcal{X} \dfrac{\alpha(x)}{N} \,\text{d}x=\dfrac{1}{N}$

p

$p$ নমুনা অনুমানকারী ta দ্বারা এর নিরপেক্ষ মূল্যায়ন স্পষ্টতই, অনুমানকারী পারফরম্যান্স (রূপান্তর গতি, একটি বৈকল্পের অস্তিত্ব, এবং টিসি।) পছন্দ উপর নির্ভর করে [ যদিও এর প্রত্যাশা না থাকে]। বায়েসীয় কাঠামোর ক্ষেত্রে, গেল্ফ্যান্ড এবং ডাই দ্বারা সমর্থন করা একটি পছন্দ হল d , পূর্বের ঘনত্ব। এটি যেখানে থেকে সম্ভাবনা ফাংশন যেখানে

1 / N

$1/N$

\hat{η} = \frac{1}{n} \sum_{i = 1}^{n} \frac{α (x_{i})}{g (x_{i})} x_{i} \overset{iid}{\sim} p (x)

$\hat\eta=\frac{1}{n}\sum_{i=1}^n \dfrac{\alpha(x_i)}{g(x_i)}\qquad x_i\stackrel{\text{iid}}{\sim}p(x)$

\hat{η}

$\hat\eta$

α

$\alpha$

α = π

$\alpha=\pi$

\frac{α (x)}{g (x)} = \frac{1}{ℓ (x)}

$\dfrac{\alpha(x)}{g(x)} = \dfrac{1}{\ell(x)}$

ℓ (x)

$\ell(x)$

g (x) = π (x) ℓ (x)

$g(x)=\pi(x)\ell(x)$ । দুর্ভাগ্যক্রমে, ফলাফল নির্ধারণকারী the হরমোনিক গড় অনুমানক , যাকে এ পর্যন্ত সবচেয়ে খারাপ মন্টি কার্লো অনুমানকারীও বলা হয় র‌্যাডফোর্ড নীল, টরন্টো বিশ্ববিদ্যালয় থেকে। সুতরাং এটি সর্বদা সুন্দরভাবে কাজ করে না। এমনকি খুব কমই।

\hat{N} = \frac{n}{\sum_{i = 1}^{n} 1 / ℓ (x_{i})}

$\hat{N}=\dfrac{n}{\sum_{i=1}^n1\big/\ell(x_i)}$

আপনার নমুনার ব্যাপ্তি এবং সেই পরিসীমাটির ইউনিফর্মটি হারমোনিক গড় ইস্যুটির সাথে সংযুক্ত রয়েছে: কেবলমাত্র অংকের উপস্থিত হয় (আমার সন্দেহ হয় যে এটি সবসময় আনবাউন্ডেড সাপোর্টের ক্ষেত্রে হতে পারে!) এবং এটি খুব ধীরে ধীরে স্বাভাবিক ধ্রুবকে রূপান্তরিত করে। উদাহরণস্বরূপ, আপনি যদি আপনার কোডটি বেশ কয়েকবার পুনরায় চালু করেন তবে আপনি 10⁶ পুনরাবৃত্তির পরে খুব আলাদা সংখ্যাসূচক মান পাবেন। এর অর্থ আপনি উত্তরের পরিমাণকেও বিশ্বাস করতে পারবেন না। $(\min(x_i),\max(x_i))$ $\exp\{x^2\}$

এই অসীম বৈকল্পিক ইস্যুটির একটি জেনেরিক ফিক্স হ'ল জন্য আরও ঘনত্বের ঘনত্বের জন্য ব্যবহার করা, উদাহরণস্বরূপ আপনার নমুনার কোয়ার্টাইলগুলি , কারণ তখন এই ব্যবধানের উপর নিম্ন-সীমাবদ্ধ থাকে। $\alpha$ $(q_{.25}(x_i),q_{.75}(x_i))$ $g$

আপনার কোডটি এই নতুন ঘনত্বের সাথে মানিয়ে নেওয়ার সময়, আনুমানিক : $1/\sqrt{\pi}$

ys = rnorm(1e6, 0, 1/sqrt(2))
r = quantile(ys,.75) - quantile(ys,.25)
yc=ys[(ys>quantile(ys,.25))&(ys<quantile(ys,.75))]
sum(sapply(yc, function(x) 1/( r * exp(-x^2))))/length(ys)
## evaluates to 0.5649015. 1/sqrt(pi) = 0.5641896

আমরা ড্যারেন ওয়ারেথ এবং জিন-মিশেল মারিনের সাথে দুটি গবেষণাপত্রে বিশদটিতে এই পদ্ধতিটি নিয়ে আলোচনা করি ।

— সিয়ান
সূত্র