একটি ডিরিচলেট প্রক্রিয়াতে ঘনত্বের পরামিতিটির উপর অগ্রাধিকার স্থাপন

এর বেশিরভাগ অংশ ব্যাকগ্রাউন্ড, যদি আপনি ইতিমধ্যে ডিরিচলেট প্রক্রিয়া মিশ্রণ সম্পর্কে যথেষ্ট জানেন তবে শেষ পর্যন্ত যান । ধরুন আমি অর্থাত Dirichlet প্রসেস মিশ্রণ, থেকে আসছে দিন হিসাবে কিছু ডেটা মডেলিং করছি এবং এর শর্তাধীন অনুমান $F \sim \mathcal D(\alpha H)$ $F$

Y_{i} \overset{i i d}{\sim} \int f (y | θ) F (d θ) .

$Y_i \stackrel {iid}{\sim} \int f(y | \theta) F(d\theta).$

এখানে এবং পূর্বের বেস পরিমাপ। দেখা যাচ্ছে যে যদি প্রতিটি পর্যবেক্ষণের জন্য , যদি আমি সম্পর্কিত সুপ্ত জানি , তবে এই মডেলের সম্ভাবনা হ'ল যেখানে এর স্বতন্ত্র মানগুলির সংখ্যা হয় (এলোমেলো পরিমাপ প্রায় পৃথক পৃথক)। এসকোবার এবং পশ্চিমগুলি নমুনা দেওয়ার জন্য নিম্নলিখিত স্কিমটি বিকাশ করে prior আগে গামা ব্যবহার করে; প্রথম, তারা লিখুন $\alpha > 0$ $\alpha H$ $Y_i$ $\theta_i$ $\alpha$

L (α | t) \propto \frac{α^{t} Γ (α)}{Γ (α + n)}

$L(\alpha | t) \propto \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)}$

t

$t$

θ_{i}

$\theta_i$

F

$F$

α

$\alpha$

π (α | t) \propto π (α) \frac{α^{t} Γ (α)}{Γ (α + n)} \propto π (α) α^{t - 1} (α + n) B (α + 1, n) = π (α) α^{t - 1} (α + n) \int_{0}^{1} x^{α} (1 - x)^{n - 1} d x,

$\pi(\alpha | t) \propto \pi(\alpha) \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)} \propto \pi(\alpha)\alpha^{t - 1}(\alpha + n){B(\alpha + 1, n)} \\= \pi(\alpha)\alpha^{t - 1} (\alpha + n) \int_0^1 x^\alpha(1 - x)^{n - 1} \ dx,$ যেখানে

B (\cdot, \cdot)

$B(\cdot, \cdot)$ বিটা ফাংশন। তারপরে নোট করুন যে আমরা যদি একটি সুপ্ত প্যারামিটার

প্রবর্তন করি

X \sim Beta (α + 1, n)

$X \sim \mbox{Beta}(\alpha + 1, n )$ তবে সম্ভাবনা গামা বিতরণের মিশ্রণের রূপ ধারণ করে এবং এটি একটি গিবস নমুনা লেখার জন্য ব্যবহার করে।

এখন আমার প্রশ্ন। কেন আমরা কেবল লিখতে পারি না

L (α | t) α \frac{α^{টি} Γ (α)}{Γ (α + + এন)} = \frac{α^{টি} Γ (এন) Γ (α)}{Γ (α + + এন) Γ (এন)} = α^{টি} বি (α, এন) Γ (এন) α α^{টি} \int_{0}^{1} {এক্স}^{α - 1} (1 - এক্স)^{এন - 1} ঘ এক্স,

$L(\alpha | t) \propto \frac{\alpha^t \Gamma(\alpha)}{\Gamma(\alpha + n)} = \frac{\alpha^t \Gamma(n)\Gamma(\alpha)}{\Gamma(\alpha + n)\Gamma(n)} = \alpha^t B(\alpha, n) \Gamma(n) \\ \propto \alpha^t \int_0 ^ 1 x^{\alpha - 1} (1 - x)^{n - 1} \ dx,$ এবং গামা বিতরণের মিশ্রণটি ব্যবহার না করে একক গামা বিতরণ ব্যবহার করবেন? যদি আমরা

প্রবর্তন

X \sim Beta (α, n)

$X \sim \mbox{Beta}(\alpha, n)$ করি তবে আমি মিশ্রণটি ব্যবহার না করেই একই জিনিসটি করতে সক্ষম হব না?

আরো বিস্তারিত জানার আরো বিস্তারিত জানার জন্য সম্পাদনা: কিছু শূন্যস্থান পূরণ করার জন্য, Escobar মধ্যে যুক্তি ও পশ্চিম যে, লেট আকৃতি সঙ্গে একটি গামা ডিস্ট্রিবিউশন আছে মানে , এবং তাই আমরা পরিচয় করিয়ে দিতে পারি একটি সুপ্ত যাতেসম্পূর্ণ শর্তাদি জন্য একটি for বিতরণ এবং এবং একটি এর মিশ্রণ $\alpha$ $a$ $a / b$

π (α | টি) α α^{একটি + + টি - 2} (α + + এন) ই^{- খ α} \int_{0}^{1} {এক্স}^{α} (1 - এক্স)^{এন - 1} ঘ এক্স

$\pi(\alpha | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha} \int_0 ^ 1 x^{\alpha} (1 - x)^{n - 1} \ dx$

X

$X$

π (α, এক্স | টি) α α^{একটি + + টি - 2} (α + + এন) ই^{- খ α} {এক্স}^{α} (1 - এক্স)^{এন - 1} ।

$\pi(\alpha, x | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha}x^{\alpha}(1 - x)^{n - 1}.$

Beta (α + 1, n)

$\mbox{Beta}(\alpha + 1, n)$

X

$X$

G (a + t, b - \log (x))

$\mathcal G(a + t, b - \log(x))$

G (a + t - 1, b - \log (x))

$\mathcal G(a + t - 1, b - \log(x))$ জন্য ।

α

$\alpha$

একই যুক্তি দ্বারা, আমি একই ফলাফল পেয়েছেন কিন্তু জন্য এবং জন্য । এটা আমার কাছে সহজ মনে হয়; কেন তারা কেবল তা করে না? $\mbox{Beta}(\alpha, n)$ $X$ $\mathcal G(a + t, b - \log(x))$ $\alpha$

bayesian nonparametric-bayes

— লোক
সূত্র

আপনি যা লিখেছেন তা কীভাবে এস্কোবার এবং পশ্চিমের থেকে আলাদা তা আমি দেখতে পাচ্ছি না।

\begin{array}{rcl} π (α | t) & \propto & π (α) π (t | α) = π (α) L (α | t) \\ \propto & π (α) α^{t} \frac{Γ (α)}{Γ (α + n)} \\ \propto & π (α) α^{t} \frac{Γ (α) Γ (n)}{Γ (α + n)} \\ = & π (α) α^{t} B (α, n) \\ = & π (α) α^{t - 1} (α + n) B (α + 1, n) \end{array}

$\begin{eqnarray*} \pi(\alpha|t) &\propto& \pi(\alpha)\pi(t|\alpha) = \pi(\alpha)L(\alpha|t) \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)}{\Gamma(\alpha+n)} \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha+n)} \\ &=& \pi(\alpha)\alpha^tB(\alpha,n) \\ &=& \pi(\alpha)\alpha^{t-1}(\alpha+n)B(\alpha+1,n) \end{eqnarray*}$ যেখানে দ্বিতীয় থেকে শেষ লাইনটি আপনার কীভাবে রয়েছে এবং শেষ লাইনটি কীভাবে E&W আছে এটি এবং এগুলি সমান, যেহেতু এন) \ শেষ {একনারায় *} এটিকে স্মরণ করে

\begin{array}{rcl} α বি (α, এন) & = & α \frac{Γ (α) Γ (এন)}{Γ (α + + এন)} = \frac{(α Γ (α)) Γ (এন) (α + + এন)}{(Γ (α + + এন) (α + + এন))} = (α + + এন) \frac{Γ (α + + 1) Γ (এন)}{Γ (α + + এন + + 1)} \\ = & (α + + এন) বি (α + + 1, এন) \end{array}

$\begin{eqnarray*} \alpha B(\alpha,n) &=& \alpha \frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha + n)} = \frac{(\alpha\Gamma(\alpha))\Gamma(n)(\alpha+n)}{(\Gamma(\alpha + n)(\alpha+n))} = (\alpha+n) \frac{\Gamma(\alpha + 1)\Gamma(n)}{\Gamma(\alpha + n + 1)} \\ &=& (\alpha+n)B(\alpha+1,n) \end{eqnarray*}$

Γ (z + 1) = z Γ (z)

$\Gamma(z+1) = z\Gamma(z)$ ।

আমি অনুমান করছি যে তারা আপনার চেয়ে তাদের গঠনের পক্ষে অগ্রাধিকার পেয়েছে কারণ এতে কেবল বিটা ফাংশন শব্দ রয়েছে, বিটা এবং গামার পণ্য নয়, তবে আমি ভুল হতে পারি। আপনার লেখা শেষ বিটটি আমি পুরোপুরি অনুসরণ করি নি, আপনি কীভাবে আপনার স্যাম্পলিংয়ের প্রকল্প সম্পর্কে আরও সুস্পষ্ট হতে পারেন?

— ড্যানিয়েল জনসন
সূত্র

আমার পোস্টে অতিরিক্ত বিশদ যুক্ত হয়েছে।

— লোক