মন্টি কার্লো দিয়ে কুলব্যাক লেবেলার (কেএল) বিভাজনের অনুমান করুন

10

আমি দুটি অবিচ্ছিন্ন বিতরণ চ এবং জি এর মধ্যে কেএল বৈচিত্রের অনুমান করতে চাই। তবে, আমি f বা g এর জন্য ঘনত্বটি লিখতে পারি না can't আমি কিছু পদ্ধতি (উদাহরণস্বরূপ, মার্কভ চেইন মন্টি কার্লো) এর মাধ্যমে এফ এবং জি উভয় থেকে নমুনা নিতে পারি।

কেএল থেকে এফ থেকে জি পর্যন্ত বিভক্তির সংজ্ঞা দেওয়া হয়েছে

D_{K L} (f | | g) = \int_{- \infty}^{\infty} f (x) \log (\frac{f (x)}{g (x)}) d x

$D_{KL}(f || g) = \int_{-\infty}^{\infty} f(x) \log\left(\frac{f(x)}{g(x)}\right) dx$

এটি এর সাথে এর প্রত্যাশা যাতে আপনি কিছু মন্টি কার্লো অনুমান করতে পারেন $\log\left(\frac{f(x)}{g(x)}\right)$

\frac{1}{N} \sum_{i}^{N} \log (\frac{f (x_{i})}{g (x_{i})})

$\frac{1}{N}\sum_i^N \log\left(\frac{f(x_i)}{g(x_i)}\right)$

যেখানে আমি সূচীকরণ করি N নমুনাগুলি যেগুলি আই (1, ..., এন) এর জন্য চ (যেমন থেকে অঙ্কিত হয়েছে $x_i \sim f()$

তবে, যেহেতু আমি চ () এবং জি () জানি না, তাই আমি এই মন্টি কার্লো অনুমানটিও ব্যবহার করতে পারি না। এই পরিস্থিতিতে কেএল অনুমানের মানক উপায় কী?

সম্পাদনা: আমি f () বা g () এর জন্য অস্বাভাবিক ঘনত্ব জানি না

kullback-leibler

— frelk
সূত্র

আপনি কি ecdfs ব্যবহার বিবেচনা করেছেন?

— টবি

এটি কাজ করবে তবে এফ এবং জি (ঘনিষ্ঠ বা নিকট লেজ) এর হার্ড পছন্দ করার জন্য এটি নির্বিচারে ধীর হতে পারে। আপনি যদি লেজগুলি থেকে দূরে স্যাম্পলগুলিকে উপেক্ষা করার সিদ্ধান্ত নেন তবে রকের উপরের দিকে আবদ্ধ হওয়ার সাথে আপনার ভাগ্য বেশি।

— খ্রিস্টান চ্যাপম্যান

মূলত একটি অনুলিপি: stats.stackexchange.com/questions/211175/…

— kjetil b halvorsen

7

আমি ধরে নিয়েছি আপনি একটি সাধারণকরণ ধ্রুবক পর্যন্ত এবং মূল্যায়ন করতে পারেন । বোঝাতে এবং । $f$ $g$ $f(x) = f_u(x)/c_f$ $g(x) = g_u(x)/c_g$

ব্যবহার করা যেতে পারে এমন একটি ধারাবাহিক অনুমানকারী হ'ল যেখানে অনুপাতের জন্য একটি গুরুত্বপূর্ণ নমুনা । আপনি সম্ভবত এখানে ব্যবহারকারীকে এবং জন্য যান্ত্রিক ঘনত্বের হিসাবে এবং যথাক্রমে, এবং unnormalized ঘনত্বের লগ অনুপাত লক্ষ্য।

\hat{D_{K L}} (f | | g) = {[n^{- 1} \sum_{j} f_{u} (x_{j}) / π_{f} (x_{j})]}^{- 1} \frac{1}{N} \sum_{i}^{N} [\log (\frac{f_{u} (z_{i})}{g_{u} (z_{i})}) \frac{f_{u} (z_{i})}{π_{r} (z_{i})}] - \log (\hat{r})

$\widehat{D_{KL}}(f || g) = \left[n^{-1} \sum_j f_u(x_j)/\pi_f(x_j)\right]^{-1}\frac{1}{N}\sum_i^N \left[\log\left(\frac{f_u(z_i)}{g_u(z_i)}\right)\frac{f_u(z_i)}{\pi_r(z_i)}\right] - \log (\hat{r})$

\begin{matrix} (1) & \hat{r} = \frac{1 / n}{1 / n} \frac{\sum_{j} f_{u} (x_{j}) / π_{f} (x_{j})}{\sum_{j} g_{u} (y_{j}) / π_{g} (y_{j})} . \end{matrix}

$\hat{r} = \frac{1/n}{1/n}\frac{\sum_j f_u(x_j)/\pi_f(x_j)}{\sum_j g_u(y_j)/\pi_g(y_j)} \tag{1}.$

c_{f} / c_{g}

$c_f/c_g$

π_{f}

$\pi_f$

π_{g}

$\pi_g$

f_{u}

$f_u$

g_{u}

$g_u$

π_{r}

$\pi_r$

সুতরাং আসুন , , এবং । (1) এর সংখ্যক তে । ডিনোমিনেটর তে । অনুপাতটি অবিচ্ছিন্ন ম্যাপিং উপপাদনের সাথে সামঞ্জস্যপূর্ণ। অনুপাতের লগটি আবার অবিচ্ছিন্ন ম্যাপিংয়ের সাথে সামঞ্জস্যপূর্ণ। $\{x_i\} \sim \pi_f$ $\{y_i\} \sim \pi_g$ $\{z_i\} \sim \pi_r$ $c_f$ $c_g$

অনুমানের অন্যান্য অংশ সম্পর্কে, বড় সংখ্যক আইন দ্বারা।

\frac{1}{N} \sum_{i}^{N} [\log (\frac{f_{u} (z_{i})}{g_{u} (z_{i})}) \frac{f_{u} (z_{i})}{π_{r} (z_{i})}] \overset{as}{\to} c_{f} E [\log (\frac{f_{u} (z_{i})}{g_{u} (z_{i})})]

$\frac{1}{N}\sum_i^N \left[\log\left(\frac{f_u(z_i)}{g_u(z_i)}\right)\frac{f_u(z_i)}{\pi_r(z_i)}\right] \overset{\text{as}}{\to} c_f E\left[ \log\left(\frac{f_u(z_i)}{g_u(z_i)}\right) \right]$

আমার অনুপ্রেরণা নিম্নলিখিত:

\begin{aligned} D_{K L} (f | | g) & = \int_{- \infty}^{\infty} f (x) \log (\frac{f (x)}{g (x)}) d x \\ = \int_{- \infty}^{\infty} f (x) {\log [\frac{f_{u} (x)}{g_{u} (x)}] + \log [\frac{c_{g}}{c_{f}}]} d x \\ = E_{f} [\log \frac{f_{u} (x)}{g_{u} (x)}] + \log [\frac{c_{g}}{c_{f}}] \\ = c_{f}^{- 1} E_{π_{r}} [\log \frac{f_{u} (x)}{g_{u} (x)} \frac{f_{u} (x)}{π_{r} (x)}] + \log [\frac{c_{g}}{c_{f}}] . \end{aligned}

$\begin{align*} D_{KL}(f || g) &= \int_{-\infty}^{\infty} f(x) \log\left(\frac{f(x)}{g(x)}\right) dx \\ &= \int_{-\infty}^{\infty} f(x)\left\{ \log \left[\frac{f_u(x)}{g_u(x)} \right] + \log \left[\frac{c_g}{c_f} \right]\right\} dx \\ &= E_f\left[\log \frac{f_u(x)}{g_u(x)} \right] + \log \left[\frac{c_g}{c_f} \right] \\ &= c_f^{-1} E_{\pi_r}\left[\log \frac{f_u(x)}{g_u(x)}\frac{f_u(x)}{\pi_r(x)} \right] + \log \left[\frac{c_g}{c_f} \right]. \end{align*}$ সুতরাং আমি এটিকে কেবল ট্র্যাকটেবল টুকরো টুকরো টুকরো করলাম।

কীভাবে সমপাতের অনুপাত অনুকরণ করতে যায় সে সম্পর্কে আরও ধারণাগুলির জন্য, আমি একটি কাগজ পেয়েছি যার কয়েকটি রয়েছে: https://projecteuclid.org/download/pdf_1/euclid.aos/1031594732

— টেলর
সূত্র

(+1) এখানে লক্ষ্য করার মতো বিষয় যে যদি আপনি যে নমুনাটি সংগ্রহ করছেন এবং / বা মাত্রার সংখ্যাটি মোটামুটি পরিমাণের তুলনায় লক্ষ্য বিতরণে আরও বেশি মোটা লেজ থাকে তবে যদি নমুনা বন্টনটি আরও উচ্চতর বৈকল্পিক (এমনকি অসীম বৈকল্পিক) থাকতে পারে।

— ডেভিড জে হ্যারিস

@ ডেভিডজে.হরিস খুব সত্য

— টেলর

6

এখানে আমি ধরে নিয়েছি যে আপনি কেবলমাত্র মডেলগুলি থেকে নমুনা নিতে পারেন; একটি অস্বাভাবিক ঘনত্ব ফাংশন উপলভ্য নয়।

আপনি যে লিখুন

D_{K L} (f | | g) = \int_{- \infty}^{\infty} f (x) \log (\underset{=: r}{\underset{⏟}{\frac{f (x)}{g (x)}}}) d x,

$D_{KL}(f || g) = \int_{-\infty}^{\infty} f(x) \log\left(\underbrace{\frac{f(x)}{g(x)}}_{=: r}\right) dx,$

যেখানে আমি সম্ভাব্যতার অনুপাতটিকে বলে সংজ্ঞায়িত করেছি । অ্যালেক্স স্মোলা লিখেছেন, যদিও ভিন্ন প্রসঙ্গে আপনি কেবল শ্রেণিবদ্ধকে প্রশিক্ষণ দিয়ে এই অনুপাতগুলি "সহজেই" অনুমান করতে পারেন। আসুন ধরে নেওয়া যাক আপনি একটি শ্রেণিবদ্ধ , যা আপনাকে সম্ভাব্যতা বলতে পারে যে একটি পর্যবেক্ষণ দ্বারা উত্পাদিত হয়েছে । দ্রষ্টব্য যে । তারপর: $r$ $p(f|x)$ $x$ $f$ $p(g|x) = 1 - p(f|x)$

r = \frac{p (x | f)}{p (x | g)} = \frac{p (f | x) p (x) p (g)}{p (g | x) p (x) p (f)} = \frac{p (f | x)}{p (g | x)},

$r = \frac{p(x|f)}{p(x|g)} \\ = \frac{p(f|x) {p(x) p(g)}}{p(g|x)p(x) p(f)} \\ = \frac{p(f|x)}{p(g|x)},$

যেখানে প্রথম পদক্ষেপটি বেয়েসের কারণে এবং শেষেরটি অনুমানটি থেকে অনুসরণ করে যে । $p(g) = p(f)$

এই জাতীয় শ্রেণীবদ্ধকারী পাওয়া দুটি কারণে যথেষ্ট সহজ হতে পারে।

প্রথমত, আপনি স্টোকাস্টিক আপডেট করতে পারেন। এর অর্থ হ'ল আপনি যদি গ্রেডিয়েন্ট-ভিত্তিক অপটিমাইজারটি ব্যবহার করছেন, যেমন লজিস্টিক রিগ্রেশন বা নিউরাল নেটওয়ার্কগুলির জন্য সাধারণ, আপনি কেবল প্রতিটি এবং থেকে একটি নমুনা আঁকতে এবং একটি আপডেট করতে পারেন। $f$ $g$

দ্বিতীয়ত, যেমন আপনার ভার্চুয়ালি সীমাহীন ডেটা রয়েছে – আপনি কেবলমাত্র এবং মৃত্যুর নমুনা দিতে পারেন over আপনাকে অতিরিক্ত ফিট বা পছন্দগুলি নিয়ে চিন্তা করতে হবে না। $f$ $g$

— bayerj
সূত্র

0

@ বেয়ারজ দ্বারা উল্লিখিত সম্ভাব্য শ্রেণিবদ্ধ পদ্ধতি ছাড়াও, আপনি [1-2] এ প্রাপ্ত কেএল ডাইভার্জেন্সের নীচের সীমানাটিও ব্যবহার করতে পারেন:

K L [f ‖ g] \geq sup_{T} {E_{x \sim f} [T (x)] - E_{x \sim g} [\exp (T (x) - 1)]},

$\mathrm{KL}[f \Vert g] \ge \sup_{T} \left\{ \mathbb{E}_{x\sim f}\left[ T(x) \right] - \mathbb{E}_{x\sim g} \left[ \exp \left( T(x) - 1 \right)\right] \right\},$ যেখানে একটি স্বেচ্ছাসেবী ফাংশন। কিছু হালকা অবস্থার অধীনে, বাঁধনগুলি এর জন্য শক্ত:

T : X \to R

$T:\mathcal{X}\to\mathbb{R}$

T (x) = 1 + \ln [\frac{f (x)}{g (x)}]

$T(x) = 1 + \ln \left[ \frac{f(x)}{g(x)} \right]$

এবং মধ্যে কেএল বিচ্যুতি অনুমান করার জন্য , আমরা ফাংশনটিতে নিম্ন সীমাবদ্ধ রিটটি সর্বাধিক করি । $f$ $g$ $T(x)$

তথ্যসূত্র:

[১] এনগুইন, এক্স।, ওয়েনরাইট, এমজে এবং জর্ডান, এমআই, ২০১০. উত্তোলনের কার্যকারিতা এবং উত্তল ঝুঁকি হ্রাসের দ্বারা সম্ভাবনা অনুপাত অনুমান করা। তথ্য থিয়োরির আইইইই লেনদেন, 56 (11), পিপি 5847-5861।

[২] নওজিন, এস।, সিসেক, বি। এবং টোমোকা, আর।, ২০১. f নিউরাল ইনফরমেশন প্রসেসিং সিস্টেমের অগ্রগতিগুলিতে (পৃষ্ঠা 271-279)।

— কুওন
সূত্র