কীভাবে বোঝবেন যে এমএলই অফ ভেরিয়েন্স গাউসীয় বিতরণে পক্ষপাতদুষ্ট?

পিআরএমএল চিত্রটি কীভাবে কোনও গাউসের বৈচিত্র নির্ধারণের সর্বাধিক সম্ভাবনা ব্যবহার করে পক্ষপাত ঘটে ias

আমি পিআরএমএল পড়ছি এবং আমি ছবিটি বুঝতে পারি না। আপনি দয়া করে ছবিটি বোঝার জন্য কিছু ইঙ্গিত দিতে পারেন এবং কেন কোনও গাউসীয় বিতরণে এমএলই বৈষম্যমূলক হয়?

সূত্র 1.55: সূত্র 1.56

μ_{M L E} = \frac{1}{N} \sum_{n = 1}^{N} x_{n}

$\mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n$

σ_{M L E}^{2} = \frac{1}{N} \sum_{n = 1}^{N} (x_{n} - μ_{M L E})^{2}

$\sigma_{MLE}^2=\frac{1}{N}\sum_{n=1}^{N}(x_n-\mu_{MLE})^2$

machine-learning self-study maximum-likelihood

— ningyuwhut
সূত্র

স্ব-অধ্যয়নের ট্যাগ যুক্ত করুন।

— স্ট্যাটাসস্টুডেন্ট

কেন প্রতিটি গ্রাফের জন্য, কেবল একটি নীল ডাটা পয়েন্ট আমার কাছে দৃশ্যমান? বিটিডব্লিউ, যখন আমি এই পোস্টে দুটি সাবস্ক্রিপ্টের ওভারফ্লো সম্পাদনা করার চেষ্টা করছিলাম, সিস্টেমটির জন্য "কমপক্ষে 6 টি অক্ষর" দরকার ... বিব্রতকর।

— Zhanxiong

আপনি আসলে কী বুঝতে চান, ছবি বা কেন এমআরএর অনুমানের পক্ষপাতদুষ্ট? পূর্ববর্তীটি খুব বিভ্রান্তিকর তবে আমি পরবর্তীটি ব্যাখ্যা করতে পারি।

— ট্রাইনাডোস্ট্যাট

হ্যাঁ, আমি নতুন সংস্করণে পেয়েছি প্রতিটি গ্রাফের দুটি নীল তথ্য রয়েছে, আমার পিডিএফ পুরানো

— নিংয়ে

আমার প্রশ্নটির জন্য দুঃখিত ট্রাইনাডোস্ট্যাট স্পষ্ট নয়। আমি যা জানতে চাই তা হল কেন বৈকল্পিকের এমএলই অনুমান পক্ষপাতমূলক। এবং কীভাবে এটি এই গ্রাফটিতে প্রকাশ করা হয়েছে

— নিংইয়ু

স্বজ্ঞা

$E[\bar{x}^2]$ $\mu^2$ $E[\bar{x}^2]$ $\mu^2$ $\mu$ $\bar{x}$ $\mu$ একটি নেতিবাচক সংখ্যা দ্বারা) এছাড়াও বর্গক্ষেত্র হয় এবং এইভাবে ইতিবাচক হয়ে ওঠে। সুতরাং, এটি আর বাতিল হয় না এবং অতিরিক্ত-অনুমানের জন্য সামান্য প্রবণতা রয়েছে।

$x^2$ $\mu^2$ $E[x^2]$

আসুন প্রমাণ করুন যে কোনও আইডির নমুনার জন্য এমএলই বৈষম্যযুক্ত is তারপরে আমরা বিশদভাবে আমাদের অন্তর্দৃষ্টি যাচাই করব।

প্রমাণ

$\hat{\sigma}^2 = \frac{1}{N}\sum_{n = 1}^N (x_n - \bar{x})^2$

$E[\hat{\sigma}^2] \neq \sigma^2$

E [{\hat{σ}}^{2}] = E [\frac{1}{N} \sum_{n = 1}^{N} (x_{n} - \bar{x})^{2}] = \frac{1}{N} E [\sum_{n = 1}^{N} (x_{n}^{2} - 2 x_{n} \bar{x} + {\bar{x}}^{2})] = \frac{1}{N} E [\sum_{n = 1}^{N} x_{n}^{2} - \sum_{n = 1}^{N} 2 x_{n} \bar{x} + \sum_{n = 1}^{N} {\bar{x}}^{2}]

$E[\hat{\sigma}^2] = E[\frac{1}{N}\sum_{n = 1}^N (x_n - \bar{x})^2] = \frac{1}{N}E[\sum_{n = 1}^N (x_n^2 - 2x_n\bar{x} + \bar{x}^2)] = \frac{1}{N}E[\sum_{n = 1}^N x_n^2 - \sum_{n = 1}^N 2x_n\bar{x} + \sum_{n = 1}^N \bar{x}^2]$

$\sum_{n = 1}^N x_n = N\bar{x}$ $\sum_{n = 1}^N \bar{x}^2 = N\bar{x}^2$

\frac{1}{N} E [\sum_{n = 1}^{N} x_{n}^{2} - \sum_{n = 1}^{N} 2 x_{n} \bar{x} + \sum_{n = 1}^{N} {\bar{x}}^{2}] = \frac{1}{N} E [\sum_{n = 1}^{N} x_{n}^{2} - 2 N {\bar{x}}^{2} + N {\bar{x}}^{2}] = \frac{1}{N} E [\sum_{n = 1}^{N} x_{n}^{2} - N {\bar{x}}^{2}] = \frac{1}{N} E [\sum_{n = 1}^{N} x_{n}^{2}] - E [{\bar{x}}^{2}] = \frac{1}{N} \sum_{n = 1}^{N} E [x_{n}^{2}] - E [{\bar{x}}^{2}] = E [x_{n}^{2}] - E [{\bar{x}}^{2}]

$\frac{1}{N}E[\sum_{n = 1}^N x_n^2 - \sum_{n = 1}^N 2x_n\bar{x} + \sum_{n = 1}^N \bar{x}^2] = \frac{1}{N}E[\sum_{n = 1}^N x_n^2 - 2N\bar{x}^2 + N\bar{x}^2]=\frac{1}{N}E[\sum_{n = 1}^N x_n^2 - N\bar{x}^2] = \frac{1}{N}E[\sum_{n = 1}^N x_n^2] - E[\bar{x}^2] = \frac{1}{N}\sum_{n = 1}^N E[x_n^2] - E[\bar{x}^2] \\= E[x_n^2] - E[\bar{x}^2]$

$E[x_n^2]$ $n$

$\sigma^2_x = E[x^2] - E[x]^2$

E [x_{n}^{2}] - E [{\bar{x}}^{2}] = σ_{x}^{2} + E [x_{n}]^{2} - σ_{\bar{x}}^{2} - E [x_{n}]^{2} = σ_{x}^{2} - σ_{\bar{x}}^{2} = σ_{x}^{2} - V a r (\bar{x}) = σ_{x}^{2} - V a r (\frac{1}{N} \sum_{n = 1}^{N} x_{n}) = σ_{x}^{2} - (\frac{1}{N})^{2} V a r (\sum_{n = 1}^{N} x_{n})

$E[x_n^2] - E[\bar{x}^2] = \sigma^2_x + E[x_n]^2 - \sigma^2_\bar{x} - E[x_n]^2 = \sigma^2_x - \sigma^2_\bar{x} = \sigma^2_x - Var(\bar{x}) = \sigma^2_x - Var(\frac{1}{N}\sum_{n = 1}^Nx_n) = \sigma^2_x - \bigg(\frac{1}{N}\bigg)^2Var(\sum_{n = 1}^Nx_n)$

লক্ষ্য করুন যে আমরা ধ্রুবক যথাযথভাবে স্কোয়ার করেছি $\frac{1}{N}$ $Var()$

σ_{x}^{2} - (\frac{1}{N})^{2} V a r (\sum_{n = 1}^{N} x_{n}) = σ_{x}^{2} - (\frac{1}{N})^{2} N σ_{x}^{2} = σ_{x}^{2} - \frac{1}{N} σ_{x}^{2} = \frac{N - 1}{N} σ_{x}^{2}

$\sigma^2_x - \bigg(\frac{1}{N}\bigg)^2Var(\sum_{n = 1}^Nx_n) = \sigma^2_x - \bigg(\frac{1}{N}\bigg)^2N \sigma^2_x = \sigma^2_x - \frac{1}{N}\sigma^2_x = \frac{N-1}{N}\sigma^2_x$

$\sigma_x^2$

বিশ্লেষণাত্মকভাবে আমাদের অন্তর্দৃষ্টি যাচাই করুন

$\mu$ $\mu$ $\mu^2$ $E[\bar{x}^2]$ $\hat{\sigma}^2$

$\hat{\sigma}_\mu^2 = \frac{1}{N}\sum_{n = 1}^N (x_n - \mu)^2$

$E[x_n^2] - E[\bar{x}^2]$ $\bar{x}$ $\mu$

E [x_{n}^{2}] - E [μ^{2}] = E [x_{n}^{2}] - μ^{2} = σ_{x}^{2} + E [x_{n}]^{2} - μ^{2} = σ_{x}^{2}

$E[x_n^2] - E[\mu^2] = E[x_n^2] - \mu^2 = \sigma^2_x + E[x_n]^2 - \mu^2= \sigma^2_x$

যা নিরপেক্ষ!

— TrynnaDoStat
সূত্র

X

$X$

তোমার ব্যাখ্যার জন্য ধন্যবাদ. এটি বুঝতে আমার কিছুটা সময় দরকার es পাশে, সমীকরণগুলিতে আমি কিছু ত্রুটি পেয়েছি an আপনি এটি যাচাই করতে পারেন? ধন্যবাদ!

— নিংইয়ু

X

$X$