এমএপি হ'ল

10

আমি একটি অনলাইন কোর্সে এই স্লাইডগুলি (# 16 এবং # 17 স্লাইড) জুড়ে এসেছি । প্রশিক্ষক ব্যাখ্যা কিভাবে সর্বোচ্চ অবর অনুমান (MAP) এর আসলে সমাধান চেষ্টা ছিল $L(\theta) = \mathcal{I}[\theta \ne \theta^{*}]$ , যেখানে $\theta^{*}$ সত্য প্যারামিটার।

কেউ দয়া করে ব্যাখ্যা করতে পারেন যে এটি কীভাবে অনুসরণ করে?

সম্পাদনা: স্লাইডগুলি যুক্ত হয়েছে, যদি লিঙ্কটি নষ্ট হয়ে যায়।

— honeybadger
সূত্র

3

আপনি যে স্লাইডগুলি ভাগ করেছেন সেগুলি থেকে, আমার মনে হয়েছে যে এমএপি অনুমানটি উত্তরের বিভিন্ন বৈশিষ্ট্য যেমন গড়, মোড এবং মধ্যমা যেমন অনুমান করা যায় তা ব্যাখ্যা করার জন্য explain স্ট্যাফেন এম। কে-এর বই, স্ট্যাটিস্টিকাল সিগন্যাল প্রসেসিংয়ের ফান্ডামেন্টালসে উপস্থাপিত জেনারেল বায়েশিয়ান অনুমানকারীদের প্রসঙ্গে আমি এটিকে ব্যাখ্যা করার চেষ্টা করব ।

আসুন প্যারামিটার আনুমানিক হিসাব যুক্ত ঝুঁকি তিন ধরনের (যেমন, খরচ ফাংশন) বিবেচনা করে শুরু $\theta$ :

$C(e) = e^2$

$C(e) = |e|$

$if -\delta < e < \delta, C(e)=0$ ; অন্য $C(e)=1$

যেখানে, $e = \theta - \hat{\theta}$ , যা আনুমানিক মূল্য নেই এবং সত্য প্যারামিটার। বায়েশিয়ান অনুমানে, উদ্দেশ্যটি হ'ল প্রত্যাশিত ঝুঁকি হ্রাস করা, এটি হল: $\hat{\theta}$ $\theta$

$E[C(e)]= \int_X \int_{\theta} C(e)p(X,\theta)d\theta dX = \int_X \left[\int_\theta C(e)p(\theta|X)d\theta\right] p(X)dX$

যেহেতু আমরা শুধুমাত্র যত্নশীল $\theta$ , আমরা ভেতরের অবিচ্ছেদ্য উপর ফোকাস করা $\min_{\theta}\int_\theta C(e)p(\theta|X)d\theta$ ।

এখন, আমরা কোন বেছে নিই তার উপর নির্ভর করে অনুমানকারী আমাদের পোস্টেরিয়রের আলাদা সম্পত্তি দেবে। উদাহরণস্বরূপ, আমরা যদি প্রথম কেসটি বেছে নিই, , জন্য ন্যূনতম গড় হয়। যেহেতু আপনার প্রশ্নটি সূচক ফাংশন , তাই আমি উপরে উল্লিখিত তৃতীয় ঝুঁকিটি করব (যা আপনি যদি জন্য চিন্তা করেন তবে সমান) সূচকটি ব্যবহার করে)। $C(e)$ $C(e) = e^2$ $\theta$ $\int_\theta C(e)p(\theta|X)d\theta$ $I[\hat{\theta}\ne \theta]$ $\delta\rightarrow 0$

উপরের কেস 3 এর জন্য:

$\int_\theta C(e)p(\theta|X)d\theta = \int_{-\infty}^{\hat{\theta}-\delta}p(\theta|X)d\theta + \int_{\hat{\theta}+\delta}^{\infty}p(\theta|X)d\theta = 1 - \int_{\hat{\theta}+\delta}^{\hat{\theta}+\delta}p(\theta|X)d\theta$

যা জন্য ন্যূনতম হয় যখন মোডের সাথে মিলে যায়। $\delta \rightarrow 0$ $\hat{\theta}$

— idnavid
সূত্র

2

অসাধারণ ব্যাখ্যার জন্য আপনাকে ধন্যবাদ। এছাড়াও, ভবিষ্যতের পাঠকরা একই পাঠ্যপুস্তকে একই সম্পর্কে পড়তে পারেন: মেশিনের অধ্যায় 5_ সম্ভাব্য দৃষ্টিভঙ্গি

— জেনে রাখা

আপনি কি এই সীমাবদ্ধ তর্কটির বিবরণ নির্দিষ্ট করতে পারবেন ? যখন শূন্যে বা উত্তরের ক্ষতির সীমাতে চলে যায় তখন আপনি কি পদ্ধতির সীমাটি বোঝাতে চান ?

δ

$\delta$

δ

$\delta$

— শি'য়ান

E [C (e)]

$E[C(e)]$

10

$\Theta$

Θ = {θ_{1}, θ_{2}, ...}

$\Theta=\{\theta_1,\theta_2,\ldots\}$

P (\hat{θ} \neq θ | x)

$\mathbb{P}(\hat{\theta}\ne\theta|x)$

P (\hat{θ} = θ | x)

$\mathbb{P}(\hat{\theta}=\theta|x)$

\hat{θ}

$\hat{\theta}$

$0-1$ $\mathbb{P}(\hat{\theta}=\theta|x)=0$ $\hat{\theta}$

এল (θ, ঘ) = আমি {Ψ (θ) \neq ঘ) / π_{Ψ} (Ψ (θ))

$\mathrm{L}(\theta,d) = \mathbb{I}\{\Psi(\theta) \ne d) / \pi_\Psi(\Psi(\theta))$

এল (θ, ঘ) = আমি {Ψ (θ) \neq ঘ} / সর্বোচ্চ {η, π_{Ψ} (Ψ (θ))}

$\mathrm{L}(\theta,d) = \mathbb{I}\{\Psi(\theta) \ne d\} / \max\{\eta,\pi_\Psi(\Psi(\theta))\}$

\underset{ψ}{সর্বোচ্চ} π_{ψ} (ψ | এক্স) / π_{ψ} (θ)

$\max_{\psi}\pi_\psi(\psi|x)/\pi_\psi(\theta)$

π_{ψ} (ψ | এক্স) / π_{ψ} (θ) = চ (এক্স | ψ) / মি (এক্স)

$\pi_{\psi}(\psi|x)/\pi_\psi(\theta)=f(x|\psi)/m(x)$

চ (এক্স | ψ) = \int_{{θ; Ψ (θ) = ψ}} চ (এক্স | θ) π (θ) ঘ θ

$f(x|\psi)=\int_{\{\theta;\Psi(\theta)=\psi\}}f(x|\theta)\pi(\theta)\mathrm{d}\theta$

মি (এক্স) = \int চ (এক্স | θ) π (θ) ঘ θ

$m(x)=\int f(x|\theta)\pi(\theta)\mathrm{d}\theta$

রবার্ট বাসেট এবং জুলিও ডেরাইড ২০১ 2016 সালে একটি গবেষণাপত্রটি আর্কাইভ করেছিলেন যা বায়সীয় সিদ্ধান্ত তত্ত্বের মধ্যে এমএপিগুলির অবস্থান নিয়ে আলোচনা করে।

"... আমরা ম্যাপের অনুমানকারীদের 0-1 এর ক্ষতি হওয়ার ব্যয় অনুমানের সীমা হিসাবে এমএপি অনুমানকারীদের সাধারণভাবে গৃহীত ধারণার একটি পাল্টা নমুনা সরবরাহ করি।"

লেখকরা আমার বই দ্য বেইসিয়ান চয়েসকে এই সম্পত্তিটি আরও সতর্কতা ছাড়াই উল্লেখ করে উল্লেখ করেছেন এবং আমি এ ব্যাপারে নিরন্তর থাকতে সম্পূর্ণ সম্মত! অসুবিধাটি ম্যাক্সিমাইজারদের সীমাটির সর্বাধিক ম্যাক্সিমাইজার না হওয়ার সাথে সীমাবদ্ধ থাকে। প্যারামিটারের উপর নির্ভর করে না এমন নমুনা বিতরণের সাথে জড়িত উপরের মত পূর্বের সাথে কাগজটিতে এই প্রভাবটির একটি উদাহরণ রয়েছে। এর মধ্যে প্রস্তাবিত পর্যাপ্ত শর্তগুলি হ'ল উত্তরাকেন্দ্রিক ঘনত্ব প্রায় যথাযথ বা কোয়াসিকনক্যাভ।

| | কে (\hat{তোমার দর্শন লগ করা} - তোমার দর্শন লগ করা) | |^{2} + + 2 {ডি}_{π} (\hat{তোমার দর্শন লগ করা}, তোমার দর্শন লগ করা)

$||K(\hat u-u)||^2+2D_\pi(\hat u,u)$ বেইস অনুমানকারী হিসাবে এমএপি উত্পাদন করে। প্রভাবশালী পরিমাপের বিষয়ে কেউ এখনও অবাক হতে পারে তবে ক্ষতির ফাংশন এবং ফলস্বরূপ অনুমানকারী উভয়ই প্রভাবশালী পরিমাপের নির্বাচনের উপর নির্ভরশীল… (ক্ষতি পূর্বের উপর নির্ভর করে তবে এটি প্রতি সেটের কোনও কমতি নয়))

— সিয়ান
সূত্র

1

আমি এই সমস্যাটি সম্পর্কে অধ্যায় 5, বায়েশিয়ান পরিসংখ্যান, মেশিন লার্নিং: একটি সম্ভাব্য দৃষ্টিভঙ্গি - মরফি দ্বারা এই সমস্যা সম্পর্কে উল্লিখিত পাঠ্যের সংক্ষিপ্তসার দেব ।

$X$ $p(\theta|X)$

গড় বা মধ্যমা থেকে ভিন্ন, এটি একটি 'অবাস্তবিক' বিন্দু, এই অর্থে যে এটি অনুমান করা হওয়ার সময় অন্যান্য সমস্ত বিষয় বিবেচনা করে না। গড় / মধ্যমা অনুমানের ক্ষেত্রে, আমরা অন্যান্য সমস্ত বিষয় বিবেচনায় নিই।

সুতরাং, যেমনটি প্রত্যাশা করা হয়েছে, উচ্চ স্কিওড পোস্টেরিয়র ডিস্ট্রিবিউশনে এমএপি (এবং এক্সটেনশনের মাধ্যমে, এমএলই) প্রকৃতপক্ষে উত্তরোত্তরটি উপস্থাপন করে না।

সুতরাং, আমরা কীভাবে মধ্য / মধ্যক / মোডের মতো পয়েন্টের প্রাক্কলন ব্যবহার করে একটি পোস্টারিয়র সংক্ষিপ্ত করব?

$L(\theta, \hat{\theta})$ $\theta$ $\hat{\theta}$

$L(\theta, \hat{\theta})$ $\mathbb{I}(\hat{\theta}\ne\theta|x)$ $\theta$ $\mathbb{I}(\hat{\theta}=\theta|x)$ $\theta$ উপরের উত্তরে

— honeybadger
সূত্র