টস উদাহরণ মুদ্রায় প্রত্যাশা সর্বাধিক প্রয়োগ

আমি ইদানীং প্রত্যাশা সর্বাধিকীকরণের স্ব-অধ্যয়ন করেছি এবং নিজেকে প্রক্রিয়াটির কয়েকটি সাধারণ উদাহরণ ধরলাম:

থেকে এখানে : তিনটি কয়েন হয় , এবং সঙ্গে , এবং যখন ক্ষতিগ্রস্থ মাথা বাঁচিয়ে কাজকর্ম জন্য নিজ নিজ সম্ভাবনা। টস । ফলাফলটি যদি প্রধান হয় তবে তিনবার টস করুন, অন্যথায় তিনবার টস করুন । এবং দ্বারা উত্পাদিত পর্যবেক্ষণের ডেটাগুলি হ'ল এইচএইচএইচ, টিটিটি, এইচএইচএইচ, টিটিটি, এইচএইচএইচ। লুকানো ডেটা এর । , এবং অনুমান করুন । $c_0$ $c_1$ $c_2$ $p_0$ $p_1$ $p_2$ $c_0$ $c_1$ $c_2$ $c_1$ $c_2$ $c_0$ $p_0$ $p_1$ $p_2$

আর থেকে এখানে : দুটি কয়েন হয় এবং সঙ্গে এবং মাথা বাঁচিয়ে কাজকর্ম যখন ক্ষতিগ্রস্থ জন্য নিজ নিজ সম্ভাব্যতা হচ্ছে। প্রতিটি রাউন্ডে, এলোমেলোভাবে একটি কয়েন নির্বাচন করুন এবং এটি দশবার টস করুন; ফলাফল রেকর্ড করুন। পর্যবেক্ষণ করা ডেটা হ'ল এই দুটি কয়েনের দেওয়া টস ফলাফল। তবে কোন মুদ্রাটি নির্দিষ্ট রাউন্ডের জন্য নির্বাচিত হয়েছিল তা আমরা জানি না। এবং অনুমান করুন । $c_A$ $c_B$ $p_A$ $p_B$ $p_A$ $p_B$

আমি যখন গণনাগুলি পেতে পারি, তবুও তারা মূল EM তত্ত্বের সাথে যেভাবে সমাধান করা হয় তা সম্পর্কিত করতে পারি না। বিশেষত, উভয় উদাহরণের এম-স্টেপ চলাকালীন, আমি দেখতে পাচ্ছি না যে তারা কীভাবে সর্বোচ্চ কিছু করছে। দেখে মনে হচ্ছে তারা প্যারামিটারগুলি পুনরায় গণনা করছে এবং কোনওভাবে নতুন পরামিতিগুলি পুরানোগুলির চেয়ে ভাল। তদুপরি, দুটি ই-পদক্ষেপ একে অপরের সাথে সাদৃশ্যও দেখায় না, মূল তত্ত্বের ই-পদক্ষেপের উল্লেখ না করে।

সুতরাং এই উদাহরণগুলি ঠিক কীভাবে কাজ করে?

probability-theory statistics

— IcySnow
সূত্র

প্রথম উদাহরণে, আমরা একই পরীক্ষার কতটি উদাহরণ পেয়েছি? দ্বিতীয় উদাহরণে, "এলোমেলোভাবে একটি মুদ্রা নির্বাচন করুন" এর আইন কী? আমরা কয়টি দফা পালন করি?

— রাফেল

আমি সংযুক্ত পিডিএফ ফাইলগুলি ইতিমধ্যে ধাপে ধাপে এই দুটি উদাহরণ সমাধান করে। তবে, আমি ব্যবহৃত EM অ্যালগরিদমটি সত্যিই বুঝতে পারি না।

— আইসিএসনো

@ আইসিস্নো, আপনি কি এলোমেলো পরিবর্তনশীলের প্রত্যাশা এবং শর্তাধীন প্রত্যাশা ধারণাটি বুঝতে পেরেছেন?

— নিকোলাস মানকুসো

আমি এলোমেলো পরিবর্তনশীল এবং শর্তসাপেক্ষ সম্ভাবনার প্রাথমিক প্রত্যাশা বুঝতে পারি। তবে আমি শর্তসাপেক্ষ প্রত্যাশার সাথে পরিচিত নই, এর উদ্ভূত এবং পর্যাপ্ত পরিসংখ্যান।

— আইসিসনো

(এই উত্তরটি আপনার দেওয়া দ্বিতীয় লিঙ্কটি ব্যবহার করে))

$\newcommand{\Like}{\text{L}}\newcommand{\E}{\text{E}}$ সম্ভাবনার সংজ্ঞাটি পুনরায় স্মরণ করুন: যেখানে আমাদের ক্ষেত্রে সম্ভাব্যতার জন্য অনুমানকারী যে যথাক্রমে A এবং B স্থলভাগের মুদ্রা, আমাদের পরীক্ষার ফলাফল, প্রতিটি 10 টি ফ্লিপ এবং প্রতিটি পরীক্ষায় ব্যবহৃত মুদ্রা হিসাবে গঠিত।

এল [θ | এক্স] = pr [এক্স | θ] = \underset{জেড}{Σ} pr [এক্স, জেড | θ]

$\Like[\theta | X] = \Pr[X| \theta] = \sum_Z \Pr[X, Z | \theta]$

θ = (θ_{A}, θ_{B})

$\theta = (\theta_A, \theta_B)$

X = (X_{1}, \dots, X_{5})

$X = (X_1, \dotsc, X_5)$

X_{i}

$X_i$

Z = (Z_{1}, \dots, Z_{5})

$Z = (Z_1, \dotsc, Z_5)$

আমরা সর্বোচ্চ সম্ভাবনা মূল্নির্ধারক খুঁজতে চান । প্রত্যাশা-বৃহদায়ন (ই.এম.) আলগোরিদিম (অন্তত স্থানীয়) এটি এক ধরনের পদ্ধতি । এটা তোলে শর্তসাপেক্ষ প্রত্যাশা, যা সর্বাধিক ব্যবহৃত হয় খোঁজার করে কাজ করে । ধারণাটি হ'ল ক্রমাগত আরও বেশি সম্ভাবনা (যেমন আরও সম্ভাব্য) প্রতিটি পুনরাবৃত্তির মধ্যে আমরা ক্রমাগত বৃদ্ধি করব যার সম্ভাবনা কার্য বৃদ্ধি করে। EM- ভিত্তিক অ্যালগরিদম ডিজাইনের এগিয়ে যাওয়ার আগে তিনটি জিনিস করা দরকার। $\hat{\theta}$ $\hat{\theta}$ $\theta$ $\theta$ $\Pr[X,Z|\theta]$

মডেলটি তৈরি করুন
মডেল (ই-পদক্ষেপ) এর অধীনে গণনা শর্তাধীন প্রত্যাশা
আমাদের বর্তমান অনুমান (এম-স্টেপ) আপডেট করে আমাদের সম্ভাবনা $\theta$

মডেলটি তৈরি করুন

ইএম নিয়ে আমরা আরও আগে যাওয়ার আগে আমাদের কম্পিউটার করা ঠিক কী তা নির্ধারণ করা দরকার। ই-পদক্ষেপে আমরা জন্য প্রত্যাশিত মানটি ঠিক গণনা করছি । তাহলে এই মানটি আসলে কী? লক্ষ্য করুন যে কারণটি হ'ল আমাদের কাছে অ্যাকাউন্টে 5 টি পরীক্ষা-নিরীক্ষা রয়েছে এবং আমরা জানি না যে প্রতিটিতে কোন মুদ্রা ব্যবহৃত হয়েছিল। বৈষম্য কারণে হয় $\log \Pr[X,Z|\theta]$

\begin{aligned} \log Pr [X, Z | θ] & = \sum_{i = 1}^{5} \log \sum_{C \in {A, B}} Pr [X_{i}, Z_{i} = C | θ] \\ = \sum_{i = 1}^{5} \log \sum_{C \in {A, B}} Pr [Z_{i} = C | X_{i}, θ] \cdot \frac{Pr [X_{i}, Z_{i} = C | θ]}{Pr [Z_{i} = C | X_{i}, θ]} \\ \geq \sum_{i = 1}^{5} \underset{সি \in {একজন, বি}}{Σ} pr [{জেড}_{আমি} = সি | {এক্স}_{আমি}, θ] \cdot লগ \frac{pr [{এক্স}_{আমি}, {জেড}_{আমি} = সি | θ]}{pr [{জেড}_{আমি} = সি | {এক্স}_{আমি}, θ]} । \end{aligned}

$\begin{align*} \log \Pr[X,Z|\theta] &= \sum_{i=1}^5 \log\sum_{C\in \{A,B\}}\Pr[X_i, Z_i=C| \theta]\\ &=\sum_{i=1}^5 \log\sum_{C\in \{A,B\}} \Pr[Z_i=C | X_i, \theta] \cdot \frac{\Pr[X_i, Z_i=C| \theta]}{\Pr[Z_i=C | X_i, \theta]}\\ &\geq \sum_{i=1}^5 \sum_{C\in \{A,B\}} \Pr[Z_i=C | X_i, \theta] \cdot \log\frac{\Pr[X_i, Z_i=C| \theta]}{\Pr[Z_i=C | X_i, \theta]}. \end{align*}$

\log

$\log$ অবতল হওয়া এবং জেনসেনের অসমতা প্রয়োগ করা। আমাদের যে নিম্ন সীমাটির প্রয়োজন তা হ'ল আমরা সরাসরি সমীকরণের সাথে আরগ সর্বাধিক গণনা করতে পারি না। তবে আমরা চূড়ান্ত নিম্ন বাউন্ডের জন্য এটি গণনা করতে পারি।

এখন কী? এটা তোলে সম্ভাব্যতা যে আমরা দেখতে মুদ্রা দেওয়া পরীক্ষা এবং । আমাদের রয়েছে শর্তাধীন সম্ভাবনাগুলি ব্যবহার করে, $\Pr[Z_i=C|X_i,\theta]$ $C$ $X_i$ $\theta$

Pr [Z_{i} = C | X_{i}, θ] = \frac{Pr [X_{i}, Z_{i} = C | θ]}{Pr [X_{i} | θ]} .

$\Pr[Z_i=C| X_i, \theta] = \frac{\Pr[X_i, Z_i = C|\theta]}{\Pr[X_i|\theta]}.$

যখন আমরা কিছু অগ্রগতি করেছি, আমরা এখনও মডেলটি দিয়ে শেষ করি নি। কোনও প্রদত্ত মুদ্রা ক্রম ফ্লিপ করার সম্ভাবনা কী ? লেটিং এখন বা উভয় সম্ভাবনার অধীনে স্পষ্টতই সম্ভাবনা । যেহেতু আমাদের রয়েছে, $X_i$ $h_i = \#\text{heads in } X_i$

Pr [X_{i}, Z_{i} = C | θ] = \frac{1}{2} \cdot θ_{C}^{h_{i}} (1 - θ_{C})^{10 - h_{i}}, for C \in {A, B} .

$\Pr[X_i, Z_i = C| \theta] = \frac{1}{2} \cdot \theta_C^{h_i} (1 - \theta_C)^{10 - h_i},\ \text{ for } \ C \in \{A, B\}.$

Pr [X_{i} | θ]

$\Pr[X_i|\theta]$

Z_{i} = A

$Z_i=A$

Z_{i} = B

$Z_i=B$

Pr [Z_{i} = A] = Pr [Z_{i} = B] = 1 / 2

$\Pr[Z_i = A] = \Pr[Z_i = B] = 1/2$

pr [{এক্স}_{আমি} | θ] = 1 / 2 \cdot (pr [{এক্স}_{আমি} | {জেড}_{আমি} = একজন, θ] + + pr [{এক্স}_{আমি} | {জেড}_{আমি} = বি, θ]) ।

$\Pr[X_i|\theta] = 1/2 \cdot (\Pr[X_i |Z_i = A, \theta] + \Pr[X_i |Z_i = B, \theta]).$

ই-পদক্ষেপ

ঠিক আছে ... এটি এত মজা ছিল না তবে আমরা এখন কিছু EM কাজ শুরু করতে পারি। EM অ্যালগরিদমটি জন্য কিছু এলোমেলো অনুমান করে শুরু হয় । এই উদাহরণে আমাদের কাছে । আমরা গণনা করি এই মান কাগজে আছে সঙ্গে লাইন। এখন আমরা মুদ্রা , এর প্রত্যাশিত সংখ্যার অঙ্ক করতে পারিআমরা যে মুদ্রা পেয়েছি তার জন্য একই জিনিস করা , $\theta$ $\theta^0 = (0.6,0.5)$

pr [{জেড}_{1} = একজন | {এক্স}_{1}, θ] = \frac{1 / 2 \cdot ({0.6}^{5} \cdot {0.4}^{5})}{1 / 2 \cdot (({0.6}^{5} \cdot {0.4}^{5}) + + ({0.5}^{5} \cdot {0.5}^{5}))} \approx 0.45।

$\Pr[Z_1=A|X_1,\theta] = \frac{1/2 \cdot (0.6^5 \cdot 0.4^5)}{1/2 \cdot ((0.6^5 \cdot 0.4^5) + (0.5^5 \cdot 0.5^5))} \approx 0.45.$

X_{1} = (H, T, T, T, H, H, T, H, T, H)

$X_1 = (H,T,T,T,H,H,T,H,T,H)$

A

$A$

ই [# মুদ্রা দ্বারা মাথা একজন | {এক্স}_{1}, θ] = জ_{1} \cdot pr [{জেড}_{1} = একজন | {এক্স}_{1}, θ] = 5 \cdot 0.45 \approx 2.2।

$\E[\# \text{heads by coin }A | X_1, \theta] = h_1 \cdot \Pr[Z_1=A|X_1,\theta] = 5 \cdot 0.45 \approx 2.2.$

B

$B$

ই [# মুদ্রা দ্বারা মাথা বি | {এক্স}_{1}, θ] = জ_{1} \cdot pr [{জেড}_{1} = বি | {এক্স}_{1}, θ] = 5 \cdot 0.55 \approx 2.8।

$\E[\# \text{heads by coin }B | X_1, \theta] = h_1 \cdot \Pr[Z_1=B|X_1,\theta] = 5 \cdot 0.55 \approx 2.8.$ আমরা দ্বারা substituting মুদ্রার উলটা পিঠ সংখ্যার জন্য একই গনা করতে জন্য । এই অন্যান্য সব মান ধরে চলতে এবং । প্রত্যাশা রৈখিকতার জন্য আমরা we

h_{1}

$h_1$

10 - h_{1}

$10 - h_1$

X_{i}

$X_i$

h_{i}

$h_i$

1 \leq i \leq 5

$1 \leq i \leq 5$

ই [# মুদ্রা দ্বারা মাথা একজন | এক্স, θ] = Σ_{আমি = 1}^{5} ই [# মুদ্রা দ্বারা মাথা একজন | {এক্স}_{আমি}, θ]

$\E[\#\text{heads by coin } A|X ,\theta] = \sum_{i=1}^5 \E[\# \text{heads by coin }A | X_i, \theta]$

এম-পদক্ষেপ

হাতে আমাদের প্রত্যাশিত মান, এখন এম পদক্ষেপ যেখানে আমরা সর্বাধিক চান আসে আমাদের প্রত্যাশিত মান দেওয়া। এটি সাধারণ সাধারণীকরণ দ্বারা করা হয়! তেমনিভাবে । এই প্রক্রিয়া ই-পদক্ষেপ এবং আবার শুরু এবং চলতে থাকে যতক্ষণ মান মিলিত (অথবা কিছু alloweable থ্রেশহোল্ড)। এই উদাহরণে আমাদের 10 টি পুনরাবৃত্তি এবং । প্রতিটি পুনরাবৃত্তিতে আরও ভাল অনুমানের কারণে মান বৃদ্ধি পায় $\theta$

θ_{একজন}^{1} = \frac{ই [# মাথা এক্স মুদ্রা দ্বারা একজন | এক্স, θ]}{ই [# মাথা এবং লেজ উপর এক্স মুদ্রা দ্বারা একজন | এক্স, θ]} = \frac{21.3}{21.3 + + 9.6} \approx 0.71।

$\theta_A^1 = \frac{E[\#\text{heads over } X \text{ by coin } A|X ,\theta]}{E[\#\text{heads and tails over } X \text{ by coin } A|X ,\theta]} = \frac{21.3}{21.3 + 9.6} \approx 0.71.$

B

$B$

θ^{1}

$\theta^1$

θ

$\theta$

\hat{θ} = θ^{10} = (0.8, 0.52)

$\hat{\theta} = \theta^{10} = (0.8, 0.52)$

Pr [X, Z | θ]

$\Pr[X,Z|\theta]$

θ

$\theta$ ।

এখন এক্ষেত্রে মডেলটি মোটামুটি সরল ছিল। থিংস আরো অনেক কিছু প্রশংসনীয় দ্রুত জটিল করতে পারেন, তবে ই.এম. অ্যালগরিদম সবসময় একই বিন্দুতে মিলিত হবে, এবং সবসময় একটি maxmimum সম্ভাবনা মূল্নির্ধারক উত্পাদন করা হবে । এটি কোনও স্থানীয় অনুমানকারী হতে পারে তবে এটিকে ঘুরে দেখার জন্য আমরা ইএম প্রক্রিয়াটি অন্য কোনও সূচনা দিয়ে পুনরায় আরম্ভ করতে পারি। আমরা এটি নিয়মিত পরিমাণে করতে পারি এবং সেরা ফলাফলগুলি ধরে রাখতে পারি (যেমন, চূড়ান্ত সম্ভাবনাগুলির সাথে যারা)। $\hat{\theta}$

— নিকোলাস মানকুসো
সূত্র

যদি কোনও অংশ পরিষ্কার না হয় তবে আমি সেগুলি আরও প্রসারিত করার চেষ্টা করতে পারি।

— নিকোলাস মানকুসো

এটি এখন আরও পরিষ্কার হয়। আমি আসলে যা পাই না তা হ'ল কেন মুদ্রা এ এর জন্য প্রত্যাশিত সংখ্যার সংখ্যা গণনা করা হয়েছিল: E [# মাথা দ্বারা মুদ্রা এ | এক্স 1, θ] = এইচ 1⋅পিআর [জেড 1 = এ | এক্স 1, θ] = 5⋅0.45 ≈2.2? প্রথম পিডিএফটিতে উল্লিখিত সমস্যাটি আরও জটিল। যদি আপনি কিছু মনে করেন না, আপনি কি এর জন্য কিছু চিত্রণমূলক গণনাও করতে পারেন? আপনার উত্তরের জন্য অনেক ধন্যবাদ।

— আইসিএসনো

@ আইসিএসনো, প্রত্যাশার হিসাব যতদূর যায়: । কারণটি হ'ল আপনি ভাবতে পারেন যে যদি অন্যটি ব্যবহার করা হয় তবে অন্য কোনও সূচকের এলোমেলো পরিবর্তনশীল ছিল A সূচক ভেরিয়েবলের তুলনায় গণনা প্রত্যাশা সেই ইভেন্টের সম্ভাব্যতা সহজ।

E [# heads by coin A | X_{1}, θ] = \sum_{# heads in X_{1}} Pr [Z_{1} = A | X_{1}, θ] = 5 \cdot Pr [Z_{1} = A | X_{1}, θ]

$E[\# \text{ heads by coin }A|X_1,\theta] = \sum_{\#\text{ heads in }X_1} \Pr[Z_1 = A| X_1, \theta] = 5 \cdot \Pr[Z_1 = A| X_1, \theta]$

— নিকোলাস মানকুসো

ধীর উত্তর দেওয়ার জন্য দুঃখিত। আপনাকে ধন্যবাদ, আমি এখন দুটি উত্তর মুদ্রার উদাহরণের পিছনে যুক্তিটি সত্যই বুঝতে পারি, আপনার উত্তরটি বহুবার পেরিয়ে যাওয়ার পরে। এই প্রশ্নটি সম্পর্কে আমি একটি শেষ কথা জিজ্ঞাসা করতে চাই: এই স্লাইডের পৃষ্ঠা 8 থেকে শুরু উদাহরণ cs.northw Western.edu/~ddowney/courses/395_Winter2010/em.ppt দেখায় যে এম-পদক্ষেপে, আমাদের প্রথমে গণনা করতে হবে লগ-সম্ভাবনা ফাংশনের ডেরাইভেটিভ এবং প্রত্যাশা সর্বাধিক করতে এটি ব্যবহার করুন। মুদ্রা টাসের উদাহরণগুলিতে এম-স্টেপগুলিতে কেন এমন কিছু হয় না? কারণ এই এম-স্টেপগুলি দেখে মনে হয় না যে তারা কিছু

— বাড়িয়েছে

"মডেলটি নির্মাণের" পরে প্রথম প্রদর্শিত সমীকরণ দ্বারা আমি বিভ্রান্ত। আপনি কোথা থেকে এসেছেন তা ব্যাখ্যা করতে পারবেন? এটি আমার কাছে , তাই অভ্যন্তরীণ যোগফল প্রতি জন্য 1 , তাই পুরো ডানদিকে শূন্য হয়। আমি নিশ্চিত যে আমি কিছু মিস করছি - আপনি কীভাবে সেই সমীকরণটি পেয়েছিলেন সে সম্পর্কে যুক্তিটি বানান করতে পারেন?

Pr [Z_{i} = A | X_{i}, θ] + Pr [Z_{i} = B | X_{i}, θ] = 1

$\Pr[Z_i=A|X_i,\theta]+\Pr[Z_i=B|X_i,\theta]=1$

i

$i$

— ডিডাব্লিউ