প্রত্যাশিত প্রত্যাশার আইনের একটি সাধারণীকরণ

43

আমি সম্প্রতি এই পরিচয় জুড়ে এসেছি:

E [E (Y | X, Z) | X] = E [Y | X]

$E \left[ E \left(Y|X,Z \right) |X \right] =E \left[Y | X \right]$

আমি অবশ্যই এই নিয়মের সহজ সংস্করণটির সাথে পরিচিত, যথা তবে আমি এর সাধারণীকরণের পক্ষে ন্যায়সঙ্গততা খুঁজে পাইনি। $E \left[ E \left(Y|X \right) \right]=E \left(Y\right)$

আমি যদি কৃতজ্ঞতা প্রকাশ করব যে কেউ যদি আমাকে এই সত্যটির জন্য একটি অত-প্রযুক্তিগত রেফারেন্সের দিকে নির্দেশ করতে পারে বা আরও ভাল, যদি কেউ এই গুরুত্বপূর্ণ ফলাফলের জন্য একটি সহজ প্রমাণ দিতে পারে।

self-study conditional-probability conditional-expectation

— JohnK
সূত্র

2

যদি

নিজেই কিছু

তে শর্তযুক্ত ছিল তবে এই সহজ সংস্করণটির ঠিক বাইরে আসবে না?

y

$y$

x

$x$

— মেহরদাদ

36

ইনফরমাল ট্রিটমেন্ট

আমাদের মনে রাখা উচিত যে র্যান্ডম ভেরিয়েবলের উপর আমরা শর্ত দিয়েছি এমন স্বরলিপিটি সঠিক নয়, যদিও স্বীকৃতি হিসাবে অর্থনৈতিক। বাস্তবে আমরা সিগমা-বীজগণিতের সাথে শর্ত করি যা এই র্যান্ডম ভেরিয়েবলগুলি উত্পন্ন করে। অন্য কথায় গড় বোঝানো হয় । এই মন্তব্যটি একটি "অনানুষ্ঠানিক চিকিত্সা" -র জায়গায় অযোগ্য মনে হতে পারে তবে এটি আমাদের মনে করিয়ে দেয় যে আমাদের কন্ডিশনিং সত্তা সেটগুলির সংগ্রহ (এবং যখন আমরা একক মানের উপর শর্ত রাখি, তবে এটি একটি সিঙ্গলটন সেট)। এবং এই সেটগুলিতে কী রয়েছে? তারা তথ্য ধারণ করে $E[Y\mid X]$ $E[Y\mid \sigma(X)]$ যার সাহায্যে এলোমেলো পরিবর্তনশীল সম্ভাব্য মানগুলি উপলব্ধির সাথে কী ঘটতে পারে তা আমাদের সরবরাহ করে । তথ্যের ধারণাটি নিয়ে আসার ফলে আমাদের স্বচ্ছ প্রত্যাশাগুলির আইন (এবং কখনও কখনও "টাওয়ার সম্পত্তি" নামে পরিচিত) খুব স্বজ্ঞাত উপায়ে চিন্তা করার অনুমতি দেয়: দুটি এলোমেলো ভেরিয়েবল দ্বারা উত্পাদিত সিগমা-বীজগণিত অন্তত হিসাবে : এক দৈব চলক দ্বারা উত্পন্ন যে মত বৃহৎ সঠিক সেট-তত্ত্বীয় অর্থ হবে। তাই তথ্য সম্পর্কে অন্তর্ভুক্ত $X$ $Y$

$\sigma (X) \subseteq \sigma(X,Z)$ $Y$ সংশ্লিষ্ট তথ্যের মতো মহান হিসাবে অন্তত হয় । এখন, নোটেশনাল ইনগ্রেনডো হিসাবে, সেট করুন এবং । তারপরে আমরা যে সমীকরণটির দিকে নজর দিচ্ছি তার এলএইচএস লেখা যেতে পারে $\sigma(X,Z)$ $\sigma (X)$
$\sigma (X) \equiv I_x$ $\sigma(X,Z) \equiv I_{xz}$

মৌখিকভাবে উপরে অভিব্যক্তি আমরা আছে বর্ণনা: "এর মধ্যে {প্রত্যাশিত মান প্রত্যাশা কি দেওয়া তথ্য } দেওয়া যে, আমরা উপলব্ধ তথ্য আছে শুধুমাত্র?"

E [E (Y | I_{x z}) | I_{x}]

$E \left[ E \left(Y|I_{xz} \right) |I_{x} \right]$

Y

$Y$

I_{x z}

$I_{xz}$

I_{x}

$I_x$

আমরা কি কোনওভাবে কে "অ্যাকাউন্টে নিতে" ? না - আমরা শুধু জানি । তবে আমরা যদি আমাদের যা ব্যবহার করি (যেমনটি আমরা যে সমাধান করতে চাই তার দ্বারা আমরা বাধ্য), তবে আমরা মূলত প্রত্যাশা অপারেটরের অধীনে সম্পর্কে জিনিসগুলি বলছি, আমরা " " না, - আমরা সবেমাত্র আমাদের তথ্য শেষ করেছি। $I_{xz}$ $I_x$ $Y$ $E(Y\mid I_x)$

অতএব

E [E (Y | I_{x z}) | I_{x}] = E (Y | I_{x})

$E \left[ E \left(Y|I_{xz} \right) |I_{x} \right] = E\left(Y|I_{x} \right)$

যদি অন্য কেউ না করে তবে আমি আনুষ্ঠানিক চিকিত্সার জন্য ফিরে আসব।

একটি (আরও কিছু) ফর্মাল ট্রিটমেন্ট

আসুন দেখে নেওয়া যাক সম্ভাব্যতা তত্ত্বের দুটি অত্যন্ত গুরুত্বপূর্ণ বই, পি। বিলিংসলের সম্ভাব্যতা ও পরিমাপ (3 য় সংস্করণ -১৯৫৫) এবং ডি। উইলিয়ামস "মার্টেঙ্গেলস সহ সম্ভাবনা" (১৯৯১) কীভাবে "আইট্রেটেড প্রত্যাশার আইন" প্রমাণ করার বিষয়টি বিবেচনা করেন:
বিলিংসলে প্রমাণের জন্য ঠিক তিনটি লাইন উত্সর্গ করেন। উইলিয়ামস, এবং আমি উদ্ধৃতি, বলেছেন

"(টাওয়ার সম্পত্তি) শর্তাধীন প্রত্যাশার সংজ্ঞা থেকে কার্যত তাত্ক্ষণিক"।

এটি পাঠ্য এক লাইন। বিলিংসলের প্রমাণ কম অস্বচ্ছ নয়।

তারা অবশ্যই সঠিক: শর্তসাপেক্ষ প্রত্যাশনের এই গুরুত্বপূর্ণ এবং খুব স্বজ্ঞাত সম্পত্তিটি মূলত তার সংজ্ঞা থেকে সরাসরি (এবং প্রায় অবিলম্বে) উদ্ভূত হয়েছে - কেবলমাত্র সমস্যাটি, আমার সন্দেহ হয় যে এই সংজ্ঞাটি সাধারণত শেখানো হয় না, বা কমপক্ষে হাইলাইট করা হয় না, বাইরে সম্ভাবনা থাকে outside বা তাত্ত্বিক চেনাশোনাগুলি পরিমাপ করুন। তবে আইট্রেটেড প্রত্যাশার আইন যে তিনটি লাইন ধরেছে (প্রায়) তা দেখানোর জন্য আমাদের শর্তসাপেক্ষ প্রত্যাশার সংজ্ঞা দেওয়া উচিত বা তার পরিবর্তে এর সংজ্ঞায়িত সম্পত্তি ।

একটি সম্ভাব্যতা স্থান যাক , এবং একটি সমাকলনযোগ্য দৈব চলক । যাক হতে একটি উপ- এর -algebra , । তারপরে ফাংশন উপস্থিত রয়েছে যা পরিমিতযোগ্য, সংহতযোগ্য এবং (এটি নির্ধারিত সম্পত্তি) $(\Omega, \mathcal F, \mathbf P)$ $Y$ $\mathcal G$ $\sigma$ $\mathcal F$ $\mathcal G \subseteq \mathcal F$ $W$ $\mathcal G$

E (W \cdot 1_{G}) = E (Y \cdot 1_{G}) \forall G \in G [1]

$E(W\cdot\mathbb 1_{G}) = E(Y\cdot \mathbb 1_{G})\qquad \forall G \in \mathcal G \qquad [1]$

যেখানে সেট এর সূচক ফাংশন । আমরা যে এর শর্তাধীন প্রত্যাশা ( "একটি সংস্করণ") হল দেওয়া , এবং আমরা লিখতে $1_{G}$ $G$ $W$ $Y$ $\mathcal G$ এখানে খেয়াল করা সমালোচনামূলক বিস্তারিত যে শর্তাধীন প্রত্যাশা, একই প্রত্যাশিত মান আছে হিসাবে , না শুধু পুরো ওভার ,কিন্তু প্রত্যেক উপসেট মধ্যে এর । $W = E(Y\mid \mathcal G) \;a.s.$
$Y$ $\mathcal G$ $G$ $\mathcal G$

(শর্তাধীন প্রত্যাশার সংজ্ঞা থেকে টাওয়ারের সম্পত্তি কীভাবে প্রাপ্ত তা উপস্থাপনের জন্য আমি এখনই চেষ্টা করব)।

একটি হল -measurable দৈব চলক। এরপরে কিছু উপ- বিবেচনা করুন, । তারপরে । সুতরাং, পূর্বে হিসাবে একটি অনুরূপ পদ্ধতিতে, আমরা শর্তসাপেক্ষ প্রত্যাশা আছে দেওয়া বলতে $W$ $\mathcal G$ $\sigma$ $\mathcal H \subseteq \mathcal G$ $G\in \mathcal H \Rightarrow G\in \mathcal G$ $W$ $\mathcal H$ যে দ্বারা চিহ্নিত করা হয় $U=E(W\mid \mathcal H) \;a.s.$

E (U \cdot 1_{G}) = E (W \cdot 1_{G}) \forall G \in H [2]

$E(U\cdot\mathbb 1_{G}) = E(W\cdot \mathbb 1_{G})\qquad \forall G \in \mathcal H \qquad [2]$

যেহেতু , সমীকরণগুলি এবং আমাদের দেয় $\mathcal H \subseteq \mathcal G$ $[1]$ $[2]$

E (U \cdot 1_{G}) = E (Y \cdot 1_{G}) \forall G \in H [3]

$E(U\cdot\mathbb 1_{G}) = E(Y\cdot \mathbb 1_{G})\qquad \forall G \in \mathcal H \qquad [3]$

কিন্তু এই শর্তসাপেক্ষ প্রত্যাশা সংজ্ঞায়িত সম্পত্তি দেওয়া । $Y$ $\mathcal H$ সুতরাং আমরা লেখার অধিকারী যেহেতু আমরা , আমরা কেবলমাত্র টাওয়ারের সম্পত্তি বা আটটি লাইনে প্রত্যাশিত প্রত্যাশির আইনের সাধারণ রূপটি প্রমাণ করেছি। $U=E(Y\mid \mathcal H)\; a.s.$
$U = E(W\mid \mathcal H) = E\big(E[Y\mid \mathcal G]\mid \mathcal H\big)$

— আলেকোস পাপাদোপ্লোস
সূত্র

6

(+1) এটি একটি বিমূর্ত এবং কঠিন ধারণাটি বর্ণনা করার একটি সহায়ক উপায়। যদিও আমি বিশ্বাস করি যে "... এর চেয়ে বড় নয় ..." হওয়া উচিত "এর চেয়ে ছোট নয়" phrase আরও ভাল, বিভাগটি নেতিবাচকগুলি সরিয়ে এবং সমান্তরাল নির্মাণ ব্যবহার করে আরও পরিষ্কার করা যেতে পারে, যেমন "দুটি ভেরিয়েবল দ্বারা উত্পাদিত সিগমা বীজগণিত কমপক্ষে একটি এলোমেলো ভেরিয়েবল দ্বারা উত্পাদিত হিসাবে বৃহত্তর ... সুতরাং

সম্পর্কে তথ্য অন্তর্ভুক্ত মধ্যে

হিসাবে অন্তত হয় মহান হিসাবে সংশ্লিষ্ট তথ্য

। "

Y

$Y$

σ (X, Z)

$\sigma(X,Z)$

σ (X)

$\sigma(X)$

— শুশুক

দু'জনকে ধন্যবাদ, সিসি @ হুইবার এটি একটি খুব দরকারী উপপাদ্য।

— জনক

@ হুঁশিয়ারি এই পরামর্শ দেওয়ার জন্য ধন্যবাদ - এবং।

— অ্যালেকোস পাপাদোপল্লোস

24

শর্তসাপেক্ষ প্রত্যাশা বুঝতে এবং আমার শিক্ষার্থীদের যেভাবে পড়াতে হবে তা হল:

শর্তসাপেক্ষ প্রত্যাশা হ'ল রেজোলিউশন সহ একটি ক্যামেরা তোলা ছবি $E[Y|\sigma(X)]$ $\sigma(X)$

$E[Y|\sigma(X)]$ $E[Y|X]$ $Y$ $E[Y|\sigma(X,Z)]$ $\sigma(X,Z)$ । প্রত্যাশা একটি গড় অপারেটর ("ঝাপসা" অপারেটর?) দৃশ্যাবলীতে প্রচুর পরিমাণে জিনিস থাকতে পারে তবে আপনি যে চিত্রটি কম রেজোলিউশনের সাহায্যে নিয়েছেন তাতে অবশ্যই কিছু বিশদ চলে যাবে যেমন, আকাশে এমন কোনও ইউএফও থাকতে পারে যা আপনার নগ্ন চোখের দ্বারা দেখা যেতে পারে তবে তা তা নয় তোলা আপনার ছবিতে প্রদর্শিত হবে (আইফোন 3?)

$\sigma(X,Z)=\sigma(Y)$ $E[Y|\sigma(Y)]=Y$

$E[E[Y|\sigma(X,Z)]|\sigma(X)]$ $\sigma(X)$ $\sigma(X,Z)$ $\sigma(X,Z)$ $\sigma(X)$

$E[E[Y|X,Z]|X]=E[Y|X]$ $E[E[Y|X]|X,Z]=E[Y|X]$ এখনও। কারণ এটি: আপনার প্রথম ছবি যদি আইফোন 1 দ্বারা নেওয়া হয় (যেমন, নিম্ন রেজোলিউশন), এবং এখন আপনি প্রথম ফটোতে অন্য কোনও ছবি উত্পন্ন করতে আরও ভাল ক্যামেরা (উদাহরণস্বরূপ, আইফোন 3) ব্যবহার করতে চান, তবে আপনার উপায় নেই you প্রথম ছবির মান উন্নত করতে পারেন।

— KevinKim
সূত্র

2

এটা ভালবাসা! :) দুর্দান্ত ব্যাখ্যা।

— জেসিকা

1

@ জেসিকা আমি আনন্দিত যে এটি সাহায্য করে :-) এই ব্যাখ্যাটি সামনে আসতে আমার কিছুটা সময় লেগেছিল

— কেভিনকিম

21

$E\left[E[Y \mid X]\right] = E[Y]$ $X$ $g(X)$ $Y$ $X$ $Y$ $Y$ $Y$ $X$ $Y$ $p_{X,Y}(x,y)$

\begin{aligned} E [Y] & = \sum_{y} y \cdot p_{Y} (y) & definition \\ = \sum_{y} y \cdot \sum_{x} p_{X, Y} (x, y) & write in terms of joint pmf \\ = \sum_{y} y \cdot \sum_{x} p_{Y ∣ X} (y ∣ X = x) \cdot p_{X} (x) & write in terms of conditional pmf \\ = \sum_{x} p_{X} (x) \cdot \sum_{y} y \cdot p_{Y ∣ X} (y ∣ X = x) & interchange order of summation \\ = \sum_{x} p_{X} (x) \cdot E [Y ∣ X = x] & inner sum is conditional expectation \\ = E [E [Y ∣ X]] & RV E [Y ∣ X] has value E [Y ∣ X = x] when X = x \end{aligned}

$\begin{align} E[Y] &= \sum_y y\cdot p_Y(y) &\scriptstyle{\text{definition}}\\ &= \sum_y y \cdot \sum_x p_{X,Y}(x,y) &\scriptstyle{\text{write in terms of joint pmf}}\\ &= \sum_y y \cdot \sum_x p_{Y\mid X}(y \mid X=x)\cdot p_X(x) &\scriptstyle{\text{write in terms of conditional pmf}}\\ &= \sum_x p_X(x)\cdot \sum_y y \cdot p_{Y\mid X}(y \mid X=x) &\scriptstyle{\text{interchange order of summation}}\\ &= \sum_x p_X(x)\cdot E[Y \mid X = x] &\scriptstyle{\text{inner sum is conditional expectation}}\\ &= E\left[E[Y\mid X]\right] &\scriptstyle{\text{RV}~E[Y\mid X]~\text{has value}~E[Y\mid X=x]~\text{when}~X=x} \end{align}$

X

$X$

E [Y ∣ X]

$E[Y\mid X]$

X

$X$

Y

$Y$

Y

$Y$

$E\left[E[Y \mid X, Z] \mid X\right]$ $h(X,Z)$ $X$ $Z$ $E[Y\mid X]$ $E[Y\mid X]$ $X$ $x$

\begin{aligned} E [Y ∣ X = x] & = \sum_{y} y \cdot p_{Y ∣ X} (y ∣ X = x) \\ = \sum_{y} y \cdot \frac{p_{X, Y} (x, y)}{p_{X} (x)} \\ = \sum_{y} y \cdot \frac{\sum_{z} p_{X, Y, Z} (x, y, z)}{p_{X} (x)} \\ = \sum_{y} y \cdot \frac{\sum_{z} p_{Y ∣ X, Z} (y ∣ X = x, Z = z) \cdot p_{X, Z} (x, z)}{p_{X} (x)} \\ = \sum_{z} \frac{p_{X, Z} (x, z)}{p_{X} (x)} \sum_{y} y \cdot p_{Y ∣ X, Z} (y ∣ X = x, Z = z) \\ = \sum_{z} p_{Z ∣ X} (z ∣ X = x) \cdot \sum_{y} y \cdot p_{Y ∣ X, Z} (y ∣ X = x, Z = z) \\ = \sum_{z} p_{Z ∣ X} (z ∣ X = x) \cdot E [Y ∣ X = x, Z = z) \\ = E [E [Y ∣ X, Z] ∣ X = x] \end{aligned}

$\begin{align} E[Y \mid X = x] &= \sum_y y\cdot p_{Y\mid X}(y\mid X = x)\\ &= \sum_y y \cdot \frac{p_{X,Y}(x,y)}{p_X(x)}\\ &= \sum_y y \cdot \frac{\sum_z p_{X,Y,Z}(x,y,z)}{p_X(x)}\\ &= \sum_y y \cdot \frac{\sum_z p_{Y\mid X,Z}(y \mid X=x, Z=z)\cdot p_{X,Z}(x,z)}{p_X(x)}\\ &= \sum_z \frac{p_{X,Z}(x,z)}{p_X(x)}\sum_y y \cdot p_{Y\mid X,Z}(y \mid X=x, Z=z)\\ &= \sum_z p_{Z\mid X}(z \mid X=x)\cdot \sum_y y \cdot p_{Y\mid X,Z}(y \mid X=x, Z=z)\\ &= \sum_z p_{Z\mid X}(z \mid X=x)\cdot E[Y \mid X=x, Z=z)\\ &= E\left[E[Y\mid X,Z]\mid X = x\right] \end{align}$

E [Y ∣ X, Z]

$E[Y \mid X, Z]$

X

$X$

Z

$Z$

X

$X$

X

$X$

x

$x$

E [Y ∣ X, Z]

$E[Y \mid X, Z]$

Z

$Z$

X

$X$

$x$ $X$ $E[Y\mid X]$ $X$ $Y$ $E\left[E[Y \mid X,Z]\mid X\right]$

— দিলীপ সরওয়াতে
সূত্র