যদি

Question

প্রশ্ন

যদি $X_1,\cdots,X_n \sim \mathcal{N}(\mu, 1)$ আইআইডি হয় তবে $\mathbb{E}\left( X_1 \mid T \right)$ গণনা করুন যেখানে $T = \sum_i X_i$ ।

---

চেষ্টা : দয়া করে নীচেরটি সঠিক কিনা তা পরীক্ষা করে দেখুন।

ধরা যাক, আমরা সেইসব শর্তসাপেক্ষ প্রত্যাশা যেমন যে, এর সমষ্টি নিতে

$$\begin{align} \sum_i \mathbb{E}\left( X_i \mid T \right) = \mathbb{E}\left( \sum_i X_i \mid T \right) = T . \end{align}$$ এর অর্থ হ'ল প্রতিটি $\mathbb{E}\left( X_i \mid T \right) = \frac{T}{n}$ যেহেতু$X_1,\ldots,X_n$IID হয়।

সুতরাং, $\mathbb{E}\left( X_1 \mid T \right) = \frac{T}{n}$ । এটা কি ঠিক?

Comments

$X_i$ এর IID শর্তসাপেক্ষ না হয় $T$ কিন্তু একটি বিনিময়যোগ্য যৌথ বন্টন আছে। এ থেকে বোঝা যায় যে তাদের শর্তাধীন প্রত্যাশাগুলি সমস্ত সমান ( $T/n$ )।

— জারলে টুফ্টো

@ জারেল টুফ্টো: "এক্সচেঞ্জযোগ্য যৌথ বিতরণ" বলতে কী বোঝ? $X_i$ এবং যৌথ বিতরণ $T$?

— শিখছি

এর অর্থ হ'ল এর যৌথ বিতরণটি এক্স 2 , এক্স 3 , এক্স 1 (এবং অন্যান্য সমস্ত অনুক্রম) $X_1,X_2,X_3$এর সমান । En.wikedia.org/wiki/Exchangeable_random_variables দেখুন । অথবা দেখুন @ ঝুঁকির উত্তর! $X_2,X_3,X_1$

— জারলে টুফ্টো

উল্লেখযোগ্যভাবে উত্তরটি বিতরণের চেয়ে স্বাধীন $X_1,\ldots,X_n$।

— জেদীআটম

Answer 1

ধারণাটি সঠিক - তবে এটি আরও কিছুটা কঠোরভাবে প্রকাশ করার একটি প্রশ্ন রয়েছে। আমি তাই স্বরলিপি এবং ধারণাটির সারাংশ প্রকাশের দিকে মনোনিবেশ করব।

---

আসুন বিনিময়যোগ্যতার ধারণাটি শুরু করি :

একটি এলোপাতাড়ি ভেরিয়েবলের $\mathbf X=(X_1, X_2, \ldots, X_n)$ হয় বিনিময়যোগ্য যখন permuted ভেরিয়েবল ডিস্ট্রিবিউশন $\mathbf{X}^\sigma=(X_{\sigma(1)}, X_{\sigma(2)}, \ldots, X_{\sigma(n)})$প্রতিটি সম্ভাব্য অনুক্রমের জন্য সমস্ত একই$\sigma$।

স্পষ্টতই আইডির অর্থ বিনিময়যোগ্য।

স্বরলিপি একটি বিষয় হিসাবে, লেখা $X^\sigma_i = X_{\sigma(i)}$ জন্য $i^\text{th}$ এর উপাদান $\mathbf{X}^\sigma$ দিন

$$T^\sigma = \sum_{i=1}^n X^\sigma_i = \sum_{i=1}^n X_i = T.$$

যাক $j$ হতে কোনো সূচক দিন $\sigma$ সূচকের যে পাঠায় কোন বিন্যাস হতে $1$ থেকে $j = \sigma(1).$ (যেমন একটি $\sigma$ বিদ্যমান কারণ এক সবসময় শুধু অদলবদল করতে পারেন $1$ এবং $j.$ ) এর Exchangeability $\mathbf X$ বোঝা

$$E[X_1\mid T] = E[X^\sigma_1\mid T^\sigma] = E[X_j\mid T],$$

কারণ (প্রথম অসমতায়) আমরা কেবল এক্সকে প্রতিস্থাপন করেছি$\mathbf X$ অভিন্নরুপে বিতরণ ভেক্টর দ্বারা $\mathbf X^\sigma.$ এই ব্যাপার মূল অংশ।

অতএব

$$T = E[T \mid T] = E[\sum_{i=1}^n X_i\mid T] = \sum_{i=1}^n E[X_i\mid T] = \sum_{i=1}^n E[X_1\mid T] = n E[X_1 \mid T],$$

কোথা হইতে

$$E[X_1\mid T] = \frac{1}{n} T.$$

Answer 2

$\newcommand{\one}{\mathbf 1}$এটি প্রমাণ (এবং + হুবহু জবাবের জন্য +1) নয়, তবে কেন $E(X_1 | T) = T/n$ একটি বোধগম্য উত্তর।

যাক $X = (X_1,\dots,X_n)^T$ এবং $\one = (1,\dots,1)^T$ তাই $T = \one^TX$ । আমরা তখন ঘটনা যে কন্ডিশনার করছি $\one^TX = t$ কিছু $t \in \mathbb R$ , বহুচলকীয় Gaussians সমর্থিত তাই এই অঙ্কন মত হল $\mathbb R^n$ কিন্তু শুধুমাত্র বেশী যে অ্যাফিন মহাকাশে শেষ দিকে তাকিয়ে $\{x \in \mathbb R^n : \one^Tx = t\}$ । তারপরে আমরাএই স্নিগ্ধ স্থানে অবতীর্ণ পয়েন্টগুলির$x_1$ স্থানাঙ্কেরগড় জানতে চাই(এটি কোনও পরিমাপ শূন্য উপসেট মনে করবেন না)।

আমরা

$$X \sim \mathcal N(\mu \one, I)$$ জানি ( μ 1 , I ) তাই আমরা একটি ধ্রুবক গড় ভেক্টর সহ একটি গোলাকার গাউসিয়ান পেয়েছি এবং গড় ভেক্টর $\mu\one$ হাইপারপ্লেন $x^T\one = 0$ এর সাধারণ ভেক্টরের সমান লাইনে রয়েছে ।

এটি আমাদের নীচের ছবির মতো পরিস্থিতি দেয়:

কী ধারণা: প্রথম ওভার ঘনত্ব কল্পনা অ্যাফিন subspace $H_t := \{x : x^T\one = t\}$ । ঘনত্ব $X$ প্রতিসম প্রায় $x_1 = x_2$ থেকে $E(X) \in \text{span } \one$ । ঘনত্বটি $H_t$ প্রতিসাম্যযুক্ত হবে কারণ $H_t$ একই লাইনটির উপরেও প্রতিসাম্য, এবং এটি যে বিন্দুর চারপাশে প্রতিসাম্য হয় এটি x 1 + x 2 রেখার ছেদটি$x_1 + x_2 = t$ এবং$x_1 = x_2$ । এটি$x = (t/2, t/2)$ জন্য ঘটে।

ছবি $E(X_1 | T)$ আমরা ধরে স্যাম্পলিং কল্পনা করতে পারেন এবং উপর, এবং তারপর যখনই আমরা একটি বিন্দু পেতে $H_t$ আমরা শুধু নিতে $x_1$ তুল্য এবং যে সংরক্ষণ। উপর ঘনত্ব প্রতিসাম্য থেকে $H_t$ বিতরণের $x_1$ স্থানাঙ্ক এছাড়াও প্রতিসম হতে হবে, এবং এটি একই কেন্দ্রবিন্দু হবে $t/2$ । একটি প্রতিসম বিতরণের গড়টি প্রতিসমের কেন্দ্রীয় বিন্দু তাই এর অর্থ $E(X_1 | T) = T/2$ , এবং এটি$E(X_1| T) = E(X_2 | T)$ since $X_1$ and $X_2$ can be excahnged without affecting anything.

$\one$$\text{span }\one$$\{x : x^T\one = t\}$ which is at $x=(t/n, \dots, t/n)$, and the density is still symmetric so this balance point is again the mean.

Again, that's not a proof, but I think it gives a decent idea of why you'd expect this behavior in the first place.

---

Beyond this, as some such as @StubbornAtom have noted, this doesn't actually require $X$ to be Gaussian. In 2-D, note that if $X$ is exchangeable then $f(x_1, x_2) = f(x_2, x_1)$ (more generally, $f(x) = f(x^\sigma)$) so $f$ must be symmetric over the line $x_1 = x_2$. We also have $E(X) \in \text{span }\one$ so everything I said regarding the "key idea" in the first picture still exactly holds. Here's an example where the $X_i$ are iid from a Gaussian mixture model. All the lines have the same meaning as before.

Answer 3

I think your answer is right, although I'm not entirely sure about the killer line in your proof, about it being true "because they are i.i.d". A more wordy way to the same solution is as follows:

Think about what $\mathbb{E}(x_{i}|T)$ actually means. You know that you have a sample with N readings and that their mean is T. What this actually means, is that now, the underlying distribution they were sampled from no longer matters (you'll notice you at no point used the fact it was sampled from a Gaussian in your proof).

$\mathbb{E}(x_{i}|T)$ is the answer to the question, if you sampled from your sample, with replacement many times, what would be the average you obtained. This is the sum over all the possible values, multiplied by their probability, or $\sum_{i=1}^{N}\frac{1}{N}x_{i}$ which equals T.

Comments

Note that the $x_i|T$ can't be i.i.d., as they are constrained to sum to $T$. If you know $n-1$ of them, you know the $n^{th}$ one too.

— jbowman

yes, but I did something more subtle, I said if you sampled multiple times with replacement, each sample would be an i.i.d sample from a discrete distribution.

— gazza89

Sorry! Misplaced the comment, it should have been to the OP. It was meant in reference to the statement "It means that each $\mathbb{E}\left( X_i \mid T \right) = \frac{T}{n}$ since $X_1,\ldots,X_n$ are IID."

— jbowman