কেন স্টেইনের প্যারাডক্সটি মাত্র মাত্রায় প্রয়োগ হয়

স্টেইন এর উদাহরণ দেখায় যে সর্বোচ্চ সম্ভাবনা অনুমান মানে সঙ্গে স্বাভাবিকভাবে বিতরণ ভেরিয়েবল এবং ভেরিয়ানস অগ্রহণীয় আছে (একটি বর্গক্ষেত্র হ্রাস ফাংশন অধীনে) iff । ঝরঝরে প্রমাণের জন্য, বৃহত্তর স্কেল অনুক্রমের প্রথম অধ্যায়টি দেখুন : ব্র্যাডলি এফ্রন দ্বারা অনুমান, পরীক্ষার জন্য এবং ভবিষ্যদ্বাণী করার জন্য এমিরিকাল বেইস পদ্ধতিগুলি । $n$ $\mu_1,\ldots,\mu_n$ $1$ $n\ge 3$

এটি প্রথমে আমার কাছে অত্যন্ত অবাক হয়েছিল, তবে এর পিছনে কিছু অন্তর্দৃষ্টি রয়েছে কেন কেউ স্ট্যান্ডার্ড অনুমানটি অগ্রহণযোগ্য বলে আশা করতে পারে (উল্লেখযোগ্যভাবে, যদি , তবে , যেমন স্টেইনের মূল কাগজে বর্ণিত, নীচে যুক্ত)। $x \sim \mathcal N(\mu,1)$ $\mathbb{E}\|x\|^2\approx \|\mu\|^2+n$

আমার প্রশ্নটি বরং: $n$ ডাইমেনশনাল স্পেসের ( $n\ge 3$ ) What $\mathbb{R}^2$ অভাব যা স্টেইনের উদাহরণকে সহজতর করে? সম্ভাব্য উত্তরগুলি $n$ স্পিয়ারের বক্রতা বা সম্পূর্ণ আলাদা কিছু সম্পর্কে হতে পারে ।

অন্য কথায়, কেন এমএলই গ্রহণযোগ্য $\mathbb{R}^2$ ?

সম্পাদনা 1: @ এমপিটাসের প্রতিক্রিয়া হিসাবে 1.30 অনুসরণ করে 1.30 সম্পর্কে:

E_{μ} (‖ z - \hat{μ} ‖^{2}) = E_{μ} (S {(\frac{N - 2}{S})}^{2}) = E_{μ} (\frac{(N - 2)^{2}}{S}) .

$E_\mu\left(\|z-\hat{\mu}\|^2\right)=E_\mu\left(S\left(\frac{N-2}{S}\right)^2\right)=E_\mu\left(\frac{(N-2)^2}{S}\right).$

\hat{μ_{i}} = (1 - \frac{N - 2}{S}) z_{i}

$\hat{\mu_i} = \left(1-\frac{N-2}{S}\right)z_i$ তাই

E_{μ} (\frac{\partial \hat{μ_{i}}}{\partial z_{i}}) = E_{μ} (1 - \frac{N - 2}{S} + 2 \frac{z_{i}^{2}}{S^{2}}) .

$E_\mu\left(\frac{\partial\hat{\mu_i}}{\partial z_i} \right)=E_\mu\left( 1-\frac{N-2}{S}+2\frac{z_i^2}{S^2}\right).$ সুতরাং আমাদের আছে:

2 \sum_{i = 1}^{N} E_{μ} (\frac{\partial \hat{μ_{i}}}{\partial z_{i}}) = 2 N - 2 E_{μ} (\frac{N (N - 2)}{S}) + 4 E_{μ} (\frac{(N - 2)}{S}) = 2 N - E_{μ} \frac{2 (N - 2)^{2}}{S} .

$2\sum_{i=1}^N E_\mu\left(\frac{\partial\hat{\mu_i}}{\partial z_i} \right)=2N-2E_\mu\left(\frac{N(N-2)}{S}\right)+4E_\mu\left(\frac{(N-2)}{S}\right)\\=2N-E_\mu\frac{2(N-2)^2}{S}.$

সম্পাদনা 2 : এই কাগজে স্টেইন প্রমাণ করেছেন যে এমএলই জন্য গ্রহণযোগ্য $N=2$ ।

— হর
সূত্র

@mpiktas এটি যতটা প্রয়োগ হচ্ছে তেমন প্রয়োগযোগ্য নয়। আমরা পর্যাপ্ততা হ্রাস প্রয়োগের পরে পরিস্থিতি একটি আনোভা-এর মতো। এটি ইঙ্গিত দেয় যে গ্রুপের স্বাভাবিক আনোভা অনুমানগুলি অগ্রহণযোগ্য হয় তবে আমরা 3 টিরও বেশি গ্রুপের মাধ্যমগুলি (যা সত্য বলে প্রমাণিত হয়) অনুমান করার চেষ্টা করছি। আমি প্রমাণগুলি দেখতে পাচ্ছি যে এনএল জন্য এমএলই গ্রহণযোগ্যতাযুক্ত এবং স্টেইনের অনুমানকারী যা দাবি করে যা করে তা প্রমাণ করার চেয়ে বরং পর্যন্ত প্রসারিত করার চেষ্টা করার সময় তারা কোথায় ব্যর্থ হয়েছিল তা দেখার জন্য যা একবার সহজ আপনি আসলে মনের মধ্যে অনুমানক আছে।

N = 1, 2

$N = 1, 2$

N = 3

$N = 3$

— লোক

... এবং স্টেইনের লেমা ব্যবহার করতে জানুন। আমার ধারণা 6 মিনিট আগের তুলনায় এটি আসলে সামান্য সামান্য এগিয়ে।

— লোক

আমি রাজী. এর জন্য আপনার কোনও ভাল রেফারেন্স রয়েছে (মূল কাগজটি বাদে)। আমি স্টেইনের মূল কাগজকে অত্যধিক গণনাভুক্ত পেয়েছি এবং আশা করছি যে কেউ গত পঞ্চাশ বছরে একটি আলাদা পদ্ধতি তৈরি করতে পেরেছিল।

— হার

আমাকে যে প্রমাণ শেখানো হয়েছিল তা হ'ল 1983 সালের ব্রাউন এবং হোয়াং যা আমার বিশ্বাস 1950 এর দশকের প্রথম দিক থেকে ব্লাথের প্রস্তাবিত একটি পদ্ধতি ব্যবহার করে। এটি বেশ সাধারণ (স্টেইনের ফলাফলের চেয়ে বেশি সাধারণ যে এটি ক্ষতিকারক পরিবারের জন্য কাজ করে) এবং আমি বিশ্বাস করি, স্টেইনের থেকে একেবারেই আলাদা। তবে এটি তুচ্ছ নয়।

— লোক

@ দারুণ প্রশ্ন! (+1)

— সানকুলসু

উত্তর:

ডাইমেনশনাল মাল্টিভিয়ারেট নরমাল এলোমেলো ভেরিয়েবলের গড় এমএলইয়ের স্বীকৃতি পাওয়ার জন্য এবং এর ক্ষেত্রে দ্বিধাত্বতা অবশ্যই বিস্ময়কর। $d < 3$ $d \geq 3$ $d$

সম্ভাব্যতা এবং পরিসংখ্যানগুলির মধ্যে আরও একটি খুব বিখ্যাত উদাহরণ রয়েছে যেখানে এবং মামলার মধ্যে । এটি জাল একটি সাধারণ র্যান্ডম ওয়াকের পুনরাবৃত্তি । অর্থাৎ, ডাইমেনশনাল সিম্পল এলোমেলো পদব্রজেতা 1 বা 2 মাত্রায় পুনরাবৃত্তি হয় তবে এটি মাত্রায় ক্ষণস্থায়ী । অবিচ্ছিন্ন সময়ের এনালগ (ব্রাউনিয়ান গতির আকারে )ও ধারণ করে। $d < 3$ $d \geq 3$ $\mathbb{Z}^d$ $d$ $d \geq 3$

দেখা যাচ্ছে যে দু'জনের ঘনিষ্ঠ সম্পর্ক রয়েছে।

ল্যারি ব্রাউন প্রমাণ করেছেন যে দুটি প্রশ্নই মূলত সমান। অর্থাৎ সেরা পরিবর্তিত মূল্নির্ধারক একটি এর -dimensional বহুচলকীয় স্বাভাবিক গড় ভেক্টর গ্রাহ্য হয় যদি এবং কেবল যদি -dimensional ব্রোমিন পৌনঃপুনিক হয়। $\hat{\mu} \equiv \hat{\mu}(X) = X$ $d$ $d$

আসলে, তার ফলাফলগুলি আরও অনেক বেশি এগিয়ে যায়। যে কোনও বুদ্ধিমান (অর্থাত্ জেনারালাইজড বেয়েস) অনুমানকারী সাথে আবদ্ধ ( ) ঝুঁকি রয়েছে, সেখানে একটি স্পষ্ট (()) ডাইমেনশনাল ডিফিউশন রয়েছে যেমন অনুমানকারী টিল্ডে adm যদি গ্রহণযোগ্য হয় তবে কেবলমাত্র যদি এর সাথে সম্পর্কিত প্রসার পুনরাবৃত্তি হয়। $\tilde{\mu} \equiv \tilde{\mu}(X)$ $L_2$ $d$ $\tilde{\mu}$

এই আশ্লেষ স্থানীয় গড় মূলত দুই estimators মধ্যে অমিল হয়, অর্থাত, এবং আশ্লেষ কোভ্যারিয়েন্স হয় । এ থেকে এটি সহজেই পাওয়া যায় যে এমএলই আমরা ব্রাউনিয়ান গতি পুনরুদ্ধার (উদ্ধার) করেছি। $\tilde{\mu} - \hat{\mu}$ $2 I$ $\tilde{\mu} = \hat{\mu} = X$

সুতরাং, কিছুটা অর্থে, আমরা স্টোকাস্টিক প্রক্রিয়াগুলির লেন্সের মাধ্যমে গ্রহণযোগ্যতার প্রশ্নটি দেখতে পারি এবং পছন্দসই সিদ্ধান্তে পৌঁছানোর জন্য বিচ্ছিন্নতার সু-অধ্যয়নিত বৈশিষ্ট্যগুলি ব্যবহার করতে পারি।

তথ্যসূত্র

এল ব্রাউন (1971)। মাননীয় অনুমানক, পুনরাবৃত্তি বিচ্ছিন্নতা এবং অদৃশ্য সীমানা মান সমস্যা । অ্যান। ম্যাথ। তাত্ক্ষণিকবাজার। , খণ্ড। 42, না। 3, পৃষ্ঠা 855-903।
আরএন ভট্টাচার্য (1978)। বহুমাত্রিক বিভেদগুলির জন্য আক্রমণাত্মক ব্যবস্থার পুনরাবৃত্তি এবং অস্তিত্বের জন্য মানদণ্ড । অ্যান। PROB। , খণ্ড। 6, না। 4, 541–553।

— মৌলিক
সূত্র

আসলে, এরকম কিছু আমি আশা করছিলাম। গণিতের অন্য একটি ক্ষেত্রের সাথে সংযোগ (এটি ডিফারেনশিয়াল জ্যামিতি বা স্টোকাস্টিক প্রক্রিয়াগুলি) যা দেখায় যে জন্য গ্রহণযোগ্যতা কেবল একটি তাত্পর্য ছিল না। দুর্দান্ত উত্তর!

n = 2

$n=2$

— হার

আপনার উত্তরের দ্বারা অনুপ্রাণিত হয়ে আমি কিছু বিশদ সরবরাহ করেছি এবং এমও: mathoverflow.net/questions/93745/…

— হেনরি.এল

@ কার্ডিনালাল একটি দুর্দান্ত উত্তর দিয়েছে (+1), তবে প্রমাণগুলি (এবং আমি নই) এর সাথে পরিচিত না হলে পুরো বিষয়টি রহস্যজনক থেকে যায়। সুতরাং আমি মনে করি যে স্টেইনের প্যারাডক্সটি এবং উপস্থিত না হওয়ার একটি স্বজ্ঞাত কারণ কী তা নিয়ে প্রশ্নটি রয়ে গেছে । $\mathbb R$ $\mathbb R^2$

আমি স্টিফেন স্টিলার, 1990-এ সংকোচনের প্রাক্কলনকারীদের উপর একটি গ্যাল্টোনীয় দৃষ্টিভঙ্গিতে প্রস্তাবিত একটি রিগ্রেশন প্রেক্ষিতটি খুব সহায়ক বলে মনে করি । স্বাধীন পরিমাপ বিবেচনা , প্রতিটি পরিমাপ কিছু অন্তর্নিহিত (অলক্ষিত) থেকে নমুনা । আমরা যদি কোনওভাবে জানতাম , তবে আমরা জোড়াগুলির একটি প্লট তৈরি করতে পারি : $X_i$ $\theta_i$ $\mathcal N(\theta_i, 1)$ $\theta_i$ $(X_i, \theta_i)$

স্টেইনের প্যারাডক্স: প্রতিরোধের দৃষ্টিভঙ্গি

তির্যক রেখা শূন্য শব্দ এবং নিখুঁত অনুমানের সাথে মিল ; বাস্তবে শব্দটি শূন্য নয় এবং সুতরাং পয়েন্টগুলি অনুভূমিক দিকের তির্যক লাইন থেকে স্থানচ্যুত হয় । Correspondinly, একটি রিগ্রেশন লাইন হিসেবে দেখা যেতে পারে উপর । আমরা যাইহোক, জানি এবং অনুমান করতে চাই , সুতরাং আমাদের পরিবর্তে - তে একটি রিগ্রেশন লাইনটি বিবেচনা করা উচিত - যার চিত্রের (ড্যাশড লাইন) হিসাবে দেখানো হয়েছে, অনুভূমিকভাবে পক্ষপাতদুষ্ট পৃথক .াল হবে । $\theta = X$ $\theta = X$ $X$ $\theta$ $X$ $\theta$ $\theta$ $X$

স্টিলারের কাগজ থেকে উদ্ধৃতি:

স্টেইন প্যারাডক্সের এই গালটোনীয় দৃষ্টিভঙ্গি এটিকে প্রায় স্বচ্ছ উপস্থাপন করে। "সাধারণ" estimators এর তাত্ত্বিক রিগ্রেশন লাইন থেকে উদ্ভূত হয় উপর । আমাদের লক্ষ্য ভবিষ্যদ্বাণী করা ছিল যে লাইন দরকারী হবে থেকে , কিন্তু আমাদের সমস্যা বিপরীত হয়, যথা ভবিষ্যদ্বাণী করা থেকে স্কোয়ারড ত্রুটি সমষ্টি ব্যবহার যেমন একটি মানদণ্ড এই মাপদণ্ডের জন্য, সর্বোত্তম লিনিয়ার অনুমানকগুলি উপর সর্বনিম্ন স্কোয়ার রিগ্রেশন রেখা দ্বারা দেওয়া হয় $\hat \theta_i^0 = X_i$ $X$ $\theta$ $X$ $\theta$ $\theta$ $X$ $\sum (\theta_i - \hat \theta_i)^2$ $\theta$ $X$ , এবং জেমস-স্টেইন এবং ইফ্রন-মরিস অনুমানকারীরা নিজেরাই সেই সর্বোত্তম লিনিয়ার অনুমানের অনুমানকারী। "সাধারণ" অনুমানকারীগুলি ভুল রিগ্রেশন লাইন থেকে উদ্ভূত হয়, জেমস-স্টেইন এবং ইফ্রন-মরিস অনুমানকারীগুলি ডান রিগ্রেশন লাইনের কাছাকাছি থেকে প্রাপ্ত হয়।

এবং এখন আসে গুরুত্বপূর্ণ বিট (জোর দেওয়া):

আমরা এমনকি দেখতে পারেন কেন প্রয়োজনীয়: যদি বা , এর লিস্ট স্কোয়ার লাইন উপর নির্দিষ্ট বিন্দু দিয়ে পাস করতে হবে , তাই জন্য বা , দুটি রিগ্রেশন লাইন ( অন এবং on ) অবশ্যই প্রতিটি সম্মত হতে হবে । $k\ge 3$ $k=1$ $2$ $\theta$ $X$ $(X_i, \theta_i)$ $k=1$ $2$ $X$ $\theta$ $\theta$ $X$ $X_i$

আমি মনে করি এটি এবং মধ্যে বিশেষ কী তা এটি খুব স্পষ্ট করে তোলে । $k=1$ $k=2$

— অ্যামিবা বলছেন মনিকাকে রিইনস্টেট করুন
সূত্র