অসম্ভব হবার একটি পক্ষপাতিত্বহীন মূল্নির্ধারক গঠনের একটি পরিসংখ্যাত মধ্যে সম্পূর্ণতার সংজ্ঞা পিছনে স্বজ্ঞা কি তা থেকে?

Question

শাস্ত্রীয় পরিসংখ্যান, একটি সংজ্ঞা যে একটি পরিসংখ্যাত হয় তথ্য একটি সেট জন্য সম্পূর্ণ হতে সংজ্ঞায়িত করা হয় একটি প্যারামিটার এটা একজন নিরপেক্ষ মূল্নির্ধারক গঠন করা অসম্ভব nontrivially তা থেকে। অর্থাৎ একমাত্র উপায় আছে সবার জন্য হয় আছে হতে প্রায় নিশ্চয়।$T$$y_1, \ldots, y_n$$\theta$$0$$E h(T (y )) = 0$$\theta$$h$$0$

এর পিছনে কোন অন্তর্দৃষ্টি আছে? এটি একে সংজ্ঞায়িত করার মতো একটি যান্ত্রিক পদ্ধতির মতো বলে মনে হচ্ছে, আমি সচেতন এটি সম্পর্কে আগে জিজ্ঞাসা করা হয়েছিল, তবে ভাবছিলাম যে অন্তর্দৃষ্টিটি বোঝার জন্য খুব সহজেই এমন কোনও উপকরণ ছিল যা সূচনা শিক্ষার্থীদের উপকরণ হজম করার সহজতর সময় দেয়।

Comments

এটি খুব ভাল প্রশ্ন, আমাকে এটি নিজেই খনন করতে হয়েছিল। দেখা যাচ্ছে যে এটি কারণটি একটি যান্ত্রিক সংজ্ঞা এবং আমার মতো মানক অনুশীলনের কাছে স্বজ্ঞাতভাবে অর্থবহ না বলে মনে হয় এটি মূলত গাণিতিক পরিসংখ্যানগুলিতে মৌলিক অবদান প্রমাণ করার জন্য ব্যবহৃত হয়। বিশেষত, আমার সংক্ষিপ্ত অনুসন্ধানে প্রকাশিত হয়েছে যে লেহম্যান-শেফি উপপাদ্য এবং বসুর উপপাদ্যটি ধরে রাখতে কোনও পরিসংখ্যানের সম্পূর্ণতা প্রয়োজন । এগুলি 1950 এর দশকের মাঝামাঝি অবদান। আমি আপনাকে একটি স্বজ্ঞাত ব্যাখ্যা দিতে পারছি না - তবে আপনি যদি সত্যিই একটি তৈরি করতে চান, তবে প্রমাণগুলির সহযোগী হতে পারেন

— জেরেমিয়াস কে

Answer 1

আমি অন্য উত্তর যোগ করার চেষ্টা করব। প্রথমত, সম্পূর্ণতা একটি প্রযুক্তিগত শর্ত যা মূলত এটি ব্যবহার করে তত্ত্বগুলি দ্বারা ন্যায্য। সুতরাং আসুন আমরা কিছু সম্পর্কিত ধারণা এবং তত্ত্বগুলি যেখানে এটি ঘটে তা দিয়ে শুরু করি।

যাক $X=(X_1,X_2,\dotsc,X_n)$ IID তথ্য, যা আমরা একটি বিতরণ তার হিসাবে মডেলের একটি ভেক্টর প্রতিনিধিত্ব $f(x;\theta), \theta \in \Theta$ যেখানে প্যারামিটার $\theta$ তথ্য শাসক অজানা। $T=T(X)$ হয় যথেষ্ট যদি এর শর্তাধীন বিতরণ $X \mid T$ পরামিতি উপর নির্ভর করে না $\theta$ । $V=V(X)$ হয়আনুষঙ্গিকযদি বিতরণের$V$ উপর নির্ভর করে না$\theta$ (পরিবার মধ্যে$f(x;\theta)$ )। $U=U(X)$ একটি হলশুন্য পক্ষপাতিত্বহীন মূল্নির্ধারকযদি তার প্রত্যাশা শূন্য হয়, নির্বিশেষে$\theta$ । $S=S(X)$ হ'ল একটিসম্পূর্ণ পরিসংখ্যানযদি$S$ উপর ভিত্তি করে শূন্যের কোনও নিরপেক্ষ অনুমানকটিএকই শূন্য হয়, অর্থাৎ, যদি$\DeclareMathOperator{\E}{\mathbb{E}} \E g(S)=0 (\text{for all $\theta$})$ তারপর$g(S)=0$ AE (সবার জন্য$\theta$ )।

এখন, ধরুন আপনার কাছে পর্যাপ্ত পরিসংখ্যান টি , জি 1 ( টি ) , জি 2 ( টি ) এর ভিত্তিতে $\theta$ দুটি পৃথক পক্ষপাতহীন অনুমানকারী রয়েছে । এটি, প্রতীকগুলিতে E g 1 ( T ) = θ ,$T$$g_1(T), g_2(T)$

$$\E g_1(T)=\theta ,\\ \E g_2(T)=\theta$$ এবং$\DeclareMathOperator{\P}{\mathbb{P}} \P(g_1(T) \not= g_2(T) ) > 0$(সবার জন্য$\theta$)। তারপরে$g_1(T)-g_2(T)$হ'ল শূন্যের একটি নিরপেক্ষ অনুমানক, যা সমান শূন্য নয়, প্রমাণ করে যে$T$সম্পূর্ণ নয়। সুতরাং, একটি যথেষ্ট পরিসংখ্যাত সম্পূর্ণতার$T$আমাদের দেয় সেখানে মাত্র এক অনন্য পক্ষপাতিত্বহীন মূল্নির্ধারক অস্তিত্ব যে$\theta$উপর ভিত্তি করে $T$ । এটি ইতিমধ্যে লেহমান-শেফি উপপাদ্যের খুব কাছাকাছি।

আসুন কয়েকটি উদাহরণ দেখি। ধরুন $X_1, \dotsc, X_n$ এখন বিরতি উপর IID অভিন্ন হয় $(\theta, \theta+1)$ । আমরা দেখাতে পারি যে ( $X_{(1)} < X_{(2)} < \dotsm < X_{(n)}$ অর্ডার পরিসংখ্যান হয়) যুগল $(X_{(1)}, X_{(n)})$ যথেষ্ট, কিন্তু এটি সম্পূর্ণ নয় কারণ পার্থক্য $X_{(n)}-X_{(1)}$ আনুষঙ্গিক, আমরা এর প্রত্যাশা গণনা করতে পারি, এটি$c$হতে দেওয়া যাক(যাকেবলমাত্র$n$ফাংশন) এবং তারপরে$X_{(n)}-X_{(1)} -c$হবে শূন্যের একটি নিরপেক্ষ অনুমানক যা শূন্য নয়। সুতরাং আমাদের পর্যাপ্ত পরিসংখ্যান, এক্ষেত্রে সম্পূর্ণ এবং পর্যাপ্ত নয়। এবং আমরা এর অর্থ কী তা দেখতে পারি: পর্যাপ্ত পরিসংখ্যানগুলির কার্যকারিতা রয়েছে যা about সম্পর্কে তথ্যমূলক নয়$\theta$(মডেল প্রসঙ্গে)। সম্পূর্ণ পরিসংখ্যানের সাথে এটি ঘটতে পারে না; এটি এক অর্থে সর্বাধিক তথ্যবহুল, এটির কোনও কার্যই অপ্রয়োজনীয় নয়। অন্যদিকে, যদি স্বল্প প্রত্যাশা শূন্যের ন্যূনতম পর্যায়ে পরিসংখ্যানের কিছু ফাংশন থাকে তবে এটি একটি শব্দ শব্দ হিসাবে দেখা যেতে পারে , মডেলগুলিতে অশান্তি / শব্দ শর্তগুলির প্রত্যাশা শূন্য থাকে। সুতরাং আমরা বলতে পারি যে অ-সম্পূর্ণ পর্যাপ্ত পরিসংখ্যানগুলিতে কিছু শব্দ রয়েছে ।

এই উদাহরণে $R=X_{(n)}-X_{(1)}$ এর ব্যাপ্তিটি আবার দেখুন । যেহেতু তার বন্টন উপর নির্ভর করে না $\theta$ , তাই নয় কি একা নিজে সম্পর্কে কোনো তথ্য থাকে $\theta$ । তবে পর্যাপ্ত পরিসংখ্যানের সাথে একসাথে তাও হয়! কিভাবে? সেই ক্ষেত্রে দেখুন যেখানে $R=1$ টি পালন করা হয়। তারপরে, আমাদের (সত্য হিসাবে পরিচিত) মডেলটির প্রসঙ্গে, আমাদের $\theta$ সম্পর্কে নিখুঁত জ্ঞান আছে ! যথা, আমরা দৃ with়তার সাথে বলতে পারি যে $\theta = X_{(1)}$ । আপনি যে অন্য কোনও মান check এর জন্য পরীক্ষা করতে পারেন $\theta$তারপরে $X_{(1)}$ বা $X_{(n)}$ হয় অনুমিত মডেলটির অধীনে একটি অসম্ভব পর্যবেক্ষণ হিসাবে নিয়ে যায়। অন্যদিকে, আমরা যদি $R=0.1$ তবে $\theta$ এর সম্ভাব্য মানগুলির ব্যাপ্তি বরং বৃহত্তর (অনুশীলন ...)।

এই অর্থে, আনুষঙ্গিক পরিসংখ্যাত $R$ নির্ভুলতা যা দিয়ে আমরা অনুমান করতে পারেন সম্পর্কে কিছু তথ্য রয়েছে $\theta$ এই তথ্য এবং মডেল উপর ভিত্তি করে। এই উদাহরণে এবং অন্যদের সাথে আনুষঙ্গিক পরিসংখ্যান $R$ "নমুনা আকারের ভূমিকা গ্রহণ করে"। সাধারণত, আস্থা অন্তর এবং এই ধরনের চাহিদা নমুনা আকার $n$ , কিন্তু এই উদাহরণে, আমরা একটি করে তুলতে পারে ব্যবধান শর্তসাপেক্ষ আস্থা এই শুধুমাত্র ব্যবহার নির্ণয় করা হয় $R$ না $n$ (ব্যায়াম।) এই ফিশার একটি ধারণা ছিল, যে অনুমান শর্তসাপেক্ষ থাকা উচিত কিছু আনুষঙ্গিক পরিসংখ্যান।

এখন, বসুর উপপাদ্য: $T$ যদি সম্পূর্ণরূপে সম্পূর্ণ হয় তবে এটি কোনও আনুষঙ্গিক পরিসংখ্যান থেকে স্বতন্ত্র। এটি একটি সম্পূর্ণ পর্যাপ্ত পরিসংখ্যানের উপর ভিত্তি করে অনুমান সহজতর, এতে আমাদের শর্তসাপেক্ষ অনুমিতি বিবেচনা করার দরকার নেই। $T$ স্বতন্ত্র একটি পরিসংখ্যানের শর্তাবলী অবশ্যই কিছু পরিবর্তন করে না।

তারপরে, আরও কিছু অন্তর্দৃষ্টি দেওয়ার একটি শেষ উদাহরণ। আমাদের ইউনিফর্ম বিতরণের উদাহরণটি ব্যবধানে $(\theta_1, \theta_2)$ ( $\theta_1<\theta_2$ ) একটি অভিন্ন বিতরণে পরিবর্তন করুন । এই ক্ষেত্রে পরিসংখ্যাত $(X_{(1)}, X_{(n)})$ হল সম্পূর্ণ এবং যথেষ্ট। কী বদলে গেল? আমরা দেখতে পাচ্ছি যে সম্পূর্ণতা মডেলটির একটি সম্পত্তি। পূর্ববর্তী ক্ষেত্রে, আমাদের কাছে একটি সীমিত প্যারামিটার স্থান ছিল। এই বিধিনিষেধটি আদেশের পরিসংখ্যানগুলিতে সম্পর্ক প্রবর্তনের মাধ্যমে সম্পূর্ণতা ধ্বংস করে। এই সীমাবদ্ধতা সরিয়ে আমরা সম্পূর্ণতা পেয়েছি! সুতরাং, এক অর্থে, পরিপূর্ণতার অভাবের অর্থ হল প্যারামিটারের স্থানটি যথেষ্ট পরিমাণে বড় নয় এবং এটি প্রসারিত করে আমরা সম্পূর্ণতা পুনরুদ্ধার করার আশা করতে পারি (এবং এইভাবে, সহজ অনুমান)।

কিছু অন্যান্য উদাহরণ যেখানে পরিপূর্ণতার অভাব প্যারামিটার স্পেসে বিধিনিষেধের কারণে হয়,

• আমার উত্তরটি দেখুন: ফিশার তথ্য কী ধরণের তথ্য?

• যাক $X_1, \dotsc, X_n$ হতে IID $\mathcal{Cauchy}(\theta,\sigma)$ (একটি অবস্থান-স্কেল মডেল)। তারপরে অর্ডার পরিসংখ্যান পর্যাপ্ত তবে সম্পূর্ণ নয়। তবে এখন এই মডেলটিকে সম্পূর্ণ ননপ্যারমেট্রিক মডেলে বড় করুন, এখনও আইআইডি তবে কিছু সম্পূর্ণ অনির্ধারিত বিতরণ $F$ । তারপরে অর্ডার পরিসংখ্যান যথেষ্ট এবং সম্পূর্ণ।

• ক্যানোনিকাল প্যারামিটার স্পেস সহ ক্ষতিকারক পরিবারগুলির জন্য (এটি যতটা সম্ভব বৃহত্তর) ন্যূনতম পর্যায়ে পরিসংখ্যানও সম্পূর্ণ। তবে অনেক ক্ষেত্রে, বাঁকানো ঘৃণ্য পরিবারগুলির মতো প্যারামিটার স্পেসের উপর বিধিনিষেধের প্রচলন সম্পূর্ণতা নষ্ট করে।

একটি খুব প্রাসঙ্গিক কাগজ সম্পূর্ণতা এবং বসুর উপপাদ্য একটি ব্যাখ্যা।

Answer 2

কিছু অন্তর্দৃষ্টি সর্বোত্তম (ন্যূনতম বৈকল্পিক) নিরপেক্ষ অনুমানক তত্ত্ব থেকে উপলব্ধ হতে পারে।

$E_\theta W=\tau(\theta)$$W$$\tau(\theta)$$W$

$W$$W'$$E_\theta W'=E_\theta W=\tau(\theta)$$W'=W+(W'-W)$$Var_\theta W'=Var_\theta W+Var_\theta (W'-W)$$W'$$Var_\theta W'\geq Var_\theta W$

$W$$U$$E_\theta U=0$$\phi_a:=W+aU$$\tau(\theta)$

$$Var_\theta \phi_a:=Var_\theta W+2aCov_\theta(W,U)+a^2Var_\theta U.$$ If there were a $\theta_0\in\Theta$ such that $Cov_{\theta_0}(W,U)<0$, we would obtain $Var_\theta \phi_a<Var_\theta W$ for $a\in(0,-2Cov_{\theta_0}(W,U)/Var_{\theta_0} U)$. $W$ could then not be the best unbiased estimator. QED

Intuitively, the result says that if an estimator is optimal, it must not be possible to improve it by just adding some noise to it, in the sense of combining it with an estimator that is just zero on average (being an unbiased estimator of zero).

দুর্ভাগ্যক্রমে, শূন্যের সমস্ত পক্ষপাতহীন অনুমানের বৈশিষ্ট্য নির্ধারণ করা কঠিন। পরিস্থিতি অনেক সহজ হয়ে যায় যদি শূন্য নিজেই কোনও পরিসংখ্যান হিসাবে শূন্যের একমাত্র নিরপেক্ষ অনুমানকারী$W$ সন্তুষ্ট $Cov_\theta(W,0)=0$। সম্পূর্ণতা এমন একটি পরিস্থিতির বর্ণনা দেয়।