ধারাবাহিক অনুমানকারী এবং নিরপেক্ষ নির্ণায়কের মধ্যে পার্থক্য কী?

125

আমি সত্যিই অবাক হয়েছি যে কেউ ইতিমধ্যে এটি জিজ্ঞাসা করেছে বলে মনে হচ্ছে না ...

অনুমানকারীদের নিয়ে আলোচনা করার সময়, প্রায়শই ব্যবহৃত দুটি শব্দ হ'ল "ধারাবাহিক" এবং "নিরপেক্ষ"। আমার প্রশ্নটি সহজ: পার্থক্য কী?

এই পদগুলির সুনির্দিষ্ট প্রযুক্তিগত সংজ্ঞাগুলি মোটামুটি জটিল এবং এগুলির অর্থ যা বোঝায় তার পক্ষে একটি স্বজ্ঞাত অনুভূতি পাওয়া মুশকিল । আমি একটি ভাল অনুমানক এবং একটি খারাপ অনুমানকারী কল্পনা করতে পারি, তবে কোনও অনুমানকারী কীভাবে একটি শর্ত পূরণ করতে পারে এবং অন্যটি নয় তা দেখতে আমার সমস্যা হচ্ছে।

unbiased-estimator estimators consistency

— MathematicalOrchid
সূত্র

আপনি কি উইকিপিডিয়া নিবন্ধের প্রথম দিকের দিকে নজর রেখেছেন ধারাবাহিক অনুমানকারী , যা এই পার্থক্যটি বিশেষভাবে ব্যাখ্যা করে?

— হোবার

আমি ধারাবাহিকতা এবং পক্ষপাত উভয় জন্য নিবন্ধগুলি পড়েছি, কিন্তু আমি এখনও সত্যিই পার্থক্য বুঝতে পারি না। (আপনি যে চিত্রটি উল্লেখ করেছেন তাতে দাবি করা হয়েছে যে অনুমানকটি সামঞ্জস্যপূর্ণ তবে পক্ষপাতদুষ্ট, তবে কেন তা ব্যাখ্যা করেন না ))

— ম্যাথমেটিকাল

আপনার ব্যাখ্যাটির কোন অংশটি নিয়ে সহায়তা দরকার? ক্যাপশনটি নির্দেশ করে যে অনুক্রমের প্রতিটি অনুমানকারী পক্ষপাতদুষ্ট এবং এটি ক্রমটি কেন সামঞ্জস্যপূর্ণ তাও ব্যাখ্যা করে। এই অনুমানকারীগুলির পক্ষপাতটি চিত্রটি থেকে কীভাবে প্রকট হয় তা ব্যাখ্যা করার দরকার আছে কি?

— হোবার

+1 এই উত্তরের একটির পরে দেওয়া মন্তব্যের থ্রেডটি অত্যন্ত আলোকিত, উভয়ই বিষয় সম্পর্কিত বিষয়ে এটি প্রকাশ করে এবং একটি অনলাইন সম্প্রদায় কীভাবে ভুল ধারণাটি প্রকাশ ও সংশোধন করতে কাজ করতে পারে তার একটি আকর্ষণীয় উদাহরণ হিসাবে।

— হোয়বার

সম্পর্কিত: stats.stackexchange.com/questions/173152/…

— কেজেটিল বি হালওয়ার্সেন

উত্তর:

126

খুব বেশি প্রযুক্তিগত ভাষা না ব্যবহার করে দুটি পদ সংজ্ঞা দেওয়া:

একটি অনুমানকারী সামঞ্জস্যপূর্ণ যদি, নমুনার আকার বাড়ার সাথে সাথে, অনুমানগুলি (অনুমানক দ্বারা উত্পাদিত) অনুমানের সঠিক মানের সাথে "একত্রিত" হয়। কিছুটা আরও সুনির্দিষ্ট হওয়ার জন্য - ধারাবাহিকতার অর্থ এই যে, নমুনার আকার বাড়ার সাথে সাথে অনুমানকারকের স্যাম্পলিং বিতরণটি সত্যিকারের প্যারামিটার মানটিতে ক্রমবর্ধমানভাবে কেন্দ্রীভূত হয়।
যদি কোনও গড়পড়তা সত্যিকারের পরামিতিটির মানটিকে আঘাত করে তবে কোনও অনুমানকারী পক্ষপাতহীন । অর্থাৎ, অনুমানের নমুনা বন্টনের গড়টি সত্য প্যারামিটার মানের সমান।
দুটি সমতুল্য নয়: নিরপেক্ষতা অনুমানের নমুনা বিতরণের প্রত্যাশিত মান সম্পর্কে একটি বিবৃতি। ধারাবাহিকতা নমুনার আকার বাড়ার সাথে সাথে "যেখানে অনুমানের নমুনা বিতরণ চলছে" সম্পর্কে একটি বিবৃতি।

একটি শর্তটি সন্তুষ্ট করা অবশ্যই সম্ভব তবে অন্যটি নয় - আমি দুটি উদাহরণ দেব। উভয় উদাহরণের জন্য একটি জনসংখ্যার নমুনা বিবেচনা করুন । $X_1, ..., X_n$ $N(\mu, \sigma^2)$

নিরপেক্ষ তবে ধারাবাহিক নয়: ধরুন আপনি । তারপরে হ'ল থেকে এর নিরপেক্ষ । কিন্তু সঙ্গতিপূর্ণ নয় যেহেতু তার বন্টন প্রায় আরো ঘনীভূত হয়ে না এটা সবসময় নেই - নমুনা আকার বৃদ্ধির ! $\mu$ $X_1$ $\mu$ $E(X_1) = \mu$ $X_1$ $\mu$ $N(\mu, \sigma^2)$
ধারাবাহিক তবে পক্ষপাতহীন নয়: ধরুন আপনি অনুমান করছেন । সর্বাধিক সম্ভাবনা অনুমানকারী হ'ল যেখানে নমুনা মানে। এটি একটি সত্য যে ig এরপরে, যা এখানে তথ্য ব্যবহার করে নেওয়া যেতে পারে । অতএব কোনও সীমাবদ্ধ আকারের জন্য পক্ষপাতদুষ্ট। আমরা সহজেই জানতে পারি যে these এই ঘটনাগুলি থেকে আমরা অনানুষ্ঠানিকভাবে দেখতে পারি যে বিতরণ $\sigma^2$
${\hat{σ}}^{2} = \frac{1}{n} \sum_{i = 1}^{n} (X_{i} - \bar{X})^{2}$ $\hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (X_i - \overline{X})^2$ $\overline{X}$ $E ({\hat{σ}}^{2}) = \frac{n - 1}{n} σ^{2}$ $E(\hat{\sigma}^2) = \frac{n-1}{n} \sigma^2$ $\hat{\sigma}^2$ $\hat{\sigma}^2$ $v a r ({\hat{σ}}^{2}) = \frac{2 σ^{4} (n - 1)}{n^{2}}$ ${\rm var}(\hat{\sigma}^2) = \frac{ 2\sigma^4(n-1)}{n^2}$ $\hat{\sigma}^2$ গড় তে রূপান্তরিত হওয়ায় এবং ভেরিয়েন্সটি রূপান্তরিত হওয়ায় নমুনার আকার বৃদ্ধি এ আরও বেশি ঘন ঘন হয়ে উঠছে । ( দ্রষ্টব্য: এটি এখানে উত্তরের হিসাবে ব্যবহৃত যুক্ত হিসাবে একই যুক্তি ব্যবহার করে একটি ধারাবাহিকতার প্রমাণ তৈরি করে ) $\sigma^2$ $\sigma^2$ $0$

— ম্যাক্রো
সূত্র

(+1) সমস্ত এমএলই যদিও সামঞ্জস্যপূর্ণ নয়: সাধারণ ফলাফলটি হল যে এমএলইয়ের ক্রমটিতে একটি সামঞ্জস্যপূর্ণ উপ-অনুচ্ছেদ উপস্থিত রয়েছে। যথাযথ ধারাবাহিকতার জন্য কয়েকটি অতিরিক্ত প্রয়োজনীয়তা যেমন সনাক্তকরণের প্রয়োজন। সামঞ্জস্যপূর্ণ নয় এমন এমএলইগুলির উদাহরণগুলি কিছু ত্রুটি-ইন-ভেরিয়েবল মডেলগুলিতে পাওয়া যায় (যেখানে "সর্বাধিক" একটি স্যাডল পয়েন্ট হিসাবে পরিণত হয়)।

— MånsT

ঠিক আছে, আমি যে EIV এমএলইগুলি উল্লেখ করেছি সেগুলি সম্ভবত ভাল উদাহরণ নয়, কারণ সম্ভাবনা কার্যটি সীমাহীন এবং সর্বাধিক উপস্থিত নেই। এমএল পদ্ধতির ব্যর্থতা কীভাবে ব্যর্থ হতে পারে তার উদাহরণ তারা: :) আমি দুঃখিত যে আমি এখনই কোনও প্রাসঙ্গিক লিঙ্ক দিতে পারি না - আমি ছুটিতে আছি।

— MånsT

আপনাকে @ MånsT ধন্যবাদ। প্রয়োজনীয় শর্তগুলি লিঙ্কটিতে বর্ণিত হয়েছিল তবে শব্দটি থেকে এটি পরিষ্কার ছিল না।

— ম্যাক্রো

কেবলমাত্র একটি পার্শ্ব নোট: প্যারামিটার স্পেস অবশ্যই এই ক্ষেত্রে সেই লিঙ্কের শর্তগুলির বিপরীতে কমপ্যাক্ট নয়, না লগের সম্ভাবনা অবলম্বন আর্ট নিজেই। বর্ণিত ধারাবাহিকতার ফলাফল এখনও অবশ্যই ধরে রাখে।

σ^{2}

$\sigma^2$

— কার্ডিনাল

আপনি ঠিক বলেছেন, @ কার্ডিনাল, আমি সেই উল্লেখটি মুছব। এটি যথেষ্ট পরিষ্কার যে এবং তবে আমি এর থেকে বিভ্রান্ত হতে চাই না এটিকে এর ধারাবাহিকতা প্রমাণ করার অনুশীলনে রূপান্তরিত করুন ।

E ({\hat{σ}}^{2}) \to σ^{2}

$E(\hat{\sigma}^2) \rightarrow \sigma^2$

v a r ({\hat{σ}}^{2}) \to 0

${\rm var}(\hat{\sigma}^2) \rightarrow 0$

{\hat{σ}}^{2}

$\hat{\sigma}^2$

— ম্যাক্রো

একটি অনুমানকারীর ধারাবাহিকতার অর্থ এই যে নমুনার আকারটি বড় হওয়ার সাথে সাথে অনুমানের সত্যিকারের মানটি আরও কাছাকাছি চলে আসে। নিরপেক্ষতা একটি সীমাবদ্ধ নমুনা সম্পত্তি যা নমুনার আকার বাড়িয়ে প্রভাবিত হয় না। যদি তার প্রত্যাশিত মানটি সত্য পরামিতি মানের সমান হয় তবে একটি অনুমান নিরপেক্ষ হয়। এটি সমস্ত নমুনা আকারের জন্য সত্য এবং সঠিক যেখানে ধারাবাহিকতা অ্যাসিপটোটিক এবং কেবল প্রায় সমান এবং সঠিক নয়।

একটি অনুমানকারী নিরপেক্ষ বলে বোঝানোর অর্থ হ'ল আপনি যদি আকার এর অনেকগুলি নমুনা নিয়ে থাকেন এবং প্রতিবার অনুমানটি গণনা করেন তবে এই সমস্ত অনুমানের গড়টি সত্য প্যারামিটার মানটির কাছাকাছি হবে এবং আপনি যত বার বাড়িয়েছেন তার সংখ্যা যত নিকটবর্তী হবে । নমুনা গড় উভয় সামঞ্জস্যপূর্ণ এবং নিরপেক্ষ। স্ট্যান্ডার্ড বিচ্যুতির নমুনা অনুমান পক্ষপাতদুষ্ট তবে সামঞ্জস্যপূর্ণ। $n$

@ কার্ডিনাল এবং @ ম্যাক্রোর সাথে মন্তব্যে আলোচনার পরে আপডেট করুন: নীচে বর্ণিত হিসাবে স্পষ্টতই প্যাথলজিকাল কেস রয়েছে যেখানে অনুমানক দৃ strongly়ভাবে সামঞ্জস্যপূর্ণ হওয়ার জন্য বৈকল্পিকটি 0 তে যেতে হয় না এবং পক্ষপাত এমনকি এমনকি যেতে হয় না 0 হয়।

— মাইকেল চেরনিক
সূত্র

আপনার উত্তরের জন্য @ মিশেল চের্নিক +1 কিন্তু আপনার মন্তব্য সম্পর্কে, একটি সামঞ্জস্যপূর্ণ অনুমানের বৈকল্পিক অগত্যা যায় না । উদাহরণস্বরূপ যদি , নমুনা হয় , তবে a এর একটি (শক্তিশালী) ধারাবাহিক অনুমানকারী , তবে , সমস্ত ।

0

$0$

(X_{1}, . . ., X_{n})

$(X_1,...,X_n)$

Normal (μ, 1)

$\mbox{Normal}(\mu,1)$

μ \neq 0

$\mu\neq 0$

1 / \bar{X}

$1/{\bar X}$

1 / μ

$1/\mu$

var (1 / \bar{X}) = \infty

$\mbox{var}(1/{\bar X})=\infty$

n

$n$

@ প্রলিটিনেটর: (+২) প্রতিটি পক্ষে উপস্থিত থাকার পরেও পক্ষপাতটি শূন্যে সঙ্কুচিত হওয়ার দরকার নেই

n

$n$

— কার্ডিনাল

মাইকেল, আপনার উত্তরের শরীরটি বেশ ভাল; আমি মনে করি আপনার প্রথম মন্তব্যে এই বিভ্রান্তিটি প্রবর্তিত হয়েছিল, যা দুটি বিবৃতি নিয়ে আসে যা স্পষ্টতই মিথ্যা এবং বিভ্রান্তির সম্ভাব্য পয়েন্ট। (প্রকৃতপক্ষে, অনেক শিক্ষার্থী অভিব্যক্তির বিভিন্ন পদ্ধতি এবং তার অর্থের মধ্যে দুর্বল বর্ণনার কারণে অবিকল এই ভ্রান্ত ধারণাগুলি সহ প্রারম্ভিক স্নাতক পরিসংখ্যান শ্রেণি থেকে দূরে চলে গেছে Your আপনার শেষ মন্তব্যটি কঠোর দিকের দিকে কিছুটা নেওয়া যেতে পারে))

— কার্ডিনাল

দুর্ভাগ্যক্রমে, আপনার প্রথম মন্তব্যে প্রথম দুটি বাক্য এবং সম্পূর্ণ দ্বিতীয় মন্তব্যটি মিথ্যা। তবে, আমি আশঙ্কা করি যে এই বিষয়গুলি সম্পর্কে আপনাকে আরও বোঝানোর চেষ্টা করা ফলপ্রসূ নয়।

— কার্ডিনাল

এখানে একটি স্বীকারোক্তিহীন, কিন্তু সহজ উদাহরণ। ধারণা করা হয় চিত্রিত ঠিক কি ভুল এবং কেন যেতে পারেন। এটা তোলে নেই প্রয়োগ পদ্ধতি আছে। উদাহরণ : সীমাবদ্ধ দ্বিতীয় মুহূর্তের সাথে আদর্শ আইড মডেলটি বিবেচনা করুন। যাক যেখানে স্বাধীন এবং প্রতিটি সম্ভাব্যতা সঙ্গে এবং শূন্য অন্যথায় হয়, সঙ্গে নির্বিচারে। তারপরে পক্ষপাতহীন, তার নীচে দ্বারা বেঁধে দেওয়া হয়েছে এবং

{\hat{θ}}_{n} = {\bar{X}}_{n} + Z_{n}

$\hat\theta_n = \bar X_n + Z_n$

Z_{n}

$Z_n$

{\bar{X}}_{n}

$\bar X_n$

Z_{n} = \pm a n

$Z_n = \pm a n$

1 / n^{2}

$1/n^2$

a > 0

$a > 0$

{\hat{θ}}_{n}

$\hat\theta_n$

a^{2}

$a^2$

{\hat{θ}}_{n} \to μ

$\hat\theta_n \to \mu$ প্রায় অবশ্যই (এটি দৃ strongly়ভাবে সামঞ্জস্যপূর্ণ)। পক্ষপাত সংক্রান্ত ক্ষেত্রে আমি ব্যায়াম হিসাবে ছেড়েছি।

— কার্ডিনাল

-5

ধারাবাহিকতা: [নমুনার আকার বৃদ্ধির সাথে সাথে, প্রাক্কলনটির প্রাক্কলিত মূল্যকে "রূপান্তর" অনুমান করার পরে খুব ভালভাবে ব্যাখ্যা করা হয়েছে]

নিরপেক্ষতা: এটি গাউস-মার্কভ থিওরিম হিসাবে পরিচিত 1-5 এমএলআর অনুমানকে সন্তুষ্ট করে

রৈখিকতা,
এলোমেলো নমুনা
শূন্য শর্তাধীন ত্রুটি প্রত্যাশা
কোন নিখুঁত সমান্তরালতা
homoskedasticity

তারপরে অনুমানকারীটিকে ন্যূনতম বলা হয় (সেরা লিনিয়ার নিরপেক্ষ আনুষাঙ্গিক

— নিকোলিনা ল্যাঙ্গুরা
সূত্র