কোন বিতরণের জন্য স্ট্যান্ডার্ড বিচ্যুতির জন্য ক্লোজড-ফর্ম নিরপেক্ষ अनुमानক আছে?

সাধারণ বিতরণের জন্য, দেওয়া স্ট্যান্ডার্ড বিচ্যুতিটির একটি পক্ষপাতহীন অনুমানকারী রয়েছে:

{\hat{σ}}_{unbiased} = \frac{Γ (\frac{n - 1}{2})}{Γ (\frac{n}{2})} \sqrt{\frac{1}{2} \sum_{k = 1}^{n} (x_{i} - \bar{x})^{2}}

$\hat{\sigma}_\text{unbiased} = \frac{\Gamma(\frac{n-1}{2})}{\Gamma(\frac{n}{2})} \sqrt{\frac{1}{2}\sum_{k=1}^n(x_i-\bar{x})^2}$

এই ফলাফলটি এতটা সুপরিচিত না হওয়ার কারণ বলে মনে হচ্ছে যে এটি কোনও দুর্দান্ত আমদানির বিষয়টি না করে মূলত একটি কুরিও । প্রমাণ এই থ্রেড উপর আচ্ছাদিত করা হয় ; এটি সাধারণ বিতরণের একটি মূল সম্পত্তিটির সুবিধা নেয়:

\frac{1}{σ^{2}} \sum_{k = 1}^{n} (x_{i} - \bar{x})^{2} \sim χ_{n - 1}^{2}

$\frac{1}{\sigma^2} \sum_{k=1}^n(x_i-\bar{x})^2 \sim \chi^{2}_{n-1}$

সেখান থেকে, কিছুটা কাজ করে, প্রত্যাশা নেওয়া সম্ভব $\mathbb{E}\left( \sqrt{\sum_{k=1}^n(x_i-\bar{x})^2} \right)$ , এবং একটি একাধিক হিসাবে এই উত্তর চিহ্নিত করে $\sigma$ জন্য ফলাফল, আমরা অনুমান করতে পারেন। $\hat{\sigma}_\text{unbiased}$

এটি আমাকে উত্সাহী করে তোলে যা অন্যান্য বিতরণে স্ট্যান্ডার্ড বিচ্যুতির একটি ক্লোজড ফর্ম নিরপেক্ষ অনুমানক রয়েছে। বৈষম্যের নিরপেক্ষ অনুমানক হিসাবে ভিন্ন, এটি স্পষ্টত বিতরণ-নির্দিষ্ট। তদ্ব্যতীত, অন্যান্য বিতরণের জন্য অনুমানকারীগুলি সন্ধানের জন্য প্রমাণটি মানিয়ে নেওয়া সহজ হবে না।

স্কু-স্বাভাবিক বিতরণগুলির চতুর্ভুজীয় ফর্মগুলির জন্য কিছু সুন্দর বন্টনমূলক বৈশিষ্ট্য রয়েছে, যা আমরা ব্যবহার করি সাধারণ বিতরণ সম্পত্তি কার্যকরভাবে একটি বিশেষ ক্ষেত্রে (যেহেতু সাধারণটি একটি বিশেষ ধরণের স্কিউ-নর্মাল একটি বিশেষ ধরণের) তাই সম্ভবত এটি এত কঠিন হবে না তাদের এই পদ্ধতি প্রসারিত করুন। তবে অন্যান্য বিভেদগুলির জন্য এটি প্রদর্শিত হবে সম্পূর্ণ আলাদা পদ্ধতির প্রয়োজন।

অন্য কোন বিতরণ রয়েছে যার জন্য এ জাতীয় অনুমানকারী পরিচিত?

mathematical-statistics standard-deviation unbiased-estimator

— Silverfish
সূত্র

আপনি যদি প্রযুক্তিগত বিঘ্ন উপেক্ষা করেন তবে উত্তরের প্রকৃতি আরও স্পষ্ট হয়। সাধারণ ক্ষেত্রে আপনি যা লেখেন তার সামান্যই উপসংহারের সাথে প্রাসঙ্গিক; সর্বোপরি গুরুত্বপূর্ণ যে এই নির্দিষ্ট অনুমানকারী পক্ষপাতের পরিমাণটি একা

একটি ক্রিয়া (এবং অন্যান্য বিতরণীয় পরামিতিগুলির উপর নির্ভর করে না যা তথ্য থেকে অনুমান করা প্রয়োজন)।

n

$n$

— whuber

@ যাকে আমি মনে করি আপনি যে সাধারণ ধারণাটি ইঙ্গিত করছেন তা আমি দেখতে পাচ্ছি এবং পরিষ্কারভাবে " একা

কার্যকারিতা " প্রয়োজনীয়। তবে আমি মনে করি এটি যথেষ্ট হবে - যদি আমাদের কিছু সুন্দর বন্টনমূলক ফলাফলের অ্যাক্সেস না থাকে, তবে "বন্ধ রূপ" দিকটি কীভাবে ট্র্যাকটেবল হবে তা আমি দেখতে পাচ্ছি না।

n

$n$

— সিলভারফিশ

এটি "বদ্ধ ফর্ম" বলতে কী বোঝায় তার উপর নির্ভর করে। উদাহরণস্বরূপ, এক ব্যক্তির কাছে একটি থিতা ফাংশন "বন্ধ" হতে পারে তবে অন্য একজনের কাছে এটি কেবল একটি অসীম পণ্য, পাওয়ার সিরিজ বা জটিল অবিচ্ছেদ্য। এটি ভাবতে আসুন, এটিই হ'ল গামা ফাংশনটি :-)।

— whuber

@ শুভ পয়েন্ট! দ্বারা "এই বিশেষ মূল্নির্ধারক মধ্যে পক্ষপাত পরিমাণ", আমি তা গ্রহণ আপনি কি বলতে চান যে পক্ষপাত

একটি ফাংশন (বরং প্রশ্ন, যা শূন্য পক্ষপাত রয়েছে তালিকাভুক্ত মূল্নির্ধারক বেশি)

(এবং মধ্যে

কিন্তু সৌভাগ্যবশত এমনভাবে যাতে আমরা সহজেই একটি নিরপেক্ষ অনুমানকটি সন্ধান করতে পুনরায় সাজিয়ে তুলতে পারি?

s

$s$

n

$n$

σ

$\sigma$

— সিলভারফিশ 0

@ হুইবার: যে কোনও লোকেশন-স্কেল পরিবারের জন্য একই সূত্র থাকা উচিত, আপনি যে সতর্কতার সাথে উল্লেখ করেছিলেন যে

এর কাজটি একটি অবিচ্ছেদ্য অবিচ্ছেদ্য হতে পারে।

n

$n$

— শি'য়ান

উত্তর:

যদিও এটি সরাসরি প্রশ্নের সাথে সংযুক্ত নয়, পিটার বিকেল এবং এরিচ লেহম্যানের ১৯6868 সালের একটি গবেষণাপত্র রয়েছে যা বলে যে, বিতরণের উত্তল পরিবারের জন্য একটি কার্যনির্বাহী এর নিরপেক্ষ অনুমানক রয়েছে (একটি নমুনার আকারের জন্য যথেষ্ট যথেষ্ট) যদি এবং কেবলমাত্র মধ্যে একটি বহুবচন হয় $F$ $q(F)$ $n$ $q(\alpha F+(1-\alpha)G)$ $0\le \alpha\le 1$ । এই উপপাদ্যটি এখানে সমস্যার ক্ষেত্রে প্রযোজ্য না কারণ গাউসীয় বিতরণের সংগ্রহ উত্তল নয় (গাউসিয়ানদের মিশ্রণ কোনও গাউসিয়ান নয়)।

প্রশ্নে ফলাফলের একটি এক্সটেনশান যে কোনো শক্তি মানক চ্যুতির unbiasedly আনুমানিক করা যেতে পারে, প্রদত্ত যথেষ্ট পর্যবেক্ষণ যখন আছে । এটি ফলাফল থেকে অনুসরণ করে $\sigma^\alpha$ $\alpha<0$ যেস্কেল (এবং অনন্য) জন্য প্যারামিটার

\frac{1}{σ^{2}} \sum_{k = 1}^{n} (x_{i} - \bar{x})^{2} \sim χ_{n - 1}^{2}

$\frac{1}{\sigma^2} \sum_{k=1}^n(x_i-\bar{x})^2 \sim \chi^{2}_{n-1}$

σ

$\sigma$

\sum_{k = 1}^{n} (x_{i} - \bar{x})^{2}

$\sum_{k=1}^n(x_i-\bar{x})^2$ ।

এই স্বাভাবিক সেটিংসটি তখন সীমাবদ্ধ বৈকল্পিক সহ যে কোনও লোকেশন-স্কেল পরিবার বাড়ানো যেতে পারে । প্রকৃতপক্ষে,

X_{1}, \dots, X_{n} \overset{iid}{\sim} τ^{- 1} f (τ^{- 1} {x - μ})

$X_1,\ldots,X_n\stackrel{\text{iid}}{\sim} \tau^{-1}f(\tau^{-1}\{x-\mu\})$

σ^{2}

$\sigma^2$

বৈকল্পিক কেবল একটি ফাংশন ; ${var}_{μ, τ} (X) = E_{μ, τ} [(X - μ)^{2}] = τ^{2} E_{0, 1} [X^{2}]$ $\text{var}_{\mu,\tau}(X)=\mathbb{E}_{\mu,\tau}[(X-\mu)^2]=\tau^2\mathbb{E}_{0,1}[X^2]$ $\tau$
বর্গের সমষ্টি $\begin{aligned} E_{μ, τ} [\sum_{k = 1}^{n} (X_{i} - \bar{X})^{2}] & = τ^{2} E_{μ, τ} [\sum_{k = 1}^{n} τ^{- 2} (X_{i} - μ - \bar{X} + μ)^{2}] \\ = τ^{2} E_{0, 1} [\sum_{k = 1}^{n} (X_{i} - \bar{X})^{2}] \end{aligned}$ $\begin{align*}\mathbb{E}_{\mu,\tau}\left[\sum_{k=1}^n(X_i-\bar{X})^2\right]&=\tau^2\mathbb{E}_{\mu,\tau}\left[\sum_{k=1}^n\tau^{-2}(X_i-\mu-\bar{X}+\mu)^2\right]\\ &=\tau^2\mathbb{E}_{0,1}\left[\sum_{k=1}^n(X_i-\bar{X})^2\right]\end{align*}$ has an expectation of the form $\tau^2\psi(n)$ ;
and similarly for any power $E_{μ, τ} [{\sum_{k = 1}^{n} (X_{i} - \bar{X})^{2}}^{α}] = τ^{2 α} E_{0, 1} [{\sum_{k = 1}^{n} (X_{i} - \bar{X})^{2}}^{α}]$ $\mathbb{E}_{\mu,\tau}\left[\left\{\sum_{k=1}^n(X_i-\bar{X})^2\right\}^\alpha\right]=\tau^{2\alpha}\mathbb{E}_{0,1}\left[\left\{\sum_{k=1}^n(X_i-\bar{X})^2\right\}^\alpha\right]$ such that the expectation is finite.

— সিয়ান
সূত্র

$U(0,\theta)$ $X_{(n)}$ has expected value

E (X_{(n)}) = \frac{n}{n + 1} θ

$E(X_{(n)}) = \frac {n}{n+1}\theta$

The standard deviation of the distribution is

σ = \frac{θ}{2 \sqrt{3}}

$\sigma = \frac {\theta}{2\sqrt 3}$

So the estimator

\hat{σ} = \frac{1}{2 \sqrt{3}} \frac{n + 1}{n} X_{(n)}

$\hat \sigma = \frac 1{2\sqrt 3}\frac {n+1}{n}X_{(n)}$

is evidently unbiased for $\sigma$ .

This generalizes to the case where the lower bound of the distribution is also unknown, since we can have an unbiased estimator for the Range, and then the standard deviation is again a linear function of the Range (as is essentially above also).

This exemplifies @whuber's comment, that "the amount of bias is a function of $n$ alone" (plus possibly any known constants) -so it can be deterministically corrected. And this is the case here.

— Alecos Papadopoulos
সূত্র

Now the hard part: when in the world are we interested in the standard deviation of a uniform distribution? (+1)

— shadowtalker

@ssdecontrol That's an excellent question! -please proceed to the next one...

— Alecos Papadopoulos

One thing I love about this answer is how poor the estimator is. It's quite common to see a question which boils down to "why do we use

\hat{θ}

$\hat{\theta}$ as an estimator even though it's biased?" Some students need convincing that unbiasedness is not the be-all and end-all, and a poor unbiased estimator is one way to show them.

— Silverfish

@Silverfish Poor in what way? Some quick simulations show this to have lower MSE than the usual standard deviation (which surprised me).

— Dave

@Dave Interesting! I had jumped to the conclusion it would be poor since it only looked at the maximum order statistic, but I too stand surprised! Shows the value of doing some simulation...

— Silverfish