নমুনা অর্থ বিতরণ "সেরা" অনুমান কিছু অর্থে বোঝানো হয়?

দ্বারা (দুর্বল / শক্তিশালী) বৃহৎ সংখ্যক আইন, কিছু IID নমুনা পয়েন্ট দেওয়া $\{x_i \in \mathbb{R}^n, i=1,\ldots,N\}$ কোনো বিতরণের, তাদের নমুনা গড় $f^*(\{x_i, i=1,\ldots,N\}):=\frac{1}{N} \sum_{i=1}^N x_i$ বিতরণে রূপান্তরিত হ'ল উভয়ই সম্ভাব্যতা হিসাবে এবং যেমন নমুনার আকার $N$ অসীমের দিকে যায়।

যখন নমুনা আকার $N$ সংশোধন করা হয়েছে, আমি ভাবছি যদি LLN মূল্নির্ধারক $f^*$ একটি মূল্নির্ধারক কিছু অর্থে ভাল? উদাহরণ স্বরূপ,

এর প্রত্যাশাটি বিতরণ গড়, সুতরাং এটি নিরপেক্ষ অনুমানক। এর বৈকল্পিকতা $\frac{\sigma^2}{N}$ যেখানে $\sigma^2$ হল বিতরণ বৈকল্পিক। তবে এটি কি ইউএমভিইউ?
আছে কিছু ফাংশন $l_0: \mathbb{R}^n \times \mathbb{R}^n \rightarrow [0,\infty)$ যেমন যে $f^*(\{x_i, i=1,\ldots,N\})$ কম সমস্যা সমাধানের:
$চ^{*} ({{এক্স}_{আমি}, আমি = 1, ..., এন}) = {argmin}_{তোমার দর্শন লগ করা \in {আর}^{এন}} Σ_{আমি = 1}^{এন} ঠ_{0} ({এক্স}_{আমি}, তোমার দর্শন লগ করা) ?$ $f^*(\{x_i, i=1,\ldots,N\}) = \operatorname{argmin}_{u \in \mathbb{R}^n} \quad \sum_{i=1}^N l_0(x_i, u)?$
অন্য কথায়, wrt কিছু বৈসাদৃশ্য ফাংশন উত্তম ন্যূনতম বিপরীতে কাঠামোর মধ্যে (অনুচ্ছেদ 2.1 CF "এ" প্রাক্কলন মৌলিক হিউরিস্টিক " গাণিতিক পরিসংখ্যান: মৌলিক ধারণা ও নির্বাচিত বিষয়, ভলিউম 1 " Bickle এবং Doksum দ্বারা)। $f^*$ $l_0$

উদাহরণস্বরূপ, যদি বিতরণটি গাউসীয় বিতরণকারীর পরিবার থেকে জানা / সীমাবদ্ধ থাকে তবে নমুনা গড়টি বন্টনের গড় এমএলই অনুমানকারী হতে পারে এবং এমএলই সর্বনিম্ন বিপরীতে কাঠামোর অন্তর্ভুক্ত এবং এর বিপরীতে ফাংশন বিয়োগের বিয়োগ সম্ভাবনা ফাংশন। $l_0$
আছে কিছু ফাংশন যেমন যে কম সমস্যা সমাধানের: $l: \mathbb{R}^n \times F \rightarrow [0,\infty)$ $f^*$ কোনো বিতরণের জন্য এর কিছু পরিবারের মধ্যে ডিস্ট্রিবিউশন?
$f^{*} = {argmin}_{f} E_{iid {x_{i}, i = 1, \dots, N} each with distribution P} l (f ({x_{i}, i = 1, \dots, N}), P) ?$ $f^* = \operatorname{argmin}_{f} \quad \operatorname{E}_{\text{iid }\{x_i, i=1,\ldots,N\} \text{ each with distribution }P } \quad l(f(\{x_i, i=1,\ldots,N\}), P)?$ $P$ $x_i$ $F$
অন্য কথায়, wrt কিছু হারিয়ে ফাংশন উত্তম এবং কিছু পরিবার সিদ্ধান্ত তত্ত্বীয় কাঠামোর মধ্যে ডিস্ট্রিবিউশন এর (অনুচ্ছেদ 1.3 CF "ডিসিশন তত্ত্বীয় ফ্রেমওয়ার্ক" "মধ্যে : মৌলিক ধারণা ও নির্বাচিত বিষয়, খণ্ড 1 গাণিতিক পরিসংখ্যান দ্বারা" বিকল এবং ডোকসাম)। $f^*$ $l$ $F$

নোট করুন যে উপরেরগুলি "সেরা" অনুমানের জন্য তিনটি আলাদা ব্যাখ্যা যা আমি এখনও অবধি জানি। আপনি যদি এলএলএন অনুমানকারীকে প্রয়োগ করতে পারে এমন অন্যান্য সম্ভাব্য ব্যাখ্যা সম্পর্কে জানেন তবে দয়া করে এটি উল্লেখ করতেও দ্বিধা করবেন না।

estimation expected-value law-of-large-numbers

— টিম
সূত্র

অনুমানকারীকে বৈশিষ্ট্যযুক্ত করার আরেকটি উপায়: অনুগ্রহপূর্বক অনুমানকারী সম্পর্কে এখানে পড়ুন । এলএলএন-এর কারণে নমুনা গড়টি সামঞ্জস্যপূর্ণ।

— রোহিত বঙ্গ

নমুনা গড়ের অনেকগুলি সুন্দর এবং আকর্ষণীয় বৈশিষ্ট্য রয়েছে তবে কখনও কখনও তারা কোনও নির্দিষ্ট পরিস্থিতিতে যেটিকে থাকতে পারে তা সেরা নয়। একটি উদাহরণ হল এমন ক্ষেত্রে যেখানে বিতরণের সমর্থন প্যারামিটারের মানের উপর নির্ভর করে। বিবেচনা করুন

, তারপর

X_{1}, X_{2}, \dots, X_{n} \sim U (0, θ)

$X_1, X_2, \ldots, X_n \sim \mathcal{U}(0,\theta)$

হ'ল বিতরণ গড়ের একটি নিরপেক্ষঅনুমানক

তবে এটি ইউএমভিউ নয়, উদাহরণস্বরূপ, বৃহত্তম অর্ডারের পরিসংখ্যান

ভিত্তিতে নিরপেক্ষ অনুমান

\frac{1}{n} \sum_{i = 1}^{n} X_{i}

$\frac{1}{n} \sum_{i=1}^{n} X_i$

θ

$\theta$

এর নমুনা গড়ের চেয়ে কম পরিমাণে ভিন্নতা থাকবে।

\frac{n + 1}{n} X_{(n)}

$\frac{n+1}{n}X_{(n)}$

— ভাইটাল স্ট্যাটিসটিক্স

ধন্যবাদ! তবে এর বৈকল্পিকতা কীভাবে গণনা করা হয়?

— টিম

এর পিডিএফ , বৃহত্তম অর্ডার পরিসংখ্যান দ্বারা দেওয়া হয়েছে,

Y = X_{(n)}

$Y=X_{(n)}$

, তাই নিরপেক্ষ অনুমানক এর প্রকরণ

f (y) = \frac{n y^{n - 1}}{θ^{n}}; y \in (0, θ)

$f(y)= \frac{ny^{n-1}}{{\theta}^n} ; y\in (0,\theta)$

হবে,

\frac{n}{n + 1} Y

$\frac{n}{n+1}Y$

, অর্থাত্ ভ্যারিয়েন্স আদেশ হয়

V a r (\frac{n}{n + 1} Y) = \frac{1}{n (n + 2)} θ^{2}

$Var(\frac{n}{n+1}Y)=\frac{1}{n(n+2)}\theta^2$

, নমুনার বৈচিত্রের সাথে তুলনা করে যার অর্থ

এর অর্ডার

\frac{1}{n^{2}}

$\frac{1}{n^2}$

।

\frac{1}{n}

$\frac{1}{n}$

— ভাইটাল স্ট্যাটিসটিক্স

@ ভিটাল স্ট্যাটিসটিক্স, আমি কি এখানে পুরোপুরি অনুপস্থিত রয়েছি? ভেরিয়েবল উপর অভিন্ন হন

তাদের নমুনা গড় প্রত্যাশা রয়েছে

, তাই না আপনি 2 দ্বারা গুন করতে একজন নিরপেক্ষ মূল্নির্ধারক পেতে চান

[0, θ]

$[0, \theta]$

θ / 2

$\theta/2$

θ

$\theta$

— এনআরএইচ

আপনার দ্বিতীয় প্রশ্নের উত্তর হ্যাঁ হয়: নমুনা গড় ন্যূনতম বিপরীতে মূল্নির্ধারক যখন আপনার ফাংশন হয় , যখন x এবং u বাস্তব সংখ্যা, অথবা , যখন এক্স এবং ইউ কলাম ভেক্টর হয়। এটি সর্বনিম্ন-স্কোয়ার তত্ত্ব বা ডিফারেনশিয়াল ক্যালকুলাস থেকে অনুসরণ করে। $l_0$ $(x-u)^2$ $(x-u)'(x-u)$

একটি সর্বনিম্ন বিপরীতে অনুমানকারী নির্দিষ্ট প্রযুক্তিগত অবস্থার অধীনে উভয়ই ধারাবাহিক এবং অ্যাসিপোটোটিকভাবে স্বাভাবিক। নমুনা গড়ের জন্য, এটি ইতিমধ্যে এলএলএন এবং কেন্দ্রীয় সীমাবদ্ধ তত্ত্বটি থেকে অনুসরণ করে follows আমি জানি না যে সর্বনিম্ন বিপরীতে অনুমানকারীরা কোনওভাবেই "অনুকূল"। ন্যূনতম বিপরীতে অনুমানকারীগুলির সম্পর্কে দুর্দান্ত এটি হ'ল অনেক শক্তিশালী অনুমানকারী (যেমন মিডিয়ান, হুবারের অনুমানকারী, নমুনা কোয়ান্টাইল) এই পরিবারে পড়ে এবং আমরা এই সিদ্ধান্তে পৌঁছাতে পারি যে তারা ন্যূনতম বিপরীতে অনুমানকারীগুলির জন্য সাধারণ উপপাদ্য প্রয়োগ করেই সুসংগত এবং অ্যাসিপোটোটিকভাবে স্বাভাবিক so যতক্ষণ না আমরা কিছু প্রযুক্তিগত শর্তাদি পরীক্ষা করি (যদিও প্রায়শই এটি শোনার চেয়ে এটি বেশ কঠিন)।

অনুকূলতার একটি ধারণা যা আপনি আপনার প্রশ্নে উল্লেখ করেন না তা হ'ল দক্ষতা যা মোটামুটিভাবে বলতে গেলে একটি নির্দিষ্ট মানের অনুমান করার জন্য আপনার কতটা নমুনা প্রয়োজন। গড় এবং মধ্যযুগীয়দের দক্ষতার তুলনা করার জন্য http://en.wikedia.org/wiki/Efficiency_(statics)#Asympotic_e وړিফিকেশন দেখুন (গড়টি আরও দক্ষ, তবে মধ্যকরা বিদেশীদের পক্ষে আরও দৃust়)।

তৃতীয় প্রশ্নের জন্য, ফাংশনগুলির সেটের উপর কিছু বাধা ছাড়াই যার উপরে আপনি আরগমিনটি সন্ধান করছেন, আমি মনে করি না যে নমুনাটির অর্থটি সর্বোত্তম হবে। যে কোনও ডিস্ট্রিবিউশন পি এর জন্য, আপনি f স্থির করতে পারেন যা উপেক্ষা করে এবং নির্দিষ্ট পি এর ক্ষয় হ্রাস করে S $x_i$

Minimax optimality এক আপনি দিতে চেয়ে দুর্বল অবস্থা: যে চাওয়ার পরিবর্তে কোন জন্য শ্রেষ্ঠ ফাংশন হবে কোন ক্লাসে, আপনি যে অনুরোধ করতে পারেন শ্রেষ্ঠ খারাপ-কেস কর্মক্ষমতা আছে। এটি, আরগমিন এবং প্রত্যাশার মধ্যে । বয়েসীয় অনুকূলতা হ'ল আরেকটি উপায়: উপর পূর্ব বিতরণ রাখুন , এবং কাছ থেকে প্রত্যাশাটি নিন এবং থেকে নমুনা নিন । $f^*$ $P$ $f^*$ $\max_{P\in F}$ $P\in F$ $P$ $P$

— DavidR
সূত্র

ধন্যবাদ! ন্যূনতম বৈপরীত্যের প্রাক্কলনকারীগুলির বৈশিষ্ট্যগুলির মতো, যেমন সামঞ্জস্যপূর্ণ এবং অ্যাসিপোটোটিকভাবে স্বাভাবিক, সেইসাথে মিডিয়ান, হুবারের অনুমানকারী, নমুনা কোয়ান্টাইলের উদাহরণগুলির জন্য কি কিছু ভাল রেফারেন্স রয়েছে?

— টিম

আপনি যে বাইকল এবং ডোকসুম বইয়ের উদ্ধৃতি দিয়েছেন তার বিভাগের 5.2.2 ন্যূনতম বিপরীতে অনুমানকারীগুলির সামঞ্জস্যতার উপর একটি উপপাদ্য রয়েছে। বিভাগ 5.4.2 অ্যাসিপটোটিক স্বাভাবিকতা নিয়ে আলোচনা করে। আরেকটি উত্স যা আমি সুপারিশ করি এবং যা আমি উল্লেখ করে অন্যান্য অনুমানকারীদের নিয়ে আলোচনা করে তা হ'ল ভ্যান ডের ভার্টের অ্যাসিম্পটোটিক স্ট্যাটিস্টিক্স বই। অধ্যায় 5 এম-অনুমানকারীগুলিতে রয়েছে, এটি সর্বনিম্ন বিপরীতে অনুমানকারীগুলির জন্য তার নাম।

— ডেভিডআর

R^{n}

$\mathbb{R}^n$

l_{2}

$l_2$

আমি স্ট্যান্ডার্ড ইউক্লিডিয়ান নিয়ম বলতে চাই - আমি এটি স্পষ্ট করতে ভেক্টর স্বরলিপিতে পরিবর্তন করেছি।

— ডেভিডআর

l

$l$