সর্বনিম্ন অনুমানকারী উন্নত করা হচ্ছে

ধরুন আমার কাছে আছে $n$ ইতিবাচক পরামিতি $\mu_1,\mu_2,...,\mu_n$ এবং তাদের সম্পর্কিত $n$ অনুমানকারীদের দ্বারা উত্পাদিত নিরপেক্ষ অনুমান $\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n}$ অর্থাৎ $\mathrm E[\hat{\mu_1}]=\mu_1$ , $\mathrm E[\hat{\mu_2}]=\mu_2$ ইত্যাদি।

আমি অনুমান করতে চাই $\mathrm{min}(\mu_1,\mu_2,...,\mu_n)$ হাতে অনুমান ব্যবহার। স্পষ্টতই নিষ্পাপ অনুমানকারী $\mathrm{min}(\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n})$ পক্ষপাতদুষ্ট হিসাবে নিম্ন

E [m i n (\hat{μ_{1}}, \hat{μ_{2}}, . . ., \hat{μ_{n}})] \leq m i n (μ_{1}, μ_{2}, . . ., μ_{n})

$\mathrm E[\mathrm{min}(\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n})]\leq \mathrm{min}(\mu_1,\mu_2,...,\mu_n)$

মনে করুন যে আমার কাছে সংশ্লিষ্ট অনুমানকারীদের কোভারিয়েন্স ম্যাট্রিক্সও রয়েছে $\mathrm{Cov}(\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n}) = \Sigma$ হাতে. প্রদত্ত অনুমান এবং সমবায়ু ম্যাট্রিক্স ব্যবহার করে কি ন্যূনতম পক্ষপাতদুষ্ট (বা একটি কম পক্ষপাতমূলক) অনুমান পাওয়া সম্ভব?

unbiased-estimator estimators minimum

— ক্যাগডাস ওজজেঙ্ক
সূত্র

আপনি কি বেয়েসিয়ান এমসিসিএম পদ্ধতির ব্যবহার করতে ইচ্ছুক বা আপনার কোনও ক্লোজড ফর্মুলা দরকার?

— মার্টিন Modrák

কিন্তু একটি সাধারণ নমুনা পদ্ধতির ঠিক আছে? (এছাড়াও, আপনার বেইসিয়ান বিশ্লেষণের জন্য কঠোরভাবে প্রিয়ারের দরকার নেই, তবে এটি অন্য গল্প)

— মার্টিন মোদরেক

@ মার্টিনমড্রাক আমি নমুনা দেওয়ার পদ্ধতির সাথে অভিজ্ঞ নই। আমি যদি বায়সিয়ান করি তবে আমি সাধারনত সহজ কনজিগেট স্টাফ করি। তবে আপনি যদি ভাবেন যে এই পথে যাওয়ার পথে আমি এগিয়ে যাব এবং শিখব।

— ক্যাগডাস ওজজেঙ্ক

এই অনুমানগুলি সম্পর্কে আপনি আর কী জানেন? আপনি এক্সপ্রেশন জানেন? আপনি কি এই পরামিতিগুলি অনুমান করতে ব্যবহৃত ডেটা বন্টন জানেন?

— wiz

@ উইজ প্রয়োজনে অনুমানকারীদের আরও কিছু মুহুর্ত অনুমান করার চেষ্টা করতে পারি। অনুমানকারীদের বিতরণের জন্য আমার কাছে বিশ্লেষণাত্মক অভিব্যক্তি নেই। সমাধানটি (খনি হিসাবে প্রয়োজন হিসাবে) নিজেই ডেটা বিতরণের উপর নির্ভর করে না।

— ক্যাগডাস ওজজেঙ্ক

উত্তর:

নিরপেক্ষ অনুমানকটির অস্তিত্ব সম্পর্কে আমার কাছে পরিষ্কার কোনও উত্তর নেই। যাইহোক, অনুমানের ত্রুটির ক্ষেত্রে, অনুমান করা ting $\min(\mu_1, \dots, \mu_n)$ একটি সাধারণভাবে একটি সাধারণ সমস্যা।

উদাহরণস্বরূপ, যাক $Y_1, \dots, Y_N \sim N(\mu, \sigma^2I)$ , এবং $\mu = (\mu_1, \dots, \mu_n)$ । দিন $\theta = \min_i \mu_i$ লক্ষ্য পরিমাণ এবং $\hat{\theta}$ একটি অনুমান $\theta$ । যদি আমরা "নিষ্পাপ" অনুমানকারী ব্যবহার করি $\hat{\theta} = \min_i(\bar{Y}_i)$ কোথায় $\bar{Y_i} = \frac{1}{N}\sum_{j=1}^N Y_{i,j}$ , এরপর $L_2$ অনুমান ত্রুটি উপরের দ্বারা আবদ্ধ হয়

E [\hat{θ} - θ]^{2} ⪅ \frac{σ^{2} \log n}{N}

$\mathbb{E}[\hat{\theta} - \theta]^2 \lessapprox \frac{\sigma^2\log n}{N}$ ধ্রুবক পর্যন্ত। (প্রতিটি জন্য অনুমান ত্রুটি নোট করুন

μ_{i}

$\mu_i$ হয়

\frac{σ^{2}}{N}

$\frac{\sigma^2}{N}$ )। অবশ্যই যদি

μ_{i}

$\mu_i$ একে অপরের থেকে অনেক দূরে এবং

σ

$\sigma$ খুব ছোট, অনুমানের ত্রুটি হ্রাস করা উচিত

\frac{σ^{2}}{N}

$\frac{\sigma^2}{N}$ । তবে, সবচেয়ে খারাপ ক্ষেত্রে, এর কোনও অনুমান নেই

θ

$\theta$ নিষ্পাপ অনুমানের চেয়ে আরও ভাল কাজ করে। আপনি অবশ্যই তা প্রদর্শন করতে পারেন

inf_{\hat{θ}} sup_{μ_{1}, \dots, μ_{n}} E [\hat{θ} - θ]^{2} ⪆ \frac{σ^{2} \log n}{N}

$\inf_{\hat{\theta}} \sup_{\mu_1, \dots,\mu_n} \mathbb{E}[\hat{\theta} - \theta]^2 \gtrapprox \frac{\sigma^2\log n}{N}$ যেখানে অসীম সমস্ত সম্ভাব্য অনুমানটি গ্রহণ করে

θ

$\theta$ নমুনার উপর ভিত্তি করে

Y_{1}, \dots, Y_{N}

$Y_1,\dots, Y_N$ এবং সুপ্রিমাম সমস্ত সম্ভাব্য কনফিগারেশন গ্রহণ করে

μ_{i}

$\mu_i$ 'S।

অতএব নিষ্পাপ অনুমানক স্থির অবধি সর্বনিম্নতম, এবং এর চেয়ে ভাল কোনও অনুমান নেই $\theta$ এই অর্থে.

— জেহায়োক শিন
সূত্র

সরবরাহ করা অতিরিক্ত তথ্য আদৌ সহায়তা করছে না? কোন অতিরিক্ত পরিসংখ্যান সহায়ক হতে পারে?

— ক্যাগডাস ওজজেঙ্ক

একটি বিভ্রান্তিকর অবস্থান তৈরি করার জন্য দুঃখিত। আমি অতিরিক্ত তথ্য (সমবায়) সহায়ক নয় বলে বোঝাতে চাইনি। আমি ঠিক উল্লেখ করতে চেয়েছিলাম যে বেশিরভাগ জনসংখ্যার ন্যূনতম অনুমান করা প্রকৃতির পক্ষে কঠিন। Covariance তথ্য সহায়ক হতে হবে। উদাহরণস্বরূপ, সাধারণ ক্ষেত্রে, যদি আমাদের সমস্ত সম্ভাব্য জোড়গুলির জন্য নিখুঁত সম্পর্ক থাকে তবে এর অর্থ এলোমেলো পর্যবেক্ষণগুলি বিভিন্ন গড় + একটি সাধারণ শব্দ শব্দ থেকে আসে। এই ক্ষেত্রে, নিষ্পাপ অনুমানকারী (ন্যূনতম নমুনার অর্থ) নিরপেক্ষ is

— জায়েহিয়োক শিন

সম্পাদনা: নীচে যা জিজ্ঞাসা করা হয়েছিল তার চেয়ে আলাদা প্রশ্নের উত্তর দেয় - এটি ফ্রেমযুক্ত যেমন $\mu$ এলোমেলো বিবেচনা করা হয়, কিন্তু যখন কাজ করে না $\mu$ স্থির হিসাবে বিবেচিত হয়, যা সম্ভবত ওপি-র মনে ছিল। যদি $\mu$ স্থির, আমার চেয়ে ভাল উত্তর নেই $\min(\hat\mu_1,...,\hat\mu_n)$

আমরা যদি কেবলমাত্র গড় এবং সমবায় জন্য অনুমান বিবেচনা করি, তবে আমরা চিকিত্সা করতে পারি $(\mu_1, ..., \mu_n)$ মাল্টিভারিয়েট সাধারণ বিতরণ থেকে একক নমুনা হিসাবে। সর্বনিম্নের অনুমানের একটি সহজ উপায় হ'ল এর থেকে প্রচুর নমুনা আঁকুন $MVN(\hat{\mu}, \Sigma)$ , প্রতিটি নমুনার সর্বনিম্ন গণনা করুন এবং তারপরে সেই মিনিমাটি গড় করুন।

উপরের পদ্ধতি এবং এর সীমাবদ্ধতাগুলি বয়েশিয়ান পদগুলিতে বোঝা যায় - এমভিএন-তে উইকিপিডিয়া থেকে স্বীকৃতি গ্রহণ করা , যদি $\Sigma$ অনুমানকারীদের জ্ঞাত সমবায় এবং এটি আমাদের একটি পর্যবেক্ষণ আছে, যৌথ উত্তরোত্তর বিতরণ $\mu \sim MVN(\frac{\hat{\mu} + m \lambda_0}{1 + m}, \frac{1}{n+m} \Sigma)$ কোথায় $\lambda_0$ এবং $m$ পূর্ব থেকে যেখানে উত্থাপিত হয়, কোনও ডেটা পর্যবেক্ষণ করার আগে আমরা পূর্ব গ্রহণ করি $\mu \sim MVN(\lambda_0, m^{-1} \Sigma$ )। যেহেতু আপনি সম্ভবত প্রিয়ারদের রাখতে চান না $\mu$ , আমরা হিসাবে সীমা নিতে পারেন $m \rightarrow 0$ , ফলস্বরূপ পূর্বে ফলস্বরূপ এবং উত্তরীয় হয় $\mu \sim MVN(\hat{\mu}, \Sigma)$ । যাইহোক, ফ্ল্যাটটি পূর্বে দেওয়া আমরা নিখুঁতভাবে অনুমান করা হচ্ছে যে উপাদানগুলির $\mu$ অনেক পার্থক্য (যদি সমস্ত আসল সংখ্যা সমান সম্ভাবনা থাকে তবে অনুরূপ মান পাওয়া খুব সম্ভব নয়)।

একটি দ্রুত সিমুলেশন দেখায় যে এই পদ্ধতির সাথে অনুমানটি কিছুটা বেশি বাড়িয়ে তোলে $min(\mu)$ যখন উপাদান $\mu$ অনেক কিছু এবং অপ্রত্যাশিত পার্থক্য $min(\mu)$ যখন উপাদানগুলি সমান হয়। যে কেউ তর্ক করতে পারে যে কোনও পূর্ব জ্ঞান ছাড়াই এটি সঠিক আচরণ। আপনি কমপক্ষে কিছু পূর্বের তথ্য জানাতে ইচ্ছুক হলে (উদাঃ) $m = 0.1$ ), ফলাফলগুলি আপনার ব্যবহারের ক্ষেত্রে কিছুটা ভাল আচরণ করা যেতে পারে।

আপনি যদি আরও কাঠামো ধরে নিতে ইচ্ছুক হন তবে আপনি মাল্টিভারিয়েট স্বাভাবিকের চেয়ে ভাল বিতরণ বেছে নিতে সক্ষম হতে পারেন। এছাড়াও স্ট্যান বা অন্যান্য MCMC স্যাম্পলার ব্যবহারের অনুমানের সাথে মানিয়ে নিতে এটি বোধগম্য হতে পারে $\mu$ প্রথম অবস্থানে. এটি আপনাকে নমুনার একটি সেট পাবে $(\mu_1, ..., \mu_n)$ যা তাদের অনুবর্তন কাঠামো সহ (এমভিএন সরবরাহ করতে পারে তার চেয়ে সমৃদ্ধ) সম্ভবত অনুমানকারীদের মধ্যে অনিশ্চয়তা প্রতিফলিত করে। আপনি একবারে প্রতিটি নমুনার ন্যূনতম গণনা করার চেয়ে মিনিমায় উত্তরোত্তর বিতরণ পেতে পারেন এবং যদি আপনার কোনও বিন্দুর প্রাক্কলনের প্রয়োজন হয় তবে এই বিতরণটির গড় গ্রহণ করুন।

— মার্টিন Modrák
সূত্র

নোট করুন যে আমি ন্যূনতম এন এলোমেলো ভেরিয়েবলের অনুমান করার চেষ্টা করছি না। আমি সর্বনিম্ন এন পরামিতি অনুমান করার চেষ্টা করছি। দেখে মনে হচ্ছে আপনার পরামর্শটি একটি অনুমান

E [m i n (\hat{μ_{1}}, \hat{μ_{2}}, . . ., \hat{μ_{n}})]

$E[min(\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n})]$ যদিও আমার জন্য একটি অনুমান প্রয়োজন

m i n (μ_{1}, μ_{2}, . . ., μ_{n})

$min(\mu_1,\mu_2,...,\mu_n)$

— ক্যাগডাস ওজজেনেক

আমি যুক্তিটি ব্যাখ্যা করার জন্য উত্তরটি সম্পাদনা করার চেষ্টা করেছি, আশা করি এটি সহায়তা করে।

— মার্টিন Modrák

তাই এই নমুনা পদ্ধতিটি সাধারণের সাথে তুলনা করে আরও ভাল ফলাফল দেয়

m i n (\hat{μ_{1}}, \hat{μ_{2}}, . . ., \hat{μ_{n}})

$min(\hat{\mu_1},\hat{\mu_2},...,\hat{\mu_n})$ অনুমানক, যা যখন ভাল কাজ করে

μ_{i}

$\mu_i$ তারা কাছাকাছি থাকলে অনেক দূরে এবং অবমূল্যায়ন হয়। এটি কার্যকর হওয়ার জন্য এটি যখন কাছাকাছি থাকে তখন কাজ করা উচিত।

— ক্যাগডাস ওজজেঙ্ক

এটিও লক্ষ করুন

μ_{i}

$\mu_i$ ধনাত্মক সংখ্যা, সুতরাং আপনার সত্যিকারের লাইনের নেতিবাচক অংশের প্রয়োজন নেই।

— ক্যাগডাস ওজজেঙ্ক

আপনি ঠিক বলেছেন যে আমি লক্ষণগুলি এড়িয়ে চলেছি এবং সেগুলি রাখার কোনও সহজ উপায় আমি দেখতে পাচ্ছি না। এছাড়াও আমি প্রস্তাবিত অনুমানক যখন আরও ভাল সম্পাদন করে

μ

$\mu$ এলোমেলো হিসাবে বিবেচনা করা হয়, তবে এটি এর চেয়েও খারাপ

m i n (\hat{μ})

$min(\hat{\mu})$ স্থির জন্য

μ

$\mu$ । আমি মনে করি না যে আমি এটিকে উদ্ধার করতে পারি এবং আমি নিশ্চিত যে এগিয়ে যাওয়ার সবচেয়ে ভাল উপায়টি - আমি উত্তরটি মুছে ফেলার চেষ্টা করতে চাইছি কারণ এটি প্রশ্নের সত্যই উত্তর দেয় না, তবে (আমি আশা করি) উত্তরে কিছু ধারণা রয়েছে যা কারও কাজে লাগতে পারে।

— মার্টিন Modrák