কেন পর্যবেক্ষণ করা ফিশারের তথ্য ব্যবহার করা হয়?

17

স্ট্যান্ডার্ড সর্বাধিক সম্ভাবনার সেটিংসে ( নমুনা ঘনত্ব ) সহ কিছু বিতরণ থেকে ) এবং সঠিকভাবে নির্দিষ্ট মডেলের ক্ষেত্রে ফিশার তথ্য দ্বারা দেওয়া হয় $Y_{1}, \ldots, Y_{n}$ $f_{y}(y|\theta_{0}$

I (θ) = - E_{θ_{0}} [\frac{\partial^{2}}{θ^{2}} \ln f_{y} (θ)]

$I(\theta) = -\mathbb{E}_{\theta_{0}}\left[\frac{\partial^{2}}{\theta^{2}}\ln f_{y}(\theta) \right]$

যেখানে প্রত্যাশাটি সত্য ঘনত্বের প্রতি সম্মান নিয়ে নেওয়া হয়েছে যা ডেটা উত্পন্ন করে। আমি যে পর্যবেক্ষিত ফিশার তথ্য পড়েছি

\hat{J} (θ) = - \frac{\partial^{2}}{θ^{2}} \ln f_{y} (θ)

$\hat{J}(\theta) = -\frac{\partial^{2}}{\theta^{2}}\ln f_{y}(\theta)$

প্রাথমিক হিসাবে ব্যবহৃত হয় কারণ (প্রত্যাশিত) ফিশার তথ্য গণনাতে জড়িত অবিচ্ছেদ্য কিছু ক্ষেত্রে সম্ভব হয় না। আমার বিভ্রান্ত এমনকি যদি অবিচ্ছেদ্য করা সম্ভব হয়, প্রত্যাশা সত্য মডেল, যেটি অজানা প্যারামিটার মান জড়িত হয় সম্মান সঙ্গে গ্রহণ করা রয়েছে । মনে হচ্ছে যদি তাই হয়ে থাকে যে জেনে এটা গনা অসম্ভব । এটা কি সত্য? $\theta_{0}$ $\theta_{0}$ $I$

maximum-likelihood fisher-information

— user2249626
সূত্র

13

সত্য পরামিতি: আপনি চার quanties এখানে পেয়েছেন , একটি সামঞ্জস্যপূর্ণ অনুমান , প্রত্যাশিত তথ্য এ এবং পর্যবেক্ষিত তথ্য এ । এই পরিমাণগুলি কেবল তাত্পর্যপূর্ণ সমতুল্য, তবে এটি সাধারণত ব্যবহৃত হয়। $\theta_0$ $\hat \theta$ $I(\theta)$ $\theta$ $J(\theta)$ $\theta$

পরিদর্শন করা তথ্য সম্ভাব্যতায় প্রত্যাশিত তথ্যে রূপান্তরিত হয়
$J (θ_{0}) = \frac{1}{N} \sum_{i = 1}^{N} \frac{\partial^{2}}{\partial θ_{0}^{2}} \ln f (y_{i} | θ_{0})$ $J (\theta_0) = \frac{1}{N} \sum_{i=1}^N \frac{\partial^2}{\partial \theta_0^2} \ln f( y_i|\theta_0)$ যখনএকটি IID নমুনা থেকে । এখানেইঙ্গিত প্রত্যাশা W / R / T বন্টন দ্বারা সূচীবদ্ধ:। এই সংশ্লেষটি হ'ল বিপুল সংখ্যার আইনের কারণে, তাই অনুমান যে $I (θ_{0}) = E_{θ_{0}} [\frac{\partial^{2}}{\partial θ_{0}^{2}} \ln f (y | θ_{0})]$ $I(\theta_0) = E_{\theta_0} \left[ \frac{\partial^2}{\partial \theta_0^2} \ln f( y| \theta_0) \right]$ $Y$ $f(\theta_0)$ $E_{\theta_0} (x)$ $\theta_0$ $\int x f(x | \theta_0) dx$ এখানে গুরুত্বপূর্ণ। $Y \sim f(\theta_0)$
আপনি একটি অনুমান পেয়েছেন যখন যে সত্য পরামিতির সম্ভবত এগোয় (অর্থাত, সামঞ্জস্যপূর্ণ) তারপর আপনি যে কোন জায়গায় খেলোয়াড়রা পারেন আপনি দেখতে একটি মূলত ক্রমাগত ম্যাপিং উপপাদ্য কারণে সর্বোপরি, , এবং সমস্ত কনভার্সেন্স ধরে রাখা অবিরত। $\hat \theta$ $\theta_0$ $\theta_0$ $^*$

আসলে এটিকিছুটা সূক্ষ্মবলে মনে হয়। $^*$

আপনি যেমন লক্ষ করেছেন, পর্যবেক্ষণ করা তথ্যগুলি কাজ করা সাধারণত সহজ হয় কারণ ইন্টিগ্রেশনের চেয়ে পৃথককরণ আরও সহজ এবং আপনি সম্ভবত কিছু সংখ্যক অপ্টিমাইজেশনের সময় এটি মূল্যায়ন করতে পারেন। কিছু পরিস্থিতিতে (সাধারণ বিতরণ) তারা একই হবে।

এফ্রন এবং হিংকলে (1978) র "সর্বাধিক সম্ভাবনার প্রাক্কলনকারীর নির্ভুলতার মূল্যায়ন: পর্যবেক্ষণ করা ভার্সাম প্রত্যাশিত ফিশার তথ্য" নিবন্ধ সীমাবদ্ধ নমুনার জন্য পর্যবেক্ষণ করা তথ্যের পক্ষে একটি যুক্তি তৈরি করেছে।

— অ্যান্ড্রু এম
সূত্র

4

কিছু সিমুলেশন অধ্যয়ন হয়েছে যা এফ্রন এবং হিঙ্কলির তাত্ত্বিক পর্যবেক্ষণগুলির সমর্থনকারী হিসাবে উপস্থিত হয় (যা অ্যান্ড্রুয়ের উত্তরে উল্লেখ করা হয়েছে), এখানে আমি অফহ্যান্ড সম্পর্কে জানি: মালদোনাদো, জি এবং গ্রিনল্যান্ড, এস (1994)। সঠিক মডেল ফর্মটি অজানা হলে মডেল-ভিত্তিক আত্মবিশ্বাসের অন্তরগুলির পারফরম্যান্সের একটি তুলনা। এপিডেমিওলজি, 5, 171-182। আমি কোন স্টাডির দ্বন্দ্ব দেখিনি। এটি তখন আকর্ষণীয় যে স্ট্যান্ডার্ড জিএলএম প্যাকেজগুলি আমি জানি ওয়াল্ড অন্তরগুলি গণনা করতে প্রত্যাশিত তথ্য ব্যবহার। অবশ্যই এটি কোনও সমস্যা নয় যখন (প্রাকৃতিক প্যারামিটারে জিএলএমগুলি লিনিয়ার হিসাবে) পর্যবেক্ষণ করা এবং প্রত্যাশিত তথ্য ম্যাট্রিকগুলি সমান হয়।

— স্যান্ডার গ্রিনল্যান্ড
সূত্র

কেন পর্যবেক্ষণ করা ফিশারের তথ্য ব্যবহার করা হয়?

মন্তব্য