ফিশার ইনফরমেশন ম্যাট্রিক্স পজিটিভ সেমাইডেফিনাইট কেন?


18

যাক । ফিশার ইনফরমেশন ম্যাট্রিক্স হিসাবে সংজ্ঞায়িত করা হয়েছে:θRn

I(θ)i,j=E[2log(f(X|θ))θiθj|θ]

আমি কীভাবে ফিশার ইনফরমেশন ম্যাট্রিক্সকে ইতিবাচক অর্ধ-চূড়ান্ত প্রমাণ করতে পারি?


7
এটি নিজেই স্কোরের একটি বাহ্যিক পণ্যের প্রত্যাশিত মান নয়?
নিল জি

উত্তর:


19

এটি দেখুন: http://en.wikedia.org/wiki/Fisher_information#Matrix_form

সংজ্ঞা থেকে, আমরা আছে

Iij=Eθ[(ilogfXΘ(Xθ))(jlogfXΘ(Xθ))],
জন্য , যা \ partial_i = \ আংশিক / \ \ theta_i আংশিকI_ {ij for এর জন্য আপনার অভিব্যক্তি নিয়মিততা শর্তাদির অধীনে এটি থেকে অনুসরণ করে।i,j=1,,ki=/θiIij

Non u=(u1,,uk)Rn একটি ননাল ভেক্টর u = (u_1, \ বিন্দু, u_k) ^ \ শীর্ষ \ , এটি প্রত্যাশার লাইনারিটি থেকে অনুসরণ করে যে

Σআমি,=1তোমার দর্শন লগ করাআমিআমিআমিতোমার দর্শন লগ করা=Σআমি,=1(তোমার দর্শন লগ করাআমিθ[(আমিলগএক্স|Θ(এক্স|θ))(লগএক্স|Θ(এক্স|θ))]তোমার দর্শন লগ করা)=θ[(Σআমি=1তোমার দর্শন লগ করাআমিআমিলগএক্স|Θ(এক্স|θ))(Σ=1তোমার দর্শন লগ করালগএক্স|Θ(এক্স|θ))]=θ[(Σআমি=1তোমার দর্শন লগ করাআমিআমিলগএক্স|Θ(এক্স|θ))2]0

যদি এই উপাদান অনুসারে স্বরলিপিটি খুব কুৎসিত হয় তবে মনে রাখবেন যে ফিশার ইনফরমেশন ম্যাট্রিক্স লিখতে পারেন , এতে স্কোর ভেক্টর হিসাবে চিহ্নিত করা হয়েছে এইচ=(আমিআমি)এইচ=θ[এসএস]এস

এস=(1লগএক্স|Θ(এক্স|θ),...,লগএক্স|Θ(এক্স|θ))

অতএব, আমাদের কাছে ওয়ান-লাইনার

তোমার দর্শন লগ করাএইচতোমার দর্শন লগ করা=তোমার দর্শন লগ করাθ[এসএস]তোমার দর্শন লগ করা=θ[তোমার দর্শন লগ করাএসএসতোমার দর্শন লগ করা]=θ[||এসতোমার দর্শন লগ করা||2]0।


3
(+1) ভাল উত্তর এবং স্বাগতম, জেন। আমি উদ্বিগ্ন হয়ে পড়ছিলাম যে আমরা আপনাকে স্থায়ীভাবে আপনার ব্যবধানের দৈর্ঘ্যের পরে হারিয়ে ফেলতে পারি। সত্যিই লজ্জা হত!
কার্ডিনাল

5

সতর্কতা: সাধারণ উত্তর নয়!

যদি একটি সম্পূর্ণ-র‌্যাঙ্কের তাত্পর্যপূর্ণ পরিবারটির সাথে সম্পর্কিত হয়, তবে লগ-সম্ভাবনার নেতিবাচক হেসিয়ান হ'ল যথেষ্ট পরিসংখ্যানের কোভারিয়েন্স ম্যাট্রিক্স। কোভারিয়েন্স ম্যাট্রিক্স সর্বদা ইতিবাচক আধা-নির্দিষ্ট। যেহেতু ফিশার তথ্য হ'ল ধনাত্মক আধা-নির্দিষ্ট ম্যাট্রিকগুলির সংমিশ্রণ, তাই এটি অবশ্যই ইতিবাচক আধা-নির্দিষ্ট হতে হবে।(এক্স|θ)

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.