অন্যান্য উত্তরগুলির পরিপূরক দেওয়ার চেষ্টা করা হচ্ছে ... ফিশার তথ্য কী ধরণের তথ্য? Loglikelihood ফাংশন দিয়ে শুরু করুন
এর কার্যকারিতা হিসেবে জন্য , প্যারামিটার স্থান। কিছু নিয়মিততার শর্ত ধরে আমরা এখানে আলোচনা করি না, আমাদের রয়েছে
(আমরা প্যারামিটারের সাথে বিন্দু হিসাবে এখানে ডেরাইভেটিভ লিখব)। বৈকল্পিকতা হ'ল ফিশারের তথ্য
θ θ ∈ Θ ই ∂ ∂
ℓ(θ)=logf(x;θ)
θθ∈Θআমি(θ)=ইθ( ˙ ℓ (θ))2=-ইθ ¨ ℓ (θ)θ ˙ ℓ (θ)=0 ˙ ℓ (θ)E∂∂θℓ(θ)=Eθℓ˙(θ)=0I(θ)=Eθ(ℓ˙(θ))2=−Eθℓ¨(θ)
শেষ সূত্রটি দেখায় যে এটি লগলিঙ্কিলিটি ফাংশনের (negativeণাত্মক) বক্রতা। সম্ভাব্য সমীকরণ একজন প্রায়শই থেইটার সর্বাধিক সম্ভাবনা অনুমানকারী (ম্লে) খুঁজে পান যখন স্কোরের বৈচিত্র হিসাবে বৃহত্তর, তারপরে সেই সমীকরণের সমাধান তথ্যটির জন্য খুব সংবেদনশীল হবে, ম্লেটির উচ্চতর নির্ভুলতার জন্য একটি আশা প্রদান করবে। এটি কমপক্ষে অ্যাসেম্পোটোটিকভাবে নিশ্চিত হয়ে গেছে, ফলের তথ্যের বিপরীত হওয়া মলের অ্যাসেম্পটোটিক বৈকল্পিক।
θℓ˙(θ)=0ℓ˙(θ)
আমরা কীভাবে এটি ব্যাখ্যা করতে পারি? প্যারামিটার সম্পর্কে সম্ভাবনা তথ্য নমুনা থেকে। এটি কেবলমাত্র একটি আপেক্ষিক অর্থে ব্যাখ্যা করা যেতে পারে, যেমন আমরা যখন সম্ভাবনা অনুপাত পরীক্ষার মাধ্যমে দুটি স্বতন্ত্র সম্ভাব্য প্যারামিটার মানের তুলনা করতে এটি ব্যবহার করি । লগলিস্টিওনেসিটির পরিবর্তনের হারটি স্কোর ফাংশন ll ইল ta থটা আমাদের জানায় যে সম্ভাবনাটি কতটা দ্রুত পরিবর্তিত হয় এবং এর প্রকরণ থেইটা) প্রদত্ত প্যারামিটারে নমুনা থেকে নমুনায় কতটা পরিবর্তিত হয় মান, বলুন । সমীকরণ (যা সত্যই অবাক!)
ℓ(θ)θℓ(θ0)−ℓ(θ1)ℓ˙(θ)I(θ)θ0
I(θ)=−Eθℓ¨(θ)
আমাদের জানায় একটি প্রদত্ত প্যারামিটার মান, , এবং সেই প্যারামিটার মানের জন্য সম্ভাবনা ফাংশনের বক্রতা সম্পর্কে তথ্য (সম্ভাবনা) এর পরিবর্তনশীলতার মধ্যে একটি সম্পর্ক (সমতা) রয়েছে । এটি আশেপাশের পরিসংখ্যান of এর পরিবর্তনশীলতার (বৈকল্পিক) মধ্যে আশ্চর্যজনক সম্পর্ক এবং যখন আমরা কিছুটা বিরতিতে প্যারামিটার- পরিবর্তিত করি তখন মিলের প্রত্যাশিত পরিবর্তন relationship (একই ডেটার জন্য)। এটি সত্যই অবাক, আশ্চর্যজনক এবং শক্তিশালী!
θ0ℓ˙(θ)∣θ=θ0θθ0
সুতরাং সম্ভাবনা ফাংশন কি? আমরা সাধারণত পরিসংখ্যান মডেল মনে ডেটার জন্য সম্ভাব্যতা ডিস্ট্রিবিউশন একটি পরিবার হিসাবে , প্যারামিটার দ্বারা সূচীবদ্ধ কিছু প্যারামিটার স্থান উপাদান । আমরা এই মডেলটিকে সত্য বলে মনে করি যদি কিছু মান যেমন এর সম্ভাব্যতা বন্টন । সুতরাং আমরা প্রকৃত ডেটাজেনরেটিং সম্ভাব্যতা বিতরণ করে একটি পরিসংখ্যানগত মডেল{f(x;θ),θ∈Θ}xθΘθ0∈Θxf(x;θ0)f(x;θ0)সম্ভাবনা বিতরণ পরিবারে। তবে, এটি স্পষ্ট যে এই জাতীয় ইমবেডিং বিভিন্ন উপায়ে করা যেতে পারে এবং প্রতিটি এম্বেডিং একটি "সত্য" মডেল হতে পারে এবং তারা বিভিন্ন সম্ভাবনা কার্য দেয়। এবং, যেমন একটি এম্বেডিং ছাড়া, সম্ভাবনার কোনও কার্য নেই is মনে হচ্ছে আমাদের কীভাবে কিছু সাহায্যের দরকার, কীভাবে বুদ্ধিমানের সাথে একটি এম্বেডিং বেছে নেওয়া যায় তার জন্য কিছু নীতি!
তাহলে এর অর্থ কি? এর অর্থ হ'ল সম্ভাবনা ফাংশনের পছন্দটি যদি আমাদের কিছুটা পরিবর্তন করে তবে কীভাবে ডেটা পরিবর্তিত হবে আশা করি tells তবে, এটি সত্যই ডেটা দ্বারা যাচাই করা যায় না, কারণ ডেটা কেবলমাত্র সত্য মডেল ফাংশন সম্পর্কে তথ্য দেয় যা আসলে ডেটা উত্পন্ন করে, এবং মডেলের সমস্ত উপাদান সম্পর্কে কিছুই নয়। এইভাবে আমরা দেখতে পাচ্ছি যে সম্ভাবনা কার্যকারিতা বাছাই বায়েশীয় বিশ্লেষণের পূর্বের নির্বাচনের অনুরূপ, এটি বিশ্লেষণে অ-ডেটা তথ্যকে ইনজেক্ট করে। আসুন আমরা এটি একটি সাধারণ (কিছুটা কৃত্রিম) উদাহরণে এবং বিভিন্ন উপায়ে মডেলটিতে এর ।f(x;θ0)f(x;θ0)
আসুন জেনে নিই যাক যেমন IID হয় । সুতরাং, এটি সত্য, ডেটা তৈরির বিতরণ। এখন, আসুন আমরা এটিকে দুটি ভিন্ন উপায়ে মডেলটিতে এম্বেড করি, মডেল এ এবং মডেল বি।
আপনি দেখতে পারেন যে এটি সাথে মিলে যায় ।X1,…,XnN(μ=10,σ2=1)
A:X1,…,Xn iid N(μ,σ2=1),μ∈RB:X1,…,Xn iid N(μ,μ/10),μ>0
μ=10
লগলিস্টিভিলিটি ফাংশনগুলি হয়ে যায়
ℓA(μ)=−n2log(2π)−12∑i(xi−μ)2ℓB(μ)=−n2log(2π)−n2log(μ/10)−102∑i(xi−μ)2μ
স্কোর ফাংশন: (loglikelihood ডেরাইভেটিভস):
এবং
সুতরাং, ফিশার তথ্য সত্যই এমবেডিংয়ের উপর নির্ভর করে। এখন, আমরা ফিশার তথ্যগুলি সঠিক মান ,
সুতরাং পরামিতি সম্পর্কে ফিশারের তথ্য বি মডেলের চেয়ে কিছুটা বড় B.
ℓ˙A(μ)=n(x¯−μ)ℓ˙B(μ)=−n2μ−102∑i(xiμ)2−15n
ℓ¨A(μ)=−nℓ¨B(μ)=n2μ2+102∑i2x2iμ3
μ=10IA(μ=10)=n,IB(μ=10)=n⋅(1200+20202000)>n
এটি চিত্রিত করে যে, কোনও অর্থে, ফিশার তথ্য আমাদের জানায় যে কোনও মডেল পরিবারে এম্বেডিং দ্বারা পোস্ট করা পদ্ধতিতে যদি গভর্নিং প্যারামিটারগুলি পরিবর্তন হয় তবে প্যারামিটার সম্পর্কিত ডেটা থেকে প্রাপ্ত তথ্যগুলি কত দ্রুত পরিবর্তন হতে পারে । মডেল বিতে উচ্চতর তথ্যের ব্যাখ্যা হ'ল আমাদের মডেল পরিবার বি পোস্টটি দেয় যে যদি প্রত্যাশাটি বাড়ত, তবে তারতম্যটিও বাড়ত । সুতরাং, বি বি মডেলের অধীনে, নমুনা বৈকল্পিকগুলিও সম্পর্কে তথ্য বহন করবে , যা এটি মডেল এ এর অধীনে করবে না whichμ
এছাড়াও, এই উদাহরণটি ব্যাখ্যা করে যে আমাদের কীভাবে মডেল পরিবারগুলি তৈরি করতে সহায়তা করার জন্য কিছু তত্ত্বের প্রয়োজন।