সর্বাধিক সম্ভাবনার প্রাক্কলনকারীদের আবিষ্কার করা
ধরে নিন যে আমাদের র্যান্ডম ভেক্টর রয়েছে, প্রতিটি আকারের : যেখানে প্রতিটি র্যান্ডম ভেক্টর থাকতে পারে ভেরিয়েবলগুলি জুড়ে একটি পর্যবেক্ষণ (ডেটা পয়েন্ট) হিসাবে ব্যাখ্যা করা । যদি প্রতিটি বহুভিত গাউসিয়ান ভেক্টর হিসাবে iid হয়:mpX(1),X(2),...,X(m)pX(i)
X(i)∼Np(μ,Σ)
যেখানে প্যারামিটারগুলি অজানা। তাদের অনুমানটি পেতে আমরা সর্বাধিক সম্ভাবনার পদ্ধতিটি ব্যবহার করতে পারি এবং লগ সম্ভাবনার কার্যটি সর্বোচ্চ করতে পারি।μ,Σ
নোট করুন যে এলোমেলো ভেক্টরগুলির স্বাধীনতার দ্বারা, ডেটা- of এর যৌথ ঘনত্ব হ'ল ব্যক্তিগত ঘনত্বের পণ্য , এটি হ'ল । লগারিদম গ্রহণের ফলে লগ-সম্ভাবনার ফাংশন পাওয়া যায়{X(i),i=1,2,...,m}∏mi=1fX(i)(x(i);μ,Σ)
l(μ,Σ|x(i))=log∏i=1mfX(i)(x(i)|μ,Σ)=log ∏i=1m1(2π)p/2|Σ|1/2exp(−12(x(i)−μ)TΣ−1(x(i)−μ))=∑i=1m(−p2log(2π)−12log|Σ|−12(x(i)−μ)TΣ−1(x(i)−μ))
l(μ,Σ;)=−mp2log(2π)−m2log|Σ|−12∑i=1m(x(i)−μ)TΣ−1(x(i)−μ)
ডেরাইভিংμ^
সাথে ডেরিভেটিভ নিতে এবং শূন্যকে সমান করতে আমরা নিম্নলিখিত ম্যাট্রিক্স ক্যালকুলাস পরিচয়টি ব্যবহার করব:μ
∂wTAw∂w=2Aw যদি
on এবং উপর নির্ভর করে না তা প্রতিসাম্য।wAA
∂∂μl(μ,Σ|x(i))0μ^=∑i=1mΣ−1(μ−x(i))=0Since Σ is positive definite=mμ−∑i=1mx(i)=1m∑i=1mx(i)=x¯
যাকে প্রায়শই নমুনা বলতে ভেক্টর বলা হয় ।
ডেরাইভিংΣ^
কোভেরিয়েন্স ম্যাট্রিক্সের জন্য এমএলই আবিষ্কার করার জন্য আরও কাজ এবং নিম্নলিখিত লিনিয়ার বীজগণিত এবং ক্যালকুলাস বৈশিষ্ট্যগুলি ব্যবহার করা প্রয়োজন:
- ট্রেসটি ম্যাট্রিক্স পণ্যগুলির চক্রীয় অনুমানের অধীনে অবিচ্ছিন্ন:tr[ACB]=tr[CAB]=tr[BCA]
- যেহেতু স্কেলার, তাই আমরা এর ট্রেস নিতে এবং একই মানটি পেতে পারি:xTAxxtAx=tr[xTAx]=tr[xtxA]
- ∂∂Atr[AB]=BT
- ∂∂Alog|A|=A−T
এই বৈশিষ্ট্যগুলির সংমিশ্রণ আমাদের গণনা করতে দেয়
∂∂AxtAx=∂∂Atr[xTxA]=[xxt]T=xTTxT=xxT
যা ভেক্টর এর বাহ্যিক পণ্য নিজের সাথে।x
আমরা এখন লগ-সম্ভাবনা ফাংশনটি আবার লিখতে পারি এবং ডেরাইভেটিভ আর্ট comp গণনা করতে পারি (নোট ধ্রুবক রয়েছে)Σ−1C
l(μ,Σ|x(i))∂∂Σ−1l(μ,Σ|x(i))=C−m2log|Σ|−12∑i=1m(x(i)−μ)TΣ−1(x(i)−μ)=C+m2log|Σ−1|−12∑i=1mtr[(x(i)−μ)(x(i)−μ)TΣ−1]=m2Σ−12∑i=1m(x(i)−μ)(x(i)−μ)T Since ΣT=Σ
শূন্যের সমান এবং ig জন্য সমাধানΣ
0Σ^=mΣ−∑i=1m(x(i)−μ)(x(i)−μ)T=1m∑i=1m(x(i)−μ^)(x(i)−μ^)T
সোর্স