আমাকে দুটি গৌসিয়ার মধ্যে কেএল-বিভাজন নির্ধারণ করতে হবে। আমি আমার ফলাফল তুলনা করছি এইসব , কিন্তু আমি তাদের ফলাফলের পুনর্গঠন করতে পারবে না। আমার ফলাফল স্পষ্টতই ভুল, কারণ KL কেএল (পি, পি) এর জন্য 0 নয়।
আমি ভাবছি যেখানে আমি কোন ভুল করছি এবং জিজ্ঞাসা করে কেউ এটির জায়গা খুঁজে পেতে পারে কিনা।
যাক এবং । বিশপের পিআরএমএল থেকে আমি তা জানিp(x)=N(μ1,σ1)q(x)=N(μ2,σ2)
KL(p,q)=−∫p(x)logq(x)dx+∫p(x)logp(x)dx
যেখানে সমস্ত বাস্তব লাইন জুড়ে ইন্টিগ্রেশন সম্পন্ন হয় এবং এটি
∫p(x)logp(x)dx=−12(1+log2πσ21),
সুতরাং আমি নিজেকে সীমাবদ্ধ রাখি , যা আমি লিখতে পারি∫p(x)logq(x)dx
−∫p(x)log1(2πσ22)(1/2)e−(x−μ2)22σ22dx,
যা পৃথক করা যেতে পারে
12log(2πσ22)−∫p(x)loge−(x−μ2)22σ22dx.
আমি লগ লগ গ্রহণ
12log(2πσ22)−∫p(x)(−(x−μ2)22σ22)dx,
যেখানে আমি অঙ্কগুলি পৃথক করি এবং পাই ।σ22
12log(2πσ22)+∫p(x)x2dx−∫p(x)2xμ2dx+∫p(x)μ22dx2σ22
লেটিং অধীনে প্রত্যাশা অপারেটর বোঝাতে , আমি হিসাবে এই পুনর্লিখন করতে⟨⟩p
12log(2πσ22)+⟨x2⟩−2⟨x⟩μ2+μ222σ22.
আমরা জানি যে । এইভাবেvar(x)=⟨x2⟩−⟨x⟩2
⟨x2⟩=σ21+μ21
এবং সেইজন্য
12log(2πσ2)+σ21+μ21−2μ1μ2+μ222σ22,
যা আমি রাখতে পারি
12log(2πσ22)+σ21+(μ1−μ2)22σ22.
সব কিছু একসাথে রেখে, আমি যেতে পারি
KL(p,q)=−∫p(x)logq(x)dx+∫p(x)logp(x)dx=12log(2πσ22)+σ21+(μ1−μ2)22σ22−12(1+log2πσ21)=logσ2σ1+σ21+(μ1−μ2)22σ22.
যেটি ভুল, কারণ এটি দুটি অভিন্ন গাওসিয়ানদের সমান ।1
কেউ কি আমার ত্রুটি চিহ্নিত করতে পারে?
হালনাগাদ
জিনিস পরিষ্কার করার জন্য এমপিক্টাসকে ধন্যবাদ। সঠিক উত্তরটি হ'ল:
KL(p,q)=logσ2σ1+σ21+(μ1−μ2)22σ22−12