দুটি অচিরাচরিত গৌসিয়ানদের মধ্যে কেএল বৈচিত্র


79

আমাকে দুটি গৌসিয়ার মধ্যে কেএল-বিভাজন নির্ধারণ করতে হবে। আমি আমার ফলাফল তুলনা করছি এইসব , কিন্তু আমি তাদের ফলাফলের পুনর্গঠন করতে পারবে না। আমার ফলাফল স্পষ্টতই ভুল, কারণ KL কেএল (পি, পি) এর জন্য 0 নয়।

আমি ভাবছি যেখানে আমি কোন ভুল করছি এবং জিজ্ঞাসা করে কেউ এটির জায়গা খুঁজে পেতে পারে কিনা।

যাক এবং । বিশপের পিআরএমএল থেকে আমি তা জানিp(x)=N(μ1,σ1)q(x)=N(μ2,σ2)

KL(p,q)=p(x)logq(x)dx+p(x)logp(x)dx

যেখানে সমস্ত বাস্তব লাইন জুড়ে ইন্টিগ্রেশন সম্পন্ন হয় এবং এটি

p(x)logp(x)dx=12(1+log2πσ12),

সুতরাং আমি নিজেকে সীমাবদ্ধ রাখি , যা আমি লিখতে পারিp(x)logq(x)dx

p(x)log1(2πσ22)(1/2)e(xμ2)22σ22dx,

যা পৃথক করা যেতে পারে

12log(2πσ22)p(x)loge(xμ2)22σ22dx.

আমি লগ লগ গ্রহণ

12log(2πσ22)p(x)((xμ2)22σ22)dx,

যেখানে আমি অঙ্কগুলি পৃথক করি এবং পাই ।σ22

12log(2πσ22)+p(x)x2dxp(x)2xμ2dx+p(x)μ22dx2σ22

লেটিং অধীনে প্রত্যাশা অপারেটর বোঝাতে , আমি হিসাবে এই পুনর্লিখন করতেp

12log(2πσ22)+x22xμ2+μ222σ22.

আমরা জানি যে । এইভাবেvar(x)=x2x2

x2=σ12+μ12

এবং সেইজন্য

12log(2πσ2)+σ12+μ122μ1μ2+μ222σ22,

যা আমি রাখতে পারি

12log(2πσ22)+σ12+(μ1μ2)22σ22.

সব কিছু একসাথে রেখে, আমি যেতে পারি

KL(p,q)=p(x)logq(x)dx+p(x)logp(x)dx=12log(2πσ22)+σ12+(μ1μ2)22σ2212(1+log2πσ12)=logσ2σ1+σ12+(μ1μ2)22σ22.
যেটি ভুল, কারণ এটি দুটি অভিন্ন গাওসিয়ানদের সমান ।1

কেউ কি আমার ত্রুটি চিহ্নিত করতে পারে?

হালনাগাদ

জিনিস পরিষ্কার করার জন্য এমপিক্টাসকে ধন্যবাদ। সঠিক উত্তরটি হ'ল:

KL(p,q)=logσ2σ1+σ12+(μ1μ2)22σ2212


প্রথম জায়গায় ভুল উত্তর পোস্ট করার জন্য দুঃখিত। আমি সবেমাত্র এ এবং ভাবলাম যে অবিচ্ছেদ্যটি শূন্য। এটি যে স্কোয়ারটিযুক্ত ছিল তা আমার মনকে পুরোপুরি মিস করেছে :)xμ1
এমপিটকাস

মাল্টি ভেরিয়েট কেসের কী হবে?

আমি সবেমাত্র একটি গবেষণামূলক গবেষণাপত্রে দেখেছি যে kld হতে হবে $ কেএল (পি, কিউ) = ½ * ((μ₁-μ₂) μ₂ + σ₁² + σ₂²) * ((1 / σ₁²) + (1 / σ₂²)) - 2
স্কাইডে

1
আমি মনে করি আপনার প্রশ্নে একটি টাইপ রয়েছে, যেহেতু আমি এটি যাচাই করতে পারি না এবং এটিও মনে হয় আপনি পরে আপনার প্রশ্নের সঠিক সংস্করণটি ব্যবহার করেছেন: আমার মনে হয় এটি হওয়া উচিত ( দ্রষ্টব্য): আমি আপনার প্রশ্নটি সম্পাদনা করার চেষ্টা করেছি এবং এর জন্য নিষিদ্ধ হয়েছি, তাই সম্ভবত এটি নিজেই করুন।
p(x)logp(x)dx=12(1+log2πσ12)
p(x)logp(x)dx=12(1+log2πσ12)
ওয়াই-স্প্রিন 13

উত্তর:


59

ঠিক আছে, আমার খারাপ। ত্রুটিটি শেষ সমীকরণের:

KL(p,q)=p(x)logq(x)dx+p(x)logp(x)dx=12log(2πσ22)+σ12+(μ1μ2)22σ2212(1+log2πσ12)=logσ2σ1+σ12+(μ1μ2)22σ2212

অনুপস্থিত নোট করুন । শেষ লাইনটি শূন্য হয় যখন এবং ।12μ1=μ2σ1=σ2


@ এমপিক্টাস আমি আসলে প্রশ্নটি বোঝাতে চেয়েছিলাম - বায়ারজ একজন ভাল প্রকাশিত গবেষক এবং আমি একজন আন্ডারগ্রাড। দেখে খুব ভাল লাগল যে এমনকি স্মার্ট
ছেলেরাও

3
পি বাμ1σ1μ2σ2
কং

@ কং পি হ'ল , প্রশ্নটিতে উল্লিখিত হয়েছে। N(u1,σ1)
zplizzi

31

আপনার হিসাবের দিকে আমার নজর নেই তবে এখানে প্রচুর বিবরণ রয়েছে। ধরুন গড় সঙ্গে একটি স্বাভাবিক দৈব চলক ঘনত্ব হয় এবং ভ্যারিয়েন্স , এবং যে গড় সঙ্গে একটি স্বাভাবিক দৈব চলক ঘনত্ব হয় এবং ভ্যারিয়েন্স । থেকে Kullback-Leibler দূরত্ব করতে হল:pμ1σ12qμ2σ22qp

[log(p(x))log(q(x))]p(x)dx

=[12log(2π)log(σ1)12(xμ1σ1)2+12log(2π)+log(σ2)+12(xμ2σ2)2] ×12πσ1exp[12(xμ1σ1)2]dx

={log(σ2σ1)+12[(xμ2σ2)2(xμ1σ1)2]} ×12πσ1exp[12(xμ1σ1)2]dx

=E1{log(σ2σ1)+12[(xμ2σ2)2(xμ1σ1)2]}

=log(σ2σ1)+12σ22E1{(Xμ2)2}12σ12E1{(Xμ1)2}

=log(σ2σ1)+12σ22E1{(Xμ2)2}12

(এখন লক্ষ করুন যে )(Xμ2)2=(Xμ1+μ1μ2)2=(Xμ1)2+2(Xμ1)(μ1μ2)+(μ1μ2)2

=log(σ2σ1)+12σ22[E1{(Xμ1)2}+2(μ1μ2)E1{Xμ1}+(μ1μ2)2]12

=log(σ2σ1)+σ12+(μ1μ2)22σ2212

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.