দুটি মাল্টিভারিয়েট গাউসিয়ানদের মধ্যে কেএল বৈচিত্র্য


46

দু'টি মাল্টিভারিয়েট স্বাভাবিক বিতরণ ধরে ধরে কেএল ডাইভারজেন্সি সূত্রটি গ্রহণ করতে আমার সমস্যা হচ্ছে। আমি ইউনিভারিয়েট কেস মোটামুটি সহজেই সম্পন্ন করেছি যাইহোক, আমি গণিতের পরিসংখ্যান নেওয়ার পরে বেশ কিছুক্ষণ হয়ে গেছে, তাই মাল্টিভারিয়েট ক্ষেত্রে এটি প্রসারিত করতে আমার কিছুটা সমস্যা হচ্ছে। আমি নিশ্চিত যে আমি সাদামাটা কিছু মিস করছি।

আমার যা আছে তা এখানে ...

উভয় ধরুন এবং উপায়ে সাথে স্বাভাবিক ডিস্ট্রিবিউশন এর PDF গুলি হয় এবং এবং ভেরিয়ানস এবং যথাক্রমে। থেকে Kullback-Leibler দূরত্ব করতে হল:pqμ1μ2Σ1Σ2qp

[log(p(x))log(q(x))] p(x) dx , যা দুটি বহুভিত্তিক স্বাভাবিকের জন্য:

12[log|Σ2||Σ1|d+Tr(Σ21Σ1)+(μ2μ1)TΣ21(μ2μ1)]

এই প্রমাণ হিসাবে একই যুক্তি অনুসরণ করে , আমি আটকে যাওয়ার আগে আমি এখানে পৌঁছে যাই:

=[d2log|Σ2||Σ1|+12((xμ2)TΣ21(xμ2)(xμ1)TΣ21(xμ1))]×p(x)dx

=E[d2log|Σ2||Σ1|+12((xμ2)TΣ21(xμ2)(xμ1)TΣ21(xμ1))]

আমি মনে করি আমাকে ট্রেস ট্রিকটি বাস্তবায়ন করতে হবে তবে তার পরে কী করা উচিত তা আমি নিশ্চিত নই। আমাকে সঠিক ট্র্যাকের দিকে ফিরিয়ে আনার জন্য কোনও সহায়ক ইঙ্গিত প্রশংসিত হবে!


1
stanford.edu/~jduchi/projects/general_notes.pdf । শেষ বিভাগটিও বিকাশ দেয়।
ব্যবহারকারী 3540823

উত্তর:


47

কিছুটা সংশোধন করে আপনি যেখানে শুরু করেছিলেন সেখান থেকে শুরু করে আমরা লিখতে পারি

KL=[12log|Σ2||Σ1|12(xμ1)TΣ11(xμ1)+12(xμ2)TΣ21(xμ2)]×p(x)dx=12log|Σ2||Σ1|12tr {E[(xμ1)(xμ1)T] Σ11}+12E[(xμ2)TΣ21(xμ2)]=12log|Σ2||Σ1|12tr {Id}+12(μ1μ2)TΣ21(μ1μ2)+12tr{Σ21Σ1}=12[log|Σ2||Σ1|d+tr{Σ21Σ1}+(μ2μ1)TΣ21(μ2μ1)].

দ্রষ্টব্য যে আমি ম্যাট্রিক্স কুকবুকের বিভাগ 8.2 থেকে কয়েকটি সম্পত্তি ব্যবহার করেছি ।


আমি দেখতে পাচ্ছি যে আপনি মূলত আমার ডিটি বের করেছেন took প্রথম কয়েকটি পদক্ষেপে গাউসিয়ানদের লগ নেওয়ার পরে আপনার কি ডি পদ থাকবে না?
dmartin

স্বাভাবিক ঘনত্বের স্কেলিং ফ্যাক্টর , । লগ-পার্থক্য গণনা করার সময়, শব্দটি চলে যায়। সেখানে নেই কেবল A - নির্ধারণকারী শব্দটি , যা আউট উপাদান হয়। (2π)d/2|Σk|1/2k=1,2(2π)d/2d1/2
রামহির

মোটেই কোন সমস্যা নেই. আমি সাহায্য করতে পেরে আনন্দিত.
রামহির

হাই, আপনি কিভাবে শেষ পদক্ষেপটি নিয়ে এসেছেন? আপনি সাইন ইন করুন পরিবর্তন হয়নি মধ্যে ? μ1μ2μ2μ1
এসিডঘস্ট

1
@acidghost হয় যে কোনও একটি কাজ করে কারণ আমরা উভয় পক্ষ থেকে একটি নেতিবাচক কারণ বের করতে পারি। দুটি নেতিবাচক গুণকে গুণ করলে ইতিবাচক ফল পাওয়া যায়।
রমহির
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.