প্রমাণ করুন যে একটি নির্দিষ্ট কোভেরিয়েন্স ম্যাট্রিক্স সহ সর্বাধিক এনট্রপি বিতরণ কোনও গাউসিয়ান


13

আমি নিম্নলিখিত প্রমাণকে ঘিরে আমার মাথা নেওয়ার চেষ্টা করছি যে গাউসের সর্বোচ্চ এনট্রপি রয়েছে।

তারকাযুক্ত পদক্ষেপটি কীভাবে বোঝায়? একটি নির্দিষ্ট কোভেরিয়েন্স কেবল দ্বিতীয় মুহূর্তটি ঠিক করে। তৃতীয়, চতুর্থ, পঞ্চম মুহূর্ত ইত্যাদির কী ঘটে?

এখানে চিত্র বর্ণনা লিখুন

উত্তর:


13

pqlog(p)x02


শূন্যের গড় সহ বহুবিধ সাধারণ বিতরণ সম্পর্কে আপনার কেবল দুটি জিনিস জানতে হবে:

  1. log(p)x=(x1,x2,,xn) Cpij

    log(p(x))=C+i,j=1npijxixj.

    CpijΣ

  2. Σ

    Σij=Ep(xixj)=p(x)xixjdx.

অবিচ্ছেদ্য কাজ করার জন্য আমরা এই তথ্যটি ব্যবহার করতে পারি:

(q(x)p(x))log(p(x))dx=(q(x)p(x))(C+i,j=1npijxixj)dx.

এটি দুটি অংশের যোগফলকে বিভক্ত করে:

  • (q(x)p(x))Cdx=C(q(x)dxp(x)dx)=C(11)=0qp

  • (q(x)p(x))i,j=1npijxixjdx=i,j=1npij(q(x)p(x))xixjdx=0q(x)xixjdxp(x)xixjdxΣij

(q(x)p(x))log(p(x))dx=0q(x)log(p(x))dx=p(x)log(p(x))dx.


আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.