জেনসেন শ্যানন ডাইভারজেন্স বনাম কুলব্যাক-লেবলার ডাইভারজেন্স?


14

আমি জানি যে কেএল ডাইভারজেনটি প্রতিসম নয় এবং এটিকে মেট্রিক হিসাবে কঠোরভাবে বিবেচনা করা যায় না। যদি তা হয় তবে জেএস ডাইভারজেন কোনও মেট্রিকের জন্য প্রয়োজনীয় বৈশিষ্ট্যগুলি সন্তুষ্ট করলে কেন এটি ব্যবহৃত হয়?

কিছু পরিস্থিতিতে আছে যেখানে কেএল ডাইভারজেন্স ব্যবহার করা যেতে পারে তবে জেএস ডাইভারজেন বা তদ্বিপরীত নয়?


তারা উভয়ই ব্যবহৃত হয়, এটি কেবলমাত্র প্রসঙ্গে নির্ভর করে। যখন এটি স্পষ্ট হয়ে যায় যে কঠোর মেট্রিক থাকা প্রয়োজন, যেমন ক্লাস্টারিংয়ের কাজ করা হয়, তখন জেএস আরও বেশি পছন্দনীয় পছন্দ। অন্যদিকে, মডেল নির্বাচনের ক্ষেত্রে কেএল ভিত্তিক এআইসির ব্যবহার ব্যাপকহারে রয়েছে। আকাইকে ওজনগুলির একটি দুর্দান্ত ব্যাখ্যা রয়েছে যার জন্য জেএস হয় কোনও অংশীদার সরবরাহ করতে পারে না বা এটি এখনও জনপ্রিয় হয়ে ওঠে।
জেমস

উত্তর:


5

আমি একটি খুব পরিপক্ক উত্তর পাওয়া কুয়োরা এবং মাত্র এটিকে এখানে রেখেছেন যারা এখানে এটা জন্য চেহারা জন্য:

𝐾𝐿[𝑞;𝑝]𝑞(𝑥)𝑝(𝑥)

𝑝(𝑥)𝑞(𝑥)𝑝(𝑥)𝑞(𝑥)𝑞(𝑥)𝑙𝑜𝑔[𝑞(𝑥)/𝑝(𝑥)]𝑝(𝑥)𝑝(𝑥)𝑞(𝑥)𝑞(𝑥)𝐾𝐿[𝑞;𝑝]𝑞(𝑥)𝑝(𝑥)

𝑝(𝑥)𝑞(𝑥)𝑞(𝑥)𝑝(𝑥)


1

কেএল ডাইভারজেন্সের স্পষ্ট তথ্য তাত্ত্বিক ব্যাখ্যা রয়েছে এবং এটি সুপরিচিত; তবে আমি প্রথমবার শুনলাম যে কেএল ডাইভার্জেন্সের প্রতিসারণকে জেএস ডাইভারজেন্স বলে। জেএস-ডাইভারজেন্সটি প্রায়শই ব্যবহার না করার কারণ সম্ভবত এটি কম পরিচিত এবং এটি অবশ্যই প্রয়োজনীয় বৈশিষ্ট্যগুলি সরবরাহ করে না।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.