যদি সম্ভাবনা সর্বাধিকের সমান হয় তবে আমরা কেন নেতিবাচক সম্ভাবনা হ্রাস করব?


47

এই প্রশ্নটি আমাকে দীর্ঘকাল ধরে বিস্মিত করেছে। আমি সম্ভাবনা সর্বাধিকীকরণে 'লগ' এর ব্যবহার বুঝতে পারি তাই আমি 'লগ' সম্পর্কে জিজ্ঞাসা করি না।

আমার প্রশ্ন, যেহেতু লগ সম্ভাবনা সর্বাধিক করা "নেতিবাচক লগ সম্ভাবনা" (এনএলএল) হ্রাস করার সমতুল্য, কেন আমরা এই এনএলএল আবিষ্কার করেছি? কেন আমরা সবসময় "ইতিবাচক সম্ভাবনা" ব্যবহার করি না? কোন পরিস্থিতিতে এনএলএল পক্ষপাতী?

আমি এখানে একটু ব্যাখ্যা পেয়েছি। https://quantivity.wordpress.com/2011/05/23/why-minimize-negative-log- Like امکان / এবং এটি গভীরতার সাথে সুস্পষ্ট সমতুল্যের ব্যাখ্যা বলে মনে হচ্ছে, তবে আমার বিভ্রান্তির সমাধান করে না।

কোন ব্যাখ্যা প্রশংসা করা হবে।


3
সর্বাধিক লগ সম্ভাবনা কোনও ক্ষতির ফাংশন নয় তবে এর নেতিবাচক হিসাবে শেষ বিভাগে নিবন্ধে ব্যাখ্যা করা হয়েছে। এটি ধারাবাহিকতার বিষয়। মনে করুন যে আপনার একটি স্মার্ট লার্নিং সিস্টেম একটি প্রদত্ত সমস্যার জন্য বিভিন্ন ক্ষতির ফাংশনগুলি চেষ্টা করছে। ক্ষতির ফাংশনগুলির সেটটিতে স্কোয়ার লস, পরম ক্ষতি ইত্যাদি থাকবে a ধারাবাহিক তালিকার জন্য আপনি ক্ষতির কার্য তালিকায় নেতিবাচক লগ সম্ভাবনা যুক্ত করবেন like
ক্যাগডাস ওজজেঙ্ক

উত্তর:


41

এটি একটি বিকল্প উত্তর: পরিসংখ্যান প্যাকেজগুলির অপ্টিমাইজারগুলি সাধারণত কোনও ফাংশনের ফলাফলকে হ্রাস করে কাজ করে । আপনার ফাংশন যদি সম্ভাবনা মানটিকে প্রথমে দেয় তবে সম্ভাবনা ফাংশন দ্বারা ফেরত মান হ্রাস করার জন্য লোগারিদম ব্যবহার করা আরও সুবিধাজনক। তারপরে, লগ সম্ভাবনা এবং সম্ভাবনা ফাংশনটির একই বৃদ্ধি বা হ্রাস প্রবণতা রয়েছে তাই আপনি যে ফাংশনটি পরীক্ষা করছেন তার সর্বাধিক সম্ভাবনা অনুমান করার জন্য আপনি নেতিবাচক লগ সম্ভাবনাটি হ্রাস করতে পারেন । উদাহরণস্বরূপ এখানে আরে ফাংশনটি দেখুনnlminb


10
আমি বলব এটি এমনকি অপ্টিমাইজারেরও বেশি goes দেখে মনে হচ্ছে ক্ষুদ্রাকরণটি প্রায়শই ডিফল্ট অপ্টিমাইজেশন হিসাবে বিবেচিত হয়। উদাহরণস্বরূপ, "উত্তল অপ্টিমাইজেশন" নামটি বিবেচনা করুন, যা নূন্যতমকরণের সাথে চলে তবে কেবল "অবতল অপ্টিমাইজেশন" বলা যেতে পারে।
বিটওয়াইজ

48

অপটিমাইজাররা সাধারণত কোনও ফাংশন হ্রাস করে, তাই আমরা নেতিবাচক লগ-সম্ভাবনাটিকে হ্রাস হিসাবে ব্যবহার করি যা লগ-সম্ভাবনা বা নিজেই সম্ভাবনা সর্বাধিক করার সমতুল্য।

কেবল সম্পূর্ণতার জন্য, আমি উল্লেখ করব যে লগারিদম একটি একঘেয়ে ফাংশন, সুতরাং কোনও ফাংশনটি অনুকূল করা এটির লোগারিদমকে অনুকূলকরণের সমান। সম্ভাবনা ফাংশনের লগ রূপান্তরটি করা হ্যান্ডেল করা সহজ করে তোলে (গুণগুলি সমৃদ্ধ হয়ে যায়) এবং এটি সংখ্যাগতভাবে আরও স্থিতিশীল। কারণ সম্ভাবনাগুলির বিশালতা খুব কম হতে পারে। একটি লগইন রূপান্তর করা এই ছোট সংখ্যাগুলিকে আরও বড় নেতিবাচক মানগুলিতে রূপান্তরিত করে যা একটি সীমাবদ্ধ নির্ভুলতা মেশিন আরও ভাল পরিচালনা করতে পারে।


4
উদাহরণ হিসাবে, আমি প্রায়শই আমার কাজটিতে 40,000 অর্ডার লগ হওয়ার সম্ভাবনাগুলির মুখোমুখি হই। এই শাসনব্যবস্থায় সম্ভাব্যতার সাথে কাজ করা সংখ্যাগতভাবে অসম্ভব।
উইসডেন

3

এখানে হ্রাস করার অর্থ দুটি বিতরণের দূরত্বকে এর সর্বনিম্নে হ্রাস করতে হবে : লক্ষ্য বার্নোল্লি বিতরণ এবং উত্পন্ন ফলাফল বিতরণ। আমরা কুলব্যাক-লেবলার ডাইভারজেন (যাকে আপেক্ষিক এনট্রপিও বলা হয়) ব্যবহার করে দুটি বিতরণের দূরত্ব পরিমাপ করি এবং বিপুল সংখ্যার তত্ত্বের কারণে কেএল ডাইভার্জেনকে হ্রাস করা ক্রস এনট্রপি হ্রাস করার পরিমাণ (হয় মাল্টিক্লাস ক্রস এন্ট্রপি, এখানে দেখুন বা বাইনারি শ্রেণিবিন্যাস দেখুন, এখানে দেখুন এবং এখানে )।

এইভাবে

লগের সম্ভাবনা সর্বাধিক করা "নেতিবাচক লগ সম্ভাবনা" হ্রাস করার সমতুল্য

অনুবাদ করা যেতে পারে

লগ সম্ভাবনা সর্বাধিকীকরণ দুটি বিতরণের মধ্যে দূরত্ব হ্রাস করার সমতুল্য, এইভাবে কেএল ডাইভারজেন হ্রাস করার সমতুল্য এবং তারপরে ক্রস এনট্রপি y

আমি মনে করি এটি বেশ স্বজ্ঞাত হয়ে উঠেছে।


1

উত্তরটি আপনার ভাবার চেয়ে সহজ। এটি এমন কনভেনশন যা আমরা অপ্টিমাইজেশন অবজেক্টিভ ফাংশনটিকে "কস্ট ফাংশন" বা "লোকসান ফাংশন" বলি এবং সেজন্য আমরা এগুলি সর্বাধিক করার চেয়ে তাদের হ্রাস করতে চাই এবং তাই আপনার মধ্যে ইতিবাচক সম্ভাবনার চেয়ে নেতিবাচক লগ হওয়ার সম্ভাবনা তৈরি হয় your শব্দ। প্রযুক্তিগতভাবে উভয়ই সঠিক। যাইহোক, আমরা যদি কিছু বাড়িয়ে তুলতে চাই তবে সাধারণত আমরা এটিকে "ইউটিলিটি ফাংশন" বলি এবং তাই তাদের লক্ষ্য সর্বাধিক করা।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.