রিজ রিগ্রেশন - বায়েশিয়ান ব্যাখ্যা


15

আমি শুনেছি যে পূর্বের পর্যাপ্ত পরিমাণটি বেছে নেওয়া হলে রিজ রিগ্রেশন উত্তরোত্তর বিতরণের মাধ্যম হিসাবে উত্পন্ন হতে পারে। পূর্ববর্তী (যেমন 0 প্রায় স্ট্যান্ডার্ড সাধারণ বিতরণ) দ্বারা রিগ্রেশন সহগের উপর নির্ধারিত সীমাবদ্ধতাগুলি কি সহগ / স্কোয়ার সাইজের পেনাল্টি সেটটি প্রতিস্থাপন করে? এই সমতাটি ধরে রাখার জন্য কি পূর্বের গাউসিয়ান হতে হবে?

উত্তর:


15

না, এই বিবেচনায় যে অন্য প্রিয়াররা যুক্তিসঙ্গতভাবে অন্যান্য দণ্ডের সাথে সম্পর্কিত হয়। সাধারণভাবে আপনি শূন্য প্রভাবের ( কাছে আরও বেশি ভর চানβ=0) ওভারফিটিং / অতিরিক্ত ব্যাখ্যা কমিয়ে আনতে। রিজ একটি চতুষ্কোণ (এল 2, গাউসিয়ান) জরিমানা, লাসো হ'ল একটি|β|(এল 1, ল্যাপ্লেস বা ডাবল এক্সপোনেনশিয়াল বিতরণ) জরিমানা। অন্যান্য অনেক জরিমানা (প্রিয়ারস) পাওয়া যায়। বায়সিয়ান পদ্ধতির একটি দৃ interpretation় ব্যাখ্যা (এবং কঠিন বিশ্বাসযোগ্য ব্যবধান) উত্পাদন করার সুবিধা রয়েছে যেখানে সর্বাধিক সম্ভাবনার প্রাক্কলন (রিজ, লাসো, ইত্যাদি) ফলন দন্ডিত হয়েছেপিমূল্যায়ন এবং আত্মবিশ্বাসের অন্তরগুলি যা ব্যাখ্যা করা শক্ত, কারণ ঘনত্ববাদী পদ্ধতির পক্ষপাতদুষ্ট (শূন্যের দিকে সঙ্কুচিত) অনুমানকারীদের দ্বারা কিছুটা বিভ্রান্ত হয়।


10

দুটি বিন্দু:

বায়েশিয়ান ক্ষেত্রে উত্তরোত্তর বিতরণ একটি বিতরণ। রিজ রিগ্রেশন অনুমানটি কেবল একটি ভেক্টরβ^এবং একটি বিতরণ না। সুতরাং তারা সম্পূর্ণ সমতুল্য নয়।

এটি সত্য যে কোনও মাল্টিভারিয়েট স্বাভাবিক পূর্বের এবং মাল্টিভারিয়েট হওয়া স্বাভাবিক সম্ভাবনার ক্ষেত্রে, উত্তরকুলটি মাল্টিভারিয়েট স্বাভাবিক যার অর্থ একটি উপযুক্তভাবে নির্বাচিত রিজ প্যারামিটারের জন্য রিজ রিগ্রেশন অনুমান।

এর প্রমাণ পূর্ব এবং সম্ভাবনার নির্দিষ্ট ফর্মের উপর নির্ভর করে এবং আরও সাধারণ প্রিয়ার বা সম্ভাবনা ফাংশনের জন্য কাজ করে না।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.