এক সাথে এল 1 এবং এল 2 নিয়মিতকরণ (ওরফে ইলাস্টিক নেট) এর সাথে লিনিয়ার রিগ্রেশনের কোনও বয়েসীয় ব্যাখ্যা আছে?


17

এটি সুপরিচিত যে l2 পেনাল্টির সাথে লিনিয়ার রিগ্রেশন সহগের আগে কোনও গাউসিয়ানকে দেওয়া এমএপি অনুমানের সন্ধানের সমতুল্য। একইভাবে, l1 পেনাল্টি ব্যবহার পূর্বের হিসাবে ল্যাপ্লেস বিতরণ ব্যবহারের সমতুল্য।

l1 এবং l2 নিয়মিতকরণের কিছু ভারী সমন্বয় ব্যবহার করা অস্বাভাবিক নয় । আমরা কি বলতে পারি যে এটি সহগের উপর কিছু পূর্ব বিতরণের সমতুল্য (স্বজ্ঞাত, মনে হয় এটি অবশ্যই হবে)? আমরা কি এই বিতরণটিকে একটি দুর্দান্ত বিশ্লেষণাত্মক ফর্ম দিতে পারি (সম্ভবত গাউসিয়ান এবং ল্যাপ্লেসিয়ার মিশ্রণ)? তা না হলে কেন?


2
এই কাগজটি দেখুন: tandfonline.com/doi/abs/10.1198/jasa.2011.tm09241 (এটি যদি এক বা দুই সপ্তাহের মধ্যে সঠিকভাবে উত্তর না দেওয়া হয় তবে আমি paper কাগজের একটি সংক্ষিপ্তসার (কম-বেশি) পোস্ট করব)
ব্যবহারকারী

8
আমার যোগ করা উচিত যে যে কোনও সময় ঘন ঘনবাদীদের পেনাল্টি , একজন বেয়েসিয়ান এটি ব্যাখ্যা করতে পারে যে একটি (সম্ভবত অনুপযুক্ত) পূর্ববর্তী - পি এন একটি আদর্শ গাউসী মডেলের অধীনে। penepen
ব্যবহারকারী795305

ধন্যবাদ, এই কাগজটি এবং এর উদ্ধৃতিগুলি আমার প্রশ্নের সঠিক উত্তর দেয়!
মাইকেল কারি

গ্রেট! আপনি কোন উদ্ধৃতিটি বোঝাতে চাইছেন তাতে কি আপত্তি আছে? (আমি শীঘ্রই এই কাগজটি পড়ার পরিকল্পনা করছি এবং আপনার মন্তব্যে আগ্রহী)
ব্যবহারকারী 795305

1
ঠিক আছে ভদ্র! আমি মনে করি তাদের বেইসিয়ান ব্যাখ্যাটি আমার দ্বিতীয় মন্তব্যের সাথে সম্পর্কিত
ব্যবহারকারী 795305

উত্তর:


6

বেনের মন্তব্য সম্ভবত যথেষ্ট, তবে আমি আরও কিছু রেফারেন্স সরবরাহ করি যার মধ্যে একটি হল কাগজের বেনের রেফারেন্সের আগে থেকেই।

কিউং এট দ্বারা একটি বায়সিয়ান ইলাস্টিক নেট প্রতিনিধিত্ব করার প্রস্তাব দেওয়া হয়েছিল অল। তাদের বিভাগে 3.1। যদিও রিগ্রেশন সহগের জন্য সঠিক ছিল, লেখকরা ভুলভাবে মিশ্রণের উপস্থাপনাটি লিখেছিলেন।β

ইলাস্টিক নেট এর জন্য একটি সংশোধিত বায়েশিয়ান মডেল সম্প্রতি রায় এবং চক্রবর্তী (তাদের সমীকরণ 6) দ্বারা প্রস্তাব করেছিলেন । পোস্টারিয়র ডিস্ট্রিবিউশন থেকে নমুনার জন্য লেখকরা একটি উপযুক্ত গীবস নমুনা উপস্থাপন করতেও যান এবং দেখান যে গিবস নমুনা জ্যামিতিক হারে স্থিতিশীল বিতরণে রূপান্তরিত করে। এই কারণে, এই উল্লেখগুলি হান্স পেপার ছাড়াও কার্যকর হতে পারে ।


(+1) দুর্দান্ত উত্তর!
ব্যবহারকারী795305

1
ভবিষ্যতের যে কারও জন্য - কাগজপত্রগুলি সবই দেখার মতো, তবে হান্স পেপার আপনাকে বিভিন্ন বিতরণের জন্য কিছু গিবস নমুনার পাশাপাশি স্ট্যানকে সহজেই অনুবাদ করা যায় এমন পূর্বের একটি শ্রেণিবিন্যাসের উপস্থাপনা দেয়।
মাইকেল কারি
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.