রিজ এবং লাসো একটি সমবায় কাঠামো দেওয়া হয়েছে?


11

পরিসংখ্যানগত শিক্ষার উপাদানসমূহের (হাসিটি, তিবশ্রানী ও ফ্রেডম্যান) অধ্যায় 3 পড়ার পরে, আমি ভাবলাম যে এই প্রশ্নটির শিরোনামে উদ্ধৃত বিখ্যাত সংকোচনের পদ্ধতিগুলি কোনও সমবায় কাঠামো প্রদত্ত, সম্ভবত হ্রাস করা সম্ভব (সম্ভবত আরও সাধারণ) করা সম্ভব কিনা? ) পরিমাণ

(yXβ)TV1(yXβ)+λf(β),   (1)

স্বাভাবিকের পরিবর্তে এটি মূলত আমার বিশেষ প্রয়োগে, আমাদের কাছে sometimes (এবং কখনও কখনও এমন কোনও সম্প্রদায়ের অনুমান করা যায়) এর দ্বারা ভিন্নভাবে উদ্ভূত হয়েছিল এবং আমি অন্তর্ভুক্ত করতে চাই তাদের মধ্যে রিগ্রেশন। আমি এটি রিজ রিগ্রেশনের জন্য করেছি: কমপক্ষে পাইথন / সিতে এটি প্রয়োগ করার সাথে সাথে আমি দেখতে পাচ্ছি যে সহগগুলি যে ট্রেসগুলি আবিষ্কার করেছে সেগুলির মধ্যে গুরুত্বপূর্ণ পার্থক্য রয়েছে, যা উভয় ক্ষেত্রে ক্রস-বৈধকরণ কার্ভগুলির সাথে তুলনা করার সময়ও উল্লেখযোগ্য।y

(yXβ)(yXβ)+λf(β).            (2)
y

আমি এখন যখন কমানোর Lasso বাস্তবায়ন লঘিষ্ট এঙ্গেল রিগ্রেশন মাধ্যমে, কিন্তু অর্ডার আমি প্রথম প্রমাণ করতে হবে যে তার সকল চমৎকার বৈশিষ্ট্য এখনও বৈধ আছে এটা করতে হবে চেষ্টা প্রস্তুতি ছিল পরিবর্তে । এখনও অবধি, এমন কোনও কাজ আমি দেখিনি যা আসলে এই সবগুলি করে, কিন্তু কিছু সময় আগে আমি একটি উক্তিও পড়েছিলাম যা বলেছিল "" যারা যারা পরিসংখ্যান জানেন না তারা এটি পুনরায় আবিষ্কারের জন্য ধ্বংসপ্রাপ্ত হয় "(ব্র্যাড এফ্রন দ্বারা, সম্ভবত? ), সুতরাং সে কারণেই আমি এখানে প্রথমে জিজ্ঞাসা করছি (পরিসংখ্যানের সাহিত্যে আমি তুলনামূলকভাবে নতুন আগত): এই মডেলগুলির জন্য এটি ইতিমধ্যে কোথাও হয়ে গেছে? এটি কোনও উপায়ে আর প্রয়োগ করা হয়েছে? ( পরিবর্তে হ্রাস করে রিজের সমাধান এবং বাস্তবায়ন সহ( 2 ) ( 1 ) ( 2 )(1)(2)(1)(2), আর-তে lm.ridge কোডে কোনটি প্রয়োগ করা হয়েছে)?

আপনার উত্তরের জন্য অগ্রিম ধন্যবাদ!


পূর্ববর্তী উত্তর এছাড়াও আরো বিস্তারিত দিয়ে রিপোর্ট করা হয় en.wikipedia.org/wiki/Generalized_least_squares সমাধান সম্ভবপর জেনারেলাইজড লঘিষ্ট স্কয়ার (FGLS) পদ্ধতির ব্যবহার করে বাস্তবায়ন করা যেতে পারে
নিকোলা জাঁ

উত্তর:


13

যদি আমরা কোলেস্কি পচা , তবে বলুন, তবে এবং আমরা ভেক্টর সঙ্গে প্রতিক্রিয়া প্রতিস্থাপন দ্বারা (যাই হোক না কেন দণ্ডনীয়তা ফাংশন এক পছন্দ সঙ্গে) মান আলগোরিদিম ব্যবহার করতে পারেন এবং ম্যাট্রিক্স সঙ্গে ভবিষ্যতবক্তা ।( y - এক্স β ) টি ভি - 1 ( y - এক্স β ) = ( এল ওয়াই - এল এক্স β ) টি ( এল ওয়াই - এল এক্স β ) এল ওয়্যার এল এক্সV1=LTL

(yXβ)TV1(yXβ)=(LyLXβ)T(LyLXβ)
LyLX
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.