এই পদ্ধতিগুলি - লাসো এবং ইলাস্টিক নেট - বৈশিষ্ট্য নির্বাচন এবং পূর্বাভাস উভয়েরই সমস্যা থেকেই জন্মগ্রহণ করেছিল। এই দুটি লেন্সের মাধ্যমেই আমি মনে করি একটি ব্যাখ্যা পাওয়া যাবে।
ম্যাথু গন তার জবাবে সুন্দর করে ব্যাখ্যা করেছেন যে এই দুটি লক্ষ্য স্বতন্ত্র এবং প্রায়শই বিভিন্ন ব্যক্তি গ্রহণ করে। তবে, ভাগ্যক্রমে আমাদের জন্য, যে পদ্ধতিগুলিতে আমরা আগ্রহী সেগুলি উভয় ক্ষেত্রেই ভাল অভিনয় করতে পারে।
বৈশিষ্ট্য নির্বাচন
প্রথমে, বৈশিষ্ট্য নির্বাচন সম্পর্কে কথা বলা যাক। আমাদের প্রথমে লাসোর দৃষ্টিকোণ থেকে স্থিতিস্থাপক জালকে অনুপ্রাণিত করা উচিত। এটি হ্যাস্টি এবং জোউকে উদ্ধৃত করার জন্য , "যদি এমন কোনও ভেরিয়েবলের গ্রুপ থাকে যার মধ্যে জুটিওয়ালা পারস্পরিক সম্পর্ক খুব বেশি থাকে, তবে লাসো গ্রুপ থেকে কেবল একটি ভেরিয়েবল নির্বাচন করে এবং কোনটি নির্বাচিত তা যত্ন করে না।" উদাহরণস্বরূপ, এটি একটি সমস্যা, কারণ এর অর্থ হ'ল আমরা লাসো ব্যবহার করে প্রকৃত সমর্থনের কোনও উপাদান খুঁজে পাওয়ার সম্ভাবনা নেই - কেবলমাত্র এটির সাথে এটি অত্যন্ত সংযুক্ত। (কাগজটিতে উল্লেখ করা হয়েছে যে এটি লার্স পেপারে প্রমাণিত, যা আমি এখনও পড়িনি)) পারস্পরিক সম্পর্কের উপস্থিতিতে সমর্থন পুনরুদ্ধারের অসুবিধাও ওয়াইনরাইটের দ্বারা উল্লেখ করা হয়েছে , যখন সত্য সমর্থন এবং এটি পরিপূরক মধ্যে উচ্চ সম্পর্ক আছে।0.5
এখন, ইলাস্টিক নেট এ l2 জরিমানা এমন বৈশিষ্ট্যগুলিকে উত্সাহিত করে যা গুণাগুণগুলি কেবলমাত্র ক্ষতি এবং l1 জরিমানা দ্বারা সমান আনুমানিক গুণফলের সাথে অবিচ্ছেদ্য হিসাবে বিবেচিত হয়। আমরা ঢিলেঢালাভাবে ঠাহর যে দেখতে পারে সন্তুষ্টি | ক | = | খ(a,b)=argmina′,b′:c=|a′|+|b′|(a′)2+(b′)2। এর কারণে, ইলাস্টিক নেটটি এমনটি করে যাতে আমাদের 'দুর্ঘটনাক্রমে' মুছে ফেলার সম্ভাবনা কম থাকে যা সত্য সমর্থনে রয়েছে e এটি হ'ল, আসল সমর্থনটি আনুমানিক সমর্থনের মধ্যে থাকা সম্ভবত বেশি। এটা ভালো! এর অর্থ এই যে আরও ভুয়া আবিষ্কার রয়েছে তবে এটি এমন একটি মূল্য যা বেশিরভাগ লোকেরা দিতে ইচ্ছুক।|a|=|b|
একদিকে যেমন, এটি উল্লেখ করা দরকার যে অত্যন্ত সংযুক্ত বৈশিষ্ট্যগুলি খুব অনুরূপ সহগের অনুমানের ঝোঁক রাখে যাতে আমরা একইরকম প্রতিক্রিয়াকে প্রভাবিত করে এমন আনুমানিক সমর্থনের মধ্যে বৈশিষ্ট্যগুলির গোষ্ঠীগুলি সনাক্ত করতে পারি।
ভবিষ্যদ্বাণী
এখন, আমরা পূর্বাভাসের দিকে এগিয়ে যাই। ম্যাথু গন যেমন উল্লেখ করেছেন, ক্রস বৈধতার মাধ্যমে সুরকরণের পরামিতিগুলি বেছে নেওয়া ন্যূনতম পূর্বাভাস ত্রুটির সাথে একটি মডেল চয়ন করার লক্ষ্য তৈরি করে। যেহেতু লাসো দ্বারা নির্বাচিত যে কোনও মডেল ইলাস্টিক নেট দ্বারা নির্বাচিত হতে পারে ( ), এটি কিছুটা বোঝায় যে ইলাস্টিক নেট এমন একটি মডেল খুঁজে পেতে সক্ষম যা লাসোর চেয়ে আরও ভাল পূর্বাভাস দেয়।α=1
লেডেরার, ইউ, এবং গায়াননোভা বৈশিষ্ট্যগুলি সম্পর্কে কোনও অনুমানের নিচে দেখান যে, লাসো এবং ইলাস্টিক নেট উভয়ই তাদের এল 2 প্রেডিকশন ত্রুটি একই পরিমাণে আবদ্ধ থাকতে পারে। এটি আবশ্যকভাবে সত্য নয় যে তাদের বেঁধে রাখা শক্ত, তবে এটি লক্ষ্য করা আকর্ষণীয় হতে পারে যেহেতু ওরাকল বৈষম্যগুলি পরিসংখ্যানগুলির সাহিত্যের একটি প্রাকৃতিক উপায় হিসাবে অনুমানকারীদের ভবিষ্যদ্বাণীপূর্ণ পারফরম্যান্সের পরিমাণ হিসাবে প্রমাণ করে - সম্ভবত বিতরণগুলি এত জটিল! এটাও লক্ষণীয় যে লেডারার (1) (2) এর সাথে পারস্পরিক সম্পর্কযুক্ত বৈশিষ্ট্যগুলির উপস্থিতিতে লাসো পূর্বাভাস সম্পর্কে কিছু কাগজপত্র রয়েছে।
সারসংক্ষেপ
সংক্ষেপে, আগ্রহের সমস্যাগুলি হ'ল আনুমানিক সমর্থন এবং পূর্বাভাসের মধ্যে থাকা সত্য সমর্থন। সমর্থন পুনরুদ্ধারের জন্য, দৃor়ভাবে প্রমাণিত গ্যারান্টি রয়েছে (ওয়েইন রাইটের মাধ্যমে) যে লাসো সত্যিকারের সমর্থন এবং এটির পরিপূরকের মধ্যে স্বল্প সম্পর্কের অনুমানের অধীনে মডেলটিতে থাকার জন্য সঠিক বৈশিষ্ট্যগুলি নির্বাচন করে। যাইহোক, পারস্পরিক সম্পর্কের উপস্থিতিতে, আমরা স্থিতিস্থাপকের জালে ফিরে পড়তে পারি যাতে এটি নির্বাচিত সকলের মধ্যে প্রকৃত সমর্থনের বৈশিষ্ট্যগুলি বেছে নিতে পারে। (নোট করুন যে আমাদের এখানে টিউনিংয়ের প্যারামিটারগুলি সাবধানে নির্বাচন করতে হবে।) এবং, পূর্বাভাসের জন্য যখন আমরা ক্রস বৈধকরণের মাধ্যমে টিউনিং প্যারামিটারটি বেছে নিই তখন এটি স্বজ্ঞাত অর্থে তোলে যে ইলাস্টিক নেটটি লাসোর চেয়ে আরও ভাল সম্পাদন করা উচিত - বিশেষত পারস্পরিক সম্পর্কের উপস্থিতিতে ।
ভবিষ্যদ্বাণী এবং কিছু আনুষ্ঠানিকতা একপাশে রেখে আমরা কী শিখলাম? আমরা সত্য সমর্থন সম্পর্কে শিখেছি।
আস্থা অন্তর
এটি উল্লেখ করার মতো যে লাসোর বৈধ অনুক্রমের ক্ষেত্রে গত 2 বছরে অনেক কিছু পরিবর্তিত হয়েছে। বিশেষত, লি, সূর্য, সূর্য এবং টেলরের কাজ প্রদত্ত মডেলটি নির্বাচিত হওয়ার বিষয়ে শর্তসাপেক্ষ লাসোর সহগের জন্য সঠিক অনুমান সরবরাহ করে। (আসল সহগের জন্য লাসোতে অনুকরণের ফলাফল ওপি-র পোস্টের সময় প্রায় ছিল, এবং লিঙ্কযুক্ত কাগজে সেগুলি সংক্ষিপ্তভাবে বর্ণনা করা হয়েছে))