এল 2 এর উপরে কেন এল 1 নিয়মিতকরণ ব্যবহার করছেন?

Question

ক্ষতির ফাংশন ব্যবহার করে লিনিয়ার রিগ্রেশন মডেল পরিচালনা করা, কেন আমার ব্যবহার করা উচিত $L_1$ পরিবর্তে $L_2$ নিয়মিতকরণ?

ওভারফিটিং প্রতিরোধে এটি কি আরও ভাল? এটি কি নির্বিচারক (তাই সর্বদা একটি অনন্য সমাধান)? বৈশিষ্ট্য নির্বাচনের ক্ষেত্রে এটি কি আরও ভাল (কারণ বিরল মডেল উত্পাদন করে)? এটি বৈশিষ্ট্যগুলির মধ্যে ওজন ছড়িয়ে দেয়?

Comments

এল 2 পরিবর্তনশীল নির্বাচন করে না, সুতরাং এল 1 এটির থেকে আরও ভাল।

— মাইকেল এম

stats.stackexchange.com/questions/866/...

— HelloWorld

Answer 1

মূলত, গুণাগুণগুলি এতটা নিখুঁতভাবে ফিট করার জন্য গুণের প্রতিরোধের জন্য আমরা একটি নিয়মিত পদ যুক্ত করি।

এল 1 এবং এল 2 এর মধ্যে পার্থক্য হল এল 1 এর ওজনগুলির যোগফল এবং এল 2 ওজনের বর্গের যোগফল।

এল 1 গ্রেডিয়েন্ট ভিত্তিক পদ্ধতির ক্ষেত্রে ব্যবহার করা যাবে না কারণ এটি এল 2 এর থেকে পৃথক নয়

এল 1 বিচ্ছিন্ন বৈশিষ্ট্য স্থানগুলিতে বৈশিষ্ট্য নির্বাচন করতে সহায়তা করে which বৈশিষ্ট্য নির্বাচনটি কোন বৈশিষ্ট্যগুলি সহায়ক এবং কোনটি অতিরিক্ত কাজ করছে তা জেনে রাখা।

তাদের বৈশিষ্ট্যগুলির মধ্যে পার্থক্যটি সংক্ষেপে বলা যেতে পারে:

Comments

এটি সত্য নয় যে "এল 1 গ্রেডিয়েন্ট ভিত্তিক পদ্ধতির ক্ষেত্রে ব্যবহার করা যায় না"। কেরাস উদাহরণস্বরূপ এটি সমর্থন করে । হ্যাঁ, ডেরাইভেটিভ সর্বদা ধ্রুবক তাই এটি গ্রেডিয়েন্ট বংশদ্ভুতের পক্ষে সর্বনিম্ন সন্ধান করা আরও শক্ত করে তোলে। তবে লোকসান ফাংশনের মধ্যে নিয়মিতকরণ একটি ক্ষুদ্র শব্দ, সুতরাং জিনিসগুলির দুর্দান্ত পরিকল্পনায় এটি খুব গুরুত্বপূর্ণ নয়।

— রিকার্ডো ক্রুজ

Answer 2

এল 2 এর এল 2 এর একটি খুব গুরুত্বপূর্ণ সুবিধা রয়েছে এবং তা হ'ল ঘূর্ণন এবং স্কেলের চালকতা।

ভৌগলিক / শারীরিক প্রয়োগের ক্ষেত্রে এটি বিশেষভাবে গুরুত্বপূর্ণ।

বলুন আপনার প্রযুক্তিবিদ দুর্ঘটনাক্রমে আপনার সেন্সরটিকে 45 ডিগ্রি দেবদূতটিতে ইনস্টল করেছেন, L1 প্রভাবিত হবে, যখন L2 (ইউক্লিডিয়ান দূরত্ব) একই থাকবে।

Comments

এটি মোটেই প্রশ্নের উত্তর নয়।

— kbrose

আপনি দয়া করে চালানটি ব্যাখ্যা করতে পারেন?

— aneesh joshi

@ ছাতি, প্রশ্নটি নিয়মিতকরণের বিষয়ে। আপনি ক্ষতির ক্ষেত্রে এটি 1-আদর্শ এবং 2-আদর্শের অন্যান্য ব্যবহারের সাথে বিভ্রান্ত করছেন।

— রিকার্ডো ক্রুজ