এল 2 নর্ম ক্ষতির কেন একটি অনন্য সমাধান রয়েছে এবং এল 1 নর্ম ক্ষতির সম্ভবত একাধিক সমাধান রয়েছে?

Question

http://www.chioka.in/differences-between-l1-and-l2-as-loss-function-and-regularization/

আপনি যদি এই পোস্টের শীর্ষের দিকে তাকান তবে লেখক উল্লেখ করেছেন যে এল 2 আদর্শের একটি অনন্য সমাধান রয়েছে এবং এল 1 আদর্শের অনেকগুলি সমাধান রয়েছে। আমি এটি নিয়মিতকরণের ক্ষেত্রে বুঝতে পারি, তবে ক্ষতির ক্ষেত্রে এল 1 আদর্শ বা এল 2 আদর্শ ব্যবহারের ক্ষেত্রে নয়।

যদি আপনি স্কেলার এক্স (x ^ 2 এবং | x |) এর ফাংশনগুলির গ্রাফগুলি দেখেন তবে আপনি সহজেই দেখতে পাবেন উভয়ের একটির একটি অনন্য সমাধান রয়েছে।

Comments

"fnx"? ... দয়া করে এটিকে পরিষ্কার করার জন্য সম্পাদনা করুন। আপনি কি "ফাংশন" বলতে চান?

— গ্লেন_বি -রাইনস্টেট মনিকা

Answer 1

আসুন সহজতম সম্ভাব্য প্রদর্শনের জন্য একটি এক-মাত্রিক সমস্যা বিবেচনা করুন। (উচ্চতর মাত্রিক ক্ষেত্রে একই বৈশিষ্ট্য রয়েছে))

$|x-\mu|$$(x-\mu)^2$$\sum_i |x_i-\mu|$$x_1=1$$x_2=3$

$\mu$

$L_1$

$\sum_i (x_i-\mu)^2 = n(\bar{x}-\mu)^2+k(\mathbf{x})$

---

$L_1$

যেহেতু (কিছু নির্দিষ্ট পরিস্থিতির বাইরে) আপনার কাছে সাধারণত কোনও প্রভাবশালী পর্যবেক্ষণের কোনও গ্যারান্টি নেই, আমি এল 1-রিগ্রেশনকে শক্ত বলব না।

---

প্লটের জন্য আর কোড:

 fi <- function(x,i=0) abs(x-i)
 f <- function(x) fi(x,1)+fi(x,3)
 plot(f,-1,5,ylim=c(0,6),col="blue",lwd=2)
 curve(fi(x,1),-1,5,lty=3,col="dimgrey",add=TRUE)
 curve(fi(x,3),-1,5,lty=3,col="dimgrey",add=TRUE)

Comments

এটা অসাধারণ. গ্রাফটি তৈরি করতে আপনি কোন সফটওয়্যার ব্যবহার করেছেন?

— ব্যবহারকারী 3180

আর। এটি কেবল বেস গ্রাফিকগুলিতে করা হয়। আমি আমার উত্তরটির শেষে কোডটি যুক্ত করেছি।

— গ্লেন_বি -রিনস্টেট মনিকা

ওহ, আপনি বুঝতে পারেন নি যে আপনি কোনও ফাংশন সরবরাহ করতে পারেন plot। মাথা নষ্ট.

— জেএডি

Answer 2

এল 2 ক্ষতি হ্রাস করার সাথে গণিতের গড় গণনা করার সাথে মিলে যায়, যা দ্ব্যর্থহীন, L1 ক্ষতি হ্রাস করার সাথে মিডিয়ার গণনা করার সাথে মিলে যায়, যা দ্বিধাগ্রস্থ হয় যদি এমনকি বহু সংখ্যক উপাদানকে মাঝারি গণনায় অন্তর্ভুক্ত করা হয় ( কেন্দ্রীয় প্রবণতা দেখুন: বৈকল্পিক সমস্যার সমাধান) )।