নর্ম -


13

একটি L1 আদর্শ অনন্য (কমপক্ষে আংশিকভাবে) কারণ p=1 নন-উত্তল এবং উত্তলগুলির মধ্যে সীমাতে থাকে। একটি L1 আদর্শ হ'ল 'সর্বাধিক বিরল' উত্তল আদর্শ (ডান?)।

আমি বুঝতে পারি যে p=2 ইউক্যালিডিয়ান আদর্শের জ্যামিতিতে শিকড় রয়েছে এবং যখন মাত্রাগুলি একই ইউনিট থাকে তখন এর স্পষ্ট ব্যাখ্যা থাকে। তবে আমি বুঝতে পারি না কেন এটি অন্যান্য আসল সংখ্যার তুলনায় অগ্রাধিকার হিসাবে ব্যবহার করা হয় p>1 : p=1.5 ? p=π ? হাইপারপ্যারমিটার হিসাবে সম্পূর্ণ অবিচ্ছিন্ন পরিসরটি ব্যবহার করবেন না কেন?

আমি কী মিস করছি?


1
বিশেষত কোন অ্যাপ্লিকেশনগুলিতে "পছন্দসইভাবে ব্যবহৃত"? মান গণিত, পরিসংখ্যান এবং পদার্থবিজ্ঞানে সর্বব্যাপী; কিছু সাবফিল্ডে কিছু নিয়ম অন্যদের চেয়ে বেশি প্রচলিত কারণ সেগুলি আরও অর্থবহ বা সহজতর সাথে কাজ করে। এই কারণে, এই প্রশ্নের উত্তর সম্ভবত অসংখ্য এবং বৈচিত্র্যময় হবে (এত বৈচিত্র্যময়, প্রকৃতপক্ষে, ব্যক্তিগতভাবে আমি এই অদম্য দেখতে পেলাম)। অতএব আমি এটি একটি "সম্প্রদায় উইকি" (সিডাব্লু) পোস্ট করেছি; তবে যদি আপনার মনে একটি নির্দিষ্ট অ্যাপ্লিকেশন বা সংকীর্ণ ক্ষেত্র থাকে, তবে আপনার প্রশ্নটিকে আরও সুনির্দিষ্ট করে তৈরি করে সিডাব্লু স্থিতি সরিয়ে ফেলা সম্ভব হবে।
— whuber

উত্তর:


12

আরও গাণিতিক ব্যাখ্যা হ'ল স্পেস , সমস্ত সিরিজ নিয়ে গঠিত যা পি-আদর্শে রূপান্তর করে, কেবল হিলবার্ট যা পি = 2 এবং অন্য কোনও মান নয়। এর অর্থ হ'ল এই স্থানটি সম্পূর্ণ এবং সেই জায়গার আদর্শটি কোনও অভ্যন্তরীণ পণ্য দ্বারা অনুপ্রাণিত হতে পারে ( আর এন মধ্যে পরিচিত ডট-প্রোডাক্টটি ভাবেন ), তাই এটির সাথে কাজ করা একটু সুন্দর।lpp=2Rn


4

এখানে বেশ কয়েকটি কারণ রয়েছে:


  1. ℓ2zℓ2zℓ পি‖x‖22=x⋅xℓp

  2. এটির খুব স্বাচ্ছন্দ্যযুক্ত মসৃণ গ্রেডিয়েন্ট রয়েছে: আপনি সত্যিই পারবেন না!

    ∇x ‖f(x)‖22=2 ∇f(x)⋅f(x)

2

যদিও আরও অনেক কারণ থাকতে পারে তবে AFAIK পি = 2 নীচের কারণে বেশি পছন্দ করা হয়েছে:

  • সাদৃশ্য / ভিন্নতার পরিমাপ: পি = 2 এর জন্য, ইউক্লিডিয়ান রীতিটি দুটি ভেক্টরগুলির মধ্যে সামঞ্জস্য বা ভিন্নতার একটি পরিমাপ দেয় যা পরবর্তীকালে তথ্য সম্পর্কে আরও ভাল অন্তর্দৃষ্টি পাওয়ার জন্য ব্যবহার করা যেতে পারে। এ সম্পর্কে আরও বিস্তারিত উত্তর পাওয়া যাবে ।
  • নিয়মিতকরণ: এল 2 নীতিটি মেশিন লার্নিংকে নিয়মিত করার জন্য ব্যবহৃত হয় এবং দুটি কারণে এটি পছন্দ করা হয় - 1) এটি সহজেই পার্থক্যযোগ্য 2) এল 2 নিয়মিতকরণের সাথে, ওজনকে আনুপাতিকভাবে কমিয়ে আনতে ঝোঁক। সুতরাং এল 2 নিয়মিতকরণ আরও কম ওজনের তুলনায় বড় ওজনকে বেশি দন্ড দেয় penal

1

লিনিয়ার মডেলগুলির অধীনে স্কোয়ার ত্রুটিগুলি প্রায়শই এর জন্য পছন্দ করা হয়:

  • অরথোগোনালটির সাথে সম্পর্ক, যে শব্দটি হিসাবে বিবেচিত কিছু এলোমেলো ঘটনাটির প্রতি শ্রদ্ধার সাথে ভাল আচরণ করে (নিবিড় সম্পর্কযুক্ত)
  • এটি উত্তল এবং পার্থক্যযোগ্য, নয়L1
  • এটি ট্র্যাকটেবল অপ্টিমাইজেশন অ্যালগরিদমগুলি রৈখিক সিস্টেমে ডেরাইভেটিভ বাঁক হিসাবে দেয়

ℓ 1 ℓ পি 0 < পি < 1L1 প্রায়শই একযোগে জটিল যে কঠোর sparsity (অ-শূন্য শর্তাবলীর গণনা) এর ক্ষেত্রে সুবিধাজনক প্রক্সি বা উত্তল শিথিল হিসাবে বিবেচিত হয়, উদাহরণস্বরূপ দেখুন লিনিয়ার সমীকরণগুলির সর্বাধিক বৃহত্তর সিস্টেমগুলির জন্য ন্যূনতম এল সাধারণ সমাধানটিও হয় বিরল সমাধানℓ1 । কিছু হারানোর" ব্যয়ে আরও স্পারসিটি প্রয়োগ করতে , ব্যবহার করার ঝোঁক ।ℓp0<p<1

যাইহোক, গণনা পরিমাপটি শূন্য নয় এমন স্কেলিংয়ের প্রতি সংবেদনশীল। অ-শূন্য ধ্রুবক দ্বারা একটি ভেক্টরকে গুণ করুন, নন-জিরো পদগুলির সংখ্যা একই থাকবে। সুতরাং, হয় -order সজাতি, যখন সব নিয়ম বা আপাতদৃষ্টিতে নিয়ম হয় -order সজাতি। এমনকি যদি কোনওভাবে, হিসাবে এই আমার কাছে একটি ফাঁক বলে মনে হচ্ছে।ℓ 0 0 ℓ পি 1 ℓ পি → ℓ 0 পি → 0ℓ0ℓ00ℓp1ℓp→ℓ0p→0

সুতরাং, নিয়মাবলীগুলি বজায় রেখেই কেউ কেউ (নন-উত্তল) আদর্শ অনুপাত বিবেচনা করছেন, যেমন , ট্যাক্সিক্যাবে ইউক্লিডের উল্লেখগুলি দেখুন : নিয়মিতকরণের সাথে স্পারস ব্লাইন্ড ।ℓ 1 / ℓ 2ℓ1/ℓ2ℓ1/ℓ2

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.