সমর্থন ভেক্টর রিগ্রেশন স্বজ্ঞাতভাবে কীভাবে কাজ করে?

Question

এসভিএমগুলির সমস্ত উদাহরণ শ্রেণিবদ্ধের সাথে সম্পর্কিত। আমি বুঝতে পারি না যে কীভাবে রিগ্রেশনের জন্য একটি এসভিএম (সমর্থন ভেক্টর রেজিস্ট্রার) রিগ্রেশনে ব্যবহৃত হতে পারে।

আমার উপলব্ধি থেকে, একটি এসভিএম সর্বোত্তম হাইপারপ্লেন খুঁজে পেতে দুটি শ্রেণীর মধ্যে মার্জিন সর্বাধিক করে তোলে। এটি কীভাবে সম্ভবত কোনও রিগ্রেশন সমস্যায় কাজ করবে?

Answer 1

সংক্ষেপে বলতে গেলে: মার্জিন বাড়ানোর আরো সাধারণভাবে কমানোর দ্বারা সমাধান নিয়ামক হিসেবে দেখা যেতে পারে $w$ (যা মূলত মডেল জটিলতা কমানোর হয়) এই শ্রেণীবিভাগ এবং রিগ্রেশন উভয় সম্পন্ন করা হয়। কিন্তু শ্রেণীবিন্যাস ক্ষেত্রে এই কম অবস্থার অধীনে সম্পন্ন করা হয় যে সব উদাহরণ শর্তে যে মান অধীনে সঠিকভাবে এবং রিগ্রেশন ক্ষেত্রে শ্রেণীবদ্ধ করা হয় $y$ সব উদাহরণ প্রয়োজনীয় সঠিকতা কম বিচ্যুত $\epsilon$ থেকে $f(x)$ রিগ্রেশন জন্য।

---

আপনি শ্রেণিবিন্যাস থেকে রিগ্রেশনটিতে কীভাবে যাচ্ছেন তা বোঝার জন্য এটি উভয় ক্ষেত্রেই কী উত্তম অপ্টিমাইজেশন সমস্যা হিসাবে সমস্যাটি গঠনের জন্য একই SVM তত্ত্ব প্রয়োগ করে তা দেখতে সহায়তা করে। আমি দুজনকে পাশাপাশি রেখে চেষ্টা করব।

(আমি স্ল্যাক ভেরিয়েবলগুলি অগ্রাহ্য করব যা সঠিকতার উপরে ভুল শৃঙ্খলাবদ্ধতা এবং বিচ্যুতির জন্য অনুমতি দেয় $\epsilon$ )

শ্রেণীবিন্যাস

এই ক্ষেত্রে লক্ষ্য একটি ফাংশন খুঁজে পেতে $f(x)= wx +b$ যেখানে $f(x) \geq 1$ ইতিবাচক উদাহরণ এবং জন্য $f(x) \leq -1$ নেতিবাচক উদাহরণের জন্য। এই পরিস্থিতিতে আমরা মার্জিন (2 লাল বার মধ্যে দূরত্ব) পূর্ণবিস্তার যা কিছুই ব্যুৎপন্ন কমানোর বেশী চান $f'=w$ ।

মার্জিন সর্বাধিক করার পিছনে অন্তর্নিহিততাটি হ'ল এটি আমাদের সন্ধানের সমস্যার অনন্য সমাধান দেবে (যেমন আমরা নীল রেখাটি উদাহরণস্বরূপ বাতিল করি) এবং এই পরিস্থিতিতে এই সমাধানটি সর্বাধিক সাধারণ, অর্থাৎ এটি কাজ করে নিয়মিতকরণ হিসাবে । এটি হিসাবে দেখা যেতে পারে, সিদ্ধান্তের সীমানার চারপাশে (যেখানে লাল এবং কালো রেখাগুলি অতিক্রম করা হয়) শ্রেণিবিন্যাসের অনিশ্চয়তা সবচেয়ে বড় এবং এই অঞ্চলের f ( x ) এর জন্য সর্বনিম্ন মানটি সবচেয়ে সাধারণ সমাধান অর্জন করবে।$f(x)$$f(x)$

$f(x) \geq 1$$f(x) \leq -1$

প্রত্যাগতি

$f(x)= wx +b$$f(x)$$\epsilon$$y(x)$$|y(x) -f(x)|\leq \epsilon$$epsilon$$f'(x)=w$$w$$w=0$

$|y -f(x)|\leq \epsilon$

উপসংহার

উভয় ক্ষেত্রে নিম্নলিখিত সমস্যার ফলস্বরূপ:

$$\text{min} \frac{1}{2}w^2$$

শর্তাধীন যে:

• সমস্ত উদাহরণ সঠিকভাবে শ্রেণিবদ্ধ করা হয়েছে (শ্রেণিবিন্যাস)
• $y$$\epsilon$$f(x)$

Answer 2

শ্রেণিবিন্যাস সমস্যার জন্য এসভিএমে আমরা প্রকৃতপক্ষে পৃথকীকরণ রেখা (হাইপারপ্লেন) থেকে ক্লাসটি পৃথক করার চেষ্টা করি এবং লজিস্টিক রিগ্রেশন থেকে পৃথক, আমরা হাইপারপ্লেনের উভয় দিক থেকে একটি সুরক্ষা সীমানা তৈরি করি (লজিস্টিক রিগ্রেশন এবং এসভিএম শ্রেণিবিন্যাসের মধ্যে পৃথক পৃথকীকরণ রয়েছে) ক্ষতি ফাংশন)। অবশেষে, হাইপারপ্লেন থেকে যতটা সম্ভব পৃথক পৃথক তথ্য পয়েন্ট থাকা।

রিগ্রেশন সমস্যার জন্য এসভিএম-এ, আমরা ভবিষ্যতের পরিমাণের পূর্বাভাস দেওয়ার জন্য একটি মডেল ফিট করতে চাই। অতএব, আমরা চাই ডেটা পয়েন্ট (পর্যবেক্ষণ) শ্রেণিবিন্যাসের জন্য এসভিএমের বিপরীতে হাইপারপ্লেনের যতটা সম্ভব কাছাকাছি হোক। শ্রেণিবদ্ধকরণের জন্য এসভিএমের বিপরীতে ত্রুটি থেকে রিগ্রেশন ফাংশনকে সংবেদনশীল করতে আমরা হাইপারপ্লেনের উভয় দিক থেকে একটি অ্যাপসিলন পরিসীমা সংজ্ঞায়িত করি এই পার্থক্যের দ্বারা (সাধারণ লেস্ট স্কোয়ার) মত সাধারণ রিগ্রেশন থেকে প্রাপ্ত এসভিএম রিগ্রেশনটি উত্তরাধিকার সূত্রে প্রাপ্ত যা আমরা একটি সীমানা নির্ধারণের জন্য সুরক্ষিত রাখার জন্য সংজ্ঞায়িত করি ine ভবিষ্যতের সিদ্ধান্ত (পূর্বাভাস)। অবশেষে,