ভেক্টর মেশিন এবং রিগ্রেশন সমর্থন করুন

26

সমর্থন ভেক্টর মেশিনগুলি শ্রেণিবিন্যাসকে কীভাবে পরিচালনা করে সে সম্পর্কে ইতিমধ্যে একটি দুর্দান্ত আলোচনা হয়েছে , তবে সমর্থন ভেক্টর মেশিনগুলি রিগ্রেশনকে কীভাবে সাধারণীকরণ করে তা সম্পর্কে আমি খুব বিভ্রান্ত।

যত্ন যে কেউ আমাকে জ্বালান?

regression machine-learning svm

— জ্যাক
সূত্র

17

মূলত তারা একইভাবে সাধারণীকরণ করে। রিগ্রেশন-এ কার্নেল ভিত্তিক পদ্ধতির বৈশিষ্ট্যটি রূপান্তর করা, একে কিছু ভেক্টর স্পেসে , তারপরে সেই ভেক্টর স্পেসে লিনিয়ার রিগ্রেশন করা। 'মাত্রিকতার অভিশাপ' এড়াতে, রূপান্তরিত স্থানের লিনিয়ার রিগ্রেশন সাধারণ ন্যূনতম স্কোয়ারগুলির চেয়ে কিছুটা আলাদা different আপশটটি হ'ল রূপান্তরিত স্থানের রিগ্রেশনটিকে হিসাবে প্রকাশ করা যেতে পারে , যেখানে প্রশিক্ষণের সেট থেকে পর্যবেক্ষণ করছি, $\mathbf{x}$ $\ell(\mathbf{x}) = \sum_i w_i \phi(\mathbf{x_i}) \cdot \phi(\mathbf{x})$ $\mathbf{x_i}$ $\phi(\cdot)$ ডেটাতে প্রয়োগ করা রূপান্তর এবং বিন্দুটি হ'ল ডট পণ্য। সুতরাং লিনিয়ার রিগ্রেশনকে কয়েকটি (পছন্দসই খুব কম সংখ্যক) প্রশিক্ষণ ভেক্টর দ্বারা 'সমর্থিত'।

সকল গাণিতিক বিবরণ অদ্ভুত রিগ্রেশন রুপান্তরিত স্থান ( 'Epsilon-অবশ নল' বা যাই হোক না কেন) এ কাজ করেছেন এবং রুপান্তর এর পছন্দমত মধ্যে লুকিয়ে আছে । একজন চিকিত্সকের জন্য, কয়েকটি বিনামূল্যে প্যারামিটারগুলির প্রশ্ন রয়েছে (সাধারণত এবং প্রতিরোধের সংজ্ঞায় ) পাশাপাশি বৈশিষ্ট্যযুক্তকরণ , যেখানে ডোমেন জ্ঞান সাধারণত সহায়ক হয়। $\phi$ $\phi$

— shabbychef
সূত্র

অন্তর্দৃষ্টি দৃষ্টিকোণ থেকে, এটি কি প্রায় একক শ্রেণির শ্রেণিবিন্যাসের মতো, যেখানে "শ্রেণির সীমানা" রেখাটি দুটি শ্রেণির বিন্দুর পরিবর্তে পয়েন্টগুলির মধ্য দিয়ে চলে?

— ওয়েইন

@ ওয়েইন, এটি আমার বোঝা, হ্যাঁ আমি অবশ্য ১০০% নই।

— জাচ

5

এসভিএমের একটি সংক্ষিপ্তসার জন্য: একটি সমর্থন ভেক্টর মেশিন (এসভিএম) কীভাবে কাজ করে?

সমর্থন ভেক্টর রিগ্রেশন (এসভিআর) সম্পর্কিত, আমি এই স্লাইডগুলি http://cs.adelaide.edu.au/~chhshen/teaching/ML_SVR.pdf ( আয়না ) থেকে খুব পরিষ্কার পেয়েছি :

মতলব ডকুমেন্টেশনের একটি শালীন ব্যাখ্যাও রয়েছে এবং অতিরিক্তভাবে অপ্টিমাইজেশনের সমাধান অ্যালগোরিদমকে ছাড়িয়ে যায়: https://www.mathworks.com/help/stats/ বোঝাবল্য- সমর্থন- ওয়েেক্টর- machine-regression.html ( আয়না )।

এখনও অবধি এই উত্তরটি তথাকথিত অ্যাপসিলন-সংবেদনশীল এসভিএম (ε-এসভিএম) রিগ্রেশন উপস্থাপন করেছে। উভয়ই রিগ্রেশন শ্রেণিবিন্যাসের জন্য এসভিএমের একটি সাম্প্রতিকতম রূপটি বিদ্যমান: স্বল্প স্কোয়ারগুলি ভেক্টর মেশিনকে সমর্থন করে ।

অতিরিক্তভাবে, এসভিআর মাল্টি-আউটপুট ওরফে মাল্টি-টার্গেটের জন্য বাড়ানো যেতে পারে, উদাহরণস্বরূপ {1} দেখুন}

তথ্যসূত্র:

{1} বোরচানি, হেনেন, ঘেরার্ডো ভারান্দো, কোঁচা বিয়েলজা এবং পেড্রো লারারাগা। "মাল্টি-আউটপুট রিগ্রেশন সম্পর্কিত একটি সমীক্ষা" " উইলে আন্তঃবিষয়ক পর্যালোচনা: ডেটা মাইনিং এবং নলেজ আবিষ্কার 5, নং। 5 (2015): 216-233। https://scholar.google.com/scholar?cluster=10208375872303977988&hl=en&as_sdt=0,14 ; https://web.archive.org/web/20170628222235/http://oa.upm.es/40804/1/INVE_MEM_2015_204213.pdf

— ফ্রাঙ্ক ডারনকোর্ট
সূত্র