এসভিএমের হাইপারপ্লেন থেকে দূরত্বের ব্যাখ্যা করা

এসভিএমগুলি স্বজ্ঞাতভাবে বুঝতে আমার কিছু সন্দেহ আছে। ধরে নিই আমরা কিছু মানক সরঞ্জাম যেমন SVMLight বা LibSVM ব্যবহার করে শ্রেণিবিন্যাসের জন্য একটি এসভিএম মডেলকে প্রশিক্ষণ দিয়েছি।

আমরা যখন পরীক্ষার ডেটা সম্পর্কে ভবিষ্যদ্বাণী করার জন্য এই মডেলটি ব্যবহার করি, তখন মডেল প্রতিটি পরীক্ষার পয়েন্টের জন্য "আলফা" মানযুক্ত একটি ফাইল উত্পন্ন করে। যদি আলফা মানটি ধনাত্মক হয় তবে পরীক্ষার পয়েন্টটি ক্লাস 1 এর অন্তর্গত, অন্যথায় এটি ক্লাস 2 এর অন্তর্গত, এখন, আমরা কি বলতে পারি যে বৃহত্তর "আলফা" মানযুক্ত একটি পরীক্ষা পয়েন্টটি "উচ্চতর" সম্ভাবনার সাথে সংশ্লিষ্ট শ্রেণীর অন্তর্গত?
প্রথম প্রশ্নের অনুরূপ, যখন আমাদের একটি এসভিএম প্রশিক্ষিত হয়। হাইপার-প্লেনের খুব কাছে এসভির মিথ্যাচার। সুতরাং তার মানে কি এসভি এর উচ্চ সম্ভাবনা সহ সেই শ্রেণীর অন্তর্ভুক্ত? "হাইপারপ্লেন" থেকে দূরত্বের সাথে আমরা কোনও শ্রেণীর অন্তর্গত পয়েন্টের সম্ভাব্যতাটি বলতে পারি? "আলফা" মান "হাইপারপ্লেন" থেকে দূরত্ব উপস্থাপন করে?

আপনার ইনপুট জন্য ধন্যবাদ।

machine-learning svm max-margin

— অমিত
সূত্র

আমি মনে করি উত্তরটি "না", তবে আমি আপনাকে পূর্ণ উত্তর দেওয়ার জন্য এসভিএমগুলিতে যথেষ্ট নই। আমার অন্ত্রের উত্তরটি হ'ল আপনি যখন বার্লিন প্রাচীরের পূর্ব দিকে থাকবেন, তবে আপনি এটির থেকে দূরেই থাকুন না কেন আপনি ঠিক ভুল দিকে আছেন।

— আর্থার

সাইকিটস.লার্নের এসভিসি এবং লিনিয়ার_মডেল.এসজিডিসি ক্লাসিফায়ারের জন্য ভবিষ্যদ্বাণী_প্রবাহ রয়েছে , আমি কেবল বাইনারি শ্রেণিবদ্ধের জন্য বিশ্বাস করি; যদিও আমি এটি ব্যবহার করি নি।

— ডেনিস

আমাকে প্রথমে আপনার প্রশ্নের উত্তরটি সাধারণভাবে দিন। এসভিএম কোনও সম্ভাব্য মডেল নয়। একটি কারণ হ'ল এটি কোনও স্বাভাবিককরণের সম্ভাবনার সাথে মিলে না। নিয়মিত লিস্ট স্কোয়ার মধ্যে উদাহরণস্বরূপ, আপনি ক্ষতি কার্যকারিতা থাকতে এবং regularizer । দুটির যোগফল কমিয়ে ওজন ভেক্টর পাওয়া যায়। তবে এই লগ-অবর পূর্ণবিস্তার সমতূল্য তথ্য দেওয়া $\sum_i \|y_i - \langle w, x_i\rangle - b\|_2^2$ $\|w\|_2^2$ $w$ আপনি গুণফল হতে দেখতে পারেন একটি গসিয়ান সম্ভাবনা এবং এর একটি গসিয়ান পূর্বে ( $p(w|(y_1,x_1),...,(y_m,x_m)) \propto 1/Z \exp(-\|w\|_2^2)\prod_i \exp(\|y_i - \langle w, x_i\rangle - b\|_2^2)$ $w$ $Z$ এটি স্বাভাবিক হয়ে যায় তা নিশ্চিত করে)। আপনি ক্ষতির কাজটি থেকে তার চিহ্নটি উল্টিয়ে এবং এটি ঘটাতে গিয়ে গাউসিয়ান সম্ভাবনা পেয়ে যান। যাইহোক, আপনি যদি এসভিএম এর ক্ষয়ক্ষতির সাথে এটি করেন তবে লগ-সম্ভাবনা কোনও স্বাভাবিকায়িত সম্ভাব্য মডেল নয়।

এসভিএমকে একটিতে পরিণত করার চেষ্টা রয়েছে। সর্বাধিক উল্লেখযোগ্য একটি, যা-আমি মনে করি-এছাড়াও libsvm এ প্রয়োগ করা হয়:

জন প্লাট: সমর্থন ভেক্টর মেশিনগুলির জন্য সম্ভাব্য ফলাফল এবং নিয়মিত সম্ভাবনা পদ্ধতিগুলির তুলনা (এনআইপিএস 1999): http://www.cs.colorado.edu/~mozer/ টিচিং / সাইল্লাবি / 6622/papers/Platt1999.pdf

$\alpha$ $\alpha$ $\sum_{i \in SV}\alpha_i k(x,x_i) + b$ $y$ $y = \sum_{i \in SV}\alpha_i k(x,x_i) + b = \langle w, \phi(x) \rangle_{\mathcal H} + b$ $w$ $y$ $w$ $\|w\|_{H} = \sqrt{\sum_{i,j\in SV} \alpha_i \alpha_j k(x_i,x_j)}$

— fabee
সূত্র

আপনার ব্যাখ্যার জন্য THNX ... পত্রিকাটি পড়বেন

— অমিত