কীভাবে এসভিএমস = টেমপ্লেট মিলছে?


10

আমি এসভিএম সম্পর্কে পড়েছি এবং শিখেছি যে তারা একটি অপ্টিমাইজেশান সমস্যা সমাধান করছে এবং সর্বাধিক মার্জিন ধারণাটি খুব যুক্তিসঙ্গত ছিল।

এখন, কার্নেলগুলি ব্যবহার করে তারা এমনকি অ-রৈখিক বিভাজন সীমানাও খুঁজে পেতে পারে যা দুর্দান্ত ছিল।

এখনও অবধি, আমার কী ধারণা নেই যে এসভিএম (একটি বিশেষ কার্নেল মেশিন) এবং কার্নেল মেশিনগুলি নিউরাল নেটওয়ার্কগুলির সাথে কীভাবে সম্পর্কিত?

মন্তব্য বিবেচনা করুন Yann Lecun => এখানে :

kernel methods were a form of glorified template matching

এবং এখানেও :

উদাহরণস্বরূপ, কিছু বুদ্ধিমান গণিতের কারণে কার্নেল পদ্ধতি দ্বারা কিছু লোককে চমকে দিয়েছে। তবে, যেমনটি আমি অতীতে বলেছি, শেষ পর্যন্ত, কার্নেল মেশিনগুলি অগভীর নেটওয়ার্ক যা "গ্লোরিফাইড টেম্পলেট ম্যাচিং" সম্পাদন করে। এতে কোনও ভুল নেই (এসভিএম একটি দুর্দান্ত পদ্ধতি) তবে এর মারাত্মক সীমাবদ্ধতা রয়েছে যা আমাদের সকলকে সচেতন হওয়া উচিত।

সুতরাং আমার প্রশ্নগুলি হ'ল:

  1. কীভাবে এসভিএম নিউরাল নেটওয়ার্কের সাথে সম্পর্কিত? এটি কেমন অগভীর নেটওয়ার্ক?
  2. এসভিএম একটি ভাল সংজ্ঞায়িত উদ্দেশ্য ফাংশন দিয়ে একটি অপ্টিমাইজেশনের সমস্যা সমাধান করে, এটি কীভাবে টেমপ্লেটটি মেলাচ্ছে? এখানে কোন টেমপ্লেটটির সাথে একটি ইনপুট মেলে?

আমার ধারণা এই মন্তব্যগুলিতে উচ্চ মাত্রিক স্থানগুলি, নিউরাল নেট এবং কার্নেল মেশিনগুলির একটি সম্পূর্ণ বোঝার প্রয়োজন তবে আমি এখনও চেষ্টা করে যাচ্ছি এবং এর পিছনে যুক্তিটি বুঝতে পারি নি। তবে এটি অবশ্যই খুব আকর্ষণীয় যে দুটি খুব খুব আলাদা মিলি কৌশলগুলির মধ্যে সংযোগগুলি নোট করুন।

সম্পাদনা: আমি মনে করি নিউরাল দৃষ্টিকোণ থেকে এসভিএমগুলি বোঝা দুর্দান্ত হবে। আমি উপরোক্ত দুটি প্রশ্নের একটি পুঙ্খানুপুঙ্খ গণিত জবাবের জন্য সন্ধান করছি, যাতে কার্নেল ট্রিকের সাথে লিনিয়ার এসভিএম এবং এসভিএম উভয়ের ক্ষেত্রেই এসভিএম এবং নিউরাল নেটগুলির মধ্যে সত্যিকারের যোগসূত্রটি বুঝতে পারি।


এসভিএমগুলি যথাযথ কার্নেল দিয়ে প্রশিক্ষণ দেওয়া মোটামুটি সহজ এবং দ্রুত। কিছু কাজের গভীর নিউরাল নেট দরকার হয় না।
ভ্লাদিস্লাভস ডভগ্যালিক্স

@ এক্সিয়ন হাই, আপনি কি উত্তরটি একবার দেখে নিতে পারেন, আমি মনে করি এটির উন্নতি দরকার। ধন্যবাদ।
রাফায়েল

উত্তর:


7
  1. কীভাবে এসভিএম নিউরাল নেটওয়ার্কের সাথে সম্পর্কিত? এটি কেমন অগভীর নেটওয়ার্ক?

এসভিএম হ'ল ক্ষয় ফাংশন এবং একচেটিয়াভাবে রৈখিক অ্যাক্টিভেশন হিসাবে কব্জি ক্ষতি সহ একক স্তর নিউরাল নেটওয়ার্ক। পূর্ববর্তী থ্রেডগুলিতে ধারণাটি ইঙ্গিত করা হয়েছে, যেমন এটি: এসভিএম এর সমান রিলু অ্যাক্টিভেশন সহ একক স্তর নিউরাল নেটওয়ার্ক?

  1. এসভিএম একটি ভাল সংজ্ঞায়িত উদ্দেশ্য ফাংশন দিয়ে একটি অপ্টিমাইজেশনের সমস্যা সমাধান করে, এটি কীভাবে টেমপ্লেটটি মেলাচ্ছে? এখানে কোন টেমপ্লেটটির সাথে একটি ইনপুট মেলে?

গ্রাম ম্যাট্রিক্স (কার্নেল ম্যাট্রিক্স, যদি আপনি পছন্দ করেন) হ'ল মিলের একটি পরিমাপ। যেহেতু এসভিএম বিচ্ছিন্ন সমাধানের অনুমতি দেয়, ভবিষ্যদ্বাণীটি আপনার নমুনা টেমপ্লেটগুলির সাথে অর্থাত্ সমর্থনকারী ভেক্টরগুলির সাথে তুলনা করার বিষয় হয়ে ওঠে।


উত্তরের জন্য ধন্যবাদ, দয়া করে কিছু গণিতের সাথে আরও কিছুটা ব্যাখ্যা করুন। এটি সত্যিই দুর্দান্ত হবে :)
রাফেল

আমি কমবেশি টেমপ্লেটের সাথে ম্যাচিংয়ের জিনিসটি বুঝতে পারি, তবে আমি বিবৃতিটি পেলাম না: এসভিএম যেমন বিচ্ছুরণ সমাধানগুলিকে অনুমতি দেয় .. এখানে বিরল দ্রবণগুলি কী করতে পারে? সংজ্ঞা অনুসারে ভবিষ্যদ্বাণী টেমপ্লেটগুলির সাথে একটি ওজনের ভারসাম্য দ্বারা করা হয়, তাই স্পারসিটি কোথা থেকে আসে তা আমি পাই না। এছাড়াও, দয়া করে জঞ্জাল ক্ষতি অ্যাক্টিভেশন ফাংশন সম্পর্কিত কয়েকটি লাইন যুক্ত করুন। অনেক অনেক ধন্যবাদ :)
রাফেল
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.