এসভিএম এবং লজিস্টিক রিগ্রেশন তুলনা করা


37

কেউ দয়া করে আমাকে এসভিএম বা এলআর কে বেছে নেবেন সে সম্পর্কে কিছুটা অন্তর্দৃষ্টি দিতে পারেন? আমি দু'জনের হাইপারপ্লেন শিখার অপ্টিমাইজেশনের মানদণ্ডের মধ্যে পার্থক্য কী, তার পিছনে অন্তর্দৃষ্টি বুঝতে চাই, যেখানে সম্পর্কিত লক্ষ্যগুলি নীচে রয়েছে:

  • এসভিএম: নিকটতম সমর্থন ভেক্টরগুলির মধ্যে মার্জিন সর্বাধিক করার চেষ্টা করুন
  • এলআর: উত্তরোত্তর শ্রেণীর সম্ভাবনা সর্বাধিক করুন

আসুন এসভিএম এবং এলআর উভয়ের জন্য রৈখিক বৈশিষ্ট্য স্থান বিবেচনা করুন।

আমি ইতিমধ্যে কিছু পার্থক্য জানি:

  1. এসভিএম হতাশাবাদী (তবে আমরা সম্ভাবনার স্কোরের জন্য প্ল্যাটস মডেল ব্যবহার করতে পারি) যখন এলআর সম্ভাব্য হয়।
  2. কার্নেল স্পেসের জন্য, এসভিএম দ্রুত (স্টোর কেবল ভেক্টরকে সমর্থন করে)

2
এই বিবৃতিটি ভুল: " এলআর: উত্তরোত্তর শ্রেণীর সম্ভাবনা সর্বাধিক করুন "। লজিস্টিক রিগ্রেশন সম্ভাবনা সর্বাধিক করে তোলে, কিছু উত্তর ঘনত্ব নয়। বায়েশিয়ান লজিস্টিক রিগ্রেশন একটি আলাদা গল্প, তবে আপনি যদি এটি উল্লেখ করছেন তবে আপনার এটি সম্পর্কে সুনির্দিষ্ট হওয়া দরকার।
ডিজিও

উত্তর:


30

লিনিয়ার এসভিএম এবং লজিস্টিক রিগ্রেশন সাধারণত অনুশীলনে তুলনামূলকভাবে সম্পাদন করে। ননলাইনার কার্নেলের সাথে এসভিএম ব্যবহার করুন যদি আপনার বিশ্বাসের কারণ থাকে যে আপনার ডেটা রৈখিকভাবে পৃথকযোগ্য হবে না (বা আপনার সাধারণত এলআর সহ্য করার চেয়ে বিদেশীদের কাছে আরও দৃust় হতে হবে)। অন্যথায়, কেবল প্রথমে প্রথমে লজিস্টিক রিগ্রেশন চেষ্টা করে দেখুন এবং কীভাবে আপনি সেই সহজ মডেলটি ব্যবহার করেন। যদি লজিস্টিক রিগ্রেশন ব্যর্থ হয়, তবে একটি আরবিএফের মতো একটি লিনিয়ার লাইনের কার্নেল দিয়ে একটি এসভিএম চেষ্টা করুন।

সম্পাদনা করুন:

ঠিক আছে, আসুন যেখানে আসুন উদ্দেশ্যমূলক ফাংশনগুলি সম্পর্কে আলোচনা করা যাক।

লজিস্টিক রিগ্রেশন সাধারণীভূত লিনিয়ার রিগ্রেশন থেকে আসে। এই প্রসঙ্গে লজিস্টিক রিগ্রেশন উদ্দেশ্য কার্যের একটি ভাল আলোচনা এখানে পাওয়া যাবে: https://stats.stackexchange.com/a/29326/8451

সমর্থন ভেক্টর মেশিনগুলির অ্যালগোরিদম অনেক বেশি জ্যামিতিকভাবে অনুপ্রাণিত । একটি সম্ভাব্য মডেল ধরে নেওয়ার পরিবর্তে, আমরা একটি বিশেষ অনুকূল বিভাজক হাইপারপ্লেন সন্ধানের চেষ্টা করছি, যেখানে আমরা সমর্থন ভেক্টরগুলির প্রসঙ্গে "অনুকূলতা" সংজ্ঞায়িত করি। লজিস্টিক রিগ্রেশনটিতে আমরা পরিসংখ্যানের মডেলটির মতো সাদৃশ্যযুক্ত কিছু নেই, যদিও লিনিয়ার কেস আমাদের অনুরূপ ফলাফল দেবে: সত্যিকার অর্থেই এর অর্থ হ'ল লজিস্টিক রিগ্রেশন "প্রশস্ত মার্জিন" শ্রেণিবদ্ধ উত্পাদন করার জন্য বেশ ভাল কাজ করে, কারণ এটি সমস্ত এসভিএম চেষ্টা করছে (বিশেষত, এসভিএম ক্লাসগুলির মধ্যে মার্জিনকে "সর্বাধিক" বাড়ানোর চেষ্টা করছে)।

আমি পরে এটিতে ফিরে আসার চেষ্টা করব এবং আগাছাগুলির মধ্যে আরও গভীরভাবে নেমে যাব, আমি কোনও কিছুর মাঝখানে ঠিক সাজাই: পি


1
তবে এটি এখনও এসভিএম ভি / এস এলআর এর উদ্দেশ্যমূলক কার্যক্রমে স্বজ্ঞাত পার্থক্য সম্পর্কে আমার প্রশ্নের উত্তর দেয় না যা নিম্নরূপ: (ক) এসভিএম: নিকটতম সমর্থন ভেক্টর (খ) এলআর এর মধ্যে মার্জিন সর্বাধিক করার চেষ্টা করুন:
উত্তরোত্তর

মানে, এটি সম্পূর্ণ আলাদা প্রশ্ন। আপনি যখন মডেলগুলি ব্যবহার করবেন সে সম্পর্কে জিজ্ঞাসা করছেন, বা তাদের উদ্দেশ্যমূলক ফাংশনগুলির রূপটি কী প্রেরণা দেয়?
ডেভিড মার্কস

1
তাদের উদ্দেশ্যমূলক ফাংশনগুলির রূপটি কী প্রেরণা দেয় সে সম্পর্কে আমি আরও আগ্রহী
user41799

4
আমি এটির পরে ফিরে আসার চেষ্টা করব এবং আগাছাগুলির মধ্যে আরও গভীরতর হওয়ার চেষ্টা করব, আমি চার বছর পরে
কোনও

23

লজিস্টিক রিগ্রেশন বনাম এসভিএম

চিত্রটি এসভিএম এবং লজিস্টিক রিগ্রেশন এবং কোথায় কোন পদ্ধতিটি ব্যবহার করতে হবে তার মধ্যে পার্থক্য নির্দেশ করে

এই ছবিটি কোর্স কোর্স থেকে এসেছে: অ্যান্ড্রু এনজি দ্বারা "মেশিন লার্নিং"। এটি 7 তম শেষে পাওয়া যাবে: "ভেক্টর মেশিনগুলি সমর্থন করুন - একটি এসভিএম ব্যবহার করে"


"বৈশিষ্ট্যগুলি" দ্বারা, আপনি কি অনন্য বৈশিষ্ট্যের সংখ্যা বা এই বৈশিষ্ট্যের সাথে সম্পর্কিত অনন্য মানের মোট সংখ্যা বোঝাতে চান?
আহমেদভ

উদাহরণস্বরূপ: রাবারের দামের পূর্বাভাসে একটি বৈশিষ্ট্য হ'ল পেট্রোলের দাম হ'ল আবহাওয়া ইত্যাদি .....
জেএসএনপার্সার

আসলে, চিত্রটি তাদের পার্থক্য সম্পর্কে কিছুই বলে না ...
জান কুকাকা

পার্থক্য ভুল হতে পারে শব্দের তুলনা আরও ভাল হতে পারে
JSONParser

1
  • এলআর ক্যালিব্রেটেড সম্ভাব্যতা দেয় যা কোনও সিদ্ধান্তের প্রতি আস্থা হিসাবে ব্যাখ্যা করা যায়।
  • এলআর আমাদের একটি নিয়ন্ত্রণহীন, মসৃণ উদ্দেশ্য দেয়।
  • এলআর বায়েসিয়ান মডেলগুলির মধ্যে (সরলভাবে) ব্যবহৃত হতে পারে।
  • এসভিএমগুলি এমন উদাহরণগুলিকে শাস্তি দেয় না যার জন্য যথাযথ আত্মবিশ্বাসের সাথে সঠিক সিদ্ধান্ত নেওয়া হয়। এটি সাধারণীকরণের জন্য ভাল হতে পারে।
  • কার্নেল ট্রিক ব্যবহার করার সময় বিচ্ছিন্ন সমাধান প্রদান করে এসভিএমগুলির একটি দুর্দান্ত দ্বৈত রূপ রয়েছে (আরও ভাল স্কেলিবিলিটি)

পরীক্ষা করে দেখুন ভেক্টর মেশিন বনাম পণ্য সরবরাহ রিগ্রেশন টরোন্টো CSC2515 বিশ্ববিদ্যালয়ের সাপোর্ট কেভিন Swersky দ্বারা।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.