কেন লিনিয়ার এবং লজিস্টিক রিগ্রেশন সহগগুলি একই পদ্ধতি ব্যবহার করে অনুমান করা যায় না?


9

আমি একটি মেশিন লার্নিং বইতে পড়েছি যে রৈখিক প্রতিরোধের পরামিতিগুলি গ্রেডিয়েন্ট বংশোদ্ভূত দ্বারা (অন্যান্য পদ্ধতিগুলির মধ্যে) অনুমান করা যায়, যখন লজিস্টিক রিগ্রেশনের পরামিতিগুলি সাধারণত সর্বাধিক সম্ভাবনার অনুমান দ্বারা অনুমান করা হয়।

লিনিয়ার / লজিস্টিক রিগ্রেশন জন্য কেন আমাদের বিভিন্ন পদ্ধতির প্রয়োজন তা কোনও নবজাতককে (আমাকে) ব্যাখ্যা করে বলা সম্ভব? ওরফে কেন রৈখিক প্রতিরোধের জন্য এমএলই নয় এবং কেন লজিস্টিক রিগ্রেশনের জন্য গ্রেডিয়েন্ট বংশোদ্ভূত নয়?

উত্তর:


19

আপনি কমলা দিয়ে আপেলকে বিভ্রান্ত করছেন। এটি ঠিক আছে, কারণ তারা উভয়ই সুস্বাদু।

সর্বোচ্চ সম্ভাবনা প্রাক্কলন সম্পর্কে কি আপনি কমান, গ্রেডিয়েন্ট বংশদ্ভুত সম্পর্কে কিভাবে আপনি এটা কমান।

লিনিয়ার রিগ্রেশন এর জন্য কেন এমএলই নয়?

বস্তুত, রৈখিক রিগ্রেশনের হয় সর্বাধিক সম্ভাবনা প্রাক্কলন সঙ্গে সমাধান। স্ট্যান্ডার্ড "স্কোয়ার ত্রুটির যোগফল কমিয়ে আনুন" পদ্ধতিটি শর্তাধীন স্বাভাবিক বিতরণ ব্যবহার করে গাণিতিকভাবে সর্বাধিক সম্ভাবনা অনুমানের সমান।

কেন লজিস্টিক রিগ্রেশন জন্য গ্রেডিয়েন্ট বংশোদ্ভূত হয় না?

গ্রেডিয়েন্ট ডেসেন্ট ব্যবহার করে সম্ভাবনা ফাংশনটি হ্রাস করে আপনি লজিস্টিক রিগ্রেশনকে পুরোপুরি সমাধান করতে পারেন । এটি আসলে একটি দুর্দান্ত অনুশীলন এবং আমি প্রত্যেককে এটি কমপক্ষে একবার করার পরামর্শ দিই।

গ্রেডিয়েন্ট বংশোদ্ভূত যদিও মান পদ্ধতি নয়। সেই পুরষ্কারটি পুনরায় ওজনযুক্ত ন্যূনতম স্কোয়ার / নিউটনের পদ্ধতিতে চলে যায় , যা গ্রেডিয়েন্ট বংশোদ্ভূত একটি বর্ধন যা দ্বিতীয় ডেরাইভেটিভকেও বিবেচনা করে। এই পদ্ধতিটি গ্রেডিয়েন্ট বংশোদ্ভুতের তুলনায় আরও ভাল গুণাবলীতে পরিণত হয়েছে, তবে এটি বুঝতে এবং বাস্তবায়নের জন্য কৌশলযুক্ত।


2
ধন্যবাদ। নিউটনের পদ্ধতি কি নিউটন র‌্যাফসনের মতো? নাকি কিছু অন্যরকম?
ভিক্টর

2
হ্যাঁ, আমি বিশ্বাস করি সেগুলি একই ধারণাটিকে বোঝায়।
ম্যাথু ড্রি
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.