লজিস্টিক রিগ্রেশন আসলে একটি রিগ্রেশন অ্যালগরিদম?

Question

রিগ্রেশনের সাধারণ সংজ্ঞা (যতদূর আমি সচেতন) প্রদত্ত ইনপুট ভেরিয়েবলগুলির সেট থেকে অবিচ্ছিন্ন আউটপুট ভেরিয়েবলের পূর্বাভাস দিচ্ছে ।

লজিস্টিক রিগ্রেশন একটি বাইনারি শ্রেণিবদ্ধকরণ অ্যালগরিদম, সুতরাং এটি একটি শ্রেণিবদ্ধ আউটপুট উত্পাদন করে।

এটি কি আসলেই একটি রিগ্রেশন অ্যালগরিদম? যদি তাই হয় তবে কেন?

Answer 1

লজিস্টিক রিগ্রেশন হ'ল রিগ্রেশন, প্রথম এবং সর্বাগ্রে। সিদ্ধান্তের নিয়ম যুক্ত করে এটি শ্রেণিবদ্ধ হয়ে ওঠে। আমি একটি উদাহরণ দেব যা পিছনে যায়। এটি হ'ল ডেটা নেওয়ার পরিবর্তে এবং কোনও মডেল ফিট করার পরিবর্তে, আমি কীভাবে এটি সত্যিকারের একটি রিগ্রেশন সমস্যা তা দেখানোর জন্য মডেলটি দিয়ে শুরু করব start

লজিস্টিক রিগ্রেশন-এ, আমরা লগ প্রতিক্রিয়াগুলি বা লগিটকে মডেলিং করছি, এমন একটি ঘটনা ঘটে যা একটি ধারাবাহিক পরিমাণ। যদি ইভেন্ট এর সম্ভাবনা থাকে তবে তা পি ( এ ) হয় তবে প্রতিক্রিয়াগুলি হ'ল :$A$$P(A)$

$$\frac{P(A)}{1 - P(A)}$$

লগের মতভেদগুলি হ'ল:

$$\log \left( \frac{P(A)}{1 - P(A)}\right)$$

লিনিয়ার রিগ্রেশন হিসাবে, আমরা সহগ এবং ভবিষ্যদ্বাণীকের একটি লিনিয়ার সংমিশ্রণ সহ এটি মডেল করি:

$$\operatorname{logit} = b_0 + b_1x_1 + b_2x_2 + \cdots$$

কল্পনা করুন যে কোনও ব্যক্তির ধূসর চুল আছে কিনা সে সম্পর্কে আমাদের একটি মডেল দেওয়া হয়েছে। আমাদের মডেল বয়সকে একমাত্র ভবিষ্যদ্বাণী হিসাবে ব্যবহার করে। এখানে, আমাদের ইভেন্ট এ = একজন ব্যক্তির ধূসর চুল রয়েছে:

ধূসর চুলের লগ প্রতিক্রিয়া = -10 + 0.25 * বয়স

... রিগ্রেশন! এখানে কিছু পাইথন কোড এবং একটি প্লট রয়েছে:

%matplotlib inline
import matplotlib.pyplot as plt
import numpy as np
import seaborn as sns

x = np.linspace(0, 100, 100)

def log_odds(x):
    return -10 + .25 * x

plt.plot(x, log_odds(x))
plt.xlabel("age")
plt.ylabel("log odds of gray hair")

$P(A)$

$$P(A) = \frac1{1 + \exp(-\text{log odds}))}$$

কোডটি এখানে:

plt.plot(x, 1 / (1 + np.exp(-log_odds(x))))
plt.xlabel("age")
plt.ylabel("probability of gray hair")

$P(A) > 0.5$

লজিস্টিক রিগ্রেশন আরও বাস্তববাদী উদাহরণগুলিতে শ্রেণিবদ্ধ হিসাবে দুর্দান্ত কাজ করে, তবে এটি শ্রেণিবদ্ধ হওয়ার আগে এটি অবশ্যই একটি রিগ্রেশন কৌশল হতে পারে!

Comments

যদিও অনুশীলনে লোকেরা লজিস্টিক রিগ্রেশনকে বাইনারি ক্লাসিফায়ার সমার্থক হিসাবে ব্যবহার করে।

— jinwee

Answer 2

সংক্ষিপ্ত উত্তর

হ্যাঁ, লজিস্টিক রিগ্রেশন একটি রিগ্রেশন অ্যালগরিদম এবং এটি একটি অবিচ্ছিন্ন ফলাফলের পূর্বাভাস দেয়: কোনও ঘটনার সম্ভাবনা। আমরা এটি বাইনারি শ্রেণিবদ্ধ হিসাবে ব্যবহার করি ফলাফলের ব্যাখ্যার কারণে।

বিস্তারিত

লজিস্টিক রিগ্রেশন এক প্রকার জেনারাইজাল লিনিয়ার রিগ্রেশন মডেল।

একটি সাধারণ লিনিয়ার রিগ্রেশন মডেলে, একটি অবিচ্ছিন্ন ফলাফল, yভবিষ্যদ্বাণীকারীদের পণ্যের যোগফল এবং তাদের প্রভাব হিসাবে মডেল করা হয়:

y = b_0 + b_1 * x_1 + b_2 * x_2 + ... b_n * x_n + e

eত্রুটি কোথায়

সাধারণ রৈখিক মডেলগুলি yসরাসরি মডেল করে না do পরিবর্তে, তারা yসমস্ত বাস্তব সংখ্যার ডোমেন প্রসারিত করতে রূপান্তর ব্যবহার করে । এই রূপান্তর লিঙ্ক ফাংশন বলা হয়। লজিস্টিক রিগ্রেশনের জন্য লিংক ফাংশনটি হ'ল লজিট ফাংশন (সাধারণত, নীচের নোটটি দেখুন)।

লজিট ফাংশন হিসাবে সংজ্ঞায়িত করা হয়

ln(y/(1 + y))

সুতরাং লজিস্টিক রিগ্রেশন রূপটি হ'ল:

ln(y/(1 + y)) = b_0 + b_1 * x_1 + b_2 * x_2 + ... b_n * x_n + e

yকোন ইভেন্টের সম্ভাবনা কোথায়

সত্য যে আমরা এটি বাইনারি শ্রেণিবদ্ধ হিসাবে ব্যবহার করি ফলাফলের ব্যাখ্যার কারণে।

দ্রষ্টব্য: প্রবিট হ'ল লজিস্টিক রিগ্রেশনের জন্য ব্যবহৃত অন্য লিঙ্ক ফাংশন তবে লগইট সর্বাধিক ব্যবহৃত হয়।

Answer 3

যেমন আপনি আলোচনা হিসাবে সংবেদন সংজ্ঞা একটি অবিচ্ছিন্ন পরিবর্তনশীল পূর্বাভাস। লজিস্টিক রিগ্রেশন একটি বাইনারি শ্রেণিবদ্ধকারী। লজিস্টিক রিগ্রেশন হ'ল একটি সাধারণ রিগ্রেশন পদ্ধতির আউটপুটে লজিট ফাংশনের প্রয়োগ। লজিট ফাংশনটি (-inf, + inf) [0,1] এ পরিণত হয়। আমি মনে করি এটি কেবল historicalতিহাসিক কারণে যা এই নামটি রাখে।

"চিত্রগুলি শ্রেণীবদ্ধ করার জন্য আমি কিছুটা রিগ্রেশন করেছি। বিশেষত আমি লজিস্টিক রিগ্রেশন ব্যবহার করেছি।" ভূল.

Comments

লজিস্টিক রিগ্রেশন বাইনারি ক্লাসিফায়ার হিসাবে ব্যবহার করা যেতে পারে, তবে এটি অন্তর্নিহিত এক নয়। আপনি এটি ব্যবহার করতে পারছেন প্রতিকূলতা অনুমান করতে বা ফলাফলের পূর্বেকারের পরিবর্তনশীলের সম্পর্ক নির্ধারণ করতে।

— ম্যাটব্যাগ

Answer 4

$f$$f:X\rightarrow \mathbb{R}$$P(Y=1|\lambda, x)=\dfrac{1}{1+e^{-\lambda^Tx}} \in [0,1]$$\lambda$$x$$sign(P(Y=1|\lambda, x))$