লিনিয়ার রিগ্রেশন এবং লজিস্টিক রিগ্রেশন এর মধ্যে পার্থক্য কী?


122

লিনিয়ার রিগ্রেশন এবং লজিস্টিক রিগ্রেশন এর মধ্যে পার্থক্য কী?

আপনি কখন ব্যবহার করবেন?


28
লিনিয়ার রিগ্রেশন মডেলটিতে নির্ভরশীল ভেরিয়েবল অবিচ্ছিন্ন হিসাবে বিবেচিত হয়, তবে লজিস্টিক রিগ্রেশনে এটি শ্রেণিবদ্ধ, অর্থাত্ পৃথক। প্রয়োগে, পূর্ববর্তীটি রিগ্রেশন সেটিংসে ব্যবহৃত হয় যখন উত্তরোত্তরটি বাইনারি শ্রেণিবদ্ধকরণ বা বহু-শ্রেণীর শ্রেণিবদ্ধকরণের জন্য ব্যবহৃত হয় (যেখানে এটি মাল্টিনোমিয়াল লজিস্টিক রিগ্রেশন নামে পরিচিত)। y
পার্ডিস

যদিও অন্য প্রসঙ্গে লিখিত হয়েছে, এটি আপনাকে আমার উত্তর এখানে পড়তে সহায়তা করতে পারে: লজিট এবং প্রবিট মডেলগুলির মধ্যে পার্থক্য , যাতে লজিস্টিক রিগ্রেশনটিতে কী ঘটছে সে সম্পর্কে প্রচুর তথ্য রয়েছে যা আপনাকে এগুলি আরও ভালভাবে বুঝতে সহায়তা করতে পারে।
গাং

2
পূর্ববর্তী সমস্ত উত্তর সঠিক, তবে আপনার ফলাফল দ্বিগুণ হওয়ার পরেও আপনি লিনিয়ার রিগ্রেশন মডেলটির পক্ষে থাকতে পারেন এমন কারণ রয়েছে। আমি এই কারণগুলি সম্পর্কে এখানে লিখেছি: পরিসংখ্যান সম্পর্কিত
হরিজনস / লাইনার-vs-logistic

উত্তর:


111

লিনিয়ার রিগ্রেশন সাধারণ রৈখিক সমীকরণ ব্যবহার যেখানে একটি ক্রমাগত নির্ভরশীল পরিবর্তনশীল ও স্বাধীন ভেরিয়েবল হল হয় সাধারণত একটানা (কিন্তু যখন রৈখিক মডেল একটি T- ব্যবহার করা হয় এছাড়াও বাইনারি, যেমন হতে পারে পরীক্ষা) বা অন্যান্য স্বতন্ত্র ডোমেন। হ'ল পরিবর্তনের জন্য একটি শব্দ যা মডেল দ্বারা ব্যাখ্যা করা হয় না এবং সাধারণত "ত্রুটি" নামে পরিচিত। দ্বারা পৃথক নির্ভর মানগুলি সমীকরণটি সামান্য পরিবর্তন করে সমাধান করা যেতে পারে:Y X i ϵ Y J Y j = b 0 + ( b i X i j ) + ϵ jY=b0+(biXi)+ϵYXiϵYjYj=b0+(biXij)+ϵj

লজিস্টিক রিগ্রেশন একই বেসিক সূত্র ব্যবহার করে অন্য সাধারণীকরণিত রৈখিক মডেল (জিএলএম) পদ্ধতি, তবে ক্রমাগত পরিবর্তে , এটি একটি স্পষ্টতামূলক ফলাফলের সম্ভাবনার জন্য আবার চাপ দিচ্ছে। সর্বাধিক আকারে, এর অর্থ হল যে আমরা কেবল একটি ফলাফলের পরিবর্তনশীল এবং সেই ভেরিয়েবলের দুটি রাজ্য বিবেচনা করছি - 0 বা 1।Y

এর সম্ভাব্যতার সমীকরণটি এর মতো দেখায়: পি ( Y = 1 ) = 1Y=1

P(Y=1)=11+e(b0+(biXi))

আপনার স্বাধীন ভেরিয়েবল ক্রমাগত বা বাইনারি হতে পারে। রিগ্রেশন কোফিসিয়েন্টস exponentiated করা যেতে পারে মতভেদ পরিবর্তন দিতে পরিবর্তন প্রতি , অর্থাত্, এবং । বিজোড় অনুপাত বলা হয়, । ইংরেজিতে, আপনি বলতে পারেন যে মতভেদ একটি গুণক দ্বারা বৃদ্ধি মধ্যে ইউনিট পরিবর্তন প্রতি ।XibiYXiOdds=P(Y=1)P(Y=0)=P(Y=1)1P(Y=1)ΔOdds=ebiΔOdds Y=1ebiXiOdds(Xi+1)Odds(Xi)Y=1ebiXi

উদাহরণ: আপনি যদি দেখতে চেয়েছিলেন যে শরীরের ভর সূচক কীভাবে রক্তের কোলেস্টেরল (একটি ধারাবাহিক পরিমাপ) পূর্বাভাস দেয় তবে আপনি আমার উত্তরের শীর্ষে বর্ণিত হিসাবে লিনিয়ার রিগ্রেশন ব্যবহার করবেন। যদি আপনি দেখতে চান যে বিএমআই কীভাবে ডায়াবেটিস (বাইনারি ডায়াগনসিস) হওয়ার অসুবিধার পূর্বাভাস দেয়, আপনি লজিস্টিক রিগ্রেশন ব্যবহার করবেন।


1
এটি দুর্দান্ত জবাবের মতো দেখায়, তবে আপনি কী ব্যাখ্যা করতে পারেন যে পক্ষে এবং - বিশেষত - আপনি কেন তাদের সংক্ষিপ্তসারগুলির মধ্যে অন্তর্ভুক্ত করবেন ? (কি ধরে যাহাই হউক না কেন সংকলিত করা হচ্ছে?)ϵi
whuber

আমার কাছে বিলটি মনে হয়েছে যে তিনি লিখতে চেয়েছিলেন (যেমন লাতিন সংক্ষিপ্তসার) এর চেয়ে ei
মাইকেল চেরনিক

1
তবে ঘাঁটির যোগফলের যোগফলটি সেখানে হওয়া উচিত নয়। দেখে মনে হচ্ছে মডেলের শব্দ শব্দটি দুর্ঘটনাক্রমে সেখানে বহন করা হয়েছিল। একমাত্র যোগফলটি বিআইএসের উপরে হওয়া উচিত যা পি কোয়ারিয়েটগুলির জন্য পি সহগের প্রতিনিধিত্ব করে।
মাইকেল চের্নিক

9
জন্য আপনার অভিব্যক্তিতে একটি ত্রুটি রয়েছে । তোমার উচিত ছিল না are ওয়ার্পসিলন a একটি লজিস্টিক রিগ্রেশন মডেলটিতে এলোমেলোতা আসে যে এগুলি বার্নৌল্লি ট্রায়াল, সাফল্যের সম্ভাবনাগুলির ত্রুটি থাকার কারণে নয় (এটি কীভাবে হয় আপনি এটি লিখেছেন)। P(Y=1)
P(Y=1)=11+exp{Xβ},
P(Y=1)=11+exp{(Xβ+ε)}
ম্যাক্রো

3
@ সামথেব্র্যান্ড লজিস্টিক রিগ্রেশন প্রতি সেউ বাইনারি নয়। এটি 0 থেকে 1 এর মধ্যে সম্ভাব্যতার মাধ্যমে বাইনারি প্রতিক্রিয়া সহ ডেটা মডেল করতে ব্যবহার করা যেতে পারে যা আমার ব্লগ পোস্টটিকে নির্লজ্জভাবে প্লাগ করতে যাচ্ছেন যা আপনার বিভ্রান্তি দূর করতে পারে।
বেন

34

লিনিয়ার রিগ্রেশন ডিপেন্ডেন্ট এবং ইন্ডিপেন্ডেন্ট ভেরিয়েবলের মধ্যে সম্পর্ক স্থাপনের জন্য ব্যবহৃত হয়, যা স্বতন্ত্র পরিবর্তনশীল পরিবর্তনের ক্ষেত্রে ফলাফল নির্ভরশীল ভেরিয়েবলটি নির্ধারণে কার্যকর। উদাহরণ স্বরূপ:

লিনিয়ার রিগ্রেশন ব্যবহার করে বৃষ্টি (আর) এবং ছাতা বিক্রয় (ইউ) এর মধ্যে সম্পর্কটি পাওয়া যায় - U = 2R + 5000

এই সমীকরণটি বলছে যে প্রতি 1 মিমি বৃষ্টির জন্য, 5002 টি ছাতার চাহিদা রয়েছে। সুতরাং, সিম্পল রিগ্রেশন ব্যবহার করে আপনি আপনার ভেরিয়েবলের মান অনুমান করতে পারেন।

অন্যদিকে লজিস্টিক রিগ্রেশন কোনও ইভেন্টের সম্ভাব্যতা নির্ধারণের জন্য ব্যবহৃত হয়। এবং এই ইভেন্টটি বাইনারি ফর্ম্যাট, অর্থাৎ 0 বা 1 তে ধরা পড়ে।

উদাহরণ - আমি কোনও গ্রাহক আমার পণ্য কিনবেন কিনা তা নিশ্চিত করতে চাই। এর জন্য, আমি (প্রাসঙ্গিক) ডেটাতে লজিস্টিক রিগ্রেশন চালাব এবং আমার নির্ভরশীল ভেরিয়েবলটি বাইনারি ভেরিয়েবল (1 = হ্যাঁ; 0 = না) হবে।

গ্রাফিকাল উপস্থাপনার ক্ষেত্রে লিনিয়ার রিগ্রেশন আউটপুট হিসাবে রৈখিক লাইন দেয়, যখন গ্রাফটিতে মানগুলি প্লট করা হয়। যেখানে লজিস্টিক রিগ্রেশন একটি এস-আকৃতির লাইন দেয়

মোহিত খুরানার রেফারেন্স।


8
পুনরায়: "লিনিয়ার রিগ্রেশন ডিপেন্ডেন্ট এবং ইন্ডিপেন্ডেন্ট ভেরিয়েবলের মধ্যে সম্পর্ক স্থাপন করতে ব্যবহৃত হয়" - এটি লজিস্টিক রিগ্রেশন সম্পর্কেও সত্য - এটি নির্ভরশীল ভেরিয়েবলটি বাইনারি মাত্র।
ম্যাক্রো

3
লজিস্টিক রিগ্রেশন কেবল বাইনারি ইভেন্ট ( ক্লাস) পূর্বাভাস দেওয়ার জন্য নয় । এটি ক্লাসে সাধারণীকরণ করা যেতে পারে ( 2k
বহুজাতিক

27

ডকবকেটস এবং পার্ডিস দ্বারা পার্থক্যগুলি মীমাংসা করা হয়েছে, তবে আমি তাদের পারফরম্যান্সের তুলনা করার জন্য একটি উপায় যুক্ত করতে চাই যা উল্লিখিত হয়নি।

লিনিয়ার রিগ্রেশন সাধারণত মডেলটির সর্বনিম্ন স্কোয়ার ত্রুটিটি ডেটাতে হ্রাস করে সমাধান করা হয়, সুতরাং বৃহত ত্রুটিগুলি চতুর্ভুজ হিসাবে শাস্তি দেওয়া হয়। লজিস্টিক রিগ্রেশন একেবারে বিপরীত। লজিস্টিক লস ফাংশনটি ব্যবহারের ফলে অ্যাসিপোটোটিক্যালি ধ্রুবককে দণ্ডিত করার জন্য বড় ত্রুটি ঘটায়।

কেন এটি সমস্যা তা দেখার জন্য বিভাগীয় {0,1} ফলাফলগুলিতে লিনিয়ার রিগ্রেশন বিবেচনা করুন। যদি আপনার মডেল যদি ভবিষ্যতের পূর্বাভাস দেয় তবে সত্যটি 1 হয় ফলাফলটি 38 হয়, আপনি কিছুই হারান নি। লিনিয়ার রিগ্রেশন 38 টি হ্রাস করার চেষ্টা করবে, লজিস্টিক (যতটা হবে না)।


Wre তারপর, পরিস্থিতি / যে মামলাগুলি হয় একটি লজিস্টিক শাস্তি, অর্থাত্, কি ক্ষেত্রেই আমরা একটি দরিদ্র হইয়া হবে?
এমএসআইএস

1
ঠিক বিপরীত: যখনই ফিট থেকে আরও বড় বিচ্যুতি আসলে খারাপ ফলাফল ঘটায়। উদাহরণস্বরূপ, লার্জিস্টিক রিগ্রেশন আপনাকে ডার্ট বোর্ডে আঘাত করাতে রাখা ভাল, তবে কোনও বুলসিয়ে সুন্দর দেখাচ্ছে না। বা, একইভাবে, বোর্ডের একটি কাছাকাছি মিস আপনার প্রতিবেশীকে লেগে থাকার মতোই বলে মনে হয়।
জে আব্রাহামসন

দুর্দান্ত উত্তর। মডেলটির পারফরম্যান্সকে কতটা আঘাত করেছে তা নিয়ে কোনও গবেষণা হয়েছিল? আমার অর্থ যদি লিনিস্টিক রিগ্রেশন পরিবর্তে প্রতিক্রিয়া = {0,1 pred পূর্বে একটি লিনিয়ার রিগ্রেশন ব্যবহৃত হয়।
তাগর
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.