লজিস্টিক রিগ্রেশন কি নন-প্যারাম্যাট্রিক পরীক্ষা?


15

আমি সম্প্রতি ইমেলের মাধ্যমে নিম্নলিখিত প্রশ্নটি পেয়েছি। আমি নীচে একটি উত্তর পোস্ট করব, তবে অন্যেরা কী ভেবেছিল তা শুনতে আগ্রহী।

আপনি কি লজিস্টিক রিগ্রেশনকে একটি নন-প্যারাম্যাট্রিক পরীক্ষা বলবেন? আমার বোধগম্যতা হল যে কেবলমাত্র পরীক্ষার অ-প্যারাম্যাট্রিকের লেবেল করা কারণ এটির ডেটা সাধারণত বিতরিত হয় না, অপর্যাপ্ত। অনুমানের অভাব নিয়ে এটি আরও বেশি কিছু। লজিস্টিক রিগ্রেশন অনুমান আছে।


7
(+1) রেকর্ডের জন্য - এবং প্রশ্নের উত্থানের একটি পাল্টা পয়েন্ট হিসাবে - আমি এমন কোনও নির্ভরযোগ্য রেফারেন্স জানি না যা "অনুমানের অভাব" হিসাবে নন-প্যারামিট্রিক পদ্ধতিগুলি সংজ্ঞায়িত করে (বা এমনকি বৈশিষ্ট্যযুক্ত)। সমস্ত পরিসংখ্যান পদ্ধতি অনুমান করে। বেশিরভাগ নন-প্যারাম্যাট্রিক পদ্ধতিগুলি অন্তর্নিহিত সম্ভাব্যতা বিতরণ সম্পর্কে সীমাবদ্ধ পরিমাণগত অনুমানগুলি করে তবে এই অনুমানগুলি একটি চূড়ান্ত মাত্রিক বাস্তব বহুগুণের কাঠামোযুক্ত একটি সংস্থার ক্ষেত্রে সম্ভাব্য রাজ্যগুলিকে সংকুচিত করে না।
whuber

যদি আমরা লিনিয়ার লজিস্টিক রিগ্রেশন (যা আপনার লিখিত উত্তরের ভিত্তিতে অন্তর্নিহিত বলে মনে হয়) এর কথা বলছি তবে অবশ্যই এটি একটি প্যারাম্যাট্রিক মডেল তবে এটি লক্ষণীয় যে আপনি যদি কোনও প্যারামিমেট্রিক মসৃণ ফাংশন ব্যবহার করে কোভারিয়েট ইফেক্টটি ফিট করেন, যেমন পরেএক্স এরক্রিয়া হিসাবে অনুমানিত সম্ভাবনার কোনও প্যারাম্যাট্রিক বাধা নেই। এটি কেবল লজিস্টিক লিঙ্কের ক্ষেত্রেই সত্য নয়; কোনও যুক্তিযুক্ত লিঙ্ক ফাংশনের জন্য একই যুক্তি প্রযোজ্য।
log(P(Yi=1|Xi=x)P(Yi=0|Xi=x))=f(x)
x
ম্যাক্রো

আমি এখানে একটি সম্পর্কিত প্রশ্ন জিজ্ঞাসা । আমি উপলব্ধি করতে শুরু করছি যে জিএলএম (যেমন একটি লজিস্টিক মডেল) এর কিছু ক্ষেত্রে একটি প্যারামিমেটিক পরীক্ষা দেওয়া হয়। আমি ওয়াসেরম্যানের বইটি খতিয়ে দেখব, যদিও (আমি যদি ভুলভাবেই দেখি না) তবে তাঁর রচনার কয়েকটি নীতি ও অনুসন্ধান সম্পর্কে কিছু মতবিরোধ রয়েছে।
অ্যাডমো

উত্তর:


19

ল্যারি ওয়াসারম্যান একটি প্যারামেট্রিক মডেলকে বিতরণের সেট হিসাবে সংজ্ঞায়িত করে "যা একটি সীমাবদ্ধ সংখ্যার প্যারামিটার দ্বারা প্যারামিটারাইজ করা যেতে পারে।" (p.87) বিপরীতে একটি ননপ্যারামেট্রিক মডেল এমন একটি বিতরণের সেট যা সীমিত সংখ্যক পরামিতি দ্বারা পরামিতি করা যায় না।

সুতরাং, এই সংজ্ঞা দ্বারা স্ট্যান্ডার্ড লজিস্টিক রিগ্রেশন প্যারামেট্রিক মডেল। লজিস্টিক রিগ্রেশন মডেলটি প্যারামিট্রিক কারণ এতে প্যারামিটারের সীমাবদ্ধ সেট রয়েছে। বিশেষত, পরামিতিগুলি হ'ল রিগ্রেশন সহগ। এগুলি প্রতিটি ভবিষ্যদ্বাণী এবং একটি ধ্রুবকের জন্য সাধারণত একটির সাথে মিল। লজিস্টিক রিগ্রেশন সাধারণীকরণীয় রৈখিক মডেলের একটি বিশেষ ফর্ম। বিশেষত এটি দ্বি-দ্বি বিতরণ করা ডেটা মডেল করার জন্য একটি লজিট লিঙ্ক ফাংশন ব্যবহার করে।

মজার বিষয় হল একটি ননপ্যারমেট্রিক লজিস্টিক রিগ্রেশন (উদাহরণস্বরূপ, হ্যাস্টি, 1983) সম্পাদন করা সম্ভব। ভবিষ্যদ্বাণীকারীদের প্রভাবকে মডেল করার জন্য এটি স্প্লিংস বা নন-প্যারাম্যাট্রিক স্মুথিংয়ের কিছু ফর্ম ব্যবহার করে জড়িত থাকতে পারে।

তথ্যসূত্র

  • ওয়াসারম্যান, এল। (2004)। সমস্ত পরিসংখ্যান: পরিসংখ্যানগত অনুক্রমের একটি সংক্ষিপ্ত কোর্স। স্প্রিঞ্জার ভার্লাগ।
  • হাসিটি, টি। (1983)। অ-প্যারাম্যাট্রিক লজিস্টিক রিগ্রেশন। এসএলএসি পাব -3160, জুন। পিডিএফ

একটি মডেল কি বিতরণের সেট? কিছু অত্যাবশ্যক অনুপস্থিত সেখানে।
রোল্যান্ডো 2

কোনও প্রশ্ন জিজ্ঞাসা করা এবং নিজের উত্তর দেওয়া কি স্বাভাবিক?

1
@fcop এটি উত্সাহিত করা হয়। blog.stackoverflow.com/2011/07/...
Jeromy Anglim

ঠিক আছে দুঃখিত, আমি জানতাম না

কোন চিন্তা করো না. আমার জন্য সাইটের মূল বিষয় হ'ল এমন সংস্থান তৈরি করা যা ভবিষ্যতে উত্তর খুঁজতে গিয়ে অন্যরা আবিষ্কার করে। আপনার নিজের উত্তরগুলি অবদান সমস্ত কিছুর সাথে সহায়তা করে।
জেরোমি অ্যাংলিম 25'16

16

আমি বলব লজিস্টিক রিগ্রেশন মোটেই পরীক্ষা নয়; তবে একটি লজিস্টিক রিগ্রেশন এরপরে কোনও পরীক্ষা বা বিভিন্ন পরীক্ষা নাও করতে পারে।

আপনি একেবারে ঠিক বলেছেন যে ননপ্যারমেট্রিক কিছু লেবেল করা অপ্রতুল কারণ because আমি ক্ষতিকারক পরিবারকে সুস্পষ্টভাবে প্যারামিট্রিক বলি, তাই আমি সাধারণত লজিস্টিক রিগ্রেশন (এবং পোইসন রিগ্রেশন এবং গামা রিগ্রেশন এবং ...) কে প্যারাম্যাট্রিক হিসাবে বিবেচনা করি, যদিও এমন পরিস্থিতিতে থাকতে পারে যে যুক্তিতে আমি কোনও যুক্তি স্বীকার করতে পারি যে নির্দিষ্ট যৌক্তিক অনুভূতিগুলি পারে ননপ্যারমেট্রিক হিসাবে বিবেচিত (বা কমপক্ষে অস্পষ্টভাবে হাতে-.েউয়ের অর্থে কেবল অর্ধ- "প্যারামেট্রিক")।

যে দুটি ইন্দ্রিয়তে কোনও রিগ্রেশনকে ননপ্যারমেট্রিক বলা যেতে পারে সে সম্পর্কে কোনও বিভ্রান্তি থেকে সাবধান থাকুন।

এক্সYএক্স

Yএক্স

উভয় ইন্দ্রিয় ব্যবহার করা হয়, কিন্তু যখন এটি প্রতিরোধের বিষয়টি আসে তখন দ্বিতীয় ধরণেরটি আসলে বেশি বেশি ব্যবহৃত হয়।

এটা এছাড়াও উভয় অজ্ঞান মধ্যে nonparametric হতে সম্ভব, কিন্তু কঠিন (যথেষ্ট তথ্য দিয়ে, আমি পারিনি, উদাহরণস্বরূপ, একটি Theil স্থানীয়ভাবে-ভরযুক্ত রৈখিক রিগ্রেশনের মাপসই)।

জিএলএমগুলির ক্ষেত্রে, ননপ্যারমেট্রিক একাধিক রিগ্রেশনের দ্বিতীয় রূপের মধ্যে জিএএমএস অন্তর্ভুক্ত রয়েছে; সেই দ্বিতীয় রূপটি সেই অর্থে যা হাস্তি সাধারণত চালিত হয় (এবং যার অধীনে তিনি সেই উক্তিতে কাজ করছেন)।


3

উপরের উত্তরে কিছুটা যুক্ত হতে পারে এমন একটি সহায়ক পার্থক্য: অ্যান্ড্রু এনজি মেশিন লার্নিংয়ের স্ট্যানফোর্ডের সিএস -২২৯ কোর্সের পাঠ্যক্রমগুলি থেকে লেকচার ১ -এ নন-প্যারাম্যাট্রিক মডেল বলতে কী বোঝায় তার জন্য একটি হিউরিস্টিক দিয়েছেন ।

সেখানে এনজি বলেছেন (পৃষ্ঠা 14-15):

θআমিθআমি

আমি মনে করি এটি সম্পর্কে চিন্তাভাবনা করার একটি দরকারী বিপরীত উপায় কারণ এটি সরাসরি জটিলতার ধারণাটি আক্রান্ত করে। নন-প্যারাম্যাট্রিক মডেলগুলি অন্তর্নিহিতভাবে কম জটিল নয় কারণ তাদের প্রশিক্ষণের ডেটা প্রায় রাখার প্রয়োজন হতে পারে। এর অর্থ হ'ল আপনি প্রশিক্ষণ ডেটাটি চূড়ান্ত পরামিতি গণনায় সংকুচিত করে আপনার ব্যবহার হ্রাস করছেন না। দক্ষতা বা পক্ষপাতহীনতা বা অন্যান্য বৈশিষ্ট্যগুলির হোস্টের জন্য, আপনি প্যারামিটারাইজ করতে চাইতে পারেন। আপনি যদি প্যারামিটারাইজিং ছেড়ে এবং প্রচুর পরিমাণে ডেটা রাখার পক্ষে সক্ষম হন তবে পারফরম্যান্স লাভ হতে পারে।


0

আমি মনে করি লজিস্টিক রিগ্রেশন একটি প্যারাম্যাট্রিক কৌশল।

এটি সহায়ক হতে পারে, ওল্ফোভিটস (১৯৪২) থেকে [অ্যাডিটিভ পার্টিশন ফাংশনস এবং একটি ক্লাস অফ স্ট্যাটিস্টিকাল হাইপোথেসিসস অ্যানালস অফ অ্যানালজস অফ ম্যাথমেটিক্যাল স্ট্যাটিস্টিকস, ১৯৪২, ১৩, ২77-২79]:

"বিতরণ কাজ [নোট: বহুবচন !!!] বিভিন্ন সমস্যার মধ্যে প্রবেশ করে যা তাদের সমস্যাগুলিতে প্রবেশ করে তা জ্ঞাত কার্যকরী রূপ বলে ধরে নেওয়া হয়, এবং অনুমানের তত্ত্বগুলি এবং পরীক্ষার অনুমানের তত্ত্বগুলি অনুমানের এবং পরীক্ষার অনুমানের তত্ত্বগুলি , এক বা একাধিক প্যারামিটার, সংখ্যায় সীমাবদ্ধ, যার জ্ঞান সম্পূর্ণরূপে জড়িত বিভিন্ন বিতরণ কার্যগুলি নির্ধারণ করবে। আমরা প্যারামিট্রিক কেস হিসাবে ব্রিভিটির জন্য এই পরিস্থিতিটি উল্লেখ করব এবং বিপরীত পরিস্থিতিটি চিহ্নিত করব, যেখানে বিতরণের কার্যকরী রূপগুলি অজানা ', নন-প্যারাম্যাট্রিক কেস হিসাবে।

এছাড়াও, এটি অনেক আলোচিত শুনে শুনে আমি এই মজাদারটি নোথার (১৯৮৪) দ্বারা পেয়েছি [ননপ্রেমেট্রিক্স: দ্য আর্লি ইয়ার্স-ইমপ্রেশনস অ্যান্ড রিকলেকশনস আমেরিকান স্ট্যাটিস্টিশিয়ান, 1984, 38, 173-178]:

"ননপ্যারামেট্রিক শব্দটির তাত্ত্বিক পরিসংখ্যানবিদদের কাছে কিছু historicalতিহাসিক তাত্পর্য এবং অর্থ থাকতে পারে, তবে এটি কেবল প্রয়োগিত পরিসংখ্যানবিদদের বিভ্রান্ত করার কাজ করে।"


0

হস্টি এবং তিবশিরানী সংজ্ঞায়িত করে যে লিনিয়ার রিগ্রেশন প্যারাম্যাট্রিক পদ্ধতির কারণ এটি চ (এক্স) এর রৈখিক কার্যকরী রূপ গ্রহণ করে। নন-প্যারাম্যাট্রিক পদ্ধতিগুলি স্পষ্টভাবে f (এক্স) এর জন্য ফর্মটি ধরে নেয় না। এর অর্থ হ'ল একটি প্যারামিমেট্রিক পদ্ধতি মডেল থেকে গণনা করা চ এর অনুমানের ভিত্তিতে মডেলটিকে ফিট করবে। লজিস্টিক রিগ্রেশন প্রতিষ্ঠিত করে যে পি (এক্স) = প্রি (ওয়াই = 1 | এক্স = এক্স) যেখানে সম্ভাব্যতাটি লজিস্টিক ফাংশন দ্বারা গণনা করা হয় তবে লজিস্টিক সীমানা যা এই শ্রেণিগুলিকে পৃথক করে তা ধরে নেওয়া হয় না, যা নিশ্চিত করে যে এলআরও অ-প্যারাম্যাট্রিক

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.