জন্ম লজিস্টিক রিগ্রেশন সহ মডেল নির্বাচন

Question

আমি যে ছোট ডেটা সেট ( ) এর সাথে কাজ করছি তাতে বেশ কয়েকটি ভেরিয়েবল আমাকে নিখুঁত পূর্বাভাস / বিচ্ছেদ দেয় । আমি এইভাবে সমস্যাটি মোকাবেলায় ফर्थ লজিস্টিক রিগ্রেশন ব্যবহার করি ।$n\sim100$

আমি যদি এআইসি বা বিআইসির দ্বারা সেরা মডেলটি নির্বাচন করি তবে এই তথ্যের মানদণ্ডের গণনা করার সময় আমার কি ফर्थার পেনাল্টি শব্দটি যুক্ত হওয়া উচিত?

Comments

ভেরিয়েবল নির্বাচন "অত্যধিক ভেরিয়েবল, খুব সামান্য নমুনার আকার" সমস্যাটির সাথে সহায়তা করে না কেন এটি অনিবার্য কেন তা ব্যাখ্যা করতে আপনি কি আপত্তি করবেন?

— ফ্র্যাঙ্ক হ্যারেল

এটি যতটা খারাপ তা পায়।

— ফ্রাঙ্ক হ্যারেল

আপনি কি এটি একটি বয়েশিয়ান অনুমানের সমস্যাটিকে চিকিত্সা করার বিষয়টি বিবেচনা করেছেন? জন্ম লজিস্টিক রিগ্রেশন পূর্বের জেফরির সাথে এমএপির সমতুল্য। প্রান্তিক সম্ভাবনাগুলি ছাড়িয়ে যাওয়ার জন্য আপনি পুরোপুরি স্থলভাগের সান্নিধ্য ব্যবহার করতে পারেন - যা অ্যাডজাস্টেড বিআইসির মতো (এআইসিসির অনুরূপ)

— সম্ভাব্যতা ব্লগ

@ ব্যবহারকারীর, কারণ এই ধরণের পরিবর্তনশীলগুলি সাধারণত কেবলমাত্র কয়েকটি মুখ্য কেসগুলির পূর্বাভাস দেয় এবং এটি অপরিশোধনযোগ্য: এই ঘরের সত্যিকারের সম্ভাবনা প্রায় 90% বলার কাছাকাছি হতে পারে তবে এটিতে কেবল দুটি ক্ষেত্রেই আপনি 81% সময় পেয়ে যাবেন ।

— স্টাস্ক

গুগল স্কলার, কেমেকেআরিজম.সি.জেপ

— জুয়াং /

Answer 1

আপনি যদি বিআইসির ব্যবহারকে ন্যায়সঙ্গত করতে চান: আপনি সর্বাধিক সম্ভাবনা সর্বাধিক কোনও পোস্টেরিয়েরি (এমএপি) অনুমানের সাথে প্রতিস্থাপন করতে পারেন এবং ফলস্বরূপ 'বিআইসি' -র মানদণ্ড অ্যাসেম্পোটোটিকভাবে বৈধ রয়েছেন (নমুনা আকারের ইনফটি হিসাবে সীমাতে) )। @ প্রোব্যাবিলিটিস্লোগিক দ্বারা উল্লিখিত হিসাবে, ফर्थের লজিস্টিক রিগ্রেশন জেফ্রির পূর্বের ব্যবহারের সমতুল্য (সুতরাং আপনি যা আপনার রিগ্রেশন ফিট থেকে প্রাপ্ত তা এমএপি)।$n \to \infty$

বিআইসি একটি ছদ্ম-বায়েশিয়ান মাপদণ্ড যা (মোটামুটিভাবে) প্রান্তিক সম্ভাবনার সর্বাধিক সম্ভাবনা অনুমান প্রায় । সুতরাং এটি পূর্বের বিষয়টিকে উপেক্ষা করে, তবে পরবর্তীকালের প্রভাব অদৃশ্য হওয়ার সাথে সাথে তথ্যের সম্ভাবনাটি কেন্দ্রীভূত হয়।

$$p_y(y) = \int L(\theta; y)\pi(\theta)\mathrm{d} \theta$$ $\hat{\theta}$

পার্শ্ববর্তী মন্তব্য হিসাবে, ফर्थ রিগ্রেশন এটি তাত্পর্যপূর্ণ পরিবারগুলিতে প্রথম-আদেশের পক্ষপাতও সরিয়ে দেয়।