একাধিক রিগ্রেশন এবং একাধিক তুলনা

Question

বলুন আমি p ব্যাখ্যামূলক ভেরিয়েবলগুলির একাধিক রিগ্রেশন ফিট করি। টি-টেস্ট আমাকে সেগুলির মধ্যে কোনও একক তাৎপর্যপূর্ণ কিনা তা পরীক্ষা করার অনুমতি দেবে ( )। কিছু উপসেট তাৎপর্যপূর্ণ কিনা তা পরীক্ষা করতে আমি আংশিক এফ-টেস্ট করতে পারি ( )।এইচ 0 : β i = β জে = । । । = β কে = $H_0: \beta_i = 0$$H_0: \beta_i=\beta_j=...=\beta_k=0$

যদিও আমি প্রায়শই দেখতে পাই তা হ'ল যে কেউ 5 টি-টেস্ট থেকে 5 পি-মান পেয়েছে (ধরে নিলে তাদের 5 টি কোভারিয়েট রয়েছে) এবং কেবল সেগুলিকে পি-মান <0.05 দিয়ে রাখে। এটি কিছুটা ভুল বলে মনে হচ্ছে কারণ সেখানে একাধিক তুলনা পরীক্ষা করা উচিত? এবং এর মতো কিছু বলা কি সত্যই সঠিক তবে , এবং নয়?β 2 β 3 β 4 β $\beta_1$$\beta_2$$\beta_3$$\beta_4$$\beta_5$

সম্পর্কিত নোটে, বলুন আমি 2 পৃথক মডেল (বিভিন্ন ফলাফল) এর উপর 2 টি রিগ্রেশন চালাচ্ছি। দুটি ফলাফলের মধ্যে উল্লেখযোগ্য পরামিতিগুলির জন্য কি একাধিক তুলনা পরীক্ষা করা দরকার?

সম্পাদনা: অনুরূপ প্রশ্ন থেকে পৃথক করার জন্য, পি-মানগুলির সাথে অন্য কোনও ব্যাখ্যা আছে কি: "বি_আই (ইন) তাৎপর্যপূর্ণ, যখন অন্যান্য সমস্ত কোভারিয়েটগুলির জন্য সামঞ্জস্য হয়?" দেখে মনে হয় না যে এই ব্যাখ্যাটি আমাকে প্রতিটি বি_আই দেখতে এবং 0.5% এর চেয়ে কম (যা অন্য পোস্টের সমান) ড্রপ করতে দেয়।

আমার কাছে মনে হয় যে বি_আই এবং ওয়াইয়ের সম্পর্ক রয়েছে কিনা তা পরীক্ষা করে নেওয়ার একটি নিশ্চিত অগ্নি উপায় হ'ল প্রতিটি কোভেরিয়েটের জন্য পারস্পরিক সম্পর্ক সহগের পি-মান পাওয়া এবং তারপরে একটি মাল্টকম্প করা (যদিও এটি অবশ্যই সংকেত হারাবে)।

অবশেষে, বলুন আমি বি 1 / ওয়াই 1, বি 2 / ওয়াই 1 এবং বি 3 / ওয়াই 1 (এইভাবে তিনটি পি-মান) এর মধ্যে পারস্পরিক সম্পর্ককে গণনা করেছি। নিরবিচ্ছিন্নভাবে, আমি টি 1 / ওয়াই 2, টি 2 / ওয়াই 2, টি 3 / ওয়াই 2 এর মধ্যে একটি সম্পর্কও করেছি। আমি ধরে নিচ্ছি যে সঠিক বনফেরোনি সমন্বয় 6 টি একসাথে 6 টির জন্য হবে (প্রথম গ্রুপের জন্য 3 এর চেয়ে 3 এবং দ্বিতীয় গ্রুপের জন্য 3 - এবং এইভাবে 2 "আধা" অ্যাডজাস্টেড পি-মানগুলি পাবে)।

Comments

এটিকে (এই প্রশ্ন) এর সদৃশ বলে মনে হচ্ছে [ stats.stackexchange.com/questions/3200/… যদি তা না হয় তবে দয়া করে কেন বলবেন না।

— পিটার ফ্লুম

হাই, এটি একই রকম তবে একেবারে একরকম নয়। সম্ভবত আরও ভাল প্রশ্ন হতে পারে, যখন কেউ পি-মানগুলির তালিকা পেয়ে যায়, কেবল তখনই নিম্নলিখিত ব্যাখ্যাটি সম্ভব: "অন্যান্য সমস্ত পরামিতিগুলির জন্য নিয়ন্ত্রণ করা, এই পরিবর্তনশীলটি / উল্লেখযোগ্য"। আপনি কিভাবে তাদের সব তাকান হবে।

— ব্যবহারকারী1357015

আপনি যদি আপনার প্রশ্নটি সম্পাদনা করতে চান তবে এটি ঠিক আছে তবে প্রশ্নটিতে এটি করা ভাল people যাতে লোকেরা প্রথমে এটি দেখতে পারে। তবে "কীভাবে আপনি তাদের সকলের দিকে চিন্তা করবেন" এর অর্থ কী, আমি মামলা করছি না।

— পিটার ফ্লুম

Answer 1

তুমি ঠিক বলছো. একাধিক তুলনার সমস্যা সর্বত্র বিদ্যমান, তবে এটি সাধারণত শেখানো পদ্ধতির কারণে , লোকেরা কেবল এটি মনে করে যে এটি একে অপরের সাথে অনেক গ্রুপের তুলনা সম্পূর্ণ টেস্টের মাধ্যমে করে। বাস্তবে, এমন অনেকগুলি উদাহরণ রয়েছে যেখানে একাধিক তুলনার সমস্যা উপস্থিত রয়েছে, তবে যেখানে এটি অনেকগুলি জুড়িযুক্ত তুলনার মতো দেখাচ্ছে না; উদাহরণস্বরূপ, যদি আপনার প্রচুর অবিচ্ছিন্ন পরিবর্তনশীল থাকে এবং আপনি যদি ভাবেন যে কোনওটি পরস্পর সম্পর্কিত হয় তবে আপনার একাধিক তুলনা সমস্যা হবে (দেখুন এখানে: দেখুন এবং আপনি একটি সম্পর্ক খুঁজে পাবেন )। $t$

আর একটি উদাহরণ আপনি উত্থাপন এক। আপনি যদি 20 টি ভেরিয়েবল সহ একাধিক রিগ্রেশন চালনা করতে থাকেন এবং আপনি আপনার প্রান্তিক হিসাবে ব্যবহার করেন তবে সমস্ত নাল সত্য হলেও, আপনি একা সুযোগে আপনার ভেরিয়েবলের 'উল্লেখযোগ্য' হওয়ার প্রত্যাশা করবেন। একাধিক তুলনার সমস্যাটি কেবল প্রচুর বিশ্লেষণের গণিত থেকে আসে। যদি সব নাল অনুমানের সত্য ছিল এবং ভেরিয়েবল পুরোপুরি সম্পর্কহীন ছিল, মিথ্যাভাবে প্রত্যাখ্যান না সম্ভাব্যতা কোন সত্য নাল হবে (যেমন, সঙ্গে , এই )। $\alpha=.05$1 - ( 1 - α ) পি পি = 5 .23$1-(1-\alpha)^p$$p=5$$.23$

এর বিরুদ্ধে প্রশমিত করার প্রথম কৌশলটি হ'ল আপনার মডেলের একযোগে পরীক্ষা করা। যদি আপনি কোনও ওএলএস রিগ্রেশন ফিট করে থাকেন তবে বেশিরভাগ সফ্টওয়্যার আপনাকে আপনার আউটপুটটির একটি ডিফল্ট অংশ হিসাবে একটি গ্লোবাল টেষ্ট দেয়। আপনি যদি একটি জেনারেলাইজড লিনিয়ার মডেল চালাচ্ছেন তবে বেশিরভাগ সফ্টওয়্যার আপনাকে একটি অ্যানালগাস বৈশ্বিক সম্ভাবনা অনুপাত পরীক্ষা দেবে। এই পরীক্ষাটি আপনাকে একাধিক তুলনার সমস্যার কারণে মুদ্রাস্ফীতি প্রকারের বিরুদ্ধে কিছুটা সুরক্ষা দেবে (সিএফ।, আমার উত্তর এখানে: লিনিয়ার রিগ্রেশনে সহগতির তাত্পর্য: উল্লেখযোগ্য টি-পরীক্ষা বনাম অ-উল্লেখযোগ্য এফ-স্ট্যাটিস্টিক )। অনুরূপ কেসটি যখন আপনার একটি স্বতন্ত্র পরিবর্তনশীল থাকে যা বেশ কয়েকটি ডামি কোড সহ উপস্থাপিত হয়; আপনি এই ব্যাখ্যা করতে চান না$F$টি$t$-tests, তবে সমস্ত ডামি কোডগুলি ফেলে দেবে এবং পরিবর্তে নেস্টেড মডেল পরীক্ষা করবে।

আরেকটি সম্ভাব্য কৌশল হ'ল বনফেরোনি সংশোধনের মতো একটি আলফা সমন্বয় পদ্ধতি ব্যবহার করা। আপনার বুঝতে হবে যে এটি করা আপনার শক্তি হ্রাস করার পাশাপাশি আপনার পারিবারিকভাবে টাইপ আই ত্রুটির হার হ্রাস করবে। এই ট্রেডঅফটি সার্থক কিনা তা আপনার পক্ষে রায় দেওয়ার আহ্বান। (এফডাব্লুআইডাব্লু, আমি সাধারণত একাধিক রিগ্রেশনে আলফা সংশোধন ব্যবহার করি না))

মডেল নির্বাচন করতে ভ্যালুগুলি ব্যবহার করার বিষয়টি সম্পর্কে , আমি মনে করি এটি সত্যিই খারাপ ধারণা। আমি 5 টি ভেরিয়েবলের একটি মডেল থেকে কেবল 2 দিয়ে একটিতে স্থানান্তরিত করব না কারণ অন্যরা 'অ-উল্লেখযোগ্য' ছিল। লোকেরা যখন এটি করে, তখন তারা তাদের মডেলটিকে পক্ষপাতিত্ব করে। এটি আপনাকে আমার উত্তরটি পড়তে এখানে সহায়তা করতে পারে: এটি আরও ভালভাবে বোঝার জন্য স্বয়ংক্রিয় মডেল নির্বাচনের জন্য অ্যালগরিদম । $p$

আপনার আপডেট সম্পর্কিত, আমি আপনাকে প্রথমে অবিচ্ছিন্ন পারস্পরিক সম্পর্কের মূল্যায়ন করার পরামর্শ দেব না যাতে চূড়ান্ত একাধিক রিগ্রেশন মডেলটিতে কোন ভেরিয়েবলগুলি ব্যবহার করতে হবে তা স্থির করতে পারেন। এটি করার ফলে ভেরিয়েবলগুলি একে অপরের সাথে পুরোপুরি অসম্পর্কিত না হলে প্রবণতাজনিত সমস্যাগুলির দিকে নিয়ে যায়। আমি এখানে নিলাম আমার উত্তর এই সমস্যা নিয়ে আলোচনা: এসটিমেটিং পরিবর্তে$b_1x_1+b_2x_2$$b_1x_1+b_2x_2+b_3x_3$ ।

আপনি কীভাবে একে অপরের সাথে সম্পর্কিত বিশ্লেষণগুলি দেখতে পাচ্ছেন তার উপর নির্ভর করে বিভিন্ন নির্ভরশীল ভেরিয়েবলগুলির সাথে বিশ্লেষণগুলি কীভাবে পরিচালনা করতে হবে সেই প্রশ্নে you' Meaningতিহ্যগত ধারণা হ'ল এগুলিকে 'পরিবার' হিসাবে বিবেচনা করা হয় কিনা তা নির্ধারণ করা। এটি এখানে আলোচনা করা হয়েছে: "অনুমানের পরিবার" এর একটি পরিষ্কার, ব্যবহারিক সংজ্ঞা কী হতে পারে? আপনি এই থ্রেডটিও পড়তে চাইতে পারেন: একাধিক নির্ভরশীল ভেরিয়েবলের পূর্বাভাস দেওয়ার পদ্ধতি ।

Comments

এই জন্য আপনাকে ধন্যবাদ. এটি আমার যা প্রয়োজন তা ঠিক। আপনার তাত্পর্যপূর্ণ মন্তব্য সম্পর্কে। এটি বোধগম্য হয়, তবে মনে হয় যে আমি যদি পার্সোনালিটি পি-ভ্যালুতে কনজারভেটিভ বোনফেরনির সংশোধন করি, তবে সেখানেও যদি মহামারী হয়, বনফেরনি সংশোধনটির কোনও হিসাব রাখা উচিত?

— ব্যবহারকারী1357015

বনফেরোনি সংশোধন দীর্ঘস্থায়ীভাবে সম্পর্কিত নয়। যদি আপনার কোভেরিয়েটগুলি একে অপরের সাথে একে অপরের সাথে সম্পর্কযুক্ত থাকে তবে অবিবাহিত এক্সওয়াই পারস্পরিক সম্পর্কগুলি সম্পর্কের পক্ষপাতদুষ্ট অনুমান হবে। আপনি যে মডেলটিকে ফিট করতে এবং সেখানে থামাতে চান তা আপনার ফিট করা উচিত। সাধারণত, এখানে আর যাওয়ার দরকার নেই। আপনার যদি সত্যিকারের ভবিষ্যদ্বাণীপূর্ণ মডেল তৈরি করতে হয় তবে আপনার ক্রস বৈধতা বা অন্য কৌশলগুলি ব্যবহার করা উচিত যা এটির জন্য উপযুক্ত।

— গুং - মনিকা পুনরায়

Answer 2

ব্যবহারিক স্তরে, আমি মনে করি যে বিটাগুলি একটি শ্রেণিবদ্ধ ভেরিয়েবলের (যেমন ডামি) স্তরগুলি প্রতিফলিত করে কিনা তাও বিবেচনা করা দরকার। এই পরিস্থিতিতে কোনও প্রদত্ত বিটা কোনও (অর্থপূর্ণ) বিফার তুলনায় আলাদা কিনা তা জানতে আগ্রহী হওয়া যুক্তিসঙ্গত। তবে জোড়যুক্ত তুলনা করার আগেও সবার জানা দরকার যে সামগ্রিকভাবে শ্রেণিবদ্ধ ভেরিয়েবলের স্তরগুলি গুরুত্বপূর্ণ (যৌথ এফ পরীক্ষা বা সম্ভাবনা অনুপাতের পরীক্ষা ব্যবহার করে) গুরুত্বপূর্ণ কিনা । এটি করার ফলে কম df ব্যবহার করার সুবিধা রয়েছে