রিগ্রেশন কোফিয়েনটিয়ান্সের সমবায় ব্যাখ্যার কী?

আর-এর এলএম ফাংশন রিগ্রেশন কো-কোফিয়েন্টিয়াসগুলির আনুমানিক সমবায়তা মুদ্রণ করতে পারে। এই তথ্য আমাদের কি দেয়? আমরা কি এখন মডেলটির আরও ভাল ব্যাখ্যা করতে পারি বা মডেলটিতে উপস্থিত সমস্যাগুলি সনাক্ত করতে পারি?

r multiple-regression least-squares

— এমএসএস
সূত্র

অন্যান্য ব্যাখ্যার সমান ব্যাখ্যা --- লিনিয়ার সমবায়? প্রধান ব্যবহার হ'ল নির্বাচিত বিপরীতে বৈচিত্রের গণনা করা, উদাহরণস্বরূপ বিপরীতে পরীক্ষা করা।

— কেজিটিল বি হালওয়ারসেন 21

উত্তর:

কোভেরিয়েন্স ম্যাট্রিক্সের সর্বাধিক প্রাথমিক ব্যবহার হ'ল রিগ্রেশন আনুমানিকের স্ট্যান্ডার্ড ত্রুটিগুলি পাওয়া। গবেষক যদি স্বতন্ত্র রিগ্রেশন প্যারামিটারগুলির নিজস্ব ত্রুটিগুলির মধ্যে কেবল আগ্রহী হন তবে স্বতন্ত্র স্ট্যান্ডার্ড ত্রুটিগুলি পেতে তারা কেবল তির্যকের বর্গমূল নিতে পারেন।

তবে প্রায়শই আপনি রিগ্রেশন প্যারামিটারের লিনিয়ার সংমিশ্রণে আগ্রহী হতে পারেন। উদাহরণস্বরূপ, যদি আপনার কোনও প্রদত্ত গোষ্ঠীর জন্য একটি সূচক পরিবর্তনশীল থাকে তবে আপনি গ্রুপটির সাথে আগ্রহী হতে পারেন, যা হবে

$\beta_0 + \beta_{\rm grp}$ ।

তারপরে, এই গোষ্ঠীর আনুমানিক গড়ের জন্য স্ট্যান্ডার্ড ত্রুটিটি খুঁজে পেতে, আপনার কাছে হবে

$\sqrt{X^\top S X}$ ,

যেখানে আপনার বিপরীতে একটি ভেক্টর এবং হল কোভেরিয়েন্স ম্যাট্রিক্স। আমাদের ক্ষেত্রে, আমরা কেবল উপরন্তু covariate "জিআরপি" থাকে তাহলে ( পথিমধ্যে জন্য গ্রুপ একাত্মতার জন্য)। $X$ $S$ $X = (1,1)$ $1$ $1$

তদুপরি, কোভরিয়েন্স ম্যাট্রিক্স (বা আরও বেশি, পারস্পরিক সম্পর্কযুক্ত ম্যাট্রিক্স, যা কোভারিয়েন্স ম্যাট্রিক্স থেকে স্বতন্ত্রভাবে চিহ্নিত করা হয়েছে তবে বিপরীত নয়) নির্দিষ্ট মডেল ডায়াগনস্টিকগুলির জন্য খুব কার্যকর হতে পারে। দুটি ভেরিয়েবল যদি খুব বেশি সম্পর্কযুক্ত হয় তবে এগুলির বিষয়ে চিন্তা করার এক উপায় হ'ল মডেলটি কোন ভেরিয়েবলটি কোনও প্রভাবের জন্য দায়ী তা নির্ধারণ করতে সমস্যা হচ্ছে (কারণ তারা এতটা নিবিড়ভাবে সম্পর্কিত)। এটি সম্পূর্ণ বিভিন্ন ধরণের ক্ষেত্রে সহায়ক হতে পারে যেমন ভবিষ্যদ্বাণীমূলক মডেলটি ব্যবহার করার জন্য কোভেরিয়েটের সাবসেটগুলি বেছে নেওয়া; যদি দুটি ভেরিয়েবল অত্যন্ত সংযুক্ত থাকে তবে আপনি কেবলমাত্র আপনার ভবিষ্যদ্বাণীমূলক মডেলটিতে দুটির মধ্যে একটির ব্যবহার করতে চাইতে পারেন।

— ক্লিফ এবি
সূত্র

ব্যাখ্যা করার জন্য আপনাকে ধন্যবাদ. আপনার শেষ অনুচ্ছেদে আপনি যে সমস্যাগুলি উত্থাপন করতে পারেন যখন স্বাধীন ভেরিয়েবলগুলি অত্যন্ত কোলাইনারি থাকে তখন তাদের বর্ণনা দিচ্ছেন। দেখে মনে হচ্ছে যে এস এর চেয়ে প্রকৃত এস এর সমবায় / পারস্পরিক সম্পর্ককে দেখার পক্ষে আরও সহজ হবে । the সূত্রে একটি বিপরীত আছে।

X

$X$

β

$\beta$

V a r (\hat{β}) = E ({\hat{ε}}^{2}) {(X^{'} X)}^{- 1}

$Var(\hat\beta)=E(\hat\varepsilon^2)\left(X^\prime X\right)^{-1}$

— এমএস

রিগ্রেশন সহগের দুটি "ধরণের" রয়েছে:

"সত্য" রিগ্রেশন সহগ (সাধারণত চিহ্নিত ) যা উপাত্তের অন্তর্নিহিত ডেটা উত্পন্ন প্রক্রিয়া বর্ণনা করে। এগুলি স্থির সংখ্যা বা "পরামিতি"। একটি উদাহরণ আলোর গতি হবে , যা (আমরা ধরে নেই) সবসময় একই সর্বত্র প্রবেশযোগ্য মহাবিশ্ব হয়। $\beta$ $c$
আনুমানিক রিগ্রেশন সহগ (সাধারণত ডোনেটেড বা ) যা তথ্যের নমুনাগুলি থেকে গণনা করা হয়। নমুনাগুলি এলোমেলো ভেরিয়েবলের সংগ্রহ, সুতরাং অনুমানিত রিগ্রেশন সহগগুলিও এলোমেলো পরিবর্তনীয়। উদাহরণের জন্য একটি অনুমান হবে একটি পরীক্ষা প্রাপ্ত। $b$ $\hat \beta$ $c$

এখন covariance মানে কি সম্পর্কে চিন্তা করুন। এবং কোনও দুটি এলোমেলো ভেরিয়েবল নিন । যদিউচ্চতর, তারপরে আপনি যখনই বৃহত নিরঙ্কুশ মান আঁকেন আপনি একই ধরণের এর বৃহত পরম মান আঁকতেও আশা করতে পারেন । নোট করুন যে এখানে "উচ্চ" এবং পরিবর্তনের পরিমাণের সাথে তুলনামূলকভাবে মন্তব্যগুলিতে উল্লেখ করেছেন। $X$ $Y$ $\left| \mathrm{Cov}\left(X,Y\right) \right|$ $X$ $Y$ $X$ $Y$

দুটি রিগ্রেশন সহগের (আনুমানিক) সমবায়তা হ'ল অনুমানের সমাহার , । আনুমানিক কোফিসিয়েন্টস মধ্যে সহভেদাংক তাহলে এবং বেশী, যেকোনো নমুনা যেখানে বেশী, এছাড়াও আপনি আশা করতে পারেন উচ্চ যাবে। আরো Bayesian অর্থে, সম্পর্কে তথ্য রয়েছে । $b$ $b_1$ $b_2$ $b_1$ $b_2$ $b_1$ $b_2$

আবার নোট করুন যে "উচ্চ" আপেক্ষিক। এখানে " উচ্চতর" এর অর্থ হ'ল " এর মান ত্রুটির সাথে তুলনামূলক বেশি উচ্চতর" এবং তাদের প্রবক্তাটি "উচ্চ" মানে "তাদের স্ট্যান্ডার্ড ত্রুটিগুলির পণ্যের তুলনায় উচ্চতর আপেক্ষিক।" এই ব্যাখ্যামূলক হিক্কারগুলি মসৃণ করার একটি উপায় হ'ল প্রতিটি প্রতিরোধের ইনপুটটিকে তার মানক বিচ্যুতি (বা কোনও কোনও ক্ষেত্রে দুটি স্ট্যান্ডার্ড বিচ্যুতি) দ্বারা ভাগ করে মানক করা। $b_1$ $b_1$

এই সাইটে একজন ব্যবহারকারী বর্ণিত হিসাবে "একটি অর্থহীন একটি বিট," কিন্তু আমি সম্পূর্ণরূপে একমত না। একটি কিছুর জন্য, আপনি এই ব্যাখ্যাটি বয়েসিয়ান রিগ্রেশন সম্পর্কিত তথ্যবহুল প্রেরকদের সাথে আসতে ব্যবহার করতে পারেন। $\mathrm{Cov}\left(b_1,b_2\right)$

এটি আসলে কী জন্য ব্যবহৃত হয় তা সম্পর্কে ক্লিফ এবির উত্তরটি একটি ভাল সংক্ষিপ্তসার।

— shadowtalker
সূত্র

এটি দুর্দান্ত, তবে আমি covariance এর ব্যাখ্যা সম্পর্কে কিছুটা বিরক্ত করছি যেন এটি কোনও সম্পর্ক। আমি জানি আপনি পার্থক্যটি জানেন তবে এটি পরিষ্কারভাবে আসে না। আপনি "বিদ্রূপের কিছুটা" মন্তব্যকে চ্যালেঞ্জ করেছেন বলে আমিও আনন্দিত, কারণ এটি একটি বিভ্রান্তিকর মূল্যায়ন ছিল (অন্যথায় সূক্ষ্ম উত্তরে)। প্রকৃতপক্ষে, জন্য এবং কীভাবে এই অনুমানগুলি একে অপরের সাথে সম্পর্কিত বলে মৌলিক এবং দরকারী তথ্য দেয়, যেমন @ ক্লিফ এবি নির্দেশ করে।

b_{i}

$b_i$

b_{j}

$b_j$

i \neq j

$i\ne j$

— whuber

@ শুভ ধন্যবাদ, এবং আমি আসলে এক পর্যায়ে "পারস্পরিক সম্পর্ক" লিখেছিলাম। আমি যখন আমার ফোনটি বন্ধ করব তখন আমি এটি পরিষ্কার করব

— শ্যাডটলকার

যেহেতু আমি সম্ভবত এই থ্রেডটিতে কিছুক্ষণের জন্য না তৈরি করতে পারি, সম্পাদনাগুলির জন্য আগেই +1!

— whuber

আমার বর্ণনায় একই ভুল!

— ক্লিফ এবি

@ যাহা এখন আমি সত্যবাদিতা সম্পর্কে আমার নিজের বোধ অনুমান করি। আমার সমস্যাটি কি কেবলমাত্র আমি আঁশাগুলি আলাদা হতে পারে এই বিষয়টির উপরে জোর দিয়েছি না, বা আমি অন্য কিছু মিস করছি? আমি আপনার "বাক্সগুলি" ব্যাখ্যা জুড়ে এসেছি এবং এটি কী হতে পারে তা আমি দেখতে পাচ্ছি না

— ছায়াময়কার