মধ্যে সম্পর্ক

Question

সম্পর্কিত একটি খুব প্রাথমিক প্রশ্ন $R^2$ ওএলএস সংবিধানের

1. ওএলএস রিগ্রেশন y ~ x1 চালান, আমাদের একটি রয়েছে $R^2$, 0.3 বলুন
2. ওএলএস রিগ্রেশন y ~ x2 চালান, আমাদের আরেকটি আছে $R^2$বলুন, 0.4
3. এখন আমরা y ~ x1 + x2 একটি রিগ্রেশন চালাচ্ছি, এই রিগ্রেশন এর আর স্কোয়ারের মান কত হতে পারে?

আমি মনে করি এটি পরিষ্কার $R^2$ একাধিক রিগ্রেশন 0.4 এর চেয়ে কম হওয়া উচিত না তবে এটি কি 0.7 এর বেশি হওয়া সম্ভব?

Comments

ইঙ্গিত: এটি 1.0 এর চেয়ে বেশি হতে পারে। কেন? (জ্যামিতিকভাবে ভাবুন Or বা এমনকি নির্দিষ্টভাবে ইউনিট বৃত্ত সম্পর্কেও))

— কার্ডিনাল

stats.stackexchange.com/questions/351200/...

— StubbornAtom

Answer 1

দ্বিতীয় রেজিস্ট্রার কেবল নির্ভরশীল ভেরিয়েবলের মধ্যে ব্যাখ্যা করতে প্রথমে কী পরিচালনা করেননি তার জন্য প্রস্তুত করতে পারেন। এখানে একটি সংখ্যার উদাহরণ:

x1আদর্শ মানের রেগ্রেসার হিসাবে উত্পন্ন করুন , নমুনা আকার 20. সাধারণতার ক্ষতি ছাড়াই নিন$y_i=0.5x_{1i}+u_i$, কোথায় $u_i$ হয় $N(0,1)$খুব। এখন, দ্বিতীয় রেজিস্ট্রারটিকে x2নির্ভরশীল ভেরিয়েবল এবং প্রথম রেজিস্ট্রারের মধ্যে পার্থক্য হিসাবে গ্রহণ করুন ।

n <- 20 
x1 <- rnorm(n)

y <- .5*x1 + rnorm(n)

x2 <- y - x1
summary(lm(y~x1))$r.squared
summary(lm(y~x2))$r.squared
summary(lm(y~x1+x2))$r.squared

Comments

ধন্যবাদ! আমার স্কোয়ার সম্পর্কে ভুল ধারণা ছিল। আমি ভেবেছিলাম যদি x1 + x2 = yতবে summary(lm(y~x1))$r.squared + summary(lm(y~x2))$r.squared1 এর চেয়ে কম হওয়া উচিত না তবে স্পষ্টত আমি ভুল হয়েছি ..

— অলিভিয়ার মা

Answer 2

নিম্ন সীমা ছাড়া অন্যটি যা 0.3 বা 0.4 হয় তার উপর নির্ভর করে কোন চলকটি প্রথমে মডেলটিতে প্রবেশ করে, আপনি বলতে পারেন এমন খুব বেশি কিছু নেই। কত$R^2$উত্থান মূলত দ্বিতীয় ভেরিয়েবল মডেলটিতে নিয়ে আসে এমন তথ্যের উপর নির্ভর করে। তথ্য দ্বারা, আমরা অবশ্যই প্রতিক্রিয়া ব্যাখ্যা ব্যাখ্যা বিভিন্ন।

সে ক্ষেত্রে একটি ধারণা যা সমালোচনামূলক এবং তা হ'ল ভবিষ্যদ্বাণীকারীদের মধ্যে পারস্পরিক সম্পর্ক । যদি পারস্পরিক সম্পর্ক বড় হয় তবে নতুন ভেরিয়েবলটি কেবলমাত্র মডেলটিতে কিছুই আনবে না তবে এটি আপনার বিদ্যমান ভেরিয়েবলগুলির জন্য অনুকরণকে জটিল করে তুলবে, কারণ অনুমানগুলি অনর্থক (বহুবিধ) হয়ে যাবে। এ কারণেই আমরা আদর্শভাবে নতুন পরিবর্তনশীলটিকে অন্যদের কাছে অর্থেগোনাল হতে পছন্দ করব । পর্যবেক্ষণমূলক স্টাডিতে এটি হওয়ার সম্ভাবনাগুলি হ্রাসমান, তবে এটি নিয়ন্ত্রিত সেটিংসে সম্পন্ন করা যেতে পারে, যেমন আপনি যখন নিজের পরীক্ষা চালাচ্ছেন তখন।

তবে আপনি কোনও পরিবর্তনশীল মডেলটিতে যে নতুন তথ্য আনবেন তা সঠিকভাবে আপনি কী পরিমাণে মাপবেন? এক বহুল ব্যবহৃত পরিমাপ যে এই সব একাউন্টে লাগে আংশিক $R^2$। আপনি যদি লিনিয়ার মডেলের আনোভা সম্পর্কে পরিচিত হন, তবে স্কয়ারের ত্রুটির যোগফলের আনুপাতিক হ্রাস ছাড়া আর কিছুই নয় যা আপনি আপনার মডেলটিতে এই পরিবর্তনশীলটিকে অন্তর্ভুক্ত করে সম্পন্ন করবেন। উচ্চ শতাংশ শতকরা কাঙ্ক্ষিত এবং কম লোকেরা সম্ভবত আপনাকে ভাবতে বাধ্য করবে যে এটি কর্মের সঠিক পথ কিনা।

যাতে @ কার্ডিনাল মন্তব্যগুলিতে উল্লেখ করেছেন, আপনার নতুন সংকল্পের সহগ 1 এর চেয়ে বেশি হতে পারে এটি 0.400001 এর চেয়ে কমও হতে পারে। অতিরিক্ত তথ্য ছাড়া বলার উপায় নেই।

Comments

@ জনক, আপনি আরও ব্যাখ্যা করার ক্ষেত্রে কি আপত্তি বোধ করবেন কেন এটি 0.4 এর চেয়ে বেশি শক্ত হওয়া দরকার? রিগ্রেশন এর জ্যামিতিক ব্যাখ্যা এখানে সহায়তা করবে?

— ডানাইয়েল

@ দনিয়েল সংকল্পের সহগ মডেলটিতে ভেরিয়েবলের সংখ্যার প্রতি সম্মান সহকারে সম্মতিহীন।

— জনক

Answer 3

একাধিক লিনিয়ার রিগ্রেশন মধ্যে সংকল্পের সহগ: একাধিক লিনিয়ার রিগ্রেশন মধ্যে গুণমানের-সংকল্প চতুর্ভুজ ফর্মটি ব্যবহার করে ভেরিয়েবলগুলির জন্য জোড় যুক্ত সম্পর্কের ক্ষেত্রে লিখিত হতে পারে:

$$R^2 = \boldsymbol{r}_{\mathbf{y},\mathbf{x}}^\text{T} \boldsymbol{r}_{\mathbf{x},\mathbf{x}}^{-1} \boldsymbol{r}_{\mathbf{y},\mathbf{x}},$$

কোথায় $\boldsymbol{r}_{\mathbf{y},\mathbf{x}}$ প্রতিক্রিয়া ভেক্টর এবং ব্যাখ্যামূলক ভেক্টরগুলির প্রতিটি এবং এর মধ্যে পারস্পরিক সম্পর্কের ভেক্টর and $\boldsymbol{r}_{\mathbf{x},\mathbf{x}}$ব্যাখ্যামূলক ভেক্টরগুলির মধ্যে পারস্পরিক সম্পর্কের ম্যাট্রিক্স (এর জন্য আরও এই সম্পর্কিত প্রশ্নটি দেখুন )। দ্বিঘাতীয় রিগ্রেশনের ক্ষেত্রে আপনার কাছে রয়েছে:

$$\begin{equation} \begin{aligned} R^2 &= \begin{bmatrix} r_{Y,X_1} \\[6pt] r_{Y,X_2} \\[6pt] \end{bmatrix}^\text{T} \begin{bmatrix} 1 & r_{X_1,X_2} \\[6pt] r_{X_1,X_2} & 1 \\[6pt] \end{bmatrix}^{-1} \begin{bmatrix} r_{Y,X_1} \\[6pt] r_{Y,X_2} \\[6pt] \end{bmatrix} \\[6pt] &= \frac{1}{1-r_{X_1,X_2}^2} \begin{bmatrix} r_{Y,X_1} \\[6pt] r_{Y,X_2} \\[6pt] \end{bmatrix}^\text{T} \begin{bmatrix} 1 & -r_{X_1,X_2} \\[6pt] -r_{X_1,X_2} & 1 \\[6pt] \end{bmatrix} \begin{bmatrix} r_{Y,X_1} \\[6pt] r_{Y,X_2} \\[6pt] \end{bmatrix} \\[6pt] &= \frac{1}{1-r_{X_1,X_2}^2} ( r_{Y,X_1}^2 + r_{Y,X_2}^2 - 2 r_{X_1,X_2} r_{Y,X_1} r_{Y,X_2} ). \end{aligned} \end{equation}$$

আপনি আপনার প্রশ্নে অবিচ্ছিন্ন পারস্পরিক সম্পর্কের দিকনির্দেশ নির্দিষ্ট করে দেননি, সুতরাং সাধারণতার ক্ষতি ছাড়াই আমরা চিহ্নিত করব $D \equiv \text{sgn} (r_{Y,X_1}) \cdot \text{sgn} (r_{Y,X_2}) \in \{ -1, +1 \}$। আপনার মান প্রতিস্থাপন$r_{Y,X_1}^2 = 0.3$ এবং $r_{Y,X_2}^2 = 0.4$ উৎপাদনের:

$$R^2 = \frac{0.7 - 2 \sqrt{0.12} \cdot D \cdot r_{X_1,X_2}}{1-r_{X_1,X_2}^2}.$$

এটা সম্ভব $R^2 > 0.7$, যেহেতু দুটি ভেরিয়েবলের সম্মিলিত তথ্য তার অংশগুলির যোগফলের চেয়ে বেশি হওয়া সম্ভব। এই আকর্ষণীয় ঘটনাটিকে 'বর্ধন' বলা হয় (যেমন, লুইস এবং এসকোবার 1986 )।