একাধিক প্রতিরোধের অর্থ "সমস্ত সমান সমান" এর অর্থ কী?

যখন আমরা একাধিক প্রতিক্রিয়া করি এবং বলি যে আমরা পরিবর্তনের জন্য $y$ পরিবর্তনশীলের গড় পরিবর্তনের দিকে তাকিয়ে আছি $x$ ভেরিয়েবলের , অন্য সমস্ত ভেরিয়েবলকে ধ্রুবক ধরে রেখেছি, তখন আমরা অন্যান্য ভেরিয়েবলকে ধ্রুবক হিসাবে ধরে রাখছি? তাদের মানে? জিরো? কোন মূল্য?

আমি এটিকে কোনও মূল্যেই ভাবিতে ঝোঁক; শুধু স্পষ্টতা খুঁজছি। কারও কাছে প্রমাণ থাকলে তাও দুর্দান্ত great

— EconStats
সূত্র

আমি পিটার কেনেডি এর পেপারে 10 টি উদাহরণ পেয়েছি এটি বুঝতে খুব সহায়ক।

— দিমিত্রি ভি। মাস্টারভ

হ্যাঁ, বর্গফুট স্থির রাখার সময় কক্ষগুলির সংখ্যা বাড়ানোর বিষয়ে বিটটি সত্যই পর্যবেক্ষণের বিষয়। এই কাগজটি আসলে দরকারী ধারণার সোনার খনি, এটি পিএইচডি নোটগুলিতে চলছে।

— ইকনস্ট্যাটস

এটি আসলে একটি খুব আকর্ষণীয় প্রশ্ন, আমি অবাক হয়েছি অর্থনীতিবিদরা যদি নিজেকে জিজ্ঞাসা করেন যে "সেটেরিস পারিবাস" এর অর্থ কী?

— Mugen

তুমি ঠিক. প্রযুক্তিগতভাবে, এটি কোনও মান । যাইহোক, আমি এটি শেখানোর সময় আমি সাধারণত লোকদের বলি যে আপনি একটি একক পরিবর্তনের প্রভাব পেয়ে $X_j$ যখন অন্য সমস্ত ভেরিয়েবলগুলি নিজ নিজ উপায়ে রাখা হয় তখন । আমি বিশ্বাস করি এটি আমার কাছে নির্দিষ্ট নয় এটি ব্যাখ্যা করার জন্য এটি একটি সাধারণ উপায়।

আমি সাধারণত যেতে যে যদি আপনি কোন কথাবার্তাও নেই, উল্লেখ একটি এক একক পরিবর্তন প্রভাব কিরূপ হতে পারে কোন ব্যাপার কি আপনার অন্য ভেরিয়েবল মান। তবে আমি গড় সূচনা দিয়ে শুরু করতে চাই। কারণটি হ'ল রিগ্রেশন মডেলটিতে একাধিক ভেরিয়েবল অন্তর্ভুক্ত করার দুটি প্রভাব রয়েছে। প্রথমত, আপনি অন্যান্য ভেরিয়েবলের জন্য নিয়ন্ত্রণের প্রভাব পান (আমার উত্তর এখানে দেখুন )। দ্বিতীয় যে অন্যান্য ভেরিয়েবল (সাধারণত) উপস্থিতিতে মডেলের অবশিষ্ট ভ্যারিয়েন্স কমে আপনার ভেরিয়েবল (তত্সহ করছে $\beta_j$ $X_j$ $X_j$ $X_j$ ) 'আরও উল্লেখযোগ্য'। অন্যান্য ভেরিয়েবলের জায়গাগুলির মান রয়েছে তবে এটি কীভাবে কাজ করে তা লোকের পক্ষে বুঝতে অসুবিধা হয়। দেখে মনে হচ্ছে এটি কোনওভাবে পরিবর্তনশীলতা বাড়িয়ে তুলবে । আপনি যদি বাকী সমস্ত ভেরিয়েবলগুলি নিজ নিজ উপায়ে সরিয়ে না নেওয়া হয় তবে আপনি একে অপরের ভেরিয়েবলের মানের জন্য প্রতিটি ডেটা পয়েন্ট আপ বা ডাউন অ্যাডজাস্ট করার কথা ভাবছেন , অবশিষ্টাংশের পরিবর্তনশীলতা হ্রাস পেয়েছে তা দেখতে আরও সহজ। $X$

আমি একাধিক রিগ্রেশন এর প্রাথমিক বিষয়গুলি পরিচয় করিয়ে দেওয়ার পরে দু'একটি ক্লাস অবধি ইন্টারঅ্যাকশন করতে পারছি না। যাইহোক, আমি যখন তাদের কাছে যাই, আমি এই উপাদানটিতে ফিরে আসি। ইন্টারঅ্যাকশন না থাকলে উপরেরগুলি প্রযোজ্য । যখন ইন্টারঅ্যাকশন হয়, এটি আরও জটিল হয়। সেক্ষেত্রে ইন্টারেক্টিভ ভেরিয়েবল [গুলি] স্থিরভাবে রাখা হচ্ছে (খুব নির্দিষ্টভাবে) $0$ এবং অন্য কোনও মূল্য নেই।

If you want to see how this plays out algebraically, it is rather straight-forward. We can start with the no-interaction case. Let's determine the change in $\hat Y$ when all other variables are held constant at their respective means. Without loss of generality, let's say that there are three $X$ variables and we are interested in understanding how the change in $\hat Y$ is associated with a one unit change in $X_3$ , holding $X_1$ and $X_2$ constant at their respective means:

\begin{aligned} {\hat{Y}}_{i} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} X_{3 i} \\ {\hat{Y}}_{i^{'}} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) \\ subtracting the first equation from the second: \\ {\hat{Y}}_{i^{'}} - {\hat{Y}}_{i} & = {\hat{β}}_{0} - {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} - {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} - {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) - {\hat{β}}_{3} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} X_{3 i} + {\hat{β}}_{3} - {\hat{β}}_{3} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} \end{aligned}

$\begin{align} \hat Y_i &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3X_{3i} \\ \hat Y_{i'} &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) \\ ~ \\ &\text{subtracting the first equation from the second:} \\ ~ \\ \hat Y_{i'} - \hat Y_i &= \hat\beta_0 - \hat\beta_0 + \hat\beta_1\bar X_1 - \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 - \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) - \hat\beta_3X_{3i} \\ \Delta Y &= \hat\beta_3X_{3i} + \hat\beta_3 - \hat\beta_3X_{3i} \\ \Delta Y &= \hat\beta_3 \end{align}$

Now it is obvious that we could have put any value in for $X_1$ and $X_2$ in the first two equations, so long as we put the same value for $X_1$ ( $X_2$ ) in both of them. That is, so long as we are holding $X_1$ and $X_2$ constant.

On the other hand, it does not work out this way if you have an interaction. Here I show the case where there is an $X_1X_3$ interaction term:

\begin{aligned} {\hat{Y}}_{i} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} X_{3 i} + {\hat{β}}_{4} {\bar{X}}_{1} X_{3 i} \\ {\hat{Y}}_{i^{'}} & = {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) + {\hat{β}}_{4} {\bar{X}}_{1} (X_{3 i} + 1) \\ subtracting the first equation from the second: \\ {\hat{Y}}_{i^{'}} - {\hat{Y}}_{i} & = {\hat{β}}_{0} - {\hat{β}}_{0} + {\hat{β}}_{1} {\bar{X}}_{1} - {\hat{β}}_{1} {\bar{X}}_{1} + {\hat{β}}_{2} {\bar{X}}_{2} - {\hat{β}}_{2} {\bar{X}}_{2} + {\hat{β}}_{3} (X_{3 i} + 1) - {\hat{β}}_{3} X_{3 i} + \\ {\hat{β}}_{4} {\bar{X}}_{1} (X_{3 i} + 1) - {\hat{β}}_{4} {\bar{X}}_{1} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} X_{3 i} + {\hat{β}}_{3} - {\hat{β}}_{3} X_{3 i} + {\hat{β}}_{4} {\bar{X}}_{1} X_{3 i} + {\hat{β}}_{4} {\bar{X}}_{1} - {\hat{β}}_{4} {\bar{X}}_{1} X_{3 i} \\ Δ Y & = {\hat{β}}_{3} + {\hat{β}}_{4} {\bar{X}}_{1} \end{aligned}

$\begin{align} \hat Y_i &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3X_{3i} \quad\quad\ \! + \hat\beta_4\bar X_1X_{3i} \\ \hat Y_{i'} &= \hat\beta_0 + \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) + \hat\beta_4\bar X_1(X_{3i}\!+\!1) \\ ~ \\ &\text{subtracting the first equation from the second:} \\ ~ \\ \hat Y_{i'} - \hat Y_i &= \hat\beta_0 - \hat\beta_0 + \hat\beta_1\bar X_1 - \hat\beta_1\bar X_1 + \hat\beta_2\bar X_2 - \hat\beta_2\bar X_2 + \hat\beta_3(X_{3i}\!+\!1) - \hat\beta_3X_{3i} + \\ &\quad\ \hat\beta_4\bar X_1(X_{3i}\!+\!1) - \hat\beta_4\bar X_1X_{3i} \\ \Delta Y &= \hat\beta_3X_{3i} + \hat\beta_3 - \hat\beta_3X_{3i} + \hat\beta_4\bar X_1 X_{3i} + \hat\beta_4\bar X_1 - \hat\beta_4\bar X_1X_{3i} \\ \Delta Y &= \hat\beta_3 + \hat\beta_4\bar X_1 \end{align}$

In this case, it is not possible to hold all else constant. Because the interaction term is a function of $X_1$ and $X_3$ , it is not possible to change $X_3$ without the interaction term changing as well. Thus, $\hat\beta_3$ equals the change in $\hat Y$ associated with a one unit change in $X_3$ only when the interacting variable ( $X_1$ ) is held at $0$ instead of $\bar X_1$ (or any other value but $0$ ), in which case the last term in the bottom equation drops out.

In this discussion, I have focused on interactions, but more generally, the issue is when there is any variable that is a function of another such that it is not possible to change the value of the first without changing the respective value of the other variable. In such cases, the meaning of $\hat\beta_j$ becomes more complicated. For example, if you had a model with $X_j$ and $X_j^2$ , then $\hat\beta_j$ is the derivative $\frac{dY}{dX_j}$ holding all else equal, and holding $X_j=0$ (see my answer here). Other, still more complicated formulations are possible as well.

— gung - Reinstate Monica
সূত্র

Thanks gung, this answer is great on a couple of levels. Firstly it answers the main point I was interested in. Secondly, you predicted what my follow up question would be, because I was going to ask how this changed with the introduction of interaction terms. Thanks for the math as well. I know this question is kind of basic but I feel that you can never be too explicit with these concepts.

— EconStats

You're welcome, @EconStats. There is no problem with including the math, sometimes it makes it much easier to understand what is going on.

— gung - Reinstate Monica

Well I have to say that when you subtracted the first equation from the second equation it finally confirmed my original thoughts that it doesn't matter what the values of

X_{2}

$X_2$ and

X_{3}

$X_3$ are, as long as the are the same in both equations. It seems so obvious to me know but I had never thought about calculating the

β

$\beta$ that way before. Definite light bulb moment for me.

— EconStats

You can also take the derivative of

Y

$Y$ wrt

X_{j}

$X_j$ and it will get you to the same place, but this is easier math (essentially high-school algebra), so it will be accessible to a broader audience.

— gung - Reinstate Monica

@beetroot, if I understand you correctly, you just hold it at a specified level. (Otherwise, you might ask this as a new question.)

— gung - Reinstate Monica

The math is simple, just take the difference between 2 models with one of the x variables changed by 1 and you will see that it does not matter what the other variables are (given there are no interactions, polynomial, or other complicating terms).

One example:

$y_{[1]} = b_0 + b_1 \times x_1 + b_2 \times x_2$

$y_{[2]} = b_0 + b_1 \times (x_1 + 1) + b_2 \times x_2$

$y_{[2]} - y_{[1]} = b_0 - b_0 + b_1\times x_1 - b_1\times x_1 + b_1 \times 1 + b_2 \times x_2 - b_2 \times x_2 = b_1$

— Greg Snow
সূত্র

I believe you are referring to dependence in covariates ( $X_i$ ). So if the model is

Y = β_{0} + β_{1} X_{1} + β_{2} X_{2}

$Y=\beta_{0}+\beta_{1}X_1+\beta_{2}X_2$ the effect of

X_{i}

$X_i$ on

Y

$Y$ all other things being equal would be

\frac{Δ Y}{Δ X_{i}}

$\frac{\Delta{Y}}{\Delta{X_i}}$ for any

Δ X_{i}

$\Delta{X_i}$ with all other

X_{j}

$X_j$ held constant at any value.

Keep in mind that is possible that $X_1$ and $X_2$ are dependent (e.g. functions of each other) without necessarily showing a significant interaction in the linear model ( $\beta_{12}=0$ in $Y=\beta_{0}+\beta_{1}X_1+\beta_{2}X_2+\beta_{12}X_1X_2$ ).

Just as an interesting tangent here is an example: Let $X_1\sim N(0,\sigma_1^2)$ and $X_2=X_1^{2}+N(0,\sigma_2^2)$ then clearly any change in $X_1$ will affect $X_2$ . However the covariance between the two is zero.

c o v (X_{1}, X_{2}) = E (X_{1} X_{2}) - E (X_{1}) E (X_{2})

$cov(X_1,X_2)=E(X_1X_2)-E(X_1)E(X_2)$

= E [X_{1} (X_{1}^{2} + a)] - E (X_{1}) . E (X_{1}^{2} - a) w i t h a \sim N (0, σ_{2}^{2})

$=E[X_1(X_1^2+a)]-E(X_1).E(X_1^2-a)\,with\,a\sim N(0,\sigma_2^2)$

= E (X_{1}^{3}) - E (X_{1} . a) - 0. E (X_{1}^{2} - a) = 0 - 0 - 0 = 0

$=E(X_1^3)-E(X_1.a)-0.E(X_1^2-a)=0-0-0=0$

So in reality a change in $X_1$ would be associated with a change in $X_2$ and that $\frac{\Delta{Y}}{\Delta{X_i}}$ would not cover what really would occur if you alter $X_1$ . But $\frac{\Delta{Y}}{\Delta{X_i}}$ would still be described as the effect of $X_i$ on $Y$ all things being equal.

This is comparable to the difference between a full derivative and a partial derivate (the analog of $\frac{\Delta{Y}}{\Delta{X_i}}$ ) in a differential equation.

— Hans Roggeman
সূত্র

Thanks Hans, I was actually trying to get at the point that gung made but this is a good example for when the two variables are dependent.

— EconStats