মহালানোবিসের দূরত্ব এবং লিভারেজের মধ্যে সম্পর্ক প্রমাণ করুন?

আমি উইকিপিডিয়ায় সূত্র দেখেছি । যা মহালানোবিসের দূরত্ব এবং উত্সাহ সম্পর্কিত:

মহলানবিশ দূরত্ব ঘনিষ্ঠভাবে লিভারেজ পরিসংখ্যাত, সঙ্গে সম্পর্কযুক্ত , কিন্তু একটি ভিন্ন স্কেল রয়েছে: $h$
$D^{2} = (N - 1) (h - \frac{1}{N}) .$ $D^2 = (N - 1)(h - \tfrac{1}{N}).$

একটি লিঙ্ক নিবন্ধ , উইকিপিডিয়া বর্ণনা এই শর্তাবলীতে: $h$

লিনিয়ার রিগ্রেশন মডেলটিতে, ডেটা ইউনিটের লিভারেজের স্কোরটি এই হিসাবে সংজ্ঞায়িত করা হয়: টুপি ম্যাট্রিক্স এর তির্যক উপাদান , যেখানে the ম্যাট্রিক্স ট্রান্সপোজকে বোঝায়। $i^{th}$
$h_{i i} = (H)_{i i},$ $h_{ii}=(H)_{ii},$ $i^{th}$ $H=X(X^{\top}X)^{-1}X^{\top}$ $^{\top}$

আমি কোথাও একটি প্রমাণ খুঁজে পাচ্ছি না। আমি সংজ্ঞা থেকে শুরু করার চেষ্টা করেছি তবে আমি কোনও অগ্রগতি করতে পারি না। কেউ কি কিছু ইঙ্গিত দিতে পারে?

— dave2d
সূত্র

নীচে মহালানোবিসের দূরত্ব সম্পর্কে আমার বিবরণটি মহালানোবিসের দূরত্বের শীর্ষের ব্যাখ্যা পর্যন্ত? দুটি মূল ফলাফল অন্তর্ভুক্ত:

সংজ্ঞা অনুসারে, রেজিস্ট্রারগুলি সমানভাবে স্থানান্তরিত হলে এটি পরিবর্তন হয় না।
ভেক্টর মধ্যে মহলানবিশ দূরত্ব ছক এবং দেওয়া হয় যেখানে ডেটার সহভেদাংক হয়। $x$ $y$
$D^{2} (x, y) = (x - y)^{'} Σ^{- 1} (x - y)$ $D^2(x,y) = (x-y)^\prime \Sigma^{-1}(x-y)$ $\Sigma$

(1) আমাদের নিবন্ধকের মাধ্যমগুলি সমস্ত শূন্য বলে ধরে নিতে সহায়তা করে। এটি গণনা করা । তবে দাবিটি সত্য হওয়ার জন্য আমাদের আরও একটি অনুমান যুক্ত করতে হবে: $h_i$

মডেলটিতে অবশ্যই একটি বাধা অন্তর্ভুক্ত করা উচিত।

এই জন্য, যার ফলে দিন সেখানে regressors এবং ডেটা, regressor মান লেখা পর্যবেক্ষণ জন্য যেমন । এই কলাম ভেক্টর যাক regressor মান লেখা যেতে এবং এইসব সারি ভেক্টর পর্যবেক্ষণ মান লেখা যেতে । তারপরে মডেল ম্যাট্রিক্স হয় $k \ge 0$ $n$ $j$ $i$ $x_{ij}$ $n$ $j$ $\mathbf{x}_{,j}$ $k$ $i$ $\mathbf{x}_i$

X = (\begin{matrix} 1 & x_{11} & \dots & x_{1 k} \\ 1 & x_{21} & \dots & x_{2 k} \\ ⋮ & ⋮ & ⋮ & ⋮ \\ 1 & x_{n 1} & \dots & x_{n k} \end{matrix})

$X = \pmatrix{ 1 &x_{11} &\cdots &x_{1k} \\ 1 &x_{21} &\cdots &x_{2k} \\ \vdots &\vdots &\vdots &\vdots \\ 1 &x_{n1} &\cdots &x_{nk}}$

এবং, সংজ্ঞা অনুসারে, টুপি ম্যাট্রিক্স হয়

H = X (X^{'} X)^{- 1} X^{'},

$H = X(X^\prime X)^{-1} X^\prime,$

তির্যক বরাবর কোথা থেকে প্রবেশ $i$

\begin{matrix} (1) & h_{i} = h_{i i} = (1; x_{i}) (X^{'} X)^{- 1} (1; x_{i})^{'} . \end{matrix}

$h_i = h_{ii} = (1; \mathbf{x}_i) (X^\prime X)^{-1} (1; \mathbf{x}_i)^\prime.\tag{1}$

কেন্দ্রীয় ম্যাট্রিক্স বিপরীতমুখীভাবে কাজ করা ছাড়া আর কিছুই নেই - তবে প্রথম মূল ফলাফল অনুসারে এটি সহজ, বিশেষত যখন আমরা এটি ব্লক-ম্যাট্রিক্স আকারে লিখি:

X^{'} X = n (\begin{matrix} 1 & 0^{'} \\ 0 & C \end{matrix})

$X^\prime X = n\pmatrix{1 & \mathbf{0}^\prime \\ \mathbf{0} & C}$

যেখানে এবং $\mathbf{0} = (0,0,\ldots,0)^\prime$

C_{j k} = \frac{1}{n} \sum_{i = 1}^{n} x_{i j} x_{i k} = \frac{n - 1}{n} Cov (x_{j}, x_{k}) = \frac{n - 1}{n} Σ_{j k} .

$C_{jk} = \frac{1}{n} \sum_{i=1}^n x_{ij} x_{ik} = \frac{n-1}{n}\operatorname{Cov}(\mathbf{x}_j, \mathbf{x}_k) = \frac{n-1}{n}\Sigma_{jk}.$

(আমি লিখেছি জন্য নমুনা regressors কোভ্যারিয়েন্স ম্যাট্রিক্স।) কারণ এই ব্লক তির্যক, তার বিপরীত খুঁজে পাওয়া যেতে পারে কেবল ব্লক ইনভার্টারিং দ্বারা: $\Sigma$

(X^{'} X)^{- 1} = \frac{1}{n} (\begin{matrix} 1 & 0^{'} \\ 0 & C^{- 1} \end{matrix}) = (\begin{matrix} \frac{1}{n} & 0^{'} \\ 0 & \frac{1}{n - 1} Σ^{- 1} \end{matrix}) .

$(X^\prime X)^{-1} = \frac{1}{n}\pmatrix{1 & \mathbf{0}^\prime \\ \mathbf{0} & C^{-1}} = \pmatrix{\frac{1}{n} & \mathbf{0}^\prime \\ \mathbf{0} & \frac{1}{n-1}\Sigma^{-1}}.$

সংজ্ঞা আমরা পাই $(1)$

\begin{aligned} h_{i} & = (1; x_{i}) (\begin{matrix} \frac{1}{n} & 0^{'} \\ 0 & \frac{1}{n - 1} Σ^{- 1} \end{matrix}) (1; x_{i})^{'} \\ = \frac{1}{n} + \frac{1}{n - 1} x_{i} Σ^{- 1} x_{i}^{'} \\ = \frac{1}{n} + \frac{1}{n - 1} D^{2} (x_{i}, 0) . \end{aligned}

$\eqalign{ h_i &= (1; \mathbf{x}_i) \pmatrix{\frac{1}{n} & \mathbf{0}^\prime \\ \mathbf{0} & \frac{1}{n-1}\Sigma^{-1}}(1; \mathbf{x}_i)^\prime \\ &=\frac{1}{n} + \frac{1}{n-1}\mathbf{x}_i \Sigma^{-1}\mathbf{x}_i^\prime \\ &=\frac{1}{n} + \frac{1}{n-1} D^2(\mathbf{x}_i, \mathbf{0}). }$

স্কোয়ারের মহালানোবিসের দৈর্ঘ্যের জন্য সমাধান করা ফলন $D_i^2 = D^2(\mathbf{x}_i, \mathbf{0})$

D_{i}^{2} = (n - 1) (h_{i} - \frac{1}{n}),

$D_i^2 = (n-1)\left(h_i - \frac{1}{n}\right),$

Qed ।

পিছনে ফিরে তাকালে, আমরা একটি ইন্টারসেপ্টের উপস্থিতিতে সংযোজনীয় শব্দটি সনাক্ত করতে পারি, যা ম্যাট্রিক্স মডেলগুলির মধ্যে কলামগুলি প্রবর্তন করে । গুণনশীল মেয়াদ মহলানবিশ দূরত্ব অভিমানী পর হাজির ব্যবহার করে গণনা করা হবে নমুনা সহভেদাংক অনুমান (যা দ্বারা স্কোয়ার এবং পণ্য অঙ্কের ভাগ ) বদলে ডাটা সহভেদাংক ম্যাট্রিক্স (যা বর্গের সমষ্টি বিভেদ সৃষ্টি করেন এবং পণ্য দ্বারা )। $1/n$ $X$ $n-1$ $n-1$ $n$

এই বিশ্লেষণের প্রধান মূল্য হ'ল লিভারেজের জন্য জ্যামিতিক ব্যাখ্যা প্রদান করা হয়, যা পর্যবেক্ষণের সময় প্রতিক্রিয়াতে ইউনিট কতটা পরিবর্তন করে তা পর্যবেক্ষণের উপযুক্ত মানকে পরিবর্তন করব: উচ্চ-উত্তোলন পর্যবেক্ষণ সেন্ট্রয়েড থেকে বড় মহালানোবিস দূরত্বে রয়েছে রেজিস্ট্রারগুলির মধ্যে, ঠিক যেমন একটি যান্ত্রিকভাবে দক্ষ লিভারটি তার পুরো অংশ থেকে একটি বিশাল দূরত্বে কাজ করে। $i$

আর কোডটি দেখানোর জন্য যে সম্পর্কটি প্রকৃতপক্ষে রয়েছে:

x <- mtcars

# Compute Mahalanobis distances
h <- hat(x, intercept = TRUE); names(h) <- rownames(mtcars)
M <- mahalanobis(x, colMeans(x), cov(x))

# Compute D^2 of the question
n <- nrow(x); D2 <- (n-1)*(h - 1/n)

# Compare.
all.equal(M, D2)               # TRUE
print(signif(cbind(M, D2), 3))

— whuber
সূত্র

দুর্দান্ত উত্তর, কঠোরতা এবং স্বজ্ঞাততা সহ খুব ভাল ed চিয়ার্স!

— সিগ্রুডজ

পোস্ট @ শুবারের জন্য ধন্যবাদ! স্যানিটি চেক করার জন্য, এখানে আর কোডটি দেখানোর জন্য এখানে সম্পর্কটি প্রকৃতপক্ষে ধারণ করেছে: x <- এমটিকার্স রওনাম (এক্স) <- নুল কলনাম (এক্স) <- নল এন <- নরো (এক্স) এইচ <- টুপি (এক্স, টি) মহালানোবিস (এক্স, কোলিমিয়ানস (এক্স), কোভ (এক্স)) (এন -1) * (এইচ - 1 / এন) all.equal (মহালানোবিস (এক্স, কোলমিনস (এক্স), কোভ (এক্স)), (এন-1 ) * (এইচ - 1 / এন))

— তাল গালি

@ টাল আমি মনে করি না যে আমার একটি স্যানিটি চেক দরকার - তবে কোডটির জন্য আপনাকে ধন্যবাদ। :-) আমি এটির এবং এর আউটপুটটি একটু স্পষ্ট করতে পরিবর্তন করেছি।

— whuber

@ হুবুহু, আমি একটি উদাহরণ চেয়েছিলাম যা দেখায় যে কীভাবে সাম্যতা কাজ করে (আমার কাছে পরিষ্কার করে দেওয়া যে আমি অনুমানগুলি সঠিকভাবে পেয়েছি)। আমি প্রাসঙ্গিক উইকি এন্ট্রিটিও প্রসারিত করেছি: en.wikedia.org/wiki/… (আপনি যেভাবে ফিট দেখছেন সেখানেও এটি ব্যয় করতে নির্দ্বিধায় :))

— তাল গ্যালি