অনুমানের জন্য একটি টি বিতরণ কেন লিনিয়ার রিগ্রেশন সহগ পরীক্ষার জন্য ব্যবহৃত হয়?

17

অনুশীলনে, লিনিয়ার রিগ্রেশন সহগের তাত্পর্য পরীক্ষা করার জন্য একটি স্ট্যান্ডার্ড টি-টেস্ট ব্যবহার করা সাধারণ অভ্যাস। গণনার যান্ত্রিকতা আমাকে বোঝায়।

কেন এটি টি-বিতরণ লিনিয়ার রিগ্রেশন হাইপোথিসিস টেস্টিংয়ে ব্যবহৃত স্ট্যান্ডার্ড টেস্টের পরিসংখ্যানকে মডেল করতে ব্যবহার করা যেতে পারে? স্ট্যান্ডার্ড পরীক্ষার পরিসংখ্যান আমি এখানে উল্লেখ করছি:

T_{0} = \frac{\hat{β} - β_{0}}{S E (\hat{β})}

$T_{0} = \frac{\widehat{\beta} - \beta_{0}}{SE(\widehat{\beta})}$

— নাট পারকে
সূত্র

এই প্রশ্নের একটি সম্পূর্ণ এবং সম্পূর্ণ উত্তর বেশ দীর্ঘ হবে, আমি নিশ্চিত। সুতরাং আপনি যখন কারও সাথে এটি মোকাবেলা করার জন্য অপেক্ষা করছেন, আপনি অনলাইনে এখানে পাওয়া কয়েকটি নোটগুলি দেখে এটি কেন হয় তা সম্পর্কে আপনি বেশ ভাল ধারণা পেতে পারেন: onlinecourses.sज्ञान . psu.edu/stat501/node/297 । বিশেষভাবে নোট করুন যে

।

t_{(n - p)}^{2} = F_{(1, n - p)}

$t^2_{(n−p)}=F_{(1,n−p)}$

— স্ট্যাটাস স্টুডেন্ট

1

আমি বিশ্বাস করতে পারছি না এই সদৃশ নয়, এবং এখনো সব upvotes (উভয় প্রশ্ন ও উত্তর দিকে) ... কি এই ? বা সম্ভবত এটি কোনও সদৃশ নয়, যার অর্থ এখানে রয়েছে (বা আজ অবধি ছিল) অতি-মৌলিক বিষয়গুলি যা ক্রস ভ্যালিডেটেডের প্রায় সাত বছরের অস্তিত্বের আওতায় আসে নি ... বাহ ...

— রিচার্ড হার্ডি

পুনঃটুইট যদিও এটা আরো বাগাড়ম্বরপূর্ণ, প্রশ্ন বিশেষভাবে হল: "আমি কিভাবে যে প্রমাণ করতে পারেন , $\hat\beta_i$ " $\frac{\hat{\beta}_i - \beta_i} {s_{\hat{\beta}_i}} \sim t_{n-k}$

— ফায়ারবাগকে

26

বোঝার জন্য কেন আমরা টি-ডিস্ট্রিবিউশান ব্যবহার করেন, আপনি জানেন যে অন্তর্নিহিত বন্টন কি প্রয়োজন এবং বর্গের অবশিষ্ট সমষ্টি (এর ) এই দুই করা একসঙ্গে আপনি টি-ডিস্ট্রিবিউশান দিতে হবে। $\widehat{\beta}$ $RSS$

সহজ অংশ বিতরণের হয় যা সাধারন বন্টনের হয় - এই নোটটি দেখতে = তাই এটি একটি রৈখিক ফাংশন যেখানে । এর ফলে এটি স্বাভাবিকভাবে বিতরণ করা $\widehat{\beta}$ $\widehat{\beta}$ $(X^{T}X)^{-1}X^{T}Y$ $Y$ $Y\sim N(X\beta, \sigma^{2}I_{n})$ - আপনি বিতরণের আহরিত সাহায্যের প্রয়োজন হয় তাহলে আমাকে জানাতে । $\widehat{\beta} \sim N(\beta, \sigma^{2}(X^{T}X)^{-1})$ $\widehat{\beta}$

অতিরিক্তভাবে, , যেখানে হল পর্যবেক্ষণের সংখ্যা এবং হল আপনার প্রতিরোধে ব্যবহৃত পরামিতিগুলির সংখ্যা। এর প্রমাণটি আরও কিছুটা জড়িত, তবে সরাসরি প্রাপ্তও সরাসরি (এখানে প্রমাণ দেখুন কেন চিএস বর্গ বার এনপি বিতরণ করা হয়? )। $RSS \sim \sigma^{2}\chi^{2}_{n-p}$ $n$ $p$

আপ এই বিন্দু পর্যন্ত আমি ম্যাট্রিক্স / ভেক্টর স্বরলিপি সবকিছু বিবেচনা করেছেন, কিন্তু সরলতা ব্যবহারের জন্য চল এবং তার স্বাভাবিক বন্টন ব্যবহার যা আমাদের দিতে $\widehat{\beta}_{i}$

\frac{{\hat{β}}_{i} - β_{i}}{σ \sqrt{(X^{T} X)_{i i}^{- 1}}} \sim N (0, 1)

$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{\sigma\sqrt{(X^{T}X)^{-1}_{ii}}} \sim N(0,1) \end{equation}$

অতিরিক্তভাবে, এর চি-স্কোয়ার বিতরণ থেকে আমাদের তা রয়েছে: $RSS$

\frac{(n - p) s^{2}}{σ^{2}} \sim χ_{n - p}^{2}

$\begin{equation} \frac{(n-p)s^{2}}{\sigma^{2}} \sim \chi^{2}_{n-p} \end{equation}$

এটি কেবল প্রথম চি-স্কোয়ার এক্সপ্রেশনটির পুনরায় সাজানো ছিল এবং এটি । অতিরিক্তভাবে, আমরা সংজ্ঞায়িত করি $N(0,1)$ , যাজন্য একটি নিরপেক্ষ অনুমানক। সংজ্ঞামতেসংজ্ঞা যে একটি স্বাধীন চি-ছক (স্বাধীনতা তার ডিগ্রী বেশি) আপনি একটি টি-বন্টন (প্রমাণ দেখুন দেয় একটি সাধারণ বন্টনের বিভাজক:একটি স্বাভাবিক দ্বারা বিভক্ত $s^{2}=\frac{RSS}{n-p}$ $\sigma^{2}$ $t_{n-p}$ আপনাকে একটি টি-বিতরণ - প্রমাণ দেয় $\sqrt{\chi^2(s)/s}$ যা আপনি পান:

\frac{{\hat{β}}_{i} - β_{i}}{s \sqrt{(X^{T} X)_{i i}^{- 1}}} \sim t_{n - p}

$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{s\sqrt{(X^{T}X)^{-1}_{ii}}} \sim t_{n-p} \end{equation}$

Where $s\sqrt{(X^{T}X)^{-1}_{ii}}=SE(\widehat{\beta}_{i})$ .

Let me know if it makes sense.

— francium87d
সূত্র

what a great answer! could you please explain why

\frac{{\hat{β}}_{i} - β_{i}}{σ \sqrt{(X^{T} X)_{i i}^{- 1}}} \sim N (0, 1)

$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{\sigma\sqrt{(X^{T}X)^{-1}_{ii}}} \sim N(0,1) \end{equation}$ ?

— KingDingeling

4

The answer is actually very simple: you use t-distribution because it was pretty much designed specifically for this purpose.

Ok, the nuance here is that it wasn't designed specifically for the linear regression. Gosset came up with distribution of sample that was drawn from the population. For instance, you draw a sample $x_1,x_2,\dots,x_n$ , and calculate its mean $\bar x=\sum_{i=1}^n x_i/n$ . What is the distribution of a sample mean $\bar x$ ?

If you knew the true (population) standard deviation $\sigma$ , then you'd say that the variable $\xi=(\bar x-\mu)\sqrt n/\sigma$ is from the standard normal distribution $\mathcal N(0,1)$ . The trouble's that you usually do not know $\sigma$ , and can only estimate it $\hat\sigma$ . So, Gosset figured out the distribution when you substitute $\sigma$ with $\hat\sigma$ in the denominator, and the distribution is now called after his pseduonym "Student t".

The technicalities of linear regression lead to a situation where we can estimate the standard error $\hat\sigma_\beta$ of the coefficient estimate $\hat\beta$ , but we do not know the true $\sigma$ , therefore Student t distribution is applied here too.

— Aksakal
সূত্র