আরএসএস চি বর্গ বার এনপি বিতরণ করা হয় কেন?

আমি বুঝতে চাই কেন ওএলএস মডেলের অধীনে আরএসএসকে (বর্গক্ষেত্রের অবশিষ্টাংশ) বিতরণ করা হয় ( মডেলের পরামিতিগুলির সংখ্যা, পর্যবেক্ষণের সংখ্যা))।

χ^{2} \cdot (n - p)

$\chi^2\cdot (n-p)$

p

$p$

n

$n$

আমি এই ধরনের একটি প্রাথমিক প্রশ্ন জিজ্ঞাসা করার জন্য ক্ষমা চাইছি, তবে আমি মনে করি যে উত্তরটি অনলাইনে (বা আমার, আরও অ্যাপ্লিকেশন ভিত্তিক, পাঠ্যপুস্তকে) পাওয়া যাবে না।

regression distributions least-squares

— তাল গালিলি
সূত্র

নোট করুন যে উত্তরগুলি দৃ as়তার সাথে প্রমাণ করে যে ঠিক মত নয়: আরএসএসের বিতরণটি ( নয় ) বার বিতরণ যেখানে ত্রুটির প্রকৃত বৈকল্পিক।

σ^{2}

$\sigma^2$

n - p

$n-p$

χ^{2} (n - p)

$\chi^2(n-p)$

σ^{2}

$\sigma^2$

— হোয়বার

উত্তর:

আমি নিম্নলিখিত লিনিয়ার মডেলটি বিবেচনা করি: । ${y} = X \beta + \epsilon$

অবশিষ্টাংশের ভেক্টর দ্বারা অনুমান করা হয়

\hat{ϵ} = y - X \hat{β} = (I - X (X^{'} X)^{- 1} X^{'}) y = Q y = Q (X β + ϵ) = Q ϵ

$\hat{\epsilon} = y - X \hat{\beta} = (I - X (X'X)^{-1} X') y = Q y = Q (X \beta + \epsilon) = Q \epsilon$

যেখানে । $Q = I - X (X'X)^{-1} X'$

লক্ষ্য করুন যে (ট্রেসটি চক্রীয় ) এবং সেই । এর ইগেনালুগুলি এবং (নীচে কিছু বিশদ)। সুতরাং, একটি ইউনিটরি ম্যাট্রিক্স বিদ্যমান রয়েছে ( ম্যাট্রিকগুলি একক ম্যাট্রিকগুলি দ্বারা তির্যক হয় যদি কেবল এবং যদি তারা স্বাভাবিক হয় তবেই )) $\textrm{tr}(Q) = n - p$ $Q'=Q=Q^2$ $Q$ $0$ $1$ $V$

V^{'} Q V = Δ = diag (\underset{n - p times}{\underset{⏟}{1, \dots, 1}}, \underset{p times}{\underset{⏟}{0, \dots, 0}})

$V'QV = \Delta = \textrm{diag}(\underbrace{1, \ldots, 1}_{n-p \textrm{ times}}, \underbrace{0, \ldots, 0}_{p \textrm{ times}})$

আসুন, এখন । $K = V' \hat{\epsilon}$

যেহেতু , আমাদের এবং অতএব । এইভাবে $\hat{\epsilon} \sim N(0, \sigma^2 Q)$ $K \sim N(0, \sigma^2 \Delta)$ $K_{n-p+1}=\ldots=K_n=0$

\frac{‖ K ‖^{2}}{σ^{2}} = \frac{‖ K^{⋆} ‖^{2}}{σ^{2}} \sim χ_{n - p}^{2}

$\frac{\|K\|^2}{\sigma^2} = \frac{\|K^{\star}\|^2}{\sigma^2} \sim \chi^2_{n-p}$

সঙ্গে । $K^{\star} = (K_1, \ldots, K_{n-p})'$

আরও, যেমন একক ম্যাট্রিক্স, আমাদেরও আছে $V$

‖ \hat{ϵ} ‖^{2} = ‖ K ‖^{2} = ‖ K^{⋆} ‖^{2}

$\|\hat{\epsilon}\|^2 = \|K\|^2=\|K^{\star}\|^2$

এইভাবে

\frac{RSS}{σ^{2}} \sim χ_{n - p}^{2}

$\frac{\textrm{RSS}}{\sigma^2} \sim \chi^2_{n-p}$

পরিশেষে, দেখুন যে এই ফলাফলটি বোঝায়

E (\frac{RSS}{n - p}) = σ^{2}

$E\left(\frac{\textrm{RSS}}{n-p}\right) = \sigma^2$

যেহেতু , ন্যূনতম বহুপদী এর বহুপদী ভাগ । সুতরাং, এর ইগেনালুগুলি এবং এর মধ্যে রয়েছে । যেহেতু এছাড়াও তাদের সংখ্যাবৃদ্ধি দ্বারা গুণিত ইগেনভ্যালুগুলির যোগফল, তাই আমাদের অগত্যা যে টি একটি বহুগুণ সহ একটি আদিমূল্য এবং শূন্যটি বহুগুণ সহ একটি আদিমূল্য । $Q^2 - Q =0$ $Q$ $z^2 - z$ $Q$ $0$ $1$ $\textrm{tr}(Q) = n-p$ $1$ $n-p$ $p$

— ocram
সূত্র

(+1) ভাল উত্তর। এক ঐকিক, পরিবর্তে লম্ব মনোযোগ সীমিত করতে পারে যেহেতু বাস্তব এবং প্রতিসম হয়। এছাড়াও, কী? আমি এটি সংজ্ঞায়িত দেখতে পাচ্ছি না। যুক্তিটিকে কিছুটা উদ্দীপ্ত করে, একজন অবক্ষয়যুক্ত স্বাভাবিক ব্যবহার এড়াতে পারে, যদি এর সাথে পরিচিত না হয় তবে তাদের মধ্যে কিছুটা বাধা সৃষ্টি হয়।

V

$V$

Q

$Q$

S C R

$\mathrm{SCR}$

— কার্ডিনাল

@Cardinal। ভাল যুক্তি. এসসিআর (ফরাসী ভাষায় 'সোমমে দেস ক্যারিস রাসুয়েলস') আরএসএস হওয়া উচিত ছিল।

— ocram

বিস্তারিত উত্তর ওক্রমের জন্য আপনাকে ধন্যবাদ! কিছু পদক্ষেপের জন্য আমাকে আরও সন্ধান করা প্রয়োজন, তবে আমার এখনই ভাবার জন্য একটি রূপরেখা রয়েছে - ধন্যবাদ!

— তাল গ্যালিলি

@ গ্লেন_বি: ওহ, আমি এসআরসিআরআরআরআরআরআরআরআর এআরআরআরএস এ পরিবর্তন করতে কয়েক দিন আগে একটি সম্পাদনা করেছি। আমার মন্তব্যে এসসিআর উল্লেখ করা আছে তা আমি মনে করি নি। বিভ্রান্তির জন্য দুঃখিত.

— অক্টোবরে

@ গ্লেন_ বি: এর অর্থ আরএসএস বোঝার কথা ছিল: -এস আবার সম্পাদিত। Thx

— অক্টোবরে

আইএমএইচও, ম্যাট্রিকের স্বরলিপি এপসিলন জিনিসগুলিকে জটিল করে তোলে । খাঁটি ভেক্টর স্পেস ল্যাঙ্গুয়েজ ক্লিনার। মডেলটি written লেখা যেতে পারে যেখানে the এ স্ট্যান্ডার্ড নরমাল ডিস্ট্রিবিউটন রয়েছে এবং একটি ভেক্টর সাবস্পেস অন্তর্গত । । $Y=X\beta+\epsilon$ $\boxed{Y=\mu + \sigma G}$ $G$ $\mathbb{R}^n$ $\mu$ $W \subset \mathbb{R}^n$

এখন প্রাথমিক জ্যামিতির ভাষা কার্যকর হয়। লিস্ট স্কোয়ারগুলির মূল্নির্ধারক এর কিছুই কিন্তু : পর্যবেক্ষণযোগ্য এর লম্ব অভিক্ষেপ স্থান যা অধিকৃত হয় অন্তর্গত হয়। অবশিষ্টাংশ বাহক লম্ব সম্পূরক উপর অভিক্ষেপ: এর মধ্যে । মাত্রা হ'ল । $\hat\mu$ $\mu$ $P_WY$ $Y$ $W$ $\mu$ $P^\perp_WY$ $W^\perp$ $W$ $\mathbb{R^n}$ $W^\perp$ $\dim(W^\perp)=n-\dim(W)$

অবশেষে, এবং উপর আদর্শ সাধারন বন্টনের হয়েছে , অত তার স্কোয়ারড আদর্শ রয়েছে সঙ্গে বন্টন স্বাধীন ডিগ্রীগুলির।

P_{W}^{⊥} Y = P_{W}^{⊥} (μ + σ G) = 0 + σ P_{W}^{⊥} G,

$P^\perp_WY = P^\perp_W(\mu + \sigma G) = 0 + \sigma P^\perp_WG,$

P_{W}^{⊥} G

$P^\perp_WG$

W^{⊥}

$W^\perp$

χ^{2}

$\chi^2$

\dim (W^{⊥})

$\dim(W^\perp)$

এই বিক্ষোভটি শুধুমাত্র একটি উপপাদ্য ব্যবহার করে, আসলে একটি সংজ্ঞা-উপপাদ্য:

সংজ্ঞা এবং উপপাদ্য । এ একটি এলোমেলো ভেক্টরের একটি ভেক্টর স্পেস এ স্ট্যান্ডার্ড স্বাভাবিক বিতরণ থাকে যদি এটি এর মান এবং এর স্থানাঙ্কগুলিকে এক ( all all in ) ভিত্তিতে নেয় এর স্বাধীন এক-মাত্রিক আদর্শ স্বাভাবিক ডিস্ট্রিবিউশন হয় $\mathbb{R}^n$ $U \subset \mathbb{R}^n$ $U$ $\iff$ $U$

(এই সংজ্ঞা-উপপাদ্য থেকে, কোচরানের উপপাদ্যটি এতটাই সুস্পষ্ট যে এটি বর্ণনা করার মতো নয়)

— স্টাফেন লরেন্ট
সূত্র