কেন একজন মিলেছে বিদ্যমান জোড়া জন্য স্বাধীন ডিগ্রীগুলির হয় জোড়া বিয়োগ 1 সংখ্যা -test?

হিসাবে "স্বাধীনতার ডিগ্রি" জানার জন্য আমি , যেখানে আপনার রৈখিক মডেল রয়েছে with , র‌্যাঙ্ক সাথে নকশার ম্যাট্রিক্স , , সাথে , । $n - r$

y = X β + ϵ

$\mathbf{y} = \mathbf{X}\boldsymbol{\beta} + \boldsymbol{\epsilon}$

y \in R^{n}

$\mathbf{y} \in \mathbb{R}^n$

X \in M_{n \times p} (R)

$\mathbf{X} \in M_{n \times p}(\mathbb{R})$

r

$r$

β \in R^{p}

$\boldsymbol{\beta} \in \mathbb{R}^p$

ϵ \in R^{n}

$\boldsymbol{\epsilon} \in \mathbb{R}^n$

ϵ \sim N (0, σ^{2} I_{n})

$\boldsymbol{\epsilon} \sim \mathcal{N}(\mathbf{0}, \sigma^2 \mathbf{I}_n)$

σ^{2} > 0

$\sigma^2 > 0$

আমি প্রাথমিক পরিসংখ্যানগুলির যা মনে করি (যেমন, লিনিয়ার বীজগণিত সহ প্রাক-লিনিয়ার মডেলগুলি), মিলিত-জোড়া $t$ টেষ্টের জন্য স্বাধীনতার ডিগ্রিগুলি হ'ল পার্থক্য সংখ্যা বিয়োগ এর সংখ্যা $1$ । সুতরাং $\mathbf{X}$ সম্ভবত 1 র‌্যাঙ্ক থাকার লাগবে । এটা কি সঠিক? যদি না হয়, কেন $n-1$ মিলেছে-জোড়া জন্য স্বাধীন ডিগ্রীগুলির $t$ -test?

প্রসঙ্গটি বুঝতে, ধরুন আমার কাছে মিশ্র-ইফেক্টের মডেল

y_{i j k} = μ_{i} + some random effects + e_{i j k}

$y_{ijk} = \mu_i + \text{ some random effects} + e_{ijk}$ যেখানে

i = 1, 2

$i = 1, 2$ ,

j = 1, \dots, 8

$j = 1, \dots, 8$ এবং

k = 1, 2

$k = 1, 2$ । এটি একটি স্থির প্রভাব ছাড়া

সম্পর্কে বিশেষ কিছু নেই

μ_{i}

$\mu_i$ এবং

e_{i j k} \overset{i i d}{\sim} N (0, σ_{e}^{2})

$e_{ijk} \overset{iid}{\sim}\mathcal{N}(0, \sigma^2_e)$ । আমি ধরে নিচ্ছি যে এলোমেলো প্রভাবগুলি এই সমস্যার সাথে অপ্রাসঙ্গিক, কারণ আমরা কেবলমাত্র এই ক্ষেত্রে স্থির প্রভাবগুলিই যত্নশীল care

আমি জন্য একটি আত্মবিশ্বাসের ব্যবধান সরবরাহ করতে চাই $\mu_1 - \mu_2$ ।

আমি ইতিমধ্যে দেখিয়েছি যে $\bar{d}_\cdot = \dfrac{1}{8}\sum d_j$ একটি 2 এর একটি নিরপেক্ষ $\mu_1 - \mu_2$ , যেখানে $d_j = \bar{y}_{1j\cdot} - \bar{y}_{2j\cdot}$ , $\bar{y}_{1j\cdot} = \dfrac{1}{2}\sum_{k}y_{1jk}$ , এবং $\bar{y}_{21\cdot}$ একইভাবে সংজ্ঞায়িত করা হয়েছে। বিন্দু অনুমান $\bar{d}_{\cdot}$ গণনা করা হয়েছে।

আমি ইতিমধ্যে দেখিয়েছি যে

s_{d}^{2} = \frac{\sum_{j} (d_{j} - {\bar{d}}_{\cdot})^{2}}{8 - 1}

$s^2_d = \dfrac{\sum_{j}(d_j - \bar{d}_{\cdot})^2}{8-1}$ হল

এর বৈকল্পিকতার একটি নিরপেক্ষ

d_{j}

$d_j$ এবং এভাবে

\sqrt{\frac{s_{d}^{2}}{8}}

$\sqrt{\dfrac{s^2_d}{8}}$ মান ত্রুটি

{\bar{d}}_{\cdot}

$\bar{d}_{\cdot}$ । এটি গণনা করা হয়েছে।

এখন শেষ অংশটি স্বাধীনতার ডিগ্রিগুলি নির্ধারণ করছে। এই পদক্ষেপের জন্য, আমি সাধারণত ডিজাইনের ম্যাট্রিক্সটি সন্ধান করার চেষ্টা করি - যা স্পষ্টতই র‌্যাঙ্ক 2 - তবে আমার কাছে এই সমস্যার সমাধান রয়েছে এবং এটি বলে যে স্বাধীনতার ডিগ্রি । $8-1$

ডিজাইনের ম্যাট্রিক্সের র‌্যাঙ্ক সন্ধানের প্রসঙ্গে, স্বাধীনতার ডিগ্রি কেন ? $8-1$

যুক্ত করতে সম্পাদিত: পরীক্ষার পরিসংখ্যানকে কীভাবে সংজ্ঞায়িত করা হয় তা এই আলোচনায় সম্ভবত সহায়ক। ধরুন আমি একটি প্যারামিটার ভেক্টর আছে । এই ক্ষেত্রে, (যতক্ষণ না আমি পুরোপুরি কিছু মিস করছি)। আমরা মূলত হাইপোথিসিস পরীক্ষাটি করছি যেখানে । তারপরে, পরীক্ষার পরিসংখ্যানটি th সাথে কেন্দ্রীয় বিতরণের বিরুদ্ধে পরীক্ষা করা হবে $\boldsymbol{\beta}$

β = [\begin{matrix} μ_{1} \\ μ_{2} \end{matrix}]

$\boldsymbol{\beta} = \begin{bmatrix} \mu_1 \\ \mu_2 \end{bmatrix}$

c^{'} β = 0

$\mathbf{c}^{\prime}\boldsymbol{\beta} = 0$

c^{'} = [\begin{matrix} 1 & - 1 \end{matrix}]

$\mathbf{c}^{\prime} = \begin{bmatrix} 1 & -1 \end{bmatrix}$

t = \frac{c^{'} \hat{β}}{\sqrt{{\hat{σ}}^{2} c^{'} (X^{'} X)^{- 1} c}}

$t = \dfrac{c^{\prime}\hat{\boldsymbol{\beta}}}{\sqrt{\hat{\sigma}^2c^{\prime}(\mathbf{X}^{\prime}\mathbf{X})^{-1}\mathbf{c}}}$

t

$t$

n - r

$n - r$ স্বাধীনতার ডিগ্রি, যেখানে as হ'ল উপরের মতো ডিজাইন ম্যাট্রিক্স এবং যেখানে ।

X

$\mathbf{X}$

{\hat{σ}}^{2} = \frac{y^{'} (I - P_{X}) y}{n - r}

$\hat{\sigma}^2 = \dfrac{\mathbf{y}^{\prime}(\mathbf{I}-\mathbf{P}_{\mathbf{X}})\mathbf{y}}{n-r}$

P_{X} = X (X^{'} X)^{- 1} X^{'}

$\mathbf{P}_{\mathbf{X}} = \mathbf{X}(\mathbf{X}^{\prime}\mathbf{X})^{-1}\mathbf{X}^{\prime}$

t-test degrees-of-freedom

— Clarinetist
সূত্র

উত্তর:

মিলেছে-জোড়া সঙ্গে -test জোড়া আসলে শুধু একটি এক নমুনা আকারের একটি নমুনা সঙ্গে -test । আপনার কাছে পার্থক্য , এবং এই IID এবং সাধারনত বিতরণ করা হয়। পর প্রথম কলামটি হয়েছে $t$ $n$ $t$ $n$ $n$ $d_1,\ldots,d_n$

\begin{array}{ccccc} [\begin{matrix} d_{1} \\ ⋮ \\ d_{n} \end{matrix}] & = & [\begin{matrix} \bar{d} \\ ⋮ \\ \bar{d} \end{matrix}] & + & [\begin{matrix} d_{1} - \bar{d} \\ ⋮ \\ d_{1} - \bar{d} \end{matrix}] \\ n d.f. & 1 d.f. & (n - 1) d.f. \end{array}

$\begin{array}{ccccc} \begin{bmatrix} d_1 \\ \vdots \\ d_n \end{bmatrix} & = & \begin{bmatrix} \bar d \\ \vdots \\ \bar d \end{bmatrix} & + & \begin{bmatrix} d_1 - \bar d \\ \vdots \\ d_1 - \bar d \end{bmatrix} \\[10pt] n \text{ d.f.} & & 1 \text{ d.f.} & & (n-1) \text{ d.f.} \end{array}$

“ =''

$\text{“}{=}\text{''}$

1

$1$ লিনিয়ার সীমাবদ্ধতার কারণে স্বাধীনতার ডিগ্রি বলে যে সমস্ত এন্ট্রি সমান; দ্বিতীয়টিতে লিনিয়ার সীমাবদ্ধতার কারণে স্বাধীনতার ডিগ্রি রয়েছে যা বলে যে এন্ট্রিগুলির যোগফল ।

n - 1

$n-1$

0

$0$

— মাইকেল হার্ডি
সূত্র

সুতরাং, অন্য কথায়, এখানে আমাদের এখানে ডিগ্রি স্বাধীনতার কারণ লিনিয়ার মডেল do এর সাথে কিছুই করার নেই ?

n - 1

$n-1$

y = X β + ϵ

$\mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\boldsymbol{\epsilon}$

— Clarinetist

এটা যে মডেল, যেখানে ম্যাট্রিক্স সঙ্গে কি আছে এর একটি কলাম হয় s এবং একটি ম্যাট্রিক্স যার শুধুমাত্র এন্ট্রি দুই জনসংখ্যা মানে মধ্যে পার্থক্য।

X

$\mathbf X$

1

$1$

β

$\boldsymbol{\beta}$

1 \times 1

$1\times1$

$\qquad$

— মাইকেল হার্ডি

আহা! সুতরাং আপনার ভেক্টরটি s এর সেই ভেক্টর হবে , সঠিক? আপনাকে অনেক ধন্যবাদ! আমি বিশ্বাস করতে পারি না যে এর পক্ষে উত্তর খুঁজে পাওয়া কতটা কষ্টসাধ্য ছিল!

y

$\mathbf{y}$

d_{i}

$d_i$

— ক্লারিনেটিস্ট 14

হ্যাঁ. এটা তোলে পর্যবেক্ষিত পার্থক্যের ভেক্টর এর মিলেছে জোড়া।

n

$n$

$\qquad$

— মাইকেল হার্ডি

আমার প্রশ্নের উত্তর দেওয়ার জন্য মাইকেল হার্ডিকে অনেক অনেক ধন্যবাদ ।

ধারণাটি হ'ল আসুন এবং । তারপরে আমাদের লিনিয়ার মডেলটি হ'ল যেখানে সকলের ভেক্টর এবং অবশ্যই rank এর র‌্যাঙ্ক , সুতরাং আমাদের কাছে স্বাধীনতার ডিগ্রি রয়েছে ।

y = [\begin{matrix} d_{1} \\ ⋮ \\ d_{n} \end{matrix}]

$\mathbf{y} = \begin{bmatrix} d_1 \\ \vdots \\ d_n \end{bmatrix}$

β = [μ_{1} - μ_{2}]

$\boldsymbol{\beta} = [\mu_1 - \mu_2]$

y = 1_{n \times 1} β + ϵ

$\mathbf{y} = \mathbf{1}_{n \times 1}\boldsymbol{\beta} + \boldsymbol{\epsilon}$

1_{n \times 1}

$\mathbf{1}_{n \times 1}$

n

$n$

ϵ = [\begin{matrix} ϵ_{1} \\ ⋮ \\ ϵ_{n} \end{matrix}] \sim N (0, σ^{2} I_{n}) .

$\boldsymbol{\epsilon} = \begin{bmatrix} \epsilon_1 \\ \vdots \\ \epsilon_n \end{bmatrix} \sim \mathcal{N}(\mathbf{0}, \sigma^2\mathbf{I}_n)\text{.}$

X = 1_{n \times 1}

$\mathbf{X} = \mathbf{1}_{n \times 1}$

1

$1$

n - 1

$n-1$

আমরা কীভাবে সমান সেট করতে পারি ? মনে রাখবেন যে এবং এটি সহজেই দেখা যায়, জন্য । আমাদের দেওয়া , obvious what কী হওয়া উচিত তা স্পষ্ট । এই কারণ $\boldsymbol{\beta}$ $[\mu_1 - \mu_2]$

E [y] = X β

$\mathbb{E}[\mathbf{y}] = \mathbf{X}\boldsymbol{\beta}$

E [d_{j}] = μ_{1} - μ_{2}

$\mathbb{E}[d_j] = \mu_1 - \mu_2$

j

$j$

X

$\mathbf{X}$

β

$\boldsymbol{\beta}$

E [y] = E [[\begin{matrix} d_{1} \\ ⋮ \\ d_{n} \end{matrix}]] = [\begin{matrix} E [d_{1}] \\ ⋮ \\ E [d_{n}] \end{matrix}] = [\begin{matrix} μ_{1} - μ_{2} \\ ⋮ \\ μ_{1} - μ_{2} \end{matrix}] = X β = 1_{n \times 1} β = [\begin{matrix} 1 \\ ⋮ \\ 1 \end{matrix}] β

$\mathbb{E}[\mathbf{y}] = \mathbb{E}\left[\begin{bmatrix} d_1 \\ \vdots \\ d_n \end{bmatrix} \right] = \begin{bmatrix} \mathbb{E}[d_1] \\ \vdots \\ \mathbb{E}[d_n] \end{bmatrix} = \begin{bmatrix} \mu_1 - \mu_2 \\ \vdots \\ \mu_1 - \mu_2 \end{bmatrix} = \mathbf{X}\boldsymbol\beta = \mathbf{1}_{n \times 1}\boldsymbol\beta = \begin{bmatrix} 1 \\ \vdots \\ 1 \end{bmatrix}\boldsymbol\beta$ সুতরাং সাথে ম্যাট্রিক্স হওয়া উচিত ।

β

$\boldsymbol\beta$

1 \times 1

$1 \times 1$

β = [μ_{1} - μ_{2}]

$\boldsymbol\beta = [\mu_1 - \mu_2]$

সেট করুন । তারপরে আমাদের হাইপোথিসিস পরীক্ষাটি আমাদের পরীক্ষার পরিসংখ্যানটি এইভাবে আমাদের work কিছু কাজ করার পরে, এটি দেখানো যেতে পারে যে এটিও দেখানো যেতে পারে যে $\mathbf{c}^{\prime} = [1]$

H_{0} : c^{'} β = 0 .

$H_0: \mathbf{c}^{\prime}\boldsymbol{\beta} = 0\text{.}$

\frac{c^{'} \hat{β}}{\sqrt{{\hat{σ}}^{2} c^{'} {(X^{'} X)}^{- 1} c}} .

$\dfrac{\mathbf{c}^{\prime}\hat{\boldsymbol{\beta}}}{\sqrt{\hat{\sigma}^2\mathbf{c}^{\prime}\left(\mathbf{X}^{\prime}\mathbf{X}\right)^{-1}\mathbf{c}}}\text{.}$

{\hat{σ}}^{2} = \frac{y^{'} (I - P_{X}) y}{n - r (X)} .

$\hat{\sigma}^2 = \dfrac{\mathbf{y}^{\prime}(\mathbf{I}-\mathbf{P}_{\mathbf{X}})\mathbf{y}}{n-r(\mathbf{X})}\text{.}$

P_{X} = P_{1_{n \times 1}} = 1_{n \times 1} (\frac{1}{n}) 1^{'} .

$\mathbf{P}_\mathbf{X} = \mathbf{P}_{\mathbf{1}_{n \times 1}} = \mathbf{1}_{n \times 1}\left(\dfrac{1}{n}\right)\mathbf{1}^{\prime}\text{.}$

I - P_{X}

$\mathbf{I}-\mathbf{P}_{\mathbf{X}}$ প্রতিসম এবং আদর্শবান। সুতরাং, এবং

\begin{aligned} {\hat{σ}}^{2} & = \frac{y^{'} (I - P_{X}) y}{n - r (X)} \\ = \frac{y^{'} (I - P_{X})^{'} (I - P_{X}) y}{n - r (X)} \\ = \frac{‖ (I - P_{X}) y ‖^{2}}{n - r (X)} \\ = \frac{{‖ [I - 1_{n \times 1} (\frac{1}{n}) 1^{'}] y ‖}^{2}}{n - 1} \\ = \frac{{‖ [\begin{matrix} d_{1} \\ ⋮ \\ d_{n} \end{matrix}] - [\begin{matrix} {\bar{d}}_{\cdot} \\ ⋮ \\ {\bar{d}}_{\cdot} \end{matrix}] ‖}^{2}}{n - 1} \\ = \frac{\sum_{i = 1}^{n} (d_{i} - {\bar{d}}_{\cdot})^{2}}{n - 1} \\ = s_{d}^{2} \end{aligned}

$\begin{align} \hat{\sigma}^2 &= \dfrac{\mathbf{y}^{\prime}(\mathbf{I}-\mathbf{P}_{\mathbf{X}})\mathbf{y}}{n-r(\mathbf{X})} \\ &= \dfrac{\mathbf{y}^{\prime}(\mathbf{I}-\mathbf{P}_{\mathbf{X}})^{\prime}(\mathbf{I}-\mathbf{P}_{\mathbf{X}})\mathbf{y}}{n-r(\mathbf{X})} \\ &= \dfrac{\|(\mathbf{I}-\mathbf{P}_{\mathbf{X}})\mathbf{y}\|^{2}}{n-r(\mathbf{X})} \\ &=\dfrac{\left\|\left[\mathbf{I}-\mathbf{1}_{n \times 1}\left(\dfrac{1}{n}\right)\mathbf{1}^{\prime}\right]\mathbf{y} \right\|^2}{n-1} \\ &= \dfrac{\left\|\begin{bmatrix} d_1 \\ \vdots \\ d_n \end{bmatrix} - \begin{bmatrix} \bar{d}_\cdot \\ \vdots \\ \bar{d}_\cdot \end{bmatrix} \right\|^2}{n-1} \\ &= \dfrac{\sum_{i=1}^{n}(d_i-\bar{d}_{\cdot})^2}{n-1} \\ &= s^2_d \end{align}$

X^{'} X = 1_{n \times 1}^{'} 1_{n \times 1} = n

$\mathbf{X}^{\prime}\mathbf{X} = \mathbf{1}_{n \times 1}^{\prime}\mathbf{1}_{n \times 1} = n$ যা অবশ্যই আছে বিপরীত , এইভাবে একটি পরীক্ষার পরিসংখ্যান দিচ্ছে যা কেন্দ্রীয় বিতরণে ডিগ্রি সহ পরীক্ষা করা হবে স্বাধীনতা হিসাবে কাঙ্ক্ষিত।

1 / n

$1/n$

\frac{{\hat{μ}}_{1} - {\hat{μ}}_{2}}{\sqrt{s_{d}^{2} / n}}

$\dfrac{\hat\mu_1-\hat\mu_2}{\sqrt{s^2_d/n}}$

t

$t$

n - 1

$n - 1$

— Clarinetist
সূত্র