প্রমাণ যে এফ-পরিসংখ্যানগুলি এফ-বিতরণ অনুসরণ করে


20

এই প্রশ্নের আলোকে: প্রমাণ যে কোনও ওএলএস মডেলের সহগগুলি স্বাধীনতার (এনকে) ডিগ্রি সহ টি-বিতরণ অনুসরণ করে

আমি কেন বুঝতে চাই

এফ=(TSS-আরএসএস)/(পি-1)আরএসএস/(এন-পি),

যেখানে হল মডেল প্যারামিটারের সংখ্যা এবং পর্যবেক্ষণের সংখ্যা এবং মোট বৈকল্পিক, অবশিষ্টাংশগুলি, একটি বিতরণ অনুসরণ করে।পিএনটিএসএসআরএসএসএফপি-1,এন-পি

আমাকে অবশ্যই স্বীকার করতে হবে যে আমি এটি প্রমাণ করার চেষ্টাও করি নি কারণ আমি জানি না কোথা থেকে শুরু করব।


ক্রিস্টোফ হ্যাঙ্ক এবং ফ্রান্সিস ইতিমধ্যে একটি খুব ভাল উত্তর দিয়েছেন। লিনিয়ার রিগ্রেশন এর জন্য চ পরীক্ষার প্রমাণ বুঝতে আপনার যদি এখনও সমস্যা হয় তবে Teamdable.github.io/techblog/… চেকআউট করার চেষ্টা করুন । লিনিয়ার রিগ্রেশনের পক্ষে সেরাটির প্রমাণ সম্পর্কে আমি ব্লগ পোস্টটি লিখেছিলাম। এটি কোরিয়ান ভাষায় রচিত তবে এটি সমস্যা নাও হতে পারে কারণ এর প্রায় সবগুলিই গণিতের সূত্র। আমি আশা করি যদি লিনিয়ার রিগ্রেশন এর জন্য চ পরীক্ষার প্রমাণ বুঝতে এখনও আপনার অসুবিধা হয় তবে এটি সহায়তা করবে।
তাইহো ওহ

যদিও এই লিঙ্কটি প্রশ্নের উত্তর দিতে পারে, উত্তরের প্রয়োজনীয় অংশগুলি এখানে অন্তর্ভুক্ত করা এবং রেফারেন্সের জন্য লিঙ্কটি সরবরাহ করা ভাল। লিঙ্কযুক্ত পৃষ্ঠাগুলি পরিবর্তিত হলে লিঙ্ক-শুধুমাত্র উত্তরগুলি অবৈধ হতে পারে। - পর্যালোচনা থেকে
এমকেটি -

উত্তর:


19

আসল পরীক্ষার পরিসংখ্যানগুলির জন্য আপনার সূত্রটি একটি বিশেষ ক্ষেত্রে যার সাধারণ ক্ষেত্রে ফলাফলটি দেখান। সাধারণভাবে, আমাদের যাচাই করতে হবে যে পরিসংখ্যানগুলি F বন্টনের বৈশিষ্ট্যএফ অনুসারে স্বাধীন χ 2 এর অনুপাত হিসাবে লেখা যেতে পারেχ2 , স্বাধীনতার ডিগ্রি দ্বারা বিভক্ত ।

যাক এইচ0:আর'β=R সঙ্গে ও পরিচিত, nonrandom এবং পূর্ণ কলাম র্যাঙ্ক হয়েছে । এই প্রতিনিধিত্ব করে কুই (অসদৃশ Ops স্বরলিপি) জন্য রৈখিক বিধিনিষেধ ধ্রুবক মেয়াদ সহ regressors। সুতরাং, @ user1627466 এর উদাহরণে, P - 1 সাথে সঙ্গতিপূর্ণ কুই = - 1 শুন্যতে সব ঢাল কোফিসিয়েন্টস স্থাপনের সীমাবদ্ধতা।আরRআর:×কুইকুইকুইপি-1কুই=-1

পরিপ্রেক্ষিতে ভীএকটিR(β^OLS)=σ2(এক্স'এক্স)-1 , আমরা

আর'(β^OLS-β)~এন(0,σ2আর'(এক্স'এক্স)-1আর),
যাতে (সঙ্গে বি-1/2={আর'(এক্স'এক্স)-1আর}-1/2 একটি "ম্যাট্রিক্স বর্গমূল" হচ্ছেবি-1={আর'(এক্স'এক্স)-1আর}-1 মাধ্যমে, যেমন, একটি Cholesky পচানি)
এন: =বি-1/2σআর'(β^OLS-β)~এন(0,আমিকুই),
যেমন
ভীএকটিR(এন)=বি-1/2σআর'ভীএকটিR(β^OLS)আরবি-1/2σ=বি-1/2σσ2বিবি-1/2σ=আমি
যেখানে দ্বিতীয় লাইন ওলএসইয়ের বৈকল্পিকতা ব্যবহার করে।

এই যেমন দেখানো উত্তর আপনি এর প্রতি সংযোগ আছে (এছাড়াও দেখুন এখানে ), স্বাধীন

: =(এন-)σ^2σ2~χএন-2,
যেখানে σ 2=Y'এমএক্সY/(এন-)চলিত পক্ষপাতিত্বহীন ত্রুটি ভ্যারিয়েন্স অনুমান, সাথে আছেনএমএক্স=আমি-এক্স(এক্স'এক্স)-1এক্স'হয়এক্স এ পুনরায়চাপ দেওয়া থেকে "অবশিষ্টাংশ প্রস্তুতকারক ম্যাট্রিক্স"।σ^2=Y'এমএক্সY/(এন-)এমএক্স=আমি-এক্স(এক্স'এক্স)-1এক্স'এক্স

সুতরাং, যেমন এন'এন স্বাভাবিক হিসাবে একটি চতুর্ভুজ রূপ,

এন'এন~χকুই2/কুই/(এন-)=(β^OLS-β)'আর{আর'(এক্স'এক্স)-1আর}-1আর'(β^OLS-β)/কুইσ^2~এফকুই,এন-
বিশেষ করে, অধীনএইচ0:আর'β=R, এই পরিসংখ্যাত করার হ্রাস
এফ=(আর'β^OLS-R)'{আর'(এক্স'এক্স)-1আর}-1(আর'β^OLS-R)/কুইσ^2~এফকুই,এন-

চিত্রণ জন্য, বিশেষ ক্ষেত্রে বিবেচনা আর'=আমি , r=0 , q=2 , σ 2 = 1 এবং এক্স ' এক্স = আমি । তারপর, এফ = β ' OLS β OLS / 2 = β 2 OLS , 1 + + β 2 OLS , 2σ^2=1XX=I

F=β^olsβ^ols/2=β^ols,12+β^ols,222,
OLS ঔজ্জ্বল্যের প্রেক্ষাপটে এর স্কোয়ারড ইউক্লিডিয় দূরত্ব উৎপত্তি উপাদানের সংখ্যা দ্বারা প্রমিত থেকে অনুমান - যে হাইলাইট, যেহেতুβ2OLS,2মান লম্ব ছক করা হয় এবং অত: পরχ21,এফবন্টন "গড়পড়তা একটি হিসেবে দেখা যেতে পারেχ2বন্টন।β^ols,22χ12Fχ2

আপনি যদি একটি সামান্য সিমুলেশন পছন্দ করেন (যা অবশ্যই প্রমাণ হিসাবে নয়!), নাল পরীক্ষা করা হয় যে k রেজিস্ট্রারগুলির কোনওটাই বিবেচনা করে না - যা তারা প্রকৃতপক্ষে না, যাতে আমরা নাল বন্টন অনুকরণ করি।

এখানে চিত্র বর্ণনা লিখুন

আমরা তাত্ত্বিক ঘনত্ব এবং মন্টে কার্লো পরীক্ষার পরিসংখ্যানের হিস্টোগ্রামের মধ্যে খুব ভাল চুক্তি দেখতে পাই।

library(lmtest)
n <- 100
reps <- 20000
sloperegs <- 5 # number of slope regressors, q or k-1 (minus the constant) in the above notation
critical.value <- qf(p = .95, df1 = sloperegs, df2 = n-sloperegs-1) 
# for the null that none of the slope regrssors matter

Fstat <- rep(NA,reps)
for (i in 1:reps){
  y <- rnorm(n)
  X <- matrix(rnorm(n*sloperegs), ncol=sloperegs)
  reg <- lm(y~X)
  Fstat[i] <- waldtest(reg, test="F")$F[2] 
}

mean(Fstat>critical.value) # very close to 0.05

hist(Fstat, breaks = 60, col="lightblue", freq = F, xlim=c(0,4))
x <- seq(0,6,by=.1)
lines(x, df(x, df1 = sloperegs, df2 = n-sloperegs-1), lwd=2, col="purple")

প্রশ্ন এবং উত্তরের পরীক্ষার পরিসংখ্যানগুলির সংস্করণগুলি প্রকৃতপক্ষে সমতুল্য তা দেখতে নোটটি বিধিনিষেধের সাথে মিলে যায় তা লক্ষ করুন R=[0I] এবংr=0

যাক X=[X1X2] ভাগ করা হবে যার অনুসারে গুণফলগুলি শূন্যের নীচে শূন্যের মধ্যে সীমাবদ্ধ রয়েছে (আপনার ক্ষেত্রে, ধ্রুবক ব্যতীত সমস্ত কিছুই রয়েছে, তবে অনুসরণযোগ্য ব্যয়টি সাধারণ। এছাড়াও, দিন β OLS = ( β ' OLS , 1 , β ' OLS , 2 ) 'β^ols=(β^ols,1,β^ols,2) হতে উপযুক্ত বিভক্ত OLS ঔজ্জ্বল্যের প্রেক্ষাপটে অনুমান।

Rβ^ols=β^ols,2
আর ' β OLS = β OLS , 2 এবং
R(XX)1RD~,
নীচে ডান দিকে ব্লক
(এক্সটিএক্স)-1=(এক্স1'এক্স1এক্স1'এক্স2এক্স2'এক্স1এক্স2'এক্স2)-1(একজন~বি~সি~ডি~)
এখন, ˜ ডি =(এক্স2 এক্স2-এক্স2 এক্স1(এক্স1 এক্স1)-1এক্স1 এক্স2)প্রাপ্ত বিভাজনযুক্ত বিপরীতগুলির ফলাফলগুলি ব্যবহার করুন-1=(এক্স2 এম এক্স 1 এক্স2)
ডি~=(এক্স2'এক্স2-এক্স2'এক্স1(এক্স1'এক্স1)-1এক্স1'এক্স2)-1=(এক্স2'এমএক্স1এক্স2)-1
যেখানেএমএক্স1=আমি-এক্স1(এক্স1'এক্স1)-1এক্স1'

এফকুই

এফএনতোমার দর্শন লগ করামি=β^OLS,2'(এক্স2'এমএক্স1এক্স2)β^OLS,2
β^OLS,2=(এক্স2'এমএক্স1এক্স2)-1এক্স2'এমএক্স1Y
এফএনতোমার দর্শন লগ করামি=Y'এমএক্স1এক্স2(এক্স2'এমএক্স1এক্স2)-1(এক্স2'এমএক্স1এক্স2)(এক্স2'এমএক্স1এক্স2)-1এক্স2'এমএক্স1Y=Y'এমএক্স1এক্স2(এক্স2'এমএক্স1এক্স2)-1এক্স2'এমএক্স1Y

ইউএসএসআর-RSSR

RSSR=Y'এমএক্স1Y
Yএক্স1এইচ0টিএসএস=Σআমি(Yআমি-Y¯)2

ইউএসএসআর

এমএক্স1Yচালুএমএক্স1এক্স2

ইউএসএসআর=Y'এমএক্স1'এমএমএক্স1এক্স2এমএক্স1Y=Y'এমএক্স1'(আমি-পিএমএক্স1এক্স2)এমএক্স1Y=Y'এমএক্স1Y-Y'এমএক্স1এমএক্স1এক্স2((এমএক্স1এক্স2)'এমএক্স1এক্স2)-1(এমএক্স1এক্স2)'এমএক্স1Y=Y'এমএক্স1Y-Y'এমএক্স1এক্স2(এক্স2'এমএক্স1এক্স2)-1এক্স2'এমএক্স1Y

সুতরাং,

RSSR-ইউএসএসআর=Y'এমএক্স1Y-(Y'এমএক্স1Y-Y'এমএক্স1এক্স2(এক্স2'এমএক্স1এক্স2)-1এক্স2'এমএক্স1Y)=Y'এমএক্স1এক্স2(এক্স2'এমএক্স1এক্স2)-1এক্স2'এমএক্স1Y


ধন্যবাদ। আমি জানি না যে এটি এই মুহুর্তে হাত ধরে বিবেচিত হয়েছে তবে আপনি কীভাবে আপনার স্কোয়ার বিটার সমষ্টি থেকে স্কোয়ারের সমষ্টিযুক্ত একটি অভিব্যক্তিতে যাবেন?
ব্যবহারকারী1627466

1
@ ব্যবহারকারী ১62২66746666, আমি দুটি সূত্রের সমতুল্যের একটি ব্যয় যুক্ত করেছি।
ক্রিস্টোফ হ্যাঙ্ক

4

@ ক্রিসটফহ্যাঙ্ক একটি খুব বিস্তৃত উত্তর দিয়েছেন, এখানে আমি উল্লিখিত বিশেষ মামলায় প্রমাণের স্কেচ যুক্ত করব। আশা করি নতুনদের জন্য এটি অনুসরণ করা আরও সহজ।

ওয়াই~এফ1,2

ওয়াই=এক্স1/1এক্স2/2,
এক্স1~χ12এক্স2~χ22এফএফকানা অনুলিপি করুন~χপি-12আরএসএস~χএন-পি2

Y=এক্সβ+ +ε,
এক্সএন×পিε~এনএন(0,σ2আমি)এইচ=এক্স(এক্সটিএক্স)-1এক্সটিY^=এইচYএম=আমি-এইচএইচএমTR(এইচ)=পিএইচএক্স=এক্স

জে

TSS=Yটি(আমি-1এনজে)Y,আরএসএস=YটিএমY,কানা অনুলিপি করুন=Yটি(এইচ-1এনজে)Y
এম+ +(এইচ-জে/এন)+ +জে/এন=আমিজে/এনমর্যাদাক্রম(এম)+ +মর্যাদাক্রম(এইচ-জে/এন)+ +মর্যাদাক্রম(জে/এন)=এনএইচ-জে/এনএম(এইচ-জে/এন)=0

এফএফ

  1. এক্স~এনএন(μ,Σ)একজনRএকজনΣএক্সটিএকজনএক্স~χR2(μটিএকজনμ/2)χ2Rμটিএকজনμ/2 বালদেড়ির ফলাফলের
  2. এক্স~এনএন(μ,Σ)একজনΣবি=0এক্সটিএকজনএক্সএক্সটিবিএক্স

Y~এনএন(এক্সβ,σ2আমি)

কানা অনুলিপি করুনσ2=(Yσ)টি(এইচ-1এনজে)Yσ~χপি-12((এক্সβ)টি(এইচ-জেএন)এক্সβ)
β=0কানা অনুলিপি করুন/σ2~χপি-12YটিএমY=εটিএমεএইচএক্স=এক্সআরএসএস/σ2~χএন-পি2এম(এইচ-জে/এন)=0কানা অনুলিপি করুন/σ2আরএসএস/σ2
এফ=(TSS-আরএসএস)/(পি-1)আরএসএস/(এন-পি)=কানা অনুলিপি করুনσ2/(পি-1)আরএসএসσ2/(এন-পি)~এফপি-1,এন-পি
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.