গাউস-মার্কভ উপপাদ্য: নীল এবং ওএলএস

Question

আমি উইকিপিডিয়ায় গুয়াস-মার্কভ উপপাদ্যটি পড়ছি এবং আমি আশা করছিলাম যে কেউ আমাকে উপপাদ্যের মূল বিষয়টি বের করতে সহায়তা করতে পারে।

আমরা ম্যাট্রিক্স আকারে একটি রৈখিক মডেল ধরে নিয়েছি:

$$y = X\beta +\eta$$ এবং আমরা নীল খুঁজছি, $\widehat\beta$।

অনুযায়ী এই , আমি হবে শুধুমাত্র$\eta = y - X\beta$ "অবশিষ্ট" এবং $\varepsilon = \widehat\beta - \beta$ভূল". (অর্থাত গাউস-মার্কোভ পৃষ্ঠায় ব্যবহারের বিপরীতে)।

ওএলএস (সাধারণ সর্বনিম্ন-স্কোয়ারস) অনুমানকটি এর আরগমিন হিসাবে উত্পন্ন হতে পারে $||\text{residual}||_2^2 = ||\eta||_2^2$।

এখন, চলুন $\mathbb{E}$প্রত্যাশা অপারেটর চিহ্নিত করুন। আমার বোঝার জন্য, গাউস-মার্কভ উপপাদ্য আমাদের যা বলেছে তা হ'ল, যদি$\mathbb{E}(\eta) = 0$ এবং $\text{Var}(\eta) = \sigma^2 I$, তারপরে আরগমিন, সমস্ত লিনিয়ার, নিরপেক্ষ অনুমানক, এর উপর $\mathbb{E}(||\text{error}||_2^2) = \mathbb{E} (||\varepsilon||_2^2)$ ওএলএস অনুমানকারী হিসাবে একই অভিব্যক্তি দ্বারা দেওয়া হয়।

অর্থাত

$$\text{argmin}_{\text{} \widehat\beta(y)} \, ||\eta||_2^2 \;=\; (X'X)^{-1}X'y \;=\; \text{argmin}_{\text{linear, unbiased } \widehat\beta(y)} \, \mathbb{E}(||\varepsilon||_2^2)$$

আমার বোধগম্যতা কি সঠিক? এবং যদি তা হয় তবে আপনি কি বলবেন যে এটি নিবন্ধে আরও বেশি জোর দেওয়ার দাবি করেছে?

Answer 1

আমি আপনাকে সঠিকভাবে প্রশ্নটি বুঝতে পেরেছি কিনা তা নিশ্চিত নই, তবে আপনি যদি প্রমাণ করতে চাইছেন যে ওএলএস এর জন্য $\hat{\beta}$ নীচ (সেরা লিনিয়ার নিরপেক্ষ আনুষাঙ্গিক) আপনাকে নিম্নলিখিত দুটি জিনিস প্রমাণ করতে হবে: প্রথমটি $\hat{\beta}$ নিরপেক্ষ এবং দ্বিতীয় যে $Var(\hat{\beta})$ সমস্ত লিনিয়ার নিরপেক্ষ অনুমানকারী মধ্যে সবচেয়ে ছোট।

ওএলএসের অনুমানকারী পক্ষপাতহীন থাকার প্রমাণটি এখানে পাওয়া যাবে http://economictheoryblog.com/2015/02/19/ols_estimator/

এবং প্রমাণ যে $Var(\hat{\beta})$সকল লিনিয়ার নিরপেক্ষ অনুমানকারীগুলির মধ্যে সবচেয়ে ছোট এটি এখানে পাওয়া যাবে http://economictheoryblog.com/2015/02/26/markov_theorem/

Comments

প্রমাণগুলি হ্যাঁ, সহায়ক।

— প্যাট্রিক

Answer 2

It seems my hunch was correct indeed, as confirmed, e.g. on page 375 of the book Introductory Econometrics. Relevant excerpt:

Comments

আপনার উত্তরটি ভবিষ্যতে অন্যদের জন্য সহায়ক হতে পারে বলে দয়া করে আরও কিছু লিখুন।

— টিম

আপনার লিঙ্কটি নষ্ট হয়ে গেছে।

— গ্লেন_বি -রিনস্টেট মনিকা