লিনিয়ার রিগ্রেশন মডেল থেকে ভেরিয়েন্স কোভারিয়েন্স ম্যাট্রিক্স গণনা করতে একবাক্য মান পচন ব্যবহার করা

Question

আমার কাছে পি রেজিস্ট্রারগুলির একটি ডিজাইনের ম্যাট্রিক্স রয়েছে, এন পর্যবেক্ষণগুলি রয়েছে এবং আমি পরামিতিগুলির নমুনা ভেরিয়েন্স-কোভারিয়েন্স ম্যাট্রিক্স গণনা করার চেষ্টা করছি। আমি এসভিডি ব্যবহার করে এটি সরাসরি গণনা করার চেষ্টা করছি।

আমি আর ব্যবহার করছি, যখন আমি ডিজাইনের ম্যাট্রিক্সের এসভিডি নেব, তখন আমি তিনটি উপাদান পেয়েছি: একটি ম্যাট্রিক্স যা , একটি ম্যাট্রিক্স যা (সম্ভবতঃ এগেনভ্যালু), এবং একটি ম্যাট্রিক্স যা । আমি diagonalized , এটি একটি উপার্জন অফ-কর্ণ 0 এর সঙ্গে ম্যাট্রিক্স।$U$$n \times p$$D$$1\times 3$$V$$3\times 3$$D$$3\times 3$

মনে করা হয়, সমবায়নের সূত্রটি হ'ল: , তবে ম্যাট্রিক্সটি মেলে না, এমনকি এটি আর-এর কার্যকরীভাবে তৈরির কাছাকাছিও নয় ,। কারও কি কোন পরামর্শ / রেফারেন্স আছে? আমি স্বীকার করি যে এই ক্ষেত্রে আমি কিছুটা দক্ষ নয়।$V D^2 V'$vcov

Answer 1

প্রথমে মনে রাখবেন যে লিনিয়ার-রিগ্রেশন মডেলের মাল্টিভিয়ারেট স্বাভাবিকতার অনুমানের অধীনে আমাদের কাছে সেই

$$\hat{\beta} \sim \mathcal{N}( \beta, \sigma^2 (X^T X)^{-1} ) .$$

এখন, যদি যেখানে ডান হাতের অংশটি X এর এসভিডি হয়, তবে আমরা সেই । সুতরাং, $X = U D V^T$$X^T X = V D U^T U D V = V D^2 V^T$

$$(X^T X)^{-1} = V D^{-2} V^T .$$

আমরা এখনও বৈকল্পিকের অনুমানটি নিখোঁজ করছি, যা

$$\hat{\sigma}^2 = \frac{1}{n - p} (y^T y - \hat{\beta}^T X^T y) .$$

যদিও আমি চেক করেন নি, আশা vcov আয় ।$\hat{\sigma}^2 V D^{-2} V^T$

দ্রষ্টব্য: আপনি লিখেছেন , যা , তবে আমাদের ভেরিয়েন্স-কোভারিয়েন্স ম্যাট্রিক্সের জন্য বিপরীত প্রয়োজন। এছাড়াও লক্ষ করুন যে , এই গণনাটি করতে আপনার করা দরকার$V D^2 V^T$$X^T X$$R$

vcov.matrix <- var.est * (v %*% d^(-2) %*% t(v))

ম্যাট্রিক্স গুণনের জন্য আমরা ন্যায়বিচারের %*%পরিবর্তে ব্যবহার করি তা পর্যবেক্ষণ করছি *। var.estউপরে গোলমালের ভিন্নতার অনুমান।

(এছাড়াও, আমি ধরে নিয়েছি যে পুরো র‌্যাঙ্ক এবং জুড়ে।$X$$n \geq p$

Comments

@ উইল, ভাল খুশী এটা কাজ করে। আপনি সম্ভবত উত্তর গ্রহণ বিবেচনা করতে পারেন। শুভেচ্ছা।

— কার্ডিনাল

আমি সমীকরণটি চেষ্টা করেছি তবে এটি বেশ কার্যকর নয়। stats.stackexchange.com/questions/195379/...

— HelloWorld