জেনারেলাইজড ন্যূনতম স্কোয়ার: রিগ্রেশন কোয়েফিয়েন্টস থেকে রিলেশন কোএফিসিয়েন্ট?

Question

একজন ভবিষ্যদ্বাণীকারীর সাথে কমপক্ষে স্কোয়ারের জন্য:

$y = \beta x + \epsilon$

যদি এবং ফিটিংয়ের আগে মানক করা হয় (যেমন ), তবে:$x$$y$$\sim N(0,1)$

• $\beta$ পিয়ারসন পারস্পরিক সম্পর্ক সহগ হিসাবে একই, ।$r$
• $\beta$ প্রতিফলিত রিগ্রেশন একই হল:$x = \beta y + \epsilon$

জেনারেলাইজড ন্যূনতম স্কোয়ার্স (জিএলএস) এর জন্যও কি একই প্রয়োগ হয়? উদাহরণস্বরূপ, যদি আমি আমার ডেটা মানক করি তবে আমি কি রিগ্রেশন সহগের সাথে সরাসরি সম্পর্কযুক্ত সহগগুলি অর্জন করতে পারি?

ডেটা নিয়ে পরীক্ষা-নিরীক্ষার মাধ্যমে প্রতিবিম্বিত জিএলএস বিভিন্ন- সহগের দিকে নিয়ে যায় এবং আমি নিশ্চিত নই যে আমি বিশ্বাস করি যে রিগ্রেশন সহগগুলি আমার সম্পর্কের প্রত্যাশিত মানগুলির সাথে ফিট করে। আমি জানি যে লোকেরা জিএলএসের সহসংস্থান সহগের উদ্ধৃতি দেয়, তাই আমি ভাবছি যে তারা কীভাবে তাদের কাছে এলো এবং সেজন্য তারা আসলে কী বোঝায়?$\beta$

Answer 1

উত্তর হ্যাঁ, লিনিয়ার রিগ্রেশন কোফিয়েনটিস হ'ল প্রতিক্রিয়ার সাথে ভবিষ্যদ্বাণীকের পারস্পরিক সম্পর্ক but তবে কেবলমাত্র যদি আপনি সঠিক সমন্বয় ব্যবস্থা ব্যবহার করেন ।

আমার অর্থটি দেখতে, মনে রাখবেন যে যদি এবং y কেন্দ্রিক এবং মানক হয় তবে প্রতিটি x i এবং y এর মধ্যে পারস্পরিক সম্পর্ক কেবল ডট পণ্য x t i y । এছাড়াও, রৈখিক প্রতিরোধের সর্বনিম্ন স্কোয়ার সমাধান$x_1, x_2, \ldots, x_n$$y$$x_i$$y$$x_i^t y$

$$\beta = (X^t X)^{-1} X^t y$$

যদি এটি ঘটে থাকে তবে (পরিচয় ম্যাট্রিক্স)$X^{t} X = I$

$$\beta = X^t y$$

এবং আমরা পারস্পরিক সম্পর্ক ভেক্টর পুনরুদ্ধার করি। এটা প্রায়ই ভবিষ্যতবক্তা পরিপ্রেক্ষিতে একটি রিগ্রেশন সমস্যা ঢেলে সাজানো কাছে আকর্ষণীয় হয় যে সন্তুষ্ট ~ এক্স টি ~ এক্স = আমি মূল ভবিষ্যতবক্তা যে এই সম্পর্ক সত্য (অথবা equivalently, স্থানাঙ্ক একটি রৈখিক পরিবর্তন) করা যথাযথ রৈখিক সমন্বয় খোঁজার করে; এই নতুন ভবিষ্যদ্বাণীকারীদের প্রধান উপাদান বলা হয়।$\tilde{x}_i$$\tilde{X}^t \tilde{X} = I$

সুতরাং সামগ্রিকভাবে, আপনার প্রশ্নের উত্তর হ্যাঁ, তবে কেবল তখনই যখন ভবিষ্যদ্বাণীকারীরা তাদের সাথে সম্পর্কযুক্ত নয় । অন্যথায়, অভিব্যক্তি

$$X^t X \beta = X^t y$$

দেখায় যে ভবিষ্যদ্বাণীকারী-প্রতিক্রিয়া সম্পর্কিত পারস্পরিক সম্পর্কগুলি পুনরুদ্ধারের জন্য বিটাগুলি অবশ্যই ভবিষ্যদ্বাণীকারীদের মধ্যে করেরিলের সাথে মিশ্রিত করতে হবে ।

পার্শ্ব নোট হিসাবে, এটিও ব্যাখ্যা করে যে ফলটি কেন একটি পরিবর্তনশীল রৈখিক প্রতিরোধের জন্য সর্বদা সত্য। ভবিষ্যদ্বাণী ভেক্টর একবার মানক হয়ে গেলে , তারপরে:$x$

$$x_0^t x = \sum_i x_{i} = 0$$

$x_0$$X$$X^t X = I$