বহুতোষ রেগ্রেশনকে একাধিক লিনিয়ার রিগ্রেশনের একটি বিশেষ কেস হিসাবে বিবেচনা করা হয়?

Question

যদি বহুবর্ষীয় রিগ্রেশন মডেলগুলি ননলাইনার সম্পর্কের মডেল করে, তবে কীভাবে এটি একাধিক লিনিয়ার রিগ্রেশনের একটি বিশেষ ক্ষেত্রে হিসাবে বিবেচনা করা যেতে পারে?

উইকিপিডিয়ায় উল্লেখ করা হয়েছে যে "যদিও বহুবর্ষীয় রিগ্রেশন তথ্যের সাথে একটি অ-লাইন মডেল ফিট করে তবে একটি পরিসংখ্যানগত অনুমানের সমস্যা হিসাবে এটি লিনিয়ার, এই অর্থে যে রিগ্রেশন ফাংশন অজানা পরামিতিগুলির মধ্যে লিনিয়ার তথ্য থেকে। "$\mathbb{E}(y | x)$

অজানা প্যারামিটারগুলিতে পলিমিটারিয়াল রিগ্রেশন লিনিয়ার কীভাবে হয় যদি প্যারামিটারগুলি অর্ডার 2 এর সাথে পদগুলির জন্য সহগ হয় ?$\ge$

Comments

পরামিতি আনুমানিক করা (মাল্টি-) রৈখিক হয়। আপনি যদি উদ্দীপকগুলির মানগুলি অনুমান করে থাকেন তবে অনুমানের সমস্যাটি লিনিয়ার হবে না; তবে কোনও ভবিষ্যদ্বাণীকে স্কোয়ারিং স্পষ্ট করে যে ঘনিষ্ঠভাবে ২.

— পুনরুদ্ধার মনিকা

আমার বোধগম্যতা হল যে @ ব্যবহারকারী 77 comment7's এর মন্তব্য, নীচের উত্তরগুলি কেবল বহুবর্ষীয় রিগ্রেশনকেই নয়, ভবিষ্যদ্বাণীকারী ভেরিয়েবলগুলির একটি নিষ্ক্রিয়তা ব্যবহার করে এমন কোনও রিগ্রেশনও প্রয়োগ করে । যেমন কোনও বিপরীতমুখী ফাংশন যেমন , ইত্যাদি ( $log(x)$$e^x$

— nnot101

ধন্যবাদ সবাইকে; উত্তর এবং মন্তব্য সব সহায়ক ছিল।

— গভিনমহ

Answer 1

আপনি যখন মতো কোনও রিগ্রেশন মডেল ফিট , তখন মডেল এবং অনুমানকারী জানেন না যে কেবলমাত্র বর্গক্ষেত্র , এটি কেবল 'চিন্তা' করে এটি অন্য পরিবর্তনশীল। অবশ্যই কিছু মিল রয়েছে, এবং এটি ফিটের সাথে সংযুক্ত হয়ে যায় (উদাহরণস্বরূপ, স্ট্যান্ডার্ড ত্রুটিগুলি অন্যথায় হতে পারে তার চেয়ে বড়) $\hat y_i = \hat\beta_0 + \hat\beta_1x_i + \hat\beta_2x^2_i$$x^2_i$$x_i$

আমরা বুঝতে পারি না যে মডেলটিতে দুটি পৃথক ভেরিয়েবল রয়েছে, কারণ আমরা জানি যে এবং মধ্যে একটি বক্ররেখার সম্পর্ক ক্যাপচার করার জন্য শেষ পর্যন্ত মতো একই পরিবর্তনশীল । এর প্রকৃত প্রকৃতির , আমাদের বিশ্বাসের সাথে এবং মধ্যে একটি বক্ররেখা সম্পর্ক রয়েছে যা আমাদের মডেলটির দৃষ্টিকোণ থেকে এখনও লিনিয়ার যেভাবে বুঝতে অসুবিধা বোধ করে। এছাড়াও, আমরা এবং ভিজ্যুয়ালাইজ$x^2_i$$x_i$$x_i$$y_i$$x^2_i$$x_i$$y_i$$x_i$$x^2_i$একসাথে 2 ডি প্লেনে 3D ফাংশনের প্রান্তিক প্রক্ষেপণটি দেখে । $x, y$

যদি আপনার কাছে কেবল এবং আপনি তাদের পূর্ণ 3D স্পেসে ভিজ্যুয়ালাইজ করার চেষ্টা করতে পারেন (যদিও এটি এখনও ঘটছে তা দেখতে সত্যিই কঠিন)। আপনি যদি পুরো 3 ডি স্পেসে লাগানো ফাংশনটি দেখে থাকেন তবে আপনি দেখতে পাবেন যে লাগানো ফাংশনটি 2 ডি প্লেন এবং ততোধিক এটি একটি সমতল বিমান। আমি যেমন বলেছি, এটি দেখতে খুব শক্ত কারণ কারণ ডেটা কেবলমাত্র 3 ডি স্পেসের মধ্য দিয়ে বক্ররেখার লাইনে বরাবর উপস্থিত থাকে (এই সত্যটি তাদের প্রান্তিকের দৃশ্যমান প্রকাশ)। আমরা এখানে এটি করার চেষ্টা করতে পারি। কল্পনা করুন এটি উপযুক্ত জিনিসগুলি: $x_i$$x^2_i$$x_i, x^2_i$

x     = seq(from=0, to=10, by=.5)
x2    = x**2
y     = 3 + x - .05*x2
d.mat = data.frame(X1=x, X2=x2, Y=y)

# 2D plot
plot(x, y, pch=1, ylim=c(0,11), col="red", 
     main="Marginal projection onto the 2D X,Y plane")
lines(x, y, col="lightblue")

# 3D plot
library(scatterplot3d)
s = scatterplot3d(x=d.mat$X1, y=d.mat$X2, z=d.mat$Y, color="gray", pch=1, 
              xlab="X1", ylab="X2", zlab="Y", xlim=c(0, 11), ylim=c(0,101), 
              zlim=c(0, 11), type="h", main="In pseudo-3D space")
s$points(x=d.mat$X1, y=d.mat$X2, z=d.mat$Y, col="red", pch=1)
s$plane3d(Intercept=3, x.coef=1, y.coef=-.05, col="lightblue")

এই চিত্রগুলিতে দেখতে আরও সহজ হতে পারে, যা rglপ্যাকেজটি ব্যবহার করে একই ডেটা দিয়ে তৈরি কোনও ঘোরানো 3 ডি চিত্রের স্ক্রিনশট ।

যখন আমরা বলি যে "প্যারামিটারগুলিতে রৈখিক" একটি মডেল সত্যিই রৈখিক হয়, এটি কেবল কিছু গাণিতিক পরিশীলন নয়। সঙ্গে ভেরিয়েবল, আপনি একটি ঝুলানো হয় একটি -dimensional hyperplane -dimensional hyperspace (আমাদের উদাহরণে একটি 3D স্থান একটি 2 ডি সমতল)। সেই হাইপারপ্লেনটি আসলেই 'ফ্ল্যাট' / 'লিনিয়ার'; এটি কেবল রূপক নয়। $p$$p$$p\!+\!1$

Answer 2

সুতরাং একটি সাধারণ রৈখিক মডেল হ'ল ফাংশন যা অজানা পরামিতিগুলিতে লিনিয়ার । একটি বহুপদী রিগ্রেশন, উদাহরণস্বরূপ এর কার্যকারিতা হিসেবে দ্বিঘাত হয় কিন্তু কোফিসিয়েন্টস মধ্যে রৈখিক , এবং । আরও সাধারণভাবে, একটি সাধারণ রৈখিক মডেল হিসাবে প্রকাশ করা যেতে পারে , যেখানে ইনপুটগুলির নির্বিচারে ফাংশন - দেখুন যে কোনও ইন্টারঅ্যাকশন শর্তাদি অন্তর্ভুক্ত করতে পারে (এর মধ্যে) উপাদানগুলি ) এবং এর মতো।$y = a + bx + cx^2$$x$$a$$b$$c$$y = \sum_{i=0}^N a_i h_i(x)$$h_i$$x$$h_i$$x$

Answer 3

একটি মডেল বিবেচনা করুন

$$y_i = b_0+b_1 x^{n_1}_i + \cdots+ b_px^{n_p}_i + \epsilon_i.$$

এটি পুনরায় লিখিত হতে পারে

$$y = X b + \epsilon;\\ X= \begin{pmatrix} 1 & x_{1}^{n_1} & \cdots & x_{1}^{n_p} \\ 1 & x_{2}^{n_1} & \cdots & x_{2}^{n_p} \\ \vdots & \vdots & \ddots & \vdots \\ 1 & x_{n}^{n_1} & \cdots & x_{n}^{n_p} \\ \end{pmatrix}.$$