বয়েসিয়ান লিনিয়ার রিগ্রেশন মধ্যে উত্তরোত্তর ভবিষ্যদ্বাণীমূলক বিতরণ মূল্যায়ন করুন

10

আমি কীভাবে বায়সীয় লিনিয়ার রিগ্রেশনের উত্তরোত্তর ভবিষ্যদ্বাণীমূলক বিতরণকে মূল্যায়ন করব, এখানে পৃষ্ঠা 3 তে বর্ণিত মৌলিক কেসটি পেরিয়ে কীভাবে নীচে অনুলিপি করব সে সম্পর্কে আমি বিভ্রান্ত হয়ে পড়েছি ।

p (\tilde{y} ∣ y) = \int p (\tilde{y} ∣ β, σ^{2}) p (β, σ^{2} ∣ y)

$p(\tilde y \mid y) = \int p(\tilde y \mid \beta, \sigma^2) p(\beta, \sigma^2 \mid y)$

মূল কেসটি এই লিনিয়ার রিগ্রেশন মডেল:

y = X β + ϵ, y \sim N (X β, σ^{2})

$y = X \beta + \epsilon, \hspace{10mm} y \sim N(X \beta, \sigma^2)$

আমরা যদি একটি অভিন্ন পূর্বে পারেন ব্যবহার , একটি স্কেল-INV সঙ্গে উপর পূর্বে , বা স্বাভাবিক বিপরীত-গামা পূর্বে (দেখুন এখানে ) অবর ভবিষ্যদ্বাণীপূর্ণ বন্টন বিশ্লেষণমূলক এবং ছাত্র হল t। $\beta$ $\chi^2$ $\sigma^2$

এই মডেল সম্পর্কে কি?

y = X β + ϵ, y \sim N (X β, Σ)

$y = X \beta + \epsilon, \hspace{10mm} y \sim N(X \beta, \Sigma)$

যখন , কিন্তু জানা যায়, উত্তরোত্তর ভবিষ্যদ্বাণীমূলক বিতরণ মাল্টিভিয়ারেট গাউসিয়ান হয়। সাধারণত, আপনি জানেন না , তবে এটি অনুমান করতে হবে। হতে পারে আপনি এর তির্যকটি বলেছেন এবং তির্যকটি কোনও উপায়ে কোভারিয়ারদের একটি ক্রিয়াকলাপ হিসাবে পরিণত করেন। এটি জেলম্যানের বেয়েসিয়ান ডেটা বিশ্লেষণের লিনিয়ার রিগ্রেশন অধ্যায়টিতে আলোচনা করা হয়েছে । $y \sim N(X\beta, \Sigma)$ $\Sigma$ $\Sigma$

এক্ষেত্রে পরবর্তী ভবিষ্যদ্বাণীমূলক বিতরণের জন্য কি বিশ্লেষণাত্মক ফর্ম রয়েছে? আমি কি কেবলমাত্র আমার অনুমানটিকে একটি বহুবিধ শিক্ষার্থী টিতে প্লাগ করতে পারি? যদি আপনি একাধিক বৈকল্পিক অনুমান করেন তবে বিতরণটি কি এখনও শিক্ষার্থীদের টি মাল্টিভারিয়েট করে?

আমি জিজ্ঞাসা করছি কারণ বলে আমার হাতে ইতিমধ্যে কিছু আছে । আমি যেমন লিনিয়ার রিগ্রেশন এ, লিনিয়ার রিগ্রেশন বি দ্বারা ভবিষ্যদ্বাণী করা বেশি হয় কিনা তা জানতে চাই $\tilde y$

— bill_e
সূত্র

1

— উত্তরোত্তর বিতরণে যদি উত্তরোত্তর

আহ ধন্যবাদ, আমি সবসময় এটি করতে পারে। এক্ষেত্রে কোনও বিশ্লেষণী সূত্র নেই?

— বিল_ই

লিঙ্কগুলি ভেঙে গেছে, যাই হোক। আপনি যদি অন্যভাবে রেফারেন্সগুলি অন্তর্ভুক্ত করেন তবে দুর্দান্ত হবে।

— ম্যাক্সিম.কে

6

আপনি আগে ইউনিফর্ম ধরে নিলে $\beta$ তারপরে, পরবর্তীকালের জন্য $\beta$ হয়

β | y \sim N (\hat{β}, V_{β}) .

$\beta|y \sim N(\hat{\beta},V_\beta).$ সঙ্গে

\hat{β} = [X^{'} Σ^{- 1} X] X^{'} y and V_{β} = [X^{'} Σ^{- 1} X]^{- 1} .

$\hat{\beta} = [X'\Sigma^{-1}X]X'y \quad \mbox{and} \quad V_\beta =[X'\Sigma^{-1}X]^{-1}.$ ভবিষ্যদ্বাণীপূর্ণ বিতরণ সন্ধান করতে আমাদের আরও তথ্যের প্রয়োজন। যদি

\tilde{y} \sim N (\tilde{X} β, \tilde{Σ})

$\tilde{y} \sim N(\tilde{X}\beta,\tilde{\Sigma})$ এবং শর্তাধীন স্বাধীন

y

$y$ প্রদত্ত

β

$\beta$ তাহলে

\tilde{y} | y \sim N (\tilde{X} \hat{β}, \tilde{Σ} + V_{β}) .

$\tilde{y}|y \sim N(\tilde{X}\hat{\beta}, \tilde{\Sigma} + V_\beta).$ তবে সাধারণত এই ধরণের মডেলের জন্য,

y

$y$ এবং

\tilde{y}

$\tilde{y}$ পরিবর্তে শর্তসাপেক্ষে স্বতন্ত্র নয়, সাধারণত আমাদের রয়েছে

(\begin{matrix} y \\ \tilde{y} \end{matrix}) \sim N ([\begin{matrix} X β \\ \tilde{X} β \end{matrix}], [\begin{array}{cc} Σ & Σ_{12} \\ Σ_{21} & \tilde{Σ} \end{array}]) .

$\left( \begin{array}{c} y \\ \tilde{y} \end{array} \right) \sim N\left( \left[\begin{array}{c} X\beta \\ \tilde{X}\beta \end{array}\right], \left[ \begin{array}{cc} \Sigma & \Sigma_{12} \\ \Sigma_{21} & \tilde{\Sigma} \end{array} \right]\right).$ এই যদি হয়, তাহলে

\tilde{y} | y \sim N (\tilde{X} \hat{β} + Σ_{21} Σ^{- 1} (y - X \hat{β}), \tilde{Σ} - Σ_{21} Σ^{- 1} Σ_{12}) .

$\tilde{y}|y \sim N(\tilde{X}\hat{\beta} + \Sigma_{21}\Sigma^{-1}(y-X\hat{\beta}), \tilde{\Sigma} - \Sigma_{21}\Sigma^{-1}\Sigma_{12}).$ এই ধরে

Σ, Σ_{12},

$\Sigma, \Sigma_{12},$ এবং

\tilde{Σ}

$\tilde{\Sigma}$ সব জানা আছে। আপনি চিহ্নিত হিসাবে, সাধারণত তারা অজানা এবং অনুমান করা প্রয়োজন। এই কাঠামোযুক্ত সাধারণ মডেলগুলির জন্য, যেমন সময় সিরিজ এবং স্থানিক মডেলগুলি সাধারণত ভবিষ্যদ্বাণীমূলক বিতরণের জন্য কোনও বদ্ধ ফর্ম হবে না।

— jaradniemi
সূত্র

2

অ-তথ্যমূলক বা মাল্টিভারিয়েট নরমাল-উইশার্ট প্রিয়ারদের অধীনে, আপনি একটি ধ্রুপদী বহুবিধ, একাধিক প্রতিরোধের জন্য মাল্টিভারিয়েট শিক্ষার্থীর বিতরণ হিসাবে বিশ্লেষণাত্মক ফর্মটি রেখেছেন। আমার ধারণা এই নথির বিকাশগুলি আপনার প্রশ্নের সাথে সম্পর্কিত (আপনি পরিশিষ্ট এ :-) পছন্দ করতে পারেন)। আমি সাধারণত ফলাফলটি WinBUGS এবং বিশ্লেষণাত্মক ফর্ম ব্যবহার করে প্রাপ্ত একটি পূর্ববর্তী ভবিষ্যদ্বাণীমূলক বিতরণের সাথে তুলনা করি: এগুলি ঠিক সমতুল্য। সমস্যা কেবল তখনই কঠিন হয়ে পড়ে যখন আপনার মিশ্র-প্রভাব মডেলগুলিতে বিশেষত ভারসাম্যহীন নকশায় অতিরিক্ত এলোমেলো প্রভাব থাকে।

সাধারণভাবে, ধ্রুপদী রিগ্রেশনগুলির সাথে, y এবং condition শর্তসাপেক্ষে স্বতন্ত্র (অবশিষ্টগুলি iid হয়)! অবশ্যই যদি এটি না হয়, তবে এখানে প্রস্তাবিত সমাধানটি সঠিক নয়।

আর এ, (এখানে, অভিন্ন প্রিরিয়ারদের সমাধান), ধরে নিলেন যে আপনি আপনার মডেলের যে কোনও একটি প্রতিক্রিয়ার একটি এলএম মডেল তৈরি করেছেন (নাম "মডেল") এবং একে "মডেল" বলে ডেকেছেন, এখানে কীভাবে বহুবর্ণের ভবিষ্যদ্বাণীমূলক বিতরণ পাবেন

library(mvtnorm)
Y = as.matrix(datas[,c("resp1","resp2","resp3")])
X =  model.matrix(delete.response(terms(model)), 
           data, model$contrasts)
XprimeX  = t(X) %*% X
XprimeXinv = solve(xprimex)
hatB =  xprimexinv %*% t(X) %*% Y
A = t(Y - X%*%hatB)%*% (Y-X%*%hatB)
F = ncol(X)
M = ncol(Y)
N = nrow(Y)
nu= N-(M+F)+1 #nu must be positive
C_1 =  c(1  + x0 %*% xprimexinv %*% t(x0)) #for a prediction of the factor setting x0 (a vector of size F=ncol(X))
varY = A/(nu) 
postmean = x0 %*% hatB
nsim = 2000
ysim = rmvt(n=nsim,delta=postmux0,C_1*varY,df=nu)

এখন, ইয়াসিমের কোয়ান্টাইলগুলি ভবিষ্যদ্বাণীমূলক বিতরণ থেকে বিটা-প্রত্যাশা সহনশীলতার অন্তর, আপনি অবশ্যই যা চান তা করতে সরাসরি নমুনা বন্টন ব্যবহার করতে পারেন।

— পিয়ের লেবরুন
সূত্র