একাধিক নির্ভরশীল ভেরিয়েবলগুলির সাথে রিগ্রেশন?

61

দুই বা ততোধিক নির্ভরশীল ভেরিয়েবলগুলির সাথে একটি (একাধিক) রিগ্রেশন সমীকরণ থাকা কি সম্ভব? অবশ্যই, আপনি দুটি ডিভির জন্য একটি পৃথক দুটি রিগ্রেশন সমীকরণ চালনা করতে পারেন, তবে এটি দুটি ডিভির মধ্যে কোনও সম্পর্ককে ক্যাপচার করবে বলে মনে হয় না?

regression

— জেফ
সূত্র

SUR বা 3SLS হিসাবে?

— সমুদ্রের এক বৃদ্ধ।

35

হ্যা এটা সম্ভব. আপনার আগ্রহী বিষয়টিকে "মাল্টিভারিয়েট মাল্টিপল রিগ্রেশন" বা কেবল "মাল্টিভারিয়েট রিগ্রেশন" বলা হয়। আপনি কোন সফ্টওয়্যারটি ব্যবহার করছেন তা আমি জানি না, তবে আপনি এটি আর এ করতে পারেন

এখানে একটি লিঙ্ক দেওয়া যা উদাহরণ দেয়।

http://www.public.iastate.edu/~maitra/stat501/lectures/MultivariateRegression.pdf

— ব্রেট
সূত্র

2

কেউ যুক্ত করতে পারেন যে রিগ্রেশনগুলি পৃথকভাবে ফিটিং করা নির্ভরশীল ভেরিয়েবলগুলির ম্যাট্রিক্স সহ বহুবিধ গঠনের সমতুল্য। প্যাকেজের সাথে এমভিটিএনরম ইনস্টল করা আছে (1 ম: মাল্টিভারিয়েট মডেল, 2 য়: পৃথক ইউনিভারিটি মডেল): গ্রন্থাগার (এমভিটিএনরম); এক্স <- আরএমভিএনর্ম (100, সি (1, 2), ম্যাট্রিক্স (সি (4, 2, 2, 3), এনসিওএল = 2%); Y <- এক্স% *% ম্যাট্রিক্স (1: 4, এনকোল = 2) + আরএমভনরম (100, সি (0, 0), ডায়াগ (সি (20, 30%)); lm (Y ~ X [, 1] + এক্স [, 2]); lm (Y [, 1] ~ এক্স [, 1] + এক্স [, 2]); lm (Y [, 2] ~ X [, 1] + X [, 2])

— ক্যারাকাল

3

যদি এটি সমতুল্য হয়, উদ্দেশ্য কী?

— জোশুয়া

1

@ জোশুয়া রোজেনবার্গ একক নির্ভরশীল ভেরিয়েবলের সাথে পৃথক রেগ্রেশনগুলিতে মাল্টিভারিয়েট রিগ্রেশন চালানোর এক কারণ হ'ল বিভিন্ন ফলাফলের ভেরিয়েবলের সহগের পরীক্ষা চালানোর ক্ষমতা। উদাহরণস্বরূপ, আপনি ভবিষ্যদ্বাণীকারীর এক ফলাফল ভেরিয়েবলের মতো একই প্রভাব রয়েছে কিনা তা দেখার জন্য আপনি এফ-পরীক্ষা করতে পারেন another

— আলেকস

10

@ ব্রেটের প্রতিক্রিয়া ঠিক আছে।

আপনি যদি আপনার দ্বি-ব্লক কাঠামোটি বর্ণনা করতে আগ্রহী হন তবে আপনি পিএলএস রিগ্রেশনও ব্যবহার করতে পারেন । মূলত, এটি একটি রিগ্রেশন কাঠামো যা প্রতিটি ব্লকের অন্তর্ভুক্ত ভেরিয়েবলের ক্রমাগত (অরথোগোনাল) লিনিয়ার সংমিশ্রণগুলি তৈরির ধারণার উপর নির্ভর করে যেমন তাদের আভিজাত্য সর্বাধিক। এখানে আমরা বিবেচনা করি যে একটি ব্লক তে ব্যাখ্যামূলক ভেরিয়েবল রয়েছে এবং অন্য ব্লক প্রতিক্রিয়াশীল ভেরিয়েবলগুলি নীচে দেখানো হয়েছে: $X$ $Y$

বিকল্প পাঠ

আমরা "সুপ্ত পরিবর্তনশীল" সন্ধান করি যারা ব্লকে অন্তর্ভুক্ত সর্বাধিক তথ্যের (লিনিয়ার ফ্যাশনে) অ্যাকাউন্ট করে যখন ন্যূনতম ত্রুটিযুক্ত ব্লকের পূর্বাভাস দেয় । এবং loadings (অর্থাত, রৈখিক সমন্বয়) প্রতিটি মাত্রার সংযুক্ত করা হয়। অপ্টিমাইজেশনের মানদণ্ডটি পড়ে $X$ $Y$ $u_j$ $v_j$

max_{∣ u_{h} ∣= 1, ∣ v_{h} ∣= 1} cov (X_{h - 1} u_{h}, Y v_{h}) (\equiv max cov (ξ_{h}, ω_{h}))

$\max_{\mid u_h\mid =1,\mid v_h\mid =1}\text{cov}(X_{h-1}u_h,Yv_h)\quad \big(\equiv \max\text{cov}(\xi_h,\omega_h)\big)$

যেখানে রিগ্রেশনের পরে ডিফ্লেটেড (অর্থাত্, অবশিষ্টাংশ) ব্লকের জন্য দাঁড়ায় । $X_{h-1}$ $X$ $h^\text{th}$

প্রথম মাত্রা উপর গৌণিক স্কোর মধ্যে পারস্পরিক ( এবং ) মাত্রার প্রতিফলন - লিঙ্ক। $\xi_1$ $\omega_1$ $X$ $Y$

— chl
সূত্র

আমি মনে করি একটি মাল্টিপ্লেক্স-মাল্টিপলয় পিএলএস মূলত একাধিক "মাল্টিপ্লেক্স-সিঙ্গলওয়াই" পিএলএস করে। সুতরাং ওয়াই ভেরিয়েবলের মধ্যে সম্পর্কের বিষয়টি সম্বোধন করা হয়নি।

— ল্যান্সেলিবাই

4

জিপিএলএম-মাল্টিভাইয়ারেট বিকল্পটি ব্যবহার করে এসপিএসএসে মাল্টিভাইয়ারেট রিগ্রেশন করা হয়।

আপনার সমস্ত ফলাফল (ডিভি) ফলাফল বাক্সে রাখুন, তবে আপনার সমস্ত অবিচ্ছিন্ন ভবিষ্যদ্বাণীকে কোভারিয়েট বাক্সে রাখুন। কারণগুলির বাক্সে আপনার কোনও প্রয়োজন নেই। মাল্টিভারিয়েট পরীক্ষাগুলি দেখুন। অবিচ্ছিন্ন পরীক্ষা পৃথক একাধিক রিগ্রেশনগুলির মতো হবে।

অন্য কেউ যেমন বলেছিলেন, আপনি এটি স্ট্রাকচারাল সমীকরণ মডেল হিসাবেও নির্দিষ্ট করতে পারেন তবে পরীক্ষাগুলি একই same

(আকর্ষণীয়ভাবে, ভাল, আমি এটি আকর্ষণীয় বলে মনে করি, এতে ইউকে-মার্কিন পার্থক্য কিছুটা আছে the )

— জেরেমি মাইলস
সূত্র

2

@Jeremy মাইলস উত্তর এ ছাড়াও: www-01.ibm.com/support/docview.wss?uid=swg21476743

— Epaminondas

2

আমি প্রথমে রিগ্রেশন ভেরিয়েবলগুলিকে পিসিএ গণনাযুক্ত ভেরিয়েবলগুলিতে রূপান্তর করে এটি করব এবং তারপরে আমি পিসিএ গণিত ভেরিয়েবলগুলির সাথে রিগ্রেশনটিতে যেতে চাই। অবশ্যই আমি ইগেনভেেক্টরগুলিকে সংরক্ষণ করব যখন আমি নতুন শ্রেণীর শ্রেণিবদ্ধ করতে চাইলে সংশ্লিষ্ট পিসিএ মানগুলি গণনা করতে সক্ষম হব।

— মারিয়ানা নরম
সূত্র

2

এটি উপরের উত্তরের চেয়ে ধারণাগতভাবে পৃথক বলে মনে হচ্ছে। আমি এখনও আমার স্পষ্টভাবে পরিষ্কার করতে পারি না যে কীভাবে আমার ভেরিয়েবলগুলি পিসিএ সহগতে রূপান্তর করা আমাকে 2+ নির্ভরশীল ভেরিয়েবলগুলিতে পুনরায় চাপ দিতে দেয়?

— জেফ

@ জেফ এই উত্তরটি মূলত মাল্টিভারিয়েট রিগ্রেশন-এর সাথে একই রকম। এখানে, দুটি ধারাবাহিক পদক্ষেপগুলি ক্রমানুসারে করার পরামর্শ দেওয়া হয়েছে (উদাহরণস্বরূপ, ভারী রৈখিক যৌগিক ভেরিয়েবলগুলি সন্ধান করুন এবং তারপরে তাদের পুনরায় চাপ দিন); মাল্টিভাইয়ারেট রিগ্রেশন একই সাথে দুটি পদক্ষেপ সম্পাদন করে । ডাব্লুএলসিভি'র তৈরি হওয়ায় বহুগুণীয় রিগ্রেশন আরও শক্তিশালী হবে যাতে রিগ্রেশনটি সর্বাধিকতর হয়। তবে, দ্বি-পদক্ষেপের প্রক্রিয়াটি প্রক্রিয়া সম্পর্কিত আরও স্পষ্টতা সরবরাহ করতে পারে, বা অন্যথায় গবেষকের পক্ষে পছন্দনীয় হতে পারে।

— গুং - মনিকা পুনরায়

1

@ গুং হুম এই ধরণের বিষয়টি আমার কাছে বোধগম্য হয় যদি আপনি নির্ভরশীল ভেরিয়েবলগুলিতে পিসিএ করেন এবং কেবলমাত্র প্রথম প্রধান উপাদানটিতে পুনরায় প্রতিক্রিয়া দেখান ... তবে আপনি এখনও অনেক বৈচিত্র্য ছুঁড়ে ফেলছেন।

— জেফ

1

@ জেফ, পিসিগুলি অরথোগোনাল। আপনি প্রতিটি উপর স্বতন্ত্র রেজিস্ট্রেশন চালাতে পারেন। তবে এটি কম শক্তিশালী b / c পচনটি একেবারে সমান নয়, এবং মাল্টিভারিয়েট রিগ্রেশন পরীক্ষা পিসিগুলিতে সত্যিকার অর্থেই কোনও রেগের সিরিজ নয়।

— গুং - মনিকা পুনরায়

@ গ্যাং হ্যাঁ, আপনি এন স্বতন্ত্র নিয়ন্ত্রণগুলি চালাতে পারেন, তবে তারপরে আপনি বিটা সহগের এন সেটগুলি সহ শেষ করতে পারেন। আমি বুঝতে পারি না যে কীভাবে সমস্যার সমাধান হয়?

— জেফ

1

Caracal দ্বারা mentionned হিসাবে, আপনি mvtnorm প্যাকেজ আর মধ্যে ধরে নেওয়া যাক আপনাকে একটি (নামে "মডেল") একটি LM মডেল তৈরি ব্যবহার করতে পারেন এক আপনার মডেল সাড়া, এবং এটি "মডেল" বলা, এখানে কিভাবে বহুচলকীয় ভবিষ্যদ্বাণীপূর্ণ বন্টন প্রাপ্ত হয় একাধিক প্রতিক্রিয়া "রেফার 1", "রেসপ 2", "রেসপি 3" ম্যাট্রিক্স ফর্ম ওয়াইয়ে সংরক্ষণ করা হয়েছে:

library(mvtnorm)
model = lm(resp1~1+x+x1+x2,datas) #this is only a fake model to get
                                  #the X matrix out of it
Y = as.matrix(datas[,c("resp1","resp2","resp3")])
X =  model.matrix(delete.response(terms(model)), 
           data, model$contrasts)
XprimeX  = t(X) %*% X
XprimeXinv = solve(xprimex)
hatB =  xprimexinv %*% t(X) %*% Y
A = t(Y - X%*%hatB)%*% (Y-X%*%hatB)
F = ncol(X)
M = ncol(Y)
N = nrow(Y)
nu= N-(M+F)+1 #nu must be positive
C_1 =  c(1  + x0 %*% xprimexinv %*% t(x0)) #for a prediction of the factor setting x0 (a vector of size F=ncol(X))
varY = A/(nu) 
postmean = x0 %*% hatB
nsim = 2000
ysim = rmvt(n=nsim,delta=postmux0,C_1*varY,df=nu)

এখন, ইয়াসিমের কোয়ান্টাইলগুলি ভবিষ্যদ্বাণীমূলক বিতরণ থেকে বিটা-প্রত্যাশা সহনশীলতার অন্তর, আপনি অবশ্যই যা চান তা করতে সরাসরি নমুনা বন্টন ব্যবহার করতে পারেন।

অ্যান্ড্রু এফ.কে উত্তর দেওয়ার জন্য, স্বাধীনতার ডিগ্রি হ'ল নু = এন- (এম + এফ) +1 ... এন পর্যবেক্ষণের #, এম প্রতিক্রিয়াগুলির # এবং সমীকরণ মডেল অনুসারে প্যারামিটারের # টি হচ্ছেন। অনু অবশ্যই পজিটিভ হতে হবে।

(আপনি এই দস্তাবেজে আমার কাজটি পড়তে চাইতে পারেন :-))

— পিয়ের লেবরুন
সূত্র

0

আপনি কি ইতিমধ্যে "প্রচলিত পারস্পরিক সম্পর্ক" শব্দটি জুড়ে এসেছেন? সেখানে আপনার স্বতন্ত্র পাশাপাশি নির্ভরশীল দিকের ভেরিয়েবলগুলির সেট রয়েছে। তবে সম্ভবত আরও আধুনিক ধারণাগুলি উপলভ্য রয়েছে, আমার কাছে যে বর্ণনা রয়েছে তা সবই আশির দশক / নব্বইয়ের দশকের ...

— গটফ্রিড হেলমস
সূত্র

1

ক্যানোনিকাল পারস্পরিক সম্পর্ক হ'ল সিসিএ বা পিএলএস-এর মতো দ্বি-ব্লক কাঠামো থেকে গুণিত গুণক স্কোরগুলির মধ্যে পারস্পরিক সম্পর্ক। এটি আমি আমার প্রতিক্রিয়াতে বর্ণনা করেছি (পিএলএস রিগ্রেশন), যদিও ভেরিয়েবলগুলি একটি অসামান্য ভূমিকা পালন করে সিসিএর তুলনায় পিএলএস আরও উপযুক্ত, যা সম্ভবত এখানে সম্ভবত ঘটবে। এর কারণ এটি একটি অসমमितিক বিশৃঙ্খলা প্রক্রিয়া রয়েছে এবং আমরা পরিবর্তে সমবায়িকতার সাথে কাজ করি (সিসিএ সহ, আমরা একই সাথে উভয় ব্লককে অপসারণ করি এবং আমরা সমবায় পরিবর্তে সর্বাধিক সম্পর্ক স্থাপনের চেষ্টা করি)।

— chl

@ চিএল: আপস- আজ (জানুয়ারির শেষের দিকে) আমি মধ্য নভেম্বরের এই প্রশ্ন / কথোপকথনে ফিরে এসেছি .... দুঃখিত আমি আগে যাচাই করিনি - আমার কোর্সগুলির সাথে কিছু ছিল এবং তখন আমি স্ট্যাটাস এক্সচেঞ্জটি ভুলে গিয়েছিলাম। .. আমি যদি কিছু মূল্যবান হয়ে থাকি তবে আমি পরের দিন ফিরে আসব।

— গটফ্রাইড হেলস

-3

একে স্ট্রাকচারাল সমীকরণ মডেল বা একসাথে সমীকরণ মডেল বলা হয়।

— Shige
সূত্র

3

আমি ভুল হতে পারি, তবে আমি মনে করি না এটি একই জিনিস। আমি যে SEM গ্রাফগুলি দেখেছি সেগুলি থেকে দেখে মনে হচ্ছে যে SEM সুপ্ত উপাদানগুলির মান নির্ধারণ করতে একাধিক রিগ্রেশন সমীকরণ ব্যবহার করে এবং তারপরে একটি উচ্চ-ক্রমের ফ্যাক্টর নির্ধারণের জন্য সেই সুপ্ত কারণগুলির মানের উপর আরও একটি রিগ্রেশন চালিত হয়। হতে পারে এটি ভুল, তবে আমি কোনও এসইএম গ্রাফটি কখনও দেখিনি যা বেশ কয়েকটি আইভি-কে একাধিক ডিভিএস-এর সাথে সংযুক্ত করে - সবকিছুই শ্রেণিবদ্ধ।

— জেফ

এই কাগজে চিত্র 8: বায়োমেডেন্ট্রাল.com / 1471-2288 /3/ 27 আপনি এটি করতে পারেন, তবে এর সামান্য বক্তব্য রয়েছে। এটি মানোভার মতোই।

— জেরেমি মাইলস