"সীমাবদ্ধ সর্বাধিক সম্ভাবনা" কী এবং এটি কখন ব্যবহার করা উচিত?

73

আমি এই কাগজের বিমূর্তে পড়েছি যে:

"প্যাটারসন এবং থম্পসন থেকে রূপান্তরকে হার্টলে অডির সর্বাধিক সম্ভাবনা (এমএল) পদ্ধতিটি সংশোধন করা হয়েছে যা পার্টিশনগুলি স্বাভাবিকভাবে দুটি অংশে ভাগ করে দেয়, একটি স্থির প্রভাব থেকে মুক্ত। এই অংশটি সর্বাধিকতর ফলন দেয় যা সীমাবদ্ধ সর্বাধিক সম্ভাবনা বলে ডাকা হয়। (আরইএমএল) অনুমানকারী। "

আমি এই কাগজের বিমূর্তেও পড়েছিলাম যে REML:

"স্থির প্রভাবগুলির অনুমানের ফলে স্বাধীনতার ডিগ্রিগুলিতে ক্ষতির বিষয়টি বিবেচনা করে।"

দুঃখের বিষয় আমার কাছে এই কাগজপত্রের সম্পূর্ণ পাঠ্যে অ্যাক্সেস নেই (এবং সম্ভবত আমি বুঝতে পারি না)।

এছাড়াও, আরইএমএল বনাম এমএল এর সুবিধাগুলি কী কী? কোন পরিস্থিতিতে মিক্সড ইফেক্টের মডেলটি ফিটিং করার সময় এমএল (বা বিপরীতে) এর তুলনায় রিয়েলকে বেশি পছন্দ করা যেতে পারে? একটি উচ্চ বিদ্যালয় (বা ঠিক এর বাইরে) গণিতের পটভূমি সহ কারোর জন্য উপযুক্ত একটি ব্যাখ্যা দিন!

mixed-model maximum-likelihood reml

— জো কিং
সূত্র

দেখুন stats.stackexchange.com

62

ওক্রামের উত্তর অনুসারে, এমএল ভেরিয়েন্স উপাদানগুলির অনুমানের জন্য পক্ষপাতদুষ্ট। তবে লক্ষ্য করুন যে বৃহত্তর নমুনা আকারগুলির জন্য পক্ষপাত ছোট হয়ে যায়। সুতরাং আপনার প্রশ্নের উত্তরে " ... আরএমএল বনাম এমএল এর সুবিধা কী? কোন পরিস্থিতিতে মিক্সড এফেক্টস মডেল লাগানোর সময় কোন পরিস্থিতিতে এমএল (বা তদ্বিপরীত) এর চেয়ে বেশি পছন্দ করা যেতে পারে? ", ছোট নমুনা আকারের জন্য আরএমএলকেই অগ্রাধিকার দেওয়া হয়। তবে, আরইএমএলের সম্ভাবনা অনুপাতের পরীক্ষার জন্য উভয় মডেলেই ঠিক একই স্থায়ী প্রভাবগুলির স্পেসিফিকেশন প্রয়োজন। সুতরাং, এলআর পরীক্ষার সাথে বিভিন্ন স্থির প্রভাবগুলির (একটি সাধারণ দৃশ্যের) সাথে মডেলগুলির তুলনা করতে, এমএল অবশ্যই ব্যবহার করা উচিত।

আরএমএল প্রতিটি (ডিগ্রি এফেক্টস) প্যারামিটারগুলির অনুমানের পরিমাণ গ্রহণ করে, প্রতিটিটির জন্য 1 ডিগ্রি স্বাধীনতা হারাতে পারে। এটি সর্বনিম্ন স্কোয়ারের অবশিষ্টাংশগুলিতে এমএল প্রয়োগ করে অর্জন করা হয় যা স্থির প্রভাবগুলির চেয়ে পৃথক।

— রবার্ট লং
সূত্র

8

প্রকৃতপক্ষে, কোনও বৈকল্পিক উপাদানটির আরএমএল অনুমানক সাধারণত (প্রায়) পক্ষপাতহীন হয়, যখন এমএল অনুমানকারী নেতিবাচকভাবে পক্ষপাতদুষ্ট থাকে। তবে এমএল অনুমানকারীটির সাধারণত আরইএমএল অনুমানের চেয়ে কম গড়-স্কোয়ার্ড ত্রুটি (এমএসই) থাকে। সুতরাং, আপনি যদি গড়পড়তাভাবে সঠিক হতে চান তবে REML এর সাথে যান তবে আপনি এটির জন্য অনুমানের বৃহত্তর পরিবর্তনশীলতার সাথে অর্থ প্রদান করেন। আপনি যদি গড়পড়তাভাবে সত্যের মানটির নিকটবর্তী হতে চান তবে এমএল এর সাথে যান, তবে আপনি এটির জন্য নেতিবাচক পক্ষপাতিত্ব দিয়ে অর্থ প্রদান করেন।

— ওল্ফগ্যাং

3

ধ্রুবক গড় এবং ধ্রুবক পরিবর্তনের সাধারণ ক্ষেত্রে এমএল এসএসআরকে সাথে ভাগ করছে যখন আরএমএল এসএসআরকে দিয়ে ভাগ করছে । তাই আরএমএল হ'ল এই পদ্ধতির একটি সাধারণীকরণ!

n

$n$

(n - 1)

$(n-1)$

— কেজেটিল বি হালওয়ারসেন

"এমএল ভেরিয়েন্স উপাদানগুলির অনুমানের জন্য পক্ষপাতদুষ্ট"। এর অর্থ কি এলোমেলো প্রভাবের বৈকল্পিকতা বা স্থির-প্রভাব সহগের মানক ত্রুটিগুলিও বোঝায়?

— স্ক্যান

54

এখানে একটি দ্রুত উত্তর ...

স্ট্যান্ডার্ড উদাহরণস্বরূপ উদাহরণ

যাক একটি সাধারণ বিতরণ ) এর নমুনা হয়ে । উভয় এবং অজানা। সর্বোচ্চ সম্ভাবনা মূল্নির্ধারক , সম্মান সাথে, লগ-সম্ভাবনা ডেরিভেটিভ নেওয়ার দ্বারা প্রাপ্ত এবং শুন্যতে equating হয় যেখানে হ'ল এর সর্বাধিক সম্ভাবনা অনুমানকারী । আমরা [ পুনরায় লেখা দ্বারা শুরু করুন $y = (y_1, \dotsc, y_n)$ $\mathrm{N}(\mu, \sigma^2$ $\mu$ $\sigma^2$ $\sigma^2$ $\sigma^2$

{\hat{σ}}_{ML}^{2} = \frac{1}{n} \sum_{i = 1}^{n} (y_{i} - \bar{y})^{2}

$\hat{\sigma}^2_{\textrm{ML}} = \frac{1}{n} \sum_{i=1}^n (y_i -\bar{y})^2$

\bar{y} = \frac{1}{n} \sum_{i = 1}^{n} y_{i}

$\bar{y} = \frac{1}{n} \sum_{i=1}^n y_i$

μ

$\mu$

E ({\hat{σ}}_{ML}^{2}) = \frac{n - 1}{n} σ^{2} .

$\mathrm{E}(\hat{\sigma}^2_{\textrm{ML}}) = \frac{n-1}{n} \sigma^2.$

{\hat{σ}}_{ML}^{2}

$\hat{\sigma}^2_{\textrm{ML}}$ হিসাবে ]। সুতরাং, পক্ষপাতদুষ্ট। মনে রাখবেন যে আমরা যদি জানতাম , তবে জন্য এমএলই নিরপেক্ষ থাকত। অতএব, the এর সাথে এই সমস্যাটির সাথে সম্পর্কিত বলে মনে হচ্ছে যে অনুমানের অজানা অর্থের জন্য আমরা প্রতিস্থাপন করেছি । আরএমএল অনুমানের স্বজ্ঞাত ধারণাটি এমন একটি সম্ভাবনার সাথে শেষ হয় যাতে সমস্ত তথ্য থাকে তবে আর তথ্য থাকে না ।

\frac{1}{n} \sum_{i = 1}^{n} {((y_{i} - μ) + (μ - \bar{y}))}^{2}

$\frac{1}{n} \sum_{i=1}^n \left((y_i - \mu) + (\mu - \bar{y})\right)^2$

{\hat{σ}}_{ML}^{2}

$\hat{\sigma}^2_{\textrm{ML}}$

μ

$\mu$

σ^{2}

$\sigma^2$

{\hat{σ}}_{ML}^{2}

$\hat{\sigma}^2_{\textrm{ML}}$ $\bar{x}$

σ^{2}

$\sigma^2$

μ

$\mu$

আরো টেকনিক্যালি, REML সম্ভাবনা মূল ডেটা রৈখিক সমাহার থাকার সম্ভাবনা নেই: সম্ভাবনা পরিবর্তে , আমরা সম্ভাবনা বিবেচনা , যেখানে ম্যাট্রিক্স এমন যে । $y$ $Ky$ $K$ $\mathrm{E}[Ky] = 0$

আরএমএল অনুমান প্রায়শই মিশ্র মডেলগুলির আরও জটিল প্রসঙ্গে ব্যবহৃত হয়। মিশ্র মডেলগুলির প্রতিটি বইয়ের আরও একটি বিভাগে REML প্রাক্কলন ব্যাখ্যা করার একটি বিভাগ রয়েছে।

সম্পাদন করা

@Joe রাজা: এখানে যে সম্পূর্ণরূপে অনলাইন উপলব্ধ মিশ্র মডেলের উপর আমার প্রিয় বই এক। বিভাগ ২.৪.২ বিবিধ উপাদানগুলির অনুমানের সাথে কাজ করে। আপনার পড়া উপভোগ করুন :-)

— ocram
সূত্র

আপনাকে ধন্যবাদ - এটি সহায়ক - যদিও মিক্সড মডেলগুলিতে আমার কাছে বইয়ের সহজ অ্যাক্সেস নেই। আপনি কি আমার পোস্টের 2 টি উদ্ধৃতিতে আপনার উত্তরটি সম্পর্কিত করতে পারেন?

— জো কিং

আমি ভাবছি কীভাবে একটি মাল্টিভিয়ারেট গাউশিয়ান গল্পটি বদলেছে? stats.stackexchange.com/questions/167494/…

— সিবস জুয়া

9

এমএল পদ্ধতিটি ভেরিয়েন্স প্যারামিটারগুলিকে অবমূল্যায়ন করে কারণ এটি ধরে নিয়েছে যে বৈকল্পিক পরামিতিগুলি অনুমান করার সময় নির্দিষ্ট পরামিতিগুলি অনিশ্চয়তা ছাড়াই পরিচিত।

আরএএমএল পদ্ধতিটি বৈকল্পিক পরামিতির জন্য অনুমানগুলি স্থির প্রভাবগুলির জন্য অনুমানের থেকে পৃথক করতে গণিতের কৌশল ব্যবহার করে। এই সময়ে কোনও ভেরিয়েন্স উপাদানকে উপেক্ষা করে মডেলটির স্থির প্রতিক্রিয়া অংশ দ্বারা মডেল করা পর্যবেক্ষণগুলির জন্য প্রথমে রিগ্রেশন রেসিডুয়ালগুলি পেয়ে কাজ করে আরইএমএল works

এমএল অনুমানগুলি স্থির প্রভাবগুলির জন্য পক্ষপাতহীন তবে এলোমেলো প্রভাবগুলির পক্ষে পক্ষপাতদুষ্ট, যেখানে আরএএমএল অনুমানগুলি স্থির প্রভাবগুলির জন্য পক্ষপাতদুষ্ট এবং এলোমেলো প্রভাবের জন্য পক্ষপাতহীন।

— skan
সূত্র