মিশ্র মডেলগুলি থেকে ভবিষ্যদ্বাণী করার সময় কেন এলোমেলো প্রভাবগুলিতে অনিশ্চয়তা যুক্ত করা কঠিন?

Question

আর-সিগ-এমই-র উপর পূর্বাভাসগুলির জন্য আর ব্যবহার করে lme4এবং nlmeআর এর মধ্যে আত্মবিশ্বাসের ব্যবস্থাগুলি অর্জন সম্পর্কে বেশ কয়েকটি থ্রেড রয়েছে উদাহরণস্বরূপ এখানে এবং এখানে ২০১০ সালে, উভয় প্যাকেজের অন্যতম লেখক ডগলস বেটসের কিছু মন্তব্য রয়েছে including তাদের প্রসঙ্গের বাইরে নিয়ে যাওয়ার ভয়ে আমি তাকে মৌখিকভাবে উদ্ধৃত করতে সংকোচ করি, তবে যাইহোক, তিনি একটি মন্তব্য করেছেন

"আপনি আপনার পূর্বাভাসগুলিতে প্যারামিটার এবং এলোমেলো ভেরিয়েবলের সংমিশ্রণ করছেন এবং আমি নিশ্চিত নই যে এই ভবিষ্যদ্বাণীগুলির পরিবর্তনশীলতার মূল্যায়ন করার অর্থ কী হবে। একজন বেয়েশিয়ান এটি বুঝতে সক্ষম হতে পারে তবে আমি তার চারপাশে আমার মাথা পেতে পারি না। " https://stat.ethz.ch/pipermail/r-sig-mixed-models/2010q1/003447.html

আমি জানি যে বায়সিয়ান গ্ল্যাম প্যাকেজ MCMCglmmভবিষ্যদ্বাণীগুলির জন্য বিশ্বাসযোগ্য ব্যবধান তৈরি করতে পারে।

ইদানীং, lme4গিথুব- এর বিকাশের সংস্করণটিকে একটি predictপদ্ধতি দেওয়া হয়েছে , তবে এটির সাথে নিম্নলিখিত মন্তব্যটি রয়েছে:

"@ দ্রষ্টব্য পূর্বাভাসের স্ট্যান্ডার্ড ত্রুটিগুলি গণনা করার কোনও বিকল্প নেই কারণ ভেরিয়েন্স প্যারামিটারগুলিতে অনিশ্চয়তা অন্তর্ভুক্ত করে এমন একটি কার্যকর পদ্ধতি নির্ধারণ করা কঠিন; আমরা এই কাজের জন্য \ কোড {\ লিঙ্ক {বুটমার} recommend কে সুপারিশ করি।" https://github.com/lme4/lme4/blob/master/R/predict.R

সুতরাং, ঘন ঘন মৈত্রী সেটিংয়ে মিশ্র মডেলগুলি থেকে ভবিষ্যদ্বাণী করার সময় এলোমেলো প্রভাবগুলিতে অনিশ্চয়তা যুক্ত করা কেন কঠিন?

Answer 1

আমি পূর্বাভাস পদ্ধতিতে মন্তব্য সম্পর্কে নিশ্চিত নই তবে একটি প্রাথমিক সমস্যাটি সহজেই ব্যাখ্যাযোগ্য ভেরিয়েন্স ব্যবস্থা তৈরির সাথে সম্পর্কিত, প্রতি সেঞ্চে পরিবর্তনের ব্যবস্থা নয় measures বেটস প্রথম উদ্ধৃতিতে কোনও মন্তব্য করছেন না আপনি এটি করতে পারবেন কিনা, তার অর্থ কি।

দুটি স্তরের পুনরাবৃত্তি ব্যবস্থা ডিজাইনের একটি সাধারণ বহু-স্তরের মডেল নিন। আসুন ধরা যাক আপনার প্রতিটি রেখা একটি বিষয় যেখানে নিম্নলিখিত তথ্য আছে:

ইন lmerমডেল হিসেবে প্রকাশ করা যেতে পারে:

y ~ x + (1|subject)

আপনি এক্স থেকে y- মানটিকে একটি নির্দিষ্ট প্রভাব হিসাবে (এ এবং বি এর মধ্যে পার্থক্য) হিসাবে পূর্বাভাস দিচ্ছেন; এবং ইন্টারসেপ্ট একটি এলোমেলো প্রভাব **। গ্রাফটি মনোযোগ সহকারে দেখুন এবং নোট করুন যে প্রতিটি বিষয়ের (প্রতিটি লাইনের opeাল) জন্য এক্স এফেক্টে পরিবর্তনশীলতা রয়েছে তবে এটি বিষয়গুলির (প্রতিটি লাইনের উচ্চতা) পার্থক্যের তুলনায় তুলনামূলকভাবে ছোট।

মডেলটি পরিবর্তনশীলতার এই দুটি সেটকে পার্স করে এবং প্রত্যেকটি অর্থবহ। লাইনগুলির উচ্চতা পূর্বাভাস দেওয়ার জন্য আপনি এলোমেলো প্রভাবগুলি ব্যবহার করতে পারেন এবং slালু পূর্বাভাসের জন্য আপনি এক্স এর স্থির প্রভাবগুলি ব্যবহার করতে পারেন। এমনকি আপনি আমাদের স্বতন্ত্র y- মানগুলিতে কাজ করতে দুটি সংযুক্ত ব্যবহার করতে পারেন। আপনি যখন slালু এবং লাইনের উচ্চতা একত্রিত করতে পারেন তখন আপনি যা করতে পারবেন না তা হ'ল আপনার মডেলের প্রতি শ্রদ্ধার সাথে অর্থপূর্ণ কিছু বলা । আপনার slালু এবং লাইনের উচ্চতাগুলির পৃথকীকরণের বিষয়ে আলাদাভাবে কথা বলতে হবে। এটি মডেলের একটি বৈশিষ্ট্য , দায় নয় not

অপেক্ষাকৃত সহজেই অনুমান করা যায় এমন এক্স এর প্রভাবের আপনার পরিবর্তনশীলতা থাকবে। আশেপাশের একটি আত্মবিশ্বাসের ব্যবধান সম্পর্কে আপনি কিছু বলতে পারেন। তবে মনে রাখবেন যে এই আত্মবিশ্বাসের ব্যবধানটি কোনও নির্দিষ্ট y মানের পূর্বাভাসের সাথে সামান্য সম্পর্ক রাখতে চলেছে কারণ y মানটি প্রভাবের সাথে এবং বিষয় বৈচিত্রের সংমিশ্রণ দ্বারা প্রভাবিত হয় যা কেবলমাত্র প্রভাবের পরিবর্তনশীলতার চেয়ে পৃথক।

বেটস যখন আপনি উদ্ধৃত করেছেন এমন জিনিসগুলি লেখেন আমি কল্পনা করি তিনি প্রায়শই আরও জটিল বহু-স্তরের ডিজাইনের কথা ভাবছেন যা এটি এমনকি কাছেও আসে না। এমনকি আপনি যদি এই সহজ উদাহরণটি বিবেচনা করেন তবে আপনি ভাবছেন যে ভেরিয়েন্সের সমস্ত ব্যবস্থাকে একত্রিত করে কী ধরণের আসল অর্থ বের করা যায়।

** আমি সরলতার জন্য ইন্টারসেপ্টের স্থির প্রভাবটিকে উপেক্ষা করেছি এবং এটিকে কেবল এলোমেলো প্রভাব হিসাবে বিবেচনা করি। আপনি কেবল একটি এলোমেলো এবং স্থির ইন্টারসেপ্টের সাথে এমনকি সাধারণ মডেল থেকে অনুরূপ সিদ্ধান্তগুলি বের করতে পারেন তবে আমি মনে করি যে এটি জানানো আরও কঠিন হবে। সেক্ষেত্রে আবারও, স্থির প্রভাব এবং এলোমেলো প্রভাব একটি কারণের জন্য পার্স করা হয় এবং বিভিন্ন জিনিস বোঝায় এবং পূর্বাভাসিত মানগুলির জন্য তাদের পরিবর্তনশীলতাকে আবার একত্রিত করে যে পরিবর্তনশীলতার মডেলটির প্রতি শ্রদ্ধার সাথে সামান্য ধারণা পোষণ করে।

Comments

সুতরাং, আমি আপনাকে যা বলতে শুনেছি তা হ'ল এটি একই প্রবীণ শর্তে নেমে আসে আমরা নিশ্চিত হয়েছি না যে আমরা বিষয় বৈকল্পিকটিকে ত্রুটি হিসাবে বিবেচনা করতে চাইছি বা পৃথকভাবে ভাগ করে নিতে চাইছি এবং এটির অস্তিত্ব নেই বলে? এটা কি সঠিক?

— রাসেলপিয়ের্স 3'13

আমি সেই পুরানো কর্ণটি কখনও শুনিনি। আমি কখনও শুনিনি যে আপনার ভান করা উচিত বিষয়গুলির বৈচিত্রটি বিদ্যমান নেই। তবে আমি মনে করি এটি এই নির্দিষ্ট উদাহরণের সাথে সম্পর্কিত। মডেল বৈকল্পিককে পার্স করে। মডেলিং প্রক্রিয়াটির এই বৈশিষ্ট্যটি হল আপনি কীভাবে মডেলটি বুঝতে পারবেন। যদি আপনি আবার বৈকল্পিক পুনরায় সমন্বয় করেন তবে আপনি মডেলটির উদ্দেশ্যকে প্রথম স্থানে পরাজিত করছেন। আমি বিষয়টির বৈচিত্র্য উপেক্ষা করার কথা বলছি না, কেবল বিষয়টির এলোমেলো প্রভাব পৃথক। আপনি ব্লুয়িন এবং রিওপেল (2005) পড়তে চাইতে পারেন এবং যখন আপনি বৈকল্পিক একত্রিত করেন তখন এসই এর পরিবর্তনের অর্থ কীভাবে তা দেখতে পারেন।

— জন

হতে পারে আমি কিছু মিস করছি, তবে এটি অনেকটা আগের মতই মনে হয় সাবজেক্ট / রিপিটেন্ড মেজারস আনোভা-র জন্য কীভাবে প্রভাবের আকারটি ব্যবহার করা ভাল এবং সেই আত্মবিশ্বাসের অন্তরগুলি কীভাবে সেরা চক্রান্ত করা হয়েছে ... তবে আমি মনে করি আমার পরে আপনি যে জিনিসটির দিকে ইঙ্গিত করেছেন সেটিকে পড়ুন আমি যা মিস করছি তা যা আমি মিস করব না। :) ধন্যবাদ।

— রাসেলপিয়ের্স

আমি যেমন বলেছি, তারা সম্পর্কিত। আমি জানতাম না পিছনে পিছনে আছে, একটি রেফারেন্স দেখতে পছন্দ করবে। আসল বিষয়টি হল, আপনি যে দুটি সিআই এবং প্রভাবগুলির বিষয়ে কথা বলছেন তা ভিন্ন ভিন্ন জিনিস। সুতরাং, আপনি যা বোঝাতে চান তা ব্যবহার করে। এবং আপনি তাদের বোধগম্য মনে করতে হবে। [তর্ক করা শক্ত (যদিও কিছু রয়েছে) যে একটি সিআইকে পুনরাবৃত্তি ব্যবস্থাগুলির নকশায় একটি গড়ের চারপাশে বিষয়বস্তুর সংমিশ্রণ করা এবং বারবার ব্যবস্থা গ্রহণের প্রভাব সম্পর্কে কিছু বলার জন্য এটি ব্যবহার করা বুদ্ধিমান]]

— জন

আমি সাহিত্যে কিছুই দেখিনি, কেবল প্রচুর অনানুষ্ঠানিক হাত কাঁপছে এবং পর্যালোচক ডু ভ্রমণ কী ভাববে তা অনুমান করার চেষ্টা করে।

— রাসেলপিয়ের্স 6:58

Answer 2

দীর্ঘকাল ধরে আমি আপাতদৃষ্টিতে সাধারণ বিশ্বাস সম্পর্কে ভাবছিলাম যে (সাধারণত ননলাইনার) মিশ্র প্রভাবগুলির মডেলগুলির স্থির এবং এলোমেলো প্রভাবগুলির মধ্যে কিছু মৌলিক পার্থক্য রয়েছে। এই বিশ্বাসটি উদাহরণস্বরূপ নিম্নলিখিত প্রতিক্রিয়াতে বেটস দ্বারা বিবৃত

https://stat.ethz.ch/pipermail/r-sig-mixed-models/2010q1/003447.html

$L(x,u)$$g(x,u)$$P_g(t)$$g$

$$P_g(t)=\max_{x,u} \{L(x,u)\ |\ g(x,u)=t \} \eqno(1)$$

আমি বিশ্বাস করি যে কেউ এ নিয়ে তর্ক করবে না। এখন ধরুন আমাদের কাছে আপনার পূর্ব সম্ভাবনা বন্টন । তারপরে আমি দাবি করব যে এর প্রোফাইল সম্ভাবনাটি এখনও বোধগম্য, তবে আমাদের পূর্ববর্তীটি অন্তর্ভুক্ত করে (1) সংশোধন করা উচিত।$p(u)$$g$

$$P_g(t)=\max_{x,u} \{L(x,u)p(u)\ |\ g(x,u)=t \} \eqno(2)$$ নোট যেহেতু একটি পরামিতি একটি পূর্ববর্তী এটি একেবারে একই হিসাবে যা এলোমেলো প্রভাব হিসাবে উল্লেখ করা হয়। সুতরাং কেন অনেকে মনে করেন যে এলোমেলো প্রভাবের পরামিতিগুলি কোনওভাবে আলাদা। পার্থক্যটি আমি মনে করি তাদের জন্য প্যারামিটার অনুমানের স্বাভাবিক অনুশীলন থেকে আসে। এলোমেলো প্রভাবগুলি `` পৃথক '' করে তোলে তা হ'ল অনেকগুলি মডেলের মধ্যে সেগুলির অনেকগুলি রয়েছে। স্থির প্রভাব (বা অন্যান্য পরামিতি) জন্য দরকারী অনুমান পেতে ফলস্বরূপ এলোমেলো প্রভাবগুলি আলাদাভাবে চিকিত্সা করা প্রয়োজন। আমরা যা করি তা হ'ল তাদেরকে মডেলের বাইরে একীভূত করা। উপরের মডেলটিতে আমরা সম্ভাবনা যেখানে এখন$u$$F(x)$ $$F(x) = \int L(x,u)p(u)du$$ $u$চলে গেছে সুতরাং আমাদের সমস্ত কিছু যদি তবে কিছু ফাংশন প্রোফাইল সম্ভাবনা সম্পর্কে কথা বলার কোনও অর্থ নেই বলে মনে হচ্ছে ।$F(x)$$g(x,u)$

সুতরাং সম্পর্কে ফাংশন তথ্য পেতে আমরা প্যারামিটার উপর সংহত করা উচিত নয় । তবে যেখানে অনেকগুলি এলোমেলো প্রভাবের পরামিতি রয়েছে সেখানে কী ঘটে। তারপরে আমি দাবি করি যে আমাদের `` সর্বাধিক '' এর চেয়ে বেশি সংহত করা উচিত তবে সেগুলির সমস্তই এক অর্থে আমি সুনির্দিষ্ট করব will নির্মাণ অনুপ্রাণিত করার জন্য, হতে দিন র্যান্ডম প্রভাব । বিশেষ ক্ষেত্রে বিবেচনা যেখানে ফাংশন শুধুমাত্র উপর নির্ভর করে , এবং আসলে সহজ ফাংশন imagineable হয় । উপর সংহত র্যান্ডম প্রভাব পেতে $g(x,u)$$u$$n$$u=(u_1,u_2,...,u_{n-1},u_n)$$g(x,u)$$u_n$$g(x,u)=u_n$$u_1,u_2,...,u_{n-1}$

$$F(x,u_n) = \int L(x,u_1,...,u_n)p(u_1,...,u_n))du_1du_2...du_{n-1}\eqno(4)$$ আগের মতো আমরা প্রোফাইলের সম্ভাবনা তৈরি করতে পারি কীভাবে সাধারণকরণ করবেন যাতে এটি একটি স্বেচ্ছাসেবী ফাংশন জন্য । ওয়েল যে বিজ্ঞপ্তি সংজ্ঞা মধ্যে হিসাবে একই এই নোটটি দেখতে যে সাধারণ কেসের জন্য , একই $$P_g(t)=\max_{x,u_n} \{F(x,u_n) | u_n=t \} \eqno(3)$$ $(3)$$g(x,u)$$F(x,u_n)$$(4)$ $$F(x,s) = \lim_{\epsilon\rightarrow 0}{1\over\epsilon} \int_{\{(x,u_n) | s-\epsilon/2<g(x,u_n)<s+\epsilon/2\}} L(x,u_1,...,u_n)p(u_1,...,u_n))du_1du_2...du_n\eqno(5)$$ $g(x,u)=u_n$$(5)$ $$F(x,s)=\lim_{\epsilon\rightarrow 0}{1\over\epsilon} \int_{\{(x,u_n) | s-\epsilon/2<u_n<s+\epsilon/2\}} F(x,u_n)du_n\eqno(6)$$

একটি সাধারণ ফাংশন আমরা দ্বারা সংজ্ঞায়িত ফাংশনটি গঠন করি এবং প্রোফাইলের সম্ভাবনা গণনা $g(x,u)$$F(x,s)$$(5)$

$$P_g(s)=\max_{x,u} \{F(x,s) | g(x,u)=s \} \eqno(3)$$

এই প্রোফাইল সম্ভাবনা একটি ভাল সংজ্ঞায়িত ধারণা এবং এটি নিজের উপর দাঁড়িয়ে। তবে অনুশীলনে কার্যকর হতে একজনকে তার মূল্য নির্ধারণ করতে সক্ষম হতে হবে, কমপক্ষে প্রায়। আমি বিশ্বাস করি যে অনেক মডেলের জন্য ফাংশন ল্যাপলেস আনুমানিকতার একটি বৈকল্পিক ব্যবহার করে যথেষ্ট পরিমাণে প্রায় অনুমান করা যায়। নির্ধারণ করুন দ্বারা H এবং পরামিতিগুলির সাথে ফাংশন এর লগের হেসিয়ান হতে দিন ।$F(x,s)$$\hat x(s),\hat u(s)$

$$\hat x(s),\hat u(s)= \max_{x,u} \{L(x,u)p(u)\ |\ g(x,u)=s\}$$ $-L(x,u)p(u)$$x$$u$

এর স্তর সেটগুলি হ'ল মাত্রিক সাবমানিফোল্ডগুলি একটি ডাইমেনশনাল স্পেসের যেখানে স্থির প্রভাব এবং এলোমেলো প্রভাব রয়েছে। আমাদের এই বহুগুণে একটি ফর্ম এক সংহত করতে হবে যেখানে সমস্ত এ লিনিয়ারযুক্ত রয়েছে এতে কিছুটা প্রাথমিক ডিফারেনশিয়াল জ্যামিতি জড়িত। ধরে নিন যে টু পুনঃনির্ধারণের মাধ্যমে আমরা ধরে নিতে পারি যে এবং । তারপরে মানচিত্রটি বিবেচনা করুন $g$$m+n-1$$n+m$$m$$n$$n$$du_1\wedge du_2\wedge\ldots\wedge du_n$$\hat x(s),\hat u(s)$$g_{x_n}(\hat x(s),\hat u(s))\ne 0$$\hat x(s)=0$$\hat u(s)=0$

$$(x_1,x_2,\ldots,x_{m-1},u_1,u_2,\ldots,u_n) \rightarrow (x_1,x_2,\ldots,x_{m-1}, {-\sum_{i=1}^{m-1}g_{x_i}x_i-\sum_{i=1}^ng_{u_i}u_i\over g_{x_m}}, u_1,u_2,\ldots,u_n)$$ যেখানে ব্যবহৃত হয় সর্বাধিক বিন্দুতে মূল্যায়িত সাথে এর আংশিক ডেরাইভটিভি বোঝান । এটি স্তর সেটটির স্পর্শক স্পেসের উপরে মাত্রিক স্থানের একটি লিনিয়ার মানচিত্র । আমরা এটি পছন্দসই অবিচ্ছেদ্য গণনা করতে ব্যবহার করতে পারি। প্রথমে 1 টি ফর্ম এর কেবল নিজেরাই।$g_{x_i}$$g$$x_i$$m+n-1$$g$$du_i$

হেসিয়ানটির রূপ

$$T_{i,j} =H_{i+m,j+m}+{g_{u_i}g_{u_j}\over {g_{x_m}}^2}H_{m,m}\quad \hbox{\rm for} \ 1<=i,j<=n$$

সুতরাং অবিচ্ছেদ্য ল্যাপলেস অনুমানের মাধ্যমে গণনা করা যেতে পারে (যা আনুমানিক) এর নির্ধারকের লোগারিথমের সাথে জড়িত একটি সাধারণ সূত্র , যা কোলেস্কির পচন ধরে গণনা করা হয়। ইন্টিগ্রালের ল্যাপ্লেস আনুমানিকের মান হ'ল যেখানেনির্ধারক হয়। আমাদের এখনও of হিসাবে লেভেল সেটের প্রস্থের সাথে ডিল করতে হবে প্রথমে অর্ডার করার জন্য এর মান টু যেখানে এর আংশিক ডেরাইভেটিভসের ভেক্টর $T$

$$L(\hat x(s),\hat u(s))|-T|^{1\over2}$$ $|\cdot|$$g$$\epsilon\rightarrow 0$$\epsilon/\|\nabla g(\hat x(s),\hat u(s))\|$$\nabla g(\hat x(s),\hat u(s)))$$g$ ছ এল ( এক্স ( গুলি ) , ইউ ( গুলি ) ) | - টি | $( g_{x_1}, g_{x_2}, \ldots, g_{x_m}, g_{u_1}, g_{u_2}, \ldots, g_{u_n})$ যাতে স্তরের সেটটিতে সম্ভাবনা মান দেওয়া হয় দ্বারা Profile প্রোফাইল সম্ভাবনা গণনা করার জন্য এটি সঠিক অনুমান$g$ $${L(\hat x(s),\hat u(s))|-T|^{1\over2}\over \|\nabla g(\hat x(s),\hat u(s))\|}$$