পরিসংখ্যানগত শিক্ষায় আইআইডি অনুমানের গুরুত্ব সম্পর্কে

54

পরিসংখ্যান শেখার সালে পরোক্ষভাবে বা স্পষ্টভাবে, এক সবসময় ধরে নেয় যে ট্রেনিং সেট $\mathcal{D} = \{ \bf {X}, \bf{y} \}$ গঠিত হয় $N$ ইনপুট / প্রতিক্রিয়া tuples $({\bf{X}}_i,y_i)$ যে স্বাধীনভাবে একই যৌথ বন্টন থেকে টানা $\mathbb{P}({\bf{X}},y)$ সাথে

p (X, y) = p (y | এক্স) পি (এক্স)

$p({\bf{X}},y) = p( y \vert {\bf{X}}) p({\bf{X}})$

এবং $p( y \vert {\bf{X}})$ আমরা একটি বিশেষ শেখার অ্যালগরিদমের মাধ্যমে যে সম্পর্কটিকে ক্যাপচার করার চেষ্টা করছি তা। গাণিতিকভাবে, এই আইডি অনুমানটি লিখেছেন:

\begin{matrix} ({এক্স}_{আমি}, Y_{আমি}) ~ পি (এক্স, Y), \forall আমি = 1, । । ।, এন \\ ({এক্স}_{আমি}, Y_{আমি}) স্বাধীন ({এক্স}_{ঞ}, Y_{ঞ}), \forall আমি \neq ঞ \in {1, । । ।, এন} \end{matrix}

$\begin{gather} ({\bf{X}}_i,y_i) \sim \mathbb{P}({\bf{X}},y), \forall i=1,...,N \\ ({\bf{X}}_i,y_i) \text{ independent of } ({\bf{X}}_j,y_j), \forall i \ne j \in \{1,...,N\} \end{gather}$

আমি মনে করি আমরা সকলেই একমত হতে পারি যে এই অনুমানটি বাস্তবে খুব কমই সন্তুষ্ট , এই সম্পর্কিত এসই প্রশ্ন এবং @ গ্লেন_বি এবং @ লুকারার বুদ্ধিমান মন্তব্য দেখুন।

আমার প্রশ্ন তাই:

বাস্তবে আইড অনুমানটি সমালোচিত হয়ে ওঠে কোথায়?

[কনটেক্সট]

আমি এটি জিজ্ঞাসা করছি কারণ আমি অনেকগুলি পরিস্থিতি সম্পর্কে ভাবতে পারি যেখানে নির্দিষ্ট মডেল (যেমন লিনিয়ার রিগ্রেশন পদ্ধতি) প্রশিক্ষণের জন্য এইরকম কঠোর অনুমানের প্রয়োজন হয় না, বা কমপক্ষে একজন আইড অনুমানের চারপাশে কাজ করতে পারে এবং দৃ rob় ফলাফল অর্জন করতে পারে। বাস্তবিক ফলাফল সাধারণত একই থাকতে হবে বরং এটা হল মতামতে উপনীত যে এক আহরণ করতে পারে যে (যেমন heteroskedasticity এবং autocorrelation রৈখিক রিগ্রেশনের মধ্যে সামঞ্জস্যপূর্ণ hạc estimators পরিবর্তন করতে হবে: ধারণা ভাল পুরানো OLS ঔজ্জ্বল্যের প্রেক্ষাপটে রিগ্রেশন ওজন পুনঃ-ব্যবহার করে কিন্তু খাপ খাওয়ানো হয় গাউস-মার্কভ অনুমানের লঙ্ঘনের জন্য অ্যাকাউন্টে ওএলএসের অনুমানকারীের সীমাবদ্ধ-নমুনা আচরণ)।

আমার ধারণা তাই আইআইডি অনুমানের জন্য নির্দিষ্ট শিক্ষার অ্যালগরিদমকে প্রশিক্ষণ দিতে না পারার প্রয়োজন, বরং গ্যারান্টি দেওয়ার জন্য যে ক্রস-বৈধকরণের মতো কৌশলগুলি ব্যবহার করা যেতে পারে মডেলের দক্ষতার ভালতার দক্ষতার একটি নির্ভরযোগ্য পরিমাপ আবিষ্কার করতে , যা দিনের শেষে আমরা কেবলমাত্র পরিসংখ্যানগত শিক্ষায় আগ্রহী, কারণ এটি দেখায় যে আমরা প্রকৃতপক্ষে ডেটা থেকে শিখতে পারি। স্বজ্ঞাতভাবে, আমি প্রকৃতপক্ষে বুঝতে পারি যে নির্ভরশীল ডেটাতে ক্রস-বৈধতা ব্যবহার করা আশাবাদী পক্ষপাতদুষ্ট হতে পারে ( এই আকর্ষণীয় উদাহরণে চিত্রিত / ব্যাখ্যা হিসাবে )।

আমার জন্য আইডির এইভাবে কোনও নির্দিষ্ট মডেলকে প্রশিক্ষণের সাথে করার কিছুই নেই তবে সেই মডেলের সাধারণীকরণের সাথে করার মতো সমস্ত কিছুই । এটি হুয়ান জু এট আল দ্বারা পাওয়া একটি কাগজের সাথে সম্মত বলে মনে হচ্ছে, এখানে "মার্কোভিয়ান নমুনার জন্য দৃ Rob়তা এবং সাধারণীকরণ" দেখুন ।

আপনি কি এর সাথে একমত হবেন?

[উদাহরণ]

এই আলোচনা সাহায্য করতে পারেন, Lasso অ্যালগোরিদম ব্যবহার করে মাঝে একটি স্মার্ট নির্বাচন সম্পাদন করতে সমস্যা বিবেচনা দেওয়া বৈশিষ্ট্য প্রশিক্ষণ নমুনা সঙ্গে আমরা আরও ধরে নিতে পারি যে: $P$ $N$ $({\bf{X}}_i,y_i)$ $\forall i=1,...,N$

{এক্স}_{আমি} = [{এক্স}_{আমি 1}, । । ।, {এক্স}_{আমি পি}]

${\bf{X}}_i=[X_{i1},...,X_{iP}]$

ইনপুট নির্ভরশীল অত: পর (প্রতিটি বৈশিষ্ট্যের জন্য যেমন IID ধৃষ্টতা লঙ্ঘনের নেতৃস্থানীয় আমরা একটি মান্য বিন্দু সময় সিরিজ, অত সময়গত অটো-কোরিলেশন উপস্থাপক) ${\bf{X}}_i$ $j=1,..,P$ $N$
শর্তসাপেক্ষ প্রতিক্রিয়া স্বাধীন। $y_i \vert {\bf{X}}_i$
আমাদের । $P \gg N$

আইড অনুমানের লঙ্ঘন কীভাবে (গুলি) সে ক্ষেত্রে সমস্যা সৃষ্টি করতে পারে তা ধরে নিলে আমরা লাসো দণ্ডনীয় সহগ নির্ধারণ করার পরিকল্পনা করছি ক্রস-বৈধকরণের পদ্ধতি ব্যবহার করে (সম্পূর্ণ ডেটা সেটটিতে) + একটি নেস্টেড ক্রস-বৈধতা ব্যবহার করুন এই শেখার কৌশলটির সাধারণীকরণের ত্রুটির জন্য অনুভূতি পান (আমরা লাসোর অন্তর্নিহিত বিষয়গুলি / বিষয়গুলি সম্পর্কে আলোচনাটি বাদ দিতে পারি, যদি এটি কার্যকর হয় তবে)। $\lambda$

— Quantuple
সূত্র

1

আপনি কি এমন একটি রেফারেন্স ফ্রেমওয়ার্ক দিতে পারেন যা আপনার পক্ষে আগ্রহী, তাই আলোচনাটি সমস্ত পদ্ধতিতে খুব বেশি বিস্তৃত নয়। আমরা কি এখানে লিনিয়ার রিগ্রেশন সম্পর্কে কথা বলছি? বা আমরা ব্যবহার করে পরামিতিগুলির জন্য বিন্দু অনুমানের কথা বলছি, এমএলই বলুন? বা আমরা সিএলটি কাঠামোর কথা বলছি?

— গ্রিনপার্কার

2

যদি আপনি

নির্ভরশীলও ধরে

তবে শাস্তিযুক্ত লজিস্টিক রিগ্রেশন-এ একজন লগ-সম্ভাবনাটিকে শাস্তি দেয়। যদি ডেটা স্বতন্ত্র না থাকে তবে আপনি যৌথ লগ-সম্ভাবনাটি লিখতে পারবেন না এবং তাই সম্পর্কিত অপ্টিমাইজেশান সমস্যাটি সম্পূর্ণ করতে পারবেন না।

y_{i}

$y_i$

— গ্রিনপার্কার

1

না, আমি অন্যভাবে ভাবছি - আপনি যদি দ্রুত আইড অনুমানের দিকে ঝাঁপিয়ে পড়েন, তবে আপনি প্রয়োজন নেই বলে বিশ্বাস করে মিথ্যাভাবে (পক্ষপাতহীনতার মতো উদ্দেশ্যগুলির জন্য, তবে ভবিষ্যদ্বাণীমূলক শক্তিকে ক্ষতিগ্রস্থ করা) ল্যাগ

অন্তর্ভুক্ত করতে ব্যর্থ হতে পারেন ।

y

$y$

— ক্রিস্টোফ হ্যাঙ্ক

3

আমি স্বীকার করি না যে স্বাধীনতার ধারণাটি "সাধারণভাবে লঙ্ঘিত"। টাইম-সিরিজ একটি খুব বিশেষ ক্ষেত্রে - সাধারণ উদাহরণের চেয়ে ব্যতিক্রম। আইড অনুমান আপনাকে আপনার মডেলকে সহজতর করতে এবং আরও পার্সামোনিয়াস একটি তৈরি করতে সক্ষম করে এবং এটি প্রায়শই তৈরি করা যায় (যেমন আপনার মামলাগুলি এলোমেলোভাবে আঁকানো হয়, সুতরাং সেগুলি স্বতন্ত্র ধরে নেওয়া যেতে পারে)।

— টিম

2

উদাহরণে দ্বিতীয় বুলেট,

's শর্তসাপেক্ষে অধিকৃত উচিত নয় IID তারা শর্তসাপেক্ষে স্বাধীন অধিকৃত হতে পারে, কিন্তু শর্তসাপেক্ষ বন্টন উপর নির্ভর বলে মনে করা হয়

, তাই পরিবর্তন

।

y_{i}

$y_i$

X_{i}

$\mathbf{X}_i$

i

$i$

— এনআরএইচ

32

জোড় , , সম্পর্কে আইআইডি অনুমানটি প্রায়শই পরিসংখ্যান এবং মেশিন লার্নিংয়ে তৈরি করা হয়। কখনও কখনও একটি ভাল কারণে, কখনও কখনও সুবিধার বাইরে এবং কখনও কখনও কেবল কারণ আমরা সাধারণত এই ধারণাটি করি। সন্তুষ্টিজনকভাবে উত্তর দেওয়ার জন্য যদি ধারণাটি সত্যই প্রয়োজন হয়, এবং এই অনুমানটি না করার ফলে কী পরিণতি হয়, আমি সহজেই একটি বই লেখার সমাপ্তি (যদি আপনি সহজেই এরকম কিছু করে শেষ করেন)। এখানে আমি কী সবচেয়ে গুরুত্বপূর্ণ দিক বলে মনে করি তার একটি সংক্ষিপ্ত ধারণা দেওয়ার চেষ্টা করব। $(\mathbf{X}_i, y_i)$ $i = 1, \ldots, N$

একটি মৌলিক ধারণা

ধরে নেওয়া যাক আমরা প্রদত্ত এর সম্ভাব্যতা মডেল শিখতে চাই , যাকে আমরা বলি । আমরা এই মডেলটি সম্পর্কে একটি প্রাথমিক ধারণা করি না, তবে আমরা ন্যূনতম ধারণাটি করব যে এইরকম একটি মডেল এর উপস্থিত রয়েছে $y$ $\mathbf{X}$ $p(y \mid \mathbf{X})$

এর শর্তাধীন বিতরণ দেওয়া হয় । $y_i$ $X_i$ $p(y_i \mid X_i)$

কি এই ধৃষ্টতা সম্পর্কে টুকুনি যে শর্তাধীন বিতরণ হয় উপর নির্ভর করে শুধুমাত্র মাধ্যমে । এটি হ'ল মডেলটিকে দরকারী করে তোলে, যেমন পূর্বাভাসের জন্য। ধারণাটি আইড অনুমানের অধীনে অভিন্নভাবে বিতরণ করা অংশের পরিণাম হিসাবে ধারণ করে, তবে এটি দুর্বল কারণ আমরা বিষয়ে কোনও অনুমান করি না । $y_i$ $i$ $X_i$ $\mathbf{X}_i$

নীচে ফোকাসটি বেশিরভাগ স্বাধীনতার ভূমিকাতে থাকবে।

মূর্তিনির্মাণ

দেওয়া একটি মডেল শেখার জন্য দুটি প্রধান পন্থা রয়েছে । একটি পদ্ধতির বৈষম্যমূলক মডেলিং এবং অন্যটি জেনারেটরি মডেলিং হিসাবে পরিচিত । $y$ $\mathbf{X}$

বৈষম্যমূলক মডেলিং : আমরা সরাসরি মডেল করি , যেমন লজিস্টিক রিগ্রেশন মডেল, নিউরাল নেটওয়ার্ক, ট্রি বা একটি এলোমেলো বন। কাজ মডেলিং ধৃষ্টতা সাধারণত হবে 's দেওয়া শর্তসাপেক্ষে স্বাধীন s', যদিও subsampling বা বুটস্ট্র্যাপিং উপর নির্ভর প্রাক্কলন কৌশল IID অধীনে বেশীরভাগ ইন্দ্রিয় বা দুর্বল exchangeability ধৃষ্টতা (নিচে দেখুন) আছে। তবে সাধারণত, বৈষম্যমূলক মডেলিংয়ের জন্য আমাদের বিষয়ে বিতরণীয় অনুমান করা দরকার না । $p(y \mid \mathbf{X})$ $y_i$ $\mathbf{X}_i$ $\mathbf{X}_i$
জেনারেটরি মডেলিং : আমরা যৌথ বন্টন, , মডেলিং করি সাধারণত শর্তাধীন বিতরণ এবং প্রান্তিক বিতরণ মডেলিংয়ের মাধ্যমে । তারপরে আমরা কম্পিউটারে জন্য বয়েসের সূত্র ব্যবহার করি । লিনিয়ার বৈষম্যমূলক বিশ্লেষণ এবং নিষ্পাপ বায়েস পদ্ধতি উদাহরণ। কাজ মডেলিং ধৃষ্টতা সাধারণত IID ধৃষ্টতা হবে। $p(\mathbf{X}, y)$ $(\mathbf{X}, y)$ $p(\mathbf{X} \mid y)$ $p(y)$ $p(y \mid \mathbf{X})$

উভয় মডেলিং পদ্ধতির জন্য কর্মরত মডেলিং অনুমানটি শেখার পদ্ধতিগুলি (বা অনুমানকারী) আহরণ বা প্রস্তাব দেওয়ার জন্য ব্যবহৃত হয়। এটি (দণ্ডিত) লগ-সম্ভাবনা সর্বাধিক করে, অভিজ্ঞতাজনিত ঝুঁকি হ্রাস করে বা বায়েশিয়ার পদ্ধতি ব্যবহার করে হতে পারে। এমনকি যদি ওয়ার্কিং মডেলিং অনুমানটি ভুল হয় তবে ফলস্বরূপ পদ্ধতিটি এখনও একটি বুদ্ধিমান ফিট সরবরাহ করতে পারে । $p(y \mid \mathbf{X})$

বৈষম্যমূলক মডেলিংয়ের সাথে একত্রে ব্যবহৃত কিছু কৌশল, যেমন ব্যাগিং (বুটস্ট্র্যাপ সমষ্টি), ডেটাসেট থেকে এলোমেলোভাবে নমুনাযুক্ত অনেকগুলি মডেলগুলিতে ফিট করে কাজ করে। আইআইডি অনুমান (বা বিনিময়যোগ্যতা) ব্যতীত পুনরায় মডেল করা ডেটাসেটের মূল ডেটাসেটের অনুরূপ যৌথ বিতরণ হবে না। পুনর্নির্মাণের মাধ্যমে কোনও নির্ভরতা কাঠামো "গোলযোগ" হয়ে গেছে। আমি এ সম্পর্কে গভীরভাবে চিন্তা করে দেখিনি, তবে কেন শেখার পদ্ধতি হিসাবে প্রয়োজনীয় পদ্ধতিটি ভেঙে ফেলতে হবে তা আমি দেখতে পাচ্ছি না । কমপক্ষে কাজের স্বাধীনতা অনুমানের উপর ভিত্তি করে পদ্ধতির জন্য নয়। আমি এখানে ভুল প্রমাণিত হয়েছে খুশি। $p(y \mid \mathbf{X})$

ধারাবাহিকতা এবং ত্রুটির সীমা

সমস্ত শিখন পদ্ধতির একটি কেন্দ্রীয় প্রশ্ন হ'ল তারা কাছাকাছি মডেলগুলির ফলাফল করে কিনা । ধারাবাহিকতা এবং ত্রুটির সীমাবদ্ধতার সাথে পরিসংখ্যান এবং মেশিন লার্নিংয়ে রয়েছে একটি বিশাল তাত্ত্বিক সাহিত্য। এই সাহিত্যের একটি প্রধান লক্ষ্য প্রমাণ করতে হবে যে শিখেছি মডেল পাসে হয় যখন বড়। ধারাবাহিকতা একটি গুণগত আশ্বাস, ত্রুটি সীমাবদ্ধতা (আধা-) ঘনিষ্ঠতার স্পষ্ট পরিমাণগত নিয়ন্ত্রণ সরবরাহ করে এবং একত্রীকরণের হার দেয় give $p(y \mid \mathbf{X})$ $p(y \mid \mathbf{X})$ $N$

তাত্ত্বিক ফলাফলগুলি সমস্ত ডেটাসেটে পর্যবেক্ষণগুলির যৌথ বন্টন সম্পর্কে অনুমানের উপর নির্ভর করে। প্রায়শই উপরে উল্লিখিত ওয়ার্কিং মডেলিং অনুমানগুলি করা হয় (এটি বৈষম্যমূলক মডেলিংয়ের জন্য শর্তাধীন স্বাধীনতা এবং জেনারেটরি মডেলিংয়ের জন্য আইআইডি)। বৈষম্যমূলক মডেলিংয়ের জন্য, ধারাবাহিকতা এবং ত্রুটির সীমাগুলির জন্য এর কিছু শর্ত পূরণ করতে হবে। শাস্ত্রীয় প্রতিরোধের ক্ষেত্রে এরকম একটি শর্ত হ'ল $\mathbf{X}_i$ জন্য, যেখানেসারি দিয়ে নকশা ম্যাট্রিক্স উল্লেখ করে । ধারাবাহিকতার জন্য দুর্বল পরিস্থিতি যথেষ্ট হতে পারে। অল্প শিষ্টাচারের ক্ষেত্রে এরকম আরও একটি শর্ত হ'ল সীমাবদ্ধ ইগেনভ্যালু শর্ত, উদাহরণস্বরূপলাসোর জন্য ওরাকল ফলাফল প্রমাণ করতে ব্যবহৃত শর্তগুলিতেদেখুন। কিছু প্রযুক্তিগত বন্টনমূলক অনুমানের সাথে আইআইডি অনুমানটি ইঙ্গিত দেয় যে এই জাতীয় কিছু যথেষ্ট শর্তগুলি বড় সম্ভাবনার সাথে পরিপূর্ণ হয় এবং সুতরাং আইড অনুমানটি বৈষম্যমূলক মডেলিংয়ের জন্য ধারাবাহিকতা এবং ত্রুটির সীমা অর্জনের জন্য যথেষ্ট নয় তবে প্রয়োজনীয় অনুমান হিসাবে প্রমাণিত হতে পারে। $\frac{1}{N} \mathbb{X}^T \mathbb{X} \to \Sigma$ $N \to \infty$ $\mathbb{X}$ $\mathbf{X}_i^T$

মডেলিং পদ্ধতির যে কোনও একটির জন্য স্বাধীনতার কার্যকরী মডেলিং অনুমানটি ভুল হতে পারে। কোনও অংগ -নিয়ম অনুসারে কেউ কোনও অ্যারগডিক প্রক্রিয়া থেকে ডেটা আসে তবে এখনও ধারাবাহিকতা আশা করতে পারে এবং প্রক্রিয়াটি পর্যাপ্ত দ্রুত মেশানো থাকলে কেউ এখনও কিছু ত্রুটির সীমা আশা করতে পারে । এই ধারণাগুলির একটি নির্দিষ্ট গাণিতিক সংজ্ঞা আমাদের মূল প্রশ্ন থেকে অনেক দূরে নিয়ে যাবে। এটি লক্ষ করার জন্য যথেষ্ট যে আইডি অনুমানের পাশাপাশি নির্ভরশীল কাঠামো রয়েছে যার জন্য শেখার পদ্ধতিগুলি অসীমের দিকে ঝোঁক হিসাবে কাজ করে প্রমাণিত হতে পারে। $N$

যদি নির্ভরতা কাঠামো সম্পর্কে আমাদের আরও বিস্তারিত জ্ঞান থাকে তবে আমরা নির্ভর করতে পারি যে মডেলিংয়ের জন্য ব্যবহৃত স্বতন্ত্রতা অনুমিতিটি নির্ভর করে এমন একটি মডেলের সাথেও যে নির্ভরতা কাঠামোটি ক্যাপচার করে। এটি প্রায়শই সময় সিরিজের জন্য করা হয়। একটি ভাল কাজের মডেল আরও দক্ষ পদ্ধতির ফলস্বরূপ হতে পারে।

মডেল মূল্যায়ন

শেখার পদ্ধতিটি একটি মডেলকে কাছাকাছি রাখার বিষয়টি প্রমাণ করার পরিবর্তে "জ্ঞাত মডেলটি কতটা ভাল" এর একটি (আপেক্ষিক) মূল্যায়ন অর্জন করা অত্যন্ত ব্যবহারিক মূল্য। এই ধরনের মূল্যায়নের স্কোর দুটি বা আরও বেশি শেখা মডেলগুলির সাথে তুলনীয়, তবে তারা শিখানো মডেলটি এর কতটা কাছাকাছি তার একটি নিখুঁত মূল্যায়ন সরবরাহ করবে না । মূল্যায়ন স্কোরের অনুমানগুলি সাধারণত প্রশিক্ষণ এবং একটি পরীক্ষার ডেটাসেটে ডেটাসেট বিভক্তকরণ বা ক্রস-বৈধতা ব্যবহার করে ডেভাসেটের ভিত্তিতে অনুষ্টিতভাবে গণনা করা হয়। $p(y \mid \mathbf{X})$ $p(y \mid \mathbf{X})$

ব্যাগিংয়ের মতো, ডেটাসেটের এলোমেলো বিভাজন যে কোনও নির্ভরতা কাঠামোকে "বিশৃঙ্খলা" করবে। যাইহোক, কর্মক্ষম স্বাধীনতা অনুমানের উপর ভিত্তি করে পদ্ধতিগুলির জন্য, মূল্যায়নের অনুমানগুলি যুক্তিসঙ্গত হতে আইডির চেয়ে দুর্বলতা অনুমানগুলি যথেষ্ট হওয়া উচিত, যদিও এই অনুমানগুলির উপর স্ট্যান্ডার্ড ত্রুটিগুলি উপস্থিত হওয়া খুব কঠিন হবে।

[ সম্পাদনা করুন: ভেরিয়েবলগুলির মধ্যে নির্ভরতা আইড অনুমানের অধীনে বিতরণ থেকে পৃথক হওয়া বিদ্যাপীঠিত মডেলের বিতরণের ফলাফল করবে। ক্রস-বৈধকরণের দ্বারা উত্পাদিত অনুমানটি স্পষ্টতই সাধারণীকরণ ত্রুটির সাথে সম্পর্কিত নয়। যদি নির্ভরতা শক্তিশালী হয় তবে এটি সম্ভবত খুব কমই অনুমান করা যায়]]

সংক্ষিপ্তসার (tl; dr)

সর্বোপরি ধৃষ্টতা একটি নির্দিষ্ট শর্তাধীন সম্ভাব্যতা মডেল, নেই বয়সী । সুতরাং দ্বারা ক্যাপচারিত নয় শর্তাধীন বিতরণে প্রবণতা বা হঠাৎ পরিবর্তন হতে পারে । $p(y \mid \mathbf{X})$ $\mathbf{X}$

যখন একটি মডেল শেখার দেওয়া , স্বাধীনতা হিসেবে ভূমিকা পালন করে $y$ $\mathbf{X}$

একটি কার্যকর কাজের মডেলিং অনুমান যা আমাদের শেখার পদ্ধতিগুলি অর্জন করতে সহায়তা করে
ধারাবাহিকতা প্রমাণ করার জন্য এবং ত্রুটির সীমা সরবরাহ করার জন্য পর্যাপ্ত তবে প্রয়োজনীয় অনুমান নয়
শেখার জন্য ব্যাগিং এবং মূল্যায়নের জন্য ক্রস-বৈধকরণের মতো এলোমেলো ডেটা বিভাজন কৌশলগুলি ব্যবহার করার জন্য পর্যাপ্ত তবে প্রয়োজনীয় অনুমান নয়।

আইডির বিকল্পগুলি যে পর্যাপ্ত তা হ'ল সংক্ষিপ্তরূপে বুঝতে অপ্রয়োজনীয় এবং কিছুটা গবেষণা বিষয়।

— NRH
সূত্র

2

এটি একটি অত্যন্ত উত্তেজিত উত্তর। এটি স্পষ্ট এবং স্ব-অধ্যয়নের জন্য আমাকে যথেষ্ট রেফারেন্স দেয়, @NRH এর জন্য আপনাকে অনেক ধন্যবাদ যে আমি শিহরিত। অন্যান্য প্রশ্নকে উত্সাহিত করার জন্য আমি কেবল অনুগ্রহ ছেড়ে দেব তবে আমি ইতিমধ্যে এটি গ্রহণযোগ্য উত্তর হিসাবে চিহ্নিত করেছি কারণ এটি আমার সমস্ত মূল উদ্বেগকে সুন্দরভাবে সম্বোধন করে।

— কোয়ান্টুপলে

10

কি IID ধৃষ্টতা বলে যে র্যান্ডম ভেরিয়েবল হল স্বাধীন এবং অভিন্নরুপে বিতরণ । এর অর্থ কী তা আপনি আনুষ্ঠানিকভাবে সংজ্ঞায়িত করতে পারেন, তবে অনানুষ্ঠানিকভাবে এটি বলে যে সমস্ত ভেরিয়েবলগুলি একে অপরের থেকে স্বাধীনভাবে একই ধরণের তথ্য সরবরাহ করে (আপনি সম্পর্কিত বিনিময়যোগ্যতা সম্পর্কেও পড়তে পারেন )।

বিমূর্ত ধারণা থেকে এক মুহূর্তের জন্য কংক্রিট উদাহরণে ঝাঁপ দাও: বেশিরভাগ ক্ষেত্রে আপনার ডেটা ম্যাট্রিক্সে সংরক্ষণ করা যেতে পারে, পর্যবেক্ষণগুলি সারিবদ্ধ এবং ভেরিয়েবল কলাম অনুসারে রাখতে হবে। যদি আপনি আপনার ডেটা আইড হিসাবে ধরে নিয়ে থাকেন তবে এর অর্থ এটি আপনার পক্ষে কেবল কলামগুলির মধ্যে সম্পর্কের বিষয়েই আপনাকে বিরক্ত করা উচিত এবং সারিগুলির মধ্যে সম্পর্ক সম্পর্কে বিরক্ত করার দরকার নেই। যদি আপনি উভয় সম্পর্কে বিরক্ত করে থাকেন তবে আপনি কলামগুলিতে কলাম এবং সারিতে সারিগুলিতে নির্ভরতা মডেল করবেন, অর্থাত সবকিছুতে। সরলীকরণ করা এবং প্রতিটি কিছুর উপর নির্ভর করে সমস্ত কিছুর একটি পরিসংখ্যানের মডেল তৈরি করা খুব কঠিন hard

আপনি সঠিকভাবে লক্ষ্য করেছেন যে এক্সহেনেজিবিলিটি আমাদের পক্ষে ক্রস-বৈধকরণ বা বুটস্ট্র্যাপের মতো পদ্ধতি ব্যবহার করা সম্ভব করে তোলে তবে এটি কেন্দ্রীয় সীমাবদ্ধ তত্ত্বটি ব্যবহার করাও সম্ভব করে তোলে এবং এটি আমাদের মডেলিংয়ের জন্য সরলীকরণকে সহায়ক করতে সক্ষম করে তোলে (কলাম-ওয়াইজ পদগুলিতে চিন্তাভাবনা করে )।

যেমন আপনি লাসো উদাহরণে লক্ষ্য করেছেন, স্বাধীনতা অনুমিতি প্রায়শ শর্তাধীন স্বাধীনতায় নরম হয় । এমনকি এ জাতীয় ক্ষেত্রেও আমাদের স্বাধীন এবং অভিন্নরূপে বিতরণ করা "অংশগুলি" দরকার। অনুরূপ, নরম ধৃষ্টতা প্রায়ই সময়-সিরিজ মডেলের জন্য তৈরি করা হয়, আপনি উল্লেখ করা হয়েছে, যে অনুমান stationarity (তাই নির্ভরতা নেই কিন্তু সেখানে একটি সাধারণ বিতরণ এবং সিরিজ সময়ের স্থির রাখে - আবার "IID" অংশের)। এটি বেশ কয়েকটি সাধারণ বিষয় পর্যবেক্ষণ করার বিষয় যা কিছু সাধারণ ঘটনা সম্পর্কে একই ধারণা বহন করে। আমাদের কাছে বেশ কয়েকটি স্বতন্ত্র ও নির্ভরশীল জিনিস থাকলে আমরা কোনও সাধারণীকরণ করতে পারি না।

আপনার যা মনে রাখতে হবে তা হ'ল এটি কেবল একটি অনুমান, আমরা এটি সম্পর্কে কঠোর নই। এটি পর্যাপ্ত জিনিসগুলি সম্পর্কে যা স্বাধীনভাবে, কিছু সাধারণ ঘটনা সম্পর্কে একই তথ্য সরবরাহ করে। যদি বিষয়গুলি একে অপরকে প্রভাবিত করে তবে তারা স্পষ্টতই অনুরূপ তথ্য পৌঁছে দেবে যাতে সেগুলি কার্যকর না হয়।

কল্পনা করুন যে আপনি একটি শ্রেণিকক্ষে শিশুদের দক্ষতা সম্পর্কে জানতে চেয়েছিলেন, তাই আপনি তাদের কিছু পরীক্ষা দিন। আপনি বাচ্চাদের দক্ষতার একটি সূচক হিসাবে পরীক্ষার ফলাফলগুলি কেবল তখনই ব্যবহার করতে পারেন যদি তারা নিজেরাই একে অপরের সাথে স্বাধীনভাবে করে থাকে। যদি তারা আলাপচারিতা করে তবে আপনি সম্ভবত সবচেয়ে চালাক বাচ্চা বা সবচেয়ে প্রভাবশালী শিশুর দক্ষতা পরিমাপ করবেন। এর অর্থ এই নয় যে আপনার বাচ্চাদের মধ্যে যে কোনও ইন্টারঅ্যাকশন বা নির্ভরতা ছিল না তা ধরে নেওয়া দরকার, তবে কেবল তারা নিজেরাই পরীক্ষা দিয়েছিলেন did বাচ্চাদেরও "অভিন্নভাবে বিতরণ" করা দরকার, তাই তারা বিভিন্ন দেশ থেকে আসতে পারে না, বিভিন্ন ভাষায় কথা বলতে পারে না, বিভিন্ন যুগে থাকতে পারে যেহেতু ফলাফলগুলি ব্যাখ্যা করা শক্ত হয়ে যায় (সম্ভবত তারা প্রশ্নগুলি বুঝতে পারে না এবং এলোমেলোভাবে উত্তর দেয়)। যদি আপনি ধরে নিতে পারেন যে আপনার ডেটা আইডতারপরে আপনি সাধারণ মডেল তৈরিতে মনোনিবেশ করতে পারেন। আপনি নন- আইডির ডেটা নিয়ে ডিল করতে পারেন তবে তারপরে আপনার ডেটাতে "শোরগোল" নিয়ে ভাবতে হবে।

আপনার মূল প্রশ্নটি ছাড়াও আপনি নন- আইডির ডেটা সহ ক্রস-বৈধতা সম্পর্কে জিজ্ঞাসা করছেন । আপনি যখন আইড অনুমানের গুরুত্বকে কমিয়ে দেবেন বলে মনে হচ্ছে , একই সময়ে আপনি এই অনুমানটি পূরণ না করার সমস্যাগুলিও অতিক্রম করবেন ক্রস-বৈধকরণের জন্য ভঙ্গি oses বুটস্ট্র্যাপ বা ক্রস-বৈধকরণের মতো পুনরায় মডেলিং পদ্ধতি ব্যবহার করার সময় আমরা কীভাবে এই জাতীয় ডেটা মোকাবেলা করতে পারি তার একাধিক উপায় রয়েছে। আপনি যদি সময়-সিরিজের সাথে ডিল করে থাকেন তবে আপনি ধরে নিতে পারবেন না যে মানগুলি স্বতন্ত্র, সুতরাং মানগুলির এলোমেলো অংশ গ্রহণ করা একটি খারাপ ধারণা হবে কারণ এটি ডেটার স্বতঃসংশ্লিষ্ট কাঠামোটিকে উপেক্ষা করবে। তার কারণে, সময়-সিরিজের সাথে আমরা সাধারণত ব্যবহার করি ক্রস-বৈধকরণের এক ধাপ এগিয়ে, অর্থাত আপনি পরবর্তী মানটির পূর্বাভাস দেওয়ার জন্য সিরিজের অংশ নেন (মডেলিংয়ের জন্য ব্যবহৃত হয় না)। একইভাবে, যদি আপনার ডেটা থাকে কাঠামো ক্লাস্টার , আপনি পুরো ক্লাস্টার নমুনা ডেটা প্রকৃতি সংরক্ষণে। তাই মডেলিং দিয়ে, আমরা অ- সঙ্গে মোকাবেলা করতে পারেন IID এছাড়াও -sness যখন ক্রস বৈধতা করছেন, কিন্তু আমরা জন্য ডিজাইন করা পদ্ধতি যেহেতু ডেটার প্রকৃতি আমাদের পদ্ধতি খাপ খাওয়ানো প্রয়োজন IID তথ্য এই ক্ষেত্রে প্রযোজ্য হবে না।

— টিম
সূত্র

আমি প্রশংসা করি যে আপনি আমার উদ্বেগের উত্তর দিতে কিছুটা সময় নিয়েছিলেন। আইড অনুমানটি যা জানায় তার একটি দুর্দান্ত ব্যাখ্যা আপনি যখন দিয়েছিলেন ... এটি আমাকে হতাশ করে। (1) প্রশিক্ষণ Lasso

যথেষ্ট (যেহেতু এটা এক শাস্তি লগ-সম্ভাবনা প্রাক্কলন লিখতে পারবেন), কিন্তু প্রভাব কি

একটি IID নমুনা হচ্ছে না (যা যদি হয় তাহলে ভবিষ্যতবক্তা একটি সময়-সিরিজ থেকে আসা এবং অত: পর স্ব-হয়) । (২) এছাড়াও উদাহরণস্বরূপ ক্রস-বৈধতা ব্যবহারের জন্য বিনিময়যোগ্যতা না থাকার ফলস্বরূপ কী? (সিটিডি) ...

y_{i} | X_{i}

$y_i \vert {\bf{X}}_i$

X_{i}

$\bf{X}_i$

— কোয়ান্টুপলে

(সিটিডি) ... অন্য কথায়, যদিও আপনার উত্তর আইড ধারণাটি সম্পর্কে অবশ্যই কিছুটা আলোকপাত করেছে, আমি প্রযুক্তিগত ভিত্তিতে আরও জানতে চাই: যখন এটি লঙ্ঘন করা হয়, তখন এর প্রভাবগুলি কী?

— কোয়ান্টুপলে

@ কোয়ান্টআপল আপনি নন আইডির ডেটাগুলির জন্য পদ্ধতিগুলি ব্যবহার করেন, যেমন বুটস্ট্র্যাপ ইত্যাদিতে টাইম-সিরিজের নমুনা পুরো ব্লকগুলিতে

— টিম

আবার ধন্যবাদ. আমি সত্যিই মনে করি এই জাতীয় কৌশলগুলি সম্পর্কে কোথাও পড়েছি। এমন কোনও উত্স আছে যা সম্ভাব্য সমস্ত প্রার্থী পদ্ধতি নিয়ে আলোচনা করে? আমি কেবল সি বার্গমিয়ার, আর হ্যান্ডম্যান, বি কো-র কাগজে হোঁচট খেয়েছি "সময় সিরিজের ভবিষ্যদ্বাণী মূল্যায়নের জন্য ক্রস-বৈধকরণের বৈধতার উপর একটি নোট" যা আমি খুব শীঘ্রই পড়ার চেষ্টা করব।

— কোয়ান্টুপলে

1

@ কোয়ান্টুপল ক্লাসিক ক্লাবের "বুটস্ট্র্যাপের একটি ভূমিকা" ইফ্রন এবং তিবশিরানী এবং বুটস্ট্র্যাপ সম্পর্কে পড়ার জন্য ডেভিসন এবং হিংকির "বুটস্ট্র্যাপ পদ্ধতি এবং তাদের প্রয়োগ" পরীক্ষা করুন (একই ধারণা ক্রস-বৈধকরণের জন্য প্রয়োগ হয়); সময়-সিরিজের হ্যান্ডবুকগুলি কীভাবে এই জাতীয় ডেটার (যেমন ক্রস-বৈধকরণের এক ধাপ এগিয়ে) ক্রস-বৈধকরণ এবং বুটস্ট্র্যাপ ব্যবহার করবেন তা বর্ণনা করে। আমার সম্পাদনাও পরীক্ষা করুন।

— টিম

3

আইডিকে নিরাপদে উপেক্ষা করা যায় এমন একমাত্র স্থান হ'ল স্নাতক পরিসংখ্যান এবং মেশিন লার্নিং কোর্সে। আপনি লিখেছেন যে:

কেউ আইড অনুমানের চারপাশে কাজ করতে পারে এবং দৃ rob় ফলাফল পেতে পারে। প্রকৃতপক্ষে ফলাফলগুলি একই রকম থাকবে, বরং এটি যে সূচনাগুলি আঁকতে পারে তা পরিবর্তিত হবে ...

মডেলগুলির কার্যকরী ফর্মটি মূলত সঠিক হিসাবে ধরে নেওয়া হয় তবে এটি কেবল সত্য। তবে, এই জাতীয় ধারণা আইডির চেয়ে কম প্রশংসনীয়।

কমপক্ষে দুটি উপায় রয়েছে যেখানে প্রয়োগ আইডির ক্ষেত্রে প্রয়োগের মডেলিংয়ের ক্ষেত্রে আইআইডি সমালোচকভাবে গুরুত্বপূর্ণ:

আপনি আপনার প্রশ্নে নোট হিসাবে এটি বেশিরভাগ পরিসংখ্যানগত অনুমান একটি সুস্পষ্ট ধারণা। বেশিরভাগ আসল-ওয়ার্ল্ড মডেলিংয়ে, কিছু পর্যায়ে আমাদের স্পেসিফিকেশন পরীক্ষা করার জন্য অনুমিত ব্যবহার করতে হবে, যেমন চলক নির্বাচন এবং মডেল তুলনার সময়। সুতরাং, আইড লঙ্ঘন সত্ত্বেও প্রতিটি নির্দিষ্ট মডেলের ফিট যদি ঠিক থাকে তবে আপনি ভুল মডেলটি যে কোনও উপায়ে বেছে নিতে পারেন।
আমি দেখতে পেয়েছি যে আইডির লঙ্ঘনের মাধ্যমে চিন্তা করা তথ্য উত্পন্ন করার পদ্ধতি সম্পর্কে চিন্তাভাবনা করার একটি দরকারী উপায়, যার ফলে আমাকে কোনও মডেলের উপযুক্ত স্পেসিফিকেশন সম্পর্কে অগ্রাধিকার সম্পর্কে ভাবতে সহায়তা করে। দুটি উদাহরণ:
- যদি ডেটা ক্লাস্টার করা থাকে তবে এটি আইড লঙ্ঘন। এর প্রতিকার একটি মিশ্রণ মডেল হতে পারে। একটি মিশ্রণ মডেলগুলি থেকে আমি যে অনুকরণটি আঁকব তা সাধারণত ওএলএস থেকে আঁকায় সম্পূর্ণ ভিন্ন is
- আইআইডি তদন্তের অংশ হিসাবে অবশিষ্টাংশগুলি পরিদর্শন করার সময় নির্ভরশীল এবং স্বতন্ত্র ভেরিয়েবলের মধ্যে অ-রৈখিক সম্পর্ক প্রায়শই দেখা যায়।

অবশ্যই, আমি কখনও তৈরি করেছি এমন প্রায় মডেলটিতে, আমি সত্যিকারের সাধারণ বিতরণের কাছাকাছি যে কোনও কিছুতে অবশিষ্টাংশের বিতরণ কমাতে আমার প্রয়াসে ব্যর্থ হয়েছি। তবে, তবুও, আমি সবসময় সত্যই, সত্যই, এটি করার জন্য কঠোর চেষ্টা করে অনেক কিছু অর্জন করি।

— টিম
সূত্র

আপনার উত্তরের জন্য ধন্যবাদ যা খুব অন্তর্দৃষ্টিযুক্ত। (১) এর শেষ বাক্যটির দ্বারা আপনি কী বোঝাতে চেয়েছেন যে পর্যবেক্ষণ করা ডেটার সাথে আপনার বেশ কয়েকটি মডেল থাকতে পারে তবে আপনি যখন আদর্শ মডেল নির্বাচনের কৌশল ব্যবহার করবেন (যেমন ক্রস-বৈধকরণ) আপনি সেরাটি বাছাই করবেন না ( সাধারণীকরণের ক্ষেত্রে) কারণ আপনি যে অঙ্কনটি আঁকেন তা আইআইডি লঙ্ঘনের কারণে পক্ষপাতদুষ্ট হবে? (২) আইডিআইডি-র অবশিষ্টাংশ সম্পর্কে আপনার ক্রিয়াকলাপের নির্দিষ্টকরণের অংশ হিসাবে উদ্বোধনের কথা বলা (যেমন রিগ্রেশন রেসিডিয়ালস) যা আপনি যা লিখেছেন তা অকার্যকর করে না (সিটিডি) ...

— কোয়ান্টুপল

(সিটিডি) ... তবে মূল প্রশ্নটি আইডি প্রশিক্ষণের উদাহরণগুলির সাথে সম্পর্কিত ছিল (এক্স, ওয়াই) কোনও মডেল অনুমান করার পরে নন আইআইডি অবশিষ্টাংশ নয়। আমার ধারণা আমার প্রশ্ন হতে পারে, যখন আপনার আইআইডি প্রশিক্ষণের উদাহরণ নেই (উদাহরণস্বরূপ টাইম সিরিজ), তাদের আইড করার জন্য আপনাকে কি প্রাক-প্রসেসিং পদক্ষেপ যুক্ত করতে হবে? যদি আপনি তা না করেন এবং আপনার মডেলটি অনুমান / ক্রস-বৈধকরণের জন্য মানক পদ্ধতিটি প্রয়োগ করেন তবে সাবধানতাটি কোথায়?

— কোয়ান্টুপলে

1

যখন আপনার আইআইডি প্রশিক্ষণের উদাহরণ নেই, তখন ধারণাটি এমন একটি মডেল সন্ধান করা হবে যা নন-আইড প্রকৃতিটিকে বিবেচনায় নিয়ে যায় এবং আইআইডি সহ অবশিষ্টাংশ তৈরি করে। যদিও কিছু সমস্যা রয়েছে যেখানে ডেটা প্রাক-প্রক্রিয়া করার জন্য এটি বোধগম্য হয় (যেমন, লিনিয়ার রিগ্রেশন-এ পরিবর্তনশীলগুলির রূপান্তর), আইড সমস্যাটি স্পষ্টভাবে সম্বোধন করে এমন একটি মডেল খুঁজে বের করে অনেক আইড সমস্যা আরও ভালভাবে সমাধান করা যায় addressed উদাহরণস্বরূপ, ক্রম-বিভাগীয় ডেটাতে টাইম সিরিজে ট্রান্সফার ফাংশন বা শ্রেণিবদ্ধ মডেল।

— টিম

আমি এই সত্যের সাথে একমত যেহেতু সময় সিরিজের ডেটা সাধারণত কিছুটা নির্ভরশীলতার প্রদর্শন করে, তাই এটি স্থানান্তর ফাংশনগুলির জন্য উপযুক্ত স্ট্যাটিস্টিকাল মডেলগুলির মাধ্যমে এটি ক্যাপচার করার লক্ষ্য রাখা স্বাভাবিক। এটি প্রশিক্ষণের জন্য যতটা উদ্বিগ্ন। এখন পর্যন্ত, ক্রস-বৈধকরণ (সিভি) সম্পর্কিত, আমার ধারণা যে নন আইড-নেস হিসাবে অ্যাকাউন্ট করার জন্য আমারও বিশেষ পদ্ধতি প্রয়োজন? আমার অর্থ হ'ল স্থানান্তর ফাংশনগুলি ব্যবহার করে আমার ডেটা প্রথম স্থানে আইড নয় এই সত্যটি পরিবর্তন হয়নি। কোথাও এই জাতীয় বিশেষ পদ্ধতির একটি তালিকা আছে? নন আইড ডেটা সহ স্ট্যান্ডার্ড সিভি পদ্ধতি ব্যবহার করার সময় আশাবাদী পক্ষপাতিত্ব কতটা বড়?

— কোয়ান্টুপলে

1

এটি ক্রস-বৈধকরণ পদ্ধতি এবং সমস্যার প্রকৃতির উপর নির্ভর করবে। আমি মনে করি কৌশলটি ক্রড-বৈধকরণ পদ্ধতিগুলি ব্যবহার করা যা আইডির চারপাশে সুস্পষ্টভাবে কাঠামোগত নয়। উদাহরণস্বরূপ, একটি জ্যাকনিফ কিছু অর্থহীন হবে। তবে, নমুনাকে অনুমান, পরীক্ষা এবং বৈধতার নমুনায় বিভক্ত করা সম্ভবত probably তবে, এটি আপনার আসলটির কাছে সত্যিই আলাদা প্রশ্ন এবং এটি আমার দক্ষতার ক্ষেত্র নয়।

— টিম

2

আমার মতে, পরিসংখ্যানগত শিক্ষায় (বা সাধারণভাবে পরিসংখ্যান) আইআইডি অনুমানের কেন গুরুত্বপূর্ণ, তার পরিবর্তে দুটি দুটি গুরুত্বপূর্ণ কারণ রয়েছে।

অনেকগুলি পর্দার পিছনে গণিত এই অনুমানের উপর নির্ভর করে। আপনি যদি প্রমাণ করতে চান যে আপনার শেখার পদ্ধতিটি একাধিক ডেটা সেটের জন্য কাজ করে তবে আইড অনুমান অবশেষে উত্থিত হবে। এটি এড়ানো সম্ভব, তবে গণিত বেশ কয়েকগুণ শক্ত হয়ে যায়।
আপনি যদি ডেটা থেকে কিছু শিখতে চান তবে আপনাকে ধরে নেওয়ার কিছু আছে তা ধরে নিতে হবে। প্রতিটি ডেটা পয়েন্ট বিভিন্ন পদ্ধতি দ্বারা উত্পন্ন হলে শেখা অসম্ভব। সুতরাং এটি ধরে নেওয়া অপরিহার্য যে কিছু সেট করে যা ডেটা সেট দেয়। যদি আমরা ধরে নিই যে ডেটা এলোমেলো, তবে এটি স্বাভাবিকভাবেই সম্ভাবনা বন্টন, কারণ সম্ভাবনা বিতরণ এলোমেলো পরিবর্তনশীল সম্পর্কে সমস্ত তথ্যকে অন্তর্ভুক্ত করে।

$x_1,...,x_n$ $x_i$ $F_n$

$(x_{1}, . . ., x_{n}) \sim F_{n} .$ $(x_1,...,x_n)\sim F_n.$
$F_n$ $F_m$ $n$ $m$ $n$ $F_n$ $F_n$ $n$ $F_n=F^n,$ $x_i\sim F$ $F_n$ $F_m$ $n$ $F$

— mpiktas
সূত্র

x

$x$

y

$y$

x

$x$

(সিটিডি) ... তবে আপনি যেমন এটি আপনার প্রথম বুলেট পয়েন্টে বলেছেন, আইএডি প্রশিক্ষণের উদাহরণগুলি অনুমান করা ফিরে আসবে যখন আমরা লাসোর সাধারণকরণের বৈশিষ্ট্যগুলি দেখব। কী সুন্দর হবে (এবং আমি কী অনুমানের সাথে আমার ধারণা করছি) এটি একটি রেফারেন্স / সাধারণ প্রযুক্তিগত ব্যাখ্যা যা আইড অনুমানের লঙ্ঘন উদাহরণস্বরূপ ক্রস-বৈধতা অনুমানকারীটিতে একটি আশাবাদী পক্ষপাতিত্ব পরিচয় দেয় shows

— কোয়ান্টুপলে

y_{i} = α + β_{1} x_{1 i} + ε_{i}

$y_i = \alpha + \beta_1 x_{1i} + \varepsilon_i$

i = 1, . . ., n / 2

$i=1,...,n/2$

y_{i} = α + β_{2} x_{2 i} + ε_{i}

$y_i=\alpha+\beta_2x_{2i}+\varepsilon_i$

i = n / 2 + 1, . . ., n

$i=n/2+1,...,n$

x_{1 i}

$x_{1i}$

x_{2 i}

$x_{2i}$

i = 1, . . ., n / 2

$i=1,...,n/2$

i = n / 2 + 1, . . ., n

$i=n/2+1,...,n$

x

$x$

E [y | X]

$E[y \vert X]$

1

আমি জোর দিয়ে বলতে চাই যে কিছু পরিস্থিতিতে ডেটা হয় না আইড এবং পরিসংখ্যানগত পড়াশোনা এখনও সম্ভব। সমস্ত পর্যবেক্ষণের যৌথ বিতরণের জন্য একটি সনাক্তকারী মডেল থাকা অত্যন্ত গুরুত্বপূর্ণ; যদি পর্যবেক্ষণগুলি আইড হয় তবে এই যৌথ বিতরণটি একক পর্যবেক্ষণের প্রান্তিক বিতরণ থেকে সহজেই পাওয়া যায়। তবে কিছু ক্ষেত্রে, সম্মিলিত বিতরণ কোনও প্রান্তিক বিতরণ অবলম্বন না করে সরাসরি দেওয়া হয়।

ওয়াই = এক্স α + + জেড তোমার দর্শন লগ করা + + ε

$\let\epsilon\varepsilon Y = X \alpha + Z u + \epsilon$

Y \in R^{n}

$\def\R{\mathbb{R}}Y \in \R^n$

X \in R^{n \times p}

$X \in \R^{n\times p}$

α \in R^{p}

$\alpha \in \R^p$

Z \in R^{n \times q}

$Z \in \R^{n\times q}$

u \in R^{q}

$u \in \R^q$

ε \in R^{n}

$\epsilon\in\R^n$

X

$X$

Z

$Z$

α

$\alpha$

u

$u$

u \sim N (0, τ I_{q})

$\def\N{\mathcal{N}} u\sim \N(0,\tau I_q)$

ε \sim N (0, σ^{2} I_{n})

$\epsilon \sim \N(0,\sigma^2 I_n)$

τ

$\tau$

σ^{2}

$\sigma^2$ মডেল হচ্ছে প্যারামিটার।

$Y$

ওয়াই ~ এন (এক্স α, τ জেড {জেড}^{'} + + σ^{2} {আমি}_{এন}) ।

$Y \sim \N(X\alpha, \tau ZZ' + \sigma^2 I_n).$

α

$\alpha$

τ

$\tau$

σ^{2}

$\sigma^2$

Y

$Y$

n

$n$

— এলভিস
সূত্র