যদি ক্রস-কোভেরিয়েন্স ম্যাট্রিক্স শূন্য নয় তবে কীভাবে পরীক্ষা করবেন?

Question

আমার অধ্যয়নের পটভূমি :

একটি গিবস স্যাম্পলিং যেখানে আমরা নমুনা (স্বার্থ পরিবর্তনশীল) এবং থেকে এবং যথাক্রমে যেখানে এবং হয় -dimensional র্যান্ডম ভেক্টর। আমরা জানি যে প্রক্রিয়াটি সাধারণত দুটি পর্যায়ে বিভক্ত হয়:Y P ( X | Y ) P ( Y | X ) X Y $X$$Y$$P(X|Y)$$P(Y|X)$$X$$Y$$k$

1. বার্ন-ইন পিরিয়ড, যেখানে আমরা সমস্ত নমুনা বাতিল করি। নমুনাগুলিকে এবং ।ওয়াই 1 ∼ ওয়াই $X_1\sim X_t$$Y_1\sim Y_t$
2. "বার্ন-ইন" পিরিয়ড, যেখানে আমরা আমাদের চূড়ান্ত পছন্দসই ফলাফল হিসাবে নমুনাগুলি গড় ।$\bar{X} = \frac{1}{k}\sum_{i=1}^k X_{t+i}$

তবে, "বার্ন-ইন" সিকোয়েন্সে থাকা নমুনাগুলি স্বতন্ত্রভাবে বিতরণ করা হয় না। সুতরাং আমি যদি চূড়ান্ত ফলাফলের বৈকল্পিকতাটি পরীক্ষা করতে চাই তবে তা হয়ে যায়$X_{t+1}\sim X_{t+k}$

$$\operatorname{Var}[\bar{X}] = \operatorname{Var}\left[\sum_{i=1}^k X_{t+i}\right] = \frac{1}{k^2}\left(\sum_{i=1}^k\operatorname{Var}[X_{t+i}] + \sum_{i=1}^{k-1} \sum_{j=i+1}^k \operatorname{Cov}[X_{t+i},X_{t+j}]\right)$$

এখানে শব্দটি একটি ক্রোস-কোভারিয়েন্স ম্যাট্রিক্স সহ যে কোনও ক্ষেত্রে প্রযোজ্য ।$\operatorname{Cov}[X_{t+i},X_{t+j}]$$k\times k$$(i,j)$$i<j$

উদাহরণস্বরূপ, আমি আছে

$$X_{t+1} = (1,2,1)'\\ X_{t+2} = (1,0,2)'\\ X_{t+3} = (1,0,0)'\\ X_{t+4} = (5,0,-1)'$$

তারপরে আমি কোভারিয়েন্স ম্যাট্রিক্স সাথে অনুমান করতে পারি$\operatorname{Cov}[X_{t+i}, X_{t+i+1}]$

$$\frac{1}{3}\sum_{i=1}^3 (X_{t+i}-\mu_{t+i})(X_{t+i+1}-\mu_{t+i+1})'$$

এখন আমি আগ্রহী যে ফলাফলের অনুমানটি উল্লেখযোগ্যভাবে অ-শূন্য কিনা তাই আমার এটি ভেরিয়েন্স অনুমানের মধ্যে অন্তর্ভুক্ত করা দরকার ।$\operatorname{Var}[\bar{X}]$

সুতরাং এখানে আমার প্রশ্ন আসে :

1. আমরা থেকে sample নমুনা করেছি । যেহেতু changing পরিবর্তিত হচ্ছে, আমি মনে করি এবং distribution একই বিতরণ নয়, তাই হিসাবে একই নয় । এই বিবৃতি সঠিক?$X_{t+i}$$P(X_{t+i}|Y_{t+i})$$Y_{t+i}$$X_{t+i}$$X_{t+i+1}$$\operatorname{Cov}[X_{t+i},X_{t+j}]$$\operatorname{Cov}[X_{t+i},X_{t+i}]$
2. ধরুন আমার কাছে (অনুক্রমের প্রতিবেশী নমুনাগুলি) অনুমান করার মতো পর্যাপ্ত ডেটা রয়েছে, যদি কোভেরিয়েন্স ম্যাট্রিক্স উল্লেখযোগ্যভাবে হয় তবে পরীক্ষা করার কোনও উপায় আছে কি? নন-শূন্য ম্যাট্রিক্স? বিস্তৃতভাবে বলতে গেলে, আমি এমন একটি সূচকের প্রতি আগ্রহী যা আমাকে কিছু অর্থপূর্ণ ক্রস-কোভেরিয়েন্স ম্যাট্রিকগুলিতে গাইড করে যা আমার চূড়ান্ত বৈকল্পিক অনুমানের মধ্যে অন্তর্ভুক্ত করা উচিত।$\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

Comments

আসলে, এখন এটি বেশ ভাল প্রশ্নের মতো দেখাচ্ছে; আমি মনে করি আমার চেয়ে আরও ভাল লোকদের উত্তর দেওয়ার জন্য আরও কিছু লোককে আরও ভাল স্থান দেওয়া হবে, সুতরাং যখনই এটি শীঘ্রই যোগ্য হয়ে উঠবে তখন আমি এটিকে প্রচার করতে চাই (এটিতে একটি অনুদান রাখি)। [সংক্ষিপ্ত উত্তর: 1. এই দুটি সমবায় পৃথক পৃথক। ২. পর পর বৈসাদৃশ্যগুলি পারস্পরিক সম্পর্কযুক্ত কিনা তা পরীক্ষা করার দরকার নেই (এগুলি সবচেয়ে তুচ্ছ ঘটনা ছাড়াও; অ্যালগরিদম নির্ভরশীল বৈচিত্রগুলি উত্পন্ন করে কাজ করে) - এটি পরীক্ষার চেয়ে পারস্পরিক সম্পর্ককে পরিমাপ করার জন্য আরও আকর্ষণীয়;] ... যদি ভাল উত্তরগুলি দেখায় না আমি এই সংক্ষিপ্ত মন্তব্যগুলিকে পুরো উত্তরে প্রসারিত করব

— Glen_b -Reninstate মনিকা

দেখে মনে হচ্ছে আপনার প্রশ্নটি আপনার শিরোনাম প্রশ্নের চেয়ে অনেক বিস্তৃত। বিশেষত আপনার শিরোনাম প্রশ্নে সম্বোধন করাতে, বারলেটলের গোলকের পরীক্ষা রয়েছে যা একটি নমুনা কোভারিয়েন্স ম্যাট্রিক্সটি তির্যক কিনা তা পরীক্ষা করতে দেয়। আপনার সম্ভবত এটি আপনার ক্রস-কোভেরিয়েন্স দৃশ্যের সাথে খাপ খাইয়ে নিতে হবে (আপনার "কোভারিয়েন্স ম্যাট্রিক্স" প্রকৃতপক্ষে কোভরিয়েন্স ম্যাট্রিক্স নয়, এটি ক্রস-কোভেরিয়েন্স ম্যাট্রিক্স; এটি এক্স_টি এবং এক্স_ both উভয়ের সম্পূর্ণ কোভারিয়েন্স ম্যাট্রিক্সের একটি ত্রিভুজ ব্লক) it's t + 1} একসাথে)। সিসি থেকে @ গ্লেন_ বি।

— অ্যামিবা

আমি যুক্ত করব যে সমবায়ীরা কমবেশি জ্যামিতিকভাবে ক্ষয় হতে থাকে (ক্রমবর্ধমান যাতে আপনি আরও দূরে সরে যাচ্ছেন); মান পর্যন্ত সরাইয়া সময় খুব কম পারস্পরিক সম্পর্ক (ঝোঁক আছে না যখন সেই ঘনিষ্ঠ একসঙ্গে কখনও কখনও বেশ নির্ভরশীল হতে পারে শূন্য কিন্তু মূলত উপেক্ষণীয়)।

— গ্লেন_বি -রিনস্টেট মনিকা

@ টম ১. তবুও, স্টেশনারি সিরিজ সহ, খুব দূরে পিছনে (৪ টি দূরের নয়!), এসিএফ-এর কী হবে? ২. এমসিএমসি থেকে উত্পন্ন মানগুলি কীভাবে কাজ করে সে সম্পর্কে আপনি কিছু জানেন যা স্বেচ্ছাসেবী সময় সিরিজ সম্পর্কে আপনি বলতে পারবেন না ... তারা মার্কোভিয়ান । আপনি লক্ষ করবেন যে আমার আগের মন্তব্যে দাবি করা হয়নি যে নিকটতম ল্যাগগুলি অবশ্যই জ্যামিতিক ক্ষয় দেখাতে হবে (উদাহরণস্বরূপ আমি বলিনি যে 3 বছরের চেয়ে 4 বছরের বেশি উচ্চতর সম্পর্কটি দেখা অসম্ভব)। আপনি এখনও দূরে সরে যাওয়ার সাথে সাথে এসিএফ-তে জ্যামিতিক ক্ষয় হওয়ার প্রবণতা পাবেন (যদি কিছু শর্ত থাকে তবে)। $\quad$

— গ্লেন_বি -রিনস্টেট মনিকা

যদি আপনার নমুনা সময়কালটি খুব কম হয় তবে আপনার কাছে ক্রস covariance সম্পর্কে খুব সঠিক অনুমান না রয়েছে, তবে আপনাকে কেবল ক্রস-কোভারিয়েন্স শর্তাদি সম্পর্কে আপনার অনুমানের প্রমিত স্ট্যান্ডার্ড ত্রুটির সাথে এই বিষয়টি মোকাবেলা করতে হবে। আমার বর্তমান বোঝাপড়াটি দেওয়া আমি আরও জোরালোভাবে পারস্পরিক সম্পর্কগুলি পরীক্ষা করার বিষয়ে আমার আপত্তিটি পুনরায় নিশ্চিত করতে চলেছি। শূন্য বনাম শূন্য-সম্পর্কিত পারস্পরিক সম্পর্কের জন্য হাইপোথিসিস পরীক্ষাটি এখানে আপনার সমস্যার সমাধান করে না।

— গ্লেন_বি -রিনস্টেট মনিকা

Answer 1

1. আমরা থেকে sample নমুনা করেছি । যেহেতু changing পরিবর্তন হচ্ছে, তাই আমার মনে হয় এবং distribution একই বিতরণ থেকে নয় [...]$X_{t+i}$$P(X_{t+i}|Y_{t+i})$$Y_{t+i}$$X_{t+i}$$X_{t+i+1}$

আপনি এখানে শর্তযুক্ত এবং শর্তহীন বিতরণগুলি বিভ্রান্ত করছেন, আমার পরবর্তী মন্তব্যটিও দেখুন। শর্তসাপেক্ষ উপর এবং , । তবে আপনার গীবস নমুনা তৈরির পুরো বিষয়টি এবং এর স্থিতিশীল বিতরণগুলি থেকে নমুনা । খুব মোটামুটিভাবে বলতে গেলে, আপনি যদি দীর্ঘ সময় ধরে চেইন এবং যাতে স্থিতিশীল বিতরণ অনুসরণ করে, আপনি তখন বলতে পারেন যার অর্থ নিঃশর্ত বন্টন এছাড়াও পরিবর্তিত হয়। অন্য কথায়, হিসাবে$Y_{t+i} = y_1$$Y_{t+i+1} = y_2$$P(X_{t+i}|Y_{t+i} = y_1) \neq P(X_{t+i+1}|Y_{t+i+1} = y_2)$$X$$Y$$\{Y_t\}$

$$\begin{align} P(X_t) = \int_{\mathcal{Y}}P(X_t|Y_t)dP(Y_t), \end{align}$$ $X_t$$t \to \infty$ এবং আমরা স্থিতিশীল বিতরণগুলিতে রূপান্তর করি, , যেহেতু এবং (একই!) স্টেশনারি ডিস্ট্রিবিউশন থেকে আঁকা হবে । অন্যদিকে ও আগে, আমরা শর্ত একবার উপর এবং , এই আর রাখা হবে না, নির্বিশেষে কত বড় হয়।$P(X_{t+i}|Y_{t+i}) = P(X_{t+i+1}|Y_{t+i+1})$$Y_{t+i}$$Y_{t+i+1}$$P(Y_t)$$Y_{t+i} = y_1$$Y_{t+i+1} = y_2$$t$

[...] সুতরাং as এর মতো নয় । এই বিবৃতি সঠিক?$\operatorname{Cov}[X_{t+i},X_{t+j}]$$\operatorname{Cov}[X_{t+i},X_{t+i}]$

হ্যাঁ, এটি সঠিক - যদিও , অর্থাৎ এবং একই স্থিতিশীল বিতরণ রয়েছে। আমি জানি এটি বিভ্রান্তিকর হতে পারে তবে আমার সাথে সহ্য করুন। দিয়ে সংজ্ঞায়িত করুন । পুনরাবৃত্তি প্রতিস্থাপনের মাধ্যমে যে কেউ এবং যেহেতু (অসীম) এখনও স্বাভাবিক, তাই এটি holds এবং যাতে । স্পষ্টতই, এবং$X_{t+1} \sim X_{t}$$X_t$$X_{t+1}$$Y_t = 0.8\cdot Y_{t-1} + \varepsilon_t$$\varepsilon_t \overset{iid}{\sim} N(0,1)$$Y_t = \sum_{i=0}^t0.8^i \varepsilon_{t-i}$ Ytiid∼N(0,$\text{Var}(Y_t) = \sum_{i=0}^t0.8^{2i} = \dfrac{1}{1-0.8^2}$YtYt+1Yt+1∼YtX$Y_t \overset{iid}{\sim} N(0, \dfrac{1}{1-0.8^2})$$Y_t$$Y_{t+1}$এখনও সম্পর্কযুক্ত হবে, তবে তারা একই বিতরণ থেকেও আসবে ( )। আপনার একইরকম পরিস্থিতি রয়েছে ।$Y_{t+1} \sim Y_{t}$$X_t$

2. ধরুন আমার কাছে (অনুক্রমের প্রতিবেশী নমুনাগুলি) অনুমান করার মতো পর্যাপ্ত ডেটা রয়েছে, যদি কোভেরিয়েন্স ম্যাট্রিক্স উল্লেখযোগ্যভাবে হয় তবে পরীক্ষা করার কোনও উপায় আছে কি? নন-শূন্য ম্যাট্রিক্স? বিস্তৃতভাবে বলতে গেলে, আমি এমন একটি সূচকের প্রতি আগ্রহী যা আমাকে কিছু অর্থপূর্ণ ক্রস-কোভেরিয়েন্স ম্যাট্রিকগুলিতে গাইড করে যা আমার চূড়ান্ত বৈকল্পিক অনুমানের মধ্যে অন্তর্ভুক্ত করা উচিত।$\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

ঠিক আছে, আপনার যদি অসীম অনেকগুলি পর্যবেক্ষণ থাকে তবে সেগুলি শেষ পর্যন্ত গুরুত্বপূর্ণ হয়ে উঠবে। স্পষ্টতই, আপনি অনুশীলনে এটি করতে পারবেন না, তবে কিছু শর্তাবলীর পরে সম্প্রসারণকে 'কাটা কাটা' উপায় রয়েছে, গৃহীত উত্তম উত্তরটি এখানে দেখুন। মূলত, আপনি একটি কার্নেল সংজ্ঞায়িত করেন যা থেকে হয় এবং প্রথম কোভেরিয়েন্স ম্যাট্রিক্সের জন্য ওজন নির্ধারণ করে যা আপনি গণনা করতে পারেন। আপনি যদি বেছে চান , আপনাকে সাহিত্যের মধ্যে কিছুটা খনন করতে হবে, তবে আমি যে পোস্টটি লিঙ্ক করেছি তা আপনাকে ঠিক এটি করার জন্য কিছু ভাল রেফারেন্স দেয়।0 l টি l $k(\cdot)$$0$$l_T$$l_T$