ধারাবাহিক এবং পক্ষপাতদুষ্ট অনুমানকারীর উদাহরণ?

13

সত্যিই এই এক স্ট্যাম্পড। আমি সত্যিই এমন একটি উদাহরণ বা পরিস্থিতি চাই যেখানে কোনও অনুমানকারী বি উভয়ই সামঞ্জস্যপূর্ণ এবং পক্ষপাতদুষ্ট হবে।

mathematical-statistics estimation econometrics

— জিমি উইগলস
সূত্র

3

এটি একটি শ্রেণীর জন্য?

— গ্লেন_বি -রিনস্টেট মনিকা

5

আমি মনে করি যে দেরী স্পেসিফিকেশন যা আপনি সময়ের সিরিজের উদাহরণ হিসাবে সন্ধান করছেন এটি এটিকে একটি অন্য প্রশ্নে রূপান্তরিত করে, কারণ এটি ইতিমধ্যে সরবরাহ করা দুর্দান্ত উত্তরগুলিকে অবৈধ করে দেবে। তবে এটি ঠিক আছে - আপনি একটি নতুন প্রশ্ন জিজ্ঞাসা করতে পারেন।

— সাইকোরাক্স মনিকাকে

6

আমি দেখছি আপনি আপনার প্রশ্ন পরিবর্তন করেছেন। বেশিরভাগ উত্তর ইতিমধ্যে আপনার পূর্ববর্তী প্রশ্নের সাথে মোকাবিলা করেছে তা প্রদত্ত, আমি আপনাকে এটি আবার পরিবর্তন করতে এবং বিশেষত সময় সিরিজের মডেলগুলির জন্য একটি নতুন প্রশ্ন পোস্ট করার পরামর্শ দিচ্ছি।

— জনকে

3

অবাক করার মতো বিষয় হলেও আপনি সময় সিরিজের সম্পর্কিত অনুমানের জন্য জিজ্ঞাসা করলেও, কেউ এআর (1) এর জন্য ওএলএসের কথা উল্লেখ করেনি। অনুমানকারী পক্ষপাতদুষ্ট, তবে সামঞ্জস্যপূর্ণ এবং এটি দেখানো মোটামুটি সহজ (এবং গুগলিং আপনাকে এতে প্রচুর পরিমাণে উপাদান দেবে)। সম্পাদনা করুন: সময় সিরিজের অনুরোধটি একটি দেরী সংযোজন হিসাবে উপস্থিত হয়েছিল, যা এই জাতীয় উত্তরের অভাব ব্যাখ্যা করবে ...

— হিজাবেব

2

এখানে একটি সুন্দর তুচ্ছ উদাহরণ: , ।

{\bar{X}}_{n} + ϵ / n

$\bar{X}_n + \epsilon / n$

ϵ \neq 0

$\epsilon \neq 0$

— dsaxton

23

আমি যে সহজ উদাহরণটি ভাবতে পারি তা হ'ল আমাদের বেশিরভাগের কাছে স্বজ্ঞাতভাবে আসে সেই নমুনা বৈকল্পিকতা, যাকে পরিবর্তে দ্বারা বিভক্ত স্কোয়ার বিচ্যুতির যোগফল : $n$ $n-1$

S_{n}^{2} = \frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - \bar{X})}^{2}

$S_n^2 = \frac{1}{n} \sum_{i=1}^n \left(X_i-\bar{X} \right)^2$

এটি সহজেই দেখানো যায় যে and এবং সুতরাং অনুমানকারী পক্ষপাতদুষ্ট। তবে সীমাবদ্ধ বৈকল্পিক ধরে নিরীক্ষণ করুন যে পক্ষপাতটি শূন্যে হিসাবে চলেছে কারণ $E\left(S_n^2 \right)=\frac{n-1}{n} \sigma^2$ $\sigma^2$ $n \to \infty$

E (S_{n}^{2}) - σ^{2} = - \frac{1}{n} σ^{2}

$E\left(S_n^2 \right)-\sigma^2 = -\frac{1}{n}\sigma^2$

এটি এও দেখানো যেতে পারে যে অনুমানকারীটির বৈকল্পিকতা শূন্যের দিকে ঝোঁকায় এবং সুতরাং অনুমানকটি গড়-বর্গে রূপান্তর করে । অতএব, এটি সম্ভাবনায়ও পরিবর্তনশীল ।

— JohnK
সূত্র

1

এটি একটি দরকারী উদাহরণ, যদিও এটি "পক্ষপাতদুষ্ট" এর পরিবর্তে দুর্বল ব্যাখ্যার প্রয়োগ করতে পারে (যা প্রশ্নটিতে কিছুটা অস্পষ্টভাবে ব্যবহৃত হয়)। কেউ আরও শক্তিশালী কিছু জিজ্ঞাসা করতে পারে, উদাহরণস্বরূপ, অনুমানের ক্রম যা সামঞ্জস্যপূর্ণ, কিন্তু পক্ষপাত সহ যা অ্যাসেম্পোটোটিকভাবেও বিলুপ্ত হয় না।

— কার্ডিনাল

@ কার্ডিনাল পক্ষপাতদুটি সামঞ্জস্যপূর্ণ হওয়ার জন্য পক্ষপাত অবশ্যই অহেতুকভাবে বিলুপ্ত হবে, না?

— জনক

3

নাঃ। (আরও তথ্যের জন্য মন্তব্য প্রবাহ দেখুন।)

— কার্ডিনাল

আমি এটা সহায়ক কলটি আপনার মূল্নির্ধারক হবে মনে হবে বদলে , যেমন , সবচেয়ে সাধারণত নিরপেক্ষ মূল্নির্ধারক বলতে বোঝানো হচ্ছে প্রায়ই MLE বোঝায়।

{\hat{σ}}^{2}

$\hat \sigma^2$

S^{2}

$S^2$

S^{2}

$S^2$

{\hat{σ}}^{2}

$\hat \sigma^2$

— ক্লিফ এবি

@CliffAB হ্যাঁ, এই কি সূচি

নির্দেশ স্কোয়ারড বিচ্যুতি এর সমষ্টি দ্বারা বিভক্ত করা হয়

প্রচলিত পরিবর্তে

।

n

$n$

n

$n$

n - 1

$n-1$

— জনক

9

একটি উত্তম উদাহরণ প্যারামিটার আনুমানিক হিসাব করা হবে দেওয়া IID পর্যবেক্ষণ $\theta > 0$ $n$ । $y_i \sim \text{Uniform}\left[0, \,\theta\right]$

যাক । যে কোনও সীমাবদ্ধ আমাদের কাছে (সুতরাং অনুমানকারী পক্ষপাতদুষ্ট) তবে সীমাতে এটি সমান হবে সম্ভাবনার সাথে একটি (তাই এটি সামঞ্জস্যপূর্ণ)। $\hat{\theta}_n = \max\left\{y_1, \ldots, y_n\right\}$ $n$ $\mathbb{E}\left[\theta_n\right] < \theta$ $\theta$

— আদ্রিয়ান
সূত্র

6

যে কোনও পক্ষপাতদুষ্ট এবং ধারাবাহিক অনুমানকারী এবং একটি ক্রম 1 এ রূপান্তর করুন ( এলোমেলো দরকার নেই) এবং ফর্ম । এটি পক্ষপাতদুষ্ট, তবে যেহেতু 1 এ রূপান্তর করে $T_n$ $\alpha_n$ $\alpha_n$ $\alpha_nT_n$ $\alpha_n$

উইকিপিডিয়া থেকে:

ঢিলেঢালাভাবে ভাষী, একটি মূল্নির্ধারক এর প্যারামিটার বলেন, সামঞ্জস্যপূর্ণ হতে যদি এটা প্যারামিটারের সত্য মান সম্ভবত এগোয়: $T_n$ $\theta$

\underset{n \to \infty}{plim} T_{n} = θ .

$\underset{n\to\infty}{\operatorname{plim}}\;T_n = \theta.$

এখন মনে রাখবেন যে কোনও অনুমানকারকের পক্ষপাতিত্ব সংজ্ঞাযুক্ত:

{Bias}_{θ} [\hat{θ}] = E_{θ} [\hat{θ}] - θ

$\operatorname{Bias}_\theta[\,\hat\theta\,] = \operatorname{E}_\theta[\,\hat{\theta}\,]-\theta$

পক্ষপাতটি প্রকৃতপক্ষে শূন্য নয়, এবং সম্ভাবনার একত্রিতকরণটি সত্য থাকে।

— RUser4512
সূত্র

আমি প্রতিক্রিয়া এবং ব্যাখ্যা প্রশংসা করি। আমি এখন আরও ভাল বোঝার আছে। ধন্যবাদ

— জিমি উইগলস

কোনও করবে না তা পরিষ্কার করার জন্য এই উত্তরটির শুরুতে একটি ছোট্ট ফিক্স-আপ দরকার। মূল অনুমানক ক্রম নিজেই সামঞ্জস্যপূর্ণ হতে হবে।

T_{n}

$T_n$

— কার্ডিনাল

2

রেজিস্ট্রার হিসাবে অন্তর্ভুক্ত একটি পিছিয়ে নির্ভরশীল পরিবর্তনশীল সহ একটি টাইম সিরিজ সেটিংয়ে, ওএলএসের অনুমানকারীটি সামঞ্জস্যপূর্ণ তবে পক্ষপাতদুষ্ট হবে। এর কারণ হ'ল ওএলএসের অনুমানকারকের পক্ষপাতহীনতা দেখাতে আমাদের কঠোরভাবে অজস্রতা প্রয়োজন, , অর্থাৎ ত্রুটি শব্দটি, , পিরিয়ড সমস্ত সময়ের মধ্যে সমস্ত রেজিস্ট্রারের সাথে সম্পর্কযুক্ত। তবে, ওএলএস অনুমানের ধারাবাহিকতা প্রদর্শনের জন্য আমাদের কেবল সমসাময়িক এক্সোজেনিটি দরকার, , ত্রুটি শব্দটি, , সময়ের মধ্যে regressors সঙ্গে সম্পর্কহীন থাকে, $E\left[\varepsilon_{t}\left|x_{1},\, x_{2,},\,\ldots,\, x_{T}\right.\right]$ $\varepsilon_{t}$ $t$ $E\left[\varepsilon_{t}\left|x_{t}\right.\right]$ $\varepsilon_{t}$ $t$ $x_{t}$ পিরিয়ডে । এআর (1) মডেলটি বিবেচনা করুন: এখন থেকে সহ । $t$ $y_{t}=\rho y_{t-1}+\varepsilon_{t},\;\varepsilon_{t}\sim N\left(0,\:\sigma_{\varepsilon}^{2}\right)$ $x_{t}=y_{t-1}$

প্রথমে আমি দেখাই যে কঠোর প্রবণতা কোনও মডেলটিতে রেজিস্টার হিসাবে অন্তর্ভুক্ত একটি পিছিয়ে থাকা নির্ভরশীল ভেরিয়েবলকে ধরে রাখে না। আসুন এবং মধ্যে পারস্পরিক সম্পর্ক দেখুন $\varepsilon_{t}$ $x_{t+1}=y_{t}$

E [ε_{t} x_{t + 1}] = E [ε_{t} y_{t}] = E [ε_{t} (ρ y_{t - 1} + ε_{t})]

$E\left[\varepsilon_{t}x_{t+1}\right]=E\left[\varepsilon_{t}y_{t}\right]=E\left[\varepsilon_{t}\left(\rho y_{t-1}+\varepsilon_{t}\right)\right]$

= ρ E (ε_{t} y_{t - 1}) + E (ε_{t}^{2})

$=\rho E\left(\varepsilon_{t}y_{t-1}\right)+E\left(\varepsilon_{t}^{2}\right)$

= E (ε_{t}^{2}) = σ_{ε}^{2} > 0 (E q . (1)) .

$=E\left(\varepsilon_{t}^{2}\right)=\sigma_{\varepsilon}^{2}>0 \ (Eq. (1)).$

যদি আমরা অনুক্রমিক প্রবণতা ধরে নিই, , অর্থাৎ ত্রুটি শব্দটি, period, পিরিয়ড সময়কালে সমস্ত রেজিস্টারের সাথে পূর্ববর্তী সময়ের এবং বর্তমানের পরে উপরের প্রথম পদটির সাথে , অদৃশ্য হয়ে যাবে। উপরে থেকে যা স্পষ্ট তা হ'ল আমাদের প্রত্যাশা কঠোরভাবে না করা পর্যন্ত । তবে, এটি পরিষ্কার হওয়া উচিত যে সমসাময়িক বাহুবলি, , ধরে আছে। $E\left[\varepsilon_{t}\mid y_{1},\: y_{2},\:\ldots\ldots,y_{t-1}\right]=0$ $\varepsilon_{t}$ $t$ $\rho E\left(\varepsilon_{t}y_{t-1}\right)$ $E\left[\varepsilon_{t}x_{t+1}\right]=E\left[\varepsilon_{t}y_{t}\right]\neq0$ $E\left[\varepsilon_{t}\left|x_{t}\right.\right]$

উপরে উল্লিখিত এআর (1) মডেলটি অনুমান করার সময় এখন ওএলএস অনুমানের পক্ষপাতদর্শনটি দেখি। S , of এর ওএলএস অনুমানকারী হিসাবে দেওয়া হয়েছে: $\rho$ $\hat{\rho}$

\hat{ρ} = \frac{\frac{1}{T} \sum_{t = 1}^{T} y_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = \frac{\frac{1}{T} \sum_{t = 1}^{T} (ρ y_{t - 1} + ε_{t}) y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = ρ + \frac{\frac{1}{T} \sum_{t = 1}^{T} ε_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} (E q . (2))

$\hat{\rho}=\frac{\frac{1}{T}\sum_{t=1}^{T}y_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\frac{\frac{1}{T}\sum_{t=1}^{T}\left(\rho y_{t-1}+\varepsilon_{t}\right)y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}} \ (Eq. (2))$

তারপরে পূর্ববর্তী সমস্ত, সমসাময়িক এবং ভবিষ্যতের মানগুলির শর্তসাপেক্ষ প্রত্যাশা নিন, , এক : $E\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]$ $Eq. (2)$

E [\hat{ρ} | y_{1}, y_{2,}, \dots, y_{T - 1}] = ρ + \frac{\frac{1}{T} \sum_{t = 1}^{T} [ε_{t} | y_{1}, y_{2,}, \dots, y_{T - 1}] y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}}

$E\left[\hat{\rho}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}$

তবে আমরা কাছ থেকে জানি যে যেমন অর্থ that এবং তাই তবে তবে পক্ষপাতযুক্ত: $Eq. (1)$ $E\left[\varepsilon_{t}y_{t}\right]=E\left(\varepsilon_{t}^{2}\right)$ $\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]\neq0$ $\frac{\frac{1}{T}\sum_{t=1}^{T}\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}\neq0$ $E\left[\hat{\rho}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]\neq\rho$ $E\left[\hat{\rho}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}E\left(\varepsilon_{t}^{2}\right)y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=$ $\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\sigma_{\varepsilon}^{2}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}$ ।

এআর (1) মডেলটিতে ওএলএসের অনুমানকারীর ধারাবাহিকতা দেখানোর জন্য আমি সমস্তই সমকালীন এক্সোজেনিটি, মুহূর্ত অবস্থা বিশালাকার, যা সঙ্গে । পূর্বের মতো, আমাদের কাছে that , the এর ওএলএস অনুমান হিসাবে দেওয়া হয়েছে: $E\left[\varepsilon_{t}\left|x_{t}\right.\right]=E\left[\varepsilon_{t}\left|y_{t-1}\right.\right]=0$ $E\left[\varepsilon_{t}x_{t}\right]=0$ $x_{t}=y_{t-1}$ $\rho$ $\hat{\rho}$

\hat{ρ} = \frac{\frac{1}{T} \sum_{t = 1}^{T} y_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = \frac{\frac{1}{T} \sum_{t = 1}^{T} (ρ y_{t - 1} + ε_{t}) y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = ρ + \frac{\frac{1}{T} \sum_{t = 1}^{T} ε_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}}

$\hat{\rho}=\frac{\frac{1}{T}\sum_{t=1}^{T}y_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\frac{\frac{1}{T}\sum_{t=1}^{T}\left(\rho y_{t-1}+\varepsilon_{t}\right)y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}$

এখন ধরে নিন যে এবং , ইতিবাচক ও সসীম হয় । $plim\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}=\sigma_{y}^{2}$ $\sigma_{y}^{2}$ $0<\sigma_{y}^{2}<\infty$

তারপরে, এবং যতক্ষণ না বড় সংখ্যার আইন (এলএলএন) প্রয়োগ হয় আমরা সেই লিমি । এই ফলাফলটি ব্যবহার করে আমাদের কাছে রয়েছে: $T\rightarrow\infty$ $p\lim\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}=E\left[\varepsilon_{t}y_{t-1}\right]=0$

\underset{T \to \infty}{p lim \hat{ρ}} = ρ + \frac{p lim \frac{1}{T} \sum_{t = 1}^{T} ε_{t} y_{t - 1}}{p lim \frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = ρ + \frac{0}{σ_{y}^{2}} = ρ

$\underset{T\rightarrow\infty}{p\lim\hat{\rho}}=\rho+\frac{p\lim\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}}{p\lim\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{0}{\sigma_{y}^{2}}=\rho$

ফলে দেখা গেছে যে OLS ঔজ্জ্বল্যের প্রেক্ষাপটে মূল্নির্ধারক , শিরোণামে (1) মডেল পক্ষপাতমূলক কিন্তু সামঞ্জস্যপূর্ণ হয়। মনে রাখবেন যে এই ফলাফলটি সমস্ত রিগ্রেশনগুলির জন্য রয়েছে যেখানে পিছিয়ে থাকা নির্ভরশীল ভেরিয়েবলটিকে রেজিস্টার হিসাবে অন্তর্ভুক্ত করা হয়েছে। $p$ $\hat{\rho}$

— Plissken
সূত্র