অনিশ্চয়তার বুটস্ট্র্যাপ অনুমান সম্পর্কিত অনুমান

Question

আমি অনিশ্চয়তার প্রাক্কলন প্রাপ্তিতে বুটস্ট্র্যাপের দরকারীতার প্রশংসা করি, তবে একটি জিনিস যা আমাকে সর্বদা বিরক্ত করে তা হ'ল সেই অনুমানের সাথে সম্পর্কিত বিতরণটি নমুনা দ্বারা সংজ্ঞায়িত বিতরণ। সাধারণভাবে, এটি বিশ্বাস করা খারাপ ধারণা বলে মনে হয় যে আমাদের নমুনা ফ্রিকোয়েন্সিগুলি অন্তর্নিহিত বিতরণের মতো দেখায়, সুতরাং যেখানে নমুনা ফ্রিকোয়েন্সি অন্তর্নিহিত বিতরণকে সংজ্ঞায়িত করে এমন কোনও বিতরণের উপর ভিত্তি করে অনিশ্চয়তা অনুমান করা মজাদার / গ্রহণযোগ্য কেন?

অন্যদিকে, এটি আমরা সাধারণত অন্যান্য বিতরণী অনুমানের চেয়ে খারাপ (সম্ভবত আরও ভাল) নাও করতে পারি, তবে আমি এখনও ন্যায়সঙ্গতটিকে আরও ভালভাবে বুঝতে চাই।

Comments

এমন কয়েকটি সম্পর্কিত প্রশ্ন রয়েছে যা আপনি দেখতে চাইতে পারেন। কিছু এই পৃষ্ঠার পাশের মার্জিনে তালিকাভুক্ত করা হয়েছে। বুটস্ট্র্যাপ কখন ব্যর্থ হয় এবং এর ব্যর্থ হওয়ার জন্য কী বোঝায় সে সম্পর্কে এখানে একটি।

— কার্ডিনাল

Answer 1

বেশ কয়েকটি উপায় রয়েছে যে কেউ বুঝতে সক্ষমভাবে বুটস্ট্র্যাপ প্রয়োগ করতে পারে। দুটি সর্বাধিক প্রাথমিক পন্থা হ'ল "ননপ্রেমেট্রিক" এবং "প্যারামেট্রিক" বুটস্ট্র্যাপ হিসাবে বিবেচিত। দ্বিতীয়টি ধরে নেয় যে আপনি যে মডেলটি ব্যবহার করছেন সেটি (মূলত) সঠিক।

$X_1, X_2, \ldots, X_n$$F$$\hat{F}_n(x) = n^{-1} \sum_{i=1}^n \mathbf{1}(X_i \leq x)$

ডোভেরেটজকি – কেফার – ওল্ফওয়েটস অসমতা

$$\renewcommand{\Pr}{\mathbb{P}} \Pr\big( \textstyle\sup_{x \in \mathbb{R}} \,|\hat{F}_n(x) - F(x)| > \varepsilon \big) \leq 2 e^{-2n \varepsilon^2} \> .$$

এই দেখায় গবেষণামূলক বণ্টনের ফাংশনের এগোয় যে অবিশেষে সত্য বন্টনের ফাংশনে ব্যাখ্যা মূলকভাবে ফাস্ট সম্ভবত। প্রকৃতপক্ষে, এই অসমতার সাথে বোরেল – ক্যান্তেলি লেমমা তাত্ক্ষণিকভাবে দেখায় যে অবশ্যই।$\sup_{x \in \mathbb{R}} \,|\hat{F}_n(x) - F(x)| \to 0$

এই রূপান্তরটির গ্যারান্টি হিসাবে আকারে কোনও অতিরিক্ত শর্ত নেই ।$F$

Heuristically, তারপর, যদি আমরা কিছু ক্রিয়ামূলক আগ্রহী বন্টন ফাংশন যা হয় মসৃণ , তাহলে আমরা আশা নিকটবর্তী হতে ।$T(F)$$T(\hat{F}_n)$$T(F)$

(পয়েন্টওয়াইস)$\hat{F}_n(x)$

প্রত্যাশার সরল রৈখিকতা এবং প্রতিটি for এর জন্য এর সংজ্ঞা দ্বারা ,$\hat{F}_n(x)$$x \in \mathbb{R}$

$$\newcommand{\e}{\mathbb{E}} \e_F \hat{F}_n(x) = F(x) \>.$$

মনে করুন আমরা আগ্রহী । এরপরে অভিজ্ঞতাগত পরিমাপের নিরপেক্ষতা অনুভূতিগত পরিমাপের লিনিয়ার কার্যকারিতার পক্ষপাতহীনতা পর্যন্ত প্রসারিত। সুতরাং, $\mu = T(F)$

$$\e_F T(\hat{F}_n) = \e_F \bar{X}_n = \mu = T(F) \> .$$

সুতরাং গড় সঠিক এবং যেহেতু দ্রুত নিকটবর্তী হচ্ছে , তারপরে ( , দ্রুত পৌঁছেছে ।$T(\hat{F}_n)$$\hat{F_n}$$F$$T(\hat{F}_n)$$T(F)$

একটি আত্মবিশ্বাসের ব্যবধান তৈরি করতে ( যা মূলত বুটস্ট্র্যাপ কী তা সম্পর্কে ) আমরা কেন্দ্রীয় সীমার তাত্ত্বিকতা, বোধগম্য কোয়ান্টাইলের ধারাবাহিকতা এবং ডেল্টা পদ্ধতিটিকে সাধারণ রৈখিক ক্রিয়াকলাপ থেকে আগ্রহের আরও জটিল পরিসংখ্যানগুলিতে সরানোর সরঞ্জাম হিসাবে ব্যবহার করতে পারি ।

ভাল রেফারেন্স হয়

1. বি এফরন, বুটস্ট্র্যাপ পদ্ধতি: jackknife আরেকটি বর্ণন , অ্যান। তাত্ক্ষণিকবাজার। , খণ্ড। 7, না। 1, 1–26।
2. বি। এফ্রন এবং আর। টিবশিরানী, বুটস্ট্র্যাপের একটি ভূমিকা , চ্যাপম্যান – হল, 1994।
3. জিএ ইয়ং অ্যান্ড আরএল স্মিথ, স্ট্যাটিস্টিকাল ইনফেরেন্সের প্রয়োজনীয়তা , কেমব্রিজ ইউনিভার্সিটি প্রেস, 2005, অধ্যায় 11 ।
4. এডাব্লু ভ্যান ডার ভার্ট, অ্যাসিম্পটোটিক স্ট্যাটিস্টিকস , কেমব্রিজ ইউনিভার্সিটি প্রেস, 1998, অধ্যায় 23 ।
5. পি। বিকেল এবং ডি ফ্রিডম্যান, বুটস্ট্র্যাপের জন্য কিছু অ্যাসিম্পটোটিক তত্ত্ব । অ্যান। তাত্ক্ষণিকবাজার। , খণ্ড। 9, না। 6 (1981), 1196–1217।

Comments

খুব সুন্দর, @ কার্ডিনাল (+1)।

পরিষ্কার ব্যাখ্যা, রেফারেন্স দেওয়া হয়, দুর্দান্ত উত্তর।

— ভেসেজাবো

Answer 2

এটি সম্পর্কে চিন্তাভাবনা করার জন্য এখানে একটি পৃথক পদ্ধতি রয়েছে:

তত্ত্ব দিয়ে শুরু করুন যেখানে আমরা প্রকৃত বন্টন জানি, আমরা সত্য বন্টন থেকে অনুকরণ করে নমুনা পরিসংখ্যানগুলির বৈশিষ্ট্যগুলি আবিষ্কার করতে পারি। গোসেট এইভাবে পরিচিত নরমালদের থেকে নমুনা তৈরি করে এবং পরিসংখ্যানগুলিকে গণনা করে টি-বিতরণ এবং টি-পরীক্ষার বিকাশ করেছিলেন। এটি আসলে প্যারামেট্রিক বুটস্ট্র্যাপের একটি রূপ। নোট করুন যে আমরা পরিসংখ্যানগুলির আচরণ (কখনও কখনও প্যারামিটারগুলির সাথে তুলনামূলক) আচরণটি আবিষ্কার করতে অনুকরণ করছি।

এখন, যদি আমরা জনসংখ্যা বিতরণটি না জানি, তবে আমাদের অভিজ্ঞতাগত বিতরণে বিতরণের একটি অনুমান আছে এবং আমরা সেখান থেকে নমুনা নিতে পারি। অনুশীলনমূলক বিতরণ (যা জানা যায়) থেকে নমুনা দেওয়ার মাধ্যমে আমরা বুটস্ট্র্যাপ নমুনাগুলি এবং অভিজ্ঞতা অভিজ্ঞতা (বুটস্ট্র্যাপের নমুনার জন্য জনসংখ্যা) এর মধ্যে সম্পর্ক দেখতে পাই। এখন আমরা অনুমান করি যে বুটস্ট্র্যাপের নমুনাগুলি থেকে অভিজ্ঞতা অভিজ্ঞতাতে যে নমুনা রয়েছে তা নমুনা থেকে অজানা জনসংখ্যার মতোই। অবশ্যই এই সম্পর্কটি কতটা ভাল অনুবাদ করে তা নির্ভর করবে নমুনা জনসংখ্যার কতটা প্রতিনিধিত্বের উপর।

মনে রাখবেন যে আমরা জনসংখ্যার গড় অনুমান করতে বুটস্ট্র্যাপের নমুনার মাধ্যমগুলি ব্যবহার করছি না, আমরা তার জন্য (বা আগ্রহের পরিসংখ্যান যাই হোক না কেন) স্যাম্পল অর্থটি ব্যবহার করি। তবে আমরা নমুনা সংগ্রহের বৈশিষ্ট্যগুলি (স্প্রেড, পক্ষপাত) অনুমান করতে বুটস্ট্র্যাপ নমুনাগুলি ব্যবহার করছি। এবং স্যাম্পলিংয়ের প্রভাবগুলি জানার জন্য কোনও জনসংখ্যার (আমরা আশা করি যে আগ্রহের জনসংখ্যার প্রতিনিধি) থেকে স্যাম্পলিং ব্যবহার করা সার্থক হয়ে যায় এবং অনেক কম বিজ্ঞপ্তি হয়।

Answer 3

বুটস্ট্র্যাপিংয়ের মূল কৌশল (এবং স্টিং) এটি একটি অ্যাসিম্পটোটিক তত্ত্ব: যদি আপনার সাথে শুরু করার জন্য অসীম নমুনা থাকে তবে অনুভূত বন্টন প্রকৃত বিতরণের এত কাছে চলে যেতে চলেছে যে পার্থক্যটি নগন্য।

দুর্ভাগ্যক্রমে, বুটস্ট্র্যাপিং প্রায়শই ছোট নমুনার আকারে প্রয়োগ করা হয়। সাধারণ অনুভূতি হ'ল বুটস্ট্র্যাপিং কিছু খুব অ-অ্যাসিম্পটোটিক পরিস্থিতিতে কাজ করার জন্য নিজেকে দেখিয়েছে তবে তবুও সতর্কতা অবলম্বন করুন। যদি আপনার নমুনা আকারটি খুব ছোট হয় তবে আপনি প্রকৃত বন্টনের একটি 'ভাল উপস্থাপনা' হয়ে আপনার নমুনায় শর্তাধীনভাবে কাজ করছেন যা চেনাশোনাগুলিতে খুব সহজেই যুক্তির দিকে পরিচালিত করে :-)

Comments

এটাই আমি যা ভেবেছিলাম তা ধরণের, তবে এই যুক্তি সম্পর্কে কিছু বিজ্ঞপ্তি রয়েছে। আমি কোনও পরিসংখ্যানবিদ নই, তবে আমার অনুভূতিটি ছিল যে যখন আপনার অনুমানকারীরা দ্রুত রূপান্তরিত হয় তখন পরিসংখ্যানগত অনুমান কাজ করে, তাই আপনার নমুনা বিতরণে রূপান্তরিত না হলেও আপনার অনুমানগুলি দৃ sound়। এই ক্ষেত্রে, আমরা প্রকৃত বিতরণে রূপান্তর করতে পুরো ইম্পিশিয়াল বন্টনের উপর নির্ভর করছি। সম্ভবত এমন কিছু উপপাদ্য রয়েছে যা বলছে যে কয়েকটি বুটস্ট্র্যাপের প্রাক্কলন দ্রুত রূপান্তরিত হয় তবে আমি সাধারণত বুটস্ট্র্যাপিং এধরণের উপপাদকদের কাছে আবেদন না করেই প্রয়োগ করা দেখি।

— user4733

আপাত বিজ্ঞপ্তিযুক্ত যুক্তি কারণেই এটির বুটস্ট্র্যাপের ডাকনাম রাখা হয়েছিল। দেখে মনে হয়েছিল লোকেরা তাদের নিজস্ব বুটস্ট্র্যাপ দ্বারা নিজেকে তুলে ধরার চেষ্টা করছে। পরে এফ্রন দেখিয়েছিল যে এটি সত্যিই কাজ করেছে।

— গ্রেগ স্নো

যদি নমুনার আকারটি সত্যিই ছোট হয় তবে আপনি যে পদ্ধতিগুলি ব্যবহার করেন আপনার প্রচুর আস্থা প্রয়োজন ...

— কেজিটিল বি হালওয়ারসেন

Answer 4

আমি "তাত্পর্যপূর্ণভাবে, অভিজ্ঞতাবাদী বন্টন প্রকৃত বিতরণের কাছাকাছি হবে" (যা অবশ্যই খুব সত্য) এর দৃষ্টিকোণ থেকে তর্ক করব না, তবে "দীর্ঘকালীন দৃষ্টিকোণ" থেকে। অন্য কথায়, কোনও নির্দিষ্ট ক্ষেত্রে, বুটস্ট্র্যাপিং দ্বারা উত্পন্ন অভিজ্ঞতা অভিজ্ঞতা বন্ধ হয়ে যাবে (কখনও কখনও এই পথে অনেক দূরে স্থানান্তরিত হয়, কখনও কখনও সেভাবে খুব দূরে স্থানান্তরিত হয়, কখনও কখনও খুব সহজেই এইভাবে স্কিচ করা হয়, কখনও কখনও সেভাবে খুব বেশি আঁকানো হয়) তবে গড়পড়তাভাবে এটি প্রকৃত বিতরণে একটি ভাল অনুমান করা হবে। একইভাবে, বুটস্ট্র্যাপ বিতরণ থেকে প্রাপ্ত আপনার অনিশ্চয়তার প্রাক্কলনটি কোনও বিশেষ ক্ষেত্রে বন্ধ থাকবে, তবে আবারও, গড়ে প্রায় (তারা প্রায়) সঠিক হবে।