বয়েসিয়ান বিশ্বাসযোগ্য অন্তর প্রক্রিয়াগুলির জন্য সিদ্ধান্ত-তাত্ত্বিক সমর্থন কি?

Question

(আমি এটি কেন লিখেছি তা দেখতে, এই প্রশ্নের আমার উত্তরের নীচে দেওয়া মন্তব্যগুলি দেখুন ))

তৃতীয় ত্রুটি এবং পরিসংখ্যানগত সিদ্ধান্ত তত্ত্ব টাইপ করুন

ভুল প্রশ্নের সঠিক উত্তর প্রদানকে কখনও কখনও টাইপ তৃতীয় ত্রুটি বলা হয়। পরিসংখ্যানগত সিদ্ধান্ত তত্ত্বটি অনিশ্চয়তার অধীনে সিদ্ধান্ত গ্রহণের আনুষ্ঠানিককরণ; এটি এমন একটি ধারণাগত কাঠামো সরবরাহ করে যা তৃতীয় ত্রুটির ত্রুটি এড়াতে সহায়তা করতে পারে। কাঠামোর মূল উপাদানটিকে ক্ষতি ফাংশন বলে । এটি দুটি আর্গুমেন্ট লাগে: প্রথমটি হ'ল (এর প্রাসঙ্গিক উপসেট) বিশ্বের সত্যিকারের অবস্থা (যেমন, প্যারামিটার অনুমানের সমস্যায়, সত্য প্যারামিটারের মান value ); দ্বিতীয়টি সম্ভাব্য ক্রিয়াকলাপগুলির সেটের একটি উপাদান (যেমন, প্যারামিটার অনুমানের সমস্যায়, অনুমানθ$\theta$$\hat{\theta})$। আউটপুট মডেলগুলি বিশ্বের প্রতিটি সম্ভাব্য সত্য রাষ্ট্রের প্রতি শ্রদ্ধা সহ প্রতিটি সম্ভাব্য ক্রিয়াটির সাথে যুক্ত ক্ষতি models উদাহরণস্বরূপ, প্যারামিটার অনুমানের সমস্যায়, কিছু ক্ষতিগ্রস্ত ফাংশনগুলি হ'ল:

• পরম ত্রুটির ক্ষতি$L(\theta, \hat{\theta}) = |\theta - \hat{\theta}|$
• স্কোয়ার ত্রুটির ক্ষতি$L(\theta, \hat{\theta}) = (\theta - \hat{\theta})^2$
• হাল ভেরিয়ানের লিনএক্স ক্ষতি $L(\theta, \hat{\theta}; k) = \exp(k(\theta - \hat{\theta})) - k(\theta - \hat{\theta}) - 1,\text{ } k \ne0$

প্রশ্নের সন্ধানের উত্তর পরীক্ষা করা হচ্ছে

এমন একটি মামলা রয়েছে যার ফলে এই ধরণের তৃতীয় ত্রুটিগুলি সঠিক ক্ষতির ফাংশন গঠনের দিকে মনোনিবেশ করে এবং সিদ্ধান্ত-তাত্ত্বিক পদ্ধতির বাকী অংশটি (এখানে বিস্তারিত নয়) চালিয়ে যাওয়ার উপর দৃষ্টি নিবদ্ধ করে এড়ানো যায়। এটি আমার সংক্ষিপ্ত নয় - সর্বোপরি, পরিসংখ্যানবিদরা অনেক কৌশল এবং পদ্ধতিতে ভালভাবে সজ্জিত হন যদিও তারা এ জাতীয় দৃষ্টিভঙ্গি থেকে উদ্ভূত না হলেও সঠিকভাবে কাজ করে। তবে শেষের ফলাফলটি আমার কাছে মনে হয়, এটি হল যে পরিসংখ্যানবিদদের সংখ্যাগরিষ্ঠরা পরিসংখ্যানগত সিদ্ধান্ত তত্ত্ব সম্পর্কে জানেন না এবং তাদের যত্ন নেন না এবং আমি মনে করি তারা বাদ পাচ্ছেন। এই পরিসংখ্যানবিদদের কাছে, আমি যুক্তি দেব যে তৃতীয় ত্রুটি টাইপ এড়ানোর ক্ষেত্রে তারা পরিসংখ্যানগত সিদ্ধান্ত তত্ত্বকে মূল্যবান বলে মনে করতে পারে কারণ এটি কোনও কাঠামো সরবরাহ করে যাতে কোনও প্রস্তাবিত ডেটা বিশ্লেষণ পদ্ধতি জিজ্ঞাসা করতে পারে:কোন ক্ষতির ফাংশন (যদি থাকে) পদ্ধতিটি সর্বোত্তমভাবে মোকাবেলা করে? এটি হ'ল, কোন সিদ্ধান্ত গ্রহণের পরিস্থিতিতে ঠিক কী এটি সর্বোত্তম উত্তর দেয়?

উত্তরোত্তর প্রত্যাশিত ক্ষতি

বায়েশিয়ান দৃষ্টিকোণ থেকে ক্ষতির ফাংশনটি আমাদের কেবল প্রয়োজন। আমরা প্রায় কাছাকাছি সিদ্ধান্ত তত্ত্ব বাকি এড়িয়ে যেতে পারেন - প্রায় সংজ্ঞা দ্বারা, কি ভাল জিনিস কমান অবর ক্ষতি প্রত্যাশিত হয়, যে, কর্ম এটি $a$ যে ছোট $\tilde{L}(a) = \int_{\Theta}L(\theta, a)p(\theta|D)d\theta$ ।

? বিশেষভাবে, Wald, এর - (এবং নন-Bayesian দৃষ্টিকোণ ওয়েল ব্যাপার-সেটি ছিল frequentist সিদ্ধান্ত তত্ত্বটির উপপাদ্য সম্পূর্ণ ক্লাস উপপাদ্য - যে অনুকূল কর্ম সবসময় হবে Bayesian অবর প্রত্যাশিত ক্ষয় কমান থেকে সম্মান সঙ্গে কিছু (সম্ভবত অনুচিত) পূর্ববর্তী। এই ফলাফলের সাথে অসুবিধাটি হ'ল এটি একটি অস্তিত্বের উপপাদ্যটি কোনটি আগে ব্যবহার করতে হবে সে সম্পর্কে কোনও দিকনির্দেশনা দেয় না But তবে এটি ফলস্বরূপ পদ্ধতিগুলির শ্রেণিবদ্ধিকে সীমাবদ্ধ করে দেয় যা আমরা "উল্টে" পারি ঠিক কোনটি প্রশ্নটি তা আমরা খুঁজে বের করতে পারি we're উত্তর দেওয়ার জন্য। বিশেষত, কোনও বে-বায়িশিয়ান পদ্ধতি উল্টানোর প্রথম পদক্ষেপটি কোন (যদি থাকে) কোন বায়েশিয়ান পদ্ধতিটি এর প্রতিরূপ বা আনুমানিক হয় তা বের করা figure)

আরে সায়ান, আপনি কি জানেন এটি একটি প্রশ্নোত্তর সাইট, তাই না?

যা আমাকে - পরিশেষে - একটি পরিসংখ্যানগত প্রশ্নে নিয়ে আসে। বায়েশিয়ান পরিসংখ্যানগুলিতে, অবিভাজনিত প্যারামিটারগুলির জন্য অন্তর্বর্তী প্রাক্কলন সরবরাহ করার সময়, দুটি সাধারণ বিশ্বাসযোগ্য অন্তর্বর্তী প্রক্রিয়া হ'ল কোয়ান্টাইল ভিত্তিক বিশ্বাসযোগ্য ইন্টারভাল এবং সর্বোচ্চ উত্তরোত্তর ঘনত্বের বিশ্বাসযোগ্য ব্যবধান। এই পদ্ধতির পিছনে ক্ষতির কাজগুলি কী কী?

Comments

খুব সুন্দর. কিন্তু এই পদ্ধতিগুলি ন্যায্যতা দেওয়াই কি কেবল ক্ষতির কাজ?

— অতিথি 5

@ সায়ান >> আমার কাছে প্রশ্ন জিজ্ঞাসা এবং উত্তর দেওয়ার জন্য ধন্যবাদ :) আমি এই সমস্তটি পড়ব এবং যখনই সম্ভব সম্ভব হবে v

— স্টাফেন লরেন্ট

বার্গারের পরিসংখ্যানগত সিদ্ধান্ত তত্ত্ব এবং বায়সীয় বিশ্লেষণের আকর্ষণীয় উক্তি : "আমরা বিশ্বাসযোগ্য সেটগুলি একটি সুস্পষ্ট সিদ্ধান্ত-তাত্ত্বিক ভূমিকা হিসাবে দেখি না, এবং তাই বিশ্বাসযোগ্য সেট নির্বাচনের জন্য 'অনুকূলতা" পদ্ধতির উদ্দীপনা পাই "

— সাইমন বাইর্ন

@ সিমোন বাইর্ন >> 1985 অনেক আগে ছিল; আমি এখনও অবাক হয়ে দেখি সে যদি তাই করে।

— সায়ান

@ সায়ান: আমি জানি না, তবে সিদ্ধান্ত তত্ত্বটি বাইশিয়ান পরিসংখ্যানগুলির একটি অংশ যা গত ২ 27 বছরে খুব বেশি পরিবর্তন হয়নি (কয়েকটি আকর্ষণীয় ফলাফল এসেছে, তবে বার্জারের বইটি এখনও স্ট্যান্ডার্ড রেফারেন্স) যখন জনপ্রিয়তার সাথে তুলনা করা হয় ঘনত্ববাদী পরিসংখ্যানগুলিতে মিনিম্যাক্স ফলাফল।

— সাইমন বাইর্ন

Answer 1

অবিচ্ছিন্ন ব্যবধানের অনুমানে, সম্ভাব্য ক্রিয়াকলাপগুলি হ'ল ব্যবধানের সমাপ্তিগুলি নির্দিষ্ট করে অর্ডার করা জোড়গুলির সেট। সেই সেটটির একটি উপাদান ।$(a, b),\text{ } a \le b$

সর্বাধিক উত্তরোত্তর ঘনত্বের অন্তর

উত্তর ঘনত্বটি । সর্বাধিক উত্তর ঘনত্বের অন্তরগুলি ক্ষতির ফাংশনের সাথে সঙ্গতিপূর্ণ যা একটি বিরতি যা সত্য মান রাখতে ব্যর্থ হয় এবং তাদের দৈর্ঘ্যের অনুপাতে অন্তরগুলিকেও দন্ড দেয়:$f(\theta)$

$L_{HPD}(\theta, (a, b); k) = I(\theta \notin [a, b]) + k(b – a), \text{} 0 < k \le max_{\theta} f(\theta)$ ,

যেখানে হ'ল সূচক ফাংশন । এটি প্রত্যাশিত উত্তর ক্ষতি দেয় gives$I(\cdot)$

$\tilde{L}_{HPD}((a, b); k) = 1 - \Pr(a \le \theta \le b|D) + k(b – a)$ ।

সেট একটি জন্য উৎপাদনের প্রয়োজনীয় শর্ত প্যারামিটার জায়গার অভ্যন্তরে স্থানীয় সর্বোত্তম: - ঠিক যেমন আশা করা হয়েছিল এইচপিডি অন্তরগুলির জন্য নিয়ম।f(a)=f(b)=$\frac{\partial}{\partial a}\tilde{L}_{HPD} = \frac{\partial}{\partial b}\tilde{L}_{HPD} = 0$$f(a) = f(b) = k$

রূপটি কেন এইচপিডি অন্তরগুলি প্যারামিটারের একঘেয়ে বর্ধমান রূপান্তর অবিচ্ছিন্ন নয় সে সম্পর্কে কিছুটা অন্তর্দৃষ্টি দেয় । -space HPD ব্যবধান রুপান্তরিত স্থান থেকে ভিন্ন -space HPD ব্যবধান কারণ দুই অন্তর বিভিন্ন ক্ষতির ফাংশন মিলা: -space HPD ব্যবধান অনুরূপ একটি রূপান্তরিত দৈর্ঘ্যের জরিমানা ।ছ(θ)θছ(θ)ছ(θ)ছ(θ)ট(ছ(খ)-ছ(একটি)$\tilde{L}_{HPD}((a, b); k)$$g(\theta)$$\theta$$g(\theta)$$g(\theta)$$g(\theta)$$k(g(b) – g(a))$

কোয়ান্টাইল ভিত্তিক বিশ্বাসযোগ্য ব্যবধান

ক্ষতি ফাংশন সহ পয়েন্ট অনুমান বিবেচনা করুন

$L_q(\theta, \hat{\theta};p) = p(\hat{\theta} - \theta)I(\theta < \hat{\theta}) + (1-p)(\theta - \hat{\theta})I(\theta \ge \hat{\theta}), \text{ } 0 \le p \le 1$ ।

উত্তর প্রত্যাশিত ক্ষতি হয়

$\tilde{L}_q(\hat{\theta};p)=p(\hat{\theta}-\text{E}(\theta|\theta < \hat{\theta}, D)) + (1 - p)(\text{E}(\theta | \theta \ge \hat{\theta}, D)-\hat{\theta})$ ।

সেট উৎপাদনের অন্তর্নিহিত সমীকরণ$\frac{d}{d\hat{\theta}}\tilde{L}_q=0$

$\Pr(\theta < \hat{\theta}|D) = p$ ,

যে অনুকূল হয় অবর বিতরণের% সমাংশক, প্রত্যাশিত হিসাবে। (100P$\hat{\theta}$$(100p)$

কোয়ান্টাইল ভিত্তিক অন্তর অন্তর অনুমান পেতে, ক্ষতি ফাংশন

$L_{qCI}(\theta, (a,b); p_L, p_U) = L_q(\theta, a;p_L) + L_q(\theta, b;p_U)$ ।

Comments

এটি অনুপ্রেরণার আরেকটি উপায় হ'ল অন্তরালের প্রস্থের দৈর্ঘ্যের প্লাসের দূরত্বের (ওজনযুক্ত) যোগফল হিসাবে কোনও হ'ল ফাংশনটি পুনরায় লিখতে হবে, যদি কোনও হয়, যার মাধ্যমে অন্তরটি সত্য আবরণে ব্যর্থ হয় । $\theta$

— অতিথি 5

কোয়ান্টাইল ভিত্তিক অন্তরগুলি সম্পর্কে ভাবার কী অন্য কোনও উপায় রয়েছে যা কোয়ান্টাইলগুলি সরাসরি বা বিরতির দৈর্ঘ্যের উল্লেখ করে না? আমি "কোয়ান্টাইল অন্তর গড় / ন্যূনতম / সর্বোচ্চ / ইত্যাদি

— কোনও

@ রাসমসবাথ, আপনি মূলত জিজ্ঞাসা করছেন, "কোয়ান্টাইল অন্তরালের জন্য ক্ষতির প্রত্যাশিত ক্ষতির ক্ষয়ক্ষতির সমাধান হওয়ার জন্য ক্ষতির ফাংশনের প্রয়োজনীয় শর্তগুলি কী?" আমার অন্তর্নিহিততা, গণিতটি যেভাবে সামনের দিকের দিকে কাজ করে, কেবল এটি থেকেই এটি বেশ কার্যকর। যদিও এটি প্রমাণিত হয়নি।

— সায়ান

সুতরাং আমি ক্ষতির ফাংশন সম্পর্কে নিশ্চিত নই, তবে আমি এমন একটি পদ্ধতি সম্পর্কে জানি যা পয়েন্ট লস ফাংশন উপর নির্ভর করে এইচপিডি বা কোয়ান্টাইল ইন্টারভাল হয়। মনে করুন আপনি র্যান্ডম নমুনা আছে অবর থেকে আঁকা। 1. বিন্দু বেছে নিন সর্বনিম্ন অবর ক্ষতি সঙ্গে এবং আপনার ব্যবধান যে বিন্দু যোগ করুন। 2. সরান থেকে বিন্দু , এই অপসারণ কারণে অবশিষ্ট পয়েন্টের জন্য অবর ক্ষতি এখন পরিবর্তন করুন (তার উপর নির্ভর করে পারে )। ৩. যদি আপনার বিরতিতে প্রয়োজনীয় কাভারেজ থাকে তবে খুশি হন, অন্যথায় (1) থেকে পুনরাবৃত্তি করুন। এল = এল0 এইচপিডি দেয়, এল = এল 1 কোয়ান্টাইল ইন্টারভেল দেয়। গুলি গুলি গুলি গুলি $L$$s$$s$$s$$s$$L$

— রাসমুস বুথ

শুধু উল্লেখ যে ধারা 5.5.3 Bayesian চয়েস বিশ্বাসযোগ্য সেট হারানোর ভিত্তিক শিক্ষাদীক্ষা জুড়ে ...

— সিয়ান

Answer 2

ন্যূনতম আকারের বিরতি

ব্যবধান নির্বাচনের জন্য ক্ষতির ক্রিয়াকলাপের একটি সুস্পষ্ট পছন্দ (উভয় বেইশিয়ান এবং ঘনঘনবাদী) হ'ল প্রান্তিক বিতরণের ক্ষেত্রে পরিমিত হিসাবে ব্যবধানগুলির আকার ব্যবহার করা। সুতরাং, পছন্দসই সম্পত্তি বা ক্ষতি ফাংশন দিয়ে শুরু করুন, এবং সর্বোত্তম অন্তরগুলি প্রাপ্ত করুন। এটি করা সম্ভব হয় না, যেমনটি বর্তমান প্রশ্ন দ্বারা উদাহরণস্বরূপ, এটি সম্ভব হলেও। বায়সিয়ান বিশ্বাসযোগ্য সেটগুলির জন্য, এটি অন্তরটির পূর্ব সম্ভাবনা হ্রাস করার সাথে সম্পর্কিত করে বা আপেক্ষিক বিশ্বাসকে সর্বাধিক করে তুলতে, যেমন, ইভান্স (২০১ 2016) তে বর্ণিত রূপ হিসাবে। আকারটি ঘন ঘন আত্মবিশ্বাসের সেটগুলি বাছাই করতে ব্যবহৃত হতে পারে (শেফার ২০০৯)। দুটি পদ্ধতির সাথে সম্পর্কিত এবং সিদ্ধান্ত বিধিগুলির মাধ্যমে মোটামুটি সহজেই প্রয়োগ করা যেতে পারে যেগুলি বৃহত্তর পয়েন্টওয়াইজ মিউচুয়াল তথ্য (বার্টেল 2017) সহ অগ্রাধিকারমূলক সিদ্ধান্তগুলি অন্তর্ভুক্ত করে।

বারটেলস, সি।, 2017। ঘন ঘন পরীক্ষাগুলিতে পূর্ববর্তী জ্ঞান ব্যবহার করা। figshare। https://doi.org/10.6084/m9.figshare.4819597.v3

ইভান্স, এম।, 2016. আপেক্ষিক বিশ্বাস ব্যবহার করে পরিসংখ্যানগত প্রমাণ পরিমাপ করা। গণনামূলক এবং কাঠামোগত জৈব প্রযুক্তি জার্নাল, 14, পিপি 91-96।

স্ক্যাফার, সিএম এবং স্টার্ক, পিবি, ২০০৯ op অনুকূল প্রত্যাশিত আকারের আত্মবিশ্বাসের অঞ্চল তৈরি করা। আমেরিকান স্ট্যাটিস্টিকাল অ্যাসোসিয়েশন জার্নাল, 104 (487), পিপি 1080-1089।

Comments

আমি দেখছি আপনি কিথ ও'রউর্ক এর পরামর্শ অনুসারে ইভান্স উদ্ধৃত করছেন ( andrewgelman.com/2016/07/17/… )। আমি সত্যিই ইভান্স এর জিনিস পছন্দ করি।

— সায়ান

আমি কীথের দ্বারা কাজ সম্পর্কে বিভিন্নভাবে শুরু হয়ে একইরকম সিদ্ধান্তে শেষ হওয়ার পরে অবহিত হয়েছি! এটি উদ্ধৃত করা গুরুত্বপূর্ণ।

— ব্যবহারকারী36160