বায়েসের প্রাক্কলনকারীটির কি সত্য প্যারামিটারটি পূর্বের সম্ভাব্য পার্থক্যের প্রয়োজন?

এই দার্শনিক প্রশ্ন একটি বিট হতে পারে, কিন্তু এখানে আমরা এখানে যান: সিদ্ধান্ত তত্ত্ব, একটি বায়েসের মূল্নির্ধারক ঝুঁকি জন্য পূর্বাধিকার বন্টন সম্মান সঙ্গে সংজ্ঞায়িত করা হয় উপর । $\hat\theta(x)$ $\theta\in\Theta$ $\pi$ $\Theta$

এখন, একদিকে জন্য সত্য তথ্য (অর্থাত "বিদ্যমান") উত্পন্ন আছে, অধীনে একটি সম্ভাব্য variate হতে হবে , যেমন আছে নন-জিরো সম্ভাবনা, নন-জিরো ঘনত্ব, ইত্যাদি .; অন্যদিকে, জানা যায়নি, অতএব পূর্বের পছন্দটি কীভাবে বেছে নেওয়া হয়েছে, তাই আমাদের কোনও গ্যারান্টি নেই যে সত্য থিতাটি আমরা যে বেছে নিয়েছি তার একটি সম্ভাব্য বৈচিত্র vari $\theta$ $\theta$ $\pi$ $\theta$ $\theta$ $\pi$

এখন, এটা আমার কাছে মনে হচ্ছে যে আমরা একরকম নির্বাচন করতে হবে যেমন যে একটি সম্ভাব্য variate হবে। অন্যথায়, কিছু নির্দিষ্ট উপপাদ্য ধারণ করবে না। উদাহরণস্বরূপ, মিনিমেক্স অনুমানটি বেইস প্রাক্কলনটি কমপক্ষে অনুকূল পূর্বের হিসাবে বিবেচিত হবে না, যেহেতু আমরা চারপাশের একটি বৃহত অঞ্চলকে বাদ দিয়ে এবং এর ডোমেইন থেকে অন্তর্ভুক্ত করে সেই প্রাকৃতিকভাবে খারাপ করতে পারি । যাইহোক, নিশ্চয়তা যে হয় প্রকৃতপক্ষে ডোমেইনে অর্জন করা কঠিন হতে পারে। $\pi$ $\theta$ $\theta$ $\theta$

সুতরাং আমার প্রশ্নগুলি হ'ল:

এটি কি সাধারণত ধরে নেওয়া হয় যে আসল থিতাটি এর সম্ভাব্য বৈচিত্র ? $\theta$ $\pi$
এটি কি নিশ্চিত হতে পারে?
এটি লঙ্ঘনকারী কেসগুলি অন্ততপক্ষে কোনওভাবে সনাক্ত করা যায়, সুতরাং যখন কেউ শর্তগুলি ধরে না রাখে তখন মিনিম্যাক্সের মতো উপপাদ্যের উপর নির্ভর করে না?
যদি এটির প্রয়োজন হয় না, তবে সিদ্ধান্ত তত্ত্বের মানক ফলাফল কেন তখন ধরে?

— user32849
সূত্র

উত্তর:

খুব সুন্দর প্রশ্ন! এটি প্রকৃতপক্ষে বোঝা যাবে যে "ভাল" পূর্ববর্তী বিতরণ "সত্য" পরামিতিটিকে ইতিবাচক সম্ভাবনা বা ধনাত্মক ঘনত্বের মান দেয় $\theta_0$ , তবে খাঁটি সিদ্ধান্তগত দৃষ্টিকোণ থেকে এটি হওয়ার দরকার নেই। এই "অন্তর্দৃষ্টি" একটি সহজ পাল্টা উদাহরণ

π (θ_{0}) > 0

$\pi(\theta_0)>0$ যখন প্রয়োজন হবে

π (\cdot)

$\pi(\cdot)$ পূর্ব ঘনত্ব এবং

θ_{0}

$\theta_0$ প্যারামিটারের "সত্য" মানটি হ'ল কেসেলা এবং স্ট্র্যাডারম্যান (1981) এর উজ্জ্বল ক্ষুদ্রতম ফলাফল : যখন কোনও সাধারণ গড় অনুমান করা হয়

μ

$\mu$ একক পর্যবেক্ষণ ভিত্তিক

x \sim N (μ, 1)

$x\sim{\cal N}(\mu,1)$ অতিরিক্ত বাধা যে

| μ | < ρ

$|\mu|<\rho$ , যদি

ρ

$\rho$ যথেষ্ট ছোট,

ρ \leq 1.0567

$\rho\le 1.0567$ বিশেষত, মিনিম্যাক্সের প্রাক্কলনকারী এর আগে (কমপক্ষে অনুকূল) ইউনিফর্মের সাথে মিল রাখে

{- ρ, ρ}

$\{-\rho,\rho\}$ , মানে কি

π

$\pi$ সমান ওজন দেয়

- ρ

$-\rho$ এবং

ρ

$\rho$ (এবং এর অর্থের কোনও মূল্য নেই

μ

$\mu$ )

π (θ) = \frac{1}{2} δ_{- ρ} (θ) + \frac{1}{2} δ_{ρ} (θ)

$\pi(\theta)=\frac{1}{2}\delta_{-\rho}(\theta)+ \frac{1}{2}\delta_{\rho}(\theta)$ কখন

ρ

$\rho$ কমপক্ষে অনুকূল অগ্রগতি বৃদ্ধি করে এর সমর্থনটি বাড়তে দেখায়, তবে সম্ভাব্য মানগুলির একটি সীমাবদ্ধ সেট বাকি থাকে। তবে উত্তরোত্তর প্রত্যাশা,

E [μ | x]

$\mathbb{E}[\mu|x]$ , কোনও মান নিতে পারে

(- ρ, ρ)

$(-\rho,\rho)$ ।

আলোচনার মূল বক্তব্য (মন্তব্যগুলি দেখুন) হতে পারে যে, বেইস অনুমানকারীকে সমর্থন করার ক্ষেত্রে বিন্দু হতে বাধ্য করা হয়েছিল? $\pi(\cdot)$ , এর বৈশিষ্ট্যগুলি বেশ আলাদা হবে।

একইভাবে, গ্রহণযোগ্য অনুমানকারীদের বিবেচনা করার সময়, একটি কমপ্যাক্ট সেটটিতে যথাযথ পূর্বের সাথে যুক্ত বেয়েস অনুমানকারীরা সাধারণত গ্রহণযোগ্য হয়, যদিও তাদের একটি সীমাবদ্ধ সমর্থন রয়েছে।

উভয় ক্ষেত্রেই, ঘন ঘন ধারণা (সংক্ষিপ্ততা বা গ্রহণযোগ্যতা) প্যারামিটারের সম্ভাব্য পরিসীমাটির তুলনায় সংজ্ঞায়িত করা হয় বরং পরামিতিটির "সত্য" মান অনুসারে (যা প্রশ্নের 4 এর উত্তর নিয়ে আসে) উদাহরণস্বরূপ, উত্তরোত্তর ঝুঁকির দিকে তাকানো

\int_{Θ} L (θ, δ) π (θ | x) d θ

$\int_\Theta L(\theta,\delta) \pi(\theta|x)\text{d}\theta$ বা বেইস ঝুঁকি নিয়ে

\int_{X} \int_{Θ} L (θ, δ) π (θ) f (x | θ) d θ d x

$\int_{\cal X}\int_\Theta L(\theta,\delta) \pi(\theta)f(x|\theta)\text{d}\theta\text{d}x$ সত্য মান জড়িত না

θ_{0}

$\theta_0$ ।

তদুপরি, উপরোক্ত উদাহরণে উল্লিখিত হিসাবে, যখন বাইস অনুমানকটি যখন উত্তরীয় গড় হিসাবে একটি আনুষ্ঠানিক প্রকাশ দ্বারা সংজ্ঞায়িত করা হয়

{\hat{θ}}^{π} (x) = \int_{Θ} θ π (θ | x) d θ

$\hat{\theta}^\pi(x)=\int_\Theta \theta\pi(\theta|x)\text{d}\theta$ চতুর্ভুজটির জন্য (বা

L_{2}

$L_2$ ) ক্ষতি, এই অনুমানকারীটির সমর্থনের বাইরে মানগুলি নিতে পারে

π

$\pi$ ক্ষেত্রে এই সমর্থন উত্তল নয়।

একপাশে হিসাবে, পড়া যখন

সত্য θ ডেটা উত্পন্ন করার জন্য (যেমন "বিদ্যমান"), θ অবশ্যই π এর নীচে একটি সম্ভাব্য প্রকরণ হতে হবে, উদাহরণস্বরূপ শূন্যহীন সম্ভাবনা, শূন্য-নন ঘনত্ব থাকতে হবে

আমি এটিকে পূর্বের অর্থের ভুল ব্যাখ্যা বলে বিবেচনা করি। পূর্ববর্তী বিতরণটি কোনও প্রকৃত শারীরিক (বা বাস্তব) প্রক্রিয়াটির পক্ষে দাঁড়ানোর কথা নয় যা কোনও প্যারামিটারের মান দেখেছিল $\theta_0$ থেকে উত্পন্ন $\pi$ একটি পর্যবেক্ষণ অনুসরণ করে $x$ থেকে উত্পন্ন $f(x|\theta_0)$ । পূর্ববর্তী হ'ল প্যারামিটার স্পেসের একটি রেফারেন্স মাপ যা প্যারামিটার সম্পর্কে পূর্বের তথ্য এবং বিষয়গত বিশ্বাসকে অন্তর্ভুক্ত করে এবং এটি কোনওভাবেই অনন্য নয়। এই বায়েশীয় বিশ্লেষণ পরিচালনা করার জন্য বায়েশীয় বিশ্লেষণ সর্বদা পূর্বনির্ধারিতের সাথে তুলনামূলক। অতএব, প্রকৃত প্যারামিটারের সমর্থনের সাথে সম্পর্কিত কোনও অপরিহার্য প্রয়োজনীয়তা নেই $\pi$ । স্পষ্টতই, যখন এই সমর্থনটি একটি কমপ্যাক্ট সংযুক্ত সেট হয়, ${\mathscr A}$ , সেটের বাইরে প্যারামিটারের কোনও মান ${\mathscr A}$ উত্তর মধ্য দিয়ে ধারাবাহিকভাবে অনুমান করা যায় না $\hat{\theta}^\pi$ তবে এটি অনুমানকারীকে গ্রহণযোগ্য হতে বাধা দেয় না।

— সিয়ান
সূত্র

আপনার শেষ পয়েন্টটি সম্পর্কে, এটিই আমাকে বিভ্রান্ত করে: বলুন আমার কিছু সাধারণ বিতরণ আছে have

μ

$\mu$ কিছু যথেষ্ট ছোট নেতিবাচক সংখ্যা হচ্ছে। যদি কোনও অদ্ভুত কারণে আমি একটি লগ-স্বাভাবিক পূর্বে রাখি (সমর্থন)

[0, + \infty)

$[0,+\infty)$ ) চালু

μ

$\mu$ (তা কতটুকু জ্ঞানহীন তা বিবেচনা না করে), এই জাতীয় পূর্বের অধীনে একজন বয়েস অনুমানক অবশ্যই মিনিম্যাক্স অনুমানের চেয়ে খারাপ হবে, যা হওয়ার কথা নয়। তবে সম্ভবত আমি এখানে কিছু ভুল ব্যাখ্যা করছি ...

— ব্যবহারকারীর 32849

সাধারণত সিএফ বার্জার (1985), কমপক্ষে অনুকূল পূর্বে মিনিম্যাক্স ঝুঁকির সাথে মিলে যায়।

— শি'আন

আমি এখানে সত্যিই বিভ্রান্ত হয়ে পড়েছি: আপনার বইটি (দ্বিতীয় অধ্যায়) মনে হয়েছে

θ \sim π (θ)

$\theta \sim \pi(\theta)$ , এবং বিশেষত, উপপাদ্য ২.৪.১7 এ,

Θ = [- m, m]

$\Theta=[-m, m]$ , যেখানে সর্বনিম্ন অনুকূল পূর্ব হ'ল আলাদা বিতরণ

Θ

$\Theta$ । তবে আমার ধারণা আমি পৃষ্ঠা 10 আরও সাবধানে পড়া উচিত ছিল ;-)

— ব্যবহারকারী 32849

সংহত ঝুঁকি কোনও পর্যায়ে "সত্য" পরামিতি জড়িত না। সুতরাং এই অর্থে এটি কোনও বিষয় নয়।

— শি'য়ান

সুতরাং, এক অর্থে, ঝুঁকিটি আমরা যে ক্ষতিটি প্রত্যাশা করি তা ক্যাপচার করে, আমরা আসলে অভিজ্ঞতা লাভ করি না। এটি মারাত্মক সহায়ক হয়েছে, আপনাকে অনেক ধন্যবাদ!

— ব্যবহারকারী 32849

হ্যাঁ, সাধারণত এটি সত্য বলে ধরে নেওয়া হয় $\theta$ পূর্বের ডোমেইনে হয়। এই ঘটনাটি দেখার বিষয়টি পরিসংখ্যানবিদদের দায়িত্ব।
সাধারণত, হ্যাঁ উদাহরণস্বরূপ, কোনও গড় বা অবস্থানের পরামিতি অনুমান করার সময়, কোনও পূর্বে $(-\infty, \infty)$ এর ডোমেনে সত্যিকারের মান থাকবে। (যদি প্যারামিটারটি শূন্যের চেয়ে বড় হিসাবে পরিচিত হয়, উদাহরণস্বরূপ, "বে ব্রিজের উপরে প্রতিদিন ট্র্যাফিক দুর্ঘটনার সংখ্যা", পূর্বেরগুলিতে অবশ্যই নেতিবাচক মানগুলি অন্তর্ভুক্ত করার দরকার নেই,) যদি আমরা কোনও সম্ভাবনা অনুমান করি তবে যে কোনও আগে $[0,1]$ এর ডোমেনে সত্যিকারের মান থাকবে। যদি আমরা কোনও বৈকল্পিক শর্তে কোনও পূর্ব নির্মান করি, তবে কোনও পূর্বে $(0, \infty)$ এর ডোমেনে সত্যিকারের মান থাকবে ... ইত্যাদি।
যদি পূর্ববর্তী ডোমেনের এক প্রান্তে আপনার পোস্টেরিয়রটি "স্ট্যাক আপ" হয় এবং আপনার পূর্ববর্তীটি একই প্রান্তে ডোমেনের উপর একটি অপ্রয়োজনীয় বাধা আরোপ করে, তবে এটি একটি অ্যাড-হক সূচক যে অপ্রয়োজনীয় বাধা আপনাকে সমস্যার কারণ হতে পারে। তবে এটি কেবল তখনই ঘটতে পারে যদি ক) আপনি এমন কোনও পূর্বনির্মাণ তৈরি করেছেন যার ফর্মটি প্রকৃত পূর্ব জ্ঞানের পরিবর্তে সুবিধার দ্বারা মূলত চালিত হয়, এবং খ) পূর্বের সুবিধামত-প্ররোচিত রূপটি প্যারামিটারের ডোমেনটিকে তার উপসেটে সীমিত করে দেয় " প্রাকৃতিক "ডোমেন হিসাবে বিবেচনা করা যেতে পারে।

এর একটি উদাহরণ হ'ল একটি পুরানো, আশাবাদী দীর্ঘ অপ্রচলিত, সম্ভাব্য গণনাগত অসুবিধা এড়াতে শূন্য থেকে কিছুটা দূরে বৈকল্পিক শর্তে পূর্বের আবদ্ধ করার অনুশীলন। যদি ভেরিয়েন্সের আসল মান বাউন্ড এবং শূন্যের মধ্যে হয় তবে ভাল ... তবে প্রকৃতপক্ষে তথ্য প্রদত্ত ভেরিয়েন্সের সম্ভাব্য মানগুলি সম্পর্কে চিন্তা করা, বা (উদাহরণস্বরূপ) পরিবর্তনের লগের উপর পূর্ববর্তী স্থাপনের অনুমতি দিবে আপনার এই সমস্যা এড়াতে এবং অনুরূপ হালকা চালাকি আপনাকে সাধারণভাবে ডোমেন-সীমাবদ্ধ প্রিজনগুলি এড়াতে দেয়।

# 1 দ্বারা উত্তর।

— jbowman
সূত্র

অফ-সুযোগে যে যে কেউ উত্তরটি হ্রাস করেছে সেগুলি ফিরে আসে - কেন "দরকারী নয়"?

— jboman

সহজ, স্বজ্ঞাত উত্তর যে পূর্বে সম্পর্কে আপনার পূর্বে জ্ঞান প্রতিফলিত $\theta$ এবং আপনার ন্যূনতম জ্ঞান থাকা উচিত এটি এর ডোমেন সম্পর্কে। আপনি যদি আগে আবদ্ধ ব্যবহার করেন, তবে আপনি ধরে নিতে পারেন যে সীমার বাইরের মানগুলির শূন্যতার সম্ভাবনা রয়েছে, অসম্ভব এবং এটি একটি খুব দৃum় ধারণা যা ভাল যুক্তি ছাড়াই তৈরি করা উচিত নয়। এই কারণেই যে লোকেরা দৃ prior় পূর্ব অনুমানগুলি তৈরি করতে চায় না, তারা অস্পষ্ট প্রবীণদের ব্যবহার করে $-\infty$ প্রতি $\infty$ ।

সীমাবদ্ধ কেস ছাড়াও, যখন আপনার নমুনা বৃদ্ধি পায়, বা আরও সঠিকভাবে আরও তথ্য সরবরাহ করে, আপনার উত্তরোত্তর শেষ পর্যন্ত রূপান্তরিত হওয়া উচিত $\theta$ পূর্বের বিষয় না ।

— টিম
সূত্র