পূর্বের উদাহরণ, যা জেফরির মতো নয়, এমন একটি উত্তরোত্তর দিকে নিয়ে যায় যা অচেনা নয়

Question

আমি কয়েক সপ্তাহ আগে এখানে যে প্রশ্নের উত্তর দিয়েছিলাম তার একটি "উত্তর" পোস্ট করছি: কেন আগে দরকারী? যদিও এটি সত্যই একটি প্রশ্ন ছিল (এবং আমার কাছে তখন মন্তব্য পোস্ট করার অধিকারও ছিল না) তবে আমি আশা করি এটি করা ঠিক হবে:

উপরের লিঙ্কে এটি নিয়ে আলোচনা করা হয়েছে যে জেফরির পূর্বের আকর্ষণীয় বৈশিষ্ট্যটি হ'ল, মডেলটির পুনরায় পরিমার্জন করার সময়, ফলস্বরূপ উত্তরোত্তর বিতরণটি উত্তরোত্তর সম্ভাবনা দেয় যা রূপান্তর দ্বারা আরোপিত নিষেধাজ্ঞাগুলি মেনে চলে। বলুন, সেখানে আলোচনা করা হয়েছে, যখন সাফল্য সম্ভাব্যতা থেকে সরানোর $\theta$ মতভেদ করতে বিটা-বের্নুলির উদাহরণে $\psi=\theta/(1-\theta)$ , এটা কেস হওয়া উচিত যে একটি অবর সন্তুষ্ট $P(1/3\leq\theta\leq 2/3\mid X=x)=P(1/2\leq\psi\leq 2\mid X=x)$ ।

আমি od প্রতিক্রিয়াতে $\theta$ রূপান্তর করার আগে জেফরির চালকের এক সংখ্যার উদাহরণ তৈরি করতে চেয়েছিলাম$\psi$ , এবং, আরো মজার ব্যাপার হচ্ছে, অন্যান্য গতকাল দেশের সর্বোচ্চ তাপমাত্রা (বলুন, হ্যালডেন, অভিন্ন, বা অবাধ বেশী) এর উহার অভাব।

এখন, যদি সাফল্যের সম্ভাবনার পশ্চাতটি বিটা হয় (কোনও বিটা পূর্বের জন্য, কেবল জেফ্রেই নয়) তবে প্রতিকূলতার পূর্ববর্তী একই পরামিতিগুলির সাথে দ্বিতীয় ধরণের (উইকিপিডিয়া দেখুন) বিটা বিতরণ অনুসরণ করে । তারপরে, নীচের সংখ্যাসূচক উদাহরণে যেমনটি হাইলাইট করা হয়েছে, এটি খুব অবাক হওয়ার মতো বিষয় নয় (কমপক্ষে আমার কাছে) যে বিটা পূর্বের যে কোনও পছন্দ ( alpha0_Uএবং এর সাথে চারপাশে খেলতে হবে beta0_U) কেবলমাত্র জেফ্রেই নয়, সিএফ-এর জন্য অদলবদল রয়েছে is প্রোগ্রাম আউটপুট।

library(GB2) 
# has the Beta density of the 2nd kind, the distribution of theta/(1-theta) if theta~Beta(alpha,beta)

theta_1 = 2/3 # a numerical example as in the above post
theta_2 = 1/3

odds_1 = theta_1/(1-theta_1) # the corresponding odds
odds_2 = theta_2/(1-theta_2)

n = 10 # some data
k = 4

alpha0_J = 1/2 # Jeffreys prior for the Beta-Bernoulli case
beta0_J = 1/2
alpha1_J = alpha0_J + k # the corresponding parameters of the posterior
beta1_J = beta0_J + n - k

alpha0_U = 0 # some other prior
beta0_U = 0
alpha1_U = alpha0_U + k # resulting posterior parameters for the other prior
beta1_U = beta0_U + n - k

# posterior probability that theta is between theta_1 and theta_2:
pbeta(theta_1,alpha1_J,beta1_J) - pbeta(theta_2,alpha1_J,beta1_J) 
# the same for the corresponding odds, based on the beta distribution of the second kind
pgb2(odds_1, 1, 1,alpha1_J,beta1_J) - pgb2(odds_2, 1, 1,alpha1_J,beta1_J) 

# same for the other prior and resulting posterior
pbeta(theta_1,alpha1_U,beta1_U) - pbeta(theta_2,alpha1_U,beta1_U)
pgb2(odds_1, 1, 1,alpha1_U,beta1_U) - pgb2(odds_2, 1, 1,alpha1_U,beta1_U)

এটি আমাকে নীচের প্রশ্নগুলিতে নিয়ে আসে:

1. আমি কি ভুল করি?
2. যদি না হয়, তবে বিবাহবিবাহের পরিবারগুলিতে অদম্যতার অভাব না থাকার মতো কোনও ফলাফল আছে, বা এরকম কিছু? (দ্রুত পরিদর্শন আমাকে সন্দেহের দিকে নিয়ে যায় যে আমি উদাহরণস্বরূপ স্বাভাবিক-স্বাভাবিক ক্ষেত্রেও চালচলনের অভাব তৈরি করতে পারি না))
3. আপনি যদি একটি (বিশেষ সাধারণ) উদাহরণস্বরূপ যা আমরা জানি না কি করতে invariance অভাব পেতে?

Comments

চালানের যাচাই করার জন্য আপনার আর কোড (যা আমি আর সংস্করণ 3.0.2 দিয়ে চালাতে পারি না) প্রয়োজন নেই কারণ এটি সম্ভাবনার সম্পত্তি। পূর্ববর্তী অদম্যতা বলতে যা বোঝায় তা হ'ল পূর্বনির্ধারণের জন্য একটি বিধি তৈরি করা যা স্যাম্পলিং মডেলের প্যারামিট্রেশন নির্বাচনের উপর নির্ভর করে না।

— শি'আন

আমি অসুবিধার জন্য দুঃখিত. এটি আমার কম্পিউটারে আর 3.1.2 দিয়ে চলেছে। আমি যদি ফলোআপ করতে পারি তবে আপনার মন্তব্যটি কি বোঝায় যে জেফরির পূর্বে দরকারী কেন স্টিফেন লরেন্টের গ্রহণযোগ্য উত্তর, আইটেম 1 এর জেনের মন্তব্যকে আমি ভুল বুঝেছিলাম ? ?

— ক্রিস্টোফ হ্যাঙ্ক

Answer 1

আপনার গণনাটি যাচাই করে দেখা যাচ্ছে যেহেতু যখন আমাদের একটি নির্দিষ্ট পূর্ববর্তী বিতরণ তখন নিম্নলিখিত দুটি পদ্ধতি থাকে$p(\theta)$

1. উত্তরোত্তর পি ute ∣ গণনা করুন ∣$p_{\theta \mid D}(\theta \mid D)$
2. প্রাপ্ত অন্যান্য parametrization মধ্যে উপরোক্ত অবর ট্রান্সফর্ম $p_{\psi \mid D}(\psi \mid D)$

এবং

1. পূর্বের কে অন্য প্যারামিট্রাইজেশনে পি ψ ( ψ ) পেতে রূপান্তর করুন$p_\theta(\theta)$$p_\psi(\psi)$
2. পূর্বে ব্যবহার , গনা অবর পি ψ | ডি ( ψ | ডি $p_\psi(\psi)$$p_{\psi \mid D}(\psi \mid D)$

জন্য একই অবর হতে । নিশ্চয় সবসময় (সতর্কীকরণ ঘটবে; যতদিন রূপান্তর যেমন হিসাবে যে উপর একটি বিতরণ ψ উপর একটি বিতরণ দ্বারা নির্ধারিত হয় $\psi$$\psi$$\theta$ )।

যাইহোক, এটি প্রশ্নে আক্রমণাত্মকতার বিন্দু নয়। পরিবর্তে, প্রশ্নটি হল, যখন আমাদের পূর্বের সিদ্ধান্ত নেওয়ার জন্য একটি বিশেষ পদ্ধতি থাকে, নিম্নলিখিত দুটি পদ্ধতি:

1. পদ্ধতি ব্যবহার এর আগে মনন ঠিক করার জন্য $p_\theta(\theta)$
2. সেই ডিস্ট্রিবিউশনটিকে পি ψ ( ψ ) এ রূপান্তর করুন$p_\psi(\psi)$

এবং

1. পদ্ধতি ব্যবহার এর আগে মনন ঠিক করার জন্য $p_\psi(\psi)$

prior এর জন্য একই পূর্ববর্তী বিতরণে ফলাফল $\psi$ । যদি তারা একই পূর্বে ফলাফল দেয় তবে তারা প্রকৃতপক্ষে একই উত্তরোত্তরও ফল পাবে (যেমন আপনি বেশ কয়েকটি ক্ষেত্রে যাচাই করেছেন)।

$\theta$$[0,1]$$\psi$$[0,\infty)$

$\theta$$\psi$$\psi$

Answer 2

দেখে মনে হচ্ছে আপনি ডেটা দ্বারা প্ররোচিত সম্ভাবনাগুলি প্যারামিট্রাইজেশন দ্বারা প্রভাবিত না হয়ে যাচাই করছেন, যা পূর্বের সাথে কিছুই করার নেই।

যদি আপনার প্রিয়ারগুলি বেছে নেওয়ার পদ্ধতিটি হয়, যেমন "আগে ইউনিফর্মটি চয়ন করুন", তবে একটি প্যারাম্যাট্রাইজেশনের অধীনে যা সমান (বিটা বলতে, বিটা (1,1)) অন্যটির অধীনে অভিন্ন নয়, বলুন, বিটাপ্রিম (1,1) ) (যা স্কিউড) - এটির বিটাপ্রিম (1, -1) অভিন্ন থাকলে যদি এ জাতীয় কোনও জিনিস বিদ্যমান থাকে।

জেফরির পূর্বে পুনর্নির্মাণের অধীনে থাকা কেবলমাত্র "প্রিয়ারদের বেছে নেওয়ার উপায়"। সুতরাং এটি প্রিয়ার বেছে নেওয়ার অন্য কোনও পদ্ধতির চেয়ে কম অনুমানযোগ্য।

Comments

I do not think the Jeffreys prior is the only invariant prior. When they differ, left and right Haar measures are both invariant.

— Xi'an

@Neil G, I am not sure I can follow your reasoning that I only look at the likelihood. When plugging (e.g.) alpha1_J into pbeta and pgb2 this parameter is determined by both a prior parameter (alpha1_J) and the data (k), likewise for all the other parameters.

— Christoph Hanck

(+1) আপনি আশা করতেন যে ব্যক্তিগত প্রবীণদের নির্বাচিতকরণও প্যারামিট্রাইজেশন-আক্রমণকারী হবে।

— স্কর্চচি - মনিকা পুনরায় ইনস্টল করুন

@ জেন: হ্যাঁ, আমি খুব তাড়াহুড়ো করেছি: হর ব্যবস্থা একটি ভুল উদাহরণ are তবুও, আমি অবাক হয়েছি কেন জেফ্রি ' একমাত্র আগত ব্যক্তি ...

— শি'য়ান

@Xi'an: if my memory doesn't fail me, there is a Theorem in Cencov book (amazon.com/…) which, in some sense (?), proves that Jeffreys prior is the only guy in the town with the necessary invariance. His proof is inaccessible to me. It uses the language of Category Theory, functors, morphisms and all that. en.wikipedia.org/wiki/Category_theory

— Zen