বিটা র‌্যান্ডম ভেরিয়েবলের বিপরীত সাধারণ সিডিএফ কোন বিতরণ অনুসরণ করে?

14

ধরুন আপনি সংজ্ঞায়িত করেছেন:

X \sim Beta (α, β)

$X\sim\mbox{Beta}(\alpha,\beta)$

Y \sim Φ^{- 1} (X)

$Y\sim \Phi^{-1}(X)$

যেখানে হ'ল মানক বিতরণের সিডিএফের বিপরীত । $\Phi^{-1}$

আমার প্রশ্নটি: এখানে কোনও সাধারণ বিতরণ রয়েছে যা অনুসরণ করে, বা এটি অনুমান করতে পারে ? $Y$ $Y$ আমি জিজ্ঞাসা করছি কারণ সিমুলেশন ফলাফলগুলির উপর ভিত্তি করে আমার দৃ strong় সন্দেহ রয়েছে (নীচে দেখানো হয়েছে) এবং যখন একটি সাধারণ বিতরণে রূপান্তর করে $Y$ $\alpha$ $\beta$ উচ্চ, কিন্তু কেন এটা গাণিতিকভাবে would আমি জানি না। (অবশ্যই যখন $\alpha=1;\beta=1$ , $X$ সমান হবে এবং $Y$ আদর্শ মানের হবে তবে উচ্চতর মানের ক্ষেত্রে এটি কেন সত্য হবে?)

এই একটি স্বাভাবিক বিন্দুতে মিলিত হয়, তাহলে, কি যে স্বাভাবিক হতে এর প্যারামিটার, পদ would $\alpha$ এবং $\beta$ ? (আমি আশা করি হবে $\Phi^{-1}(\frac{\alpha}{\alpha+\beta})$ যেহেতু এটি মোডের রূপান্তর, তবে আমি মানক বিচ্যুতি জানি না)।

(অন্য কোনও উপায়ে বলুন, এটি " এবং " এর $\Phi(\mbox{Norm}(\mu, \sigma))$ কিছু দিকের জন্য বিটা বিতরণে রূপান্তরিত হতে পারে ? এর উত্তর দেওয়া সহজ কিনা তা আমি নিশ্চিত নই)। $\mu$ $\sigma$

সিমুলেশন ফলাফল

ফলাফলটি স্বাভাবিক হওয়ার কারণে আমার কেন সন্দেহ রয়েছে তা এখানে আমি দেখিয়েছি (যেহেতু আমি এটি গণিত দিয়ে ব্যাক আপ করতে পারি না)। এর সিমুলেশন $Y$ সঙ্গে আর কাজ করা যেতে পারে qnormএবং rnorm। উদাহরণস্বরূপ, উচ্চ পরামিতিগুলি নির্বাচন করে $\alpha=3000$ এবং $\beta=7000$ :

hist(qnorm(rbeta(5000, 3000, 7000)))

এটি স্বাভাবিক চেহারা আছে, এবং qqnormএবং শাপিরো-Wilk পরীক্ষা (যেখানে স্বাভাবিক নাল হাইপোথিসিস হয়) সুপারিশ যাতে পাশাপাশি:

qqnorm(qnorm(rbeta(5000, 3000, 7000)))

shapiro.test(qnorm(rbeta(5000, 3000, 7000)))
#> 
#>  Shapiro-Wilk normality test
#> 
#> data:  qnorm(rbeta(5000, 3000, 7000))
#> W = 0.99954, p-value = 0.2838

স্বাভাবিকতাটি কিছুটা গভীরতর অন্বেষণ করতে আমি 2,000 সিমুলেশনগুলি সম্পাদন করি, প্রতিবার কাছ থেকে 5000 মান সিমুলেট করে $Y$ , তারপরে এটিকে স্বাভাবিকের সাথে তুলনা করার জন্য পরীক্ষা করা। (আমি 5 কে মানগুলি বেছে নিয়েছি কারণ এটি সর্বাধিক shapiro.testপরিচালনা করতে পারে এবং আদর্শ থেকে বিচ্যুতি সনাক্ত করার ক্ষমতা সর্বাধিক করে)।

বিতরণটি যদি সত্যই স্বাভাবিক হয় তবে আমরা আশা করব পি-মানগুলি অভিন্ন হবে (যেহেতু নালটি সত্য)। এগুলি প্রকৃতপক্ষে ইউনিফর্মের খুব কাছাকাছি, প্রস্তাবটি বন্টনের খুব কাছেই রয়েছে:

hist(replicate(2000, shapiro.test(qnorm(rbeta(5000, 3000, 7000)))$p.value))

কিছু পরীক্ষা-নিরীক্ষা দেখায় যে উচ্চতর এবং হ'ল , বিতরণটি স্বাভাবিকের কাছাকাছি চলে আসে (উদাহরণস্বরূপ সাধারণ থেকে অনেক দূরে তবে চেষ্টা করুন এবং এটি কোথাও কোথাও উপস্থিত রয়েছে)। $\alpha$ $\beta$ rbeta(5000, 3, 7)hist(replicate(2000, shapiro.test(qnorm(rbeta(5000, 30, 70)))$p.value))

r normal-distribution mathematical-statistics beta-distribution

— ডেভিড রবিনসন
সূত্র

2

আকর্ষণীয় কিছুই এখানে হয় না। হিসাবে

এবং

অনুমান বৃহৎ বাড়ান যাক তারা একই অনুপাতে থাকা, বা অন্তত যে

থেকে দূরে থাকে

এবং

। তারপরে বিটা

বিতরণটি সাধারণ হয়ে ওঠে an

, স্বতন্ত্র হয়ে

মূলত রৈখিক হয়ে ওঠে, যেখানে আপনি কেবলমাত্র একটি প্রায়-সাধারণ ভেরিয়েবলের রৈখিক রূপান্তর দেখছেন। এই

সাথে

সাথে আরও কিছু করার নেই

α

$\alpha$

β

$\beta$

α / (α + β)

$\alpha/(\alpha+\beta)$

0

$0$

1

$1$

(α, β)

$(\alpha,\beta)$

Φ^{- 1}

$\Phi^{-1}$

Φ^{- 1}

$\Phi^{-1}$ নিজেই এবং বিটা বিতরণ সম্পর্কে কোনও তথ্য যোগ করে না।

— whuber

1

@whuber যে বৃহৎ জন্য জ্ঞান করে তোলে

এবং

(আমি কিছু সিমিউলেশন যে আমাকে তৈরি মনে সমতুল্য স্বাভাবিকের চেয়ে স্বাভাবিক কাছাকাছি প্রায় বিটা ছিল ছিল, কিন্তু rerunning উপর আমি সময়ে একটি ভুল ছিল)।

তে কোনও চিন্তাভাবনা ;

? জেলা সাধারণ থেকে খুব দূরে, তবে এর Qnorm বেশ কাছাকাছি।

α

$\alpha$

β

$\beta$

α = 2

$\alpha=2$

β = 2

$\beta=2$

— ডেভিড রবিনসন

1

@whuber যেমন চেষ্টা hist(replicate(1000, shapiro.test(rbeta(5000, 2, 2))$p.value)), তারপর hist(replicate(1000, shapiro.test(qnorm(rbeta(5000, 2, 2)))$p.value))। অন্য কথায়, যখন

এটা স্বাভাবিক কারণ বিটা, অভিন্ন যখন

এবং

উচ্চ কারণ বিটা মোটামুটিভাবে normal- এটা কিন্তু কেন এটা কাজ যখন তারা সমান এবং ইন-মধ্যবর্তী এটা ত্ত এর কোথায় সাধারণ না ইউনিফর্ম?

α = β = 1

$\alpha=\beta=1$

α

$\alpha$

β

$\beta$

— ডেভিড রবিনসন

5

এটি অবশ্যই আরও আকর্ষণীয়! আপনি ঠিক বলেছেন যে বিটা স্বাভাবিকের খুব কাছাকাছি নয় তবে রূপান্তর আনুমানিক স্বাভাবিক, এমনকি বিটার ছোট প্যারামিটারের জন্যও is স্বাভাবিকতা থেকে প্রাপ্ত বিচ্যুতিগুলি প্রায়

বা তার বেশি এর লেজগুলিতে স্পষ্ট হয়ে ওঠে , তবে বিতরণের পুরো অংশ জুড়েই এটি অল্প পরিমাণে। শেষ পর্যন্ত এটি বিটা লেজের পাওয়ার-আইন আচরণের সন্ধান করতে পারে।

Z = \pm 3

$Z=\pm 3$

— whuber

7

সংক্ষিপ্তসার

আপনি নমুনা মিডিয়ানদের জন্য কেন্দ্রীয় সীমাবদ্ধ উপপাদ্যটিতে বর্ণিত নির্মাণের অংশটি পুনরায় আবিষ্কার করেছেন , যা একটি নমুনার মধ্যকের বিশ্লেষণকে চিত্রিত করে। (বিশ্লেষণটি স্পষ্টতই প্রযোজ্য, মিট্যাটিস মিউটানডিস , যে কোনও কোয়ান্টাইলের জন্য, কেবল মধ্যস্থ নয়)। সুতরাং এটি বিস্ময়কর নয় যে বৃহত বিটা প্যারামিটারগুলির জন্য (বৃহত নমুনাগুলির সাথে মিল রেখে) প্রশ্নের মধ্যে বর্ণিত রূপান্তরের অধীনে একটি সাধারণ বিতরণ দেখা দেয়। আগ্রহের বিষয়টি হল ছোট বিটা পরামিতিগুলির এমনকি সাধারণ বিতরণটি কতটা কাছাকাছি । এটি একটি ব্যাখ্যা প্রাপ্য।

আমি নীচে একটি বিশ্লেষণ স্কেচ করব। এই পোস্টটি যুক্তিসঙ্গত দৈর্ঘ্যে রাখার জন্য, এতে হাতের মোড়কে প্রচুর পরিমাণে পরামর্শ দেওয়া হয়েছে: আমি কেবল মূল ধারণাগুলি দেখানো লক্ষ্য করি। অতএব আমাকে এখানে ফলাফলগুলি সংক্ষিপ্তসার দিন:

যখন পাসে হবে , সবকিছু প্রতিসম হয়। এর ফলে রূপান্তরিত বিতরণ ইতিমধ্যে সাধারণ দেখায়। $\alpha$ $\beta$
ফর্ম কার্যাবলী বর্ণন মোটামুটি প্রথম স্থানে সাধারন, এমনকি ছোট মানের জন্য এবং (প্রদত্ত উভয় অতিক্রম এবং তাদের অনুপাত খুব নয় থেকে বন্ধ বা )। $\Phi^{\alpha-1}(x)\left(1-\Phi(x)\right)^{\beta-1}$ $\alpha$ $\beta$ $1$ $0$ $1$
রুপান্তরিত বিতরণের আপাত স্বাভাবিকতা এই কারণে যে এর ঘনত্বটি একটি সাধারণ ঘনত্ব নিয়ে গঠিত যা একটি ফাংশন (2) দ্বারা গুণিত হয়েছিল।
এবং বৃদ্ধি হিসাবে , স্বাভাবিকতা থেকে প্রস্থান লগের ঘনত্বের জন্য টেলর সিরিজের বাকী পদগুলিতে পরিমাপ করা যেতে পারে। আদেশের মেয়াদ অনুপাতে কমে যায় এর ক্ষমতা এবং । এর দ্বারা বোঝা যাচ্ছে যে শেষ পর্যন্ত যথেষ্ট পরিমাণে এবং , বা তারও বেশি পাওয়ারের সমস্ত পদ অপেক্ষাকৃত ছোট হয়ে গেছে, কেবল একটি চতুর্ভুজকে রেখে গেছে: এটি সাধারণ বিতরণের লগ ঘনত্ব অবিকল। $\alpha$ $\beta$ $n$ $(n-2)/2$ $\alpha$ $\beta$ $\alpha$ $\beta$ $n=3$

সম্মিলিতভাবে, এই আচরণগুলি খুব ভালভাবে ব্যাখ্যা করে যে এমনকি ছোট ও কোনও আইআইডি নরমাল নমুনার অ-চরম কোয়ান্টাইলগুলিও প্রায় সাধারণ দেখায়। $\alpha$ $\beta$

বিশ্লেষণ

কারণ এটা সাধারণীকরণ করা উপযোগী হতে পারে যাক হতে কোন বণ্টনের ফাংশনের, যদিও আমরা মনে আছে । $F$ $F=\Phi$

বিটার ভেরিয়েবলের ঘনত্ব ফাংশন , সংজ্ঞা অনুসারে, আনুপাতিক $g(y)$ $(\alpha,\beta)$

y^{α - 1} (1 - y)^{β - 1} d y .

$y^{\alpha-1}(1-y)^{\beta-1}dy.$

লেটিং সম্ভাব্যতা অবিচ্ছেদ্য এর রুপান্তর হতে এবং লেখার ডেরিভেটিভ জন্য , এটা অবিলম্বে যে একটি ঘনত্ব আছে সমানুপাতিক করতে $y=F(x)$ $x$ $f$ $F$ $x$

G (x; α, β) = F (x)^{α - 1} (1 - F (x))^{β - 1} f (x) d x .

$G(x;\alpha,\beta)=F(x)^{\alpha-1}(1-F(x))^{\beta-1}f(x)dx.$

কারণ এটি দৃ strongly়ভাবে অবিমোচনীয় বিতরণ (একটি বিটা) এর একঘেয়ে রূপান্তর, যদি না অদ্ভুত হয় তবে রূপান্তরিত বিতরণটিও সর্বমোচনীয় হবে। এটি সাধারণের কতটা কাছাকাছি হতে পারে তা অধ্যয়নের জন্য, আসুন এর ঘনত্বের লগারিদম পরীক্ষা করি, $F$

\begin{matrix} (1) & \log G (x; α, β) = (α - 1) \log F (x) + (β - 1) \log (1 - F (x)) + \log f (x) + C \end{matrix}

$\log G(x;\alpha,\beta) = (\alpha-1)\log F(x) + (\beta-1)\log(1-F(x)) + \log f(x) + C\tag{1}$

যেখানে হ'ল সাধারণীকরণের অপ্রাসঙ্গিক ধ্রুবক। $C$

টেলর সিরিজে এর উপাদানগুলি প্রসারিত করুন একটি মান (যা একটি মোডের কাছাকাছি থাকবে এর চারদিকে তিনটি অর্ডার করতে। উদাহরণ হিসেবে বলা যায়, আমরা সম্প্রসারণ লিখতে পারে যেমন $\log G(x;\alpha,\beta)$ $x_0$ $\log F$

\log F (x) = c_{0}^{F} + c_{1}^{F} (x - x_{0}) + c_{2}^{F} (x - x_{0})^{2} + c_{3}^{F} h^{3}

$\log F(x) = c^{F}_0 + c^{F}_1 (x-x_0) + c^{F}_2(x-x_0)^2 + c^{F}_3h^3$

কিছু সঙ্গে । জন্য অনুরূপ স্বরলিপি ব্যবহার করুন এবং । $h$ $|h| \le |x-x_0|$ $\log(1-F)$ $\log f$

লিনিয়ার পদ

মধ্যে রৈখিক শব্দটি যার ফলে হয়ে $(1)$

g_{1} (α, β) = (α - 1) c_{1}^{F} + (β - 1) c_{1}^{1 - F} + c_{1}^{f} .

$g_1(\alpha,\beta) = (\alpha-1)c^{F}_1 + (\beta-1)c^{1-F}_1 + c^{f}_1.$

যখন একটি মোড $x_0$ , এই অভিব্যক্তিটি শূন্য। নোট করুন যেহেতু সহগগুলি এর ক্রমাগত ফাংশন, যেমন এবং বিবিধ হয়, মোড অবিচ্ছিন্নভাবেও পরিবর্তিত হবে। , একবার onceএবং পর্যাপ্ত পরিমাণে বড়হয়ে গেলে, পদটি তুলনামূলকভাবে অসম্পূর্ণ হয়ে যায়। আমরা যত সীমা অধ্যয়ন লক্ষ্য রাখি তাহলে এবং , যার জন্য ধ্রুবক অনুপাতে থাকার বিষয়টি মতেই $G(\,;\alpha,\beta)$ $x_0$ $\alpha$ $\beta$ $x_0$ $\alpha$ $\beta$ $c^{f}_1$ $\alpha\to\infty$ $\beta\to\infty$ $\alpha:\beta$ $\gamma$ , তাই আমরা একবার এবং সবার জন্য একটি বেস পয়েন্ট for $x_0$

γ c_{1}^{F} + c_{1}^{1 - F} = 0.

$\gamma c^{F}_1 + c^{1-F}_1 = 0.$

একটি সুন্দর ক্ষেত্রে কোথায় , যেখানে সর্বত্র, এবং সম্পর্কে প্রতিসম হয় । যে ক্ষেত্রে এটা সুস্পষ্ট । $\gamma=1$ $\alpha=\beta$ $F$ $0$ $x_0=F(0)=1/2$

আমরা একটি পদ্ধতি অর্জন করেছি যার মাধ্যমে (ক) সীমাবদ্ধভাবে, টেলর সিরিজের প্রথম-আদেশের শর্তটি অদৃশ্য হয়ে যায় এবং (খ) সুনির্দিষ্ট বর্ণিত বিশেষ ক্ষেত্রে প্রথম আদেশের মেয়াদ সর্বদা শূন্য থাকে।

Quadratic terms

These are the sum

g_{2} (α, β) = (α - 1) c_{2}^{F} + (β - 1) c_{2}^{1 - F} + c_{2}^{f} .

$g_2(\alpha,\beta) = (\alpha-1)c^{F}_2 + (\beta-1)c^{1-F}_2 + c^{f}_2.$

একটি সাধারণ বন্টনের, যার দ্বিঘাত শব্দ তুলনায় , আমরা অনুমান করতে পারে যে প্রায় ভ্যারিয়েন্স হয় । আমাদের প্রমিত যাক rescaling দ্বারা তার বর্গমূল দ্বারা। আমাদের সত্যিই বিশদ প্রয়োজন নেই; এটি বোঝার পক্ষে যথেষ্ট যে এই পুনরুদ্ধারটি সহগ) গুণ করে চলেছে $-(1/2)(x-x_0)^2/\sigma^2$ $-1/(2g_2(\alpha,\beta))$ $G$ $G$ $x$ $(x-x_0)^n$ in the Taylor expansion by $(-1/(2g_2(\alpha,\beta)))^{n/2}.$

Remainder term

Here's the punchline: the term of order $n$ in the Taylor expansion is, according to our notation,

g_{n} (α, β) = (α - 1) c_{n}^{F} + (β - 1) c_{n}^{1 - F} + c_{n}^{f} .

$g_n(\alpha,\beta) = (\alpha-1)c^{F}_n + (\beta-1)c^{1-F}_n + c^{f}_n.$

After standardization, it becomes

g_{n}^{'} (α, β) = \frac{g_{n} (α, β)}{(- 2 g_{2} (α, β))^{n / 2})} .

$g_n^\prime(\alpha,\beta) = \frac{g_n(\alpha,\beta)}{(-2g_2(\alpha,\beta))^{n/2})}.$

Both of the $g_i$ are affine combination of $\alpha$ and $\beta$ . By raising the denominator to the $n/2$ power, the net behavior is of order $-(n-2)/2$ in each of $\alpha$ and $\beta$ . As these parameters grow large, then, each term in the Taylor expansion after the second decreases to zero asymptotically. In particular, the third-order remainder term becomes arbitrarily small.

The case when $F$ is normal

The vanishing of the remainder term is particularly fast when $F$ is standard Normal, because in this case $f(x)$ is purely quadratic: it contributes nothing to the remainder terms. Consequently, the deviation of $G$ from normality depends solely on the deviation between $F^{\alpha-1}(1-F)^{\beta-1}$ and normality.

This deviation is fairly small even for small $\alpha$ and $\beta$ . To illustrate, consider the case $\alpha=\beta$ . $G$ is symmetric, whence the order-3 term vanishes altogether. The remainder is of order $4$ in $x-x_0=x$ .

Here is a plot showing how the standardized fourth order term changes with small values of $\alpha \gt 1$ :

The value starts out at $0$ for $\alpha=\beta=1$ , because then the distribution obviously is Normal ( $\Phi^{-1}$ applied to a uniform distribution, which is what Beta $(1,1)$ is, gives a standard Normal distribution). Although it increases rapidly, it tops off at less than $0.008$ --which is practically indistinguishable from zero. After that the asymptotic reciprocal decay kicks in, making the distribution ever closer to Normal as $\alpha$ increases beyond $2$ .

— whuber
সূত্র

2

Convergence

Suppose that $\alpha = \beta$ and let $\alpha \to \infty$ and take any small $\varepsilon > 0$ . Then $var(X) \to 0$ . By Chebyshev's inequality we have $\mathbb{P} [\vert X - 0.5 \vert > \varepsilon] \to 0$ and $\mathbb{P} [\vert Y \vert > \varepsilon] \to 0$ . This means that $Y$ converges in probability (~~not in distribution~~ actually it converges in distribution - to singleton).

Exact distribution

Denote by $f_X$ the density of beta distribution. Then your variable $Y$ has density

f_{Y} (y) = f_{X} (Φ (y)) ϕ (y) .

$f_Y (y) = f_X ( \Phi (y) ) \phi (y).$ Since

Φ

$\Phi$ does not have a closed form I believe that this is the furthest you can get (analytically). You can try to put it into FullSimplify function in Wolfram Mathematica to see if it finds some better form.

Here is the density in R so you can plot it instead of histogram.

f_y <- function(x, alpha, beta) {
  dbeta(pnorm(x), alpha, beta) * dnorm(x)
}

Modification

However, you are maybe interested in distribution of

Z = Φ^{- 1} (\sqrt{α} X)

$Z = \Phi^{-1} (\sqrt{\alpha} X)$

α = β

$\alpha = \beta$

v a r (\sqrt{α} X) \to 1 / 8

$var(\sqrt{\alpha} X) \to 1/8$

— জান কিসলিংগার
সূত্র

1

$k \in \mathbb N$ $k \geq 2$ . Let $X \sim \text{Beta}(k,k)$ . I want to argue that $Y = \Phi^{-1}(X)$ is approximately normal.

Now let $n=2k-1$ . We start by drawing $n$ i.i.d. uniformly distributed random variables $U_1, \dotsc, U_n$ . Next, form the order statistics $U_{(1)} \leq \dotsc \leq U_{(n)}$ .

It is well known that $U_{(k)} \sim \text{Beta}(k, n+1-k)$ , thus:

U_{(k)} \sim Beta (k, k)

$U_{(k)} \sim \text{Beta}(k, k)$

In other words: The sample median of $n$ i.i.d. uniformly distributed random variables is $\text{Beta}(k,k)$ distributed.

Now let's transform by $Z_i = \Phi^{-1}(U_i)$ . Then by the probability integral transform, the $Z_i$ are i.i.d. normally distributed. Also form the order statistics of the $Z_i$ ( $Z_{(1)} \leq \dotsc \leq Z_{(n)}$ ). Since $\Phi^{-1}$ is strictly increasing, it follows that:

Φ^{- 1} (U_{(k)}) = Z_{(k)}

$\Phi^{-1}(U_{(k)}) = Z_{(k)}$

Therefore, to show that $Y$ is approximately normal, we just have to argue that the sample median of $n$ i.i.d. normal random variables is approximately normal.

For $k$ large, this can be made precise by a central limit theorem for sample medians. For $k$ small, say $k=2$ , I will let everyone's gut feeling do the speaking.

For $a \neq b$ (but not too different) one can argue similarly by using corresponding quantiles.

— air
সূত্র

বিটা র‌্যান্ডম ভেরিয়েবলের বিপরীত সাধারণ সিডিএফ কোন বিতরণ অনুসরণ করে?

সিমুলেশন ফলাফল

সংক্ষিপ্তসার

বিশ্লেষণ

লিনিয়ার পদ

Quadratic terms

Remainder term

The case when FFF is normal

Convergence

Exact distribution

Modification

The case when $F$ is normal