ইউনিফর্ম এবং পক্ষপাতদুষ্ট মুদ্রার মধ্যে পরিসংখ্যানের দূরত্ব

দিন $U$ উপর ইউনিফর্ম বিতরণ হতে পারে $n$ বিট, এবং যাক $D$ বিতরণ শেষ হতে পারে $n$ বিট যেখানে বিটগুলি স্বতন্ত্র এবং প্রতিটি বিট হয় $1$ সম্ভাবনা সহ $1/2-\epsilon$ । এটি কি সত্য যে পরিসংখ্যানের মধ্যবর্তী দূরত্ব $D$ এবং $U$ হয় $\Omega(\epsilon \sqrt{n})$ , কখন $n \le 1/\epsilon^2$ ?

pr.probability

— মনু
সূত্র

হ্যাঁ. এর মধ্যে পরিসংখ্যানের দূরত্ব

U

$U$ এবং

V

$V$ অন্ততপক্ষে

{P r}_{U} (\sum x_{i} > n / 2) - {P r}_{D} (\sum x_{i} > n / 2)

$\mathrm{Pr}_U(\sum x_i > n/2) - \mathrm{Pr}_D(\sum x_i > n/2)$ , যা হলো

Ω (ε \sqrt{n})

$\Omega(\varepsilon \sqrt{n})$ ; উদাহরণস্বরূপ এখানে ম্যাটাসের উত্তর দেখুন: cstheory.stackexchange.com/questions/14471/…

— ইউরি

ধন্যবাদ। সম্ভবত ব্যাখ্যা করুন যে ম্যাটাস যা লিখেছেন তা আমি কীভাবে গ্রহণ করতে পারি?

— মানু

সম্ভবত কার্যকর: cstheory.stackexchange.com/q/22328/5038 , stats.stackexchange.com/q/17405/2921 ।

— DW

ম্যাটাসের উত্তর সম্পর্কে, আপনি স্লাদের অসমতার চেয়ে ভাল করতে পারেন; (2.13,2.14) দেখুন arxiv.org/abs/1606.08920

— আরেহ

উত্তর:

দ্বারা এলোমেলো বিট চিহ্নিত করুন $x_1,\dots, x_n$ । সংজ্ঞা দ্বারা, মধ্যে পরিসংখ্যানের দূরত্ব $U$ এবং $D$ অন্ততপক্ষে $\Pr_U\left(\sum x_i \geq t\right) - \Pr_D\left(\sum x_i \geq t\right)$ প্রতিটি । আমরা চয়ন । $t$ $t = n/2 + \sqrt{n}$

নোট করুন যে কিছু নিরঙ্কুশ ধ্রুবক জন্য । যদি , তবে পরিসংখ্যানের দূরত্বটি কমপক্ষে এবং আমাদের কাজ শেষ হয়। সুতরাং আমরা নীচে ধরে যে । $\Pr_U\left(\sum x_i \geq t\right) \geq c_1$ $c_1 > 0$ $\Pr_D\left(\sum x_i \geq t\right) \leq c_1/2$ $c_1/2$ $\Pr_D\left(\sum x_i \geq t\right) \geq c_1/2$

আইড বার্নৌল্লি এলোমেলো ভেরিয়েবল সাথে জন্য আসুন । আমাদের লক্ষ্যটি । গড় মানের উপপাদ্য দ্বারা, কিছু । এখন, আমরা প্রমাণ করব যে ; এটি সূচিত করবে যে প্রয়োজনীয় স্ট্যাটিস্টিকাল দূরত্বটি কমপক্ষে হিসাবে প্রয়োজন। $f(s) = \Pr\left(\sum x_i \geq t\right)$ $x_1,\dots, x_n$ $\Pr(x_i = 1) = 1/2-s$ $f(0) - f(\varepsilon) = \Omega(\varepsilon \sqrt{n})$

f (0) - f (ε) = - ε f^{'} (ξ),

$f(0) - f(\varepsilon) = -\varepsilon f'(\xi),$

ξ \in (0, ε)

$\xi \in (0, \varepsilon)$

- f^{'} (ξ) \geq Ω (\sqrt{n})

$-f'(\xi) \geq \Omega(\sqrt{n})$

Ω (\sqrt{n} ε)

$\Omega(\sqrt{n} \varepsilon)$

লিখুন, এবং নোট করুন যে সুতরাং,

f (ξ) = \sum_{k \geq t} (\binom{n}{k}) {(\frac{1}{2} - ξ)}^{k} {(\frac{1}{2} + ξ)}^{n - k},

$f(\xi) = \sum_{k\geq t} \binom{n}{k} \left(\frac12 - \xi\right)^k \left(\frac12+\xi\right)^{n-k},$

\begin{aligned} f^{'} (ξ) & = \sum_{k \geq t} (\binom{n}{k}) (- k {(\frac{1}{2} - ξ)}^{k - 1} {(\frac{1}{2} + ξ)}^{n - k} + (n - k) {(\frac{1}{2} - ξ)}^{k} {(\frac{1}{2} + ξ)}^{n - k - 1}) \\ = - \sum_{k \geq t} (\binom{n}{k}) {(\frac{1}{2} - ξ)}^{k} {(\frac{1}{2} + ξ)}^{n - k} \frac{k / 2 + k ξ - (n - k) / 2 + (n - k) ξ}{(1 / 2 - ξ) (1 / 2 + ξ)} . \end{aligned}

$\begin{align} f'(\xi) &= \sum_{k\geq t} \binom{n}{k} \left(-k \left(\frac12 - \xi\right)^{k-1} \left(\frac12+\xi\right)^{n-k} + (n-k) \left(\frac12 - \xi\right)^{k} \left(\frac12+\xi\right)^{n-k-1}\right) \\ &= -\sum_{k\geq t} \binom{n}{k} \left(\frac12 - \xi\right)^{k} \left(\frac12+\xi\right)^{n-k}\frac{k/2 + k\xi - (n-k)/2 + (n-k)\xi}{(1/2 - \xi)(1/2 +\xi)}. \end{align}$

\frac{k / 2 + k ξ - (n - k) / 2 + (n - k) ξ}{(1 / 2 - ξ) (1 / 2 + ξ)} = \frac{(2 k - n) / 2 + n ξ}{(1 / 2 - ξ) (1 / 2 + ξ)} \geq 2 (2 t - n) = 4 \sqrt{n} .

$\frac{k/2 + k\xi - (n-k)/2 + (n-k)\xi}{\left(1/2 - \xi\right)\left(1/2 +\xi\right)} = \frac{(2k-n)/2 + n\xi}{(1/2 - \xi)(1/2 +\xi)} \geq 2(2t - n) = 4\sqrt{n}.$

\begin{aligned} - f^{'} (ξ) & \geq 4 \sqrt{n} \sum_{k \geq t} (\binom{n}{k}) {(\frac{1}{2} - ξ)}^{k} {(\frac{1}{2} + ξ)}^{n - k} \\ = 4 \sqrt{n} f (ξ) \geq 4 \sqrt{n} f (ε) \geq 4 \sqrt{n} \cdot (c_{1} / 2) . \end{aligned}

$\begin{align}-f'(\xi) &\geq 4\sqrt{n} \sum_{k\geq t} \binom{n}{k} \left(\frac12 - \xi\right)^{k} \left(\frac12+\xi\right)^{n-k} \\&= 4\sqrt{n} f(\xi) \geq 4\sqrt{n} f(\varepsilon) \geq 4\sqrt{n}\cdot (c_1/2).\end{align}$ এখানে, আমরা অনুমানটি ব্যবহার করেছি যে । আমরা সেই দেখিয়েছি ।

f (ε) = \underset{D}{Pr} (x_{1} + \dots + x_{n} \geq t) \geq c_{1} / 2

$f(\varepsilon) = \Pr_D(x_1+\dots+x_n \geq t) \geq c_1/2$

- f^{'} (ξ) = Ω (\sqrt{n})

$-f'(\xi) = \Omega(\sqrt{n})$

— ইউরি
সূত্র

কিছুটা বেশি প্রাথমিক এবং সামান্য মেসির প্রুফ (বা কমপক্ষে এটি আমার কাছেও বোধ হয়)।

সুবিধার জন্য, অনুমানের দ্বারা with সহ । $\varepsilon = \frac{\gamma}{\sqrt{n}}$ $\gamma\in [0,1)$

আমরা of এর এক্সপ্রেশনটি স্পষ্টভাবে নীচে রেখেছি : $\operatorname{d}_{\rm TV}{(P,U)}$

\begin{aligned} 2 d_{T V} (P, U) & = \sum_{x \in {0, 1}^{n}} | {(\frac{1}{2} + \frac{γ}{\sqrt{n}})}^{| x |} {(\frac{1}{2} - \frac{γ}{\sqrt{n}})}^{n - | x |} - \frac{1}{2^{n}} | \\ = \frac{1}{2^{n}} \sum_{k = 0}^{n} (\binom{n}{k}) | {(1 + \frac{2 γ}{\sqrt{n}})}^{k} {(1 - \frac{2 γ}{\sqrt{n}})}^{n - k} - 1 | \\ \geq \frac{1}{2^{n}} \sum_{k = \frac{n}{2} + \sqrt{n}}^{\frac{n}{2} + 2 \sqrt{n}} (\binom{n}{k}) | {(1 + \frac{2 γ}{\sqrt{n}})}^{k} {(1 - \frac{2 γ}{\sqrt{n}})}^{n - k} - 1 | \\ \geq \frac{C}{\sqrt{n}} \sum_{k = \frac{n}{2} + \sqrt{n}}^{\frac{n}{2} + 2 \sqrt{n}} | {(1 + \frac{2 γ}{\sqrt{n}})}^{k} {(1 - \frac{2 γ}{\sqrt{n}})}^{n - k} - 1 | \end{aligned}

$\begin{align*} 2\operatorname{d}_{\rm TV}{(P,U)} &= \sum_{x\in\{0,1\}^n} \left\lvert{ \left( \frac{1}{2} + \frac{\gamma }{\sqrt{n}} \right)^{\lvert{x}\rvert}\left( \frac{1}{2} - \frac{\gamma }{\sqrt{n}} \right)^{n-\lvert{x}\rvert} - \frac{1}{2^n} }\right\rvert \\ &= \frac{1}{2^n}\sum_{k=0}^n \binom{n}{k}\left\lvert{ \left( 1 + \frac{2\gamma }{\sqrt{n}} \right)^{k}\left( 1 - \frac{2\gamma }{\sqrt{n}} \right)^{n-k} - 1 }\right\rvert \\ &\geq \frac{1}{2^n}\sum_{k=\frac{n}{2}+\sqrt{n}}^{\frac{n}{2}+2\sqrt{n}} \binom{n}{k}\left\lvert{ \left( 1 + \frac{2\gamma }{\sqrt{n}} \right)^{k}\left( 1 - \frac{2\gamma }{\sqrt{n}} \right)^{n-k} - 1 }\right\rvert \\ &\geq \frac{C}{\sqrt{n}}\sum_{k=\frac{n}{2}+\sqrt{n}}^{\frac{n}{2}+2\sqrt{n}} \left\lvert{ \left( 1 + \frac{2\gamma }{\sqrt{n}} \right)^{k}\left( 1 - \frac{2\gamma }{\sqrt{n}} \right)^{n-k} - 1 } \right\rvert \end{align*}$ যেখানে একটি সম্পূর্ণ ধ্রুবক। আমরা প্রতিটি সমান পৃথকভাবে আবদ্ধ করি: স্থির করে , এবং , যাতে প্রতিটি যোগান কমিয়ে দেয় এমন একটি পরিমাণের দ্বারা আবদ্ধ হয় (যখন ) to

C > 0

$C>0$

k

$k$

ℓ = k - \frac{n}{2} \in [\sqrt{n}, 2 \sqrt{n}]

$\ell = k-\frac{n}{2} \in [\sqrt{n},2\sqrt{n}]$

\begin{aligned} {(1 + \frac{2 γ}{\sqrt{n}})}^{k} {(1 - \frac{2 γ}{\sqrt{n}})}^{n - k} & = {(1 - \frac{4 γ^{2}}{n})}^{n / 2} {(\frac{1 + \frac{2 γ}{\sqrt{n}}}{1 - \frac{2 γ}{\sqrt{n}}})}^{ℓ} \\ \geq {(1 - \frac{4 γ^{2}}{n})}^{n / 2} {(\frac{1 + \frac{2 γ}{\sqrt{n}}}{1 - \frac{2 γ}{\sqrt{n}}})}^{\sqrt{n}} \to_{n \to \infty}^{} e^{4 γ - 2 γ^{2}} \end{aligned}

$\begin{align*} \left( 1 + \frac{2\gamma }{\sqrt{n}} \right)^{k}\left( 1 - \frac{2\gamma }{\sqrt{n}} \right)^{n-k} &= \left( 1 - \frac{4\gamma ^2}{n} \right)^{n/2}\left( \frac{1 + \frac{2\gamma }{\sqrt{n}}}{1 - \frac{2\gamma }{\sqrt{n}}}\right)^\ell \\ &\geq \left( 1 - \frac{4\gamma ^2}{n} \right)^{n/2}\left( \frac{1 + \frac{2\gamma }{\sqrt{n}}}{1 - \frac{2\gamma }{\sqrt{n}}}\right)^{\sqrt{n}} \xrightarrow[n\to\infty]{} e^{4\gamma -2\gamma ^2} \end{align*}$

n \to \infty

$n\to \infty$

e^{4 γ - 2 γ^{2}} - 1 > 4 γ - 2 γ^{2} > 2 γ

$e^{4\gamma -2\gamma ^2}-1 > 4\gamma -2\gamma ^2 > 2\gamma$ ; বোঝানো হচ্ছে যে প্রত্যেকটি হ'ল । সংক্ষেপে, এই ফলনটি ।

Ω (γ)

$\Omega(\gamma )$

\begin{aligned} 2 d_{T V} (P, U) & \geq \frac{C}{\sqrt{n}} \sum_{k = \frac{n}{2} + \sqrt{n}}^{\frac{n}{2} + 2 \sqrt{n}} Ω (γ) = Ω (γ) = Ω (ε \sqrt{n}) \end{aligned}

$\begin{align*} 2\operatorname{d}_{\rm TV}{(P,U)} &\geq \frac{C}{\sqrt{n}}\sum_{k=\frac{n}{2}+\sqrt{n}}^{\frac{n}{2}+2\sqrt{n}} \Omega(\gamma ) = \Omega(\gamma) = \Omega(\varepsilon\sqrt{n}) \end{align*}$

— ক্লিমেন্ট সি।
সূত্র

(হেল্পিংগারকে তার দুর্দান্ত বৈশিষ্ট্যের কারণে প্রক্ট হিসাবে ব্যবহার করা প্রযোজনাজনক, এবং আরও দ্রুততর হবে তবে শেষের দিকে নীচের দিকে একটি চতুর্ভুজ ফ্যাক্টরের ক্ষতি হতে পারে

— ক্লিমেন্ট সি

নিস! আমি প্রাথমিক পদ্ধতির পছন্দ করি। আমাদের এটি -তেও অ-অ্যাসিম্পটোটিক তৈরি করতে সক্ষম হওয়া উচিত .... একটি উপায় হ'ল চমৎকার, তারপর ব্যবহার বৈষম্য । কিছুটা গণ্ডগোল

n

$n$

{(\frac{1 + z}{1 - z})}^{\sqrt{n}} \geq {(1 + 2 z)}^{\sqrt{n}}

$\left(\frac{1+z}{1-z}\right)^{\sqrt{n}} \geq \left(1 + 2z\right)^{\sqrt{n}}$

1 + w \geq e^{w - w^{2} / 2}

$1+w \geq e^{w - w^2/2}$

— usul