আদর্শে ঘনিষ্ঠতা পরীক্ষা করার জন্য কম আবদ্ধ ?

11

আমি ভাবছিলাম যে নীচের সমস্যার জন্য পরিচিত কোনও নিম্ন সীমাবদ্ধ (নমুনা জটিলতার ক্ষেত্রে) ছিল:

, পরীক্ষা (whp) তে দুটি অজানা বিতরণ , তে নমুনা ওরাকল অ্যাক্সেস দেওয়া হয়েছে $D_1$ $D_2$ $\{1,\dots,n\}$

$D_1=D_2$
বা $\operatorname{d_2}(D_1,D_2)=\lVert D_1-D_2\rVert_2 = \sqrt{\sum_{i=1}^n\left(D_1(i)-D_2(i)\right)^2} \geq \epsilon$

বাতু ইত্যাদি। [বিএফআর +00] দেখিয়েছেন যে $O\left(\frac{1}{\epsilon^4}\right)$ নমুনাগুলি যথেষ্ট ছিল, তবে আমি নীচের গণ্ডির কোনও উল্লেখ পাইনি?

আমি গণনা করি যে কোনও ব্যক্তি সর্বদা একটি দেখিয়ে দেখতে পারেন এই সমস্যাটির $\Omega(\frac{1}{\epsilon^2})$ তুলনায় ন্যায্য বনাম $\epsilon$ এপসিলন- ভিত্তিক আলাদা করার কাজটি (কেবলমাত্র দুটিতে সমর্থিত একটি বিতরণ সিমুলেট করে) আইড কয়েন টসস অনুসারে পরীক্ষকের প্রশ্নের উত্তরগুলি দেওয়া, এবং এটি এখনও একটি চতুর্ভুজ ফাঁক ছেড়ে দেয় ...

(অন্য বিন্দু আমি আগ্রহী হতে চাই একটি নিম্ন বাঁধা আনুমানিক হিসাব একটি যুত (আপ $\epsilon$ ) এই $L_2$ দূরত্ব - আবার, আমি সাহিত্যে যেমন ফলাফলের কোন রেফারেন্স পাওয়া যায়)

আপনার সাহায্যের জন্য ধন্যবাদ,

— ক্লিমেন্ট সি।
সূত্র

এই প্রতিশ্রুতি সমস্যাটি সহাই এবং বধনের দ্বারা পরিসংখ্যানগত পার্থক্য বলা একটির সাথে খুব মিল বলে মনে হচ্ছে , যা এসজেডকে (পরিসংখ্যান শূন্য জ্ঞান) শ্রেণির জন্য সম্পূর্ণ সমস্যা; তবে, তারা দূরত্ব ব্যবহার করে । cs.ucla.edu/~sahai/work/web/2003%20 প্রজাতন্ত্র / জেএএসিএম2003 . pdf । (সম্পাদনা: এছাড়াও আমি মনে করি তারা আপনি একটি বর্তনী কম্পিউটিং ডিস্ট্রিবিউশন, না ওরাকল এক্সেস আছে অভিমানী হয়।)

L_{1}

$L_1$

— উসূল

হাই, যেমন অন্য মন্তব্যে উল্লেখ করা হয়েছে, এর মধ্যে পার্থক্য এবং আদর্শ আসলে এখানে অত্যন্ত গুরুত্বপূর্ণ - আরও থার কাগজে, তারা একটি সুনির্দিষ্ট (এবং নির্বিচারে নয়) থ্রেশহোল্ড সেট আপ , মন্তব্য এক ( তারা ব্যাখ্যা করে যে এই প্রান্তিকের কিছু নির্দিষ্ট বাধা মেটাতে হবে); এবং বনাম (যা "স্বাভাবিক টেস্টিং" এর তুলনায় সহনশীল পরীক্ষা / দূরত্বের অনুমানের একরকম কাছাকাছি, যেখানে আপনি বনাম পরীক্ষা করতে চান) (তবে কোনও স্থির ))।

L_{2}

$L_2$

L_{1}

$L_1$

τ = 1 / 3

$\tau=1/3$

d_{1} \leq τ

$d_1 \leq \tau$

d_{2} \geq 1 - τ

$d_2 \geq 1-\tau$

d_{2} = 0

$d_2=0$

d_{2} \geq ϵ

$d_2 \geq \epsilon$

ϵ

$\epsilon$

— ক্লিমেন্ট সি

6

এটি প্রদর্শিত হয় যে নমুনাগুলি - যেমন usul নীচে দেখিয়েছেন - পরীক্ষার জন্য যথেষ্ট, যাতে নমুনা জটিলতা হ'ল ; আসলে এটি জন্য নমুনা আমাদের যথেষ্ট এমনকি এই নম্বরে সক্রিয় আউট শেখার একটি যুত পর্যন্ত wrt আদর্শ। $O(1/\epsilon^2)$ $\Theta(1/\epsilon^2)$ $D$ $\epsilon$ $L_2$

যাক গবেষণামূলক ঘনত্ব অঙ্কন দ্বারা প্রাপ্ত ফাংশন হবে IID নমুনা এবং সেটিং তারপরে যেখানে । $\hat{D}$ $m$ $s_1,\dots, s_m\sim D$

\hat{D} (k) \overset{d e f}{=} \frac{1}{m} \sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}}, k \in [n]

$\hat{D}(k) \stackrel{\rm{}def}{=} \frac{1}{m}\sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}},\qquad k\in[n]$

\begin{aligned} ‖ D - \hat{D} ‖_{2}^{2} & = \sum_{k = 1}^{n} {(\frac{1}{m} \sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}} - D (k))}^{2} = \frac{1}{m^{2}} \sum_{k = 1}^{n} {(\sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}} - m D (k))}^{2} \\ = \frac{1}{m^{2}} \sum_{k = 1}^{n} {(X_{k} - E X_{k})}^{2} \end{aligned}

$\begin{align*} \lVert D - \hat{D} \rVert_2^2 &= \sum_{k=1}^n \left( \frac{1}{m}\sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}} - D(k) \right)^2 = \frac{1}{m^2}\sum_{k=1}^n \left( \sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}} - mD(k) \right)^2 \\ &= \frac{1}{m^2}\sum_{k=1}^n \left( X_k - \mathbb{E} X_k \right)^2 \end{align*}$

X_{k} \overset{d e f}{=} \sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}} \sim Bin (m, D (k))

$X_k\stackrel{\rm{}def}{=} \sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}}\sim\operatorname{Bin}( m, D(k) )$

X_{k}

$X_k$ এর ( ) স্বতন্ত্র নয়, তবে আমরা লিখতে পারি যাতে , এবং মার্কভের অসমতার প্রয়োগ

k \in [n]

$k\in[n]$

\begin{aligned} E ‖ D - \hat{D} ‖_{2}^{2} & = \frac{1}{m^{2}} \sum_{k = 1}^{n} E [{(X_{k} - E X_{k})}^{2}] = \frac{1}{m^{2}} \sum_{k = 1}^{n} Var X_{k} \\ = \frac{1}{m^{2}} \sum_{k = 1}^{n} m D (k) (1 - D (k)) \leq \frac{1}{m} \sum_{k = 1}^{n} D (k) \\ = \frac{1}{m} \end{aligned}

$\begin{align*} \mathbb{E}\lVert D - \hat{D} \rVert_2^2 &= \frac{1}{m^2}\sum_{k=1}^n \mathbb{E}\left[ \left( X_k - \mathbb{E} X_k \right)^2 \right] = \frac{1}{m^2}\sum_{k=1}^n \operatorname{Var} X_k \\ &= \frac{1}{m^2}\sum_{k=1}^n mD(k)\left( 1- D(k) \right) \leq \frac{1}{m}\sum_{k=1}^n D(k) \\ &= \frac{1}{m} \end{align*}$

m \geq \frac{3}{ϵ^{2}}

$m\geq \frac{3}{\epsilon^2}$

E ‖ D - \hat{D} ‖_{2}^{2} \leq \frac{ϵ^{2}}{3}

$\begin{equation} \mathbb{E}\lVert D - \hat{D} \rVert_2^2 \leq \frac{\epsilon^2}{3} \end{equation}$

P {‖ D - \hat{D} ‖_{2} \geq ϵ} \leq \frac{1}{3} .

$\begin{equation} \mathbb{P}\left\{ \lVert D - \hat{D} \rVert_2 \geq \epsilon \right\} \leq \frac{1}{3}. \end{equation}$

— ক্লিমেন্ট সি।
সূত্র

(আমি উসুলের উত্তরের সাথে উল্লেখ করে বলছিলাম "আমি বিপরীত কিছু [[]]" দেখিয়ে আমার পূর্ববর্তী ত্রুটির জন্য প্রায়শ্চিত্ত করার চেষ্টা করব - যা আসলে এটির থেকে উপরে I আমি এটি আশা করি নি :)) শেখার ক্ষেত্রে উপরের আবদ্ধ, এটি দেখানো যেতে পারে যে সর্বাধিক নিষ্পাপ অ্যালগরিদম (যা নমুনাগুলি আঁকেন এবং এই সংজ্ঞায়িত বৌদ্ধিক ঘনত্বকে আউটপুট দেয়) একটি বিতরণ যা ধ্রুব সম্ভাব্যতা সঙ্গে, হয়, -close করার মধ্যে দূরত্ব।

m = O (1 / ϵ^{2})

$m=O(1/\epsilon^2)$

\hat{D}

$\hat{D}$

ϵ

$\epsilon$

D

$D$

L_{2}

$L_2$

— ক্লিমেন্ট সি

@ ডিডাব্লু আমি কেবল আমার উত্তরটি সম্পাদনা করেছি।

— ক্লিমেন্ট সি

3

আমি বিপরীত কিছু দেখিয়ে আমার পূর্ববর্তী ত্রুটির জন্য প্রায়শ্চিত্ত করার চেষ্টা করব - যে নমুনাগুলি যথেষ্ট ( of এর নীচের সীমানা) প্রায় টাইট)! আপনি কি মনে করেন দেখুন ... $\tilde{\Theta}\left(\frac{1}{\epsilon^2}\right)$ $1/\epsilon^2$

মূল স্বজ্ঞাত দুটি পর্যবেক্ষণ থেকে শুরু হয়। প্রথমত, ডিস্ট্রিবিউশন অর্ডারে একটি আছে যাতে দূরত্ব , সেখানে উচ্চ সম্ভাবনা সঙ্গে পয়েন্ট হতে হবে ( )। উদাহরণস্বরূপ, যদি আমাদের সম্ভাবনার পয়েন্ট থাকে , আমাদের । $L_2$ $\epsilon$ $\Omega(\epsilon^2)$ $1/\epsilon^3$ $\epsilon^3$ $\|D_1 - D_2\|_2 \leq \sqrt{\frac{1}{\epsilon^3} (\epsilon^3)^2} = \epsilon^{3/2} < \epsilon$

দ্বিতীয়ত, একটি সঙ্গে অভিন্ন ডিস্ট্রিবিউশন বিবেচনা দূরত্ব । আমাদের যদি সম্ভাব্যতা এর পয়েন্ট থাকে তবে সেগুলি প্রতিটি দ্বারা পৃথক হবে এবং নমুনা যথেষ্ট would অন্যদিকে, যদি আমাদের পয়েন্ট থাকে তবে তাদের প্রত্যেকের এবং আবার নমুনাগুলি (প্রতি স্থির সংখ্যা হিসাবে পৃথক হওয়া প্রয়োজন পয়েন্ট) যথেষ্ট। সুতরাং আমরা আশা করতে পারি যে, পূর্বে উল্লিখিত উচ্চ-সম্ভাবনা পয়েন্টগুলির মধ্যে সর্বদা কিছুটা পয়েন্ট "যথেষ্ট" যা আঁকেন তা আলাদা করে রাখে। $L_2$ $\epsilon$ $O(1)$ $O(1)$ $O(\epsilon)$ $1/\epsilon^2$ $O(1/\epsilon^2)$ $O(\epsilon^2)$ $O(1/\epsilon^2)$ $O(1/\epsilon^2)$

অ্যালগরিদম। প্রদত্ত এবং পরামিতি একটি কনফিডেন্স যাক । প্রতিটি বিতরণ থেকে নমুনা আঁকুন । যাক নিজ নিজ উচ্চতর, পয়েন্টের জন্য নমুনা নিচের সংখ্যা হতে । যদি কোনো বিন্দু , যার জন্য এবং , ঘোষণা বিতরণ ভিন্ন। অন্যথায়, তাদের একই ঘোষণা করুন। $\epsilon$ $M$ $X = M \log(1/\epsilon^2)$ $\frac{X}{\epsilon^2}$ $a_i,b_i$ $i$ $i \in [n]$ $a_i \geq \frac{X}{8}$ $a_i-b_i \geq \sqrt{a_i} \frac{\sqrt{X}}{4}$

নির্ভুলতা এবং আত্মবিশ্বাসের সীমা ( ) নিম্নলিখিত লিমাটির উপর নির্ভর করে যা বলে যে দুরত্বের সমস্ত বিচ্যুতি এমন পয়েন্ট থেকে আসে যার সম্ভাবনাগুলি দ্বারা পৃথক হয় । $1-e^{-\Omega(M)}$ $L_2$ $\Omega(\epsilon^2)$

দাবি করুন। ধরুন । আসুন। যাক । তারপরে $\|D_1 - D_2\|_2 \geq \epsilon$ $\delta_i = |D_1(i) - D_2(i)|$ $S_k = \{i : \delta_i > \frac{\epsilon^2}{k}\}$
$\sum_{i \in S_{k}} δ_{i}^{2} \geq ϵ^{2} (1 - \frac{2}{k}) .$ $\sum_{i \in S_k} \delta_i^2 \geq \epsilon^2\left(1-\frac{2}{k}\right).$

প্রুফ । আমরা আশা করি আপনি আসুন দ্বিতীয় যোগফলটি আবদ্ধ করি; আমরা সাপেক্ষে । ফাংশন যেহেতু কঠোরভাবে উত্তল এবং ক্রমবর্ধমান, আমরা কোনো গ্রহণ করে উদ্দেশ্য বৃদ্ধি করতে পারেন এবং বৃদ্ধি দ্বারা যখন কমছে দ্বারা । সুতরাং, উদ্দেশ্যটি তাদের সর্বোচ্চ মানগুলিতে যতগুলি সম্ভব শর্তাবলীর সাথে সর্বাধিক করা হবে এবং বাকীটি

\sum_{i \in S_{k}} δ_{i}^{2} + \sum_{i \notin S_{k}} δ_{i}^{2} \geq ϵ^{2} .

$\sum_{i \in S_k} \delta_i^2 ~ + ~ \sum_{i \not\in S_k} \delta_i^2 \geq \epsilon^2.$

\sum_{i \notin S_{k}} δ_{i}^{2}

$\sum_{i \not\in S_k} \delta_i^2$

\sum_{i \notin S_{k}} δ_{i} \leq 2

$\sum_{i \not\in S_k} \delta_i \leq 2$

x \mapsto x^{2}

$x \mapsto x^2$

δ_{i} \geq δ_{j}

$\delta_i \geq \delta_j$

δ_{i}

$\delta_i$

γ

$\gamma$

δ_{j}

$\delta_j$

γ

$\gamma$

0

$0$ । প্রতিটি পদটির সর্বাধিক মান হ'ল , এবং এই মানটির সর্বাধিক পদ রয়েছে (যেহেতু তারা সর্বাধিক সমষ্টি )। সুতরাং

\frac{ϵ^{2}}{k}

$\frac{\epsilon^2}{k}$

\frac{2 k}{ϵ^{2}}

$\frac{2k}{\epsilon^2}$

2

$2$

\sum_{i \notin S_{k}} δ_{i}^{2} \leq \frac{2 k}{ϵ^{2}} {(\frac{ϵ^{2}}{k})}^{2} = \frac{2 ϵ^{2}}{k} . ◻

$\sum_{i \not\in S_k} \delta_i^2 \leq \frac{2k}{\epsilon^2}\left(\frac{\epsilon^2}{k}\right)^2 = \frac{2\epsilon^2}{k} . ~~~~ \square$

দাবি । যাক । যদি থাকে তবে কমপক্ষে একটি পয়েন্ট থাকতে পারে এবং । $p_i = \max\{D_1(i),D_2(i)\}$ $\|D_1 - D_2\|_2 \geq \epsilon$ $i \in [n]$ $p_i > \frac{\epsilon^2}{4}$ $\delta_i \geq \frac{\epsilon \sqrt{p_i}}{2}$

প্রুফ । প্রথমত, এ সব পয়েন্ট আছে সংজ্ঞা দ্বারা (এবং না করার জন্য খালি হতে পারে পূর্ববর্তী দাবি দ্বারা)। $S_k$ $p_i \geq \delta_i > \frac{\epsilon^2}{k}$ $S_k$ $k > 2$

দ্বিতীয়ত, কারণ , আমাদের বা, পুনরায় সাজানো, সুতরাং অসমতা কমপক্ষে একটি পয়েন্ট ধরে রাখে । এখন বাছাই করুন । $\sum_i p_i \leq 2$

\sum_{i \in S_{k}} δ_{i}^{2} \geq ϵ^{2} (\frac{1}{2} - \frac{1}{k}) \sum_{i \in S_{k}} p_{i},

$\sum_{i \in S_k} \delta_i^2 \geq \epsilon^2 \left(\frac{1}{2} - \frac{1}{k}\right) \sum_{i \in S_k} p_i,$

\sum_{i \in S_{k}} (δ_{i}^{2} - p_{i} ϵ^{2} (\frac{1}{2} - \frac{1}{k})) \geq 0,

$\sum_{i \in S_k} \left( \delta_i^2 - p_i \epsilon^2 \left(\frac{1}{2} - \frac{1}{k}\right)\right) \geq 0 ,$

δ_{i}^{2} \geq p_{i} ϵ^{2} (\frac{1}{2} - \frac{1}{k})

$\delta_i^2 \geq p_i \epsilon^2 \left(\frac{1}{2} - \frac{1}{k}\right)$

S_{k}

$S_k$

k = 4

$k=4$

◻

$\square$

দাবি (মিথ্যা ধনাত্মক) । তাহলে , আমাদের এলগরিদম তাদের সর্বাধিক সম্ভাবনা সঙ্গে বিভিন্ন ঘোষণা । $D_1 = D_2$ $e^{-\Omega(M)}$

স্কেচ । দুটি ক্ষেত্রে বিবেচনা করুন: এবং । প্রথম ক্ষেত্রে, এর নমুনার সংখ্যা উভয়ই বিতরণ থেকে ছাড়িয়ে যাবে না : নমুনাগুলির গড় সংখ্যা এবং একটি লেজ আবদ্ধ বলে যে সম্ভাবনার সাথে , নমুনাগুলি একটি অ্যাডেটিভ দ্বারা তাদের গড়ের অতিক্রম করে না ; যদি আমরা মানটি বজায় রাখতে সাবধান হন , তবে আমরা এ জাতীয় কয়েকটি পয়েন্ট নির্ধারণ না করেই তাদের উপর বেঁধে রাখতে পারি (স্বজ্ঞাতভাবে, সম্ভাব্য পয়েন্টগুলির সংখ্যায় সীমাটি তাত্পর্যপূর্ণভাবে হ্রাস পায়)। $p_i < \epsilon^2/16$ $p_i \geq \epsilon^2/16$ $i$ $X/8$ $< X/16$ $e^{-\Omega(X/p_i)} = \epsilon^2 e^{-\Omega(M/p_i)}$ $i$ $X/16$ $p_i$

ক্ষেত্রে , আমরা একটি চেরনফ বাউন্ড ব্যবহার করতে পারি: এটি বলে যে, যখন আমরা নমুনা নিই এবং সম্ভাব্য দিয়ে একটি বিন্দু হয় তখন দ্বারা তার গড় থেকে আলাদা হওয়ার সম্ভাবনা থাকে সর্বাধিক হয় । এখানে, দিন তাই সম্ভাব্যতা দ্বারা বেষ্টিত, । $p_i \geq \epsilon^2/16$ $m$ $p$ $pm$ $c \sqrt{pm}$ $e^{-\Omega((c\sqrt{pm})^2/pm)} = e^{-\Omega(c^2)}$ $c = \frac{\sqrt{X}}{16}$ $e^{-\Omega(X)} = \epsilon^2 e^{-\Omega(M)}$

সুতরাং সম্ভাবনা সঙ্গে , (উভয় ডিস্ট্রিবিউশন) নমুনা সংখ্যা মধ্যে তার গড় । সুতরাং, আমাদের পরীক্ষা এই পয়েন্টগুলি ধরবে না (এগুলি একে অপরের খুব কাছাকাছি), এবং আমরা সেগুলির মধ্যে সমস্ত over আবদ্ধ করতে পারি। $1-\epsilon^2e^{-\Omega(M)}$ $i$ $\sqrt{p_i\frac{X}{\epsilon^2}}\frac{\sqrt{X}}{16}$ $p_i\frac{X}{\epsilon^2}$ $16/\epsilon^2$ $\square$

দাবি (মিথ্যা নেতিবাচক) । তাহলে , আমাদের এলগরিদম তাদের সর্বাধিক সম্ভাবনা সঙ্গে অভিন্ন ঘোষণা । $\|D_1 - D_2\|_2 \geq \epsilon$ $\epsilon^2 e^{-\Omega(M)}$

স্কেচ । এবং সাথে কিছু পয়েন্ট রয়েছে । আগের দাবির মতো আবদ্ধ একই চেরনোফ বলে যে সম্ভাবনার সাথে with , নমুনার সংখ্যাটি তার গড় থেকে সর্বাধিক । এটি (ডাব্লুএলজি) বিতরণ যা ; তবে ডিস্ট্রিবিউশন থেকে এর নমুনার সংখ্যার আরও কম সম্ভাবনা রয়েছে $i$ $p_i > \epsilon^2/4$ $\delta_i \geq \epsilon \sqrt{p_i}/2$ $1-\epsilon^2 e^{-\Omega(M)}$ $i$ $p_i m$ $\sqrt{p_i m} \frac{\sqrt{X}}{16}$ $1$ $p_i = D_1(i) = D_2(i) + \delta_i$ $i$ $2$ এই অ্যাডিটিভ পরিমাণের দ্বারা এর গড় থেকে পৃথক হওয়া (হিসাবে গড় এবং ভিন্নতা কম)।

সুতরাং উচ্চ সম্ভাবনার সাথে প্রতিটি বন্টন থেকে এর নমুনার সংখ্যাটি তার গড়ের মধ্যে রয়েছে; তবে তাদের সম্ভাবনাগুলি দ্বারা পৃথক , সুতরাং তাদের উপায়গুলি $i$ $\sqrt{\frac{p_i X}{\epsilon^2}} \frac{\sqrt{X}}{16}$ $\delta_i$

\frac{X}{ϵ^{2}} δ_{i} \geq \frac{X \sqrt{p_{i}}}{2 ϵ} = \sqrt{\frac{p_{i} X}{ϵ^{2}}} \frac{\sqrt{X}}{2} .

$\frac{X}{\epsilon^2}\delta_i \geq \frac{X \sqrt{p_i}}{2\epsilon} = \sqrt{\frac{p_i X}{\epsilon^2}} \frac{\sqrt{X}}{2} .$

তাই উচ্চ সম্ভাবনা সঙ্গে, পয়েন্টের জন্য , অন্তত দ্বারা নমুনার পৃথক সংখ্যা । $i$ $\sqrt{\# samples(1)} \frac{\sqrt{X}}{4}$ $\square$

স্কেচ সম্পূর্ণ করার জন্য, আমরা আরো অক্ষরে অক্ষরে যে দেখানোর জন্য প্রয়োজন হবে, জন্য বড় যথেষ্ট, নমুনা সংখ্যা তার গড় পাসে যথেষ্ট যে, যখন আলগোরিদিম ব্যবহার করে বদলে , এটি কিছু পরিবর্তন করে না (যা ধ্রুবকগুলিতে কিছু উইগল রুম রেখে সোজা হওয়া উচিত)। $M$ $i$ $\sqrt{\# samples}$ $\sqrt{mean}$

— উসূল
সূত্র

হাই, এর জন্য ধন্যবাদ - আমার কাছে অ্যালগরিদম এবং বিশ্লেষণ সম্পর্কে কয়েকটি প্রশ্ন রয়েছে (কয়েকটি বিষয় সম্পর্কে আমি নিশ্চিত হওয়ার বিষয়ে নিশ্চিত নই): ধরে নিচ্ছি যে আমি কেবল শেষের সাফল্যের একটি স্থির সম্ভাবনা , তার মানে এই ধ্রুবক, আমি যদি সঠিকভাবে বুঝতে পারি (যদি না কী না পাই তবে )? সুতরাং এক্ষেত্রে পরিণত হওয়া : অ্যালগরিদম অনুসারে, এটি - এটি কি সঠিক?

2 / 3

$2/3$

M

$M$

M

$M$

X

$X$

Θ (\log \frac{1}{ϵ})

$\Theta(\log\frac{1}{\epsilon})$

— ক্লিমেন্ট সি

@ClementC। দুঃখিত আমি খুব পরিষ্কার ছিল না! দাবিটি হ'ল আমরা যদি নমুনাগুলি , তবে ভুল হওয়ার সম্ভাবনা হ'ল , সুতরাং ভুল হওয়ার স্থির সম্ভাবনা, এর নমুনা।

\frac{1}{ϵ^{2}} M \log (1 / ϵ^{2})

$\frac{1}{\epsilon^2} M \log(1/\epsilon^2)$

O (e^{- M})

$O(e^{-M})$

O (\frac{1}{ϵ^{2}} \log (1 / ϵ^{2}))

$O\left(\frac{1}{\epsilon^2} \log(1/\epsilon^2)\right)$

— usul

ঠিক আছে, আমি একত্রিত এটি। আমি এই বিষয়টি মনে রেখে প্রমাণটি দিয়ে যাব - আপনি যা ব্যয় করেছেন তার জন্য আবারও ধন্যবাদ!

— ক্লিমেন্ট সি

1

আপনি সমাধান করার চেষ্টা করে এটি শুরু করতে পারেন । আমি নিশ্চিত যে স্যাম্পলগুলি প্রয়োজনীয় এবং পর্যাপ্ত হবে। $n=2$ $\Theta(1/\epsilon^2)$

এটা আপনি এটা মধ্যে রূপান্তর তাকান সহায়ক হতে পারে সম্ভব দূরত্ব এবং দূরত্ব (মোট প্রকরণ দূরত্ব)। $L_2$ $L_1$

এটি জানা যায় যে, একটি নমুনা সহ, যদি বিতরণগুলি পরিচিত হয়, মোট বৈচিত্রের দূরত্বটি পুরোপুরি সেই সুবিধার বৈশিষ্ট্যটিকে চিহ্নিত করে যার সাহায্যে কেউ কে থেকে আলাদা করতে পারে । সুতরাং, যদি মোট প্রকরণের দূরত্ব বড় হয় এবং বিতরণগুলি জানা যায়, তবে একটি উচ্চতর সম্ভাবনার সাথে সঠিক এমন একটি পরীক্ষা তৈরি করতে পারে; মোট প্রকরণের দূরত্ব যদি ছোট হয় তবে কেউ তা করতে পারে না। আমি জানি না যে কেসটিতে মোট বৈচিত্রের দূরত্ব বড় তবে কেটি সম্পর্কে বিতরণ করা যায় তা অজানা। $D_1$ $D_2$
এরপরে আপনি পণ্য বিতরণ, এবং । মোট প্রকরণের দূরত্ব ( দূরত্ব) ব্যবহার করে , এমন কোনও ভাল সীমানা বলে মনে হচ্ছে না যা থেকে । তবে, দূরত্ব ব্যবহার করার সময় , আমি বিশ্বাস করি যে ফাংশন হিসাবে এর ভাল অনুমান রয়েছে । (দুর্ভাগ্যবশত, আমি, যারা অনুমান / সীমা করার জন্য একটি নির্দিষ্ট রেফারেন্স খনন মনে করতে পারে না তাই আমি আশা করি আমি misremembering করছি না।) এছাড়াও রয়েছে পরিচিত সীমা যে আপনার নির্ণয় করার অনুমতি দিন এর কার্যকারিতা হিসেবে দূরত্ব দূরত্ব । $D_1^n$ $D_2^n$ $L_1$ $||D_1^n - D_2^n||_1$ $||D_1 - D_2||_1$ $L_2$ $||D_1^n - D_2^n||_2$ $||D_1 - D_2||_2$ $L_1$ $L_2$
অতএব, আপনি যে পদ্ধতির চেষ্টা করতে পারেন তা অবশ্যই বাঁধতে হবে , তারপরে সেই সীমাবদ্ধতা থেকে । $||D_1^n - D_2^n||_2$ $||D_1^n - D_2^n||_1$

আমি জানি না যে এটি কোথাও ভাল বা না নেতৃত্ব দেবে কিনা; এটা শুধু একটি ধারণা। সম্ভবত আপনি যে কাগজটি উদ্ধৃত করেছেন তার লেখকরা এরই মধ্যে কিছু চেষ্টা করে দেখেছেন বা বিবেচনা করেছেন।

সম্ভবত সহায়ক তথ্যসূত্র:

— ডিডাব্লিউ
সূত্র

হাই, আপনার উত্তরের জন্য ধন্যবাদ! যাইহোক, আমি একটি মধ্যে asymptotic আগ্রহী আবদ্ধ লোয়ার, যখন । বিশেষ করে, মধ্যে সম্পর্ক এবং নিয়ম একটি জড়িত ফ্যাক্টর - অর্থাত তারা প্রকৃতপক্ষে জন্য সমতুল্য ধ্রুব কিন্তু এসিম্পটোটিকভাবে ভিন্ন; ডিস্ট্যান্সকে প্রক্সি হিসাবে ব্যবহার করা কোনও বিকল্প নয়, যতদূর আমি বলতে পারি ( দূরত্বের ঘনিষ্ঠতার পরীক্ষা করার জন্য , সঠিক জটিলতাটি ps এপসিলন )] [বিএফআর + 10 , ভাল 11 ]

n \to \infty

$n\to\infty$

L_{2}

$L_2$

L_{1}

$L_1$

\sqrt{n}

$\sqrt{n}$

n

$n$

L_{1}

$L_1$

L_{1}

$L_1$

Θ (n^{2 / 3} / p o l y (ϵ))

$\Theta(n^{2/3}/{\rm{}poly}(\epsilon))$

— ক্লিমেন্ট সি

0

সম্পাদনা: এটি ভুল! মন্তব্যগুলিতে আলোচনাটি দেখুন - আমি নীচের ত্রুটিগুলি নির্দেশ করব।

আমি মনে করি আমরা বলতে পারি যে প্রয়োজন। $\frac{1}{\epsilon^4}$

সেট করুন । যাক অভিন্ন বন্টন হতে (প্রতিটি বিন্দু সম্ভাবনা ) এবং দিন একটি যুত পরিমাণ দ্বারা অভিন্ন থেকে পৃথক প্রতিটি বিন্দুতে। পরীক্ষা করে দেখুন যে দূরত্ব । $n = \Theta\left(\frac{1}{\epsilon^2}\right)$ $D_1$ $= \Theta(\epsilon^2)$ $D_2$ $\pm \Theta\left(\epsilon^2\right)$ $L_2$ $\epsilon$

সুতরাং আমাদের একটি পার্শ্বযুক্ত ফেয়ার কয়েনটি একটি পার্শ্বযুক্ত ta -ভিত্তিক মুদ্রার থেকে আলাদা করতে হবে । আমি মনে করি এটা হার্ড হিসাবে অন্তত একটি কহন যেমন হওয়া উচিত A থেকে পার্শ্বযুক্ত ন্যায্য মুদ্রা পার্শ্বযুক্ত -biased মুদ্রা, যা করতে হবে নমুনা। সম্পাদনা: এটি ভুল! মুদ্রাটি additively ভিত্তিক, তবে এটি একটি ধ্রুবক ফ্যাক্টর দ্বারা গুণকভাবে পক্ষপাতী হয়। ডিডাব্লু নির্দেশ করে যে, এর অর্থ বিন্দুতে ধ্রুবক নমুনাগুলি কে থেকে । $n$ $n$ $\Theta(\epsilon^2)$ $2$ $2$ $\Theta(\epsilon^2)$ $\Theta\left(\frac{1}{(\epsilon^2)^2}\right) = \Theta\left(\frac{1}{\epsilon^4}\right)$ $\epsilon^2$ $D_1$ $D_2$

লক্ষ্য করুন যে argument যতদূর আমরা আর্গুমেন্টের এই লাইনটিকে এগিয়ে নিতে পারি। Concretely, ধরুন আমরা বৃদ্ধি করার চেষ্টা , বলে, । অভিন্ন বিতরণে, প্রতিটি পয়েন্টের সম্ভাবনা থাকে । কিন্তু এ , আমরা দ্বারা অভিন্ন থেকে পৃথক হতে প্রতিটি বিন্দু প্রয়োজন চাই । থেকে এটি সম্ভব নয় । $\frac{1}{\epsilon^4}$ $n$ $\frac{1}{\epsilon^3}$ $\epsilon^3$ $D_2$ $\epsilon^{2.5}$ $\epsilon^{2.5} \gg \epsilon^3$

আরও বিমূর্তভাবে, ধরুন আমরা প্রতিটি পয়েন্ট uniform দ্বারা ইউনিফর্মের চেয়ে আলাদা হতে চাই । তারপর সবচেয়ে আমরা সেট করতে পারেন হতে হবে । একটি দূরত্ব পেতে , আমাদের সন্তুষ্ট করতে হবে যে দূরত্বগুলির যোগফলের , সুতরাং , তাই তাই , এবং আমরা পেতে । $\epsilon^k$ $n$ $\frac{1}{\epsilon^k}$ $L_2$ $\epsilon$ $\epsilon$ $\sqrt{n(\epsilon^k)^2} = \epsilon$ $\epsilon^{k/2} = \epsilon$ $k = 2$ $n = \frac{1}{\epsilon^2}$

এছাড়াও, আমি মনে করি একই যুক্তিটি বলছে যে, আমরা যদি সাথে দূরত্বে আগ্রহী , আমাদের require প্রয়োজন , তাই আমরা pick পছন্দ করব , তাই নমুনার সংখ্যা হবে। আমি মনে করি এটি চেয়ে আলাদা এমন একটি বাউন্ড হিসাবে উপলব্ধি করে । এটি হিসাবে অনন্তের কাছে পৌঁছে । আপনি দুটি ডিস্ট্রিবিউশন পার্থক্য করতে চেষ্টা করি তবে দূরত্ব উপর আবদ্ধ সঙ্গে , আমি করতে হবে unboundedly বৃহৎ এবং পার্থক্য ছড়িয়ে ইচ্ছামত পাতলা, তাই আপনি সেগুলির পার্থক্য না পারে ( $L_p$ $p > 1$ $k = \frac{p}{p-1}$ $n = 1/\epsilon^{\frac{p}{p-1}}$ $1 / \epsilon^{2\frac{p}{p-1}}$ $n$ $p \to 1$ $L_1$ $\epsilon$ $n$ $n$ অর্থাত্ সমস্ত জন্য কোনও নির্দিষ্ট সংখ্যার নমুনা নেই । এটি হিসাবে কাছেও পৌঁছে ; এটি একটি আবদ্ধ হিসাবে অর্থবোধ করে কারণ, আদর্শের জন্য আমরা set নির্ধারণ করতে পারি এবং প্রতিটি পয়েন্টকে দ্বারা পৃথক করা যাক ; ইউনিফর্ম থেকে আলাদা কিনা তা নিশ্চিত হওয়ার জন্য আমাদের কিছু বিন্দু বার নমুনা করতে হবে, যা নমুনাগুলি গ্রহণ করবে। $n$ $\frac{1}{\epsilon^3}$ $p \to \infty$ $L_{\infty}$ $n = \frac{1}{\epsilon}$ $\Theta(\epsilon)$ $\frac{1}{\epsilon^2}$ $\frac{1}{\epsilon^3}$

— উসূল
সূত্র

১. আপনি কি সত্যিই বোঝাতে চেয়েছেন যে প্রতিটি পয়েন্টে দ্বারা ইউনিফর্ম থেকে পৃথক হয় ? আমি সন্দেহ করি যে এটি একটি টাইপো এবং আপনি বোঝাতে চেয়েছিলেন । ।

D_{2}

$D_2$

\pm 1 / ϵ^{2}

$\pm 1/\epsilon^2$

\pm ϵ^{2}

$\pm \epsilon^2$

— ডিডাব্লু

1

2. আমি কিনতে না যে পার্থক্য থেকে প্রয়োজন নমুনা। আমার কাছে দেখে মনে হচ্ছে নমুনা যথেষ্ট। ব্যাখ্যা (অন্তর্দৃষ্টি): ধরুন আমরা নমুনা সংগ্রহ করি এবং প্রতিটি সম্ভাব্য মান কতবার ঘটে তা গণনা করি। যদি তারা থেকে আসে তবে প্রত্যেকটি 100 বার হওয়া উচিত ( 10 সহ)। যদি তারা থেকে আসে তবে প্রতিটি তাদের অর্ধেকের জন্য 200 বার ( ডেভ 14) হওয়া উচিত, অন্য অর্ধের জন্য / 0 বার (স্ট্যান্ড ডেভ 0) should দু'জনের মধ্যে পার্থক্য করার জন্য এটি কেবলমাত্র যথেষ্ট, যদি আপনি জানেন যে আপনি বা সাথে সাথে কাজ করছেন ।

D_{1}

$D_1$

D_{2}

$D_2$

1 / ϵ^{4}

$1/\epsilon^4$

Θ (1 / ϵ^{2})

$\Theta(1/\epsilon^2)$

m = 100 / ϵ^{2}

$m=100/\epsilon^2$

D_{1}

$D_1$

D_{2}

$D_2$

D_{1}

$D_1$

D_{2}

$D_2$

— ডিডাব্লু

@DW (1) আপনি ঠিক বলেছেন! সংশোধন করা হয়েছে। (২) আপনি যেমন রেখেছেন, আমি তাতে সম্মতি দিচ্ছি, তবে আমি মনে করি বিভিন্ন ধরণের ধরণের ধরণের পছন্দ আরও কঠিন। আমি এর মতো কিছু চিত্রিত করছি: , সুতরাং প্রতিটি বিন্দুতে সম্ভাব্যতা রাখে । তারপরে প্রতিটি বিন্দুতে দ্বারা পৃথক হয় (পরীক্ষা করুন যে দূরত্বটি )), সুতরাং এটি প্রতিটি পয়েন্টে সম্ভাব্যতা বা রাখে।

n = 1 / 100 ϵ^{2}

$n = 1/100\epsilon^2$

D_{1}

$D_1$

100 ϵ^{2}

$100\epsilon^2$

D_{2}

$D_2$

10 ϵ^{2}

$10\epsilon^2$

L_{2}

$L_2$

ϵ

$\epsilon$

90 ϵ^{2}

$90\epsilon^2$

110 ϵ^{2}

$110\epsilon^2$

— usul

1

আমি মনে করি নমুনাগুলি এখনও যথেষ্ট। জড়ো নমুনা, এবং গণনা কতবার প্রতিটি সম্ভাব্য মান ঘটে। জন্য , প্রতিটি 1,000,000 বার (এসটিডি দেব ঘটা উচিত )। জন্য , প্রতিটি 900,000 বার (এসটিডি দেব ঘটা উচিত ) অথবা 1.100.000 বার (এসটিডি দেব )। এটি সহজেই দুজনের মধ্যে পার্থক্য করার পক্ষে যথেষ্ট, যদি আমরা জানি যে আমরা বা নিয়ে কাজ করছি , কারণ 1,000,000 এবং 1,100,000 এর মধ্যে পার্থক্যটি 100 মানক বিচ্যুতি, অর্থাৎ বিশাল।

O (1 / ϵ^{2})

$O(1/\epsilon^2)$

m = 10^{6} n

$m=10^6n$

D_{1}

$D_1$

1000

$1000$

D_{2}

$D_2$

\approx 1000

$\approx 1000$

\approx 1000

$\approx 1000$

D_{1}

$D_1$

D_{2}

$D_2$

— DW

@ ডিডাব্লু আমি এ সম্পর্কে আরও ভেবেছি - আপনি ঠিক বলেছেন। যদি তাদের মাধ্যমগুলি একটি ধ্রুবক গুণক কারণের দ্বারা পৃথক হয় তবে প্রতি বিন্দুতে ধ্রুব সংখ্যক নমুনাগুলি তাদের আলাদা করা উচিত। এটি গুরুত্বপূর্ণ গুণক নয়, যুক্তকারী উপাদান। এই পদ্ধতির পরে কেবল এর নিম্ন ।

1 / ϵ^{2}

$1/\epsilon^2$

— usul