কেন বৃহত্তর নমুনা মাপের জন্য বিশৃঙ্খলা সমস্যা জটিল?

13

ধরুন আমরা পয়েন্ট সেট আছে । প্রতিটি বিন্দু বিতরণ ব্যবহার করে তৈরি করা হয় generated জন্য উত্তর পেতে আমরা প্রত্যাশার প্রচারের উপর মিনকার কাগজ অনুসারে পোস্টেরিয়র পেতে আমাদের গণনা প্রয়োজন এবং সুতরাং, বড় আকারের নমুনা জন্য জটিলতা হয়ে যায় । তবে, আমি বুঝতে পারি না কেন আমাদের এত পরিমাণ গণনার প্রয়োজন, কারণ একক $\mathbf{y} = \{y_1, y_2, \ldots, y_N \}$ $y_i$

p (y_{i} | x) = \frac{1}{2} N (x, 1) + \frac{1}{2} N (0, 10) .

$p(y_i| x) = \frac12 \mathcal{N}(x, 1) + \frac12 \mathcal{N}(0, 10).$

x

$x$

p (x | y) \propto p (y | x) p (x) = p (x) \prod_{i = 1}^{N} p (y_{i} | x) .

$p(x| \mathbf{y}) \propto p(\mathbf{y}| x) p(x) = p(x) \prod_{i = 1}^N p(y_i | x).$

2^{N}

$2^N$

p (x | y)

$p(x| \mathbf{y})$

N

$N$

y_{i}

$y_i$ সম্ভাবনাটির ফর্ম রয়েছে

p (y_{i} | x) = \frac{1}{2 \sqrt{2 π}} (\exp {- \frac{1}{2} (y_{i} - x)^{2}} + \frac{1}{\sqrt{10}} \exp {- \frac{1}{20} y_{i}^{2}}) .

$p(y_i| x) = \frac{1}{2 \sqrt{2 \pi}} \left( \exp \left\{-\frac12 (y_i - x)^2\right\} + \frac{1}{\sqrt{10}} \exp \left\{-\frac1{20} y_i^2\right\} \right).$

এই সূত্রটি ব্যবহার করে আমরা সরল গুণ দ্বারা প্রাপ্ত করি , সুতরাং আমাদের কেবলমাত্র অপারেশন প্রয়োজন , এবং, যাতে আমরা বড় নমুনা আকারের জন্য ঠিক এই সমস্যাটি সমাধান করতে পারি। $p(y_i| x)$ $N$

আমি তুলনা করার জন্য সংখ্যাসূচক পরীক্ষা করি আমি যদি প্রতিটি শব্দ পৃথকভাবে গণনা করি এবং যদি প্রতিটি জন্য ঘনত্বের পণ্য ব্যবহার করি তবে আমি সত্যই একই পোস্টারিয়রটি পাই । পোস্টারিয়র একই। দেখুন আমার অন্যায় কোথায়? যে কেউ আমার কাছে পরিষ্কার করে দিতে পারেন যে প্রদত্ত এবং নমুনা জন্য উত্তরক গণনা করার জন্য আমাদের ক্রিয়াকলাপ কেন দরকার ? $y_i$ এখানে চিত্র বর্ণনা লিখুন $2^N$ $x$ $\mathbf{y}$

bayesian mixture posterior

— আলেক্সি জায়টসেভ
সূত্র

N

$N$

O (N)

$O(N)$

x

$x$

y_{i}

$y_i$

O (n \log (n))

$O(n\log(n))$

n

$n$

1

2^{N}

$2^N$ $x$ $2^N$

1

2^{N}

$2^N$

1

N

$N$

2^{N}

$2^N$

x

$x$

N

$N$

x

$x$

4

$x$ $O(n)$ $x$ $2^N$

— টম মিনকা
সূত্র

2

$y_i$ $p(y_i | x)$ $1-w$ $p_c(y)$ $y$ $x$ $w$

$c_i$ $i$ $0$ $p(y|x)$ $x$

$2^N$

— ডেভ
সূত্র

c_{i}

$c_i$

x

$x$

2^{N}

$2^N$

c

$c$

c_{i}

$c_i$

c_{i}

$c_i$

2^{N}

$2^N$

O (n)

$O(n)$

O (2^{n})

$O(2^n)$