বনাম স্যাম্পলিংয়ের ব্যয়

আমি নিম্নলিখিত সিমুলেশন সমস্যাটি দেখতে : পরিচিত প্রকৃত সংখ্যাগুলির একটি সেট , distribution একটি ডিস্ট্রিবিউশন দ্বারা সংজ্ঞায়িত করা হয়েছে যেখানে ইতিবাচক অংশ উল্লেখ করে । যদিও আমি এই বিতরণকে লক্ষ্য করে কোনও মেট্রোপলিস-হেস্টিংস স্যাম্পেলার সম্পর্কে ভাবতে পারি, আমি অবাক হয়েছি যদি সেখানে কোনও কার্যকর সরাসরি নমুনা উপস্থিত থাকে তবে প্রচুর সংখ্যক শূন্য সম্ভাবনার সুযোগ নিয়ে থেকে অ্যালগরিদমের ক্রম হ্রাস করতে পারি । $\{\omega_1,\ldots,\omega_d\}$ $\{-1,1\}^d$

P (X = (x_{1}, \dots, x_{d})) \propto (x_{1} ω_{1} + \dots + x_{d} ω_{d})_{+}

$\mathbb{P}(X=(x_1,\ldots,x_d))\propto (x_1\omega_1+\ldots+x_d\omega_d)_+$

(z)_{+}

$(z)_+$

z

$z$

O (2^{d})

$O(2^d)$

O (d)

$O(d)$

— সিয়ান
সূত্র

এখানে সর্বোত্তম ক্ষেত্রে (ওজন এর ক্ষেত্রে এর মোটামুটি সুস্পষ্ট পুনরাবৃত্তির নমুনা রয়েছে তবে সবচেয়ে খারাপ ক্ষেত্রে এটি । $O(d)$ $\omega_i$

ধরুন আমরা ইতিমধ্যে নির্বাচন করেছেন , এবং ইচ্ছা চয়ন করতে । আমাদের এবং সম্ভাব্যতার সাথে বেছে নিন হর নমুনার কোনো বৈধ পছন্দ জন্য অশূন্য হতে হবে । $x_1, \dots, x_{i-1}$ $x_{i}$

w (x_{1}, \dots, x_{i - 1}, x_{i}) = \sum_{x_{i + 1} \in {- 1, 1}} \dots \sum_{x_{d} \in {- 1, 1}} {(\sum_{j = 1}^{d} ω_{j} x_{j})}_{+}

$w(x_1, \dots, x_{i-1}, x_i) = \sum_{x_{i+1} \in \{-1, 1\}} \cdots \sum_{x_{d} \in \{-1, 1\}} \left( \sum_{j=1}^d \omega_j x_j \right)_+$

x_{i} = 1

$x_i = 1$

\frac{w (x_{1}, \dots, x_{i - 1}, 1)}{w (x_{1}, \dots, x_{i - 1}, 1) + w (x_{1}, \dots, x_{i - 1}, - 1)} .

$\frac{w(x_1, \dots, x_{i-1}, 1)}{w(x_1, \dots, x_{i-1}, 1) + w(x_1, \dots, x_{i-1}, -1)}.$

x_{1}, \dots, x_{i - 1}

$x_1, \dots, x_{i-1}$

এখন, অবশ্যই প্রশ্নটি হল কীভাবে গণনা করা যায় । $w(x_1, \dots, x_i)$

আমাদের যদি সেই , তবে কোন নেতৃস্থানীয় এন্ট্রিগুলির সাথে , এবং তাই হয়ে: $C := \sum_{j=1}^{i} \omega_j x_j \ge \sum_{j=i+1}^{d} \lvert \omega_j \rvert$ $\omega \cdot x \ge 0$ $x$ $x_{1:i}$ $w$

\begin{aligned} \sum_{x_{i + 1}} \dots \sum_{x_{d}} ω \cdot x & = ω \cdot (\sum_{x_{i + 1}} \dots \sum_{x_{d}} x) \\ = \sum_{j = 1}^{i} ω_{j} \underset{2^{d - i} x_{j}}{\underset{⏟}{(\sum_{x_{i + 1}} \dots \sum_{x_{d}} x_{j})}} + \sum_{j = i + 1}^{d} ω_{j} \underset{0}{\underset{⏟}{(\sum_{x_{i + 1}} \dots \sum_{x_{d}} x_{j})}} \\ = 2^{d - i} C . \end{aligned}

$\begin{align} \sum_{x_{i+1}} \cdots \sum_{x_d} \omega \cdot x &= \omega \cdot \left( \sum_{x_{i+1}} \cdots \sum_{x_d} x \right) \\&= \sum_{j=1}^i \omega_j \underbrace{\left( \sum_{x_{i+1}} \cdots \sum_{x_d} x_j \right)}_{2^{d-i} x_j} + \sum_{j=i+1}^d \omega_j \underbrace{\left( \sum_{x_{i+1}} \cdots \sum_{x_d} x_j \right)}_{0} \\&= 2^{d-i} C .\end{align}$

বিপরীত ক্ষেত্রে, , আমাদের কাছে এবং তাই । $C \le - \sum_{j=i+1}^{d} \lvert \omega_j \rvert$ $\omega \cdot x \le 0$ $w(x_1, \dots, x_i) = 0$

অন্যথায়, আমাদের অবশ্যই ডাব্লু ব্যবহার করে অবশ্যই পুনরাবৃত্তি করতে হবে । $w(x_1, \dots, x_i) = w(x_1, \dots, x_i, 1) + w(x_1, \dots, x_i, -1)$

ধরে নিন যে মেমরিটি কোনও সমস্যা নয় এবং আমরা , তে একটি গাছের মধ্যে সমস্ত উপ-অনুচ্ছেদে ক্যাশে রাখতে পারি - এ পর্যন্ত যে আমরা "চমৎকার" কেসটিকে আঘাত করেছি, তার পরে কোনও কলগুলি ধ্রুব সময় নেয়। (আমরা যাহাই হউক না কেন এই পুরো গাছ গনা নির্বাচন করতে হবে তারপর, একবার এই গাছ।) কম্পিউটেশন নির্মিত হয়, টাঙানো নকশা-বোনা শুধুমাত্র নেবে সময়। প্রশ্নটি গাছটি তৈরি করতে কত সময় নেয়, বা সমানভাবে এটি কতটা বড়। $w(1)$ $w(-1)$ $x_1$ $w$ $O(d)$

বাছাই করা থাকলে, যদি আমরা অবশ্যই "সুন্দর" কেসগুলি দ্রুত । $\omega_i$ $\omega_1 \ge \omega_2 \ge \dots \ge \omega_d$

সর্বোত্তম ক্ষেত্রে, । তারপরে আমরা বা জন্য অবিলম্বে একটি "সুন্দর" কেস , তাই গাছের নির্মাণে ধ্রুবক সময় লাগে এবং পুরো নমুনা সময় নেয় । $\lvert \omega_1 \rvert > \sum_{j=2}^d \lvert \omega_j \rvert$ $w(1)$ $w(-1)$ $w$ $O(d)$

সবচেয়ে খারাপ (সাজানো) ক্ষেত্রে, । তারপরে প্রশ্ন হচ্ছে: মোট গাছটি কত বড়? $\omega_1 = \omega_2 = \dots = \omega_d$

ভাল, সমাপ্তির প্রথম পাথগুলি অবশ্যই এবং দৈর্ঘ্য । গাছটি সেই গভীরতা পর্যন্ত সম্পূর্ণ এবং এতে কমপক্ষে নোড থাকে। (এটি আরও রয়েছে; আপনি সম্ভবত জুয়াড়ের ধ্বংসাত্মক সমস্যায় ব্যবহৃত একটি যুক্তির মতো এটি খুঁজে পেতে পারেন, তবে গুগলিংয়ের দুই মিনিটের মধ্যে আমি এটি খুঁজে পাইনি এবং বিশেষ যত্ন নিচ্ছি না - bad খারাপ যথেষ্ট....) $(1, 1, \dots, 1)$ $(-1, -1, \dots, -1)$ $\lceil d/2 \rceil$ $O(2^{d/2})$ $2^{d/2}$

যদি আপনার সেটিংটিতে কেবলমাত্র কয়েকটি খুব বড় তবে এটি সম্ভবত যুক্তিযুক্ত ব্যবহারিক পদ্ধতি। যদি সমস্ত একই আকারের হয় তবে এটি সম্ভবত এখনও এবং বড় জন্য খুব ব্যয়বহুল । $\omega_i$ $\omega_i$ $d$

— Dougal
সূত্র

বিতরবি ধরণের এই বিলোপের জন্য ধন্যবাদ। আপনি যখন "বিপরীত ক্ষেত্রে" , আমি এটি গ্রহণ করি আপনি প্রথম মামলার পরিপূরক নয় do

C_{i} \leq - \sum_{j = i + 1}^{d} | ω_{j} |

$C_i\le -\sum_{j=i+1}^{d} \lvert \omega_j \rvert$

C_{i} \geq \sum_{j = i + 1}^{d} | ω_{j} |

$C_i\ge \sum_{j=i+1}^{d} \lvert \omega_j \rvert$

— সিয়ান

না, পরিপূরক নয়: যখন আপনি খুব বড় হন আপনি জানেন যে কাটা কাটাটি প্রয়োগ করা হয় না, যখন এটি খুব ছোট থাকে তবে এটি সর্বদা প্রয়োগ করা হয় এবং কখন প্রয়োগ হয় বা কখন প্রয়োগ হয় না তা নির্ধারণ করার জন্য আপনার অবশ্যই অবশ্যই পুনরাবৃত্তি করতে হবে।

— ডগল