সিমুলেটেড অ্যানিলিং অ্যালগরিদমে প্রাথমিক তাপমাত্রা

14

আমি আমার সিমুলেটিং অ্যালগরিদমে বিভিন্ন প্রাথমিক তাপমাত্রার কিছু পরীক্ষা করেছি এবং লক্ষ্য করেছি যে শুরু করার তাপমাত্রাটি অ্যালগরিদমের কার্যকারিতাতে প্রভাব ফেলে।

একটি ভাল প্রাথমিক তাপমাত্রা গণনার কোন উপায় আছে?

optimization artificial-intelligence heuristics

— অনির্দিষ্ট
সূত্র

2

প্রাথমিক তাপমাত্রার সমস্যার ডোমেন এবং অন্যান্য প্যারামিটারগুলির সাথে আপনি অনেকগুলি করতে চান যা আপনি অ্যালগোরিদমের গ্রেডিয়েন্ট বংশদ্ভুত অংশের জন্য ব্যবহার করছেন। আপনি আরও প্রসঙ্গ দিতে পারেন?

— dhj

9

মন্তব্যগুলিতে টমাস ক্লিম্পেল দ্বারা উল্লিখিত হিসাবে, একটি নির্দিষ্ট গ্রহণযোগ্যতা সম্ভাবনা প্রায়শই ব্যবহৃত হয়, যা বলার সমান । বেন-আমিউর ২০০৪ সালে প্রস্তাবিত উপযুক্ত প্রাথমিক তাপমাত্রা খুঁজে পাওয়ার জন্য নীচে একটি সহজ পুনরাবৃত্তি পদ্ধতি [1]। নিম্নলিখিতটিতে, একটি কঠোর ইতিবাচক রূপান্তর, transition এবং পরে এবং উত্তরণের আগে, ব্যয়ের পার্থক্য এবং the যখন শক্তি রাজ্যগুলি স্থিতিশীল বিতরণের সাথে বিতরণ করা হয় তখন একটি ট্রানজিশন উত্পন্ন করার সম্ভাবনা $0.8$ $t$ $\max_t$ $\min_t$ $\delta_t$ $E_{\max_t} - E_{\min_t}$ $\pi_{\min_t} \dfrac{1}{|N(\min_t)|}$ $t$

π_{আমি} = \frac{| এন (আমি) | মেপুঃ (- ই_{আমি} / টি)}{\underset{ঞ}{Σ} | এন (ঞ) | মেপুঃ (- ই_{ঞ} / টি)}

$\pi_i = \dfrac{|N(i)|\text{exp}(-E_i/T)}{\sum_j |N(j)| \exp(-E_j/T)}$ , যেখানে এর প্রতিবেশীদের সেট উল্লেখ করে ।

N (i)

$N(i)$

i

$i$

অবশেষে, একটি ইতিবাচক পরিবর্তনকে গ্রহণ সম্ভাব্যতা । এখন, আমরা ইতিবাচক রূপান্তরগুলির "এলোমেলো" সেট এর উপর ভিত্তি করে গ্রহণযোগ্যতা সম্ভাবনার একটি অনুমান : $\text{exp}(-\delta_t/T)$ $t$ $\hat{\chi}$ $\chi(T)$ $S$

\begin{array}{rcl} \hat{χ} (T) & = & \frac{\sum_{t \in S} π_{min_{t}} \frac{1}{| N (min_{t}) |} exp (- δ_{t} / T)}{\sum_{t \in S} π_{min_{t}} \frac{1}{| N (min_{t}) |}} \\ = & \frac{\sum_{t \in S} exp (- E_{max_{t}} / T)}{\sum_{t \in S} exp (- E_{min_{t}} / T)} . \end{array}

$\begin{eqnarray} \hat{\chi}(T) &=& \dfrac{\sum_{t \in S} \pi_{\min_t} \dfrac{1}{|N(\min_t)|} \text{exp}(- \delta_t / T)}{\sum_{t \in S} \pi_{\min_t} \dfrac{1}{|N(\min_t)|}} \\ &=& \dfrac{ \sum_{t \in S} \text{exp}(- E_{\max_t} / T) }{ \sum_{t \in S} \text{exp}(- E_{\min_t} / T) }. \end{eqnarray}$

আমরা এমন একটি তাপমাত্রা করতে চাই যেমন , যেখানে এটি আমাদের গ্রহণযোগ্যতা সম্ভাবনা। $T_0$ $\chi(T_0) = \chi_0$ $\chi_0 \in ] 0,1 [$

$T_0$ একটি পুনরাবৃত্তি পদ্ধতি দ্বারা গণনা করা হয়। প্রতিটি রাজ্যের জন্য কিছু রাজ্য এবং প্রতিবেশী উত্পন্ন হয়। এটা আমাদের ট্রানজিশন একটি সেট দেয় । উপসেট এর রাজ্যের সাথে সম্পর্কিত এবং The শক্তি সঞ্চয় করা হয়। তারপরে জন্য একটি মান চয়ন করা হয়েছে যা কোনও ধনাত্মক মান হতে পারে। এর পরে পুনরাবৃত্ত সূত্রের সাথে পাওয়া যায় $S$ $E_{\max_t}$ $E_{\min_t}$ $S$ $T_1$ $T_0$

T_{n + 1} = T_{n} {\frac{\ln (\hat{χ} (T_{n}))}{\ln (χ_{0})}}^{1 / p}

$T_{n+1} = T_n \dfrac{\ln(\hat{\chi}(T_n))}{\ln(\chi_0)}^{1/p}$ , যেখানে একটি আসল সংখ্যা ।

p

$p$

\geq 1

$\geq 1$

যখন কাছাকাছি আমরা থামাতে পারি। এখন পছন্দসই প্রাথমিক তাপমাত্রা টি একটি ভাল অনুমান । আরও ব্যাখ্যা, প্রমাণ এবং আলোচনার জন্য দয়া করে মূল কাগজের প্রথম বিভাগটি দেখুন [1] $\hat{\chi}(T_n)$ $\chi_0$ $T_n$ $T_0$

[1] বেন-আমির, ওয়ালিদ। "সিমুলেটেড অ্যানিলিংয়ের প্রাথমিক তাপমাত্রা গণনা করা হচ্ছে" " গণনামূলক অপ্টিমাইজেশন এবং অ্যাপ্লিকেশন 29, নং। 3 (2004): 369-385।

— Juho
সূত্র

3

এটি অত্যন্ত শক্তিশালী সর্বোত্তম পাওয়ার সাথে সম্পর্কিত একটি অত্যন্ত উন্নত বিষয়। আমার বোঝাপড়া, প্রাথমিক তাপমাত্রা সাধারণত "তাপমাত্রার সময়সূচী" কৌশলটির অংশ হিসাবে বিবেচিত হয় যার জন্য কিছু গভীর গবেষণা রয়েছে। অন্য কথায় প্রাথমিক তাপমাত্রা পরিস্থিতি এবং তাপমাত্রা ক্ষয়ের অ্যালগোরিদম (যা আপনি উল্লেখ করবেন না) সামগ্রিক অপ্টিমাইজেশনের ফলাফলকে প্রভাবিত করে। সাধারণ কৌশল বা হিউরিস্টিক উভয়ই ভাল বা "যথেষ্ট ভাল" ফলাফল দেয়।

তবে কমপক্ষে একটি কাগজ রয়েছে যা প্রাথমিক তাপমাত্রা একা অধ্যয়ন করে। [1] মূল কথাটি হ'ল যদি আপনি খুব উন্নত কাজ না করেন তবে প্রাথমিক তাপমাত্রাকে সমস্যার প্যারামিটার হিসাবে বিবেচনা করা এবং সামগ্রিক অপ্টিমাইজেশনের অংশ হিসাবে বিভিন্ন প্রাথমিক তাপমাত্রায় পুনরাবৃত্তি করা [এটি সত্যিকারের ফলাফলগুলিকে প্রভাবিত করে খুঁজে বের করার পরে] খুব যুক্তিসঙ্গত এবং একটি সম্ভবত ব্যাপক অনুশীলন।

অথবা, এমনকি কেবলমাত্র প্রাথমিক তাপমাত্রা বেছে নেওয়া যা ভাল ফলাফল দেয় তাও সাধারণ (এটি কিছুটা অবাক হওয়ার মতো বলে মনে হয় এবং প্রায়শই এমন নয় যে সমস্যাগুলির উদাহরণের অপ্টিমাইজেশনের ফলাফলগুলি ট্রায়াল-অ্যান্ড ত্রুটির দ্বারা পাওয়া "ভাল" প্রাথমিক তাপমাত্রার পরামিতি থেকে যথেষ্ট পরিমাণে পৃথক হয়)) । ডিএইচজে হিসাবে উল্লেখ করা হয়েছে যে কিছু সমস্যা প্রাথমিক তাপমাত্রার চেয়ে অন্যদের চেয়ে সংবেদনশীল হবে।

[1] সিমুলেটেড অ্যানিলিং বেন-আমিউর 2004 এর প্রাথমিক তাপমাত্রা গণনা করা

[2] একটি কার্যকর সিমুলেটেড আনিলিং শিডিয়ুল: ডেরিভেশন ল্যাম এবং ডিলোসমে

[3] মুনাকাটা ও নাকামুরা সিমুলেটেড আনাইলিংয়ের জন্য তাপমাত্রা নিয়ন্ত্রণ

— vzn
সূত্র

আরো দেখুন crossvalidated stackexchange

— vzn