স্টোকাস্টিক কম্পিউটার মডেলগুলির অপ্টিমাইজেশন

Question

গুগলের কাছে এটি আমার পক্ষে শক্ত বিষয়, যেহেতু অনুসন্ধানে শব্দ অপ্টিমাইজেশন এবং স্টোচাস্টিক শব্দগুলি প্রায়শই স্বয়ংক্রিয়ভাবে স্টোকাস্টিক অপ্টিমাইজেশনের অনুসন্ধানগুলিতে ডিফল্ট হয়। কিন্তু আমি যা জানতে চাই তা হল কম্পিউটারের মডেলগুলির অপ্টিমাইজেশনের জন্য কোন পদ্ধতিগুলি বিদ্যমান যখন কম্পিউটার মডেল আউটপুট স্টোকাস্টিক হয়, অর্থাত্ ডিস্ট্রিমেন্টিক নয়?

উদাহরণস্বরূপ, আপনি যদি এমন কোনও কম্পিউটার মডেল বিবেচনা করেন যেখানে কিছু অজানা ফাংশন যা কম্পিউটার মডেলের আউটপুট উপস্থাপন করে, তবে সমস্যাগুলি সমাধান করার জন্য অনেক পরিসংখ্যানের পদ্ধতি রয়েছে$f(x)$

$$\begin{align*} \min&\,\,\,\, f(x)\\ x&\in\mathcal{X} \end{align*}$$

যখন $f(x)$ নির্বিচারক হয়। তবে $f(x)$ স্টোকাস্টিক হলে কী হবে ? সমস্যার কোনও সমাধান আছে, বা সর্বোপরি আমরা কেবল সমাধান করতে পারি

$$\begin{align*} \min&\,\,\,\, \mathbb{E}[f(x)]\\ x&\in\mathcal{X} \end{align*}$$

যেখানে $\mathbb{E}(\cdot)$ হ'ল সাধারণ প্রত্যাশা অপারেটর।

Comments

এটি একটি খুব আকর্ষণীয় প্রশ্ন। অপ্টিমাইজেশন হ'ল সত্যই সম্ভব। এই প্রশ্নের সাথে সম্পর্কিত একটি পরিসংখ্যান অ্যাপ্লিকেশন হ'ল এমসিইএম অ্যালগরিদম, যেখানে পুরো সম্ভাবনা ফাংশন কেবল তার শীর্ষে এমসিসিএম ত্রুটি সহ পর্যবেক্ষণযোগ্য। একইভাবে, এমসিমিসি কণা ফিল্টার অ্যালগরিদমের একই সমস্যা রয়েছে। এর উত্তর দেওয়ার জন্য শিল্প পদ্ধতির অবস্থা কী তা জানতে আমি কোনও সাহিত্যে যথেষ্ট পরিমাণে পড়িনি read $E[f(x)]$

— ক্লিফ এবি

এটা আপনার লক্ষ্য উপর নির্ভর করে। হ'ল সম্ভাব্য পছন্দগুলির মধ্যে একটি। কিছু অ্যাপ্লিকেশনগুলিতে আপনি "নির্ভরযোগ্য" সমাধান পেতে চান, কেবলমাত্র "গড় ভাল" নয়। এই দৃশ্যে আপনি এর বিতরণের কিছু পরিমাণে রিটকে অনুকূলিত করতে পারেন । বায়েশিয়ান অপ্টিমাইজেশন ব্যয়বহুল (এবং কখনও কখনও গোলমাল) ফাংশন মূল্যায়নের সাথে ডিল করে। উদাহরণস্বরূপ এই প্রশ্নটি পরীক্ষা করুন । f ( x $\mathbb{E}[f(x)]$$f(x)$

— লেসারবি

@ লাসেরবি কি সেই উদাহরণগুলির মধ্যে শোরগোল রয়েছে? আমি মনে করি তারা কেবল নিরপেক্ষবাদী।

— রুস্টি স্ট্যাটিকস্টিয়ান

@ রুস্টি স্ট্যাটিস্টিশিয়ান: আপনি ঠিক বলেছেন, বেশিরভাগ উদাহরণ হ'ল ডিট্রিমেন্টিক বা সাধারণভাবে বায়েশিয়ান অপ্টিমাইজেশন সম্পর্কে কথা বলেন। "গোলমাল" অংশে আরও ফোকাসযুক্ত রেফারেন্সগুলির জন্য নীচে দেখুন।

— lacerbi

আপনি কি কম্পিউটার প্রোগ্রামটিতে অ্যাক্সেস করেন যাতে আপনি এটিকে চুসেন ইনপুট জন্য চালাতে পারেন ? তারপরে পরীক্ষার নকশা করার পদ্ধতিগুলি ব্যবহারের জন্য উপলব্ধ হয়ে যায়! এই সাইটে খোঁজ করুন. $x$

— কেজেটিল বি হালওয়ারসেন

Answer 1

( আমার মন্তব্যের যথাযথ উত্তরে প্রসারিত করছি ))

আমি যেমন উল্লেখ করেছি, এটি আপনার লক্ষ্যের উপর নির্ভর করে।

প্রত্যাশিত মান অপটিমাইজেশন টার্গেটের জন্য সম্ভাব্য পছন্দগুলির মধ্যে একটি মাত্র। উদাহরণস্বরূপ, ধরে নিই যে সাধারণত বিতরণ করা হয়, আপনি এটি করতে পারেন:f ( x $\mathbb{E}[f(x)]$$f(x)$

κ∈আরκ>0κ

$$x^\text{opt} = \arg \min_x \left\{ \mathbb{E}[f(x)] + \kappa \sqrt{\mathbb{Var}[f(x)]} \right\}$$ জন্য কিছু যা ঝুঁকি-সংবেদনশীলতা । তাহলে আপনি একটি খুঁজছেন শক্তসমর্থ সমাধান সম্ভবত সবচেয়ে ভাল এবং নিরুৎসাহিত বৃহৎ ইতিবাচক ওঠানামা যাবে। তদ্বিপরীত, একটি নেতিবাচক একটি "আশাবাদী" অপটিমাইজেশনের পক্ষে হবে যা বৃহত্তর নেতিবাচক ওঠানামার জন্য দেখায় (আমরা হ্রাস করার পরে নেতিবাচক ভাল)। আপনি সাধারণ বিতরণের পরিমাণের ভিত্তিতে বেছে নিতে পারেন (নীচে রেফারেন্স ২ দেখুন)।$\kappa \in \mathbb{R}$$\kappa > 0$$\kappa$$\kappa$

সাধারণভাবে, বায়েশিয়ান অপ্টিমাইজেশন (বিও, যা গাউসিয়া প্রক্রিয়া এবং ক্রিগিংয়ের সাথে সম্পর্কিত ) ব্যয়বহুল এবং কখনও কখনও কোলাহলপূর্ণ কার্যকারিতা মূল্যায়নের সাথে সম্পর্কিত; যদিও সাহিত্যের বেশিরভাগ ফোকাস পূর্ব অংশে ছিল। আপনি এই প্রশ্নে বায়েশিয়ান অপ্টিমাইজেশনের জন্য পর্যালোচনাগুলি খুঁজে পেতে পারেন ।

বেশ কয়েকজন লোক শোরগোলের জন্য বিও প্রয়োগ করেছেন। বিষয়টির সূচনা হিসাবে, ডেভিড জিন্সবার্গার গ্লোবাল অপটিমাইজেশন (শেফিল্ড, 17 সেপ্টেম্বর, 2015) জন্য গাউসিয়ান প্রসেসেস সম্পর্কিত কর্মশালায় "প্রত্যাশিত উন্নতির উপর পরিবর্তন" শীর্ষক একটি দুর্দান্ত বক্তৃতা দিয়েছেন। আপনি তার আলোচনাটি এখানে পেতে পারেন , এবং সমস্ত আলাপ আলোচনা এই পৃষ্ঠায় উপলভ্য রয়েছে (আমি অন্যান্য সমস্ত আলোচনারও প্রস্তাব দিচ্ছি বিও-এর একটি সাধারণ সাধারণ ভূমিকা হিসাবে))

তথ্যসূত্র হিসাবে, আমি জিন্সবার্গার এবং সহকর্মীরা এবং গ্র্যামেসি এবং সহকর্মীদের দ্বারা করা কাজটি দিয়ে শুরু করব:

1. পিচেনি, ভি। এবং জিন্সবার্গার, ডি, ২০১৪। "গোলমাল ক্রিগিং-ভিত্তিক অপ্টিমাইজেশন পদ্ধতি: ডাইসঅপটিম প্যাকেজের মধ্যে একীকরণ বাস্তবায়ন"। গণনা সংক্রান্ত পরিসংখ্যান ও ডেটা বিশ্লেষণ , 71, পৃষ্ঠা 1035-1053। ( লিঙ্ক )

2. পিচেনি, ভি।, জিন্সবার্গার, ডি।, রিচেট, ওয়াই এবং ক্যাপলিন, জি, ২০১৩ "সুরযুক্ত নির্ভুলতার সাথে কোয়ান্টাইল-ভিত্তিক অপ্টিমাইজেশন কম্পিউটারের পরীক্ষাগুলি"। টেকনোমেট্রিক্স , 55 (1), পিপি 2-13 -13 ( লিঙ্ক )

3. গ্র্যামেসি, আরবি এবং লি, এইচকে, ২০১২. "বায়েসিয়ান কম্পিউটার মডেলিংয়ের জন্য একটি অ্যাপ্লিকেশন নিয়ে গাউসিয়ান প্রক্রিয়া মডেলগুলি আবিষ্কার করেছিলেন"। আমেরিকান স্ট্যাটিস্টিকাল অ্যাসোসিয়েশনের জার্নাল । ( লিঙ্ক )

4. গ্র্যামেসি, আরবি এবং অ্যাপলি, ডিডাব্লু, 2015. "বৃহত কম্পিউটার পরীক্ষাগুলির জন্য স্থানীয় গাউসিয়ান প্রক্রিয়া প্রায় অনুমান"। গণনা এবং গ্রাফিকাল পরিসংখ্যান জার্নাল , 24 (2), pp.561-578। ( লিঙ্ক )

উভয় Ginsburger এবং Gramacy আর প্যাকেজ যে তাদের বিও পদ্ধতি, যথাক্রমে বাস্তবায়ন আছে DiceOptim এবং tgp ।

Comments

কোথায় আপনার উত্তর, অথবা আপনি বোঝাতে চেয়েছেন ? $k$$\kappa$

— রুটিস্ট্যাটিস্টিশিয়ান

আর একটি অ্যালগরিদম, যা আমি ব্যবহার করি নি * তবে মজাদার নাম বিভাগে জয়ী, এটি এসএনওবিএফআইটি । (* লেখক হয় তবে অপ্টিমাইজেশান কমিউনিটি উল্লেখযোগ্য, এবং সফ্টওয়্যার একটি 'ঠিক আছে' করেনি নির্ণায়ক বেঞ্চমার্ক তাই সুপারিশ করা হয় না, শুধু শীতল নামের উপর ভিত্তি করে!)

— GeoMatt22

Answer 2

বর্তমান উত্তরগুলি স্টোকাস্টিক অপ্টিমাইজেশন টার্গেটের সঠিক (গাণিতিক) সংজ্ঞায় মনোনিবেশ করে - আমি কিছুটা আরও প্রয়োগিত দৃষ্টিকোণ সরবরাহ করতে চাই।

এই সমস্যাটি প্রায়শই ঘটে যখন স্টোকাস্টিক মডেলগুলিকে ফিট করে, যেমন অনানুষ্ঠানিক বা সিন্থেটিক সম্ভাবনা ব্যবহার করে। রেফারেন্স (1) আপনাকে বিকল্পগুলির একটি তালিকা সরবরাহ করে যা স্টোকাস্টিক মডেল এবং ডেটার মধ্যে দূরত্ব নির্ধারণ করতে ব্যবহার করা যেতে পারে।

এইভাবে আপনার টার্গেটটি সংজ্ঞায়িত করার পরে, যে সমস্যাটি রয়ে গেছে তা হ'ল শোরগোলের টার্গেটের কিছুটা সর্বোত্তম finding দুটি রাস্তা যেতে হবে, একটি) অপ্টিমাইজেশন এবং খ) এমসিসিএম নমুনা। আপনি বিশেষভাবে অপ্টিমাইজেশন সম্পর্কে জিজ্ঞাসা করেছিলেন, তবে আমি এমসিসিএমগুলি আনতে চাই কারণ তারা এই কাজের জন্য প্রায়শই ভাল আচরণ করে।

ক) আপনি যদি অপ্টিমাইজেশানটির সাথে থাকেন তবে আপনাকে নিশ্চিত হওয়া দরকার যে আপনি আটকে না গিয়েছেন এবং অপ্টিমাইজার স্টোকাস্টিক লক্ষ্য নিয়ে কাজ করতে পারে। মাত্তেও ফ্যাসিওলো পিএইচডি থিসিসের চতুর্থ অধ্যায়টি কিছু ইঙ্গিত দেয়, দেখুন (২)

খ) যেমনটি আমরা (১) নোট করেছি, এমসিএমসিগুলি সাধারণত স্টোকাস্টিক টার্গেটের তুলনায় আরও দৃ rob় হয় - গোলমাল বিতরণ সম্পর্কিত হালকা শর্তে এমসিসিএম শব্দটি গড়পড়তাভাবে গড়বে, এবং নমুনাযুক্ত লক্ষ্যটি অ-কোলাহল থেকে পৃথক করা যাবে will গোলমাল লক্ষ্য সঙ্গে লক্ষ্য। যাইহোক, এমসিএমসিগুলিও বিশেষত ভাল যে কোনও মূল্যায়নের মুখোমুখি হওয়ার সময় আটকে যেতে পারে। আপনি এখন যা করবেন না তা নিম্নলিখিত "সুস্পষ্ট" ধারণাটি পাচ্ছে: প্রতিটি এমসিসিসি পুনরাবৃত্তিতে কেবল বর্তমান এবং প্রস্তাবিত মান উভয়ই গণনা করুন। এখানে সন্ধানের মূলশব্দটি "সিউডো-প্রান্তিক", এখানে এবং এখানেও দেখুন ।

1) হার্টিগ, এফ .; ক্যালব্রিজ, জেএম; পুনর্নির্মাণ, বি .; উইগ্যান্ড, টি। এবং হুথ, এ। (2011) স্টোকাস্টিক সিমুলেশন মডেলগুলির জন্য পরিসংখ্যানগত অনুকরণ - তত্ত্ব এবং প্রয়োগ । Ecol। লেট।, 14, 816-827।

2) ফাসিওলো, এম। (2016) জটিল জনসংখ্যা গতিবিদ্যার জন্য পরিসংখ্যানগত পদ্ধতি । স্নান বিশ্ববিদ্যালয়

Answer 3

ধরা যাক আমরা একটি পৃথক সম্ভাবনার যাতে । স্বজ্ঞাতভাবে, আপনার কিছু ফাংশন দরকার যাতে আপনি অনুকূলিত করতে পারেন । আপনি কেবলমাত্র একটি উদ্দেশ্যকেই অনুকূল করতে পারেন! U : R n → R U ( f ( x ) $f(x) \in \mathcal{R}^n$$U: \mathcal{R}^n \rightarrow \mathcal{R}$$U(f(x))$

একক উদ্দেশ্যমূলক ক্রিয়াকে অনুকূলকরণ করা বেশ বাধাজনক মনে হতে পারে , তবে তা নয় ! বরং একক উদ্দেশ্য আপনার পক্ষে আরও ভাল বা খারাপ সমাধানের চেয়ে অবিশ্বাস্যভাবে বিভিন্ন পছন্দকে উপস্থাপন করতে পারে।

সামনে এড়িয়ে যাওয়া, শুরু করার জন্য একটি সহজ জায়গা হতে পারে র্যান্ডম ভেরিয়েবল choosing তারপরে সমাধান করা চয়ন করা:$\lambda$

ই এর অধীন [চ(এক্স)

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{minimize (over $x$)} & E\left[\lambda f(x) \right] \\ \mbox{subject to} & x \in X \end{array}$$ এই রৈখিক পুনরায় তৌল একটি সহজ । যাইহোক, একক উদ্দেশ্যকে একাধিক উদ্দেশ্যকে কেন ভেঙে ফেলার জন্য এখানে যুক্তি রয়েছে's$E[f(x)]$

বেসিক সেটআপ:

• আপনি একটি পছন্দ পরিবর্তনশীল আছে এবং সম্ভবপর সেট ।$x$$X$
• আপনার পছন্দটি এলোমেলো ফলাফলের দিকে নিয়ে যায়˜ y = f ( x $x$$\tilde{y} = f(x)$
• আপনার যৌক্তিক পছন্দগুলি রয়েছে এলোমেলো ফলাফলের । (মূলত, আপনি বলতে পারেন যে আপনি একটি এলোমেলো ফলাফল another another অন্যটির কাছে পছন্দ করেন কিনা ))$\prec$$\tilde{y}$

আপনার সমস্যাটি হ'ল বেছে নেওয়া :$x^*\in X$

$$\nexists_{x \in X} \quad f(x^*) \prec f(x)$$ ইংরেজী ভাষায়, আপনি বেছে নিতে চান যাতে কোনও সম্ভাব্য পছন্দ ফলে পছন্দসই ফলাফলের দিকে না যায় ।$x^*$$x$$f(x^*)$

ইউটিলিটি সর্বাধিকীকরণের সমতা (নির্দিষ্ট প্রযুক্তিগত শর্তাধীন)

প্রযুক্তিগত সরলতার জন্য, আমি বলব যে আমরা ফলাফলের সাথে একটি পৃথক সম্ভাবনার জায়গাতে রয়েছি যাতে আমি ভেক্টর সাথে এলোমেলো ফলাফল represent উপস্থাপন করতে পারি ।$n$$\tilde{y}$$\mathbf{y} \in \mathcal{R}^n$

কিছু প্রযুক্তিগত অবস্থার অধীনে (যা ব্যবহারিক অর্থে সীমাবদ্ধ নয়) উপরের সমস্যাটি ইউটিলিটি ফাংশন সর্বাধিক করার সমতুল্য । (ইউটিলিটি ফাংশন আরও বেশি পছন্দসই ফলাফলগুলি একটি উচ্চ সংখ্যাকে বরাদ্দ করে))$U(\mathbf{y})$

আপনার যুক্তি একাধিক ফলাফলের ভেরিয়েবলের দিকে নিয়ে যায় সেখানে এই যুক্তি প্রযোজ্য।

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{maximize (over $x$)} & U(f(x)) \\ \mbox{subject to} & x \in X \end{array}$$

ইউটিলিটি ফাংশনে আরও কাঠামো দেওয়া : প্রত্যাশিত ইউটিলিটি হাইপোথিসিস:$U$

যদি আমরা কোনও সম্ভাবনাময় সেটিংয়ে থাকি এবং আমরা নিউম্যান-মর্গেরস্টেন অ্যাকসিমস গ্রহণ করি , সামগ্রিক ইউটিলিটি ফাংশন একটি বিশেষ রূপ নিতে হবে:$U$

$$U(\mathbf{y}) = E[u(y_i)] = \sum_i p_i u(y_i)$$ কোথায় রাষ্ট্র সম্ভাব্যতা এবং একটি অবতল ইউটিলিটি ফাংশন। এর বক্রতা ঝুঁকি বিরাগ পরিমাপ। কেবলমাত্র এই বিশেষ ফর্ম বদলে আপনি পান:$p_i$$i$$u$$u$$U$

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{maximize (over $x$)} & \sum_i p_i u(y_i) \\ \mbox{subject to} & x \in X \\ & \mathbf{y} = f(x) \end{array}$$

লক্ষ্য করুন যে সাধারণ ক্ষেত্রে প্রত্যাশিত মানকে (যেমন কোনও ঝুঁকি থেকে বিরত রাখতে হবে) সর্বাধিক বৃদ্ধি করছে।$u(y_i) = y_i$

আরেকটি পদ্ধতি: ওজন$\lambda$

আর একটি জিনিস করণীয়:

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{maximize (over $x$)} & \sum_i \lambda_i y_i \\ \mbox{subject to} & x \in X \\ & \mathbf{y} = f(x) \end{array}$$

স্বজ্ঞাতভাবে, আপনি ওজন বেছে নিতে পারেন যা কোনও রাষ্ট্রের সম্ভাবনা এর চেয়ে বড় বা ছোট এবং এটি একটি রাষ্ট্রের গুরুত্বকে ধারণ করে।p $\lambda_i$$p_i$

এই পদ্ধতির গভীর সমর্থনযোগ্যতা হ'ল নির্দিষ্ট প্রযুক্তিগত পরিস্থিতিতে লাম্বডা ওজন রয়েছে যেমন উপরের সমস্যা এবং পূর্ববর্তী সমস্যাগুলির (যেমন: সর্বাধিক ) এর একই সমাধান রয়েছে।ইউ ( এফ ( এক্স ) $\boldsymbol{\lambda}$$U(f(x))$

Comments

কিন্তু এই সেটআপে সমস্ত ইউটিলিটি ফাংশন একই উত্তরটির সঠিক দিকে পরিচালিত করে না?

— রাস্টিস্ট্যাটিস্টিশিয়ান

এবং ইউটিলিটি ফাংশন জন্য সাধারণ পছন্দ আছে? আমার সমস্যা হ'ল একটি স্টোকাস্টিক কম্পিউটার সিমুলেটর, যা আসলে একটি ব্ল্যাকবক্স সিমুলেটর, সুতরাং আমি অন্তর্নিহিত যান্ত্রিকগুলি সম্পর্কে কোনও তথ্য জানি না তাই আমি সম্ভবত এটি কোনও ইউটিলিটি ফাংশনও নির্ধারণ করতে পারি?

— রাস্টিস্ট্যাটাস্টিকিয়ান

আপনার সমস্যার যুক্তি দিয়ে আপনাকে ভাবতে হবে, একটি ভাল ফলাফল কী গঠন করে এবং তারপরে এমন কিছু উদ্দেশ্যমূলক ফাংশন সন্ধান করতে হবে যা আরও ভাল ফলাফলকে উচ্চতর সংখ্যক নিয়োগ করে। (অথবা equivalently, আপনি এই পর্যন্ত কম সমস্যা হিসেবে সেট করতে পারেন এবং খারাপ ফলাফলের একটি উচ্চ সংখ্যা নির্ধারণ যেমন স্কোয়ারড ত্রুটি ইত্যাদি .. কিছু ধারণা কমান।।)

— ম্যাথু Gunn