সংখ্যার অনুকূলকরণ কৌশল হিসাবে গ্রেডিয়েন্ট বংশোদ্ভূত বনাম মন্টি কার্লো কখন ব্যবহার করবেন Car


11

যখন সমীকরণের একটি সেট বিশ্লেষণাত্মকভাবে সমাধান করা যায় না, তখন আমরা গ্রেডিয়েন্ট বংশদ্ভুত অ্যালগরিদম ব্যবহার করতে পারি। তবে মনে হয় মন্টি কার্লো সিমুলেশন পদ্ধতিও রয়েছে যা বিশ্লেষণাত্মক সমাধান না থাকা সমস্যাগুলি সমাধান করতে ব্যবহার করা যেতে পারে।

গ্রেডিয়েন্ট বংশদ্ভুত কখন ব্যবহার করবেন এবং মন্টি কার্লো কখন ব্যবহার করবেন তা কীভাবে বলবেন? বা আমি কি কেবল 'সিমুলেশন' শব্দটিকে 'অপটিমাইজেশন' দিয়ে বিভ্রান্ত করছি?

আপনাকে অনেক ধন্যবাদ!

উত্তর:


4

এই কৌশলগুলি বিভিন্ন জিনিস করে।

গ্রেডিয়েন্ট বংশদ্ভুত একটি অপ্টিমাইজেশন কৌশল, অতএব এটি কোনও পরিসংখ্যান পদ্ধতিতে সাধারণ যেটির জন্য সর্বোচ্চকরণ (এমএলই, এমএপি) প্রয়োজন।

মন্টে কার্লো সিমুলেশন কোনও বিতরণ থেকে নমুনা তৈরি করে এবং নমুনাগুলির উপর কিছু ক্রিয়াকলাপ মূল্যায়ন করে সংহতগুলি গণনা করার জন্য। সুতরাং এটি সাধারণত এমন কৌশলগুলির সাথে ব্যবহৃত হয় যার প্রত্যাশার গণনা প্রয়োজন (বায়েশিয়ান ইনফারেন্স, বায়েসিয়ান হাইপোথেসিস টেস্টিং)।


সুতরাং গ্রেডিয়েন্ট বংশোদ্ভূত পার্থক্য (ম্যাক্সিমা, মিনিমা) এবং মন্টে কার্লো সংযুক্তির সাথে যুক্ত?
ভিক্টর

গ্রেডিয়েন্ট হ'ল ডেরাইভেটিভের একটি (অনেকের মধ্যে একটি) সাধারণীকরণ। সুতরাং গ্রেডিয়েন্ট বংশোদ্ভূত পার্থক্যের সাথে যুক্ত। তবে আমি বলব, "গ্রেডিয়েন্ট বংশোদ্ভূত অপ্টিমাইজেশনের জন্য ডেরিভেটিভস ব্যবহার করে" এবং "মন্টি কার্লো সংহতকরণের জন্য নমুনা ব্যবহার করে," যদি আমাকে যতটা সম্ভব শব্দ ব্যবহার করতে হয়।
jlimahaverford

4

এটি উভয়ই অ্যালগোরিদমের বিশাল পরিবার, সুতরাং আপনাকে একটি সুনির্দিষ্ট উত্তর দেওয়া কঠিন, তবে ...

আপনি সর্বাধিক (বা সর্বনিম্ন) সন্ধান করতে চাইলে গ্রেডিয়েন্ট অ্যাসেন্ট (বা বংশদ্ভুত) কার্যকর হয়। উদাহরণস্বরূপ, আপনি সম্ভাব্যতা বিতরণের মোড বা প্যারামিটারগুলির সংমিশ্রণটি খুঁজে পেতে পারেন যা কিছু ক্ষতি ফাংশন হ্রাস করে। এই অতিরিক্তগুলির সন্ধান করতে যে "পথ" লাগে এটি আপনাকে ফাংশনের সামগ্রিক আকার সম্পর্কে কিছুটা বলতে পারে, তবে এটির উদ্দেশ্য নয়; প্রকৃতপক্ষে, এটি যত ভাল কাজ করবে ততই আপনি চূড়ান্ত ব্যতীত সমস্ত কিছু সম্পর্কে জানবেন।

মন্টি কার্লো পদ্ধতিগুলির নাম মন্টি কার্লো ক্যাসিনো নামকরণ করা হয়েছে কারণ তারা ক্যাসিনোর মতো এলোমেলোকরণের উপর নির্ভর করে। এটি বিভিন্ন উপায়ে ব্যবহার করা যেতে পারে, তবে এগুলির বেশিরভাগই বিতরণগুলি প্রায় অনুমানের উপর ফোকাস করে। মার্কভ চেইন মন্টি কার্লো অ্যালগরিদম উদাহরণস্বরূপ, জটিল সম্ভাবনা বিতরণ থেকে দক্ষতার সাথে নমুনার উপায়গুলি সন্ধান করুন। অন্যান্য মন্টি কার্লো সিমুলেশনগুলি সম্ভাব্য ফলাফলগুলির উপর বিতরণ তৈরি করতে পারে।


"মন্টি কার্লো পদ্ধতি" সাধারণত নমুনাগুলি প্রাপ্তির পদ্ধতির বিপরীতে নমুনাগুলির সাথে আপনি কী করেন তা বোঝায় । MCMC এ "মার্কভ চেইন" নমুনাগুলি প্রাপ্তির প্রক্রিয়া বোঝায়।
jlimahaverford

সত্যি? আমি সবসময়ই ভেবেছিলাম যে মন্টি কার্লো বোঝায় যে কিছু র্যান্ডমাইজেশন চলছে এবং এর চেয়ে বেশি কিছু বোঝাতে চাই না। MCMC- এ, সত্য যে মার্কভ চেইনগুলি জড়িত, তবে আপনি শৃঙ্খলাগুলি থেকে এলোমেলোভাবে নমুনাও নিচ্ছেন (সুতরাং। মন্টে-কার্লো) /
ম্যাট ক্রাউস

সম্ভবত এটি মতামত একটি বিষয়। আমি যদি কোনও উত্তরোত্তর বিতরণের গড় আনুমানিক হিসাবে এমসিএমসি ব্যবহার করে থাকি, তবে আমি আমার নরমালাইজড বিতরণ থেকে প্রায় নমুনা হিসাবে মার্কভ চেইনে এলোমেলো হাঁটা ব্যবহার করব, আমি আনুমানিক গড় হিসাবে মন্টি কার্লো ইন্টিগ্রেশন ব্যবহার করব। আমি স্যাম্পলিং পদ্ধতিগুলিকে এমন সরঞ্জাম হিসাবে বিবেচনা করি যা মন্টি কার্লো পদ্ধতিগুলিকে সক্ষম করে। উদাহরণস্বরূপ, আমি মন্টি কার্লো পদ্ধতির নমুনা নমুনা বলব না, তবে আমি কেউ কল করতে পারি যে সেগুলি একসাথে ব্যবহার করছে।
jlimahaverford

এই সমস্ত বলা হচ্ছে, উইকিপিডিয়া প্রত্যাখ্যানকে একটি মন্টি কার্লো পদ্ধতির নমুনা বিবেচনা করে। সুতরাং এটি বেশ সম্ভব যে এখানে আমার ধারণাগুলি সম্পূর্ণ ভুল।
jlimahaverford

2

যেমন অন্যদের দ্বারা ব্যাখ্যা করা হয়েছে, গ্রেডিয়েন্ট বংশোদ্ভূত / উত্থান অপ্টিমাইজেশন সম্পাদন করে, অর্থাৎ কোনও ফাংশনের সর্বাধিক বা ন্যূনতম সন্ধান করে। মন্টে কার্লো স্টোকাস্টিক সিমুলেশনের একটি পদ্ধতি, অর্থাত্ বারবার এলোমেলো নমুনার মাধ্যমে একটি संचयी বিতরণ ফাংশনটি প্রায় অনুমান করে। একে "মন্টি কার্লো ইন্টিগ্রেশন" নামেও ডাকা হয় কারণ অবিচ্ছিন্ন বিতরণের সিডিএফ আসলে একটি অবিচ্ছেদ্য।

গ্রেডিয়েন্ট বংশোদ্ভূত এবং মন্টি কার্লো-এর মধ্যে সাধারণ বিষয় হ'ল যে কোনও সমস্যা যেখানে ক্লোজড-ফর্মের সমাধান নেই সেখানে তারা বিশেষত কার্যকর। যখনই কোনও বিশ্লেষণাত্মক সমাধান সম্ভব হয় তখন আপনি যে কোনও উত্তল ফাংশনের সর্বাধিক বা ন্যূনতম বিন্দু সন্ধান করতে সাধারণ পার্থক্য ব্যবহার করতে পারেন। যখন এই জাতীয় সমাধানের অস্তিত্ব থাকে না, তখন আপনাকে পুনরাবৃত্ত পদ্ধতি যেমন গ্রেডিয়েন্ট বংশদ্ভুত ব্যবহার করতে হবে। মন্টি কার্লো সিমুলেশন জন্য একই হয়; আপনি মূলত বিশ্লেষণাত্মকভাবে কোনও সিডিএফ গণনা করার জন্য প্লেইন ইন্টিগ্রেশন ব্যবহার করতে পারেন তবে এমন কোনও গ্যারান্টি নেই যে এই ধরনের বদ্ধ ফর্ম সমাধান সর্বদা সম্ভব হবে। মন্টি কার্লো সিমুলেশন দিয়ে সমস্যাটি আবারও সমাধানযোগ্য হয়ে ওঠে।

আপনি কি সিমুলেশনের জন্য গ্রেডিয়েন্ট বংশদ্ভুত এবং অপ্টিমাইজেশনের জন্য মন্টি কার্লো ব্যবহার করতে পারেন? সহজ উত্তরটি হ'ল না। মন্টি কার্লোর নমুনার জন্য স্টোকাস্টিক উপাদান (বিতরণ) প্রয়োজন এবং গ্রেডিয়েন্ট বংশোদ্ভূত স্টোকাস্টিক তথ্য সমস্যাগুলি পরিচালনা করার কোনও উপায় নেই। তবে, আরও শক্তিশালী স্টোকাস্টিক অপ্টিমাইজেশন অ্যালগরিদমগুলি তৈরি করতে যাতে সাধারণ গ্রেডিয়েন্ট বংশোদ্ভূত সমস্যা সমাধান করতে অক্ষম এমন খুব জটিল সমস্যা সমাধান করতে সক্ষম হয়ে আপনি অপ্টিমাইজেশনের সাথে সিমুলেশনটি একত্রিত করতে পারেন। এর উদাহরণ হ'ল সিমুলেটেড আনিলিং মন্টি কার্লো।


2

এই উত্তরটি আংশিক ভুল। আপনি প্রকৃতপক্ষে মন্টি কার্লো পদ্ধতিগুলি গ্রেডিয়েন্ট বংশদ্ভুতের সাথে সংযুক্ত করতে পারেন। ক্ষতির ফাংশনের গ্রেডিয়েন্ট অনুমান করতে আপনি মন্টি কার্লো পদ্ধতি ব্যবহার করতে পারেন, যা পরে প্যারামিটারগুলি আপডেট করার জন্য গ্রেডিয়েন্ট বংশোদ্ভুত দ্বারা ব্যবহৃত হয়। গ্রেডিয়েন্টটি অনুমান করার জন্য একটি জনপ্রিয় মন্টো কার্লো পদ্ধতি হ'ল স্কোর গ্রেডিয়েন্ট অনুমানক , যা উদাহরণস্বরূপ পুনর্বিকরণ শিখতে ব্যবহার করা যেতে পারে। মেশিন লার্নিংয়ে মন্টে কার্লো গ্রেডিয়েন্ট অনুমান দেখুন (2019) শাকির মোহাম্মদ এট আল দ্বারা। আরও তথ্যের জন্য.

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.