অজানা গোলমাল ফাংশন সর্বাধিক করা হচ্ছে

Question

আমি একটি ফাংশন পূর্ণবিস্তার আগ্রহী , যেখানে ।$f(\mathbf \theta)$$\theta \in \mathbb R^p$

সমস্যাটি হ'ল আমি ফাংশনটির বিশ্লেষণাত্মক রূপ বা এর ডেরাইভেটিভগুলি জানি না। আমি যা করতে পারি তা হ'ল ফাংশনটি বিন্দু অনুসারে মূল্যায়ন করা, একটি মান এবং সেই সময়ে একটি NOISY অনুমান পান। যদি আমি চাই তবে আমি এই অনুমানের পরিবর্তনশীলতা হ্রাস করতে পারি, তবে আমাকে ক্রমবর্ধমান গণনা ব্যয় দিতে হবে। $\theta_*$$\hat{f}(\theta_*)$

আমি এখন পর্যন্ত যা চেষ্টা করেছি তা এখানে:

• সীমাবদ্ধ পার্থক্য সহ স্টোকাস্টিক স্টিপেষ্ট বংশোদ্ভূত: এটি কাজ করতে পারে তবে এটির জন্য অনেকগুলি টিউনিং প্রয়োজন (প্রাক্তন লাভের অনুক্রম, স্কেলিং ফ্যাক্টর) এবং এটি প্রায়শই খুব অস্থির হয়।

• সিমুলেটেড অ্যানিলিং: এটি কাজ করে এবং এটি নির্ভরযোগ্য, তবে এটির জন্য প্রচুর ফাংশন মূল্যায়ন প্রয়োজন তাই আমি এটি বেশ ধীর পেয়েছি।

সুতরাং আমি সম্ভাব্য বিকল্প অপ্টিমাইজেশন পদ্ধতি সম্পর্কে পরামর্শ / ধারণা চাইছি যা এই শর্তগুলির অধীনে কাজ করতে পারে। খনি থেকে পৃথক গবেষণা ক্ষেত্রগুলির পরামর্শগুলি উত্সাহিত করার জন্য আমি যতটা সম্ভব সমস্যাটি রেখেছি। আমার অবশ্যই যুক্ত করা উচিত যে আমি এমন একটি পদ্ধতির প্রতি খুব আগ্রহী হব যা আমাকে রূপান্তরিত করে হেসিয়ান সম্পর্কে একটি অনুমান দিতে পারে। এটি কারণ প্যারামিটারগুলির অনিশ্চয়তা অনুমান করতে আমি এটি ব্যবহার করতে পারি । অন্যথায় অনুমান করার জন্য আমাকে সর্বাধিকের কাছাকাছি সীমাবদ্ধ পার্থক্য ব্যবহার করতে হবে।$\theta$

Comments

যদি আপনি আপনার ফাংশনের আউটপুটটির সাথে সম্পর্কিত শব্দের বিষয়ে আরও নির্দিষ্ট কিছু বলতে না পারেন তবে আমি নিশ্চিত না যে সিমুলেটেড অ্যানেলিংয়ের চেয়ে আরও পরিশীলিত কিছু (আপনার এমনকি কিছুটা হলেও এটি সুর করতেও হবে), সহায়ক হবে।

— অরন আহমদিয়া

দুর্ভাগ্যক্রমে আমি প্রতিটি ফাংশন মূল্যায়নের সাথে যুক্ত এলোমেলো গোলমাল সম্পর্কে বেশি জানি না। তার বন্টন অজানা, এবং এটা একটি ফাংশন হতে পারে । অন্যদিকে ক্রমবর্ধমান ফাংশন মূল্যায়নের প্রভাব ফেলে এমন শোরগোলগুলি স্বাধীন। স্পষ্টতই আমি ধরে নিচ্ছি যে শব্দের ভিন্নতা প্রকাণ্ড নয়, অন্যথায় সর্বোচ্চকরণ অসম্ভব হবে। $\theta$

— জুগুরথা

অন্যদিকে অনুমান আমি গোলমাল বন্টন সম্পর্কে কিছু জানি যে, উদাহরণস্বরূপ যে জন্য চ ( θ * ) ~ এন ( চ ( θ * ) , σ ) । এই জ্ঞান কি আমাকে সাহায্য করবে? $\hat{f}(\theta_*) \sim N(f(\theta_*),\sigma)$

— জুগুরথা

দেখে মনে হচ্ছে আমি প্রফেসর নিউমায়ার সংশোধন করে দাঁড়িয়েছি :)

— অ্যারন আহমদিয়া

এখানে পদার্থবিজ্ঞানীরা, আমি অপটিকাল ফেজ গঠনের জন্য সিএমএ-ইএস ব্যবহার করেছি (একটি পালসারের মাধ্যমে একটি লেজারের ডালের পর্বটি অনুকূলকরণ), যা বেশ গোলমাল।

— 27 তে টিলস্টেন

Answer 1

আমাদের মাতলাব প্যাকেজ স্নোবফিট এই উদ্দেশ্যে তৈরি করা হয়েছিল। গোলমাল বিতরণ সম্পর্কে কোনও অনুমানের প্রয়োজন নেই। অধিকন্তু, ফাংশন মানগুলি পাঠ্য ফাইলগুলির মাধ্যমে সরবরাহ করা যেতে পারে, সুতরাং আপনি এটি কোনও পাঠ্য ফাইল লিখতে সক্ষম যে কোনও সিস্টেমে প্রয়োগ করা ফাংশনে প্রয়োগ করতে পারেন। Http://www.mat.univie.ac.at/~neum/software/snobfit/ দেখুন

স্নোবফিট এমন একটি অ্যাপ্লিকেশনের জন্য তৈরি করা হয়েছিল যেখানে অনুকূলিতকরণের জন্য ফাংশনটি উপস্থিত ছিল না এবং ফাংশন মানগুলি (উত্পাদন মানের একটি পরিমাপ) বিশেষায়িত, ব্যয়বহুল সরঞ্জামগুলি নমুনা পণ্য তৈরি করে এবং এগুলি হাতে হাতে পরিমাপ করে প্রাপ্ত হয়েছিল, যার ফলস্বরূপ প্রায় 50 ফাংশন ঘটে প্রতিদিন মূল্যায়ন।

Comments

উত্তরের জন্য তোমাকে অনেক ধন্যবাদ. আমি আপনার নিবন্ধটি স্নোবফিট প্যাকেজ সম্পর্কিত পড়া শুরু করেছি এবং আমি এটি সত্যিই আকর্ষণীয় বলে মনে করি। এছাড়াও, আপনার নিবন্ধের ভূমিকা পড়ার সময়, আমি বুঝতে পারি যে আমি যে সমস্যাটি মোকাবিলা করছি (একটি পরিসংখ্যানগত প্রেক্ষাপটে) শিল্প গণিতে খুব ঘন ঘন ঘটে। এখানে একটি বিশাল সাহিত্য আছে যার সম্পর্কে আমি সম্পূর্ণ অজানা ছিলাম। আসলে আমি যে পদ্ধতির সাথে কাজ করছিলাম তা পাওয়েল (২০০২) এর চতুষ্কোণ অনুমানের সাথে কিছুটা মিল।

— জুগুরথা

স্বাধীনতার 128 ডিগ্রি সহ স্নোবিফিট কি ভালভাবে কাজ করে? শুধু জানতে আমার মামলার জন্য চেষ্টা করা মূল্যবান।

— 28 তে টিলেস্টেন

@ টিলেস্টেন: আপনি যদি বিপুল সংখ্যক ফাংশন মান ব্যয় করতে না পারেন তবে 128 ডফের সাথে শোরগোলের সমস্যার কোনও পদ্ধতি ভালভাবে কাজ করে না। আপনি আমাদের ভিএক্সকিউআর 1 চেষ্টা করে দেখতে পারেন, যদিও এটি গোলমাল সমস্যার জন্য নয়, তবে মাঝে মাঝে গোলমাল সমস্যার ভালভাবে পরিচালনা করে।

— আর্নল্ড নিউমায়ার

স্নোবিফিটের সীমাটি প্রায় 20 ভেরিয়েবল। আপনার যদি আরও থাকে তবে আপনার 20 টি ভেরিয়েবলের সাধারণ জ্ঞান গোষ্ঠীগুলি নির্বাচন করতে হবে যা আপনি আংশিকভাবে পরিবর্তিত হবে। অথবা আপনি এক সাথে কিছু পরিবর্তনশীল স্লাইড করতে দিতে যাতে মাত্রা হ্রাস করা যায়।

— আর্নল্ড নিউমায়ার

Answer 2

আপনি চেষ্টা করতে পারেন এমন বেশ কয়েকটি বায়েশিয়ান অপ্টিমাইজেশন কৌশল রয়েছে। সহজতম গাউসিয়ান প্রক্রিয়া ভিত্তিক:

• হ্যারল্ড জে কুশনার। গোলমালের উপস্থিতিতে স্বেচ্ছাসেবী মাল্টিপেক বক্ররেখা সর্বাধিক চিহ্নিত করার একটি নতুন পদ্ধতি। বেসিক ইঞ্জিনিয়ারিং জার্নাল, পৃষ্ঠা: 86: 97–106, মার্চ 1964।
• জে মকুস। বৈশ্বিক অপ্টিমাইজেশনের দিকে বায়েশিয়ান পদ্ধতি। নিয়ন্ত্রণ এবং তথ্য বিজ্ঞানগুলিতে বক্তৃতা নোটস, 38: 473–481, 1982।
• নিরঞ্জন শ্রীনিভাস, আন্দ্রেয়াস ক্রাউস, শাম কাকাদে এবং ম্যাথিয়াস সিগার। দস্যু সেটিংয়ে গাউসিয়ান প্রক্রিয়া অপ্টিমাইজেশন: আফসোস এবং পরীক্ষামূলক নকশা নেই। প্রোকে। মেশিন লার্নিং সম্পর্কিত আন্তর্জাতিক সম্মেলন (আইসিএমএল), ২০১০।
• আন্দ্রেয়াস ক্রাউস, অজিত সিং এবং কার্লোস গেস্টরিন। গাউসিয়া প্রসেসগুলিতে নিকট-অনুকূল সেন্সর প্লেসমেন্টগুলি: তত্ত্ব, দক্ষ অ্যালগরিদম এবং অভিজ্ঞতা অভিজ্ঞতা। জে মাচ। উপায় সম্পর্কে জানুন। রেজিস।, 9: 235–284, জুন 2008।

এগুলি গ্রহণযোগ্য ফাংশনগুলির উপরে একটি পোস্টারিয়র গঠন করে এখন পর্যন্ত পর্যবেক্ষণ দেয় এবং পরবর্তী কার্যটি দ্রুত শিখার পাশাপাশি বিশ্বব্যাপী ম্যাক্সিমা ( আমার ব্লগ পোস্ট দেখুন ) সন্ধান করার পরামর্শ দেয়।

আরেকটি সুবিধা হ'ল আপনি ম্যাক্সিমায়ার হেেসিয়ান অনুমান করতে পারেন। যাইহোক, আপনি একটি শব্দ মডেল নির্দিষ্ট করা প্রয়োজন।

Answer 3

জেমস স্পালের এসপিএসএ অ্যালগরিদম (স্টোকাস্টিক পার্টহিউনিশন সিমুলেটেড অ্যানিলিং এর জন্য সংক্ষিপ্ত, যদি আমি সঠিকভাবে মনে করি) ঠিক এই ধরণের সমস্যার জন্য ডিজাইন করা হয়েছে। তাঁর কয়েকটি কাগজপত্র রয়েছে যেখানে তিনি এটি বর্ণনা করেছেন এমন সমস্যার জন্য ব্যবহার করে।

Comments

আমি স্টিপেস্ট বংশোদ্ভূত স্ট্রিচস্টিক সংস্করণ এবং র‌্যাফসন নিউটনের উপর ভিত্তি করে স্পেলের পদ্ধতির চেষ্টা করেছি। আমি সিমুলেটেড আনিলিং চেষ্টা করেছিলাম, তবে স্পেল দ্বারা প্রস্তাবিত সংস্করণটি নয়, আমার চেষ্টা করা উচিত। আমি সিমুলেটেড অ্যানিলিং সম্পর্কে সত্যিই উত্সাহী নই, কারণ আমি রূপান্তরিত সময়ে হেসিয়ান সম্পর্কে কোনও অনুমান পেতে পারি না (যখন উদাহরণস্বরূপ, স্টোকাস্টিক রাফসন নিউটনের সাহায্যে আমি হেসিয়ান "ফ্রি" এর সাথে একটি সান্নিধ্য পেতে পারি)।

— জুগুরথা