আরএমএসই থেকে সম্ভাবনা গণনা করা হচ্ছে

বেশ কয়েকটি পরামিতি সহ একটি ট্র্যাজেক্টোরি (এক্স ফাংশন হিসাবে এক্স) পূর্বাভাস দেওয়ার জন্য আমার কাছে একটি মডেল রয়েছে। এই মুহুর্তে, আমি পূর্বাভাসযুক্ত ট্র্যাজেক্টরি এবং পরীক্ষামূলকভাবে রেকর্ড করা ট্র্যাজেক্টোরির মধ্যে মূল অর্থ বর্গ ত্রুটি (আরএমএসই) গণনা করি। বর্তমানে, আমি এই পার্থক্যটি কমিয়ে আছি (আরএমএসই) সিমপ্লেক্স (মাতালাবের মধ্যে fminsearch) ব্যবহার করে। এই পদ্ধতিটি ভাল ফিট দেওয়ার জন্য কাজ করার সময়, আমি বেশ কয়েকটি বিভিন্ন মডেলের তুলনা করতে চাই, তাই আমার মনে হয় আমার সম্ভাবনাটি গুনতে হবে যাতে আমি আরএমএসই কমিয়ে না দেওয়ার চেয়ে সর্বাধিক সম্ভাবনার প্রাক্কলনটি ব্যবহার করতে পারি (এবং তারপরে এআইসি বা বিআইসি ব্যবহার করে মডেলগুলির তুলনা করতে পারি) )। এটি করার কোনও মানক উপায় আছে?

maximum-likelihood curve-fitting

— জেসন
সূত্র

মূল মানে স্কোয়ার ত্রুটি এবং সম্ভাবনাটি আসলে ঘনিষ্ঠভাবে সম্পর্কিত। বলুন আপনার কাছে একটি ডেটাসেট রয়েছে এবং আপনি মডেলটি ব্যবহার করে তাদের সম্পর্কের মডেল করতে চান । আপনি চতুর্ভুজ ত্রুটি হ্রাস করার সিদ্ধান্ত নেন $\lbrace x_i, z_i \rbrace$ $f$

\sum_{i} {(f (x_{i}) - z_{i})}^{2}

$\sum_i \left(f(x_i) - z_i\right)^2$

এই পছন্দটি কি পুরোপুরি স্বেচ্ছাচারিতা নয়? অবশ্যই, আপনি যে অনুমানগুলি সম্পূর্ণরূপে সঠিক, তার চেয়ে সঠিক হিসাবে বেশি দণ্ডিত করতে চান। স্কোয়ার ত্রুটিটি ব্যবহার করার জন্য খুব ভাল কারণ রয়েছে।

গাউসিয়ান ঘনত্বটি মনে রাখবেন: যেখানে হ'ল নরমালাইজেশন ধ্রুবক যা আমরা এখনই যত্ন করি না। আসুন ধরে নেওয়া যাক যে আপনার টার্গেট ডেটা একটি গাউসিয়ান অনুসারে বিতরণ করা হয়েছে। সুতরাং আমরা তথ্য সম্ভাবনা লিখতে পারেন। $\frac{1}{Z}\exp \frac{-(x - \mu)^2}{2\sigma^2}$ $Z$ $z$

L = \prod_{i} \frac{1}{Z} \exp \frac{- (f (x_{i}) - z_{i})^{2}}{2 σ^{2}}

$\mathcal{L} = \prod_i \frac{1}{Z}\exp \frac{-(f(x_i) - z_i)^2}{2\sigma^2}$

এখন আপনি যদি এর লগারিদম নেন ...

\log L = \sum_{i} \frac{- (f (x_{i}) - z_{i})^{2}}{2 σ^{2}} - \log Z

$\log \mathcal{L} = \sum_i \frac{-(f(x_i) - z_i)^2}{2\sigma^2} - \log Z$

... এটি প্রমাণিত হয়েছে যে এটি আরএমএসের সাথে খুব ঘনিষ্ঠভাবে সম্পর্কিত: কেবলমাত্র পার্থক্যগুলি হ'ল কিছু ধ্রুবক পদ, একটি বর্গমূল এবং একটি গুণ lic

দীর্ঘ গল্প সংক্ষিপ্ত: মূলের স্কোয়ার ত্রুটিটি হ্রাস করা ডেটার লগ সম্ভাবনা সর্বাধিক করার সমতুল্য।

— bayerj
সূত্র

পরিষ্কার ব্যাখ্যার জন্য ধন্যবাদ। সুতরাং আমি যদি বিআইসি ব্যবহার করে দুটি (এম্বেডযুক্ত নয়) মডেলগুলির তুলনা করতে চাই, তবে সম্ভাবনা গণনা করার সময় আমি কেবল সিগমা ^ 2 এবং জেড শর্তাদি (কার্যকরভাবে ধরে নিচ্ছি যে তারা মডেলগুলিতে একই রকম)?

— জেসন 10

হ্যাঁ. উভয় পদই কেবল উপর নির্ভর করে , সুতরাং উভয় সমান হলে আপনি সেগুলি ফেলে দিতে পারেন ।

σ

$\sigma$

σ

$\sigma$

— বৈয়ারজ

আমি মনে করি উপরের শেষ ধাপে কোনও ভুল রয়েছে (সম্ভাবনার লগটি নেওয়া), এটি হওয়া উচিত: এটি "নীচের লাইন" পরিবর্তন করে না কারণ লগের সম্ভাবনাটি আরএমএসই-র সাথে রৈখিকভাবে সম্পর্কিত, সুতরাং আরএমএসই হ্রাস করা লগ সম্ভাবনা হ্রাস করার সমতুল্য

\log L = \sum_{i} \frac{(f (x_{i}) - z_{i})^{2}}{2 σ^{2}} - \log Z

$\log \mathcal{L} = \sum_i \frac{(f(x_i) - z_i)^2}{2\sigma^2} - \log Z$

— জেসন

গাউসির বিতরণে কি নেতিবাচক চিহ্নটি নেই?

— মনোজ

উপসংহারটি বিপরীত হওয়া উচিত নয়? স্কোয়ার ত্রুটির যোগফলকে হ্রাস করা লগ-সম্ভাবনা (একটি নির্দিষ্ট ) সর্বাধিক করে তোলে এবং এইভাবে সম্ভাবনা সর্বাধিক করে তোলে (যেহেতু লগ একরোটিক হয়)।

σ

$\sigma$

— টিম গুডম্যান