সময় সিরিজের ভবিষ্যদ্বাণী পারফরম্যান্স মূল্যায়ন


9

আমার একটি ডায়নামিক নাইভ বেইস মডেল বেশ কয়েকটি টেম্পোরাল ভেরিয়েবলের উপর প্রশিক্ষিত। মডেলটির আউটপুটটি P(Event) @ t+1প্রতিটি অনুমানের পূর্বাভাস t

চক্রান্ত P(Event)বনাম timeযেমন নীচের চিত্রে দেওয়া হয়। এই চিত্রে, কালো রেখাটিP(Event) আমার মডেল দ্বারা পূর্বাভাস হিসাবে উপস্থাপিত ; অনুভূমিক লাল রেখা ঘটনা ঘটছে পূর্ব সম্ভাব্যতা প্রতিনিধিত্ব করে; এবং বিন্দুযুক্ত উল্লম্ব লাইনগুলি সময় সিরিজে (পাঁচ) ইভেন্টের উপস্থিতি উপস্থাপন করে।

আদর্শভাবে, আমি P(Event)কোনও ইভেন্ট পর্যবেক্ষণ করার আগে পূর্বাভাসিত শীর্ষটি দেখতে এবং যখন কোনও ইভেন্টের সম্ভাবনা না থাকে তখন শূন্যের কাছাকাছি থাকতে চাই।

পি (ইভেন্ট) বনাম টাইম গ্রাফ

আমি ঘটনাটি ঘটনার পূর্বাভাস দেওয়ার ক্ষেত্রে আমার মডেল (ব্ল্যাক লাইন) কতটা ভাল পারফর্ম করে তা জানাতে সক্ষম হতে চাই। আমার মডেলটির সাথে তুলনা করার একটি সুস্পষ্ট প্রার্থী হ'ল ইভেন্টের পূর্ব সম্ভাবনা (লাল রেখা), যা পূর্বাভাসক হিসাবে ব্যবহৃত হয়- সবার জন্য একই সম্ভাবনার মানটির পূর্বাভাস দেয় t

এই তুলনা অর্জনের জন্য সেরা আনুষ্ঠানিক পদ্ধতি কী ?

পিএস: আমি বর্তমানে নীচের কোডড হিসাবে (স্বজ্ঞাত) স্কোরিং ব্যবহার করছি, যেখানে সামগ্রিকভাবে কম স্কোর আরও ভাল পূর্বাভাসের কর্মক্ষমতা নির্দেশ করে indicates আমি দেখতে পেয়েছি যে এই স্কোরিংয়ের সাথে পূর্বেরটিকে পরাজিত করা আসলে বেশ কঠিন:

# Get prediction performance
model_score = 0; prior_score=0; 

for t in range(len(timeSeries)):

   if(timeSeries[t]== event):  # event has happened
      cur_model_score = 1- prob_prediction[t]; 
      cur_prior_score = 1 - prior
   else: # no event
      cur_model_score = prob_prediction[t] - 0;
      cur_prior_score = prior - 0;

   model_score = model_score + abs(cur_model_score);
   prior_score = prior_score + abs(cur_prior_score);

আপনি কি মনে করেন আপনি কোনও অর্থবহ লোকসানের কাজটি চাপিয়ে দিতে পারেন? সঠিক / ভুল অনুমান করে আপনি কতটুকু লাভ / হারাবেন তা বলার উপায় আছে?
জেমস

আমি এটি ভেবেছিলাম, তবে আমি নিজের ইচ্ছে মতো কম বা উচ্চতর পারফরম্যান্স অর্জনের জন্য এমন একটি নির্বিচার লোকসান ফাংশনটি আবিষ্কার করতে চাই না যা আমি তাত্পর্যপূর্ণ করতে পারি।
ঝুবার্ব

উত্তর:


1

আপনি একটি আরওসি বক্ররেখা তৈরি করতে পারেন। 0 এবং 1 এর মধ্যে পি এর প্রদত্ত মানের জন্য আপনি ভবিষ্যদ্বাণী করেছেন সম্ভাবনা পি এর চেয়ে বেশি হলে ঘটনাটি ঘটতে চলেছে। তারপরে আপনি টিপিআর এবং এফপিআর গণনা করুন যা আপনাকে আরওসি বক্ররেখাতে একক পয়েন্ট দেয়। শূন্য এবং একের মধ্যে পি পরিবর্তিত করে আপনি সম্পূর্ণ বক্ররেখা পান। উদাহরণস্বরূপ পি <0.005 এর জন্য পূর্ব-ভিত্তিক পূর্বাভাসকারী সর্বদা বলবে যে ঘটনাটি সর্বদা ঘটবে।

আরও জানতে, দেখুন:

http://en.wikipedia.org/wiki/Receiver_operating_characteristic


কেবল যোগ করার জন্য যে এইউসি এই বক্ররেখার সংক্ষিপ্তসার হিসাবে পরিসংখ্যান হিসাবে উপলব্ধ।
অনুমান
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.