নিউরাল নেটওয়ার্কস - ক্ষতি এবং যথাযথ সম্পর্ক

Question

নিউরাল নেটওয়ার্কগুলিতে লস এবং যথার্থ মেট্রিকের সহাবস্থান থেকে আমি কিছুটা বিভ্রান্ত হয়ে পড়েছি। উভয়ই এবং of এর তুলনার "নির্ভুলতা" রেন্ডার করার কথা , তাই না? তাহলে প্রশিক্ষণ পর্বে দু'জন নিরঙ্কুশের প্রয়োগ নয়? তদুপরি তারা কেন পারস্পরিক সম্পর্ক রাখছে না?$y$$\hat{y}$

Answer 1

লগ ক্ষতি এটি চমৎকার একটি বৈশিষ্ট্য যে সম্পত্তি আছে। নির্ভুলতা আরও গুরুত্বপূর্ণ হতে পারে এবং স্পষ্টভাবে আরও ব্যাখ্যাযোগ্য তবে ব্যাকপ্রোপেজ অ্যালগরিদমের কারণে নেটওয়ার্কের প্রশিক্ষণে সরাসরি ব্যবহারযোগ্য নয় যার জন্য ক্ষতির কার্যটি পৃথকযোগ্য হওয়া প্রয়োজন। যখন আপনার পছন্দসই ক্ষতি সরাসরি অপ্টিমাইজ হয় না (যথার্থতার মতো) আপনি একটি ক্ষতির ফাংশন ব্যবহার করেন যা প্রকৃত মেট্রিকের প্রকৃতির সাথে অনুরূপ আচরণ করে। বাইনারি শ্রেণিবদ্ধকরণের ক্ষেত্রে আপনি শেষে সিগময়েড এবং আনুমানিক নির্ভুলতার জন্য একটি লগ ক্ষতি ব্যবহার করবেন। তারা অত্যন্ত পরস্পর সম্পর্কিত।

Answer 2

ক্ষতি নির্ভুলতার চেয়ে সাধারণ is শ্রেণিবদ্ধকরণে, আপনি 100% নির্ভুলতায় যেতে পারেন, যেখানে সমস্ত লেবেল সঠিকভাবে পূর্বাভাস দেওয়া হয়েছে। তবে রিগ্রেশন বা পূর্বাভাস সম্পর্কে কী বলা যায়? 0% এবং 100% এর কোনও সংজ্ঞা নেই

লোকসান বিভিন্ন পদ্ধতির সাথে অনুকূল করা যায়। সংখ্যাসমূহ পদ্ধতিতে ক্লাসে, আপনি নিউটনের পদ্ধতি, দ্বিখণ্ডিত পদ্ধতি ইত্যাদি বিভিন্ন পদ্ধতির সাহায্যে করে (যা হ্রাস করছেন ) সমাধান করতে শিখেছেন$|y_{hat}-y|$

Answer 3

হ্যাঁ, তারা উভয়ই y এবং y_hat এর যথার্থতা পরিমাপ করে এবং হ্যাঁ তারা সাধারণত পরস্পর সম্পর্কযুক্ত। কখনও কখনও ক্ষতির ফাংশনটি নির্ভুলতা নাও হতে পারে তবে আপনি সরাসরি এটি অপ্টিমাইজ না করলেও আপনি সঠিকতাটি মাপতে আগ্রহী। গুগলের টেনসরফ্লো এমএনআইএসটি উদাহরণ ক্রস এনট্রপি ক্ষতিকে হ্রাস / কমিয়ে দেয় তবে ফলাফলের প্রতিবেদন করার সময় ব্যবহারকারীর যথার্থতা প্রদর্শন করে এবং এটি পুরোপুরি ঠিক আছে।

কখনও কখনও আপনি সরাসরি নির্ভুলতা অনুকূল করতে চান না। উদাহরণস্বরূপ, আপনার যদি গুরুতর শ্রেণির ভারসাম্যহীনতা থাকে তবে আপনার মডেল সর্বদা সাধারণ শ্রেণি বাছাই করে যথার্থতা সর্বাধিক করে তুলবে তবে এটি কোনও দরকারী মডেল হবে না। এই ক্ষেত্রে এন্ট্রপি / লগ-ক্ষতি অপ্টিমাইজ করার জন্য আরও ভাল ক্ষতি ফাংশন হবে।

Comments

আরও গুরুত্বপূর্ণ, নির্ভুলতা একটি পার্থক্যমূলক ফাংশন নয় তাই আপনি এর মাধ্যমে ব্যাকপ্রোপেট করতে পারবেন না।

— জান ভ্যান ডের Vegt

@ জাভান্দারভেগ্ট হ্যাঁ, এটি একটি দুর্দান্ত বিষয়

— রায়ান জোটি

আমি শিখেছি যে কেরাসে আমি একটি "কাস্টম" মূল্যায়ন মেট্রিক্স রাখতে পারি (এই ক্ষেত্রে কাস্টম অনুসারে আমি বলতে চাইছি যে সংকলন ফাংশনে কেরাসে কোনও বিল্ট-ইন বাস্তবায়ন নেই, যেমন এউসি বা এফ 1-স্কোর)। আমি অনুমান করি যে এক্ষেত্রে এই "কাস্টম" মেট্রিকগুলি show_accuracyযথাযথতার পরিবর্তে যেখানেই প্যারামিটারটি সত্য হিসাবে সেট করা হয়েছে তার পরিবর্তে ব্যবহৃত হবে / প্রদর্শিত হবে (যেমন উপযুক্তকরণ বা মূল্যায়নের ক্ষেত্রে)। এটা কি ঠিক?

— হেন্ডরিক

@ হেনড্রিক হ্যাঁ, আপনি কেবল একটি def your_own_metric(y_true, y_pred)ফাংশন তৈরি করতে এবং এটি পাস করতে পারেনmodel.compile(..., metrics=[your_own_metric])

— ই