কেন 0-1 লোকসানের কাজটি অক্ষম?

Question

আয়ান গুডফেলোর ডিপ লার্নিং বইয়ে এটি লেখা আছে

কখনও কখনও, আমরা ক্ষতি সম্পর্কিত ফাংশনটি সত্যই বলে থাকি (বলুন, শ্রেণিবিন্যাস ত্রুটি) কোনওটি দক্ষতার সাথে অনুকূল করা যায় না। উদাহরণস্বরূপ, প্রত্যাশিত 0-1 হ্রাসটি হ্রাস করা সাধারণত রৈখিক শ্রেণিবদ্ধের জন্য সাধারণত ইনট্রাক্ট (ইনপুট মাত্রায় ক্ষতিকারক) is এই ধরনের পরিস্থিতিতে, সাধারণত এর পরিবর্তে একটি সার্গেট লোকসান ফাংশন অনুকূল করে, যা প্রক্সি হিসাবে কাজ করে তবে এর সুবিধাও রয়েছে।

0-1 লোকস কেন অচল, বা ইনপুট মাত্রাগুলিতে এটি কীভাবে তাত্পর্যপূর্ণ?

Answer 1

$\beta$$\mathbf{1}(y_{i}\beta\mathbf{x}_{i} \leq 0)$$i$$2^{n}$$n$মোট নমুনা পয়েন্ট। এটি এনপি-হার্ড হিসাবে পরিচিত। আপনার ক্ষতি ফাংশনের বর্তমান মানটি জানা আপনার উন্নততর ক্ষেত্রে আপনার বর্তমান সমাধানটি কীভাবে সম্ভব সংশোধন করা উচিত সে সম্পর্কে কোনও সূত্র সরবরাহ করে না, কারণ উত্তল বা অবিচ্ছিন্ন ফাংশনগুলির জন্য গ্রেডিয়েন্ট পদ্ধতিগুলি উপলব্ধ থাকলে আপনি পেতে পারেন।

Comments

খুব ভাল পয়েন্ট - অনুশীলনে র্যান্ডম অনুসন্ধান বা নিখুঁত অনুসন্ধান কেবলমাত্র এমন একটি পদ্ধতি যা এই ধরনের ক্ষতির কার্যকারিতাটি সর্বনিম্ন সন্ধান করতে ব্যবহার করা যেতে পারে, তাই না?

— ডেলটাভ

^^ বা বিবর্তনীয় / ঝাঁকনি ভিত্তিক বুদ্ধি পদ্ধতি?

— সামরা ইরশাদ 5'18

@ সমরাইশাদ হ্যাঁ, আসলে 0-1 লোকলটি বিবর্তন পদ্ধতিতে দেখা অস্বাভাবিক কিছু নয়।

— জন ডুয়েস্ট

জটিল বিবর্তনীয় / জড়াল অ্যালগরিদমের দিকে র্যান্ডম অনুসন্ধান থেকে ঝাঁপ দেওয়ার আগে আমি ক্রস-এনট্রপি পদ্ধতি (সিইএম) পরীক্ষা করে দেখতাম।

— ম্যাক্সি

Answer 2

শ্রেণিবিন্যাস ত্রুটি আসলে কখনও কখনও ট্র্যাকটেবল হয়। নিবন্ধ-মাংস পদ্ধতিটি ব্যবহার করে, নিখরচায় - নিখুঁতভাবে না হলেও দক্ষতার সাথে এটি অনুকূলভাবে তৈরি করা যেতে পারে:

https://www.computer.org/csdl/trans/tp/1994/04/i0420-abs.html

"মাত্রা হ্রাস হ'ল বহুমাত্রিক ভেক্টরগুলিকে একটি নিম্ন-মাত্রিক স্থানে রূপান্তর করার প্রক্রিয়া pattern প্যাটার্ন স্বীকৃতি হিসাবে, প্রায়শই এই কাজটি শ্রেণিবদ্ধকরণের তথ্যের উল্লেখযোগ্য ক্ষতি ছাড়াই সম্পাদন করার ইচ্ছা হয় The বেইস ত্রুটি এই উদ্দেশ্যে একটি আদর্শ মানদণ্ড; তবে, গাণিতিক চিকিত্সার জন্য এটি কুখ্যাতভাবে পরিচিত বলে জানা যায়। ফলস্বরূপ, সাবঅপটিমাল মানদণ্ডটি অনুশীলনে ব্যবহার করা হয়েছে। আমরা বেয়েসের ত্রুটির প্রাক্কলনের উপর ভিত্তি করে একটি বিকল্প মানদণ্ডের প্রস্তাব করি, এটি বর্তমানে ব্যবহৃত মানদণ্ডের চেয়ে অনুকূল মানদণ্ডের নিকটবর্তী। "এই মাপদণ্ডের উপর ভিত্তি করে রৈখিক মাত্রা হ্রাসের জন্য একটি অ্যালগরিদম কল্পনা এবং বাস্তবায়িত হয় convention

এখানে উল্লিখিত বায়েস ত্রুটিটি মূলত 0-1 এর ক্ষতি।

এই কাজটি লিনিয়ার মাত্রা হ্রাস প্রসঙ্গে করা হয়েছিল। আমি জানি না গভীর শিক্ষার নেটওয়ার্ক প্রশিক্ষণের জন্য এটি কতটা কার্যকর হবে। তবে মুল বক্তব্যটি এবং প্রশ্নের উত্তর: 0-1 লোকসান সর্বজনীনভাবে অক্ষম নয়। এটি কমপক্ষে কয়েকটি ধরণের মডেলের জন্য অপেক্ষাকৃত ভাল optim