মেশিন লার্নিং: বাইনারি পূর্বাভাসের জন্য আমার কি একটি বিভাগীয় ক্রস এনট্রপি বা বাইনারি ক্রস এনট্রপি ক্ষতি ব্যবহার করা উচিত?

Question

প্রথমত, আমি বুঝতে পেরেছিলাম যে আমার যদি বাইনারি পূর্বাভাসের প্রয়োজন হয় তবে আমাকে একটি হট-এনকোডিংয়ের মাধ্যমে কমপক্ষে দুটি ক্লাস তৈরি করতে হবে। এটা কি সঠিক? তবে, বাইনারি ক্রস এনট্রপি কি কেবলমাত্র এক শ্রেণীর সাথে ভবিষ্যদ্বাণীগুলির জন্য? যদি আমি একটি শ্রেণীবদ্ধ ক্রস এনট্রপি ক্ষতি ব্যবহার করি যা সাধারণত বেশিরভাগ লাইব্রেরিতে (টেনসরফ্লোয়ের মতো) পাওয়া যায়, তবে কি কোনও উল্লেখযোগ্য পার্থক্য থাকবে?

আসলে, একটি শ্রেণিবদ্ধ এবং বাইনারি ক্রস এনট্রপির মধ্যে সঠিক পার্থক্যগুলি কী? আমি টেনসরফ্লোতে বাইনারি ক্রস এনট্রপির কোনও প্রয়োগ কখনও দেখিনি তাই আমি ভেবেছিলাম সম্ভবত শ্রেণীবদ্ধটি ঠিক ঠিক তেমন কাজ করে।

Comments

: বাইনারি শ্রেণীবিন্যাস উদাহরণ machinelearningmastery.com/... : এবং মাল্টি-শ্রেণী-শ্রেণীবিন্যাস machinelearningmastery.com/...

— user1367204

@ ব্যবহারকারী 1367204: মাল্টি-ক্লাস-শ্রেণিবিন্যাসের লিঙ্কটি বাইনারি শ্রেণিবিন্যাসে পুনর্নির্দেশ করে। এটি এক হতে হবে ।

— ব্যবহারকারী 3389669

Answer 1

বাইনোমিয়াল ক্রস-এন্ট্রপি ক্ষতি $m=2$ জন্য বহুজাতিক ক্রস-এন্ট্রপি ক্ষতির একটি বিশেষ ক্ষেত্রে ।

$$\begin{align} \mathcal{L}(\theta) &= -\frac{1}{n}\sum_{i=1}^n \left[y_i \log(p_i) + (1-y_i) \log(1-p_i)\right] \\ &= -\frac{1}{n}\sum_{i=1}^n\sum_{j=1}^m y_{ij} \log(p_{ij}) \end{align}$$

$i$$j$$y$$p_{ij}\in(0,1):\sum_{j} p_{ij} =1\forall i,j$

Comments

বহুদিনের ক্রস এন্ট্রপি ক্ষতির জন্য আমি যখন 2 ক্লাস ব্যবহার করি ততক্ষণ বলার অর্থ কি, আমি মূলত বাইনারি ক্রস এনট্রপি ক্ষতি ব্যবহার করছি?

— infomin101

@ লেইকওটসিন ইয়ুপ

— সাইকোরাক্স মনিকাকে

Answer 2

বাইনারি ক্রস-এনট্রপি মাল্টি-লেবেল শ্রেণিবিন্যাসের জন্য, অন্যদিকে শ্রেণীবদ্ধ ক্রস এনট্রপি বহু-শ্রেণীর শ্রেণিবিন্যাসের জন্য যেখানে প্রতিটি উদাহরণ একক শ্রেণীর অন্তর্গত।

Comments

আপনার বক্তব্যের যৌক্তিকতা কী? আপনি কেন মাল্টি-লেবেল শ্রেণিবদ্ধকরণে শ্রেণিবদ্ধ ক্রস এনট্রপি ব্যবহার করবেন না?

— মিশাল

যদি একাধিক লেবেল থাকে তবে প্রতিটি একাধিক ক্লাস থাকে?

— slizb

এটি ঠিক আমি শুনতে চেয়েছিলাম, তবে আমার বস যা শুনতে চান তা নয়। কিছুটা ব্যাখ্যা করলে এত দুর্দান্ত হত।

— আদিত্য

Answer 3

আমি মনে করি যে এখানে তিন ধরণের শ্রেণিবদ্ধকরণ কাজ রয়েছে:

1. বাইনারি শ্রেণিবদ্ধকরণ: দুটি এক্সক্লুসিভ ক্লাস
2. একাধিক শ্রেণির শ্রেণিবিন্যাস: দুইটির বেশি একচেটিয়া শ্রেণি
3. একাধিক লেবেল শ্রেণিবিন্যাস: কেবল অ-একচেটিয়া ক্লাস

এগুলি থেকে আমরা বলতে পারি

• (1) এর ক্ষেত্রে আপনাকে বাইনারি ক্রস এনট্রপি ব্যবহার করা উচিত।
• (2) এর ক্ষেত্রে আপনাকে শ্রেণীবদ্ধ ক্রস এনট্রপি ব্যবহার করতে হবে।
• (3) এর ক্ষেত্রে আপনাকে বাইনারি ক্রস এনট্রপি ব্যবহার করা উচিত। আপনি কেবল একাধিক পৃথক বাইনারি শ্রেণিবদ্ধ হিসাবে মাল্টি-লেবেল শ্রেণিবদ্ধকে বিবেচনা করতে পারেন। আপনার যদি এখানে 10 ক্লাস থাকে তবে আপনার কাছে আলাদাভাবে 10 বাইনারি শ্রেণিবদ্ধ রয়েছে। প্রতিটি বাইনারি শ্রেণিবদ্ধকারী স্বাধীনভাবে প্রশিক্ষিত হয়। সুতরাং, আমরা প্রতিটি নমুনার জন্য মাল্টি-লেবেল উত্পাদন করতে পারেন। আপনি যদি নিশ্চিত করতে চান যে কমপক্ষে একটি লেবেল অবশ্যই অর্জন করা উচিত, তবে আপনি সর্বনিম্ন শ্রেণিবদ্ধকরণ ক্ষতি ফাংশন, বা অন্যান্য মেট্রিক ব্যবহার করে একটি নির্বাচন করতে পারেন।

আমি জোর দিয়ে বলতে চাই যে বহু-শ্রেণীর শ্রেণিবিন্যাস মাল্টি-লেবেল শ্রেণিবিন্যাসের মতো নয় ! বরং মাল্টি-লেবেল শ্রেণিবদ্ধকারী বাইনারি শ্রেণিবদ্ধের কাছ থেকে একটি ধারণা ধার করে!