আমি 4 ধরণের সিক্যুয়েন্সকে শ্রেণিবদ্ধ করার জন্য একটি মডেল (পুনরাবৃত্ত নিউরাল নেটওয়ার্ক) প্রশিক্ষণ দিচ্ছি। আমি যখন আমার প্রশিক্ষণ চালাচ্ছি তখন দেখছি প্রশিক্ষণ হ্রাস পয়েন্ট অবধি অবধি নীচে নেমে গেছে যেখানে আমি আমার প্রশিক্ষণ ব্যাচের 90% নমুনার উপরে সঠিকভাবে শ্রেণিবদ্ধকরণ করেছি। তবে কয়েক যুগের পরে আমি লক্ষ্য করেছি যে প্রশিক্ষণের ক্ষতি বৃদ্ধি পায় এবং আমার যথার্থতা হ্রাস পায়। এটি আমার কাছে অদ্ভুত বলে মনে হচ্ছে যেহেতু আমি প্রত্যাশা করব যে প্রশিক্ষণের সময়টি খারাপ হওয়ার সাথে সাথে পারফরম্যান্সের উন্নতি করা উচিত। আমি ক্রস এনট্রপি ক্ষতি ব্যবহার করছি এবং আমার শিক্ষার হার 0.0002।
আপডেট: দেখা গেল যে শিক্ষার হার খুব বেশি। যথেষ্ট কম শিক্ষার হার সহ আমি এই আচরণটি পর্যবেক্ষণ করি না। তবে আমি এখনও এই অদ্ভুত খুঁজে। কেন এমন হয় তা সম্পর্কে কোনও ভাল ব্যাখ্যা স্বাগত