পটভূমি: রিলু অ্যাক্টিভেশন সহ স্নায়বিক নেটওয়ার্কগুলি ফিট করার সময়, আমি দেখতে পেলাম যে কখনও কখনও পূর্বাভাস ধ্রুবকের কাছাকাছি হয়ে যায়। আমি বিশ্বাস করি যে এখানে যেমন বলা হয়েছে প্রশিক্ষণের সময় মারা যাওয়া রিলু নিউরনগুলির কারণে এটি ঘটে। ( নিউরাল নেটওয়ার্কগুলিতে "ডাইং আরএলইউ" সমস্যাটি কী? )
প্রশ্ন: আমি যা করতে চাইছি তা হ'ল নিউরনগুলি মারা গেছে কিনা তা পরীক্ষা করার জন্য কোডটিতে নিজেই একটি চেক প্রয়োগ করা। এর পরে, কোডটি প্রয়োজনে নেটওয়ার্কটিকে রিফিট করতে পারে।
যেমন, মৃত নিউরনগুলি পরীক্ষা করার জন্য ভাল সিটিরিয়া কী? বর্তমানে আমি সিটিরিয়া হিসাবে ভবিষ্যদ্বাণীতে কম বৈকল্পিকের জন্য পরীক্ষা করার কথা ভাবছি।
যদি এটি সাহায্য করে তবে আমি কেরাস ব্যবহার করছি।