আমি অন্য কোথাও পড়েছি যে কোনও এনএন-তে লুকানো স্তর অ্যাক্টিভেশন ফাংশনটির কারও পছন্দ প্রয়োজনের ভিত্তিতে হওয়া উচিত , অর্থাত আপনার যদি -1 থেকে 1 সীমাতে মান ব্যবহার করতে হয় তবে তানহ ব্যবহার করুন এবং 0 থেকে 1 ব্যাপ্তির জন্য সিগময়েড ব্যবহার করুন।
আমার প্রশ্ন হ'ল কীভাবে একজন জানে যে যার প্রয়োজন কী? এটি কি ইনপুট স্তরের পরিসরের উপর ভিত্তি করে, উদাহরণস্বরূপ এমন ফাংশনটি ব্যবহার করুন যা ইনপুট স্তরের সম্পূর্ণ মানগুলিকে পরিবেষ্টন করতে পারে বা কোনওভাবে ইনপুট স্তরের বিতরণ (গাউসিয়ান ফাংশন) প্রতিফলিত করে? বা প্রয়োজনীয় সমস্যা / ডোমেন নির্দিষ্ট এবং এই পছন্দটি করার জন্য কারও অভিজ্ঞতা / রায় প্রয়োজন? অথবা এটি কেবল "এমনটি ব্যবহার করুন যা সর্বোত্তম ক্রস-বৈধ ন্যূনতম প্রশিক্ষণের ত্রুটি দেয়?"
1 + (1 / exp(-sum))
। মেকিং প্রয়োজন খুব কঠিন প্রতিটি ডেটা সেটে উভয় চেষ্টা ছাড়া বুঝতে। আপনি যেহেতু এখানে এটি বর্ণনা করেছেন সেই প্রয়োজনীয়তাটি সত্যিকারের সম্পর্কের সাথে জড়িত, যা বাইনারি ডেটা সেটটি শিখবে কিনা তা দেওয়া বা ভিন্ন ভিন্ন ক্রিয়াকলাপে তা শিখবে।