প্রশ্ন ট্যাগ «relu»

এখানে বেশ কয়েকটি অ্যাক্টিভেশন ফাংশন রয়েছে যেমন রিলু, সিগময়েড বা TANHTANH\tanh। আমি যখন অ্যাক্টিভেশন ফাংশনগুলি মিশ্রিত করি তখন কী হয়? আমি সম্প্রতি খুঁজে পেয়েছি যে গুগল সুইশ অ্যাক্টিভেশন ফাংশনটি বিকাশ করেছে যা (x * সিগময়েড)। অ্যাক্টিভেশন ফাংশন পরিবর্তন করে কি এটি ছোট নিউরাল নেটওয়ার্ক সমস্যা যেমন এক্সওর সমস্যার যথাযথতা বাড়াতে …

10 neural-networks  machine-learning  activation-function  relu  sigmoid 

আমি মনে করি যে আরএলইউর পরিবর্তে লিকি রিলু ব্যবহারের সুবিধাটি হ'ল এইভাবে আমাদের বিন্যাসের গ্রেডিয়েন্ট থাকতে পারে না। প্যারামেট্রিক রিএলইউর একই পার্থক্য সহ একই সুবিধা রয়েছে যে নেতিবাচক ইনপুটগুলির জন্য আউটপুটটির opeাল একটি শেখার পরামিতি থাকে যখন লিক রিলুতে এটি একটি হাইপারপ্যারামিটার হয়। তবে আমি এমন কিছু বলার অপেক্ষা রাখে …

10 neural-networks  activation-function  relu