ঠিক আছে, এটি কোনও নেটওয়ার্ক আর্কিটেকচার এবং নির্দিষ্ট স্তরের উপর নির্ভর করে। সাধারণভাবে এনএনগুলি ব্যাখ্যাযোগ্য নয়, বাণিজ্যিক ডেটা বিশ্লেষণে এটি তাদের প্রধান ব্যর্থতা (যেখানে আপনার লক্ষ্যটি আপনার মডেল থেকে ক্রিয়াযোগ্য অন্তর্দৃষ্টি উন্মোচন করা)।
তবে আমি কনসিওশনাল নেটওয়ার্কগুলি পছন্দ করি কারণ তারা আলাদা! যদিও তাদের উপরের স্তরগুলি খুব বিমূর্ত ধারণাগুলি শিখেছে, স্থানান্তর শিখন এবং শ্রেণিবিন্যাসের জন্য ব্যবহারযোগ্য, যা সহজে বোঝা যায় না, তাদের নীচের স্তরগুলি কাঁচা ডেটা থেকে সরাসরি গ্যাবার ফিল্টারগুলি শেখে (এবং এই জাতীয় ফিল্টার হিসাবে ব্যাখ্যাযোগ্য)। লে কুন লেকচার থেকে উদাহরণটি দেখুন:
এছাড়াও, এম জেইলার ( পিডিএফ ) এবং আরও অনেক গবেষক কনফ্যান্টকে "বোঝার" জন্য এবং এটি ডেকনভোলিউশনাল নেটওয়ার্কগুলির ডাবডভলিউশনাল নেটওয়ার্কগুলির দরকারী কিছু শিখেছে তা নিশ্চিত করার জন্য খুব সৃজনশীল পদ্ধতি আবিষ্কার করেছিলেন , যাতে তারা ইনপুট ছবিগুলিকে ফরোয়ার্ড পাস করে কিছু কনফেন্টকে 'ট্রেস' করে এবং কোনটি মনে করে নিউরনের সবচেয়ে অ্যাক্টিভেশন ছিল যার জন্য ছবিগুলি। এটি এটির মতো অত্যাশ্চর্য অন্তর্দৃষ্টি দেয় (কয়েকটি স্তর নীচে দেখানো হয়েছিল):
বামদিকে ধূসর চিত্রগুলি হ'ল ডানদিকে রঙিন ছবি দ্বারা নিউরন অ্যাক্টিভেশনগুলি (আরও তীব্রতা - বৃহত্তর অ্যাক্টিভেশন)। আমরা দেখতে পাচ্ছি যে এই সক্রিয়করণগুলি বাস্তব চিত্রগুলির কঙ্কালের উপস্থাপনা, যেমন, সক্রিয়করণগুলি এলোমেলো নয়। সুতরাং, আমাদের একটি দৃ hope় আশা, আমাদের প্রত্যয়টি সত্যিকার অর্থে দরকারী কিছু শিখেছে এবং অদেখা ছবিগুলিতে শালীন জেনারেলাইজেশন পাবে।