স্নায়ুবহুল নেটওয়ার্কগুলির কি সিদ্ধান্ত গাছের মতো ব্যাখ্যাযোগ্যতা রয়েছে?

Question

সিদ্ধান্ত গাছগুলিতে, আমরা গাছের কাঠামোর আউটপুট বুঝতে পারি এবং কীভাবে সিদ্ধান্ত গাছ সিদ্ধান্ত নেয় তা আমরা কল্পনাও করতে পারি। সুতরাং সিদ্ধান্ত গাছগুলির ব্যাখ্যাযোগ্যতা রয়েছে (তাদের আউটপুট সহজেই ব্যাখ্যা করা যায়))

সিদ্ধান্ত গাছের মতো নিউরাল নেটওয়ার্কগুলিতে কি আমাদের ব্যাখ্যাযোগ্যতা রয়েছে?

Comments

সাম্প্রতিক একটি মডেল-অজোনস্টিক কাঠামোটি হল লিমি মডেল ।

— এমরে

নিউরাল নেটওয়ার্কগুলি ব্যবহার করে অবজেক্টের স্বীকৃতি / শ্রেণিবিন্যাসের ক্ষেত্রে হিটম্যাপগুলি হিটম্যাপিং . org এর মতো কোনও সিদ্ধান্তের দৃশ্যধারণ / ব্যাখ্যা করার জন্য জনপ্রিয় । টিউটোরিয়াল এবং ইন্টারেক্টিভ বিক্ষোভ উপলব্ধ।

— নিকোলাস রিবেল

Answer 1

আমি পূর্ববর্তী উত্তর এবং দুটি কারণে আপনার পরামর্শের সাথে একমত নই:

1) সিদ্ধান্ত গাছগুলি সাধারণ যৌক্তিক সিদ্ধান্তের ভিত্তিতে হয় যা একত্রে আরও জটিল সিদ্ধান্ত নিতে পারে। তবে যদি আপনার ইনপুটটির 1000 টি মাত্রা থাকে এবং শিখে নেওয়া বৈশিষ্ট্যগুলি অত্যন্ত অ-রৈখিক হয় তবে আপনি একটি খুব বড় এবং ভারী সিদ্ধান্তের গাছ পেয়ে যা যা আপনি কেবল নোডগুলি দেখে বুঝতে / বুঝতে সক্ষম হবেন না।

2) নিউরাল নেটওয়ার্কগুলি যে সংজ্ঞায় আছে তার সাথে সাদৃশ্যপূর্ণ যে তারা যে ফাংশন শিখবে কেবল তা যদি খুব ছোট হয় তবে বোধগম্য হয়। বড় হয়ে উঠলে এগুলি বোঝার জন্য আপনার অন্যান্য কৌশল দরকার। হিসাবে @SmallChess প্রস্তাব, আপনি এটা পড়তে পারেন প্রবন্ধ নামক ভিজুয়ালাইজিং এবং বুঝতে Convolutional নেটওয়ার্ক যা convolutional স্নায়ুর নেটওয়ার্ক নির্দিষ্ট ক্ষেত্রে জন্য ব্যাখ্যা করে, আপনি কিভাবে ওজন পড়তে পারেন যেমন "কারণ প্রধানত এই ছবিতে একটি গাড়ী সনাক্ত কাপড় বুঝতে চাকা, বাকি উপাদানগুলি নয় "।

এই ভিজ্যুয়ালাইজেশনগুলি অনেক গবেষককে তাদের নিউরাল আর্কিটেকচারগুলিতে প্রকৃতপক্ষে দুর্বলতাগুলি বুঝতে এবং প্রশিক্ষণের অ্যালগরিদমগুলি উন্নত করতে সহায়তা করেছিল।

Comments

:-) আমি নিজেই গভীর সমঝোতা নেটওয়ার্কের চেয়ে কাগজটি বুঝতে অসুবিধা পেয়েছি। এটি খুব গাণিতিক কাগজ।

— হ্যালো ওয়ার্ল্ড

দুঃখিত, আমি ভুল নিবন্ধটি উদ্ধৃত করেছি :-) আমি সবেমাত্র এটি পরিবর্তন করেছি, এটি একটি আরও গ্রাফিকাল, বিশ্বাসীরা কীভাবে কাজ করেন তা যদি আপনি জানেন তবে কনফেন্টটি বিপরীত করার ধারণাটি আসলেই কঠিন নয়। একইভাবে, গুগল গভীর স্বপ্ন ইনপুট স্পেসে একটি নির্দিষ্ট আউটপুট প্রজেক্ট করতে ব্যাক প্রোপাগান্ডা ব্যবহার করে।

— রবিন

একটি ভিডিও রয়েছে যেখানে ম্যাট জেইলার এই সমস্ত ধারণাগুলি ডেকনকনভলিউশন নেটওয়ার্ক নামে পরিচিত করেছেন

— অ্যালেক্স

Answer 2

না। নিউরাল নেটওয়ার্কটি বোঝা সাধারণত মুশকিল। আপনি মডেল জটিলতার জন্য ভবিষ্যদ্বাণীপূর্ণ শক্তির বাণিজ্য করেন। যদিও গ্রাফিকভাবে এনএন ওজনের ভিজ্যুয়ালাইজেশন করা সম্ভব, তারা কীভাবে সিদ্ধান্ত নেওয়া হয় তা আপনাকে জানায় না। সৌভাগ্য একটি গভীর নেটওয়ার্ক বোঝার চেষ্টা করছে।

একটি জনপ্রিয় পাইথন প্যাকেজ রয়েছে (এবং এটিতে একটি কাগজ রয়েছে) যা একটি সাধারণ মডেলের সাহায্যে স্থানীয়ভাবে কোনও এনএনকে মডেল করতে পারে। আপনি একবার দেখতে চাইবেন।

https://github.com/marcotcr/lime

Comments

হা হা। আমি জানি এটি কেমন লাগে। ভালোবাসামাখা : ডি

— Dawny33

Answer 3

https://arxiv.org/abs/1704.02685 একটি এনএন নির্দিষ্ট স্থানীয় ব্যাখ্যা সরঞ্জাম সরবরাহ করে: গভীর লিফট। আপনি যে উদাহরণটি ব্যাখ্যা করতে চান এবং একটি রেফারেন্স উদাহরণের মধ্যে সক্রিয়করণের পার্থক্যটি প্রচার করে এটি কাজ করে। একটি রেফারেন্স পাওয়া কিছুটা জটিল, তবে সরঞ্জামটি ব্যাখ্যাযোগ্য এবং সামগ্রিকভাবে স্কেলযোগ্য বলে মনে হচ্ছে। আমরা এটি ট্যাবুলার ডেটাতে ব্যবহার করি।