ব্ল্যাক-বক্স হিসাবে নিউরাল নেটওয়ার্কের অর্থ?

Question

আমি প্রায়শই লোকজনকে নিউরাল নেটওয়ার্কগুলি ব্ল্যাক-বক্স হিসাবে এমন কিছু হিসাবে কথা বলতে শুনি যা আপনি বুঝতে পারছেন না এটি কী করে বা তাদের অর্থ কি। আমি আসলে বুঝতে পারছি না যে তারা এর দ্বারা কী বোঝায়! যদি আপনি বুঝতে পারেন যে ব্যাক-প্রসারণ কীভাবে কাজ করে, তবে এটি কীভাবে একটি ব্ল্যাক-বাক্স হবে?

তাদের অর্থ কি আমরা বোঝাতে পারি না যে ওজনগুলি গণনা করা হয়েছিল বা কী?

Comments

সম্ভবত এটি সহায়তা করবে: colah.github.io/posts/2014-03-NN-Manifolds- টপোলজি এই নিবন্ধটি টপোলজিকাল দৃষ্টিকোণ থেকে নিউরাল নেটওয়ার্কগুলির অন্তর্নিহিত প্রক্রিয়াটি উন্মোচনের চেষ্টা করে, এটি এর কার্যকারিতা ব্যাখ্যা করার জন্য প্রচুর উজ্জ্বল অন্তর্দৃষ্টি সরবরাহ করে নিউরাল নেটওয়ার্ক.

— সল

আমি জ্যাকের সাথে পয়েন্ট যুক্ত করতে চাই, যখন আমরা মেশিন লার্নিং পয়েন্টে এমএলপি দেখি তখন নিউরাল নেটওয়ার্কগুলি আর ব্ল্যাক বক্স নয়। সাধারণ সিগময়েড ফাংশন সহ আমরা একটি সমীকরণের সাথে ইনপুট এবং আউট রিলেটির ব্যাখ্যা করতে সক্ষম হব।

Answer 1

একটি নিউরাল নেটওয়ার্ক এই অর্থে একটি কালো বাক্স যে এটি কোনও ফাংশন আনুমানিক করতে পারে, এর কাঠামো অধ্যয়ন করলে আপনাকে ফাংশনের কাঠামোটি আনুমানিক হওয়ার বিষয়ে কোনও অন্তর্দৃষ্টি দেয় না।

উদাহরণস্বরূপ, ব্যাংকিং ব্যবসায়ের স্নায়বিক নেটওয়ার্কগুলির একটি সাধারণ ব্যবহার হ'ল "ভাল দাতা" এবং "খারাপ দাতা" onণদাতাদের শ্রেণিবদ্ধ করা। আপনার কাছে ইনপুট বৈশিষ্ট্য (লিঙ্গ, বয়স, আয়, ইত্যাদি) এর ম্যাট্রিক্স এবং ফলাফলগুলির ভেক্টর ("ডিফল্ট", "খেলাপি নয়" ইত্যাদি) রয়েছে। আপনি যখন নিউরাল নেটওয়ার্ক ব্যবহার করে এটি মডেল করেন, আপনি ধরে নিচ্ছেন যে গাণিতিক ফাংশনটির সঠিক অর্থে একটি ফাংশন । এই ক্রিয়াকলাপটি নির্বিচারে জটিল হতে পারে এবং ব্যবসায়ের বিবর্তন অনুসারে পরিবর্তিত হতে পারে, তাই আপনি এটিকে হাতে হাতে আবিষ্কার করতে পারবেন না।$C$$R$$f(C)=R$

$f$

ব্ল্যাক বক্স ইস্যুটি হ'ল: নিউরাল নেটওয়ার্ক দ্বারা প্রদত্ত আনুমানিকতা আপনাকে এফ আকারে কোনও অন্তর্দৃষ্টি দেয় না। ওজন এবং ফাংশনটি প্রায় অনুমান হওয়ার মধ্যে কোনও সহজ লিঙ্ক নেই। এমনকি কোন ইনপুট বৈশিষ্ট্যটি অপ্রাসঙ্গিক তা বিশ্লেষণ করা একটি মুক্ত সমস্যা (এই লিঙ্কটি দেখুন )।

এছাড়াও, একটি traditionalতিহ্যবাহী পরিসংখ্যানের দৃষ্টিকোণ থেকে, একটি নিউরাল নেটওয়ার্ক একটি অ-শনাক্তযোগ্য মডেল: একটি ডেটাসেট এবং নেটওয়ার্ক টপোলজি দেওয়া, সেখানে দুটি ওজন এবং একই ফলাফলের সাথে নিউরাল নেটওয়ার্ক থাকতে পারে। এটি বিশ্লেষণকে খুব শক্ত করে তোলে।

"নন-ব্ল্যাক বক্স মডেলগুলি" বা "ব্যাখ্যাযোগ্য মডেল" এর উদাহরণ হিসাবে, আপনার কাছে রিগ্রেশন সমীকরণ এবং সিদ্ধান্তের গাছ রয়েছে। প্রথমটি আপনাকে চ এর একটি বদ্ধ ফর্মের সমীকরণ দেয় যেখানে প্রতিটি উপাদানটির গুরুত্ব স্পষ্ট হয়, দ্বিতীয়টি হ'ল কিছু আপেক্ষিক ঝুঁকির graph প্রতিকূল অনুপাতের গ্রাফিকাল বিবরণ।

Comments

যেহেতু এটি একটি পুরানো উত্তর, এটি কিছু নতুন বিকাশযুক্ত সরঞ্জাম সরবরাহ করতে দরকারী হতে পারে: "স্নায়বিক নেটওয়ার্ক দ্বারা প্রদত্ত অনুমান আপনাকে এফ আকারে কোনও অন্তর্দৃষ্টি দেয় না" - আমি বলব যে SHAP এখন একটি কাজ করে মডেল ব্যাখ্যার দুর্দান্ত কাজ এমনকি নিউরাল নেটও। "এমনকি যে ইনপুটটির বৈশিষ্ট্য অপ্রাসঙ্গিক তা বিশ্লেষণও একটি মুক্ত সমস্যা" - ক্রমশূন্যতার গুরুত্বের পাশাপাশি শ্যাপের মতো মথডগুলিও এখন এই সমস্যাটিকে বেশ ভালভাবে মোকাবেলা করে।

— ববসন ডাগনট

Answer 2

গুগল ইনসেপশন-ভি 3 প্রকাশ করেছে । চিত্রের শ্রেণিবদ্ধকরণ অ্যালগরিদম (কুকুরের কাছ থেকে একটি বিড়ালকে বলার জন্য) এটি একটি নিউরাল নেটওয়ার্ক (এনএন)।

কাগজে তারা চিত্রের শ্রেণিবদ্ধার বর্তমান অবস্থা সম্পর্কে কথা বলেন

উদাহরণস্বরূপ, গুগলনেট কেবল 5 মিলিয়ন পরামিতি নিযুক্ত করেছে, যা এর পূর্বসূরী আলেক্সনেটের ক্ষেত্রে 12x হ্রাসের প্রতিনিধিত্ব করে, যা 60 মিলিয়ন প্যারামিটার ব্যবহার করেছিল F তদ্ব্যতীত, ভিজিজি নেট আলেকসনেটের তুলনায় প্রায় 3x আরও পরামিতি নিযুক্ত করেছে

এবং এজন্যই আমরা ব্ল্যাক বাক্সের জন্য এনএনকে ডাকি। যদি আমি 10 মিলিয়ন প্যারামিটার সহ - কোনও চিত্র শ্রেণিবদ্ধকরণ মডেলকে প্রশিক্ষণ দিই এবং এটি আপনার হাতে দেব। আপনি এটি দিয়ে কি করতে পারেন?

আপনি অবশ্যই এটি চালাতে এবং চিত্রগুলিকে শ্রেণিবদ্ধ করতে পারেন। এটা দুর্দান্ত কাজ করবে! তবে আপনি সমস্ত ওজন, বায়াস এবং নেটওয়ার্ক কাঠামো অধ্যয়ন করে নিম্নলিখিত প্রশ্নের কোনও উত্তর দিতে পারবেন না।

• এই নেটওয়ার্কটি কোনও পোডল থেকে কোনও হস্কিকে বলতে পারে?
• অ্যালগরিদমের জন্য কোন বস্তুগুলি শ্রেণিবদ্ধ করা সহজ, কোনটি কঠিন?
• সঠিকভাবে শ্রেণিবদ্ধ করতে সক্ষম হওয়ার জন্য কুকুর কোন অংশটি সবচেয়ে গুরুত্বপূর্ণ? লেজ না পা?
• আমি যদি একটি কুকুরের উপরে বিড়ালদের মাথার ফটোশপ করি তবে কি হয়, এবং কেন?

আপনি কেবল এনএন চালিয়ে প্রশ্নের উত্তর দিতে পারেন এবং ফলাফলটি (ব্ল্যাক বক্স) দেখতে পারেন, তবে কেন এটি প্রান্তের ক্ষেত্রে যেমন আচরণ করে তা কেন আপনার বোঝার কোনও পরিবর্তন হয়নি।

Comments

আমি মনে করি কমপক্ষে একটি প্রশ্নের ('কুকুরের কোন অংশটি সঠিকভাবে শ্রেণিবদ্ধ করতে সক্ষম হওয়ার জন্য সবচেয়ে গুরুত্বপূর্ণ? লেজ বা পা?') যথেষ্ট উত্তরযোগ্য, যদি আপনি ম্যাট জেইলারের নিবন্ধ এবং ভিডিওটি ডিকনভলুটিটোনালটিতে দেখেন নেটওয়ার্কগুলি

— অ্যালেক্স