নিউরাল নেটওয়ার্ক কী করছে ভিজ্যুয়ালাইজ / বুঝবেন?

Question

নিউরাল নেটওয়ার্কগুলি তাদের জটিল কাঠামোর কারণে প্রায়শই "ব্ল্যাক বক্স" হিসাবে বিবেচিত হয়। এটি আদর্শ নয়, কারণ কোনও মডেল অভ্যন্তরীণভাবে কীভাবে কাজ করছে তার একটি স্বজ্ঞাত উপলব্ধি করা প্রায়শই উপকারী। প্রশিক্ষিত নিউরাল নেটওয়ার্ক কীভাবে কাজ করছে তা দেখার জন্য কী কী পদ্ধতি রয়েছে? বিকল্পভাবে, কীভাবে আমরা সহজে নেটওয়ার্কের হজমযোগ্য বর্ণনাগুলি বের করতে পারি (যেমন এই লুকানো নোডটি প্রাথমিকভাবে এই ইনপুটগুলির সাথে কাজ করছে)?

আমি প্রাথমিকভাবে দুটি স্তরের ফিড-ফরোয়ার্ড নেটওয়ার্কগুলিতে আগ্রহী, তবে গভীর নেটওয়ার্কগুলির সমাধানও শুনতে চাই। ইনপুট ডেটা হয় ভিজ্যুয়াল বা অ-ভিজ্যুয়াল প্রকৃতির।

Comments

এখানে একটি চমৎকার উদাহরণ: playground.tensorflow.org

— nober

Answer 1

নিউরাল নেটওয়ার্কগুলিকে মাঝে মাঝে "ডিফেরেন্টেবল ফাংশন আনুমানিক" বলা হয়। সুতরাং আপনি যা করতে পারেন তা হ'ল যে কোনও ইউনিটকে তাদের ইউনিফর্মশিপটি কী তা বোঝার জন্য শ্রদ্ধার সাথে পৃথক করে।

আপনি এটির পাশাপাশি কোনও নির্দিষ্ট ইনপুটটিতে নেটওয়ার্কের ত্রুটিটি কতটা সংবেদনশীল তা পরীক্ষা করতে পারেন।

তারপরে, "গ্রহনযোগ্য ক্ষেত্র" নামে কিছু আছে, এটি কেবল কোনও লুকানো ইউনিটে যাওয়ার সংযোগগুলির দৃশ্যায়ন। উদাহরণস্বরূপ, চিত্রের ডেটাগুলির জন্য নির্দিষ্ট ইউনিটগুলি কী তা বোঝে এটি সহজ করে তোলে। এটি উচ্চ স্তরের জন্যও করা যেতে পারে। ডিপ নেটওয়ার্কের উচ্চতর স্তরের বৈশিষ্ট্যগুলি ভিজ্যুয়ালাইজ করা দেখুন ।

Answer 2

কোনও একক বৈশিষ্ট্যের প্রতিটি মান এলোমেলোভাবে বাম্প করে এবং কীভাবে আপনার সামগ্রিক ফিটনেস ফাংশনটি হ্রাস পায় তা রেকর্ড করে বৈশিষ্ট্যটির গুরুত্ব অনুমান করুন।

সুতরাং যদি আপনার প্রথম বৈশিষ্ট্য continuously ধারাবাহিকভাবে মূল্যবান হয় এবং স্কেল করা হয় , তবে আপনি প্রথম বৈশিষ্ট্যের জন্য প্রতিটি প্রশিক্ষণের উদাহরণের যোগ করতে পারেন । তারপরে আপনার কত হ্রাস পাবে তা দেখুন। এটি কার্যকরভাবে আপনার প্রশিক্ষণ ডেটা থেকে একটি বৈশিষ্ট্য বাদ দেয়, কিন্তু আক্ষরিক বৈশিষ্ট্য মুছে ফেলার চেয়ে ক্রস ইন্টারঅ্যাকশনগুলির সাথে আরও ভাল আচরণ করে।$x_{1,i}$$[0,1]$$rand(0,1)-0.5$$R^2$

তারপরে ফিটনেস ফাংশন হ্রাস দ্বারা আপনার বৈশিষ্ট্যগুলি র‌্যাঙ্ক করুন এবং একটি সুন্দর বার চার্ট করুন। সমস্যাটির ডোমেন সম্পর্কে আপনার জ্ঞান রেখে কমপক্ষে কয়েকটি গুরুত্বপূর্ণ বৈশিষ্ট্যগুলির মধ্যে অন্তর্-চেকটি পাস করা উচিত। এবং এটি আপনাকে প্রত্যাশিত নয় এমন তথ্যমূলক বৈশিষ্ট্যগুলি দ্বারা চমত্কারভাবে বিস্মিত হতে দেয়।

এই ধরণের বৈশিষ্ট্যটির গুরুত্ব পরীক্ষার জন্য নিউরাল নেটওয়ার্কগুলি এবং বড় বড় কার্ট কার্টসযুক্তগুলি সহ সমস্ত ব্ল্যাক-বাক্সের মডেলগুলির জন্য কাজ করে। আমার অভিজ্ঞতা হিসাবে, কোনও মডেল আসলে কী করছে তা বোঝার বৈশিষ্ট্যটির গুরুত্ব হ'ল প্রথম পদক্ষেপ।

Comments

উত্তর করার জন্য ধন্যবাদ; এটি আসলে আমার করা কিছু এবং আমি এটি খুব দরকারী বলে মনে করি। এই প্রশ্নে যদিও আমি এমন কোনও কিছু খুঁজছি যা নেটওয়ার্কের ভিতরে এটি একটি কালো বাক্স হিসাবে বিবেচনা করার চেয়ে দেখায়।

— rm999

Answer 3

নির্দিষ্ট ধরণের নিউরাল নেটওয়ার্কগুলির জন্য এখানে একটি গ্রাফিকাল অন্তর্দৃষ্টি রয়েছে । এই পোস্টের শেষে, আর কোডের একটি লিঙ্ক রয়েছে যা একটি নির্দিষ্ট সমস্যার জন্য একটি ভিজ্যুয়ালাইজেশন দেখায়। যা দেখতে দেখতে তা এখানে:

Answer 4

2011 এর পতন আমি স্ট্যান্ডফোর্ড থেকে অ্যান্ড্রু এনজি দ্বারা শেখানো বিনামূল্যে অনলাইন মেশিন লার্নিং কোর্সটি নিয়েছি এবং আমরা একটি নিউরাল নেটওয়ার্ক ভিজ্যুয়ালাইজ করেছি যা একটি ফেস ডিটেক্টর ছিল। আউটপুটটি একটি সাধারণ মুখ ছিল। আমি সম্পূর্ণতার জন্য এটি উল্লেখ করতে চাই, তবে আপনি এই জাতীয় প্রয়োগের কথা উল্লেখ করেন নি, তাই আমি বিশদটি খনন করতে যাচ্ছি না। :)

Comments

বিশ্ববিদ্যালয়টি স্ট্যানফোর্ড। আমি ওয়েবে অ্যান্ড্রু এনজি কোর্সটি খুঁজে পেতে পারি। শুনেছি ডিক ডিভাক্স নিউরাল নেটওয়ার্কগুলিতে একটি বক্তৃতা দাবী করে দাবি করেছেন যে এর নিউরোনস অংশটি আসলে যা চলছে তা গোপন করে। এটি কেবল অন্য প্রকারের ননলাইনার শ্রেণিবদ্ধকারী এবং যদি চিত্রটির দৃষ্টিকোণ থেকে এটি দেখার পরিবর্তে তারা বীজগণিতিকভাবে কী করেন তা লিখে আরও ভালভাবে বোঝা যায়। আমি আশা করি আমি এই অধিকারটি মনে রাখছি।

— মাইকেল আর চেরনিক

ডি ভৌক্স এবং উঙ্গার, নিউরাল জালগুলির একটি সংক্ষিপ্ত ভূমিকা ১৯৯ :: "নিউরাল নেটগুলি আজকাল সর্বত্র সর্বত্র রয়েছে বলে মনে হয় এবং কমপক্ষে তাদের বিজ্ঞাপনে পরিসংখ্যানগুলি যা কিছু করতে পারে তা করতে সমস্ত কিছু করতে সক্ষম হয় এবং ব্যতিরেকে কিছু করার ব্যত্যয় না করে। এক টুকরো সফটওয়্যার কিনে দিন। "

— ডেনিস

Answer 5

নীচে উল্লিখিত পদ্ধতিটি এই লিঙ্কটি থেকে নেওয়া হয়েছে , আরও তথ্যের জন্য সাইটে যান।

একটি এলোমেলো চিত্রের সাথে শুরু করুন, অর্থাত্ পিক্সেলগুলিতে নির্বিচারে মান সরবরাহ করুন। "পরবর্তী, আমরা একটা ফরওয়ার্ড পাস এই ছবিটি ব্যবহার করে তা করতে এক্স অ্যাক্টিভেশন গনা নেটওয়ার্কে ইনপুট হিসাবে a_i (x) এর দ্বারা সৃষ্ট এক্স কিছু স্নায়ুর এ আমি কোথাও নেটওয়ার্কের মাঝখানে। তারপর আমরা একটি অনুন্নত পাস (backprop করণ) না নেটওয়ার্কের পূর্ববর্তী ক্রিয়াকলাপগুলির সাথে সম্মতি দিয়ে a_i (x) এর গ্রেডিয়েন্টটি গণনা করতে । পিছনের পাসের শেষে আমরা গ্রেডিয়েন্ট ∂a_i (x) / ∂x রেখে গেছি , বা প্রতিটি পিক্সেলের রঙ কীভাবে পরিবর্তন করব নিউরনের অ্যাক্টিভেশন বাড়াতে i । আমরা ইমেজের সাথে সেই গ্রেডিয়েন্টের কিছুটা ভগ্নাংশ যোগ করে ঠিক করি:

x ← x + _a_i (x) / ∂x

আমাদের কাছে এমন একটি চিত্র x না হওয়া পর্যন্ত আমরা বারবার তা চালিয়ে যাচ্ছি যা প্রশ্নে নিউরনের উচ্চ অ্যাক্টিভেশন ঘটায়। "