পরিচিতি পটভূমি
কনভোলশনাল নিউরাল নেটওয়ার্কের মধ্যে, আমাদের সাধারণত একটি সাধারণ কাঠামো / প্রবাহ থাকে যা দেখতে দেখতে এটি দেখতে:
- ইনপুট চিত্র (যেমন একটি 2D ভেক্টর
x)
(1 ম কনভোলিউশনাল স্তর (কনভ 1) এখানে শুরু হয় ...)
w12D চিত্র বরাবর ফিল্টারগুলির সেট সেট করুন (যেমনz1 = w1*x + b1ডট পণ্য গুণন করুন), যেখানেz13 ডি রয়েছে এবংb1এটি বায়াস হয়।z1অ-রৈখিক (উদাহরণস্বরূপa1 = ReLu(z1)), যেখানেa13 ডি রয়েছে তা করতে একটি অ্যাক্টিভেশন ফাংশন (যেমন: রেলু) প্রয়োগ করুন ।
(২ য় কনভোলিউশনাল স্তর (কনভ ২) এখানে শুরু হয় ...)
- নতুন গনিত অ্যাক্টিভেশন (যেমন
z2 = w2*a1 + b2ডট পণ্য গুণ) করুন, যেখানেz2থ্রিডি, এবং বায়াসস রয়েছে তা বরাবর ফিল্টারগুলির সেট সেট করুনb2। z2অ-রৈখিক (উদাহরণস্বরূপa2 = ReLu(z2)), যেখানেa23 ডি রয়েছে তা করতে একটি অ্যাক্টিভেশন ফাংশন (যেমন: রেলু) প্রয়োগ করুন ।
প্রশ্নটি
"বৈশিষ্ট্য মানচিত্র" শব্দের সংজ্ঞাটি সাহিত্যের থেকে সাহিত্যে পরিবর্তিত বলে মনে হয়। মূর্তভাবে:
- 1 ম convolutional স্তরের জন্য, ইনপুট ভেক্টর থেকে "বৈশিষ্ট্য মানচিত্র" অনুরূপ করে
x, অথবা আউটপুট ডট পণ্যz1, অথবা আউটপুট সক্রিয়করণব্যবস্থাa1, বা "প্রক্রিয়া" রূপান্তরxকরতেa1, নাকি অন্য কিছু? - একইভাবে, 2nd convolutional স্তরের জন্য, "বৈশিষ্ট্য মানচিত্র" ইনপুট সক্রিয়করণব্যবস্থা সাথে সঙ্গতিপূর্ণ নয়
a1, অথবা আউটপুট ডট পণ্যz2, অথবা আউটপুট সক্রিয়করণa2, বা "প্রক্রিয়া" রূপান্তরa1করতেa2, নাকি অন্য কিছু?
তদ্ব্যতীত, এটি কি সত্য যে "বৈশিষ্ট্য মানচিত্র" শব্দটি "অ্যাক্টিভেশন মানচিত্র" এর ঠিক একই? (বা তারা আসলে দুটি আলাদা জিনিস বোঝায়?)
অতিরিক্ত রেফারেন্স:
নিউরাল নেটওয়ার্ক এবং গভীর শিক্ষা থেকে স্নিপেটস - অধ্যায় 6 :
* নামকরণ এখানে looseিলে .ালাভাবে ব্যবহৃত হচ্ছে। বিশেষত, আমি "বৈশিষ্ট্য মানচিত্র" ব্যবহার করছি বোঝানোর জন্য কনভ্যুশনাল স্তর দ্বারা গণনা করা ফাংশনটি নয়, স্তর থেকে লুকানো নিউরন আউটপুট সক্রিয়করণ। নামকরণের এই ধরণের হালকা অপব্যবহার গবেষণা সাহিত্যে খুব সাধারণ।
থেকে বন্ধকৃত ভিজুয়ালাইজিং এবং ম্যাট Zeiler দ্বারা বোঝাপড়া Convolutional নেটওয়ার্ক :
এই কাগজটিতে আমরা একটি ভিজ্যুয়ালাইজেশন কৌশল প্রবর্তন করি যা মডেলটির যে কোনও স্তরের পৃথক বৈশিষ্ট্য মানচিত্রকে উত্তেজিত করে এমন ইনপুট উদ্দীপনা প্রকাশ করে। [...] বিপরীতে, আমাদের পদ্ধতির বিপরীতে, অদম্যতার একটি প্যারামিমেট্রিক দৃশ্য সরবরাহ করে, যা প্রশিক্ষণের সেট থেকে প্রাপ্ত কোন নিদর্শনগুলি বৈশিষ্ট্য মানচিত্রটিকে সক্রিয় করে তা দেখায়। [...] স্থানীয় কনট্রাস্ট অপারেশন যা বৈশিষ্ট্য মানচিত্র জুড়ে প্রতিক্রিয়াগুলিকে স্বাভাবিক করে তোলে। [...] প্রদত্ত কনফ্যান্ট অ্যাক্টিভেশন পরীক্ষা করার জন্য, আমরা স্তরের অন্যান্য সমস্ত ক্রিয়াকলাপ শূন্যে সেট করি এবং সংযুক্ত ডিকনভনেট স্তরটিতে ইনপুট হিসাবে বৈশিষ্ট্য মানচিত্রগুলি পাস করি। [...] কনফেটটি রিলু অ-লাইনারিটি ব্যবহার করে, যা বৈশিষ্ট্য মানচিত্রকে সংশোধন করে যাতে বৈশিষ্ট্য মানচিত্র সর্বদা ইতিবাচক থাকে তা নিশ্চিত করে। [...] কনফেটটি পূর্ববর্তী স্তর থেকে বৈশিষ্ট্যগুলির মানচিত্রকে সংহত করতে শিখে নেওয়া ফিল্টার ব্যবহার করে। [...] চিত্র 6, এই দৃশ্যগুলি হ'ল ইনপুট প্যাটার্নের যথাযথ উপস্থাপনা যা মডেলটিতে প্রদত্ত বৈশিষ্ট্য মানচিত্রকে উদ্দীপিত করে [...] যখন প্যাটার্নের সাথে সম্পর্কিত মূল ইনপুট চিত্রের অংশগুলি আবদ্ধ করা হয়, তখন আমরা বৈশিষ্ট্যের মানচিত্রের মধ্যে ক্রিয়াকলাপের একটি পৃথক ড্রপ দেখতে পাই। [...]
মন্তব্যসমূহ: চিত্র 1-এ "বৈশিষ্ট্য মানচিত্র" এবং "সংশোধিত বৈশিষ্ট্য মানচিত্র" শব্দটিও পরিচয় করিয়ে দেয়।
সিএনএন-তে স্ট্যানফোর্ড সিএস 231 অধ্যায় থেকে স্নিপেটস :
[...] এই ভিজ্যুয়ালাইজেশনের সাথে সহজেই লক্ষ্য করা যায় এমন একটি বিপজ্জনক ক্ষতি হ'ল কিছু অ্যাক্টিভেশন মানচিত্রগুলি বিভিন্ন বিভিন্ন উপকরণগুলির জন্য সমস্ত শূন্য হতে পারে, যা মৃত ফিল্টারগুলি ইঙ্গিত করতে পারে এবং উচ্চ শিক্ষার হারের লক্ষণ হতে পারে [...] প্রথম CONV স্তর (বাম), এবং একটি প্রশিক্ষিত অ্যালেক্সনেটের 5 তম সিওএনভি স্তর (ডানদিকে) বিড়ালের ছবি দেখার জন্য টিপিকাল চেহারার ক্রিয়াকলাপ। প্রতিটি বাক্স কিছু ফিল্টারের সাথে সম্পর্কিত একটি অ্যাক্টিভেশন মানচিত্র দেখায়। লক্ষ্য করুন যে অ্যাক্টিভেশনগুলি বিচ্ছিন্ন (বেশিরভাগ মান শূন্য, এই বর্ণালীতে কালো বর্ণিত) এবং বেশিরভাগ স্থানীয়।
থেকে বন্ধকৃত এ-Beginner's গাইড টু আন্ডারস্ট্যান্ডিং-Convolutional-নিউরাল-নেটওয়ার্ক
[...] ইনপুট ভলিউমের প্রতিটি অনন্য অবস্থান একটি সংখ্যা তৈরি করে। সমস্ত অবস্থানের উপর ফিল্টার স্লাইড করার পরে, আপনি খুঁজে পাবেন যে আপনি যা রেখেছেন তা হ'ল একটি 28 x 28 x 1 অ্যারের সংখ্যা, যা আমরা একটি অ্যাক্টিভেশন মানচিত্র বা বৈশিষ্ট্য মানচিত্র বলি।
a1,a2ইত্যাদি)। Conv2 এ, আমি অনুমান করি যে আমিa1ইনপুট অ্যাক্টিভেশন মানচিত্র এবংa2আউটপুট অ্যাক্টিভেশন মানচিত্র কল করব। Conv1 এ, আমিxইনপুট চিত্র এবংa1আউটপুট অ্যাক্টিভেশন মানচিত্র।