কোন লার্নিং সিস্টেমের পরিবর্তনযোগ্য উপাদানগুলি এর সাফল্য বা ব্যর্থতার জন্য দায়ী? পারফরম্যান্সের উন্নতি করতে তাদের কী পরিবর্তন হয়? এটিকে বলা হয় মৌলিক creditণ অ্যাসাইনমেন্ট সমস্যা (মিনস্কি, 1963)। সর্বজনীন সমস্যা সমাধানকারীদের জন্য সাধারণ ক্রেডিট অ্যাসাইনমেন্ট পদ্ধতি রয়েছে যা বিভিন্ন তাত্ত্বিক সংবেদনে সময়-অনুকূল (সেকশন 6.8)। বর্তমান জরিপটি অবশ্য সংকীর্ণের দিকে মনোনিবেশ করবে, তবে এখন বাণিজ্যিকভাবে গুরুত্বপূর্ণ, কৃত্রিম নিউরাল নেটওয়ার্কের (এনএন) ডিপ লার্নিংয়ের (ডিএল) সাবফিল্ড।
একটি স্ট্যান্ডার্ড নিউরাল নেটওয়ার্ক (এনএন) অনেকগুলি সাধারণ, সংযুক্ত প্রসেসর নিয়ে থাকে যা নিউরন নামে পরিচিত, প্রত্যেকটি বাস্তব-মূল্যবান ক্রিয়াকলাপের ক্রম উত্পাদন করে। ইনপুট নিউরনগুলি পরিবেশটি অনুধাবন করে সেন্সরগুলির মাধ্যমে সক্রিয় হয়ে যায়, অন্যান্য স্নায়বিক পূর্ববর্তী সক্রিয় নিউরনগুলির থেকে ভারী সংযোগের মাধ্যমে সক্রিয় হয়ে যায় (সেক। ২ তে বিশদ)। কিছু নিউরন কর্মকে ট্রিগার করে পরিবেশকে প্রভাবিত করতে পারে। শেখা বা creditণের অ্যাসাইনমেন্টটি এমন ওজনগুলি সন্ধান করা যা NN পছন্দসই আচরণ প্রদর্শন করে যেমন গাড়ি চালানো। সমস্যা এবং নিউরনগুলি কীভাবে সংযুক্ত রয়েছে তার উপর নির্ভর করে, এই জাতীয় আচরণের জন্য গণনার পর্যায়ে দীর্ঘ ধারাবাহিক শৃঙ্খলার প্রয়োজন হতে পারে (সেকশন 3), যেখানে প্রতিটি পর্যায় নেটওয়ার্কের সামগ্রিক সক্রিয়করণ (প্রায়শই একটি লিনিয়ার পথে) রূপান্তরিত হয়। ডিপ লার্নিং হ'ল এই জাতীয় বিভিন্ন পর্যায়ে যথাযথভাবে ক্রেডিট প্রদান করা।
এরকম কয়েকটি ধাপের অগভীর এনএন-এর মতো মডেলগুলি শতাব্দী না হলেও বহু দশক ধরে রয়েছে (সেকেন্ড 5.1)। নিউরনের বেশ কয়েকটি ধারাবাহিক অফলাইন স্তরযুক্ত মডেলগুলি কমপক্ষে 1960 এর দশকের (সেকেন্ড 5.3) এবং 1970 এর দশকের (সেকেন্ড 5.5) তারিখের। ব্যাকপ্রপাগেশন (বিপি) নামক নির্বিচারে গভীরভাবে ডিফারেন্ট, ডিফারেন্সড লার্নিং (এসএল) জন্য শিক্ষক ভিত্তিক তদারকি শিক্ষার জন্য একটি দক্ষ গ্রেডিয়েন্ট বংশোদ্ভূত পদ্ধতি 1960 এবং 1970 এর দশকে উন্নত হয়েছিল এবং 1981 সালে (এন। 5.5) এনএনগুলিতে প্রয়োগ হয়েছিল। অনেক স্তর সহ গভীর এনএনগুলির বিপি-ভিত্তিক প্রশিক্ষণ, তবে 1980 এর দশকের শেষভাগে (সেকেন্ড 5.6) দ্বারা অনুশীলন করা কঠিন হয়ে পড়েছিল এবং 1990 এর দশকের গোড়ার দিকে (সেকশন 5.9) স্পষ্টত গবেষণার বিষয় হয়ে উঠেছে। আনস সার্ভিস লার্নিং (ইউএল), যেমন, সেকেন্ডের সাহায্যে ডিএল কিছুটা হলেও ব্যবহারিকভাবে সম্ভবপর হয়েছিল। 5.10 (1991), সেকেন্ড 5.15 (2006) 1990 এবং 2000 এর দশকে খাঁটি তদারক করা ডিএল (সেকশন 5) এর অনেক উন্নতিও দেখা গেছে। নতুন সহস্রাব্দে, গভীর এনএনগুলি অবশেষে বিভিন্ন গুরুত্বপূর্ণ অ্যাপ্লিকেশনগুলিতে কার্নেল মেশিনের মতো বিকল্প মেশিন শেখার পদ্ধতিগুলি (ভ্যাপনিক, 1995; স্কোলকফ এট আল।, 1998) ছাড়িয়ে বিস্তৃত মনোযোগ আকর্ষণ করেছে। প্রকৃতপক্ষে, ২০০৯ সাল থেকে তদারকি করা গভীর এনএনগুলি সীমিত ডোমেনগুলিতে প্রথম অতিমানবিক ভিজ্যুয়াল প্যাটার্ন স্বীকৃতির ফলাফল অর্জন করে (যেমন, সেকশন ৫.১ pattern, ৫.১৯, ৫.২১, ৫.২২) বহু সরকারী আন্তর্জাতিক প্যাটার্ন স্বীকৃতি প্রতিযোগিতা জিতেছে (সেকশন ৫.১৯, ২০১১)। ডিপ এনএনগুলি আরও শক্তিশালীকরণ শেখার (আরএল) সাধারণ ক্ষেত্রের জন্য প্রাসঙ্গিক হয়ে উঠেছে যেখানে তত্ত্বাবধানকারী শিক্ষক নেই (সেকশন 6)। মূলত অসংখ্য গুরুত্বপূর্ণ অ্যাপ্লিকেশনগুলিতে কার্নেল মেশিনের মতো বিকল্প মেশিন শেখার পদ্ধতিগুলি (ভ্যাপনিক, 1995; স্কলকফফ এট। আল, 1998) ছাড়িয়ে যায়। প্রকৃতপক্ষে, ২০০৯ সাল থেকে তদারকি করা গভীর এনএনগুলি সীমিত ডোমেনগুলিতে প্রথম অতিমানবিক ভিজ্যুয়াল প্যাটার্ন স্বীকৃতির ফলাফল অর্জন করে (যেমন, সেকশন ৫.১ pattern, ৫.১৯, ৫.২১, ৫.২২) বহু সরকারী আন্তর্জাতিক প্যাটার্ন স্বীকৃতি প্রতিযোগিতা জিতেছে (সেকশন ৫.১৯, ২০১১)। ডিপ এনএনগুলি আরও শক্তিশালীকরণ শেখার (আরএল) সাধারণ ক্ষেত্রের জন্য প্রাসঙ্গিক হয়ে উঠেছে যেখানে তত্ত্বাবধানকারী শিক্ষক নেই (সেকশন 6)। মূলত অসংখ্য গুরুত্বপূর্ণ অ্যাপ্লিকেশনগুলিতে কার্নেল মেশিনের মতো বিকল্প মেশিন শেখার পদ্ধতিগুলি (ভ্যাপনিক, 1995; স্কলকফফ এট। আল, 1998) ছাড়িয়ে যায়। প্রকৃতপক্ষে, ২০০৯ সাল থেকে তদারকি করা গভীর এনএনগুলি সীমিত ডোমেনগুলিতে প্রথম অতিমানবিক ভিজ্যুয়াল প্যাটার্ন স্বীকৃতির ফলাফল অর্জন করে (যেমন, সেকশন ৫.১ pattern, ৫.১৯, ৫.২১, ৫.২২) বহু সরকারী আন্তর্জাতিক প্যাটার্ন স্বীকৃতি প্রতিযোগিতা জিতেছে (সেকশন ৫.১৯, ২০১১)। ডিপ এনএনগুলি আরও শক্তিশালীকরণ শেখার (আরএল) সাধারণ ক্ষেত্রের জন্য প্রাসঙ্গিক হয়ে উঠেছে যেখানে তত্ত্বাবধানকারী শিক্ষক নেই (সেকশন 6)। সীমিত ডোমেনগুলিতে প্রথম অতিমানবিক ভিজ্যুয়াল প্যাটার্ন স্বীকৃতির ফলাফল অর্জন করা (সেকেন্ড 5.19, 2011)। ডিপ এনএনগুলি আরও শক্তিশালীকরণ শেখার (আরএল) সাধারণ ক্ষেত্রের জন্য প্রাসঙ্গিক হয়ে উঠেছে যেখানে তত্ত্বাবধানকারী শিক্ষক নেই (সেকশন 6)। সীমিত ডোমেনগুলিতে প্রথম অতিমানবিক ভিজ্যুয়াল প্যাটার্ন স্বীকৃতির ফলাফল অর্জন করা (সেকেন্ড 5.19, 2011)। ডিপ এনএনগুলি আরও শক্তিশালীকরণ শেখার (আরএল) সাধারণ ক্ষেত্রের জন্য প্রাসঙ্গিক হয়ে উঠেছে যেখানে তত্ত্বাবধানকারী শিক্ষক নেই (সেকশন 6)।
অন্যদিকে, আমি নিশ্চিত নই যে মেশিন লার্নিং কৌশলগুলির জন্য পারস্পরিক-একচেটিয়া বালতিগুলির জন্য একটি শ্রেণিবদ্ধ চেষ্টা করার জন্য এটি প্রয়োজনীয়ভাবে লাভজনক। আমি মনে করি আমরা বলতে পারি যে এমন দৃষ্টিভঙ্গি রয়েছে যা থেকে মডেলগুলিকে নিউরাল নেটওয়ার্ক হিসাবে দেখা যায়। আমি মনে করি না যে দৃষ্টিকোণটি অবশ্যই সমস্ত প্রসঙ্গে উপযুক্ত বা কার্যকর or উদাহরণস্বরূপ, আমি এখনও এলোমেলো বন এবং গ্রেডিয়েন্ট বুস্টেড গাছগুলিকে তাদের পার্থক্যগুলি দূরে সরিয়ে "নিউরাল নেটওয়ার্ক ট্রি" বলার পরিবর্তে "ট্রি এনসেমবলস" হিসাবে উল্লেখ করার পরিকল্পনা করছি। তবুও, শ্মিধুবার NNs কে কার্নেল মেশিন থেকে পৃথক করে - যদিও কার্নেল মেশিনগুলির NN- এর কিছু সংযোগ রয়েছে - যখন তিনি লিখেছেন "নতুন সহস্রাব্দে, গভীর এনএনগুলি অবশেষে বিস্তৃত মনোযোগ আকর্ষণ করেছে, মূলত কার্নেল মেশিনের মতো বিকল্প মেশিন লার্নিং পদ্ধতিগুলিকে ছাড়িয়ে ... অনেকগুলি গুরুত্বপূর্ণ অ্যাপ্লিকেশন। "