আশ্চর্যজনকভাবে এটি আগে জিজ্ঞাসা করা হয়নি - কমপক্ষে আমি কিছু অস্পষ্ট সম্পর্কিত প্রশ্ন ছাড়া কিছুই পাইনি ।
সুতরাং, একটি পুনরাবৃত্ত নিউরাল নেটওয়ার্ক কী এবং নিয়মিত এনএনগুলির সাথে তাদের সুবিধা কী?
উত্তর:
পুনরাবৃত্ত নিউরাল নেটওয়ার্কগুলি (আরএনএন) হ'ল মস্তিস্কের নিউরনের চক্রীয় সংযোগ দ্বারা অনুপ্রাণিত কৃত্রিম নিউরাল নেটওয়ার্ক আর্কিটেকচারের একটি শ্রেণি। এটি তথ্য সংরক্ষণ করতে পুনরাবৃত্তি ফাংশন লুপ ব্যবহার করে।
এই বইয়ের ছবি ব্যবহার করে traditionalতিহ্যবাহী নিউরাল নেটওয়ার্কগুলির সাথে পার্থক্য :
এবং, একটি আরএনএন:
পার্থক্যটি লক্ষ্য করুন - ফিডফোরওয়ার্ড নিউরাল নেটওয়ার্কগুলির সংযোগগুলি চক্র গঠন করে না। যদি আমরা এই শর্তটি শিথিল করি এবং পাশাপাশি চক্রীয় সংযোগের অনুমতি দিই, তবে আমরা পুনরাবৃত্ত নিউরাল নেটওয়ার্কগুলি (আরএনএন) পাই। আপনি আর্কিটেকচারের লুকানো স্তরে এটি দেখতে পারেন।
যদিও মাল্টিলেয়ার পারসেপ্ট্রন এবং আরএনএন-এর মধ্যে পার্থক্য তুচ্ছ মনে হতে পারে, সিক্যুয়েন্স লার্নিংয়ের ফলস্বরূপ সুদূরপ্রসারী। একটি এমএলপি কেবলমাত্র ইনপুট থেকে আউটপুট ভেক্টরগুলিতে ম্যাপ করতে পারে , যেখানে কোনও আরএনএন নীতিতে প্রতিটি আউটপুটে পূর্ববর্তী ইনপুটগুলির পুরো ইতিহাস থেকে ম্যাপ করতে পারে । প্রকৃতপক্ষে, এমএলপিগুলির জন্য সর্বজনীন আনুমানিক তত্ত্বের সমতুল্য ফলাফলটি হ'ল পর্যাপ্ত সংখ্যক গোপন ইউনিট যুক্ত একটি আরএনএন যেকোন পরিমাপযোগ্য সিক্যুয়েন্স-টু-সিকোয়েন্স ম্যাপিংকে স্বেচ্ছাসেবী যথাযথতায় আনতে পারে।
গুরুত্বপূর্ণ দখল:
পুনরাবৃত্ত সংযোগগুলি পূর্ববর্তী ইনপুটগুলির একটি 'মেমরি'টিকে নেটওয়ার্কের অভ্যন্তরীণ অবস্থায় ধরে রাখতে দেয় এবং এর ফলে নেটওয়ার্ক আউটপুটকে প্রভাবিত করে influence
সুবিধাগুলির ক্ষেত্রে কথা বলা উপযুক্ত নয় কারণ তারা উভয়ই অত্যাধুনিক এবং নির্দিষ্ট কাজে বিশেষভাবে ভাল good আরএনএন এক্সেল করে এমন একটি বিস্তৃত বিভাগের কাজগুলি:
সিক্যুয়েন্স লেবেলিংয়ের লক্ষ্য হ'ল একটি নির্দিষ্ট বর্ণমালা থেকে আঁকা লেবেলের সিকোয়েন্সগুলি ইনপুট ডেটার সিক্যুয়েন্সগুলিতে নির্ধারণ করা।
উদাহরণস্বরূপ: কথ্য শব্দের (বক্তৃতা শনাক্তকরণ), বা হাতের অঙ্গভঙ্গি (অঙ্গভঙ্গি স্বীকৃতি) সহ ভিডিও ফ্রেমের একটি সিকোয়েন্স সহ অ্যাকোস্টিক বৈশিষ্ট্যগুলির ক্রম প্রতিলিপি করুন।
সিকোয়েন্স লেবেলিংয়ের কিছু উপ-কাজগুলি হ'ল:
ক্রম শ্রেণিবিন্যাস
লেবেলের সিকোয়েন্সগুলি দৈর্ঘ্যের এক হিসাবে সীমাবদ্ধ। একে ইনপুট সিকোয়েন্স একক শ্রেণিতে বরাদ্দ করা হওয়ায় এটি সিক্যুয়েন্স শ্রেণিবদ্ধকরণ হিসাবে উল্লেখ করা হয়। সিক্যুয়েন্স শ্রেণিবদ্ধকরণ কার্যের উদাহরণগুলির মধ্যে একটি একক কথ্য কাজের সনাক্তকরণ এবং স্বতন্ত্র হাতে লিখিত চিঠির স্বীকৃতি অন্তর্ভুক্ত।
বিভাগের শ্রেণিবিন্যাস
বিভাগের শ্রেণিবিন্যাস সেই কাজগুলিকে বোঝায় যেখানে লক্ষ্য সিকোয়েন্সগুলি একাধিক লেবেল নিয়ে গঠিত তবে লেবেলের অবস্থানগুলি - অর্থাৎ, যে ইনপুট বিভাগগুলিতে লেবেলগুলি প্রয়োগ করা হয় - সেগুলি আগে থেকেই জানা ছিল।
একটি পুনরাবৃত্ত নিউরাল নেটওয়ার্ক (আরএনএন) হ'ল একটি কৃত্রিম নিউরাল নেটওয়ার্ক যা পিছনে বা স্ব-সংযোগগুলি ধারণ করে, যেমন ফিড-ফরোয়ার্ড নিউরাল নেটওয়ার্কের (এফএফএনএন) মত সামনের ফরওয়ার্ড সংযোগ থাকার বিপরীতে। "পুনরাবৃত্ত" বিশেষণটি এইভাবে এই পশ্চাদপদ বা স্ব-সংযোগগুলিকে বোঝায় যা এই নেটওয়ার্কগুলিতে লুপ তৈরি করে।
কোনও আরএনএনকে সময়ের (বিবিটিটি) মাধ্যমে ব্যাক-প্রসারণ ব্যবহার করে প্রশিক্ষণ দেওয়া যেতে পারে , যেমন এই পশ্চাৎ বা স্ব-সংযোগগুলি পূর্বে দেখা ইনপুটগুলি "মুখস্ত" করে। সুতরাং, এই সংযোগগুলি মূলত ইনপুটগুলির ক্রমের উপাদানগুলির মধ্যে সাময়িক সম্পর্কগুলি ট্র্যাক করতে ব্যবহৃত হয়, যা আরএনএনগুলিকে সিক্যুয়েন্স পূর্বাভাস এবং অনুরূপ কার্যগুলির সাথে ভাল উপযোগী করে তোলে।
বেশ কয়েকটি আরএনএন মডেল রয়েছে: উদাহরণস্বরূপ, এলএসটিএম বা জিআরইউ ইউনিট সহ আরএনএন। এলএসটিএম (বা জিআরইউ) এমন একটি আরএনএন, যার একক ইউনিট একটি "প্লেইন আরএনএন" এর ইউনিটের তুলনায় আরও জটিল রূপান্তর সম্পাদন করে, যা এই ক্ষেত্রে একটি অ-রৈখিক ক্রিয়াকলাপের (যেমন রিলু) প্রয়োগের পরে ইনপুটটির রৈখিক রূপান্তর সম্পাদন করে forms রৈখিক রূপান্তর. তত্ত্ব অনুসারে, "প্লেইন আরএনএন" এলএসটিএম ইউনিটগুলির সাথে আরএনএনগুলির মতো শক্তিশালী। অনুশীলনে, তারা "নিখোঁজ এবং বিস্ফোরিত গ্রেডিয়েন্টস" সমস্যায় ভুগছে। সুতরাং, অনুশীলনে, এলএসটিএম (বা অনুরূপ পরিশীলিত পুনরাবৃত্ত ইউনিট) ব্যবহৃত হয়।