তত্ত্বাবধানে শেখার জন্য অটোরকোডারগুলি ব্যবহার করা যেতে পারে?

Question

আউটপুট স্তরটি যুক্ত না করে তত্ত্বাবধানে শেখার জন্য অটোরকোডারগুলি কী ব্যবহার করা যেতে পারে ? প্রশিক্ষণের জন্য আমরা কী কেবল এটাকে একটি সংক্ষিপ্ত ইনপুট-আউটপুট ভেক্টর দিয়ে খাওয়াতে পারি এবং অনুমান করার সময় ইনপুট অংশ থেকে আউটপুট অংশটি পুনর্গঠন করতে পারি? আউটপুট অংশ অনুমানের সময় অনুপস্থিত মান হিসাবে বিবেচনা করা হবে এবং কিছু অনুচ্ছেদ প্রয়োগ করা হবে।

Comments

আমি বেশ বুঝতে পারি না। আপনি যদি এটিকে ইনপুট-আউটপুট ভেক্টরগুলির সাথে প্রশিক্ষণ দেন তবে এটির নেটওয়ার্কে ফিড দেওয়ার জন্য আপনাকে আউটপুট ভেক্টরগুলিরও প্রয়োজন হবে। আপনি এটি সম্পর্কে কি করতে যাচ্ছেন?

— দিদম আমি

না, এগুলি অনুপস্থিত মান হিসাবে বিবেচনা করা হবে এবং কোনও উপায়ে অভিযুক্ত করা হবে। স্বয়ংক্রিয় কোডারটি এরপরে এটি পুনর্গঠন করার চেষ্টা করবে (একাধিক পুনরাবৃত্তির প্রয়োজন হতে পারে,)। প্রশ্নটি এই ধারণার সম্ভাব্যতা সম্পর্কে অবিকল is আমি স্পষ্ট করতে সম্পাদনা করব।

— rcpinto

Answer 1

আমি এরকম একটি কাগজ জানি এবং আমি প্রয়োগ করেছি যা মই নেটওয়ার্কগুলি ব্যবহার করে আধা-তত্ত্বাবধানে পড়াশোনা করা । আমি এখানে তাদের মডেলের বিবরণ উদ্ধৃত করেছি:

আমাদের দৃষ্টিভঙ্গি ভ্যালপোলা (২০১৫) অনুসরণ করে, যিনি একটি মই নেটওয়ার্ক প্রস্তাব করেছিলেন যেখানে মডেলটির প্রতিটি স্তরে উপস্থাপনাটিকে সম্মতি জানানো সহায়ক কাজ। মডেল স্ট্রাকচারটি একটি এনকোডার থেকে ডিকোডার পর্যন্ত স্কিপ সংযোগগুলি সহ একটি অটেনকোডার এবং লার্নিং টাস্কটি অটোইনকোডারগুলিকে অস্বীকার করার ক্ষেত্রে একই রকম তবে কেবল প্রতিটি ইনপুট নয়, প্রতিটি স্তরের ক্ষেত্রে প্রয়োগ করা হয়। স্কিপ সংযোগগুলি মডেলের উচ্চ স্তরগুলিতে বিশদ উপস্থাপনের চাপ থেকে মুক্তি দেয় কারণ এড়িয়ে যাওয়া সংযোগের মাধ্যমে ডিকোডার এনকোডার দ্বারা ফেলে দেওয়া কোনও বিবরণ পুনরুদ্ধার করতে পারে।

আর্কিটেকচারের আরও ব্যাখ্যার জন্য যিশুয়া বেনজিও দ্বারা মই নেটওয়ার্ক আর্কিটেকচারের ডেকনস্ট্রাকচারিং চেক করুন ।

Answer 2

আমি যদি আপনাকে সঠিকভাবে বুঝতে পারি তবে এই মুহুর্তে শিরোনামগুলি স্মরণ করতে না পারলে এই জাতীয় সিস্টেমগুলি সম্পর্কিত কাগজগুলি পড়ার কথা আমি মনে করি।

ধারণাটি ছিল চরিত্র-ভিত্তিক জেনারেটরি আরএনএন ব্যবহার করা, "দাতাদত্তাদাতাদাতা | উত্তর" এর মতো এনকোডযুক্ত সিকোয়েন্সগুলিতে তাদের প্রশিক্ষণ দেওয়া এবং তারপরে "অন্যান্যদাতাডাটা" খাওয়ানোর সময় was তাহলে এটি এক ধরণের প্রত্যাশিত উত্তর উত্পন্ন করতে থাকবে।

তবে যতদূর আমি মনে করি, এটি ছিল একটি ঝরঝরে চিত্রণ কারণ আপনার কাছে যদি তদারকি করা কিছু করার ডেটা থাকে তবে আপনি প্রচলিত পদ্ধতিতে আরও ভাল ফলাফল পেতে পারেন।