নন-চিত্রবিহীন এনএলপি কাজের জন্য গভীর শিক্ষা?

Question

কম্পিউটার দৃষ্টি বা প্রাকৃতিক ভাষা প্রক্রিয়াকরণে গভীর শিক্ষার জন্য এখনও পর্যন্ত অনেক আকর্ষণীয় অ্যাপ্লিকেশন রয়েছে।

অন্যান্য অন্যান্য traditionalতিহ্যবাহী ক্ষেত্রে এটি কেমন? উদাহরণস্বরূপ, আমার traditionalতিহ্যবাহী আর্থ-ডেমোগ্রাফিক ভেরিয়েবলগুলি প্লাস হতে পারে প্রচুর ল্যাব পরিমাপ এবং একটি নির্দিষ্ট রোগের পূর্বাভাস দিতে চাই। আমার যদি প্রচুর পর্যবেক্ষণ থাকে তবে এটি কী গভীর শিক্ষার অ্যাপ্লিকেশন হবে? আমি এখানে কীভাবে একটি নেটওয়ার্ক তৈরি করব, আমার মনে হয় সমস্ত অভিনব স্তর (সমঝোতা ইত্যাদি) আসলেই প্রয়োজনীয় নয় ?! এটাকে কি আরও গভীর করে তোলা?

আমার নির্দিষ্ট ডেটা সেটটিতে, আমি নির্ভুলতার সাথে মিশ্র ফলাফল সহ এলোমেলো বন, জিবিএম ইত্যাদির মতো কিছু সাধারণ মেশিন লার্নিং অ্যালগরিদম চেষ্টা করেছি। আমি চিত্র স্বীকৃতি সঙ্গে সীমিত গভীর শেখার অভিজ্ঞতা আছে।

Comments

"প্রচুর পর্যবেক্ষণ" কত হবে তার উপর নির্ভর করে আপনি কোনও ভিন্ন পদ্ধতির দিকে নজর রাখতে পারেন, যেমন এক্সজিবিস্ট। আপনার লক্ষ্যটি বিশেষভাবে গভীর শেখার পদ্ধতির চেষ্টা করা, বা সর্বোত্তম নির্ভুলতা অর্জন করা কিনা তা আপনি পরিষ্কার করতে পারেন?

— নীল স্লেটার

@ নীলস্ল্যাটার আমার লক্ষ্য এক্সজিস্টের মতো প্রতিষ্ঠিত পদ্ধতির চেয়ে উচ্চতর নির্ভুলতা অর্জন করা হবে, যদি এমন ক্ষেত্রে এটি সম্ভব হয়

— spore234

এটি সম্ভব, তবে আমার অভিজ্ঞতায় সম্ভবত আপনি যদি প্রচুর ডেটা না করেন তবে সম্ভবত না ।

— নিল স্লেটার

মতলব "ডিপ লার্নিং টিপস এন্ড ট্রিকস" সম্পর্কে ডকুমেন্টেশন সরবরাহ করে। আমার একই প্রশ্ন ছিল এবং পৃষ্ঠাটি ভাল উদাহরণগুলির পাশাপাশি খুব দরকারী গাইড সরবরাহ করেছে। উদাহরণস্বরূপ আপনার গভীর শিখন ব্যবহার করে সিক্যুয়েন্স / টাইম সিরিজ শ্রেণিবদ্ধকরণ / রিগ্রেশন ক্রমের প্রয়োজন হতে পারে need

— সামি নাভেসি

Answer 1

হ্যাঁ আপনি অ-চিত্রের ডেটা প্রক্রিয়া করতে গভীর শেখার কৌশলগুলি ব্যবহার করতে পারেন। তবে অন্যান্য মডেল ক্লাসগুলি এখনও সিগন্যাল-প্রক্রিয়াজাতকরণ এবং সম্পর্কিত কাজের বাইরে স্নায়বিক নেটওয়ার্কগুলির সাথে খুব প্রতিযোগিতামূলক।

অ-সিগন্যাল / নন-সিকোয়েন্স ডেটাতে গভীর শেখার পদ্ধতির ব্যবহার করতে সাধারণত আপনি একটি সাধারণ ফিড-ফরোয়ার্ড মাল্টি-লেয়ার নেটওয়ার্ক ব্যবহার করেন। সমঝোতা স্তর বা পুলিং স্তরগুলির প্রয়োজন নেই। এর বাইরে সর্বোত্তম আর্কিটেকচারটি ক্রস-বৈধকরণের সাথে অন্বেষণ করা দরকার, এবং গভীর এনএন প্রশিক্ষণে প্রচুর গণনা নিতে পারে বলে এটি আবিষ্কার করা সময়সাপেক্ষ হতে পারে।

আমার অভিজ্ঞতায় কাগল প্রতিযোগিতায় গভীর (-শব্দ, সাধারণত ~ 5 স্তর) নিউরাল নেটওয়ার্কগুলি ব্যবহার করার চেষ্টা করা হয়েছে:

• ড্রপআউট এখনও নিয়মিতকরণ এবং নির্ভুলতার উন্নতির জন্য অত্যন্ত কার্যকর

• ইনপুট নরমালাইজেশন - সাধারণত 0, স্ট্যান্ডার্ড ডিভিয়েটন 1 এর অর্থ গুরুত্বপূর্ণ

• লুকানো স্তর সক্রিয়করণ ফাংশন একটি পার্থক্য করতে পারে। যদিও রিলু বিলুপ্ত গ্রেডিয়েন্টগুলির সাথে কিছু সমস্যা হ্রাস করেছে, আমার অভিজ্ঞতায় এটি সংকেতবিহীন ডেটাগুলির সাথে কম শক্তিশালী এবং আপনি অন্য কোনও ফর্ম চাইবেন। আপনার যদি কয়েকটি মাত্র স্তর থাকে তবে সিগময়েড বা তানহ এখনও ঠিক আছে। অন্যথায়, ফাঁস হওয়া আরএলইউ, প্রেলু, ইএলইউ এবং অন্যান্য আরএলইউ ভেরিয়েন্টগুলি দেখুন যা "মৃত" নিউরনের সাহায্যে এর সমস্যাগুলি প্যাচ করার চেষ্টা করে।

• গভীর শিক্ষার জন্য যেমন ডিজাইন করা অপ্টিমাইজারগুলি ব্যবহার করুন, যেমন অ্যাডাম, অ্যাডাগ্রাড বা আরএমএসপ্রপ

• ওজন সূচনা পদ্ধতির ব্যবহার করুন যা গভীর শিক্ষার সাথে কাজ করে, যেমন গ্লোরোট।

• ব্যাচ সাধারণকরণ স্তরগুলি ব্যবহার করার বিষয়টি বিবেচনা করুন। আমার এমন অনেক কিছুই নয় যার সাথে আমার বেশি অভিজ্ঞতা রয়েছে তবে আমি অন্যান্য লোকদের এই পদ্ধতির সাথে ভাল করতে দেখেছি।

এত কিছুর পরেও এক্সজিবিস্ট তুলনামূলকভাবে নূন্যতম টিউনিং এবং প্রশিক্ষণের প্রচেষ্টা দিয়ে গভীর এনএনগুলিকে নিয়মিত এবং সহজেই হারাতে পারে (সমস্যাটি এবং আপনার যে ডেটা রয়েছে তার উপর নির্ভর করে)। যথাযথতা যদি আপনার কাছে সবকিছুই থাকে তবে এটি সম্ভব - যদিও এটির গ্যারান্টি নেই - যে গভীর এনএনএস এবং এক্সজিবিস্টের মতো অন্যান্য মডেলের একটি পোশাক এককভাবে তুলনামূলকভাবে ভাল সম্পাদন করবে।

Answer 2

শ্রেণিবিন্যাসের উদ্দেশ্যে একটি নেটওয়ার্ক উপযুক্ত হতে পারে। এর জন্য, আপনার প্রশিক্ষণ-সেট এবং আপনার ডেটার একটি পরীক্ষা-সেট সংজ্ঞায়িত করতে সক্ষম হওয়া দরকার যা ডেটা প্রতিনিধিত্ব করে এমন ডেটা উপস্থাপনে শ্রেণিবদ্ধ করতে বলা হবে। এটি নির্ধারণ করে যে আপনি কোনও খারাপ, যুক্তিসঙ্গত বা একটি ভাল ওয়ার্কিং নেটওয়ার্ক পেতে পারেন কিনা।

আমি পদগুলিকে "গভীর-শিক্ষণ" হিসাবে বিভ্রান্তিকর হিসাবে বিবেচনা করি: একটি নেটওয়ার্ক শিখে না, আপনি কেবল এটি প্রশিক্ষণ দিতে পারেন।

ধরে নিচ্ছি আপনি একটি প্রশিক্ষণ এবং পরীক্ষা সেট তৈরি করতে পারেন, উচ্চ স্তরে আপনি এ ব্যবহার করতে পারেন

• মাল্টি-লেয়ার: যদি আপনার ডেটার কোনও অর্ডার না থাকে এবং কাঠামোগুলির একটি নির্দিষ্ট অবস্থান থাকে।

• রিকার্সিভ নেটওয়ার্ক: যদি শ্রেণিবিন্যাসের জন্য ডেটার ক্রমটি গুরুত্ব পায়

• কনভোলিউশন: যদি আপনার ডেটাতে চিত্রগুলির মতো কাঠামো থাকে তবে কোনও স্থির অবস্থান থাকে না।

স্তরগুলির সংখ্যার মতো একটি ভাল সেটআপ পেতে ট্রায়াল এবং ত্রুটির প্রয়োজন; এটি এক ধরণের কালো যাদু।