অ্যাপ্লিকেশনগুলিতে স্পন্দিত নিউরাল নেটওয়ার্কগুলি ব্যবহার করার পথে কী দাঁড়িয়ে আছে?


13

স্পন্দিত বা স্পাইকিং নিউরাল নেটওয়ার্কগুলি জৈবিক নিউরনের ঝিল্লি গতিবেগের আরও অনেক কিছু অন্তর্ভুক্ত করে, যেখানে ডালগুলি পরবর্তী স্তরে তথ্য বহন করে। নিউরনগুলিকে অগত্যা একই সাথে সমস্ত "আগুন" লাগাতে হবে না, যেমন তারা ব্যাকপ্রপের মতো করে, উদাহরণস্বরূপ।

তবুও, মনে হচ্ছে মেশিন লার্নিং সমস্যার জন্য এই মডেলগুলিকে নিয়োগের ক্ষেত্রে বাধা রয়েছে। আরও জৈবিকভাবে বাস্তবসম্মত মডেলগুলি ব্যবহার করে মেশিন লার্নিং অনুশীলনকারীদের পথে কোন নির্দিষ্ট সমস্যা রয়েছে?

উত্তর:


12

প্রধান বিষয়টি হ'ল মস্তিষ্ক কীভাবে কাজ করে তা কেউ জানে না :)

তত্ত্ব

আমি যতদূর বলতে পারি, নিউরাল নেটওয়ার্ক গবেষণায় তিনটি বড় পদক্ষেপ রয়েছে:

  1. পার্সেপট্রন (বা, থ্রেশহোল্ড-গেট) মডেল, যেখানে কোনও বুলিয়ান ফাংশনকে কোনও একক লুকানো স্তরের সাথে কয়েকটি মাল্টি-লেয়ার পার্সেপট্রন দ্বারা গণনা করা যায়।
  2. নিউরন মডেল - পূর্ববর্তীটির উন্নত সংস্করণ, যেখানে নেটওয়ার্ক উপাদান সিগময়েড অ্যাক্টিভেশন ফাংশন (সম্ভাব্য ইনপুট এবং আউটপুটগুলির ধারাবাহিক সেট) ব্যবহার করে। তারা যে কোনও বুলিয়ান ফাংশন (একটি প্রান্তিক প্রয়োগের পরে) গণনা করতে পারে এবং অতিরিক্তভাবে, কোনও ধ্রুবক ফাংশন আনুমানিক করতে পারে।
  3. স্পাইকিং নিউরন মডেল, যা নেটওয়ার্ক উপাদানগুলির মধ্যে তথ্য পাস করতে "টেম্পোরাল কোডিং" ব্যবহার করে। এটি পূর্ববর্তী মডেল যা কিছু করতে পারে এবং প্রায়শই কম নিউরনের সাহায্যে এটি করতে পারে।

মূলত, এখানে বিবর্তনটি হ'ল মানব মস্তিষ্ক কীভাবে কাজ করে তার কাছাকাছি পৌঁছনোর জন্য এবং সর্বশেষ মডেলটির সেরা বিশ্বস্ততা রয়েছে।

অনুশীলন করা

এসএনএনগুলি খুব আশাব্যঞ্জক বলে মনে হচ্ছে এবং এর উপরেও স্পর্শনেট নির্মিত একটি কমার্সিয়াল প্রোডাক্ট রয়েছে ("স্পাইকনেট কী করতে পারে" এবং "স্পাইকনেট এখনও কী করতে পারে না" এর অধীনে আপনি তাদের যে সমস্যার মুখোমুখি হতে পারেন তা দেখতে পারেন)।

স্পাইকিং নেটওয়ার্কগুলির সাথে সুনির্দিষ্ট সমস্যাগুলি সম্পর্কে আমি বলতে পারি না - তবে সাধারণভাবে আমার ধারণা আছে যে সমস্যাগুলি দেখা দেয় কারণ মানুষ এসএনএনগুলি একটি মানুষের মস্তিষ্কের মতো আরও বেশি করে কাজ করতে চায়:

  • তারা কীভাবে তথ্য কোডিং করবেন তা নির্বাচন করতে চান - যা বিলম্ব কোডিংয়ের মাধ্যমে করা যেতে পারে (আরও উচ্চ উদ্দীপক নিউরনগুলি আরও ঘন ঘন এবং তাড়াতাড়ি স্পাইক করে ), বাইনারি কোডিং (তথ্য নির্দিষ্ট সময়ের ব্যবধানের মধ্যে স্পাইকগুলির সংখ্যার দ্বারা প্রতিনিধিত্ব করা হয়), সময় কোডিং (তথ্য পৃথক সময়ের ব্যবধানের গ্রানুলারিটির বিপরীত), র‌্যাঙ্ক অর্ডার কোডিং (কোনও নিউরনের দ্বারা প্রাপ্ত প্রথম স্পাইকগুলি প্রভাব দেওয়া হয় এবং পরেগুলি বাধা দেওয়া হয়) এবং হোয়াট নোট।
  • যখন উভয় নিউরন একই সাথে "চালু" (বা উভয়ই "অফ") থাকে তখন তারা হিব্বিয়ান প্লাস্টিকালিটি অনুকরণ করে যা নিউরনের মধ্যে ওজন বাড়িয়ে তোলে।
  • তারা স্ব-সংগঠন প্রয়োগ করে যেখানে নিউরনের একটি দল বিজয়ী নিউরনের সাথে অন্যান্য নিউরনের প্রতিক্রিয়া বাধা দেয় compete স্পাইকিং নিউরনের সাহায্যে বিজয়ী কেবলমাত্র একক ফায়ারিং ইভেন্টের ভিত্তিতে দ্রুত গণনা করা যায়।

উইকিপিডিয়ায় "পালসড নিউরাল নেটওয়ার্ক" বইয়ের একটি লিঙ্ক রয়েছে যা "পালস কোডড নিউরাল নেটওয়ার্কগুলির বাস্তবায়ন বিষয়সমূহ" বিভাগে রয়েছে তবে আমি এ সম্পর্কে মন্তব্য করার মতো যথেষ্ট শিক্ষিত নই।

বিষয়টির ভূমিকা হিসাবে, আমি এই কাগজটি সুপারিশ করছি: স্পন্দিত নিউরাল নেটওয়ার্ক এবং তাদের অ্যাপ্লিকেশন ( পিডিএফ )


1
আমি সম্মত হই যে মস্তিষ্ক কীভাবে কাজ করে তা কেউ জানে না, তবে 30 বা তার দশক থেকে ভাল, শারীরবৃত্তীয়ভাবে সঠিক ঝিল্লি মডেল রয়েছে। উত্তরে দুর্দান্ত তথ্য, তবে আপনি যা লিখেছেন তা থেকে আমি অনুভব করব যে অনুশীলনকারীদের নিরুৎসাহিত না করে এগুলি ব্যবহার করতে উত্সাহিত করা হবে।
জোনস্কা

হাঁ ঠিক - তারা হয় সেই বিষয় দ্বারা উত্সাহিত! :)
andreister

0

দেখে মনে হচ্ছে যে সমস্ত নিউরাল নেটওয়ার্ক অ্যালগরিদমগুলি তাদের প্রশিক্ষণের অ্যালগোরিদমগুলিতে কিছুটা গ্রেডিয়েন্ট বংশোদ্ভুত ব্যবহার করে এবং এমনকি এএনএএন-র নন মডেলগুলি গ্রেডিয়েন্ট বংশদ্ভুত ব্যবহার করে। SNN- এর মাধ্যমে অস্থায়ী ফ্যাশনে গ্রেডিয়েন্ট বংশোদ্ভূত প্রয়োগ কীভাবে করা যায় সে সম্পর্কে কোনও তত্ত্ব নেই বলে মনে হয়। একটি সম্ভাবনা হ'ল নিউরোমর্ফিক কম্পিউটারিংয়ের বৃদ্ধি যা এসএনএনগুলির সাথে একই সাথে আরও জৈবিকভাবে বাস্তবসম্মত মডেল ব্যবহার করে। তবে দেখে মনে হচ্ছে অনেকগুলি স্ট্যান্ডার্ড এমএল সমস্যা যেমন হাতের লেখার স্বীকৃতি, বক্তৃতা স্বীকৃতি, বস্তুর স্বীকৃতি, ভাষার অনুবাদ ইত্যাদিতে এএনএন-এর সাথে প্রাপ্ত খুব সুনির্দিষ্ট বেঞ্চমার্কের মতো আজকের নিউরোমর্ফিক ক্ষেত্রটিতে শক্তিশালী মেশিন-লার্নিং বেঞ্চমার্ক / ব্রেকথ্রুগুলি নেই seems


নিউরোমর্ফিক কম্পিউটারে আবার কিছুটা অনুরূপ প্রশ্ন রয়েছে স্ব-শিক্ষার স্নায়বিক সিস্টেমের জন্য কোনও প্রোগ্রামিং মডেল cs.se
vzn
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.