লেয়ার প্রতি নিউরনের অনুকূল সংখ্যাটি কীভাবে খুঁজে পাবেন?


28

আপনি যখন নিজের অ্যালগরিদম লিখছেন, আপনি কীভাবে জানবেন যে একক স্তরে আপনার কয়টি নিউরোন দরকার? সেগুলির সর্বাধিক সংখ্যক সন্ধানের জন্য কি কোনও পদ্ধতি রয়েছে, না এটি থাম্বের নিয়ম?

উত্তর:


15

এগুলির সর্বোত্তম সংখ্যার সন্ধানের জন্য সরাসরি কোনও উপায় নেই: লোকেরা বোধগম্যভাবে চেষ্টা করে দেখে (যেমন, ক্রস-বৈধকরণ ব্যবহার করে)। সর্বাধিক সাধারণ অনুসন্ধান কৌশলগুলি এলোমেলো, ম্যানুয়াল এবং গ্রিড অনুসন্ধানগুলি।

গাউসীয় প্রক্রিয়াগুলির মতো আরও উন্নত কৌশল রয়েছে, যেমন ডায়ালগ অ্যাক্ট শ্রেণিবিন্যাস , আইইইই এসএলটি 2016 এর জন্য গাউসিয়ান প্রসেসিসের সাথে নিউরাল নেটওয়ার্ক হাইপারপ্যারামিটারগুলি অনুকূল করা


7

এলোমেলো বা সম্পূর্ণ অনুসন্ধানের চেয়ে আরও বুদ্ধিমান পদ্ধতির জন্য, আপনি NEAT http://nn.cs.utexas.edu/?neat এর মতো জেনেটিক অ্যালগরিদম চেষ্টা করতে পারেন । তবে এটির গ্লোবাল অপটিমা খুঁজে পাওয়ার কোনও গ্যারান্টি নেই, এটি কেবল পারফরম্যান্সের উপর ভিত্তি করে একটি অপ্টিমাইজেশন অ্যালগরিদম এবং তাই কোনও স্থানীয় অপটিমায় আটকে যাওয়ার পক্ষে এটি ঝুঁকির মধ্যে রয়েছে।


1
যাইহোক, বিশ্বব্যাপী সর্বোত্তমের কাছাকাছি চলে আসবে।
jjmerelo

4

কাগজ Szegedy সি, ভানহোক V, Ioffe এস, ইত্যাদি। কম্পিউটার ভিশন [জে] এর জন্য আর্কিটেকচারের পুনর্বিবেচনা। আরএক্সিভ প্রিপ্রিন্ট আরএক্সিভ: 1512.00567, 2015. কিছু সাধারণ নকশার নীতি দেয়:

  1. প্রতিনিধিত্বমূলক বাধাগুলি এড়ান, বিশেষত নেটওয়ার্কের প্রথম দিকে;

  2. নেটওয়ার্কের প্রস্থ এবং গভীরতার ভারসাম্য রক্ষা করুন। প্রতিটি পর্যায়ে ফিল্টার সংখ্যা এবং নেটওয়ার্কের গভীরতার ভারসাম্য রেখে নেটওয়ার্কের সর্বোত্তম পারফরম্যান্স পৌঁছে যেতে পারে। নেটওয়ার্কের প্রস্থ এবং গভীরতা উভয়ই বৃদ্ধি করা উচ্চমানের নেটওয়ার্কগুলিতে অবদান রাখতে পারে। যাইহোক, উভয় সমান্তরালে বৃদ্ধি করা হলে অবিচ্ছিন্ন পরিমাণ গণনার জন্য সর্বোত্তম উন্নতি পৌঁছে যেতে পারে। গণনার বাজেট তাই নেটওয়ার্কের গভীরতা এবং প্রস্থের মধ্যে ভারসাম্যপূর্ণভাবে বিতরণ করা উচিত।

এই পরামর্শগুলি আপনাকে কোনও নেটওয়ার্কে সর্বাধিক সংখ্যক নিউরনের আনতে পারে না।

তবে, এখনও কিছু মডেল সংক্ষেপণ গবেষণা রয়েছে যেমন ডিপ নিউরাল নেটওয়ার্কগুলির স্ট্রাকচার্ড স্পারসিটি লার্নিং (এসএসএল) , স্কিজনেট , প্রুনিং নেটওয়ার্ক যা একক স্তর প্রতি নিউরনকে কীভাবে অনুকূল করতে পারে সে সম্পর্কে কিছুটা আলোকপাত করতে পারে।

বিশেষত ডিপ নিউরাল নেটওয়ার্কগুলির স্ট্রাকচার্ড স্পারসিটি লার্নিংয়ে , এটি ডিএনএনগুলিরGroup Lasso কাঠামোগুলি (যেমন, ফিল্টার, চ্যানেল, ফিল্টার আকার এবং স্তর গভীরতা) নিয়মিত করতে ক্ষতি ফাংশনে একটি নিয়মিত পদ যুক্ত করে, যা কিছু উপাদান শূন্য করে ( অর্থাত্, নেট কাঠামোর ফিল্টার, চ্যানেল, ফিল্টার আকার এবং স্তর গভীরতা) এবং নেটওয়ার্কের একটি উল্লেখযোগ্য কমপ্যাক্ট এবং ত্বরণ অর্জন করে, যখন একটি ছোট শ্রেণিবিন্যাসের নির্ভুলতা ক্ষতি রাখে।


3

আপনি যখন জানেন যে আপনার যখন খুব বেশি পরিমাণে নিউরোন থাকে তখন আপনি যখন অতিরিক্ত ফিটিংস পান। মানে এটি ভাল কাজ করছে না কারণ এনএন অসম্ভব সবচেয়ে নিখুঁত ম্যাচে সক্রিয় করার চেষ্টা করছে। একই পরিমাণে পরমাণু সহ দুটি পৃথক বিড়ালের মতো, বা বলতে গেলে এটি একটি ডিটেক্টর এনএন যা কেবল আপনার পোষা বিড়ালের ছবিতে সক্রিয় করে এবং অন্য কিছুই নয়। আপনি এনএনটি সক্রিয় করার জন্য আরও বিস্তৃত পরিসর চান। বিড়ালের যে কোনও ছবিতে লাইক দিন।

ওভারফিটিং এমন একটি সমস্যা যা এর কোনও বাস্তব দ্রুত সমাধান নেই। আপনি খুব কম দিয়ে শুরু করতে পারেন এবং তারপরে আরও সংযোজন চালিয়ে যেতে পারেন। বা অনেকগুলি দিয়ে শুরু করুন এবং তারপরে এটি সঠিকভাবে কাজ করা অবধি অপসারণ করুন।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.