বেসিক মেশিন লার্নিংয়ে আমাদের নিম্নলিখিত "থাম্বের নিয়ম" শেখানো হয়:
ক) আপনার হাইপোথিসিস সেটের ভিসি ডাইমেনশনের আকারের তুলনায় আপনার ডেটার আকার কমপক্ষে 10 গুণ হওয়া উচিত।
খ) এন সংযোগ সহ একটি নিউরাল নেটওয়ার্কের প্রায় এন এর ভিসি মাত্রা থাকে has
সুতরাং যখন একটি গভীর শিক্ষার স্নায়বিক নেটওয়ার্ক বলেছে, কয়েক মিলিয়ন ইউনিট, এর অর্থ আমাদের কি হওয়া উচিত, বলুন, কোটি কোটি ডেটা পয়েন্ট? আপনি কি দয়া করে এ সম্পর্কে কিছু আলোকপাত করতে পারেন?
একটি গভীর নিউরাল নেটওয়ার্কের লক্ষ লক্ষ ইউনিট থাকবে না যেমন আপনি বলেছেন। তবে এর লক্ষ লক্ষ সংযোগ থাকবে। আমি ধরে নেব যে আপনার দ্বিতীয় থাম্বের নিয়মটি এই নেটওয়ার্কগুলির জন্য ধারণ করে না, মূলত তাদের নিয়মিত প্রকৃতির কারণে (যেমন সিএনএন ড্রপআউট সহ)।
—
পীর
আমি মনে করি কীটি হ'ল ভিসি আবদ্ধ অসীম নয়। যদি এটি সীমাবদ্ধ হয়, তবে পিএসি তত্ত্বটি আমাদের জানায় যে শেখা সম্ভব। কতটা ডেটা, তা আর একটি প্রশ্ন।
—
ভ্লাদিস্লাভস ডভগ্লেলেকস