1000 নিউরনের সাথে 1 টি লুকানো স্তর 100 টি নিউরন সহ 10 টি লুকানো স্তর

Question

এই ধরণের প্রশ্নগুলি সমস্যা-নির্ভর হতে পারে, তবে আমি এমন গবেষণার সন্ধান করার চেষ্টা করেছি যা লুকিয়ে থাকা স্তরগুলির সংখ্যা এবং তাদের আকার (প্রতিটি স্তরের নিউরনের সংখ্যা) সত্যই গুরুত্বপূর্ণ কিনা না সে প্রশ্নের সমাধান করে।

সুতরাং আমার প্রশ্নটি হ'ল এটি কি সত্যই গুরুত্ব দেয় যদি আমাদের উদাহরণস্বরূপ 1000 টি নিউরন বনাম 10 টি লুকানো স্তর প্রতিটি 100 নিউরন সহ 10 টি লুকানো স্তর থাকে?

Answer 1

মূলত, একাধিক স্তর (যেমন একটি গভীর নেটওয়ার্ক) আপনার নেটওয়ার্ককে ইনপুট ডেটার নির্দিষ্ট দিকগুলি সনাক্ত করতে আরও আগ্রহী করে তোলে। উদাহরণস্বরূপ, আপনার কাছে যদি কোনও বাড়ির বিশদ (আকার, লনের আকার, অবস্থান ইত্যাদি) ইনপুট হিসাবে থাকে এবং দামটি পূর্বাভাস দিতে চান। প্রথম স্তরটি ভবিষ্যদ্বাণী করতে পারে:

• বড় অঞ্চল, বেশি দাম
• অল্প পরিমাণে শয়নকক্ষ, কম দাম

দ্বিতীয় স্তরটি উপসংহারে আসতে পারে:

• বড় অঞ্চল + ছোট পরিমাণের শয়নকক্ষ = বড় শয়নকক্ষ = + - প্রভাব

হ্যাঁ, একটি স্তর পরিসংখ্যানগুলিও 'সনাক্ত' করতে পারে তবে এটির জন্য আরও বেশি নিউরোন প্রয়োজন কারণ এটি স্টাটি সনাক্ত করতে প্রয়োজনীয় গণনাটির 'অংশ' করতে অন্যান্য নিউরনের উপর নির্ভর করতে পারে না।

এই উত্তরটি দেখুন

Comments

আপনার উত্তরের জন্য আপনাকে অনেক ধন্যবাদ। কেবল স্পষ্ট করে বলার জন্য, আপনি যখন "এটি আপনার নেটওয়ার্ককে [...]" লেখেন, তখন আপনি কি সেই মামলার কথা উল্লেখ করছেন যখন আমি কম স্তরে বেশি নিউরন রাখার পরিবর্তে কম সংখ্যক নিউরন সহ অনেক গোপন স্তর রাখি?

— স্টিফেন জনসন

@ স্টেফেন জনসন উফ, আমি প্রশ্নটি সম্পাদনা করেছি। আমি গভীর নেটওয়ার্ক (একাধিক স্তর) উল্লেখ করছি।

— টমাস ডাব্লু

ভাল উত্তর, আবার ধন্যবাদ। হতে পারে আমার অন্য থ্রেডে এটি চালিয়ে যাওয়া উচিত, তবে আপনি কি মনে করেন একই ধরণের যুক্তি জিআরইউ বা এলএসটিএম এর মতো পুনরাবৃত্ত নিউরাল নেটওয়ার্কগুলিতে প্রযোজ্য?

— স্টিফেন জনসন

@ স্টেফেন জনসন আপনার অর্থ কি এক স্তরযুক্ত পুনরাবৃত্ত নেটওয়ার্ক বনাম বহু স্তরযুক্ত পুনরাবৃত্ত নেটওয়ার্কগুলি বা তাদের পুনরাবৃত্ত সংযোগের কারণে আপনি বোঝাতে চান?

— টমাস ডাব্লু

আমি সাধারণত বলতে চাইছি, কারণ তাদের পুনরুক্ত সংযোগের কারণে এগুলি দীর্ঘ দূরত্বে প্রাসঙ্গিক মানচিত্র তৈরি করতে দেয়, এই জাতীয় নেটওয়ার্কগুলি কি নিয়মিত ফিডফোরওয়ার্ড নেটওয়ার্ককে একইভাবে ডিপ হওয়ার ফলে উপকৃত হয়? সম্ভবত তাদের সাথে তুলনা করা যাবে না যেহেতু অডিও হিসাবে সিক্যুয়াল ডেটা ব্যবহার করা হয় সাধারণত পুনরাবৃত্ত নেটওয়ার্কগুলি ব্যবহৃত হয়।

— স্টিফেন জনসন 22

Answer 2

অনেক দিক আছে।

1. প্রশিক্ষণ: অদৃশ্য হওয়া (পুনরায় বিস্ফোরিত হওয়া) গ্রেডিয়েন্ট সমস্যার কারণে গভীর জাল প্রশিক্ষণ করা একটি কঠিন কাজ । সুতরাং 10x100 নিউরাল নেট তৈরির প্রস্তাব দেওয়া হয় না।

প্রশিক্ষিত নেটওয়ার্ক কর্মক্ষমতা:

• তথ্য হ্রাস: নিউরাল নেটগুলির ধ্রুপদী ব্যবহার হল শ্রেণিবিন্যাস সমস্যা। যার অর্থ আমরা ডেটা থেকে কিছু ভাল সংজ্ঞায়িত তথ্য পেতে চাই। (উদাহরণস্বরূপ ছবিতে কোনও মুখ আছে কি নেই।) সুতরাং সাধারণত শ্রেণিবদ্ধকরণের সমস্যাটিতে প্রচুর ইনপুট থাকে এবং কয়েকটি আউটপুট থাকে, তবে লুকানো স্তরগুলির আকার আরও বেশি কী ইনপুট থেকে আউটপুটে নেমে আসে। যাইহোক, আমরা স্তর দ্বারা কম নিউরন স্তর ব্যবহার করে তথ্য হ্রাস করি। (অর্থাত্ এটিতে কোনও মুখ আছে বা না এর উপরে ভিত্তি করে আমরা মূল চিত্রটি পুনরুত্পাদন করতে পারি না) সুতরাং আপনাকে অবশ্যই জানতে হবে ইনপুটটির আকারটি যদি 1000 (1000) হয় তবে আপনার 100 টি নিউরন ব্যবহার করে তথ্য হারাবেন।
• তথ্য জটিলতা: তবে গভীর জাল (যেমন টমাস ডাব্লু উল্লিখিত) ইনপুট ডেটা থেকে আরও জটিল তথ্য আনতে পারে। এটি সম্পূর্ণরূপে 10 টি সম্পূর্ণ সংযুক্ত স্তর ব্যবহার করার জন্য প্রস্তাবিত নয় Insp এটি কনভ্যুশনাল / রিলু / ম্যাকপুলিং বা অন্যান্য ধরণের স্তর ব্যবহার করার পরামর্শ দেয়। ফায়ারস্টের স্তরগুলি ইনপুটগুলির কিছু প্রয়োজনীয় অংশ সংকোচন করতে পারে। (প্রাক্তন ছবিটির নির্দিষ্ট অংশে কোনও রেখা রয়েছে) দ্বিতীয় স্তর বলতে পারে: ছবিতে এই জায়গায় একটি নির্দিষ্ট আকার রয়েছে। ইত্যাদি ইত্যাদি

গভীর জাল আরও "চালাক" তবে 10x100 নেট কাঠামো একটি ভাল পছন্দ।

Answer 3

আপনি যে সমস্যাটি সমাধান করছেন সেটি যদি লৈখিকভাবে পৃথকযোগ্য হয়, তবে 1000 নিউরনের একটি স্তর 100 টি নিউরনের প্রতিটিতে 10 টি স্তরের চেয়ে আরও ভাল কাজ করতে পারে। যদি সমস্যাটি অরৈখিক এবং উত্তল নয়, তবে আপনার গভীর স্নায়বিক জাল দরকার।

Comments

যদি সমস্যাটি রৈখিকভাবে পৃথক হয় তবে আপনার কোনও গোপন স্তরের দরকার নেই

— আমেদিও বড়জিওলা

Answer 4

আমি মনে করি আপনার নিউরাল নেটওয়ার্কগুলির বেসিকগুলিতে বিভ্রান্তি আছে। প্রতিটি স্তরের একটি পৃথক অ্যাক্টিভেশন ফাংশন এবং ইনপুট / আউটপুট সংযোগ ওজন থাকে।

প্রথম লুকানো স্তরের আউটপুট একটি ওজন দ্বারা গুন করা হবে, পরবর্তী স্তরটিতে একটি অ্যাক্টিভেশন ফাংশন দ্বারা প্রক্রিয়াজাতকরণ ইত্যাদি on সিঙ্গল লেয়ার নিউরাল নেটওয়ার্কগুলি সাধারণ কাজের জন্য খুব সীমাবদ্ধ, আরও গভীর এনএন একটি স্তরের চেয়ে আরও ভাল পারফর্ম করতে পারে।

তবে আপনার অ্যাপ্লিকেশন মোটামুটি জটিল না হলে লেয়ারের চেয়ে বেশি ব্যবহার করবেন না। উপসংহারে, 100 টি নিউরন লেয়ারের অর্থ 10 স্তর x 10 নিউরনের চেয়ে ভাল নিউরাল নেটওয়ার্ক নয় তবে 10 স্তরগুলি কল্পিত কিছু যদি না আপনি গভীর শিখন করছেন doing লুকানো স্তরে 10 টি নিউরন দিয়ে শুরু করুন এবং পার্থক্যটি দেখতে স্তরটি যুক্ত করতে বা একই স্তরটিতে আরও নিউরন যুক্ত করার চেষ্টা করুন। আরও স্তর সহ শেখা সহজ হবে তবে আরও প্রশিক্ষণের সময় প্রয়োজন।