নিউরাল নেটওয়ার্ক এবং গভীর বিশ্বাস নেটওয়ার্কের মধ্যে পার্থক্য কী?


62

আমি এই ধারণাটি পেয়ে যাচ্ছি যে লোকেরা যখন একটি 'গভীর বিশ্বাস' নেটওয়ার্ককে উল্লেখ করছে যে এটি মূলত একটি নিউরাল নেটওয়ার্ক তবে খুব বড়। এটি কি সঠিক বা গভীর বিশ্বাসের নেটওয়ার্কটিও বোঝায় যে অ্যালগোরিদম নিজেই আলাদা (যেমন, কোনও ফিড ফরোয়ার্ড নিউরাল নেট নয় তবে সম্ভবত প্রতিক্রিয়া লুপের সাথে কিছু)?

উত্তর:


59

"নিউরাল নেটওয়ার্ক" এমন একটি শব্দ যা সাধারণত ফিডফোরওয়ার্ড নিউরাল নেটওয়ার্কগুলিকে বোঝাতে ব্যবহৃত হয়। ডিপ নিউরাল নেটওয়ার্কগুলি অনেক স্তর সহ ফিডফোরওয়ার্ড নিউরাল নেটওয়ার্ক।

একটি গভীর বিশ্বাস নেটওয়ার্ক ডিপ নিউরাল নেটওয়ার্কের মতো নয়।

আপনি উল্লেখ করেছেন যে একটি গভীর বিশ্বাস নেটওয়ার্কের কয়েকটি স্তরগুলির মধ্যে সংকেত পুনঃনির্দেশিত হয়েছে। এর অর্থ ডিএনএন এবং ডিবিএন এর টপোলজি সংজ্ঞা অনুসারে পৃথক।

ডিবিএন-এ পুনঃনির্দেশিত স্তরগুলিকে সীমাবদ্ধ বল্টজম্যান মেশিনস বলে। এই স্তরগুলি একটি নিরীক্ষণযোগ্য শেখার অ্যালগরিদম (কনট্রাস্টিভ ডাইভারজেন) ব্যবহার করে প্রশিক্ষণ দেওয়া যেতে পারে যা খুব দ্রুত ( বিশদ সহ এখানে একটি লিঙ্ক !)।

আরও কিছু মন্তব্য:

গভীর নিউরাল নেটওয়ার্কগুলির সাথে প্রাপ্ত সমাধানগুলি 1 বা 2 টি লুকানো স্তরযুক্ত নেটওয়ার্কগুলির জন্য প্রাপ্ত সমাধানগুলির চেয়ে খারাপ সম্পাদন করে এমন সমাধানগুলির সাথে মিল। আর্কিটেকচার আরও গভীর হওয়ার সাথে সাথে ডিপ এনএন ব্যবহার করে ভাল জেনারেলাইজেশন অর্জন করা আরও কঠিন হয়ে পড়ে।

2006 সালে হিন্টন আবিষ্কার করেছিলেন যে গভীর আর্কিটেকচারে আরও ভাল ফলাফল অর্জন করা যেতে পারে যখন প্রতিটি স্তর (আরবিএম) একটি নিরীক্ষণযোগ্য শেখার অ্যালগরিদম (কনট্রাস্টিভ ডাইভারজেন) দিয়ে প্রাক-প্রশিক্ষিত হয়। তারপরে ওজনকে "সূক্ষ্ম-সুরকরণ" করার জন্য ব্যাকপ্রোপেশন ব্যবহার করে নেটওয়ার্কটিকে তদারকি উপায়ে প্রশিক্ষণ দেওয়া যেতে পারে।


কোনও ডিএনএন ও ডিবিএন এর কার্যকারিতার মধ্যে যে প্রাথমিক তফাতটি ডিবিএন উভয় দিকেই, => প্রশিক্ষণের জন্য বাইরে, আউট => পূর্বাভাসের জন্য কাজ করে?
ZAR

5

" একটি গভীর নিউরাল নেটওয়ার্ক একটি ফিড এগিয়ে, কৃত্রিম স্নায়ুর নেটওয়ার্ক তার ইনপুট এবং তার আউটপুট মধ্যে লুকানো ইউনিট। প্রতিটি লুকানো ইউনিট, একাধিক স্তর রয়েছে , সাধারণত নিচের স্তর থেকে তার মোট ইনপুট ম্যাপ লজিস্টিক ফাংশন ব্যবহার , , স্কেলার অবস্থায়, যা এটি উপরের স্তরে প্রেরণ করেjxjyj Ref (রেফারি (1)) "।

যা বলেছিল, ডেভিড যেমন উল্লেখ করেছেন: " গভীর বিশ্বাস নেটওয়ার্কগুলির একটি শীর্ষস্থানীয় দুটি স্তরের মধ্যে একটি আরবিএমের মতো একটি অপ্রচলিত সংযোগ রয়েছে ", যা স্ট্যান্ডার্ড ফিড-ফরোয়ার্ড নিউরাল নেটওয়ার্কগুলির বিপরীতে। সাধারণভাবে, একটি ডিএনএন-এর মূল সমস্যাটি এর প্রশিক্ষণের বিষয়ে উল্লেখ করে যে এটি অবশ্যই আরও জড়িত যে একটি একক স্তর এনএন। (আমি এনএনএস-তে কাজ করছি না, এটি সম্প্রতি ঘটেছিল আমি সম্প্রতি কাগজটি পড়েছি))

তথ্যসূত্র: ১. স্পিফিক রিকোনিশনেশনে অ্যাকোস্টিক মডেলিংয়ের গভীর ডিপ নিউরাল নেটওয়ার্কগুলি , জেফ্রি হিন্টন, লি দেং, ডং ইউ, জর্জ ডাহল, আবদেল-রহমান মোহাম্মদ, নবদীপ জেটলি, অ্যান্ড্রু সিনিয়র, ভিনসেন্ট ভানহুকে, প্যাট্রিক নুগেইন, তারা সায়নাথ, এবং ব্রায়ান আইইইই সিগন্যাল প্রসেসিং ম্যাগাজিনে কিংসবারি [৮২] নভেম্বর ২০১২ ( এমএসআর-এর মূল কাগজের লিঙ্ক )


1
একটি গভীর বিলিআইএফ নেটওয়ার্ক সাধারণত নিঃসরণযুক্ত প্রাকট্রাইনিং (স্ট্যাকড সীমাবদ্ধ বোল্টজম্যান মেশিনগুলি বিপরীত প্রতিরোধের সাথে প্রশিক্ষিত) সহ একটি গভীর নেটওয়ার্ককে বোঝায়।
আলফা

5
@ user11852 আপনি যে কাগজের সাথে লিঙ্ক করেছেন সেটি গভীর নিউরাল নেটওয়ার্ক এবং গভীর বিশ্বাস নেটওয়ার্কের মধ্যে পার্থক্য তৈরি করে। গভীর বিশ্বাস নেটওয়ার্কগুলির একটি আরবিএমের মতো শীর্ষ দুটি স্তরগুলির মধ্যে একটি অনির্দেশিত সংযোগ রয়েছে।
ডেভিড জে হ্যারিস

0

অ্যালেক্সের মন্তব্যগুলি এখানে দেখে খুশি। আমি লোকদের বুঝিয়ে দিচ্ছি যে ডিএল একটি সাধারণ নিউরাল নেটওয়ার্ক। শেখার প্রকল্পে কোনও পার্থক্য নেই। সি (70 এর দশকে) আগে লেখা এএনএন এর কাছে একাধিক লুকানো স্তর স্থাপনের বিকল্প রয়েছে। প্রকৃতপক্ষে আমি আরও গোপন স্তরগুলি নির্ভুলতার উন্নতি করে কিনা তা নির্ধারণ করার জন্য পরীক্ষা করেছিলাম। স্তরগুলির সংখ্যা ডিএনএলকে এএনএন থেকে আলাদা করে না।

আমি এই ধরনের বিপণনের শর্তগুলি ঘৃণা করি। এখন আমাদের অনেক DL বিশেষজ্ঞ আছেন যারা ডিএল জানেন না তারা আসলে এএনএন। বিপণন এত ভাল এবং শক্তিশালী হওয়ায় লোকেরা বিশ্বাস করে যে আমরা মেশিন লার্নিংয়ের ক্ষেত্রে অনেক উন্নতি করেছি advanced তবে, নতুন কিছু নয়!


4
আসলে নতুন জিনিস আছে। সত্য, ডিএন হাইপ হওয়ার অনেক আগে এএনএনগুলি জানা ছিল। আমরা সম্প্রতি যা শিখলাম তা হ'ল গভীর স্নায়ুবিক নেটওয়ার্কগুলি শেখার জন্য প্রয়োজনীয় অনেক কৌশল। আরও বেশি গণনামূলক শক্তির সাহায্যে আমরা আবিষ্কার করেছি যে স্নায়ুবহুল নেটওয়ার্কগুলি ইমেজ, অডিও এবং অন্যান্য ডেটার জন্য দুর্দান্ত যা আমাদের হাতে তৈরির বৈশিষ্ট্যগুলির জন্য অসুবিধাগুলি ছিল। অবশ্যই আছে আরও।
ভ্লাদিস্লাভস ডভগ্লেলেকস

1
এই উত্তরটি কোনও সম্পর্কযুক্ত বিষয়ে মন্তব্য করার মতো বলে মনে হচ্ছে। গভীর বিশ্বাস নেটওয়ার্কগুলির কোনও উল্লেখ আমি দেখছি না।
বেলডাজ
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.