গভীর বিশ্বাস নেটওয়ার্ক বা ডিপ বোল্টজমান মেশিন?


28

আমি বিভ্রান্ত ডিপ বিশ্বাস নেটওয়ার্ক এবং ডিপ বোল্টজম্যান মেশিনগুলির মধ্যে কি পার্থক্য রয়েছে? তা হলে পার্থক্য কী?


2
গভীর বিশ্বাস নেটওয়ার্কগুলিতে উইকিপিডিয়া নিবন্ধটি মোটামুটি পরিষ্কার হলেও এটি শব্দ / শব্দের ইতিহাস / ইতিহাসের একটি বৃহত্তর চিত্র পাওয়া দরকারী / অন্তর্দৃষ্টিপূর্ণ হবে। মূলত একটি গভীর বিশ্বাস নেটওয়ার্ক সম্ভাব্য pov থেকে গভীর নিউরাল নেটওয়ার্কের সাথে মোটামুটি অনুরূপ, এবং গভীর বোল্টজম্যান মেশিনগুলি একটি গভীর বিশ্বাস নেটওয়ার্ক বাস্তবায়নের জন্য ব্যবহৃত একটি অ্যালগরিদম। স্পষ্টতই সমস্ত এএনএন-এর সম্ভাব্য ব্যাখ্যা / মডেল রয়েছে তবে তারা কিছু বেয়েসিয়ান / সম্ভাবনা-ভিত্তিক "বিশ্বাস" মডেলের মতো সহজেই / সরাসরি প্রাপ্ত হয় না।
vzn

উত্তর:


19

যদিও ডিপ বিলিফ নেটওয়ার্কস (ডিবিএন) এবং ডিপ বোল্টজম্যান মেশিনগুলি (ডিবিএম) ডায়াগ্রামিকভাবে খুব একই রকম দেখাচ্ছে তবে এগুলি আসলে গুণগতভাবে খুব আলাদা। এটি কারণ যে ডিবিএনগুলি পরিচালিত হয় এবং ডিবিএমগুলি পুনঃনির্দেশিত হয়। আমরা যদি তাদের বিস্তৃত এমএল ছবিতে ফিট করতে চাই আমরা বলতে পারি যে ডিবিএনগুলি সুপ্ত ভেরিয়েবলের বহু ঘন সংযুক্ত স্তরযুক্ত সিগময়েড বিশ্বাস নেটওয়ার্ক এবং ডিবিএমগুলি সুপ্ত ভেরিয়েবলের বহু ঘন সংযুক্ত স্তরযুক্ত মার্কভ র্যান্ডম ক্ষেত্র।

যেমন তারা এই মডেলগুলির সমস্ত বৈশিষ্ট্যের উত্তরাধিকারী। উদাহরণস্বরূপ, একটি ডিবিএন কম্পিউটিং , যেখানে v দৃশ্যমান স্তর এবং h হ'ল লুকানো ভেরিয়েবলগুলি সহজ। অন্যদিকে অবিচ্ছিন্ন পার্টিশন ফাংশনের কারণে যে কোনও ডিভাইসের কম্পিউটারের পি সাধারণত কোনও ডিবিএম-তে সাধারণত গণনামূলকভাবে অপ্রয়োজনীয়।P(v|h)vhP

বলা হচ্ছে মিল আছে। উদাহরণ স্বরূপ:

  1. ডিবিএন এবং মূল ডিবিএম উভয়ই সীমাবদ্ধ বলজম্যান মেশিনের (আরবিএম) লোভী স্তরসম্পন্ন প্রশিক্ষণের উপর ভিত্তি করে সূচনা প্রকল্পগুলি ব্যবহার করে কাজ করে,
  2. তারা উভয়ই "গভীর"।
  3. এগুলি উভয়ই সুপ্ত ভেরিয়েবলের স্তরগুলি বৈশিষ্ট্যযুক্ত যা উপরের এবং নীচে স্তরগুলির সাথে ঘনভাবে সংযুক্ত রয়েছে, তবে কোনও इंट্র্লেয়ার সংযোগ নেই etc.

1
কীভাবে ডিবিএনগুলি সিগময়েড বিশ্বাস নেটওয়ার্ক হতে পারে? !! একটি ডিবিএন এর স্তরগুলি আরবিএম হয় যাতে প্রতিটি স্তর একটি মার্কভ র্যান্ডম ক্ষেত্র হয়!
জ্যাক টোয়াইন

আমি মনে করি এখানে একটি টাইপো রয়েছে "এটি কারণ ডিবিএম পরিচালিত হয় এবং ডিবিএমগুলি পুনঃনির্দেশিত হয়।" আমার মনে হয় আপনার অর্থ হ'ল ডিবিএনগুলি পুনঃনির্দেশিত হয়েছে
জ্যাক টোয়াইন

@ অ্যালেক্সটওয়াইন হ্যাঁ, "ডিবিএনগুলি নির্দেশিত" পড়া উচিত ছিল। যদিও আপনি প্রথমে একগুচ্ছ আরবিএমগুলি শিখিয়ে একটি ডিবিএনকে জড়িত করতে পারেন, শেষে আপনি সাধারণত ওজনগুলি মুক্ত করেন এবং গভীর সিগময়েড বিশ্বাস নেটওয়ার্ক (নির্দেশিত) দিয়ে শেষ করেন। মূল ডিবিএন কাজের প্রচুর অংশে লোকেরা উপরের স্তরটিকে পুনর্নির্দেশিত করে রেখে দেয় এবং তারপরে ঘুম থেকে ওঠার মতো কিছু দিয়ে জরিমানা করা হয়, এক্ষেত্রে আপনার একটি সংকর রয়েছে।
অল্টো

আপনার মানে কি ৩. এর মানে হল যে তাদের "ইন্টারলেয়ারের (যেমন লুকানো স্তরের নোডগুলির মধ্যে) ইন্ট্র্লেয়ার" সংযোগ নেই (উদাহরণস্বরূপ লুকানো স্তরের ইনপুট থেকে)?
ডিডিজ

@ ডিডিজ হ্যাঁ, এটিই পড়তে হবে। সংশোধনের জন্য ধন্যবাদ।
অল্টো

4

দুটিই সম্ভাব্য গ্রাফিকাল মডেল যা আরবিএমের স্ট্যাকড স্তরগুলি নিয়ে গঠিত। পার্থক্যটি কীভাবে এই স্তরগুলি সংযুক্ত থাকে is

এই লিঙ্কটি এটিকে মোটামুটি পরিষ্কার করে তোলে: http://jmlr.org/proceedings/papers/v5/salakhutdinov09a/salakhutdinov09a.pdf । চিত্র 2 এবং বিভাগ 3.1 বিশেষভাবে প্রাসঙ্গিক।

সংক্ষেপ:

একটি ডিবিএনতে স্তরগুলির মধ্যে সংযোগগুলি নির্দেশিত হয়। অতএব, প্রথম দুটি স্তর একটি আরবিএম (একটি অনির্দেশিত গ্রাফিক্যাল মডেল) গঠন করে, তারপরে পরবর্তী স্তরগুলি একটি পরিচালিত জেনারেটরি মডেল গঠন করে।

একটি ডিবিএম-এ, সমস্ত স্তরগুলির মধ্যে সংযোগটি পুনঃনির্দেশিত হয়, সুতরাং প্রতিটি স্তর স্তর একটি আরবিএম গঠন করে।


তাহলে কি আরবিএম থেকে এখনও একটি গভীর বল্টজম্যান মেশিন নির্মিত হয়? আমি আমার উপসংহারের ভিত্তিতে কাগজে ভূমিকা এবং চিত্রটির ভিত্তি করছি
মেরিন
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.