সীমাবদ্ধ বল্টজম্যান মেশিন বনাম মাল্টিলেয়ার নিউরাল নেটওয়ার্কগুলি


22

আমি যে শ্রেণিবিন্যাস সমস্যার মুখোমুখি হচ্ছি তার জন্য আমি নিউরাল নেটওয়ার্ক নিয়ে পরীক্ষা করতে চাইছি। আমি ছুটে এসেছি এমন কাগজপত্র যা আরবিএম-এর কথা বলে। তবে আমি যা বুঝতে পারি তা থেকে, তারা মাল্টিলেয়ার নিউরাল নেটওয়ার্ক থাকার চেয়ে আলাদা নয়। এটা কি সঠিক?

তদুপরি আমি আর নিয়ে কাজ করি এবং আরবিএমগুলির জন্য কোনও ক্যানড প্যাকেজ দেখছি না। আমি সাহিত্যে ছড়িয়েছি যা মূলত আরবিএমগুলিকে স্তুপীকৃত গভীর শিক্ষার নেটওয়ার্কগুলির বিষয়ে কথা বলে তবে নিশ্চিত করে না যে সেগুলি আর-তে প্রয়োগ করার প্রচেষ্টাটির জন্য মূল্যবান কিনা? কারও কোনও পয়েন্টার আছে কি? ধন্যবাদ


3
তারা হয় backprop সঙ্গে প্রশিক্ষিত Multilayer নেটওয়ার্কের চেয়ে আলাদা। সমস্ত ধরণের নিউরাল নেটগুলির
জো পিট

উত্তর:


21

আরবিএমের মধ্যে প্রথমে স্বাভাবিক নিউরাল নেট থেকে অবশ্যই আলাদা এবং যখন সঠিকভাবে ব্যবহার করা হয় তখন তারা আরও ভাল পারফরম্যান্স অর্জন করে। এছাড়াও, আরবিএমের কয়েকটি স্তরকে প্রশিক্ষণ দেওয়া, এবং তারপরে মুলিট্লেয়ার এনএন-এর জন্য প্রাথমিক পয়েন্ট হিসাবে পাওয়া ওজনগুলি ব্যবহার করা কেবল একটি মাল্টিলেয়ার এনএন ব্যবহার করার চেয়ে প্রায়শই ভাল ফলাফল দেয়।

আমি সবচেয়ে ভাল পয়েন্টারটি ভাবতে পারি, এটি জিবিফ্রি হিন্টন দ্বারা শিক্ষিত কোর্সেরার এই কোর্স, যিনি আরবিএমগুলির জন্য দায়ী ব্যক্তিদের মধ্যে অন্যতম:

https://class.coursera.org/neuralnets-2012-001/class/index

আরবিএম এবং ডিনয়েজিং অটেনকোডারগুলিতে ভিডিওগুলি বিষয়টিতে আগ্রহী যে কোনও ব্যক্তির জন্য একটি মূল্যবান শিক্ষার উত্স।

আর বাস্তবায়নের ক্ষেত্রে, আমি কোনওটিই জানি না, তবে আপনি যদি এটি প্রয়োগ করতে চান তবে খাঁটি আর ব্যবহার না করা (আপনার ডেটাটি বড় না হলে)। আরবিএমের প্রশিক্ষণটি বেশ দীর্ঘ সময় নেয় এবং আপনি যদি সি এর সাথে আর এর পরিবর্তে খাঁটি আর ব্যবহার করেন তবে তা উল্লেখযোগ্যভাবে বৃদ্ধি পেতে পারে।


1
আমি আর এর পারফরম্যান্সের সাথে কথা বলতে পারি, যেমন আমি এতে কিছু আরবিএম লিখেছি। গণনার সময় সর্বাধিক সময় ম্যাট্রিক্স গুণায় ব্যয় হয়, যা অন্য ভাষাগুলির তুলনায় আরে ধীরে ধীরে থাকে (সম্ভবত 3 বা 5 এর ফ্যাক্টর দ্বারা)। আপনার নিজের সিস্টেমের জন্য কাস্টমাইজড বিএলএএস (লিনিয়ার বীজগণিত গ্রন্থাগার) দিয়ে পুনরায় সংকলন অনেক সাহায্য করতে পারে, যেমন ধীরে ধীরে পার্টসকে সি ++ তে আরসিপিতে অনুবাদ করতে পারে। একটি ও লুকানো-স্তরীয় আরবিএম লেখার পক্ষে যথেষ্ট দ্রুতগতি হয় যে আপনি গতির জন্য অনুকূলিত করার চেষ্টা করার আগে যে ভাষায় সর্বাধিক স্বাচ্ছন্দ্য বোধ করেন সেটিকে কোড করা বোধগম্য হয়।
ডেভিড জে হ্যারিস

@ ডেভিড জে হ্যারিস আপনি কি আর-তে আপনার কোনও বাস্তবায়ন ভাগ করেছেন? আমি তাদের এক নজরে নিতে চাই।
Zach

1
@ জাচ আমি এই মুহুর্তে বেশ ব্যস্ত, তবে ভবিষ্যতে ওপেন সোর্সিংয়ের বিষয়ে আমি কী করতে পারি তা আমি দেখতে পাচ্ছি। আপনি যদি কোনও অনিবন্ধিত / অর্ধ-সমাপ্ত প্রকল্পের মাধ্যমে বাছাই করতে কিছু মনে করেন না তবে আমার কাছে থাকা একটি কপির জন্য আমার প্রোফাইলের ঠিকানায়ও আমাকে ইমেল করতে পারেন।
ডেভিড জে হ্যারিস

8

আর-তে আপনি স্ট্যান্ডগার্ট নিউরাল নেটওয়ার্ক সিমুলেটরের মানক মাল্টিলেয়ার নিউরাল নেটওয়ার্কগুলির সাথে মানিয়ে নিতে নিউরনেট এবং আরএসএনএন (যা স্টটগার্ট নিউরাল নেটওয়ার্ক সিমুলেটারকে একটি ইন্টারফেস সরবরাহ করে ) ব্যবহার করতে পারেন, তবে আরবিএমের মধ্যে পার্থক্য রয়েছে।

আর-তে গভীর স্নায়বিক জাল বাস্তবায়নের বিষয়ে, আমি মনে করি যে কেবলমাত্র কার্যকর কৌশল হ'ল বিদ্যমান এফওএসএস বাস্তবায়নকে ইন্টারফেস করা, যা সাধারণত নিজেরাই জিনিসগুলিকে পুনর্নির্মাণের চেয়ে অনেক ভাল সমাধান (আমি কখনই বুঝতে পারি নি কেন সবাইকে চাকা পুনরুদ্ধার করতে হবে)। আর এটি করার জন্য প্রচুর কার্যকারিতা সরবরাহ করে এবং আপনি বিদ্যমান সমাধানগুলির গতি এবং প্রস্তুত-থেকে-ব্যবহারের দিকগুলির সাহায্যে আর এর ডেটা হ্যান্ডলিংটি উপার্জন করতে পারেন। উদাহরণস্বরূপ, কেউ পাইথন / আর ইন্টারফেসিং ক্ষমতাগুলির সাথে এমডিপিকে ইন্টারফেস করতে পারে, উদাহরণস্বরূপ, এই কাগজটি দেখুন

সম্পাদনা করুন: পরিসংখ্যানগতভাবে উল্লেখযোগ্য থেকে অ্যান্ড্রু ল্যান্ডগ্রাফ আরবিএমের জন্য কিছু আর কোড সরবরাহ করে

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.