কনভুলেশনাল নিউরাল নেটওয়ার্ক এবং গভীর শিক্ষার মধ্যে পার্থক্য কী?


25

আমি আমার প্রকল্পে গভীর শিক্ষা ব্যবহার করতে চাই। আমি বেশ কয়েকটি কাগজপত্র দিয়েছিলাম এবং একটি প্রশ্ন আমার কাছে এসেছিল: কনভলিউশন নিউরাল নেটওয়ার্ক এবং গভীর শিক্ষার মধ্যে কোনও পার্থক্য আছে কি? এই জিনিসগুলি কি একই বা তাদের মধ্যে কোনও বড় পার্থক্য রয়েছে এবং যা আরও ভাল?


গভীর শিক্ষণ এবং কনভোলশনাল নিউরাল নেটওয়ার্ক থেকে সঠিক পার্থক্যটি আমাকে বলুন আমি এই 2 বিষয়গুলিতে কিছু বিভ্রান্তি করছি
ইয়ামিনী

উত্তর:


33

ডিপ লার্নিং ডিপ নিউরাল নেটওয়ার্ক (ডিএনএন) এর উপর ভিত্তি করে মেশিন লার্নিংয়ের শাখা, যার অর্থ খুব কমপক্ষে 3 বা 4 স্তর (ইনপুট এবং আউটপুট স্তর সহ) সহ নিউরাল নেটওয়ার্ক ural তবে কিছু লোকের জন্য (বিশেষত অ-প্রযুক্তিগত), যে কোনও নিউরাল নেট গভীরতা নির্বিশেষে ডিপ লার্নিং হিসাবে যোগ্যতা অর্জন করে। এবং অন্যরা 10-স্তরের নিউরাল নেটকে অগভীর হিসাবে বিবেচনা করে।

কনভলিউশনাল নিউরাল নেটওয়ার্ক (সিএনএন) সর্বাধিক জনপ্রিয় নিউরাল নেটওয়ার্ক আর্কিটেকচারগুলির মধ্যে একটি। তারা ইমেজ প্রসেসিংয়ে অত্যন্ত সফল, তবে অন্যান্য অনেক কাজের জন্য (যেমন স্পিচ স্বীকৃতি, প্রাকৃতিক ভাষা প্রসেসিং এবং আরও অনেক কিছু)। শিল্পের সিএনএনগুলির রাজ্যটি বেশ গভীর (অন্তত কয়েক ডজন স্তর), তাই তারা গভীর শিক্ষার অংশ। তবে আপনি একটি সাধারণ কাজের জন্য অগভীর সিএনএন তৈরি করতে পারেন, এটি ক্ষেত্রে (সত্যই) ডিপ লার্নিং নয়।

তবে সিএনএনগুলি একা নয়, সেখানে অনেকগুলি স্নায়বিক নেটওয়ার্ক আর্কিটেকচার রয়েছে, যার মধ্যে রয়েছে রিচারেন্ট নিউরাল নেটওয়ার্কস (আরএনএন), অটেনকোডারস, ট্রান্সফর্মারস, ডিপ বিলিফ নেটস (ডিবিএন = একটি স্ট্যাক অফ রিস্ট্রাকটেড বোল্টজম্যান মেশিনস, আরবিএম), এবং আরও অনেক কিছু। এগুলি অগভীর বা গভীর হতে পারে। দ্রষ্টব্য: এমনকি অগভীর আরএনএনগুলি ডিপ লার্নিংয়ের অংশ হিসাবে বিবেচনা করা যেতে পারে যেহেতু তাদের প্রশিক্ষণের সময়কালে তাদের তালিকাভুক্ত করা প্রয়োজন, যার ফলে একটি গভীর জাল হয়।


@MiniQurak। আমাকে ভুল করুন আমি ভুল। আমি যেটা বুঝতে পেরেছি তা হল সিএনএন হ'ল অটেনকোডারস, ডিপ বিলিফ নেটস, রিকেন্ট নিউরাল নেটওয়ার্কস (আরএনএন) এর মতো গভীর জালের একটি মাত্র স্থাপত্য .. এটি কি সঠিক?
আদনান ফারুক এ

হ্যাঁ, এটা সঠিক।
MiniQuark

তাহলে আমরা বলতে পারি কোন আর্কিটেকচারটি ডেটাসেটের উপর নির্ভর করে ভাল? বা মূল কারণগুলি কী কী?
আদনান ফারুক এ

1
চিত্র শনাক্তকরণের জন্য সিএনএনগুলি দুর্দান্ত। এগুলি যখনই ডেটাতে হায়ারারিকিকাল কাঠামোর কিছু রূপ থাকে, স্থানীয় প্যাটার্নগুলি (উদাহরণস্বরূপ, লাইন বিভাগগুলি) বড় ধরণের (যেমন, স্কোয়ার, ত্রিভুজ )গুলিতে একত্রিত হয়ে বৃহত্তর নিদর্শনগুলিতে একত্রিত হয় (যেমন, বাড়ি, বিমান)। এটি স্পিচ স্বীকৃতি কার্যের জন্য ভাল কাজ করে। আরএনএন সময় সিরিজের জন্য (যেমন, আবহাওয়ার পূর্বাভাস দেওয়া), এবং সাধারণত ডেটার ক্রমগুলি পরিচালনা করে (যেমন বাক্য) great এগুলি এনএলপি (প্রাকৃতিক ভাষা প্রসেসিং) এর জন্য প্রচুর ব্যবহৃত হয়। অটো এনকোডারগুলি নিরীক্ষণ করা হয়, তারা ডেটাগুলিতে নিদর্শনগুলি শেখে।
MiniQuark

1
ঠিক আছে তবে :)
ফায়ারব্যাগ

21

অভিযোজিত সংকেত প্রক্রিয়াকরণ / মেশিন লার্নিংয়ের ক্ষেত্রে, ডিপ লার্নিং (ডিএল) একটি বিশেষ পদ্ধতি যা আমরা মেশিনগুলিকে জটিল উপস্থাপনা প্রশিক্ষণ দিতে পারি।

সাধারণত, তাদের এমন একটি সূত্র রয়েছে যা আপনার ইনপুট ম্যাপ করতে পারে, লক্ষ্যমাত্রার সমস্ত দিক পর্যন্ত, y , ক্রমবর্ধমান স্তরে স্তরে সজ্জিত (এইখান থেকেই 'গভীর' থেকে আসে) ক্রিয়াকলাপগুলি। এই অপারেশনগুলি সাধারণত লিনিয়ার অপারেশন / প্রজেকশন ( ডাব্লু i ) হয়, এর পরে একটি অ-লিনিয়ারিটি থাকে ( i ), এরকম:এক্সYওয়াটআমিআমি

Y=এন(2(1(এক্সটিওয়াট1)ওয়াট2)ওয়াটএন)

ডিএল-র মধ্যে এখন অনেকগুলি বিভিন্ন আর্কিটেকচার রয়েছে : এই জাতীয় একটি স্থাপত্যটি কনভ্যুশনাল নিউরাল নেট (সিএনএন) হিসাবে পরিচিত । আর একটি আর্কিটেকচার মাল্টি-লেয়ার পার্সেপট্রন , (এমএলপি), ইত্যাদি নামে পরিচিত ।

কোনও এমএলপি সম্ভবত একটি প্রচলিত ধরণের ডিএল আর্কিটেকচারের মধ্যে একটি খুঁজে পেতে পারে এবং এটি যখন আগের স্তরের প্রতিটি উপাদান পরবর্তী স্তরের প্রতিটি উপাদানের সাথে সংযুক্ত থাকে। দেখে মনে হচ্ছে:

এখানে চিত্র বর্ণনা লিখুন

ওয়াটআমিওয়াটআর10এক্স20বনামআর10এক্স1তোমার দর্শন লগ করাআর1এক্স20তোমার দর্শন লগ করা=বনামটিওয়াটওয়াট পরবর্তী স্তর উপাদানসমূহ।

এমএলপিগুলি তখন অংশীদার হয়ে পড়েছিল, কারণ তাদের প্রশিক্ষণ দেওয়া শক্ত ছিল। যদিও এই অসুবিধার জন্য অনেকগুলি কারণ রয়েছে, তার মধ্যে একটি কারণ তাদের ঘন সংযোগগুলি বিভিন্ন কম্পিউটার দৃষ্টি সমস্যার জন্য সহজেই স্কেল করতে দেয় নি। অন্য কথায়, তাদের কাছে অনুবাদ-সমতুল্যতা বেক করা হয়নি This এর অর্থ হ'ল যদি চিত্রটির একটি অংশে তাদের সংবেদনশীল হওয়ার দরকার হয় তবে তাদের সংবেদনশীল হতে হবে কীভাবে তা পুনরায় শিখতে হবে যদি যে সংকেত প্রায় সরানো। এটি নেটটির সক্ষমতা নষ্ট করে, এবং তাই প্রশিক্ষণ শক্ত হয়ে যায়।

এখানেই সিএনএন এসেছিল! এখানে দেখতে যেমনটি দেখা যাচ্ছে:

এখানে চিত্র বর্ণনা লিখুন

ওয়াটআমি

"সিএনএনস" জালগুলিকে জাল দিয়ে বোঝা যায় যে আমাদের পুরো নেট জুড়ে কনভোলজিনাল স্তর রয়েছে এবং এমএলপিগুলি খুব শেষে রয়েছে, তাই এটি সম্পর্কে সচেতন হওয়া একটি সতর্কতা।


1
+1 দুর্দান্ত উত্তর, আমি কেবল টোপলিটজ ম্যাট্রিক্স সম্পর্কে শিখেছি। ;-)
MiniQuark

ধন্যবাদ! হ্যাঁ - আপনি একটি টোপলিটজ ম্যাট্রিক্স দ্বারা গুণ হিসাবে একটি সমাবর্তন লিখতে পারেন। :)
তারিন জিয়াই

@ তারিনজিয়াই এবং মিনিকুরাক আপনি কি দয়া করে ডিপ লার্নিং সম্পর্কে বিস্তারিত জানার জন্য আমাকে কোনও ভাল বই / জার্নাল নিবন্ধ / টিউটোরিয়াল প্রস্তাব করতে পারেন।
আদনান ফারুক এ

সিএনএনগুলি অগত্যা গভীর (-1) নয়
ফায়ারব্যাগ

7

গভীর শেখা = গভীর কৃত্রিম নিউরাল নেটওয়ার্ক + অন্যান্য ধরণের গভীর মডেল

গভীর কৃত্রিম নিউরাল নেটওয়ার্কগুলি = 1 টিরও বেশি স্তর সহ কৃত্রিম নিউরাল নেটওয়ার্ক। ( আরও বিতর্কের জন্য গভীর নিউরাল নেটওয়ার্কে বা উইকিপিডিয়ায় ন্যূনতম স্তরগুলি দেখুন ...)

কনভলিউশন নিউরাল নেটওয়ার্ক = এক ধরণের কৃত্রিম নিউরাল নেটওয়ার্ক


যথেষ্ট উপযুক্ত, ডিপ লার্নিংয়ের মধ্যে "মাল্টিলেয়ার কার্নেল মেশিন" অন্তর্ভুক্ত রয়েছে এবং সিএনএন অগভীর হতে পারে। :)
MiniQuark


1 টিরও বেশি স্তর সহ কৃত্রিম নিউরাল নেটওয়ার্ক ..... আমি নিশ্চিত না যে মাত্র 2 স্তরযুক্ত একটি নেটওয়ার্ককে একটি গভীর নেটওয়ার্ক বলা হয়।
স্মলচিস

1
); @StudentT হয়তো, আমি কাজ বিপনন না en.wikipedia.org/w/...
ফ্রাঙ্ক Dernoncourt

1
এটি শীর্ষস্থানীয় উত্তর হওয়া উচিত, কারণ সিএনএনগুলি অগত্যা গভীর নয়, এবং গভীর শিক্ষা কেবল এএনএন সম্পর্কে নয় (সাধারণ অর্থে)।
ফায়ারব্যাগ

6

ইয়ান লেকুনের এই স্লাইডটি এই বিন্দুটি তৈরি করে যে কেবলমাত্র বৈশিষ্ট্যক্রমক্রমের মডেলগুলি (নিম্ন স্তরের বৈশিষ্ট্যগুলি একটি মডেলের এক স্তরে শিখতে হয়, এবং তারপরে সেই বৈশিষ্ট্যগুলি পরবর্তী স্তরে সংযুক্ত করা হয়) আরও গভীর

একটি সিএনএন গভীর বা অগভীর হতে পারে; কেসটি এই "বৈশিষ্ট্যক্রমক্রম" নির্মাণটি অনুসরণ করে কিনা তার উপর নির্ভর করে কারণ 2-স্তরের মডেলগুলি সহ কিছু নিউরাল নেটওয়ার্কগুলি গভীর নয়।

ইয়ান লেকুনের সংজ্ঞা


3

Deep learningএকাধিক স্তর সহ জটিল নিউরাল নেটওয়ার্ক নিয়ে কাজ করার জন্য একটি সাধারণ শব্দ। ঠিক কী তা নিয়ে কোনও মানদণ্ড সংজ্ঞা নেই deep। সাধারণত, আপনি ভাবতে পারেন একটি গভীর নেটওয়ার্ক এমন একটি জিনিস যা আপনার ল্যাপটপ এবং পিসি প্রশিক্ষণের জন্য খুব বড়। ডেটা সেটটি এত বিশাল হবে যে আপনি এটি আপনার স্মৃতিতে ফিট করতে পারবেন না। আপনার প্রশিক্ষণের গতি বাড়ানোর জন্য আপনার জিপিইউর প্রয়োজন হতে পারে।

Deep অন্যথায় তুলনায় কিছু বেশি শব্দ করার জন্য বিপণনের শর্তের মতো।

CNNএক ধরণের গভীর নিউরাল নেটওয়ার্ক, এবং আরও অনেক ধরণের রয়েছে। সিএনএনগুলি জনপ্রিয় কারণ তাদের চিত্রের স্বীকৃতি দেওয়ার জন্য খুব দরকারী অ্যাপ্লিকেশন রয়েছে।


আমি এই বিবৃতিগুলির কয়েকটিটির প্রতি সদয়ভাবে আপত্তি জানাতে চাই: একটি নেটওয়ার্ক সাধারণত যখন একাধিক লুকানো স্তর থাকে তখন গভীরভাবে বিবেচিত হয় এবং বেশিরভাগ লোক সম্মত হন যে 10 টিরও বেশি গোপন স্তর অবশ্যই অবশ্যই গভীর। আপনার ল্যাপটপে গভীর নেটওয়ার্কগুলি প্রশিক্ষণ দেওয়া বেশ সম্ভব, আমি এটি সর্বদা করি। ডেটা সেটটি না আছে ডেটা বৃদ্ধি যদি (ক pretrained নেটওয়ার্ক থেকে অর্থাত। পুনঃব্যবহারের স্তর) ব্যবহার স্থানান্তর শিক্ষা, বিশাল হতে বিশেষ করে, এবং / অথবা। "গভীর" শব্দটির চারপাশে অবশ্যই প্রচুর হাইপ রয়েছে তবে গভীর শিক্ষার জন্য নিবেদিত কৌশল রয়েছে যাতে এটি কেবল হাইপ নয় not :)
MiniQuark

@ মিনিকিয়ার্ক ডেটা বর্ধনের সাথে সাথে আপনার ডেটা সেটটি এখনও বড় হবে, ঠিক যে আপনি ছোট কিছু দিয়ে শুরু করেছিলেন ...
স্মার্টচিস

ভাল কথা, আপনি ঠিক বলেছেন। আমি যা বলতে চাইছিলাম তা হ'ল ডেটাসেট মেমরির সাথে খাপ খায় যেহেতু আপনি ফ্লাইতে বেশিরভাগ ডেটা তৈরি করেন।
MiniQuark
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.