কনভোলশনাল নেটওয়ার্কগুলির জন্য সর্বজনীন আনুমানিক উপপাদ্য

Question

সর্বজনীন আনুমানিক তত্ত্বটি নিউরাল নেটওয়ার্কগুলির জন্য একটি বিখ্যাত ফলাফল, মূলত উল্লেখ করে যে কিছু অনুমানের অধীনে, কোনও ফাংশন কোনও নির্ভুলতার মধ্যে নিউরাল নেটওয়ার্ক দ্বারা অভিন্নভাবে সমান হতে পারে।

কনভোলশনাল নিউরাল নেটওয়ার্কগুলিতে প্রযোজ্য এমন কিছু উপমা রয়েছে কি?

Answer 1

এটি একটি আকর্ষণীয় প্রশ্ন, তবে, এটি একটি সমঝোতাবাদী নিউরাল নেটওয়ার্ক হিসাবে বিবেচিত হয় তার যথাযথ ব্যাখ্যাের অভাব নেই ।

নেটওয়ার্কটি কেবল কনভলশন অপারেশনকে অন্তর্ভুক্ত করতে পারে ? এটিতে কেবল সমঝোতা অপারেশনগুলি অন্তর্ভুক্ত করতে হবে ? পুলিং অপারেশন ভর্তি করা হয়? অনুশীলনে ব্যবহৃত কনভোলিউশনাল নেটওয়ার্কগুলি অপারেশনের সংমিশ্রণ ব্যবহার করে, প্রায়শই সম্পূর্ণ সংযুক্ত স্তরগুলি সহ (আপনার সাথে একটি সম্পূর্ণ সংযুক্ত স্তর হওয়ার সাথে সাথেই আপনার তাত্ত্বিক সার্বজনীন আনুমানিক সক্ষমতা রয়েছে)।

কিছু উত্তর সঙ্গে আপনি প্রদান করতে, নিম্নলিখিত ক্ষেত্রে বিবেচনা করুন: সঙ্গে একটি সম্পূর্ণরূপে সংযুক্ত স্তর ইনপুট এবং আউটপুট একটি ওজন ম্যাট্রিক্স ব্যবহার নিরূপিত হয় । আপনি 2 টি সমাবর্তন স্তর ব্যবহার করে এই ক্রিয়াকলাপটি অনুকরণ করতে পারেন:$D$$K$$W \in \mathbb R ^{K\times D}$

1. প্রথমটির আকারের ফিল্টার রয়েছে । ফিল্টার উপাদান to এর সমান , বাকিগুলি শূন্য। এই স্তরটি ইনপুটকে মাত্রিক মধ্যবর্তী স্থানে রূপান্তরিত করে যেখানে প্রতিটি মাত্রা একটি ওজনের পণ্য এবং তার সাথে সম্পর্কিত ইনপুট উপস্থাপন করে।$K\times D$$D$$d$$k,d$$W_{k,d}$$KD$

2. দ্বিতীয় স্তরটিতে আকারের ফিল্টার রয়েছে । উপাদানসমূহের ফিল্টার এর শূন্য। এই স্তরটি পূর্ববর্তী স্তর থেকে পণ্যগুলির সংমিশ্রণ সম্পাদন করে।$K$$KD$$kD\ldots(k+1)D$$k$

এই ধরনের সংবিধানমূলক নেটওয়ার্ক একটি সম্পূর্ণ সংযুক্ত নেটওয়ার্ককে সিমুলেট করে এবং এইভাবে একই সর্বজনীন আনুমানিক ক্ষমতা। বাস্তবে যেমন একটি উদাহরণ কতটা কার্যকর তা বিবেচনা করা আপনার পক্ষে, তবে আমি আশা করি এটি আপনার প্রশ্নের জবাব দিয়েছে।

Comments

এই ধরনের নির্মাণ বরং সুস্পষ্ট, তবে কেবল শূন্য প্যাডিংয়ের সীমানা শর্ত সহ। আরও প্রাকৃতিক প্রয়োজনের সাথে যেমন পর্যায়ক্রমের সীমানা শর্ত (অপারেটরের অনুবাদকে সমতুল্য করা) ব্যর্থ হয় ails

— জোনাস অ্যাডলার

হ্যাঁ, এই সুস্পষ্ট নির্মাণটি অনুমান করে কনভোলশনটি কেবলমাত্র ইনপুটটিতে প্রয়োগ করা হবে (কোনও প্যাডিং নেই)। যেমনটি আমি বলেছি, আপনি কী অনুমোদিত এবং কোনটি আপনার সিএনএন-এর সংজ্ঞার অধীন নয় তা নির্দিষ্ট না করা না হলে আমি ধরে নিই এটি একটি বৈধ পন্থা। এছাড়াও, নোট করুন যে ইউএটি-র ব্যবহারিক প্রভাবগুলি কার্যত কোনও নয়, সুতরাং আমি নিশ্চিত নই যে এটি এমনকি গভীরভাবে খনন করে, সিএনএন-র বিভিন্ন সংস্করণ উল্লেখ করে এবং তাদের প্রত্যেকটির জন্য অনুরূপ কিছু প্রদর্শন করে if

— জান কুকাকা

Answer 2

মনে হচ্ছে দিমিত্রি ইয়ারটস্কির সাম্প্রতিক এই নিবন্ধে এই প্রশ্নের উত্তরটি ইতিবাচকভাবে জবাব দিয়েছে: নিউরাল নেটওয়ার্কগুলির দ্বারা আক্রমণাত্মক মানচিত্রের সর্বজনীন আনুমানিকতা ।

নিবন্ধটি দেখায় যে কোনও অনুবাদ সমতুল্য ক্রিয়াটি শাস্ত্রীয় সার্বজনীন আনুগত্যের উপপাদ্যের প্রত্যক্ষ উপমা অনুসারে যথেষ্ট পরিমাণে বিস্তৃতভাবে একটি কনভোলজিকাল নিউরাল নেটওয়ার্কের মাধ্যমে নির্বিচারে ভালভাবে সন্নিবেশ করা যায়।

Answer 3

কাগজ দেখুন ডীপ Convolutional নিউরাল নেটওয়ার্ক সার্বজনীনতা দ্বারা টিং-Xuan ঝু যে, তারা একটি অবাধ সঠিকতা কোনো একটানা ফাংশন অনুমান করতে পারে যখন স্নায়ুর নেটওয়ার্ক গভীরতা বড় যথেষ্ট, যিনি অনুষ্ঠান convolutional স্নায়ুর নেটওয়ার্ক সার্বজনীন।

Comments

এটি শূন্য সীমানা পরিস্থিতি অনুমান করে, সুতরাং ফলাফলটি জান-কুকাকাকে উল্লিখিত হিসাবে হওয়া উচিত

— জোনাস অ্যাডলার