জ্যামিতি এবং এআই
ম্যাট্রিক্স, কিউবস, স্তর, স্ট্যাক এবং হায়ারার্কিগুলি হ'ল আমরা টপোলজিকে সঠিকভাবে কল করতে পারি । এই প্রসঙ্গে টপোলজি বিবেচনা করুন একটি শিক্ষণ পদ্ধতির উচ্চ স্তরের জ্যামিতিক নকশা।
জটিলতা বাড়ার সাথে সাথে নির্দেশাবলী গ্রাফ স্ট্রাকচার হিসাবে এই টোপোলজিকে প্রতিনিধিত্ব করা প্রায়শই কার্যকর। গেম থিওরিতে স্টেট ডায়াগ্রাম এবং মার্কভের কাজ দুটি স্থান যেখানে নির্দেশিত গ্রাফগুলি সাধারণত ব্যবহৃত হয়। নির্দেশিত গ্রাফগুলিতে শিখরগুলি থাকে (প্রায়শই বন্ধ আকার হিসাবে ভিজ্যুয়ালাইজড হয়) এবং প্রান্তগুলি প্রায়শই আকারগুলি সংযোগকারী তীর হিসাবে ভিজ্যুয়ালাইজ হয়।
আমরা জিএএনএসকে একটি নির্দেশিত গ্রাফ হিসাবে প্রতিনিধিত্ব করতে পারি, যেখানে প্রতিটি নেটের আউটপুট বিপরীতমুখী ফ্যাশনে একে অপরের প্রশিক্ষণ চালায়। জ্যানস টপোলজিকভাবে একটি এমবিয়াস স্ট্রিপের অনুরূপ।
আমরা কেবলমাত্র একটি সর্বোত্তম সমাধানে রূপান্তর বা কোনও ট্র্যাকিংয়ের গণিতকেই না বুঝে এই জাতীয় রূপান্তরকে সমর্থন করতে পারে এমন নেটওয়ার্ক সংযোগের টপোলজিকগুলি না বুঝে আমরা নতুন ডিজাইন এবং আর্কিটেকচার আবিষ্কার করতে পারি না। অপারেটিং সিস্টেমটি লেখার আগে কোনও অপারেটিং সিস্টেমের কী প্রয়োজন হবে তা কল্পনা করার সময় এটি প্রথম প্রসেসর বিকাশের মতো।
আমরা কী টপোলজিকে বিবেচনা করি নি তা দেখার জন্য, প্রথমে কোনটি হয়েছে তা দেখুন look
এক ধাপ - দ্বিতীয় মাত্রায় এক্সট্রুশন
1980 এর দশকে, মূল পার্সেপট্রন ডিজাইনের সম্প্রসারণের মাধ্যমে সাফল্য অর্জিত হয়েছিল। বহু স্তরের নিউরাল নেটওয়ার্ক তৈরি করতে গবেষকরা দ্বিতীয় মাত্রা যুক্ত করেছিলেন। ত্রুটি ফাংশনের গ্রেডিয়েন্টের ব্যাক-প্রসারণের মাধ্যমে তাত্পর্যপূর্ণ ক্রিয়াকলাপটি শিখার হার দ্বারা তত্পর হওয়া এবং অন্যান্য মেটা-পরামিতিগুলির সাথে স্যাঁতসেঁতে যুক্তিসঙ্গত কনভারজেন্স অর্জন করা হয়েছিল।
দ্বিতীয় ধাপ - পৃথক ইনপুট সিগন্যালে মাত্রা যুক্ত করা
আমরা বিদ্যমান ম্যানুয়ালি টিউনযুক্ত চিত্রের কনভোলশন কৌশলগুলি নেটওয়ার্ক ইনপুটটির মাত্রা প্রবর্তন করে: উল্লম্ব অবস্থান, রঙের উপাদান এবং ফ্রেমটির ভিত্তিতে কনভ্যুশনাল নেটওয়ার্কগুলির উত্থান দেখতে পাই। এই শেষ মাত্রা সিজিআই, মুখ প্রতিস্থাপন এবং সমসাময়িক চলচ্চিত্র নির্মাণে অন্যান্য রূপবিজ্ঞানের জন্য সমালোচনামূলক। এটি না করে আমাদের কাছে চিত্র উত্পন্নকরণ, শ্রেণিবদ্ধকরণ এবং শব্দদ্বার অপসারণ রয়েছে।
তৃতীয় ধাপ - নেটওয়ার্কের স্ট্যাকস
আমরা 1990 এর দশকের শেষের দিকে স্নায়বিক জালগুলির স্ট্যাকগুলি দেখতে পেয়েছি, যেখানে একটি নেটওয়ার্কের প্রশিক্ষণ অন্য দ্বারা তদারকি করা হয়। এটি নিউরনগুলির অনুক্রমিক স্তরগুলির অর্থে নয় বা কোনও চিত্রের রঙের স্তরগুলির অর্থে নয় এমন ধারণাগত স্তরগুলির পরিচিতি। এই ধরণের লেয়ারিং পুনরাবৃত্তি হয় না। এটি প্রাকৃতিক বিশ্বের মতো যেখানে একটি কাঠামো অন্য সম্পূর্ণ ভিন্ন ধরণের কাঠামোর মধ্যে একটি অঙ্গ।
চতুর্থ ধাপ - নেটওয়ার্কের শ্রেণিবিন্যাস
আমরা 2000s এবং 2010 এর দশকের শুরুতে (ল্যাপ্লেসিয়ান এবং অন্যান্য) গবেষণায় স্নায়বিক জালের হায়ারারচিগুলি দেখতে পাই যা স্নায়ু জালের মধ্যে মিথস্ক্রিয়া অব্যাহত রাখে এবং স্তন্যপায়ী মস্তিষ্কের সাদৃশ্য অব্যাহত রাখে। আমরা এখন মেটা-কাঠামো দেখতে পাই, যেখানে টপোলজির প্রতিনিধিত্বকারী একটি নির্দেশিত গ্রাফে পুরো নেটওয়ার্কগুলি শীর্ষে পরিণত হয়।
পদক্ষেপ পাঁচ% এমড্যাশ; কার্টেসিয়ান ওরিয়েন্টেশন থেকে প্রস্থান
সাহিত্যে নন-কার্টেসিয়ান নিয়মিতভাবে কোষগুলির পুনরাবৃত্তি করার ব্যবস্থা এবং তাদের মধ্যে সংযোগগুলি প্রকাশ পেতে শুরু করেছে। উদাহরণস্বরূপ, গেজ ইক্যুইভারিয়েন্ট কনভলিউশনাল নেটওয়ার্কস এবং আইকোসেইড্রাল সিএনএন (টাকো এস কোহেন, মরিস ওয়েলার, বার্কে কিচানাওগলু, ম্যাক্স ওয়েলিং, 2019) উত্তল নিয়মিত আইকোশেড্রনের উপর ভিত্তি করে ব্যবহারের ব্যবস্থা পরীক্ষা করে।
সংক্ষেপিত
স্তরগুলি সংলগ্ন স্তরগুলির মধ্যে নির্দেশিত প্রান্তগুলির একটি বিস্তৃত সেটগুলিতে ম্যাপযুক্ত শীর্ষকোষ এবং অ্যাটেন্যুয়েশন ম্যাট্রিক্সের জন্য অ্যাক্টিভেশন ফাংশনগুলিকে সাধারণভাবে মূল্য দেয় 1 চিত্রের সমাবর্তন স্তরগুলি প্রায়শই দ্বিমাত্রিক শীর্ষবিন্দু বিন্যাসে সংযোজন স্তরগুলির সাথে সংলগ্ন স্তরগুলির মধ্যে নির্দেশিত প্রান্তগুলির একটি সংক্ষিপ্ত সেটকে ম্যাপ করা হয় [২]। স্ট্যাকগুলিতে একটি মেটা-নির্দেশিত-গ্রাফের শীর্ষাংশ হিসাবে পুরো স্তরযুক্ত জাল রয়েছে এবং এই মেটা-উল্লম্বগুলি প্রতিটি প্রান্তকে হয় একটি প্রশিক্ষণ মেটা-প্যারামিটার, একটি পুনর্বহালকরণ (রিয়েল টাইম প্রতিক্রিয়া) সিগন্যাল বা অন্য কিছু শিখন নিয়ন্ত্রণের সাথে সংযুক্ত করা হয়েছে । নেটের হায়ারারচিগুলি এই ধারণাটি প্রতিফলিত করে যে একাধিক নিয়ন্ত্রণগুলি একত্রিত করা যায় এবং সরাসরি নিম্ন স্তরের পড়াশোনা করা যায়, বা ফ্লিপ কেস যেখানে একাধিক শিক্ষার উপাদানগুলি একটি উচ্চ স্তরের সুপারভাইজার নেটওয়ার্কের দ্বারা নিয়ন্ত্রণ করা যায়।
লার্নিং টপোলজিতে ট্রেন্ডের বিশ্লেষণ
আমরা মেশিন লার্নিং আর্কিটেকচারের প্রবণতাগুলি বিশ্লেষণ করতে পারি। আমাদের তিনটি টপোলজিকাল ট্রেন্ড রয়েছে।
কার্যকারণের মাত্রার গভীরতা - সিগন্যাল প্রসেসিংয়ের স্তরগুলিতে যেখানে অ্যাক্টিভেশনগুলির এক স্তরের আউটপুটটি পরবর্তী স্তরের ইনপুটকে অ্যাটেনিউটিং পরামিতিগুলির (মাপ) ম্যাট্রিক্সের মাধ্যমে খাওয়ানো হয়। বৃহত্তর নিয়ন্ত্রণগুলি যেমন প্রতিষ্ঠিত হয় কেবল ব্যাক প্রোপ্যাটিজিয়ানে কেবল প্রাথমিক গ্রেডিয়েন্ট বংশোদ্ভূত দিয়েই বৃহত্তর গভীরতা অর্জন করা যায়।
ইনপুট সিগন্যাল মাত্রিকতা - স্কেলার ইনপুট থেকে হাইপারকিউবেস পর্যন্ত (ভিডিওতে স্বচ্ছতা এবং ফ্রেমের সাথে আনুভূমিক, উল্লম্ব, বর্ণের গভীরতা রয়েছে - নোট করুন যে এটি পেরসেপ্ট্রন অর্থে ইনপুট সংখ্যার মতো নয়।
টপোলজিকাল বিকাশ - উপরের দুটি প্রকৃতির কার্টেসিয়ান। মাত্রাগুলি বিদ্যমান মাত্রিকের সাথে ডান কোণগুলিতে যুক্ত করা হয়। যেহেতু নেটওয়ার্কগুলি হায়ারারচিগুলিতে (যেমন ল্যাপ্লেসিয়ান হাইয়ারচিগুলিতে) এবং এমবিয়াস স্ট্রিপের মতো (জিএএনএস হিসাবে) ওয়্যার্ড থাকে, সেগুলি প্রবণতা স্থানচালিত হয় এবং এটি নির্দেশিত গ্রাফ দ্বারা সর্বোত্তমভাবে উপস্থাপিত হয় যেখানে উল্লম্বগুলি নিউরন নয় তবে সেগুলির ছোট নেটওয়ার্ক রয়েছে।
টোপোলজিস কী অনুপস্থিত?
এই বিভাগটি শিরোনাম প্রশ্নের অর্থের উপর প্রসারিত হয়।
- একাধিক মেটা-উল্লম্ব, প্রতিটি নিউরাল নেট প্রতিনিধিত্ব করে এমন কোনও ব্যবস্থা করা যেতে পারে যে কোনও একাধিক সুপারভাইজার মেটা-উল্লম্বগুলি একযোগে একাধিক কর্মচারী মেটা-শীর্ষকে তদারকি করতে পারে তার কোনও কারণ আছে কি?
- ত্রুটি সংকেতের পিছনে প্রচার কেন একমাত্র অ-রৈখিক সমান নেতিবাচক প্রতিক্রিয়া?
- তদারকির চেয়ে মেটা-উল্লম্বের মধ্যে সহযোগিতা নিযুক্ত করা যাবে না, যেখানে নিয়ন্ত্রণের প্রতিনিধিত্বকারী দুটি পারস্পরিক প্রান্ত রয়েছে?
- যেহেতু নিউরাল জালগুলি মূলত ননলাইনার ঘটনাটি শেখার জন্য নিযুক্ত করা হয়, তাই জালগুলির নকশায় বা তাদের আন্তঃসংযোগে অন্যান্য ধরণের বন্ধ পথকে কেন নিষিদ্ধ করে?
- ভিডিও ক্লিপগুলি স্বয়ংক্রিয়ভাবে শ্রেণিবদ্ধ করা যেতে পারে তাই ছবিতে শব্দ যুক্ত করা যায় না এমন কোনও কারণ আছে কি? যদি এটি হয় তবে স্ক্রিনপ্লে কোনও চলচ্চিত্রের কোনও সম্ভাব্য বৈশিষ্ট্য নিষ্কাশন এবং কোনও বিজ্ঞাপনের আর্কিটেকচারকে চিত্রনাট্য তৈরি করতে এবং চলচ্চিত্রের স্টুডিও সিস্টেম ছাড়াই চলচ্চিত্র প্রযোজনার জন্য ব্যবহার করা যেতে পারে? নির্দেশিত গ্রাফ হিসাবে সেই টপোলজিটি দেখতে কেমন হবে?
- যদিও অर्थোগোনালি সাজানো কোষগুলি অরথোগোনাল শীর্ষগুলি এবং প্রান্তগুলির একটি স্বেচ্ছাসেবী নিয়মিত প্যাকিংয়ের ব্যবস্থা অনুকরণ করতে পারে তবে কম্পিউটার ভিশনে যেখানে প্লাস বা বিয়োগ 90 ডিগ্রি ব্যতীত অন্য ক্যামেরার কাতটি সাধারণ, সেখানে কি এটি দক্ষ?
- প্রাকৃতিক ভাষা বোধগম্যতা এবং সমাবেশ বা কৃত্রিম জ্ঞানকে লক্ষ্য করে শেখার পদ্ধতিগুলিতে এআই সিস্টেমগুলিতে অরথোগোনালি নেটওয়ার্কগুলিতে বা কোষের নেটওয়ার্কগুলিতে পৃথক কক্ষগুলি সাজানো কি দক্ষ?
মন্তব্য
এমএলপিতে কৃত্রিম কোষগুলি প্রশস্ততা এবং নৈকট্য ভিত্তিক প্রান্তিকের উপর ভিত্তি করে বৈদ্যুতিন-রাসায়নিক পালস সংক্রমণের চেয়ে ভাসমান বা স্থির পয়েন্ট গণিত স্থানান্তর ফাংশন ব্যবহার করে। এগুলি নিউরনের বাস্তবসম্মত অনুকরণ নয়, সুতরাং শিখুনকে নিউরন বলা এই ধরণের বিশ্লেষণের জন্য ভুল ধারণা হতে পারে।
কাছাকাছি সময়ে পিক্সেলের মধ্যে চিত্রের বৈশিষ্ট্যগুলির তুলনামূলক পরিবর্তন এবং আপেক্ষিক পরিবর্তনগুলি দূরবর্তী পিক্সেলের তুলনায় অনেক বেশি।