"অনুবাদে সমতুল্য" এবং "অনুবাদে আক্রমণকারী" এর মধ্যে পার্থক্য কী?

Question

আমি কষ্ট মধ্যে পার্থক্য বুঝতে হচ্ছে অনুবাদটি equivariant এবং অনুবাদটি পরিবর্তিত ।

ডিপ লার্নিং বইটিতে । এমআইটি প্রেস, ২০১ ((আই। গুডফেলো, এ। করভিল, এবং ওয়াই। বেনজিও), কেউ কনভলশনাল নেটওয়ার্কগুলিতে খুঁজে পেতে পারেন:

• [...] প্যারামিটার ভাগ করে নেওয়ার নির্দিষ্ট ফর্মটির কারণে স্তরটির একটি সমান সম্পত্তি হিসাবে অনুবাদ হয় called
• [...] পুলিং উপস্থাপনাটিকে ইনপুটটির ছোট্ট অনুবাদগুলিতে প্রায় অদম্য হয়ে উঠতে সহায়তা করে

তাদের মধ্যে কি কোনও পার্থক্য রয়েছে বা পদগুলি আন্তঃবিস্মরণীয়ভাবে ব্যবহৃত হয়?

Comments

পরিসংখ্যানের পুরানো দিনগুলিতে, পিটম্যানের সময় হিসাবে, ইনগ্রানেন্ট সমার্থক অর্থ ব্যবহৃত হত was

— শি'য়ান

Answer 1

ইক্যুইভিরিয়েন্স এবং ইনভার্ভিয়েন্স কখনও কখনও আন্তঃচঞ্চলভাবে ব্যবহৃত হয়। @ শি'আন দ্বারা চিহ্নিত হিসাবে , আপনি পরিসংখ্যানের সাহিত্যে ব্যবহারগুলি খুঁজে পেতে পারেন, উদাহরণস্বরূপ আক্রমণকারী অনুমানকারী এবং বিশেষত পিটম্যান অনুমানকারকের ধারণার উপর ।

যাইহোক, আমি যে উল্লেখ করতে চাই এটা ভাল হবে উভয় পদ পৃথক রাখব , উপসর্গ হিসাবে " ইন " এ পরিবর্তিত , অভাবসূচক (অর্থাত এ সব "কোন ভ্যারিয়েন্স") করা হয় যখন " equi- " মধ্যে equivariant "নানারকম বোঝায় অনুরূপ বা সমমানের অনুপাতে "। অন্য কথায়, একটি সরানো হয় না, অন্যটি না ।

আসুন আমরা সাধারণ চিত্র বৈশিষ্ট্যগুলি থেকে শুরু করি এবং ধরুন যে চিত্রটি $I$ স্থানিক পিক্সেলের লোকেশনে এক অনন্য সর্বাধিক $m$$(x_m,y_m)$, যা এখানে মূল শ্রেণিবদ্ধকরণ বৈশিষ্ট্য। অন্য কথায়: একটি চিত্র এবং এর সমস্ত অনুবাদগুলি "একই"। ক্লাসিফায়ার এর একটি উত্সাহব্যঞ্জক সম্পত্তি তাদের কিছু বিকৃত সংস্করণ একই পদ্ধতিতে শ্রেণীভুক্ত করার দক্ষতা$I'$ এর$I$ সব ভেক্টর দ্বারা, উদাহরণস্বরূপ অনুবাদের জন্য $(u,v)$ ।

সর্বোচ্চ মান $m'$ এর $I'$ হয় পরিবর্তিত : $m'=m$ : VALUE একই। তার অবস্থান হতে হবে যদিও $(x'_m,y'_m)=(x_m-u,y_m-v)$, এবং হয়equivariant, যার মানে হলহল "সমানভাবে" বিকৃতি সঙ্গে পরিবর্তিত হয়।

সমতার জন্য গণিতে প্রদত্ত সূক্ষ্ম সূত্রগুলি যাকে বিবেচনা করা বস্তু এবং রূপান্তরগুলির উপর নির্ভর করে, তাই আমি এখানে ধারণাটি পছন্দ করি যা প্রায়শই অনুশীলনে ব্যবহৃত হয় (এবং আমি তাত্ত্বিক অবস্থান থেকে দোষ পেতে পারি)।

এখানে অনুবাদগুলি (বা আরও কিছু জেনেরিক অ্যাকশন) একটি গ্রুপ $G$ এর কাঠামোর সাথে সজ্জিত হতে পারে , $g$ হ'ল একটি নির্দিষ্ট অনুবাদ অপারেটর। একটি ফাংশন বা বৈশিষ্ট্য $f$ এর অন্তর্ভুক্ত arian$G$শ্রেণীর সমস্ত চিত্রের জন্য এবং কোনও$g$ , ফ ( জি ( আই ) ) = চ ( আই ) এর জন্য জি এর

$$f(g(I)) = f(I)\,.$$

যদি অন্য গাণিতিক বিদ্যমান এটা equivariant হয়ে কাঠামো বা কর্ম (প্রায়ই একটি গ্রুপ) $G'$ যে রূপান্তরের প্রতিফলন $G$ একটি অর্থপূর্ণ ভাবে । অন্য কথায়, প্রতিটি এমন যে $g$ , আপনি একটি একটি অনন্য আছে $g' \in G'$ যেমন যে

$$f(g(I)) = g'(f(I))\,.$$

উপরোক্ত উদাহরণে অনুবাদ গ্রুপে, $g$ এবং $g'$ একই (এবং তাই $G'=G$ ): চিত্রের একটি পূর্ণসংখ্যা অনুবাদ সর্বাধিক অবস্থানের সঠিক একই অনুবাদ হিসাবে প্রতিফলিত করে lects

আর একটি সাধারণ সংজ্ঞা হ'ল:

$$f(g(I)) = g(f(I))\,.$$

আমি অবশ্য ব্যবহৃত সম্ভাব্য বিভিন্ন $G$ এবং $G'$ কারণ কখনও কখনও $f(I)$ এবং $g(I)$ একই ডোমেনে নেই। মাল্টিভারিয়েট পরিসংখ্যানগুলিতে উদাহরণস্বরূপ এটি ঘটে (উদাহরণস্বরূপ মাল্টিভারিয়েট কোয়ান্টাইল এবং সম্পর্কিত ফাংশনের সমতুল্যতা এবং আগ্রাসনের বৈশিষ্ট্য এবং মানককরণের ভূমিকা ) দেখুন। কিন্তু এখানে মধ্যে ম্যাপিং স্বতন্ত্রতা $g$ এবং $g'$ মূল রূপান্তর পেতে পারবেন $g$ ।

প্রায়শই, লোকেরা ইনভেরিয়েন্স শব্দটি ব্যবহার করে কারণ সমতা ধারণাটি অজানা, বা অন্য প্রত্যেকেই হতাশার ব্যবহার করে এবং সমতা আরও প্যাডেন্টিক বলে মনে হয়।

রেকর্ড, অন্যান্য সম্পর্কিত ধারণার (ESP। গণিতশাস্ত্র ও পদার্থবিজ্ঞানে) এর জন্য বলা হয় সহভেদাংক , contravariance , ডিফারেনশিয়াল invariance ।

তদ্ব্যতীত, অনুবাদ-অদৃশ্যতা, কমপক্ষে আনুমানিক, বা খামে, বেশ কয়েকটি সংকেত এবং চিত্র প্রক্রিয়াকরণ সরঞ্জামগুলির সন্ধান করেছে। উল্লেখযোগ্যভাবে, মাল্টি-রেট (ফিল্টার-ব্যাংক) এবং মাল্টি-স্কেল (ওয়েভলেট বা পিরামিড) রূপান্তরগুলি গত 25 বছরে ডিজাইন করা হয়েছে, উদাহরণস্বরূপ, শিফট-ইনগ্রেন্ট, চক্র-স্পিনিং, স্টেশনারি, জটিল, দ্বৈত গাছের আড়ালে তরঙ্গকরণ রূপান্তর (2D তরঙ্গপত্রের উপর পর্যালোচনার জন্য, মাল্টিস্কেল জ্যামিতিক উপস্থাপনার উপর একটি প্যানোরামা )। তরঙ্গপত্রগুলি কয়েকটি স্বতন্ত্র স্কেলের প্রকরণগুলি শোষণ করতে পারে। সমস্ত থেস (আনুমানিক) আগ্রাসনগুলি প্রায়শই রূপান্তরিত সহগের সংখ্যায় রিডানডেন্সির মূল্যের সাথে আসে। তবে তারা শিফ্ট-ইনগ্রেন্টেট বা শিফ্ট-সমতুল্য বৈশিষ্ট্যগুলি অর্জন করার সম্ভাবনা বেশি।

Comments

গ্রেট! বিস্তারিত উত্তর @ লরেন্ট দুভাল

— আমির

Answer 2

পদগুলি পৃথক:

• অনুবাদটি Equivariant মানে যে অতিরিক্ত বৈশিষ্ট্যগুলিও উপস্থিত রয়েছে ইনপুটের একটি অনুবাদ আউটপুট একটি সমতুল্য অনুবাদে ফলাফল নেই। সুতরাং যদি আপনার প্যাটার্ন 0,3,2,0,0 ইনপুটটিতে 0,1,0,0 আউটপুটে ফলাফল করে তবে 0,0,3,2,0 প্যাটার্নটি 0,0,1 এ নিয়ে যেতে পারে, 0

• অনুবাদে অবিচ্ছিন্ন অর্থ ইনপুট বৈশিষ্ট্যগুলির একটি অনুবাদ আউটপুটগুলিকে মোটেও পরিবর্তন করে না। সুতরাং যদি আপনার প্যাটার্ন 0,3,2,0,0 ইনপুট ফলাফল 0,1,0 আউটপুট ফলাফল, তারপর 0,0,3,2,0 প্যাটার্ন এছাড়াও 0,1,0 হতে হবে

কনভোলশনাল নেটওয়ার্কগুলিতে বৈশিষ্ট্যযুক্ত মানচিত্রগুলি কার্যকর করার জন্য তাদের সাধারণত কিছু ভারসাম্যের মধ্যে উভয় বৈশিষ্ট্যের প্রয়োজন হয়। ইক্যুয়ারেন্সটি নেটওয়ার্ককে বিভিন্ন জায়গায় প্রান্ত, টেক্সচার, আকৃতি সনাক্তকরণকে সাধারণকরণ করতে দেয়। বিবর্তন সনাক্তকরণের বৈশিষ্ট্যগুলির সুনির্দিষ্ট অবস্থানটিকে কম বিবেচনার অনুমতি দেয়। অনেকগুলি ইমেজ প্রসেসিং কাজের জন্য এটি দুটি পরিপূরক ধরণের সাধারণীকরণ।

Comments

অনুবাদিত বৈশিষ্ট্যটি কোনও স্তরে অনুবাদিত আউটপুট দেয়। যথেষ্ট অনুবাদ করা পুরো বস্তু সনাক্ত করা হচ্ছে সম্পর্কে দয়া করে বিশদ। দেখে মনে হচ্ছে এটি সিএনএনকে বিভিন্ন পজিশনযুক্ত চিত্রগুলির সাথে প্রশিক্ষণ দেওয়া হয়নি কিনা? এই ক্ষেত্রে কি সমতা (হস্তক্ষেপের সাথে আরও মিল দেখায়)?

— ভ্লাদিমিরলেনিন

@ ভ্লাদিমিরলেনিন: আমি মনে করি না যে এই প্রশ্নের জন্য বিস্তৃততা প্রয়োজন, এটি অবশ্যই ওপি এখানে জিজ্ঞাসা করে এমন কিছু নয়। আমি আপনাকে একটি পৃথক প্রশ্ন জিজ্ঞাসা করছি, যদি সম্ভব হয় তবে একটি সুনির্দিষ্ট উদাহরণ সহ ask এমনকি দৃশ্যত কোনও "পুরো বস্তু" অনুবাদ করা হলেও এর অর্থ এই নয় যে কোনও সিএনএন-এ বৈশিষ্ট্য মানচিত্রগুলি আপনার প্রত্যাশা অনুযায়ী একই জিনিসটি ট্র্যাক করছে।

— নিল স্লেটার

Answer 3

শুধু আমার 2 সেন্ট যোগ করুন

$f : I \rightarrow L$$I$$L$ একটি 2 ধাপ প্রক্রিয়াতে (লেবেল সেট) যা এটি

• $f : I \rightarrow \mathcal{L}$ ইনপুটটিকে লেটেন্ট সিমেন্টিক স্পেসে ম্যাপ করে
• $f : \mathcal{L} \rightarrow L$ লেটেন্ট সিমেন্টিক স্পেস থেকে ফাইনাল লেবেল স্পেসের মানচিত্র

এবং এটি নিম্নলিখিত বৈশিষ্ট্যগুলি ব্যবহার করে সম্পাদিত হয়

• লেভির ইনপুটটির শিফট হিসাবে কনভিলার (স্পেসিয়াল 2 ডি কনভোলিউশন + ননলিন যেমন রিলু) সম্পর্কিত স্থানিক সমতা, লেয়ার আউটপুটে একটি শিফট তৈরি করে (দ্রষ্টব্য: এটি স্তর সম্পর্কে, একক কনভলিউশন অপারেটর নয়)
• পুলিং অপারেটর সম্পর্কিত স্থানিক চালান (যেমন ম্যাক্স পুলিং তার স্থানগত অবস্থান নির্বিশেষে গ্রহণযোগ্য ক্ষেত্রের সর্বাধিক মানকে অতিক্রম করে)

$I$

সীমান্তের কাছাকাছি, সুপ্ত খাঁটি অর্থপূর্ণ ডোমেন এর আরও কাছাকাছি$\mathcal{L}$ এবং চিত্রটির নির্দিষ্ট অর্থ বৈশিষ্ট্যগুলির স্থানিক অবস্থানগুলি থেকে স্বতন্ত্র হওয়ার জন্য স্থানীয় স্থান যতটা গুরুত্বপূর্ণ

ফ্রন্টএন্ডে পুরোপুরি সংযুক্ত স্তরগুলি ব্যবহার করে ব্যাকএন্ড কাঠামোর উপর নির্ভর করে কিছুটা হলেও শ্রেণিবদ্ধকারীকে বৈশিষ্ট্য পজিশনের সংবেদনশীল করে তোলে: এটি যত গভীর হয় ততই তত বেশি অনুবাদ ইনভারিয়েন্ট অপারেটর (পুলিং) ব্যবহৃত হয়

কনভলিউশনাল নিউরাল নেটওয়ার্কগুলির ট্রান্সলেশন-ইনভেরিয়েন্সের পরিমান নির্ধারণ করে দেখানো হয়েছে যে সিএনএন শ্রেণিবদ্ধ অনুবাদ তদন্তের পরিবর্তনের জন্য, ইন্ডাকটিভ বায়াসের পরিবর্তে (আর্কিটেকচারের ফলে গভীরতা, পুলিং,…) ডেটাসেট বায়াসে কাজ করা আরও কার্যকর (ডেটা বর্ধন) )