বিসর্জন অধ্যয়ন কী? এবং এটি সম্পাদন করার কোনও পদ্ধতিগত উপায় আছে কি?


27

এন লিনিয়ার রিগ্রেশনটিতে প্রেডেক্টর রয়েছে যা আমি আমার মডেল হিসাবে ডাকব।

আমি কীভাবে এটিতে বিসর্জন অধ্যয়ন করব? আমার কোন মেট্রিক ব্যবহার করা উচিত?

একটি বিস্তৃত উত্স বা পাঠ্যপুস্তক প্রশংসা করা হবে।


4
"বিলোপ অধ্যয়ন" শব্দটি প্রায়শই স্নায়ু নেটওয়ার্কগুলির প্রসঙ্গে ব্যবহৃত হয়, বিশেষত আর-সিএনএন-এর মতো আপেক্ষিক জটিল বিষয়গুলির ক্ষেত্রে। ধারণাটি হ'ল নেটওয়ার্কটির কিছু অংশ মুছে ফেলা এবং এর কার্য সম্পাদন অধ্যয়ন করে। আপনার প্রস্তাবিত লিনিয়ার রিগ্রেশন প্রসঙ্গে, বিসর্জন সত্যিকার অর্থে বোঝা যায় না - এটি এক ধরণের পিছনের দিকে ধাপে ধাপে পরিবর্তনশীল নির্বাচন পদ্ধতিতে পরিণত হবে।
রবার্ট লং

উত্তর:


50

"বিসর্জন" এর আসল অর্থ শরীরের টিস্যুগুলির অস্ত্রোপচার অপসারণ । "অ্যাবেশন অধ্যয়ন" শব্দটির শেকড় 1960 এবং 1970 এর দশকের পরীক্ষামূলক নিউরোপাইকোলজির ক্ষেত্রে রয়েছে, যেখানে প্রাণীর মস্তিষ্কের কিছু অংশ তাদের আচরণের উপর প্রভাব ফেলেছিল তা অধ্যয়নের জন্য অপসারণ করা হয়েছিল।

মেশিন লার্নিং এবং বিশেষত জটিল গভীর নিউরাল নেটওয়ার্কগুলির প্রসঙ্গে নেটওয়ার্কের আচরণ সম্পর্কে আরও ভাল ধারণা অর্জনের জন্য নেটওয়ার্কের কিছু অংশ অপসারণ করা হয়েছে এমন একটি পদ্ধতি বর্ণনা করার জন্য "বিলোপ অধ্যয়ন" গ্রহণ করা হয়েছে।

জুন 2018 সালে কেরাস গভীর শেখার কাঠামোর প্রাথমিক লেখক ফ্রাঙ্কোইস চোলিটের একটি টুইটের পরে এই শব্দটি মনোযোগ পেয়েছে :

গভীর শিখন গবেষণার জন্য অ্যাবেশন অধ্যয়ন অত্যন্ত গুরুত্বপূর্ণ - এটি পর্যাপ্ত চাপ দিতে পারে না। আপনার সিস্টেমে কার্যকারিতা বোঝা নির্ভরযোগ্য জ্ঞান উত্পন্ন করার সবচেয়ে সহজ উপায় (যে কোনও গবেষণার লক্ষ্য)। এবং বিসর্জন কার্যকারিতা সন্ধান করার জন্য খুব কম-প্রচেষ্টা প্রচেষ্টা way

আপনি যদি কোনও জটিল গভীর শেখার পরীক্ষামূলক সেটআপ গ্রহণ করেন, সম্ভাবনা হ'ল আপনি কোনও কর্মক্ষমতা হারাতে না পারলে কয়েকটি মডিউল (বা এলোমেলো কিছু দিয়ে প্রশিক্ষিত বৈশিষ্ট্যগুলি প্রতিস্থাপন করতে পারেন) সরাতে পারবেন। গবেষণা প্রক্রিয়ায় গোলমাল থেকে মুক্তি পান: বিসর্জন অধ্যয়ন করুন।

আপনার সিস্টেমটি পুরোপুরি বুঝতে পারছেন না? অনেক চলন্ত অংশ? এটি কাজ করার কারণটি আপনার অনুমানের সাথে সত্যিই সম্পর্কিত কিনা তা নিশ্চিত করতে চান? স্টাফ সরানোর চেষ্টা করুন। আপনার থিসিসটি অস্বীকার করার একটি সৎ প্রচেষ্টায় আপনার পরীক্ষার সময়টির কমপক্ষে ~ 10% ব্যয় করুন।

উদাহরণস্বরূপ, গিরশিক এবং সহকর্মীরা (২০১৪) তিনটি "মডিউল" সমন্বিত একটি অবজেক্ট সনাক্তকরণ সিস্টেমের বর্ণনা দিয়েছেন: প্রথমটি কোনও ইমেজের অঞ্চলের প্রস্তাব দেয় যার মধ্যে নির্বাচিত অনুসন্ধান অ্যালগরিদম ( ইউজলিং এবং সহকর্মী 2012 ) ব্যবহার করে কোনও বিষয় অনুসন্ধান করতে হবে। বৈশিষ্ট্য নিষ্কাশন সম্পাদন করে এমন একটি বৃহত কনভ্যুসিভাল নিউরাল নেটওয়ার্কে ফিডস (5 টি কনভ্যুশনাল স্তর এবং 2 সম্পূর্ণ সংযুক্ত স্তরযুক্ত) যা ফিচারগুলি শ্রেণিবদ্ধকরণের জন্য সমর্থন ভেক্টর মেশিনের সেটগুলিতে পরিণত করে। সিস্টেমটি আরও ভালভাবে বুঝতে, লেখকরা একটি বিসর্জন অধ্যয়ন করেছিলেন যেখানে সিস্টেমের বিভিন্ন অংশ সরিয়ে দেওয়া হয়েছিল - উদাহরণস্বরূপ সিএনএন এর সম্পূর্ণরূপে সংযুক্ত একটি বা উভয় স্তর অপসারণ করার ফলে আশ্চর্যজনকভাবে সামান্য পারফরম্যান্স ক্ষতি হয়, যা লেখককে উপসংহারে পৌঁছে দেয়

সিএনএন এর বেশিরভাগ প্রতিনিধিত্বমূলক শক্তি তার বৃহত্তর ঘন সংযুক্ত স্তরগুলির চেয়ে তার বিবর্তনীয় স্তরগুলি থেকে আসে।

ওপি একটি বিমোচন স্টাডি / কীভাবে / করা যায় তার বিশদ এবং ব্যাপক রেফারেন্সের জন্য জিজ্ঞাসা করে। আমি বিশ্বাস করি না যে এর একটি "একটি আকার সবই ফিট করে" answer মডেলগুলির প্রয়োগ এবং ধরণের উপর নির্ভর করে মেট্রিকগুলি পৃথক হতে পারে। যদি আমরা সমস্যাটিকে কেবল একটি গভীর নিউরাল নেটওয়ার্কের মধ্যে সংকীর্ণ করি তবে এটি তুলনামূলকভাবে সোজা হয়ে দাঁড়িয়ে আছে যা আমরা দেখতে চাই যে আমরা একটি মূলত স্তরগুলি সরিয়ে ফেলতে পারি এবং এটি কীভাবে নেটওয়ার্কের কার্যকারিতা পরিবর্তন করে তা অন্বেষণ করতে পারি। এর বাইরেও, বাস্তবে, প্রতিটি পরিস্থিতি আলাদা এবং বৃহত জটিল মেশিন লার্নিং অ্যাপ্লিকেশনগুলির বিশ্বে, এর অর্থ হ'ল প্রতিটি পরিস্থিতির জন্য একটি অনন্য পদ্ধতির প্রয়োজন হতে পারে।

ওপিতে উদাহরণের প্রসঙ্গে - লিনিয়ার রিগ্রেশন - একটি বিসর্জন অধ্যয়ন কোনও অর্থবোধ করে না, কারণ লিনিয়ার রিগ্রেশন মডেল থেকে যা কিছু "অপসারণ" করা যায় তা কিছু ভবিষ্যদ্বাণীকারী। "নীতিগত" ফ্যাশনে এটি করা কেবল একটি বিপরীত পদক্ষেপের নির্বাচন পদ্ধতি যা সাধারণত নকল করা হয় - এখানে , এখানে এবং এখানে দেখুন বিশদগুলির জন্য দেখুন। লাসোর মতো একটি নিয়মিতকরণ প্রক্রিয়া লিনিয়ার রিগ্রেশনের জন্য একটি আরও ভাল বিকল্প।

refs:

গিরশিক, আর।, ডোনাহু, জে।, ড্যারেল, টি। এবং মালেক, জে।, 2014. সঠিক অবজেক্ট সনাক্তকরণ এবং শব্দার্থবিভাজন বিভাগের জন্য সমৃদ্ধ বৈশিষ্ট্যক্রমক্রম। কম্পিউটার দর্শন এবং প্যাটার্ন স্বীকৃতি সম্পর্কিত আইইইই সম্মেলনের কার্যক্রমে (পৃষ্ঠা 580-587)।

উজলিংস, জেআর, ভ্যান ডি স্যান্ডে, কেই, জিভারস, টি। এবং স্মেল্ডার্স, এডাব্লু, 2013. বস্তুর স্বীকৃতির জন্য নির্বাচিত অনুসন্ধান কম্পিউটার দৃষ্টিভঙ্গির আন্তর্জাতিক জার্নাল, 104 (2), পিপি। 154-171।


1
@ cgo এই আপনার প্রশ্নের উত্তর দেয়? যদি তা হয় তবে দয়া করে আপনি এটি গ্রহণযোগ্য উত্তর হিসাবে চিহ্নিত করতে পারেন ...
রবার্ট লং
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.