সিদ্ধান্ত গাছের সাথে অ্যাডাবোস্ট কেন?

Question

আমি শ্রেণিবিন্যাসের কাজের জন্য এবং বিশেষত অ্যাডাবুস্টের জন্য অ্যালগরিদমগুলি বাড়িয়ে দেওয়ার বিষয়ে কিছুটা পড়ছি। আমি বুঝতে পারি যে অ্যাডাবোস্টের উদ্দেশ্য হ'ল বেশ কয়েকটি "দুর্বল শিখর" নেওয়া এবং প্রশিক্ষণের ডেটা নিয়ে পুনরাবৃত্তির একটি সেটের মাধ্যমে, শ্রেণিবদ্ধদের ধাক্কা দিয়ে ক্লাসগুলি পূর্বাভাস দিতে শিখুন যা মডেল (গুলি) বার বার ভুল করে। তবে আমি ভাবছিলাম যে আমি এতগুলি পড়া কেন দুর্বল শ্রেণিবদ্ধ হিসাবে সিদ্ধান্ত গাছ ব্যবহার করেছি। এর কি কোনও বিশেষ কারণ আছে? এমন কিছু শ্রেণিবদ্ধ রয়েছে যা অ্যাডাবুস্টের জন্য বিশেষত ভাল বা খারাপ প্রার্থী করে?

Comments

আপনি যে সহজতম শিক্ষার্থীটি ব্যবহার করতে পারবেন তা হ'ল গভীরতা = 1 এর সাথে সিদ্ধান্ত গাছ। হয়তো এ কারণেই প্রত্যেকে তাদের উদাহরণগুলিতে এটি ব্যবহার করে।

— হারুন

Answer 1

আমি একটি সম্পর্কিত এসও প্রশ্নের উত্তরে এটি সম্পর্কে কথা বললাম । সিদ্ধান্ত গাছগুলি সাধারণত উত্থাপনের জন্য খুব ভাল ফিট, অন্যান্য অ্যালগরিদমের চেয়ে অনেক বেশি। বুলেট পয়েন্ট / সংক্ষিপ্ত সংস্করণটি হ'ল:

1. সিদ্ধান্ত গাছগুলি অ-রৈখিক। লিনিয়ার মডেলগুলির সাথে বুস্ট করা ভালভাবে কাজ করে না।
2. দুর্বল শিক্ষার্থী এলোমেলো অনুমানের চেয়ে ধারাবাহিকভাবে আরও ভাল হওয়া দরকার। আচরণটি পেতে আপনার কোনও সিদ্ধান্তের গাছের সাথে কোনও প্যারামিটার সুর করার দরকার নেই। কোনও এসভিএম প্রশিক্ষণ দেওয়ার জন্য প্যারামিটার অনুসন্ধানের দরকার নেই। যেহেতু প্রতিটি পুনরাবৃত্তিতে ডেটাটি আবার ভারী করা হয়, তাই আপনাকে সম্ভবত প্রতিটি পুনরাবৃত্তিতে অন্য একটি প্যারামিটার অনুসন্ধান করতে হবে। সুতরাং আপনি একটি বড় ব্যবধানে আপনাকে যে পরিমাণ কাজ করতে হবে তা বাড়িয়ে দিচ্ছেন।
3. সিদ্ধান্তের গাছগুলি যথাযথভাবে প্রশিক্ষণের জন্য দ্রুত। যেহেতু আমরা 100s বা এর মধ্যে বেশ কয়েকটি নির্মাণ করতে যাচ্ছি, তাই এটি একটি ভাল সম্পত্তি। তারা শ্রেণীবদ্ধ করার জন্যও দ্রুত, যা আপনার সিদ্ধান্তের আউটপুট দেওয়ার আগে আপনাকে যখন 100 এর বা চালানোর দরকার হয় তখন তা আবার গুরুত্বপূর্ণ।
4. গভীরতা পরিবর্তন করে আপনার পক্ষপাত / বৈকল্পিক ব্যবসায়ের উপর একটি সহজ এবং সহজ নিয়ন্ত্রণ রয়েছে, এটা জেনে যে বৃদ্ধি করা পক্ষপাত হ্রাস করতে পারে তবে বৈকল্পিকতাও উল্লেখযোগ্যভাবে হ্রাস করে। বুস্টিং অত্যধিক মানানসই হিসাবে পরিচিত, তাই টিউন করার সহজ নোব সেই ক্ষেত্রে সহায়ক।

Answer 2

আমার কাছে কোনও পাঠ্য-পুস্তকের উত্তর নেই। তবে এখানে কিছু চিন্তা।

ব্যাগিংয়ের সাথে সরাসরি তুলনা করতে দেখা যায় বুস্টিং। পক্ষপাত বৈকল্পিক দ্বিধাদ্বন্দ্বের এই দুটি ভিন্ন পন্থা। ব্যাগিংয়ের ক্ষেত্রে দুর্বল শিক্ষার্থীরা যেমন রয়েছে তেমনি কিছু শিক্ষার্থী কম পক্ষপাত এবং উচ্চ বৈকল্পিকতা সহ ব্যাগিংয়ের পরিবেশনাকে সামান্য পক্ষপাতের জন্য বৈকল্পিকতা হ্রাস করে। অন্যদিকে বুস্ট করা বিভিন্ন দুর্বল শিক্ষার্থীদের সাথে ভাল কাজ করে। দুর্বল দুর্বল শিক্ষার্থীদের উচ্চ পক্ষপাত এবং কম বৈকল্পিক রয়েছে। অন্যটির শীর্ষে একজন শিক্ষানবিশকে গড়ে তোলার মাধ্যমে, উত্সাহিত পোশাকটি কিছুটা বৈকল্পিকতার জন্য পক্ষপাত হ্রাস করার চেষ্টা করে।

ফলস্বরূপ, যদি আপনি দুর্বল শিক্ষার্থী হিসাবে ব্যাগিং এবং গাছগুলি বৃদ্ধির জন্য উদাহরণস্বরূপ বিবেচনা করেন তবে ব্যাগিং সহ ছোট / ছোট গাছ এবং ব্যাগ সহ খুব বিশদ গাছ ব্যবহার করার সর্বোত্তম উপায়। এ কারণেই প্রায়শই একটি উত্সাহদান পদ্ধতি দুর্বল শিক্ষার্থী হিসাবে একটি সিদ্ধান্ত স্টাম্প ব্যবহার করে, যা সবচেয়ে সংক্ষিপ্ততম গাছ (একক যদি একক মাত্রায় শর্ত থাকে)। এই সিদ্ধান্ত স্টাম্প খুব স্থিতিশীল, তাই এটি খুব কম বৈকল্পিক আছে।

বুস্টিং পদ্ধতি সহ গাছ ব্যবহার করার কোনও কারণ আমি দেখতে পাচ্ছি না। তবে সংক্ষিপ্ত গাছগুলি সহজ, কার্যকর এবং সহজে বোঝা যায়। তবে আমি মনে করি যে একটি উত্সাহদান পদ্ধতিতে সাফল্য অর্জন করতে আপনার দুর্বল শিক্ষার্থীর স্বল্পতা থাকতে হবে, খুব কম ডিগ্রি সহ স্বাধীনতা থাকতে হবে। উদাহরণস্বরূপ, আমি দুর্বল শিক্ষার্থী হিসাবে একটি নিউরাল নেটওয়ার্ক হিসাবে কোন লাভ নেই।

অতিরিক্তভাবে, আপনাকে লক্ষ্য রাখতে হবে যে কোনও ধরণের বুস্টিং পদ্ধতিগুলির জন্য, গ্রেডিয়েন্ট বুস্টিং উদাহরণস্বরূপ, ব্রেমন আবিষ্কার করেছিলেন যে দুর্বল শিক্ষানবিস যদি একটি গাছ হয় তবে কীভাবে বাস্টিং কাজগুলি করা যায় সে সম্পর্কে কিছুটা অপ্টিমাইজেশন রয়েছে। এইভাবে আমাদের গ্রেডিয়েন্ট বুস্টিং গাছ রয়েছে। ইএসটিএল বইটিতে উত্সাহ দেওয়ার এক সুন্দর এক্সপোজার রয়েছে।