প্রশ্ন ট্যাগ «boosting»

এই 3 টি পদ্ধতির মধ্যে মিল এবং পার্থক্য কী: ব্যাগিং, boosting, স্ট্যাকিং? কোনটি সেরা? এবং কেন? আপনি কি আমাকে প্রত্যেকের জন্য একটি উদাহরণ দিতে পারেন?

245 machine-learning  boosting  ensemble  bagging  model-averaging 

ফ্রেডম্যান প্রস্তাবিত গ্রেডিয়েন্ট ট্রি বুস্টিং সিদ্ধান্ত কাঠ গাছগুলি বেস লার্নার হিসাবে ব্যবহার করে। আমি ভাবছি যে বেস ভিত্তি গাছটিকে যতটা সম্ভব জটিল (পুরোপুরি বড় হওয়া) বা সহজতর করা উচিত? পছন্দ জন্য কোন ব্যাখ্যা আছে? বেস লার্নার হিসাবে সিদ্ধান্ত গাছ ব্যবহার করে র্যান্ডম ফরেস্ট হল আরেকটি জাতীয় পদ্ধতি। আমার বোঝার উপর …

110 machine-learning  random-forest  cart  boosting  ensemble 

আমার একটি শ্রেণির ভারসাম্যহীন ডেটা রয়েছে এবং আমি এক্সজিবিস্ট ব্যবহার করে উত্সাহিত ট্রেসের হাইপারপ্যারামিটারগুলি টিউন করতে চাই। প্রশ্নাবলি Xbboost এর জন্য গ্রিডসার্কভি বা র্যান্ডমসার্কসিভের সমতুল্য কি আছে? যদি না হয় তবে এক্সজিবিস্টের প্যারামিটারগুলি টিউন করার জন্য প্রস্তাবিত পদ্ধতিটি কী?

68 machine-learning  cross-validation  xgboost  boosting 

বৃদ্ধির সংক্ষিপ্ত সংজ্ঞা : দুর্বল শিক্ষার্থীদের একটি সেট কি একক শক্তিশালী শিক্ষানবিস তৈরি করতে পারে? একটি দুর্বল শিক্ষানবিসকে শ্রেণীবদ্ধকারী হিসাবে সংজ্ঞায়িত করা হয় যা কেবলমাত্র প্রকৃত শ্রেণিবিন্যাসের সাথে সম্পর্কিত (এটি এলোমেলো অনুমানের চেয়ে উদাহরণগুলি আরও ভাল লেবেল করতে পারে)। র্যান্ডম ফরেস্টের সংক্ষিপ্ত সংজ্ঞা : এলোমেলো বন অনেক শ্রেণিবিন্যাস গাছ বৃদ্ধি …

51 machine-learning  random-forest  boosting  bagging 

আমি জিবিএম এবং অ্যাডাবোস্টের মধ্যে পার্থক্য বোঝার চেষ্টা করছি। এগুলি আমি এ পর্যন্ত বুঝতে পেরেছি: উভয়ই বুস্টিং অ্যালগরিদম রয়েছে, যা পূর্ববর্তী মডেলের ত্রুটিগুলি থেকে শিক্ষা নেয় এবং শেষ পর্যন্ত মডেলগুলির একটি ভারিত যোগফল তৈরি করে। জিবিএম এবং অ্যাডাবোস্টগুলি তাদের ক্ষতির কার্যকারিতা ব্যতীত বেশ সমান। তবে এখনও তাদের মধ্যে পার্থক্যের ধারণাটি …

48 boosting  gbm  adaboost 

গ্রেডিয়েন্ট বুস্টিং সম্পর্কে শিখার সময়, আমি কোনও "দুর্বল শ্রেণিবদ্ধ" এর বৈশিষ্ট্য সম্পর্কিত কোনও প্রতিবন্ধকতা সম্পর্কে শুনিনি যা পদ্ধতিটি মডেল তৈরি ও ensemble করতে ব্যবহার করে। যাইহোক, আমি এমন একটি জিবি অ্যাপ্লিকেশনটি কল্পনা করতে পারি না যা লিনিয়ার রিগ্রেশন ব্যবহার করে, এবং বাস্তবে যখন আমি কিছু পরীক্ষা করেছি - এটি কার্যকর …

35 regression  machine-learning  boosting  ensemble  gradient 

আমি দীর্ঘদিন ধরে কাগল প্রতিযোগিতা অনুসরণ করছি এবং আমি বুঝতে পেরেছি যে অনেকগুলি বিজয়ী কৌশল অন্তত একটি "বড় থ্রেস" ব্যবহার করে: ব্যাগিং, উত্সাহ এবং স্ট্যাকিং। রিগ্রেশনগুলির জন্য, এক সম্ভাব্য সর্বোত্তম রিগ্রেশন মডেল তৈরির দিকে মনোনিবেশ করার পরিবর্তে একাধিক রিগ্রেশন মডেল যেমন (জেনারালাইজড) লিনিয়ার রিগ্রেশন, এলোমেলো বন, কেএনএন, এনএন, এবং এসভিএম …

33 predictive-models  boosting  bagging  stacking  model-averaging 

মডেলটির জিবিডিটি পরিবারের বেশ কয়েকটি বাস্তবায়ন রয়েছে যেমন: GBM XGBoost LightGBM Catboost। এই বিভিন্ন বাস্তবায়নের মধ্যে গাণিতিক পার্থক্যগুলি কী কী ? এই বেঞ্চ চিহ্ন অনুসারে কেবলমাত্র তার ডিফল্ট প্যারামিটার ব্যবহার করেও ক্যাটবুস্ট অন্যান্য প্রয়োগগুলি কার্যকর করেছে বলে মনে হয় তবে এটি এখনও খুব ধীর। আমার অনুমান যে ক্যাটবুস্ট ডামিফায়েড ভেরিয়েবল …

33 boosting  xgboost 

আমি গ্রেডিয়েন্ট বুস্টেড ট্রিগুলিতে তুলনামূলকভাবে পরিবর্তনশীল গুরুত্বকে কীভাবে গণনা করা হয় যা অতিরিক্ত সাধারণ / সরল নয় যেমন: প্রতিটি বিভাজনের ফলে মডেলটির বর্গক্ষেত্রের উন্নতি দ্বারা ওজন করা এবং সমস্ত গাছের গড় গড়ে এই ব্যবস্থাগুলি বিভাজনের জন্য কতবার পরিবর্তনশীল নির্বাচন করা হয় তার ভিত্তিতে করা হয় । [ এলিথ এট আল। …

33 machine-learning  data-mining  predictive-models  cart  boosting 

জিবিএম ব্যবহার করে প্যারামিটারগুলি পরীক্ষা করার জন্য (যেমন ইন্টারঅ্যাকশন গভীরতা, মিনিচাইল্ড, স্যাম্পল রেট ইত্যাদি) কিছু দরকারী নির্দেশিকা কী? ধরা যাক আমার কাছে 70-100 বৈশিষ্ট্য রয়েছে, 200,000 জনসংখ্যা রয়েছে এবং আমি 3 এবং 4 এর আন্তঃসংযোগ গভীরতার পরীক্ষা করার ইচ্ছা নিয়েছি যে স্পষ্টতই পরামিতিগুলির সংমিশ্রণটি নমুনা ছাড়াই সেরা পরীক্ষা করে দেখার …

31 r  hypothesis-testing  cart  boosting 

আরবিতে জিবিএমের মিথস্ক্রিয়া গভীরতার প্যারামিটার নিয়ে আমার একটি প্রশ্ন ছিল This এটি একটি ক্ষুদ্র প্রশ্ন হতে পারে, যার জন্য আমি ক্ষমাপ্রার্থী, তবে আমি যে পরামিতিটি বিশ্বাস করি যা একটি গাছে টার্মিনাল নোডের সংখ্যা বোঝায়, মূলত এক্স-ওয়ে নির্দেশ করে ভবিষ্যদ্বাণীকারীদের মধ্যে মিথস্ক্রিয়া? কীভাবে এটি কাজ করে তা বোঝার চেষ্টা করছি। অতিরিক্ত …

30 r  machine-learning  boosting  gbm 

উদাহরণস্বরূপ, উপর XGBoost মডেল উদ্দেশ্য ফাংশন নিতে 'ম পুনরাবৃত্তির:ttt L(t)=∑i=1nℓ(yi,y^(t−1)i+ft(xi))+Ω(ft)L(t)=∑i=1nℓ(yi,y^i(t−1)+ft(xi))+Ω(ft)\mathcal{L}^{(t)}=\sum_{i=1}^n\ell(y_i,\hat{y}_i^{(t-1)}+f_t(\mathbf{x}_i))+\Omega(f_t) যেখানে ক্ষতি ফাংশন, হয় 'ম গাছ আউটপুট এবং নিয়মিতকরণ হয়। দ্রুত গণনার জন্য (অনেকগুলি) গুরুত্বপূর্ণ পদক্ষেপগুলির মধ্যে একটি হল আনুমানিক:ℓℓ\ellftftf_ttttΩΩ\Omega L(t)≈∑i=1nℓ(yi,y^(t−1)i)+gtft(xi)+12hif2t(xi)+Ω(ft),L(t)≈∑i=1nℓ(yi,y^i(t−1))+gtft(xi)+12hift2(xi)+Ω(ft),\mathcal{L}^{(t)}\approx \sum_{i=1}^n\ell(y_i,\hat{y}_i^{(t-1)})+g_tf_t(\mathbf{x}_i)+\frac{1}{2}h_if_t^2(\mathbf{x}_i)+\Omega(f_t), যেখানে এবং হ্রাস ফাংশনের প্রথম এবং দ্বিতীয় ডেরাইভেটিভ।gigig_ihihih_i আমি যা জিজ্ঞাসা করছি তা হল উপরোক্ত আনুমানিকতা কেন কাজ …

28 optimization  loss-functions  boosting  xgboost  taylor-series 

Stats.SE তেও একই ধরণের প্রশ্ন দেখুন । ইন boosting যেমন আলগোরিদিম AdaBoost এবং LPBoost এটা জানা যায় "দুর্বল" শিক্ষার্থীদের শুধুমাত্র উপযোগী হতে উইকিপিডিয়া থেকে সুযোগ চেয়ে ভাল সঞ্চালন আছে মিলিত হবে: এটি যে শ্রেণিবদ্ধগুলি ব্যবহার করে তা দুর্বল হতে পারে (যেমন, যথেষ্ট ত্রুটির হার প্রদর্শন করুন) তবে যতক্ষণ না তাদের …

28 machine-learning  theory  boosting 

বুস্টিং বোঝার সহজতম উপায় কী? কেন এটি খুব দুর্বল শ্রেণিবদ্ধীদের "অনন্ত" (পারফেকশন) বাড়ায় না?

23 machine-learning  boosting 

জমায়েত শেখার ক্ষেত্রে দুর্বল শিক্ষার্থীদের সম্পর্কে আমার কাছে অনেকগুলি ঘনিষ্ঠভাবে সম্পর্কিত প্রশ্ন রয়েছে (উদ্বোধন করা)। এটি বোবা লাগতে পারে তবে শক্তিশালী শিক্ষার্থীদের বিপরীতে দুর্বল ব্যবহারের সুবিধা কী? (উদাহরণস্বরূপ "শক্তিশালী" শেখার পদ্ধতিগুলি কেন উত্সাহিত করবেন না?) দুর্বল শিক্ষার্থীদের জন্য (উদাহরণস্বরূপ অন্যান্য সমস্ত পোষাকের প্যারামিটারগুলি স্থির রেখে) কোনও ধরণের "অনুকূল" শক্তি আছে …

22 machine-learning  boosting  ensemble