এইচএমএম ফিটিংয়ে এমএলই এবং বাউম ওয়েলেচের মধ্যে পার্থক্য

Question

ইন এই জনপ্রিয় প্রশ্ন , হাই সম্মত উত্তর নেই MLE এবং বাযুমের ওয়েলশ HMM ফিটিং পৃথক করে তোলে।

প্রশিক্ষণ সমস্যার জন্য আমরা নিম্নলিখিত 3 টি অ্যালগরিদম ব্যবহার করতে পারি: এমএলই (সর্বাধিক সম্ভাবনার প্রাক্কলন), ভিটার্বি প্রশিক্ষণ (ভিটারবি ডিকোডিংয়ের সাথে বিভ্রান্ত করবেন না), বাউম ওয়েলচ = ফরোয়ার্ড-পশ্চাদপদ অ্যালগরিদম

কিন্তু উইকিপিডিয়ায় , এটি বলে

পরামিতিগুলির সর্বাধিক সম্ভাবনা অনুমানের জন্য বাউম-ওয়েলচ অ্যালগরিদম সুপরিচিত EM অ্যালগরিদম ব্যবহার করে

সুতরাং, এমএলই এবং বাউম-ওয়েলচ অ্যালগরিদমের মধ্যে কী সম্পর্ক?

---

আমার প্রয়াস: বাউম-ওয়েলচ অ্যালগরিদমের উদ্দেশ্য হ'ল সর্বাধিক সম্ভাবনা, তবে এটি অপটিমাইজেশন সমাধানের জন্য একটি বিশেষায়িত অ্যালগরিদম (ইএম) ব্যবহার করে। আমরা এখনও গ্রেডিয়েন্ট শালীন হিসাবে অন্যান্য পদ্ধতি ব্যবহার করে সম্ভাবনা বাড়িয়ে তুলতে পারি। এই কারণেই উত্তর দুটি অ্যালগরিদম পৃথক করে make

আমি কি ঠিক আছি এবং কেউ আমাকে পরিষ্কার করতে সাহায্য করতে পারে?

Comments

এইচএমএম এর পরিসরে এমএলই একটি তদারকি করা দৃশ্যে এবং বাউম-ওয়েলচকে একটি নিরীক্ষণযোগ্য দৃশ্যে ব্যবহৃত হয়।

— ডেভিড বাতিস্তা

Answer 1

আপনার প্রদত্ত প্রশ্ন লিঙ্ক থেকে একটি উত্তর (মাস্টারফুল দ্বারা) দেখুন,

মোরাটের উত্তর এক পর্যায়ে মিথ্যা: বাউম-ওয়েলচ একটি প্রত্যাশা-ম্যাক্সিমাইজেশন অ্যালগরিদম, যা এইচএমএমের পরামিতিগুলি প্রশিক্ষণের জন্য ব্যবহৃত হয়। এটি প্রতিটি পুনরাবৃত্তির সময় ফরোয়ার্ড-ব্যাকওয়ার্ড অ্যালগরিদম ব্যবহার করে। ফরোয়ার্ড-ব্যাকওয়ার্ড অ্যালগরিদম সত্যিই কেবল সামনের ও পিছনের অ্যালগোরিদমের সংমিশ্রণ: একটি ফরোয়ার্ড পাস, একটি পশ্চাৎ পাস।

এবং আমি এখানে পিয়েরির জবাবের সাথে একমত, বাউম-ওয়েলচ অ্যালগরিদম এইচএইচএমের সর্বাধিক সম্ভাবনা সমাধানের জন্য ব্যবহৃত হয়। যদি রাজ্যগুলি পরিচিত হয় (তদারকি করা, লেবেলযুক্ত ক্রম), তবে এমএলই সর্বোচ্চকরণের অন্যান্য পদ্ধতি ব্যবহার করা হয় (সম্ভবত, প্রশিক্ষণের ডেটাতে পর্যবেক্ষণ করা প্রতিটি নির্গমন এবং সংক্রমণের ফ্রিকোয়েন্সি গণনা করুন, ফ্রাঙ্ক ডারনকোর্ট দ্বারা সরবরাহিত স্লাইডগুলি দেখুন )।

এইচএমএম-এর জন্য এমএলই-এর সেটিং-এ, আমি মনে করি না যে আপনি কেবল গ্রেডিয়েন্ট বংশদ্ভুত ব্যবহার করতে পারবেন, যেহেতু সম্ভাবনার (বা, লগ-সম্ভাবনা) কোনও বদ্ধ-ফর্ম সমাধান নেই এবং অবশ্যই অবশ্যই পুনরায় সমাধান করা উচিত, যেমনটির ক্ষেত্রে মিশ্রণ মডেল সুতরাং আমরা EM চালু। (বিশপ, প্যাটার্ন রিকগনিশন বই, অধ্যায়ে ১৩.২.১ Pg614 আরও বিশদ দেখুন)

Answer 2

সুতরাং, এমএলই এবং বাউম-ওয়েলচ অ্যালগরিদমের মধ্যে কী সম্পর্ক?

প্রত্যাশা সর্বাধিককরণ (ইএম) অ্যালগরিদম আরও সাধারণ এবং বাউম-ওয়েলচ অ্যালগরিদম কেবল এটির একটি ইনস্ট্যান্টেশন এবং ইএম সর্বাধিক সম্ভাবনার (এমএল) পুনরাবৃত্ত অ্যালগরিদম। তারপরে বাউম-ওয়েলচ অ্যালগরিদম সর্বোচ্চ সম্ভাবনার জন্য একটি পুনরাবৃত্ত অ্যালগরিদমও।

সর্বাধিক সম্ভাবনা অনুমানের জন্য সাধারণত তিনটি অপ্টিমাইজেশন অ্যালগরিদম রয়েছে (একটি ঘনঘনবাদী পদ্ধতির): 1) গ্রেডিয়েন্ট বংশদ্ভুত; 2) মার্কভ চেইন মন্টি কার্লো; 3) প্রত্যাশা সর্বাধিক।

Answer 3

এই প্রশ্নটি কয়েক মাস ধরে এখানে রয়েছে তবে এই উত্তরটি নতুন পাঠকদের সাহায্য করতে পারে, ডেভিড বাতিস্তার মন্তব্যের পরিপূরক হিসাবে।

যখন রাজ্যগুলি অজানা / লুকানো (নিরীক্ষণযোগ্য প্রশিক্ষণ) থাকে তখন আপনার এইচএমএম প্রশিক্ষণ দেওয়ার জন্য সর্বাধিক সম্ভাবনা অনুমান (এমএলই) সমাধান করার জন্য বাউল-ওয়েলচ অ্যালগরিদম (বিএম) একটি প্রত্যাশা সর্বাধিক আলগোরিদম।

তবে আপনি যদি রাজ্যগুলি জানেন তবে আপনি একটি তত্ত্বাবধানে ফ্যাশনের জোড় ডেটা / রাজ্যে আপনার মডেলটিকে ফিট করতে একটি এমএলই পদ্ধতি ব্যবহার করতে পারেন (যা বিএম হবে না)।