আমরা যখন কোনও জিএলএম ফিট করি তখন কেন আমরা ফিশার স্কোরিং ব্যবহারের বিষয়ে বড় ধরনের ঝগড়া করব?


18

আমি ফিরিটি জিএলএমএসকে কেন এমনভাবে ব্যবহার করি তা নিয়ে আমি কৌতূহলী, যদিও তারা কিছু বিশেষ অপ্টিমাইজেশান সমস্যা। তারা কি? আমার কাছে মনে হয় এগুলি কেবল সর্বাধিক সম্ভাবনা, এবং আমরা সম্ভাবনাটি লিখে রাখি এবং তারপরে ... আমরা এটি সর্বাধিকতর করি! তাহলে আমরা প্রয়োগিত গণিতের সাহিত্যে যে অপ্টিমাইজেশান স্কিমগুলি বিকাশ করা হয়েছে তার মধ্যে হাজার হাজারের পরিবর্তে ফিশার স্কোরিং কেন ব্যবহার করব?


যতদূর আমি বুঝতে পেরেছি যে এটি ফিশার স্কোরিং (যা প্রত্যাশিত হেসিয়ান ব্যবহার করে) এর ভিত্তিতে অ্যালগরিদমকে নিয়মিত নিউটন-রাফসন (যা পর্যবেক্ষণ করা হেসিয়ান ব্যবহার করে) এর বিপরীতে আপনার সহগের ভেক্টরের প্রারম্ভিক প্রাক্কলনগুলির প্রয়োজন হয় না, এটি করা উচিত না ... এটি ফিশারকে স্কোরিং ব্যবহার করা আরও সহজ করে তোলে। তবে কেউ কেউ আইআরএলএস দিয়ে শুরু করে নিউটন-রাফসনে স্যুইচ করে হাইব্রিড অ্যালগরিদম ব্যবহার করে। হার্ডিন ও হিল্বের বইয়ের ৩.৪ বিভাগটি দেখুন, Gen.lib.rus.ec/…
টম ভেনসিলিয়র

উত্তর:


13

ফিশারের স্কোরিং হ'ল নিউটনের পদ্ধতির একটি সংস্করণ যা জিএলএমগুলির সাথে সনাক্ত করা যায়, এটি সম্পর্কে বিশেষভাবে কিছুই নেই, তবুও ফিশারের তথ্য ম্যাট্রিক্সটি তাত্পর্যপূর্ণ পরিবারে র্যান্ডম ভেরিয়েবলগুলি খুঁজে পাওয়া সহজ বলে মনে হয়। এটি একই সাথে আরও অনেক গণিত-স্থিত উপাদানের সাথে যুক্ত হয় যা ফিশারের তথ্যের অর্থ কী তা সম্পর্কে একটি সুন্দর জ্যামিতিক অন্তর্দৃষ্টি দেয়।

আপনি যদি পছন্দ করেন তবে অন্য কোনও অপ্টিমাইজার ব্যবহার না করার কথা ভাবতে পারার একেবারেই কারণ নেই, এর আগে অন্য কোনও প্রাক-বিদ্যমান প্যাকেজটি ব্যবহার না করে আপনাকে নিজের হাতে কোডিং করতে হতে পারে। আমি সন্দেহ করি যে ফিশার স্কোরিংয়ের উপর যে কোনও জোর দেওয়া হয় তা (হ্রাস হ্রাসের ওজন অনুসারে) প্যাডোগলজি, সহজ-উপার্জন, historicalতিহাসিক পক্ষপাত এবং "এখানে আবিষ্কার হয়নি" সিন্ড্রোমের সংমিশ্রণ।


2
আমি এটি পুরোপুরি সঠিক বলে মনে করি না - আইআরএলএস অ্যালগোরিদম প্রত্যাশিত হেসিয়ান ব্যবহার করে, যেখানে নিউটন- রাফসন পর্যবেক্ষণ করা হেসিয়ান ব্যবহার করেছেন - 2 অ্যালগরিদমের বিশদ তুলনা করার জন্য জেন.লিব.রাস.সি. / দেখুন ...
টম Wenseleers

@ টমউইনসিলার্স আপনি কি উত্তর দিয়ে বিস্তারিত বর্ণনা করতে পারেন? এর অর্থ কি বিটা রিগ্রেশনের অ্যালগরিদমিক জটিলতা এটি GLMs থেকে পৃথক সমস্যা হিসাবে বিবেচনা করা হয় না?
29 এ ফ্রান্স রোডেনবার্গ

@ ফ্রানস রোডেনবার্গ বিটা রিগ্রেশন সম্পর্কে এতটা ভাল নয়, তবে আমি বিশ্বাস করি যে স্ট্যান্ডার্ড আইআরএলএস পদ্ধতিটি কেবলমাত্র ঘনিষ্ঠ পরিবার থেকে একক-প্যারামিটার বিতরণের জন্য কাজ করে, অন্যদিকে বিটা রিগ্রেশনটি 2-প্যারামিটারের তাত্পর্যপূর্ণ বিতরণ ... দেখুন stats.stackexchange.com/ প্রশ্নগুলি / 304538 /… কক্স আনুপাতিক বিপত্তি এবং নেতিবাচক দ্বিপদী এছাড়াও প্রতিটি অতিরিক্ত প্যারামিটার আছে এবং তারা একটি পরিবর্তিত IRLS আলগো ব্যবহার করে ফিট হতে পারে, তাই নিশ্চিত না ...
টম Wenseleers

প্রত্যাশিত হেসিয়ান বিটিডব্লিউর সাথে ফিশার স্কোরিং / আইআরএলএস ব্যবহারের অন্যান্য সুবিধাটি হ'ল আলগোটি আরম্ভ করা অনেক সহজ - হার্ডিন এবং হিল্বের বইয়ের অংশ 3.4 দেখুন। এটি নিউটন র‌্যাফসনের সাথে বিপরীতে যেখানে আপনার গুণাগুণ ভেক্টরের প্রাথমিক অনুমান করা দরকার যা কিছুটা কঠিন ... কখনও কখনও লোকেরা তখন হাইব্রিড অ্যালগরিদম ব্যবহার করে এবং আইআরএলএস দিয়ে ফিশার স্কোরিং শুরু করে এবং তারপরে কিছু পুনরাবৃত্তি নিয়মিত নিউটন র‌্যাফসনে স্যুইচ করে son ...
টম Wenseleers

9

এটি historicalতিহাসিক এবং বাস্তববাদী; নেল্ডার এবং ওয়েদারবার্ন রিভার্স-ইঞ্জিনিয়ারড জিএলএম, মডেলগুলির সেট হিসাবে যেখানে আপনি ফিশার স্কোরিং (অর্থাত্ Iteratively ReWightlight সর্বনিম্ন স্কোয়ারস) ব্যবহার করে MLE পেতে পারেন। কমপক্ষে সাধারণ ক্ষেত্রে, অ্যালগরিদম মডেলগুলির আগে উপস্থিত হয়েছিল।

এটি মনে রাখার মতোও যে, 70 এর দশকের গোড়ার দিকে আইডাব্লুএলএসই তারা যা উপলভ্য করেছিল, তাই জিএলএমগুলি জানার জন্য মডেলগুলির একটি গুরুত্বপূর্ণ শ্রেণি ছিল। আপনি নিউটন-টাইপ অ্যালগরিদমগুলি নির্ভরযোগ্যভাবে জিএলএম সম্ভাবনা বাড়িয়ে তুলতে পারবেন (এগুলির সাধারণত অনন্য এমএলই রয়েছে) এর অর্থ হ'ল জিএলআইএমের মতো প্রোগ্রামগুলি সংখ্যাগত অপ্টিমাইজেশনের দক্ষতা ছাড়াই তাদের ব্যবহার করতে পারে।


আমি এটি পুরোপুরি সঠিক বলে মনে করি না - আইআরএলএস অ্যালগোরিদম প্রত্যাশিত হেসিয়ান ব্যবহার করে, যেখানে নিউটন- রাফসন পর্যবেক্ষণ করা হেসিয়ান ব্যবহার করেছেন - 2 অ্যালগরিদমের বিশদ তুলনা করার জন্য জেন.লিব.রাস.সি. / দেখুন ...
টম Wenseleers
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.