মুহুর্তের পদ্ধতি কী এবং এটি এমএলই থেকে কীভাবে আলাদা?

Question

সাধারণভাবে মনে হয় মুহুর্তের পদ্ধতিটি কেবলমাত্র পর্যবেক্ষণকৃত নমুনার সাথে মেলে, বা প্যারামিটারের অনুমানের জন্য তাত্ত্বিক মুহুর্তগুলির বৈকল্পিক। এটি প্রায়শই ক্ষতিকারক পরিবারগুলির জন্য এমএলইয়ের সমান হয়, আমি সংগ্রহ করি।

তবে, মুহুর্তগুলির পদ্ধতির সুস্পষ্ট সংজ্ঞা এবং এমএলইকে কেন সাধারণত অনুগ্রহযোগ্য বলে মনে হচ্ছে তার একটি পরিষ্কার আলোচনা খুঁজে পাওয়া শক্ত, যদিও সম্ভাবনা কার্যকারিতাটির মোড খুঁজে পেতে এটি কৌশলযুক্ত হতে পারে।

এই প্রশ্নটি কি মোমেন্ট পদ্ধতির চেয়ে বেশি দক্ষ? অধ্যাপক ডোনাল্ড রুবিনের একটি বক্তব্য (হার্ভার্ডে) বলেছেন যে এমএলই মোমকে মারধর করে চল্লিশের দশক থেকে সবাই জানেন যে, তবে আমি এর ইতিহাস বা যুক্তি জানতে আগ্রহী হব।

Comments

এখানে এমএলই / এমওএম এর উপকারিতা

— জন

মুহুর্তগুলির পদ্ধতির আলোচনার পদ্ধতি সম্পর্কে সাইটের বেশ কয়েকটি উত্তর আপনাকে বুঝতে সহায়তা করার জন্য প্রাসঙ্গিক হতে পারে।

— গ্লেন_বি

আরও দেখুন stats.stackexchange.com/a/129188/28746

— Alecos Papadopoulos

@ জন: ডেড লিঙ্ক।

— বেন - মনিকা পুনরায়

Answer 1

মোমে, অনুমানকারীটি নির্বাচন করা হয় যাতে কোনও ফাংশনের শর্তের সমান প্রত্যাশা শূন্য থাকে। যেমন । প্রায়শই প্রত্যাশা x এর শর্তাধীন । সাধারণত, এটি একটি ওজন ম্যাট্রিক্স দিয়ে এই প্রত্যাশায় চতুর্ভুজ ফর্মকে হ্রাস করার সমস্যায় রূপান্তরিত হয়।$E[g(y,x,\theta)] = 0$$x$

এমএলইতে, অনুমানকারী লগ সম্ভাবনা ফাংশন সর্বাধিক করে তোলে।

বিস্তৃত সাধারণীকরণে, এমএলই কঠোর অনুমানগুলি (সম্পূর্ণ ঘনত্ব) তৈরি করে এবং এইভাবে অনুমানগুলি পূরণ করা হলে এটি সাধারণত কম শক্তিশালী তবে আরও কার্যকর (এটি ক্র্যামার রাওকে অ্যাসিপোটোটিক ভেরিয়েন্সের উপর ভিত্তি করে নিম্নতর অর্জন করে)।

কিছু ক্ষেত্রে দুটি মিল, ওএলএস একটি উল্লেখযোগ্য উদাহরণ যেখানে বিশ্লেষণাত্মক সমাধানটি অভিন্ন এবং সুতরাং অনুমানকারী একইরকম আচরণ করে।

কোনও অর্থে, আপনি একটি এমএলই (প্রায় সব ক্ষেত্রেই) একটি মোম অনুমানকারী হিসাবে ভাবতে পারেন কারণ অনুমানকারী লগ সম্ভাবনা ফাংশনের গ্রেডিয়েন্টের প্রত্যাশিত মানকে শূন্যের সমান করে। সেই অর্থে, এমন কিছু ক্ষেত্রে রয়েছে যেখানে ঘনত্বটি ভুল তবে এমএলই এখনও সামঞ্জস্যপূর্ণ কারণ প্রথম আদেশের শর্তটি এখনও সন্তুষ্ট। তারপরে এমএলই-কে "আধা-এমএল" হিসাবে উল্লেখ করা হয়।

Comments

সাধারণত, মোমগুলি সাথে কেসটি উল্লেখ করে যেখানে ফাংশন জি কিছু শক্তি তাই প্রত্যাশাটি একটি মুহুর্ত। এটি আরও বেশি "মুহুর্তগুলির সাধারণ পদ্ধতি" এর মতো দেখাচ্ছে।

— কেজেটিল বি হালওয়ারসেন

ওএলএস হ'ল মুহুর্তের অনুমানের একটি পদ্ধতি (এমওএমই) method এটি সর্বাধিক সম্ভাবনার প্রাক্কলনকারী (এমএলই), তবে কেবল সম্ভাবনার বিশেষ ক্ষেত্রে - সাধারণটি। অন্য বিতরণের জন্য, ওএলএস কোনও এমএলই হবে না, যদিও এটি এখনও একটি এমওএমই।

— রিচার্ড হার্ডি

Answer 2

মুহুর্তের পদ্ধতি কী?

উইকিপিডিয়ায় এটি সম্পর্কে একটি দুর্দান্ত নিবন্ধ রয়েছে।

https://en.m.wikipedia.org/wiki/Method_of_moments_(statistics)

এর অর্থ হ'ল আপনি জনসংখ্যার পরামিতিগুলি এমন পরামিতিগুলি বেছে নিয়ে অনুমান করছেন যে জনসংখ্যা বিতরণে এমন মুহুর্তগুলি রয়েছে যা নমুনায় পর্যবেক্ষণের মুহুর্তগুলির সমতুল্য।

এটি এমএলই থেকে আলাদা কীভাবে

সর্বাধিক সম্ভাবনার অনুমান সম্ভাবনা কার্যটি হ্রাস করে। কিছু ক্ষেত্রে এই সর্বনিম্নটি ​​কখনও কখনও নমুনার পরামিতির সমান জনসংখ্যার পরামিতিগুলি নির্ধারণের ক্ষেত্রে প্রকাশ করা যেতে পারে।

$\mu = \bar{x}$$\mu$

$$\mu = 1/n \sum ln (x_i) = \overline {ln (x)}$$

যদিও এমওএম সমাধানটি সমাধান করছে

$$exp (\mu + \frac {1}{2}\sigma^2) = \bar {x}$$ $$\mu = ln (\bar {x}) - \frac {1}{2} \sigma^2$$

---

এমওএম হ'ল প্যারামিটারগুলি অনুমান করার একটি ব্যবহারিক উপায়, যা প্রায়শই এমএলইর মতো একই ফলাফলের দিকে নিয়ে যায় (যেহেতু নমুনার মুহুর্তগুলি প্রায়শই জনসংখ্যার মুহুর্তের সাথে মিলে যায়, যেমন একটি নমুনা গড়টি জনসংখ্যার চারপাশে বিতরণ করা হয় মানে, এবং কিছু ফ্যাক্টর / পক্ষপাত, এটি খুব ভাল কাজ করে)। এমএলইর একটি শক্তিশালী তাত্ত্বিক ভিত্তি রয়েছে এবং উদাহরণস্বরূপ ফিশার ম্যাট্রিক্স (বা এর প্রাক্কলন) ব্যবহার করে ত্রুটিগুলি অনুমানের অনুমতি দেয় এবং এটি রিগ্রেশন সমস্যার ক্ষেত্রে অনেক বেশি প্রাকৃতিক পদ্ধতির (আমি এটি চেষ্টা করি নি তবে অনুমান করি) একটি সাধারণ লিনিয়ার রিগ্রেশন পরামিতিগুলি সমাধান করার জন্য একটি এমওএমসহজে কাজ করছে না এবং খারাপ ফল দিতে পারে। সুপারপ্রোনকারের উত্তরে মনে হয় এটি কোনও ফাংশনের কিছু ক্ষুদ্রায়নের দ্বারা সম্পন্ন হয়েছে। এমএলই-এর জন্য এই হ্রাসটি উচ্চতর সম্ভাবনা প্রকাশ করে তবে আমি বিস্মিত হই যে এটি এমওএমের জন্য এই জাতীয় কোনও প্রতিনিধিত্ব করে কিনা।

Answer 3

সৌরি, আমি অতীতের কোন মন্তব্য করতে পারি না ..

এমএলই কঠোর অনুমানগুলি করে (সম্পূর্ণ ঘনত্ব) এবং এইভাবে অনুমানগুলি পূরণ করা হয় তবে সাধারণত কম শক্তিশালী তবে আরও দক্ষ

আসলে এমআইটিএক্সে " স্ট্যাটিস্টিকালের ফান্ডামেন্টালস " এ আমাদের বিপরীতটি শেখানো হয়, এমওএম মুহূর্তগুলির নির্দিষ্ট সমীকরণের উপর নির্ভর করে এবং আমরা যদি ভুল ঘনত্বটি গ্রহণ করি তবে আমরা সম্পূর্ণরূপে ভুল করি, যদিও এমএলই আরও দৃili়তর হয়, যেমনটি আমরা সব ক্ষেত্রেই ক্ষুদ্রতর করি ize কেডি বিচ্যুতি ..

Comments

খ্যাতি অভাব একটি মন্তব্যের জন্য উত্তরের স্থান ব্যবহার করার জন্য বৈধ অজুহাত নয়।

— মাইকেল আর চেরনিক