সর্বাধিক সম্ভাবনা কখন কাজ করে এবং কখন হয় না?

Question

আমি অঙ্কের তুলনায় উদাহরণস্বরূপ সর্বাধিক সম্ভাবনা পদ্ধতি সম্পর্কে বিভ্রান্ত

কখন এবং কেন সুনির্দিষ্ট সম্ভাবনা যেমন গাণিতিক মানে তুলনায় "আরও ভাল" অনুমান উত্পাদন করে? এটি কীভাবে যাচাইযোগ্য?

Comments

+1 কোনও পরিসংখ্যান প্রক্রিয়া জিজ্ঞাসা করার জন্য এটি একটি ভাল প্রশ্ন।

— হোবার

আমি মনে করি না এই প্রশ্নটি খুব অস্পষ্ট। অবশ্যই ওপি অস্পষ্ট, তবে সে কারণেই তারা জিজ্ঞাসা করছে। এমএলই এবং গাণিতিক মাধ্যমের প্রকৃতি সম্পর্কিত ইস্যুগুলি ভাল উত্তর সহ পরিষ্কার করা উচিত।

— গুং - মনিকা পুনরায়

"ভাল" বলতে কী বোঝ? এবং পাটিগণিত বলতে কেন একটি স্বেচ্ছাচারিত প্যারামিটারের ভাল অনুমানক হবে?

— শি'আন

প্রথমে "আরও ভাল" এর সংজ্ঞা নির্ধারণ করা ছাড়া কোনও ক্ষতি ফাংশন বা অনুমানকারীদের তুলনা করতে দেয় এমন কোনও অন্য মানদণ্ডের আগে প্রশ্নের উত্তর দেওয়া যাবে না। উদাহরণস্বরূপ, এমএলই দক্ষ, যার অর্থ ছোট অ্যাসিপটোটিক ভেরিয়েন্স (কিছু নিয়মিততার শর্তে) সহ কোনও অনুমানকারী নেই। এবং উদাহরণস্বরূপ, স্টেইন প্রভাব দ্বারা প্রদর্শিত হিসাবে এমএলই অগ্রহণযোগ্য হতে পারে , অর্থাত নমুনার বিতরণ এবং প্যারামিটারের মাত্রা সম্পর্কে কিছু সীমাবদ্ধতার অধীনে প্যারামিটারের সমস্ত মানের জন্য একটি ছোট চতুর্ভুজ ঝুঁকির সাথে অনুমানকারী রয়েছে।

— শি'আন

@ শিয়ান এটি উত্তরের ভিত্তির মতো মনে হচ্ছে।

— whuber

Answer 1

গাণিতিক মানে "প্রাকৃতিক" অনুমানক হিসাবে শোনাতে পারে, তবে কেউ এটি জিজ্ঞাসা করতে পারে কেন এটি এমএলইতে পছন্দ করা উচিত! পাটিগণিত গড়ের সাথে যুক্ত একমাত্র নিশ্চিত সম্পত্তি হ'ল এই প্রত্যাশাটি সংজ্ঞায়িত করা হলে এটি ই [ এক্স ] এর একটি নিরপেক্ষ অনুমানক । (কাউচির বন্টনকে একটি পাল্টা উদাহরণ হিসাবে মনে করুন)) পরবর্তীকালে সম্ভাব্যতার কার্যকারিতাটিতে নিয়মিততার শর্তে প্রকৃতপক্ষে বিস্তৃত বৈশিষ্ট্য উপভোগ করা হয়। উইকিপিডিয়া পৃষ্ঠা থেকে ধার নিতে , এমএলই হয়$\bar{x}$$\mathbb{E}[X]$

1. সঙ্গত
2. অ্যাসেম্পোটোটিক্যালি স্বাভাবিক
3. দক্ষ যে এটি ন্যূনতম অ্যাসিপটোটিক বৈকল্পিকতা অর্জন করে
4. দ্বিঘাতিক রূপান্তর অধীনে আক্রমণকারী
5. এমনকি প্যারামিটার সেট সীমিত প্যারামিটার সেট জন্য

পাটিগণিত গড়ের সাথে তুলনা করে, বেশিরভাগ এই সম্পত্তিগুলি নিয়মিত পর্যাপ্ত বিতরণের জন্যও সন্তুষ্ট। 4 এবং 5 ব্যতীত ক্ষতিকারক পরিবারগুলির ক্ষেত্রে, এমএলই এবং পাটিগণিত গড়টি গড় প্যারামিটারাইজেশন (তবে অন্যান্য প্যারামিটারাইজেশনের জন্য নয়) পরামিতিটি অনুমান করার জন্য সমান। এবং এমএলই কাচি বিতরণ থেকে প্রাপ্ত একটি নমুনার জন্য উপস্থিত রয়েছে।

$x\sim\mathcal{N}_p(\theta,I_p)$$p\ge 3$

Comments

শুধু ম্লে সম্পর্কে পরিষ্কার করার জন্য - তালিকাভুক্ত 5 টি সম্পত্তি সমস্তই জনসংখ্যার জন্য একটি অনুমিত মডেলের প্রসঙ্গে রয়েছে।

— সম্ভাব্যতাব্লোগিক

$n's$$n$$0$$2(p-2)\sigma^2/n$$p$$\sigma^2$

Answer 2

আসুন "গণিতের গড় গণনা" মথড অফ মমেন্টস (এমওএম) ব্যবহার করে অনুমান হিসাবে ব্যাখ্যা করি। আমি বিশ্বাস করি যে এটি মূল প্রশ্নের প্রতি বিশ্বস্ত যেহেতু পদ্ধতিটি তাত্ত্বিক বিষয়গুলির জন্য নমুনা গড়ের প্রতিস্থাপন করে। এটি একটি স্বেচ্ছাচারিত প্যারামিটার সম্পর্কে (স্বেচ্ছাসেবক মডেল থেকে) @ শি'ানের উদ্বেগকেও সম্বোধন করে।

আপনি যদি এখনও আমার সাথে থাকেন তবে আমি মনে করি যে আরও ভাল জায়গাটি হ'ল উদাহরণগুলি যেখানে ক্ষুদ্রতর নমুনাগুলিতে মুহুর্তের পদ্ধতি সর্বাধিক সম্ভাবনাটিকে হারাতে পারে?প্রশ্নের পাঠ্যটি উল্লেখ করে যে "সর্বাধিক সম্ভাবনার প্রাক্কলনকারী (এমএলই) তাত্পর্যপূর্ণভাবে দক্ষ; আমরা প্রায়শই মুহুর্তের পদ্ধতি (এমওএম) অনুমানের তুলনায় (যখন তারা পৃথক হয়) এর চেয়ে বেশি ভাল করে দেখি," এবং মোম অনুমানকারীরা নির্দিষ্ট ক্ষেত্রে অনুসন্ধান করেন এর এমএলই অংশের তুলনায় একটি ছোট গড় স্কোয়ার ত্রুটি অর্জন করুন। কয়েকটি প্রদত্ত উদাহরণ যেমন লিনিয়ার রিগ্রেশন, দ্বি-প্যারামিটার বিপরীত গাউসিয়ান বিতরণ এবং একটি অসমীয় ক্ষতিকারক শক্তি বিতরণ প্রসঙ্গে।

"অ্যাসিপটোটিক দক্ষতা" এর এই ধারণার অর্থ হল যে সর্বাধিক সম্ভাবনা অনুমানকারী সম্ভবত সম্পূর্ণরূপে সম্ভাব্য তথ্যের সাথে ডেটা ব্যবহার করতে পারে (প্রশ্নে প্যারামিটারটি অনুমান করতে), আপনি গ্যারান্টিটি সাধারণত মুহুর্তগুলির পদ্ধতিতে পাবেন না। যদিও গড়ের সাথে কাজ করার চেয়ে সর্বাধিক সম্ভাবনা সর্বদা "ভাল" হয় না, তবে এই দক্ষতার সম্পত্তিটি (কেবলমাত্র সীমাতে থাকলে) বেশিরভাগ ঘন ঘনবাদীদের জন্য এটি একটি চলার পদ্ধতিতে পরিণত করে। অবশ্যই, বিপরীতে তর্ক করতে পারে যে ডেটা সেটগুলির ক্রমবর্ধমান আকারের সাথে আপনি যদি গড় গড় কোনও ফাংশন সহ সঠিক লক্ষ্যে ইশারা করছেন তবে এটির সাথে যান।

Answer 3

বেশ কয়েকটি বিখ্যাত উদাহরণ রয়েছে যেখানে সর্বাধিক সম্ভাবনা (এমএল) সেরা সমাধান সরবরাহ করে না। লুসিয়ান লে ক্যামের 1990 এর কাগজটি দেখুন: "সর্বাধিক সম্ভাবনা: একটি পরিচিতি" [1] , যা ইউনিভের তাঁর আমন্ত্রিত বক্তৃতাগুলি থেকে। মেরিল্যান্ডের

আমি যে উদাহরণটি সবচেয়ে বেশি পছন্দ করি, কারণ এটি এত সোজা, এটি হ'ল:

$X_j$$Y_j$$j = 1,...,n$$X_j\sim N(\mu_j,\sigma^2)$$Y_j\sim N(\mu_j,\sigma^2)$$j$$X_j$$Y_j$$j$$\sigma^2$

আমি আপনাকে উত্তর দিয়ে মজা নষ্ট করব না, তবে (কোনও আশ্চর্য হবেন না) এমএল ব্যবহার করে এটি সমাধান করার দুটি উপায় আছে এবং তারা বিভিন্ন সমাধান দেয়। একটি হল বর্গাকার অবশিষ্টাংশের "পাটিগণিত গড়" (যেমনটি একজন আশা করবেন), এবং অন্যটি গাণিতিক গড়ের অর্ধেক। আপনি উত্তর জানতে পারেন এখানে আমার গিটহাব পৃষ্ঠাতে।