পক্ষপাতদুষ্ট সর্বোচ্চ সম্ভাবনা অনুমানের পিছনে স্বজ্ঞাত যুক্তি

Question

পক্ষপাতদুষ্ট সর্বাধিক সম্ভাবনা (এমএল) অনুমানকারী সম্পর্কে আমার একটি বিভ্রান্তি রয়েছে । পুরো ধারণার গণিতটি আমার কাছে বেশ স্পষ্ট তবে আমি এর পিছনে স্বজ্ঞাত যুক্তিটি বের করতে পারি না।

একটি নির্দিষ্ট ডেটাসেট দেওয়া হয়েছে যার একটি ডিস্ট্রিবিউশন থেকে নমুনা রয়েছে, যা নিজেই আমরা অনুমান করতে চাই যে একটি প্যারামিটারের ফাংশন, এমএল অনুমানকারী প্যারামিটারটির মান হিসাবে ফলাফল করে যা সম্ভবত ডেটাসেট তৈরি করে।

আমি কোনও পক্ষপাতদুষ্ট এমএল অনুমানকারীটিকে এই অর্থে বুঝতে পারি না: প্যারামিটারের সর্বাধিক মানটি কী কোনও ভুল মূল্যের প্রতি পক্ষপাত রেখে প্যারামিটারের আসল মানটিকে পূর্বাভাস দিতে পারে?

Comments

সাধারণ

— লোকের

আমি মনে করি যে এখানে পক্ষপাতিত্বের উপর দৃষ্টি নিবদ্ধ করা এই প্রশ্নটিকে প্রস্তাবিত সদৃশ থেকে আলাদা করতে পারে, যদিও তারা অবশ্যই খুব ঘনিষ্ঠভাবে সম্পর্কিত are

— সিলভারফিশ

Answer 1

এমএল অনুমানক ফলাফলটির প্যারামিটারের মান হিসাবে ফলস্বরূপ যা ডেটাসেটে সবচেয়ে বেশি দেখা যায়।

অনুমানগুলি দেওয়া, এমএল অনুমানক হ'ল প্যারামিটারের মান যা ডেটা সেট তৈরির সর্বোত্তম সুযোগ পায়।

আমি অনুজ্ঞাপূর্ণভাবে কোনও পক্ষপাতদুষ্ট এমএল অনুমানকারীটিকে এই অর্থে বুঝতে পারি না যে "প্যারামিটারের সর্বাধিক মানটি কী কোনও ভুল মূল্যের প্রতি পক্ষপাত রেখে প্যারামিটারের আসল মানটির পূর্বাভাস দিতে পারে?"

বায়াস নমুনা বিতরণের প্রত্যাশা সম্পর্কে। "সম্ভবত ডেটা উত্পাদন করার সম্ভাবনা" নমুনা বিতরণের প্রত্যাশা সম্পর্কে নয়। কেন তারা এক সাথে যাওয়ার আশা করা হবে?

কীসের ভিত্তিতে এটি আশ্চর্যজনক যে তারা প্রয়োজনীয়ভাবে সামঞ্জস্য করে না?

আমি আপনাকে এমএলই এর কয়েকটি সাধারণ ক্ষেত্রে বিবেচনা করার পরামর্শ দিচ্ছি এবং বিবেচনা করব যে সেই বিশেষ ক্ষেত্রে কীভাবে পার্থক্য দেখা দেয়।

উদাহরণস্বরূপ, একটি ইউনিফর্মের পর্যবেক্ষণ বিবেচনা করুন । বৃহত্তম পর্যবেক্ষণটি (অগত্যা) প্যারামিটারের চেয়ে বড় নয়, সুতরাং প্যারামিটারটি সর্বনিম্ন বৃহত্তম পর্যবেক্ষণের মতো কমপক্ষে মান গ্রহণ করতে পারে।$(0,\theta)$

আপনি যখন সম্ভাবনা বিবেচনা করেন , তখন এটি (স্পষ্টতই) আরও বড় is সবচেয়ে বড় পর্যবেক্ষণের কাছে to সুতরাং এটি বৃহত্তম পর্যবেক্ষণে সর্বাধিক করা হয়েছে; এটি স্পষ্টতই অনুমান যা আপনার কাছে পাওয়া নমুনাটি পাওয়ার সম্ভাবনা সর্বাধিক করে :θ $\theta$$\theta$$\theta$

তবে অন্যদিকে এটি অবশ্যই পক্ষপাতদুষ্ট হতে হবে, যেহেতু বৃহত্তম পর্যবেক্ষণটি স্পষ্টতই (সম্ভাব্যতার সাথে 1) এর প্রকৃত মানের চেয়ে ছোট ; নমুনা দ্বারা ইতিমধ্যে না করা অন্য কোনও অনুমান অবশ্যই এর চেয়ে বড় হতে হবে এবং অবশ্যই (এই ক্ষেত্রে বেশ স্পষ্টতই) নমুনা তৈরির সম্ভাবনা কম হবে।$\theta$$\theta$

A থেকে বৃহত্তম পর্যবেক্ষণ প্রত্যাশা হয় , তাই unbias করার স্বাভাবিক ভাবেই এটা হল মূল্নির্ধারক যেমন নিতে : , যেখানে । বৃহত্তম পর্যবেক্ষণ।$U(0,\theta)$ θ θ =ঢ+ +$\frac{n}{n+1}$$\theta$এক্স(এন$\hat\theta=\frac{n+1}{n}X_{(n)}$$X_{(n)}$

এটি এমএলইয়ের ডানদিকে মিথ্যা এবং এর সম্ভাবনাও কম।

Comments

আপনার উত্তরের জন্য ধন্যবাদ. প্রথম অংশ সম্পর্কে, আমি নিজেকে ভুলভাবে প্রকাশ করেছি। আমি মূলত আপনি যা বলেছিলেন তা বোঝাতে চেয়েছি। দ্বিতীয় অংশে আপনার উত্তরের ভিত্তিতে, আমি কি এই সিদ্ধান্তে পৌঁছাতে পারি যে একই বিতরণ থেকে আঁকানো আরও একটি ডেটা দেওয়া হয়েছে, এমএল অনুমানকারীটি কি অন্যরকম পক্ষপাত? যেহেতু আপনি বলছেন যে এমএল অনুমানকারী হ'ল "সম্ভবত" ডেটা উত্পাদন করে। আমরা যদি ডেটা পরিবর্তন করি তবে অন্য কোনও অনুমানকারী সম্ভবত এটি উত্পাদন করতে পারে। এটা কি ঠিক?

— ssah

জনসংখ্যা বিতরণের ফর্মটি পরিবর্তন না হলে অনুমানকারী পরিবর্তন হবে না। অন্য কিছু অনুমান একটি ভিন্ন নমুনা নিয়ে উত্পাদিত হবে এবং এটি যে পরিমাণ পক্ষপাতদুষ্ট তা সাধারণত আলাদা হবে - পক্ষপাত সাধারণত নমুনার আকারের সাথে সম্পর্কিত, যদিও জনসংখ্যা একই থাকে। ... (সিটিডি)

— গ্লেন_বি-রাইনস্টেট মনিকা

(Ctd) ... $\quad$$m$$n$$\theta$

নিরপেক্ষ ও এমএল অনুমানকারীদের মধ্যে পার্থক্য দেখার জন্য ক্যানোনিকাল উদাহরণটির ভাল ব্যবহার।

— jwg

Answer 2

$\beta^{MLE}$$\beta$$\beta$$\beta^{MLE}$

এমএলই কেবল তাত্পর্যপূর্ণভাবে পক্ষপাতহীন, এবং প্রায়শই আপনি সীমাবদ্ধ নমুনায় আরও ভাল আচরণ করতে অনুমানকারীকে সামঞ্জস্য করতে পারেন। উদাহরণস্বরূপ, একটি এলোমেলো ভেরিয়েবলের ভেরিয়েন্সের এমএলই একটি উদাহরণ, যেখানে দ্বারা গুণিত হয়$\frac{N}{N-1}$

Comments

প্রথম অংশে ভুলের জন্য দুঃখিত। আমি এটি সম্পাদনা করে ঠিক করেছি। তবে এমএলই সম্পর্কে আপনি যা বলেছেন তা সম্পর্কে, অ্যাসিম্পটোটিক ক্ষেত্রে এটি কেন প্রথম স্থানে পক্ষপাতদুষ্ট হবে?

— ssah

"ভাল" নির্ভর করে আপনি যা দেখেন তার উপর; বেসেলের সংশোধন এটিকে পক্ষপাতহীন করে তোলে, তবে পক্ষপাতহীনতা স্বয়ংক্রিয়ভাবে "উন্নত" হয় না (এমএসই আরও খারাপ, উদাহরণস্বরূপ; কেন আমি ছোট এমএসইয়ের তুলনায় নিরপেক্ষতা পছন্দ করি?)। Unbiasedness ভালো হতে যুক্তি দেওয়া যেতে পারে, paribus ceteris , কিন্তু দুর্ভাগ্যবশত ceteris হবে না paribus ।

— গ্লেন_বি -রিনস্টেট মনিকা

আমার বোধগম্যতা ছিল যে এমএলই এবং ক্রেমার-রাও নিম্ন সীমান্তের মধ্যে সম্পর্কের মধ্য দিয়ে নিরপেক্ষ অনুমানককে সবচেয়ে ভাল পক্ষপাতহীন দেখানো যেতে পারে।

— দিমিত্রি ভি। মাস্টারভ 5'14

@ এসএসএ আমাকে বলা হয়েছে যে এটি সূত্রের সত্যিকারের পরিবর্তে আমরা নমুনা গড়টি ব্যবহার করছি। সত্যি কথা বলতে কি, আমি সত্যিই এই ব্যাখ্যাটি বিশেষভাবে স্বজ্ঞাত হিসাবে খুঁজে পাইনি, কারণ যদি এমএলই এর গড় অনুমানকারী পক্ষপাতহীন হয় তবে কেন এই ভুল হওয়া উচিত? আমি সাধারণত আমার সন্দেহগুলি সিমুলেশন দিয়ে বিশ্রামে রাখি।

— দিমিত্রি ভি। মাস্টারভ

Answer 3

আমার অন্তর্দৃষ্টি এখানে।

বায়াস একটি পরিমাপ নির্ভুলতা , কিন্তু এছাড়াও একটি ধারণা স্পষ্টতা ।

একটি আদর্শ বিশ্বে আমরা অনুমানটি পেতে চাই যা সঠিক এবং সঠিক উভয়ই অর্থাত্ সর্বদা ষাঁড়টির চোখে আঘাত করে। দুর্ভাগ্যক্রমে, আমাদের অসম্পূর্ণ বিশ্বে নির্ভুলতা এবং নির্ভুলতার ভারসাম্য বজায় রাখতে হবে। কখনও কখনও আমরা অনুভব করতে পারি যে আমরা আরও নির্ভুলতা পেতে কিছুটা যথার্থতা দিতে পারি: আমরা সর্বদা বাণিজ্য করি trade সুতরাং, একজন প্রাক্কলনকারী পক্ষপাতদুষ্ট হওয়ার অর্থ এই নয় যে এটি খারাপ: এটি আরও সুনির্দিষ্ট হতে পারে।