ত্রিভুজ বিতরণের জন্য এমএলই?

Question

ত্রিভুজ বিতরণে সাধারণ এমএলই প্রক্রিয়া প্রয়োগ করা কি সম্ভব? - আমি চেষ্টা করছি তবে বিতরণটি সংজ্ঞায়িত করার মাধ্যমে গণিতে আমি এক ধাপে বা অন্য এক ধাপে অবরুদ্ধ বলে মনে হচ্ছে। আমি এই সত্যটি ব্যবহার করার চেষ্টা করছি যে আমি সি এর উপরে এবং নীচে নমুনাগুলির সংখ্যা জানি (সি না জেনে): এই 2 নম্বরগুলি সিএন এবং (1-সি) এন, যদি এন হয় নমুনার মোট সংখ্যা। যাইহোক, এটি আবিষ্কারে সহায়তা করবে বলে মনে হয় না। মুহুর্তের মুহূর্তটি অনেক সমস্যা ছাড়াই সিটির জন্য একটি অনুমান দেয়। এখানে এমএলই-তে বাধার সঠিক প্রকৃতি কী (যদি সত্যই সেখানে থাকে)?

আরো বিস্তারিত:

এর বিবেচনা করা যাক মধ্যে ও বন্টন সংজ্ঞাসমূহ দ্বারা: [ 0 , 1 $c$$[0,1]$$[0,1]$

$f(x;c) = \frac{2x}{c}$ if x <c যদি c <= x
$f(x;c) = \frac{2(1-x)}{(1-c)}$

আসুন একটি নিতে নমুনা IID এই ডিস্ট্রিবিউশন থেকে গ এই নমুনা দেওয়া লগ-সম্ভাবনা গঠন:{ x আমি$n$$\{x_{i}\}$

$\hat{l}(c | \{x_{i}\}) = \sum_{i=1}^{n}ln(f(x_{i}|c))$

আমি তখন আসলে আকারে দেওয়া ব্যবহার করার চেষ্টা করছি , আমরা জানি যে নমুনা নিচে (অজানা) পড়া হবে , এবং উপরে পড়া হবে । আইএমএইচও, এটি লগ-সম্ভাবনার প্রকাশের মধ্যে এই সংমিশ্রণটিকে পচন করতে দেয়:সি এন সি ( 1 - সি ) এন $f$$cn$$c$$(1-c)n$$c$

$\hat{l}(c | \{x_{i}\}) = \sum_{i=1}^{cn}ln\frac{2 x_{i}}{c} + \sum_{i=1}^{(1-c)n}ln\frac{2(1-x_{i})}{1-c}$

এখানে, আমি কীভাবে এগিয়ে যাব সে সম্পর্কে আমি নিশ্চিত নই। MLE একটি অমৌলিক wrt গ্রহণ জড়িত হবে লগ-সম্ভাবনা, কিন্তু আমার আছে যেমন উপরের সমষ্টি, যা ব্লক বলে মনে হয় বাউন্ড। আমি সূচক ফাংশনগুলি ব্যবহার করে লগ-সম্ভাবনার অন্য কোনও রূপ দিয়ে চেষ্টা করতে পারি:$c$$c$

$\hat{l}(c | \{x_{i}\}) = \sum_{i=1}^{n}\{x_{i}<c\}ln\frac{2 x_{i}}{c} + \sum_{i=1}^{n}\{c<=x_{i}\}ln\frac{2(1-x_{i})}{1-c}$

তবে সূচকগুলি পাওয়া খুব সহজ বলে মনে হয় না, যদিও ডায়ারাক ডেল্টাস চালিয়ে যেতে পারত (এখনও সূচক থাকা অবস্থায়, যেহেতু আমাদের পণ্যগুলি অর্জন করতে হবে)।

সুতরাং, এখানে আমি এমএলই তে অবরুদ্ধ। কোন ধারণা?

Comments

এটি যদি কোনও বিষয়ের জন্য থাকে তবে দয়া করে স্ব-অধ্যয়নের ট্যাগ যুক্ত করুন। যদি তা না হয় তবে দয়া করে সমস্যাটি কীভাবে ঘটে তা ব্যাখ্যা করুন।

— গ্লেন_বি -রিনস্টেট মনিকা

আপডেটের জন্য ধন্যবাদ; উত্তরে বোধগম্য জিনিসগুলি বলা এটি সহজ করে তোলে, যেহেতু এটি মোকাবেলার ক্ষেত্রে মামলার পরিধি ব্যাপকভাবে হ্রাস করে। আপনি দয়া করে আমার আগের মন্তব্য বিবেচনা করতে পারেন? হয় এটি স্ব-অধ্যয়নের ট্যাগের আওতায় আসে বা এটি হয় না, উভয় ক্ষেত্রেই আমি জিজ্ঞাসা করেছি আপনি কিছু করবেন কিনা।

— গ্লেন_বি -রিনস্টেট মনিকা

এটি কোনও হোম ওয়ার্ক বা ক্লাসের জন্য নয়। এটা আমার কাজ এ উত্থাপিত। মুহুর্তগুলির পদ্ধতি থেকে আমাদের কাছে আরেকটি অনুমানকারী রয়েছে, তবে আমি এখানে এমএলইয়ের সাথে কী চলছে তার গভীরতর বোঝার চেষ্টা করছি।

— ফ্রাঙ্ক

ঠিক আছে; এটি আমাকে আরও অবকাশ দেয়। আমার আপডেট হওয়া উত্তরটি দেখুন। আমি সম্ভবত শীঘ্রই আরও সংযোজন করব

— Glen_b -Rininstate মনিকা

যোগ করা রেফারেন্স / লিঙ্কগুলি

— Glen_b -Rininstate মনিকা

Answer 1

ত্রিভুজ বিতরণে সাধারণ এমএলই প্রক্রিয়া প্রয়োগ করা কি সম্ভব?

নিশ্চয়ই! যদিও এর সাথে মোকাবিলা করার জন্য কিছু অদ্ভুততা রয়েছে তবে এই ক্ষেত্রে এমএলইগুলি গণনা করা সম্ভব।

তবে, যদি 'সাধারণ পদ্ধতি' দ্বারা আপনার বোঝানো হয় 'লগ-সম্ভাবনার ডেরিভেটিভস গ্রহণ করে এটি শূন্যের সমান' স্থাপন করে, তবে সম্ভবত না।

এখানে এমএলই-তে বাধার সঠিক প্রকৃতি কী (যদি সত্যই সেখানে থাকে)?

আপনি সম্ভাবনা আঁকার চেষ্টা করেছেন?

-

প্রশ্নের স্পষ্টতার পরে অনুসরণ:

সম্ভাবনা আঁকার বিষয়ে প্রশ্নটি নিষ্ক্রিয় ভাষ্য নয়, তবে ইস্যুটির কেন্দ্রবিন্দু ছিল।

এমএলই একটি ডেরাইভেটিভ গ্রহণ জড়িত হবে

নং এমিলি কোনও ফাংশনের আরগম্যাক্স সন্ধানের সাথে জড়িত। এর মধ্যে কেবলমাত্র কিছু শর্তে ডেরিভেটিভের শূন্যগুলি অনুসন্ধান করা জড়িত ... যা এখানে রাখা হয় না। সর্বোপরি, আপনি যদি এটি পরিচালনা করেন তবে আপনি কয়েকটি স্থানীয় মিনিমা সনাক্ত করতে পারবেন ।

আমার আগে প্রশ্ন প্রস্তাব হিসাবে, দেখুন সম্ভাবনা রয়েছে।

এখানে একটি নমুনা, এর 10 পর্যবেক্ষণ একটি ত্রিকোণ বন্টন থেকে (0,1):$y$

0.5067705 0.2345473 0.4121822 0.3780912 0.3085981 0.3867052 0.4177924
0.5009028 0.8420312 0.2588613

সেই ডেটাতে এর সম্ভাবনা এবং লগ-সম্ভাবনা কার্যকারিতা এখানে রয়েছে : $c$

ধূসর রেখাগুলি ডেটা মানগুলিকে চিহ্নিত করে (মানগুলি আরও ভালভাবে আলাদা করার জন্য আমার সম্ভবত একটি নতুন নমুনা তৈরি করা উচিত ছিল)। কালো বিন্দুগুলি সেই মানগুলির সম্ভাবনা / লগ-সম্ভাবনা চিহ্নিত করে।

আরও বিশদ দেখতে এখানে সর্বাধিক সম্ভাবনার কাছাকাছি একটি জুম রয়েছে:

আপনি সম্ভাবনা থেকে দেখতে পাচ্ছেন, অনেকগুলি অর্ডারের পরিসংখ্যানগুলিতে, সম্ভাবনা ফাংশনটির তীক্ষ্ণ 'কোণ' রয়েছে - পয়েন্টগুলি যেখানে ডেরাইভেটিভের অস্তিত্ব নেই (যা কোনও আশ্চর্য নয় - মূল পিডিএফের একটি কোণ রয়েছে এবং আমরা একটি গ্রহণ করছি পিডিএফএস এর পণ্য)। এটি (যে অর্ডারের পরিসংখ্যানগুলিতে কুসপ রয়েছে) ত্রিভুজাকৃতির বিতরণের ক্ষেত্রে এটি সর্বাধিক সর্বদা অর্ডার পরিসংখ্যানগুলির একটিতে ঘটে occurs (ক্রমের পরিসংখ্যানগুলিতে এই কুসপগুলি ত্রিভুজাকার বিতরণগুলির পক্ষে স্বতন্ত্র নয়; উদাহরণস্বরূপ ল্যাপ্লেস ঘনত্বের একটি কোণ রয়েছে এবং ফলস্বরূপ প্রতিটি কেন্দ্রের পরিসংখ্যানগুলিতে তার কেন্দ্রের সম্ভাবনা একটি থাকে))

এটি আমার নমুনায় যেমন ঘটে থাকে, সর্বাধিকটি চতুর্থ ক্রমের পরিসংখ্যান হিসাবে দেখা যায়, 0.3780912

সুতরাং এর এমএলই (0,1) সন্ধান করতে, প্রতিটি পর্যবেক্ষণে কেবল সম্ভাবনার সন্ধান করুন। সবচেয়ে বড় সম্ভাবনাটি হ'ল এর এমএলই ।$c$$c$

একটি দরকারী রেফারেন্স হ'ল জোহান ভ্যান ডর্প এবং স্যামুয়েল কোটজের " বিটা ছাড়িয়ে বেটা " এর প্রথম অধ্যায় । যেমনটি ঘটে, অধ্যায় 1 বইটির জন্য একটি বিনামূল্যে 'নমুনা' অধ্যায় - আপনি এটি এখানে ডাউনলোড করতে পারেন ।

ত্রিভুজাকার বিতরণ নিয়ে এডি অলিভারের একটি সুন্দর ছোট্ট কাগজ রয়েছে, আমি আমেরিকান স্ট্যাটিস্টিস্টিয়ান (যা মূলত একই পয়েন্টগুলি তোলে; আমার মনে হয় এটি একটি শিক্ষকের কর্নারে ছিল) in আমি যদি এটি সনাক্ত করতে পরিচালনা করতে পারি তবে আমি এটি একটি রেফারেন্স হিসাবে দেব।

সম্পাদনা করুন: এটি এখানে:

EH অলিভার (1972), একটি সর্বোচ্চ সম্ভাবনা অদ্ভুততা,
আমেরিকান পরিসংখ্যানবিদ , খণ্ড 26, ইস্যু 3, জুন, p43-44

(প্রকাশকের লিঙ্ক )

আপনি যদি সহজেই এটি ধরে রাখতে পারেন তবে এটি দেখার পক্ষে মূল্যবান তবে ডরপ এবং কোটজ অধ্যায়টি বেশিরভাগ প্রাসঙ্গিক বিষয়কে কভার করে তাই এটি গুরুত্বপূর্ণ নয়।

---

মন্তব্যে প্রশ্নে ফলোআপের মাধ্যমে - আপনি কোণগুলি 'স্মুথ অফ' করার উপায় খুঁজে পেয়েও, আপনি এখনও একাধিক স্থানীয় ম্যাক্সিমা পেতে পারেন যে বিষয়টি মোকাবেলা করতে হবে:

তবে, খুব সহজেই খুব ভাল বৈশিষ্ট্য রয়েছে এমন অনুমানকারীগুলি পাওয়া সম্ভব (মুহূর্তের পদ্ধতির চেয়ে ভাল), যা আপনি সহজে লিখে ফেলতে পারেন। তবে ত্রিভুজাকারে এমএল (0,1) কোডের কয়েকটি লাইন।

যদি এটি প্রচুর পরিমাণে ডেটা নিয়ে আসে তবে তাও মোকাবেলা করা যেতে পারে তবে এটি অন্য একটি প্রশ্ন হয়ে উঠবে বলে আমি মনে করি। উদাহরণস্বরূপ, প্রতিটি ডেটা পয়েন্ট সর্বাধিক হতে পারে না, যা কাজ হ্রাস করে এবং কিছু অন্যান্য সঞ্চয়ও করা যেতে পারে।

Comments

ধন্যবাদ - আমি আমার ব্যর্থ প্রচেষ্টা পোস্ট করার চেষ্টা করব, আমি ঠিক কোন বিতরণটি নিয়ে কথা বলছি এবং কোথায় আমার অবরুদ্ধ বলে মনে হচ্ছে তা দেখিয়েছি।

— ফ্রাঙ্ক

বিস্তারিত ব্যাখ্যার জন্য ধন্যবাদ! যদিও আমার আরও একটি ধারণা ছিল: ধরুন আমি এমন একটি ফাংশন সন্ধান করতে পারি যা ত্রিভুজ বিতরণে রূপান্তরিত করে, তবে টুকরোচকভাবে না হয় - আমি কি এটি ব্যবহার করে বিশ্লেষণাত্মকভাবে কোনও এমএলই অর্জন করতে পারি, তারপরে সীমাটি গ্রহণ করতে পারি এবং ধরে নিতে পারি যে আমার একটি এমএলই হবে ত্রিভুজ বিতরণ নিজেই?

— ফ্রাঙ্ক

সম্ভবত - আমি মনে করি যে এটি আপনি যে নির্দিষ্ট সীমাবদ্ধতা প্রক্রিয়া ব্যবহার করছেন তার উপর নির্ভর করে ... এবং আপনি সম্ভবত এখনও বেশ কয়েকটি স্থানীয় ম্যাক্সিমার সাথে সমাপ্ত হবেন সম্ভবত এটি আপনাকে কেবলমাত্র চূড়ান্ত আদেশের পরিসংখ্যানের নিকটবর্তী সম্ভাবনা মূল্যায়নের সাশ্রয় করে - তবে তা এমনকি যদি কাজ করেছেন, আপনি কেন এত জটিল কিছু করার চেষ্টা করবেন? ত্রিভুজাকার বিতরণে এমএল-এর কী সমস্যা? বাস্তবে এটি করা বেশ সহজ।

— গ্লেন_বি -রিনস্টেট মনিকা

আমার অবশ্যই বলতে হবে, অর্ডার পরিসংখ্যানের ভিত্তিতে সি এর জন্য এই এমএলই বেশ সুন্দর, যদিও উপরের অধ্যায়ে ডাইরিভেশনটি কিছু কাজ নেয় (যদিও খুব বেশি কঠিন নয়) - এমএলইয়ের মর্মার্থটি অর্গম্যাক্সে রয়েছে (অবশ্যই!), পরিবর্তনের পরিবর্তে (যেমন আপনি উল্লেখ করেছেন এবং আমি পুরোপুরি একমত, আমার কাছে "সাধারণ" ডেরিভেটিভ পদক্ষেপের প্রবাহে কাজ করার ঘটনা ঘটেছে (অর্থাত্ কেবল যেভাবেই সর্বাধিককরণের বিষয়ে উদ্বিগ্ন হন)) তবে আমি তা অনুসরণ করি নি)।

— ফ্রাঙ্ক

@ ফ্র্যাঙ্ক: একটি অতিরিক্ত রেফারেন্স হুয়াং এবং শেন (2007) আরও সর্বাধিক সম্ভাবনার বৈচিত্রতা , পরিসংখ্যান পরিকল্পনা এবং অনুমানের জার্নাল, খণ্ড 137, সংখ্যা 7, জুলাই, পিপি 2151-2155। গ্লেন: অর্ডার পরিসংখ্যান অনুসারে , আপনি কি অর্ডার করা মানগুলি ? $x_{i}$

— COOLSerdash