ধারাবাহিক অনুমানকারকের সংজ্ঞাটি কেন এটি? ধারাবাহিকতার বিকল্প সংজ্ঞা সম্পর্কে কী?

উইকিপিডিয়া থেকে উদ্ধৃতি:

পরিসংখ্যানগুলিতে, একটি সামঞ্জস্যপূর্ণ অনুমানকারী বা অ্যাসিম্পটোটিক্যালি সুসংগত অনুমানক একটি অনুমানকারী — একটি পরামিতি estima হিসাবের হিসাবের গণনা করার নিয়ম used যেটি ব্যবহার করা ডেটার পয়েন্টের সংখ্যা অনির্দিষ্টকালের জন্য বৃদ্ধি পায়, ফলস্বরূপ অনুমানের ক্রমটি সম্ভাবনাতে রূপান্তরিত হয় । $θ^*$ $θ^*$

এই বিবৃতিটি সুনির্দিষ্ট করার জন্য let $\theta^*$ আপনি যে সত্যিকারের প্যারামিটারটি অনুমান করতে চান তার মান হয়ে এবং $\hat\theta(S_n)$ ডেটা ফাংশন হিসাবে এই পরামিতিটি অনুমান করার নিয়ম হতে দিন। তারপরে কোনও অনুমানকারীর ধারাবাহিকতার সংজ্ঞাটি নিম্নলিখিত উপায়ে প্রকাশ করা যেতে পারে:

lim_{n \to \infty} P r [| \hat{θ (S_{n}}) - θ^{*} | \geq ϵ] = 0

$\lim_{n \to \infty} Pr[|\hat{\theta(S_{n}}) - \theta^*|\geq \epsilon ]=0$

আমার প্রশ্নটি প্রথম দর্শনেই তুচ্ছ বলে মনে হচ্ছে তবে এটি হ'ল "ধারাবাহিকতা / ধারাবাহিক" শব্দটি কোনও অনুমানকারকের এই আচরণটি বর্ণনা করার জন্য কেন ব্যবহৃত হয়েছিল?

আমার যে কারণে এটি যত্নশীল তা হ'ল আমার কাছে, স্বজ্ঞাতভাবে, ধারাবাহিক শব্দের অর্থ অন্যরকম কিছু (বা কমপক্ষে এটি আমার কাছে আলাদা মনে হয়, সম্ভবত সেগুলি সমান দেখানো যেতে পারে)। এটি একটি উদাহরণের মাধ্যমে কী বোঝায় তা আমাকে বলি। "আপনি" ধারাবাহিকভাবে "ভাল" (ভাল কিছু সংজ্ঞা দেওয়ার জন্য) বলুন, তারপরে ধারাবাহিকতার অর্থ প্রতিবার যে আপনি যখন আমাকে ভাল বলে প্রমাণ করার / দেখানোর সুযোগ পান তখন আপনি সত্যই প্রমাণ করেন যে আপনি ভাল, প্রতিবারই (বা কমপক্ষে বেশিরভাগ সময়)

একটি অনুমানকারীর ধারাবাহিকতা সংজ্ঞায়িত করতে আমার স্বজ্ঞাততা প্রয়োগ করতে দিন। "আপনি" ফাংশন কম্পিউটিং $\hat{\theta}$ দিন এবং "ভাল" এর অর্থ আসল অনুমান $\theta^*$ (ভাল, $l_1$ আদর্শ অর্থে, কেন নয়) থেকে আপনি কতটা দূরে তারপরে ধারাবাহিকতার আরও ভাল সংজ্ঞাটি হ'ল:

\forall n, \forall S_{n}, P r [| \hat{θ (S_{n}}) - θ^{*} | \geq ϵ] < δ

$\forall n,\forall S_n, Pr[|\hat{\theta(S_{n}}) - \theta^*|\geq \epsilon ] < \delta$

যদিও এটি ধারাবাহিকতার কম দরকারী সংজ্ঞা হতে পারে, তবুও এটি যেভাবে আমি ধারাবাহিকতাটি সংজ্ঞায়িত করব সেভাবে এটি আমার কাছে আরও বেশি অর্থবোধ করে, কারণ যে কোনও প্রশিক্ষণ / নমুনা সেটগুলির জন্য আপনি আমার অনুমানকারী ta থিতায় ফেলে দেন , আমি এটি করতে সক্ষম হব ভাল কাজ, আমি ধারাবাহিকভাবে ভাল করব। আমি সচেতন, সকল এন (সম্ভবত অসম্ভব) এর জন্য এটি করা কিছুটা অবাস্তব, তবে আমরা এই সংজ্ঞাটি এই বলে সংশোধন করতে পারি: $\hat\theta$

\exists n_{0}, \forall n \geq n_{0}, \forall S_{n}, P r [| \hat{θ (S_{n}}) - θ^{*} | \geq ϵ] < δ

$\exists n_0, \forall n \geq n_0,\forall S_n, Pr[|\hat{\theta(S_{n}}) - \theta^*|\geq \epsilon ] < \delta$

অর্থাত যথেষ্ট বৃহৎ এন জন্য, আমাদের মূল্নির্ধারক খারাপ চেয়ে করব না (বেশী না অর্থাত চেয়ে "সত্য" থেকে দূরে) থেকে সত্য ( স্বজ্ঞা আপনি অন্তত প্রয়োজন ক্যাপচার করার চেষ্টা করছে কিছু শিখতে / অনুমান করার জন্য কয়েকটি সংখ্যক উদাহরণ, এবং একবার আপনি এই সংখ্যায় পৌঁছে গেলে আপনার অনুমানকারীটি বেশিরভাগ সময় ভালভাবে কাজ করতে পারে যদি আমরা এটি সংজ্ঞায়িত করার চেষ্টা করছি তার ধারাবাহিকতায়)। $\epsilon$ $\epsilon$ $\theta^*$ $n_0$

তবে পূর্ববর্তী সংজ্ঞাটি শক্তিশালী, সম্ভবত আমরা আকারের বেশিরভাগ প্রশিক্ষণের জন্য থেকে দূরে থাকার কম সম্ভাবনা থাকতে (যেমন সমস্ত , তবে শেষ বা এর মতো কিছু বিতরণ )। সুতরাং আমাদের কাছে থাকা বেশিরভাগ নমুনা / প্রশিক্ষণের জন্য খুব কমই আমাদের একটি উচ্চ ত্রুটি থাকবে। $\theta^*$ $n \geq n_0$ $S_n$ $S_n$

যাইহোক, আমার প্রশ্ন হ'ল "ধারাবাহিকতা" এর প্রস্তাবিত সংজ্ঞাগুলি কি আসলে ধারাবাহিকতার "অফিসিয়াল" সংজ্ঞা হিসাবে একই, তবে সমতা প্রমাণ করা কি শক্ত? প্রুফ জানা থাকলে শেয়ার করুন! বা আমার অন্তর্নিহিত সম্পূর্ণ বন্ধ আছে এবং এটি সাধারণত যেভাবে সংজ্ঞায়িত হয় তার সংজ্ঞা ধারাবাহিকতা বাছাই করার আরও গভীর কারণ আছে? ("অফিসিয়াল") ধারাবাহিকতাটি যেভাবে হয় তার সংজ্ঞা দেওয়া হয় কেন?

কিছুটা সমতুল্যতার জন্য আমার প্রার্থীর প্রমাণের কিছু ধারণা, বা আমার ধারাবাহিকতার ধারণার সাথে সামঞ্জস্যতার স্বীকৃত ধারণার মধ্যে মিল থাকতে পারে using একটি সীমা সংজ্ঞা। তবে, আমি কীভাবে এটি করব তা 100% নিশ্চিত ছিলাম না এবং চেষ্টা করেও, ধারাবাহিকতার আনুষ্ঠানিক সংজ্ঞাটি সমস্ত সম্ভাব্য প্রশিক্ষণ / নমুনা সেট সম্পর্কে কথা বলে বিবেচনা করে নি বলে মনে হয় না। যেহেতু আমি বিশ্বাস করি যে তারা সমতুল্য, আমি যে অফিশিয়াল সংজ্ঞাটি দিয়েছি তা কি অসম্পূর্ণ (যেমন এটি আমরা যে ডেটা সেটগুলি করতে পারতাম তা বা আমাদের নমুনা সেটগুলি উত্পন্ন করতে পারে এমন সমস্ত বিভিন্ন ডেটা সেট সম্পর্কে কেন কথা বলে না)? $(\epsilon, \delta)-$

আমার শেষ চিন্তার এক, কোন সংজ্ঞা যে আমরা সরবরাহ এছাড়াও যার সম্ভাব্যতা বিতরণের আমরা যে বিষয়ে কথা বলার জন্য সুনির্দিষ্ট wrt হওয়া উচিত, তা না হয় বা এটা । আমি মনে করি কোনও প্রার্থী যদি তার গ্যারান্টি দেয় তবে তা অবশ্যই নির্ভুল হওয়া উচিত, যদি এটি কোনও নির্দিষ্ট বন্টন বা প্রশিক্ষণের সেটগুলিতে সমস্ত সম্ভাব্য বিতরণে রাইটিংয়ের নিশ্চয়তা দেয় ... ঠিক? $P_x$ $P_{S_n}$

machine-learning mathematical-statistics consistency

— চার্লি পার্কার
সূত্র

(+1) সৃজনশীল চিন্তাভাবনা। আমাদের সাথে ভাগাভাগি করার জন্য ধন্যবাদ. আমি বিশ্বাস করি যে আমি এখানে উত্তর হিসাবে কিছু চিন্তা সরবরাহ করতে সক্ষম হব।

— অ্যালেকোস পাপাদোপল্লোস

প্রথম সংজ্ঞাটি খুব অল্প ব্যবহারের কারণ এটি সমস্ত অনুমানকারীকে অত্যন্ত নির্ভুল হওয়া প্রয়োজন। দ্বিতীয়টি কোনও অর্থবোধ করে না কারণ এটি একাধিক কোয়ান্টিফায়ার সহ একটি লজিকাল ভেরিয়েবল নিয়ন্ত্রণ করার চেষ্টা করে ।

n

$n$

— হোবার

ওপি কর্তৃক দ্বিতীয় অস্থায়ী বক্তব্যটি বিবেচনা করুন, কিছুটা সংশোধিত,

\begin{matrix} (1) & \forall θ \in Θ, ϵ > 0, δ > 0, S_{n}, \exists n_{0} (θ, ϵ, δ) : \forall n \geq n_{0}, P_{n} [| \hat{θ} (S_{n}) - θ^{*} | \geq ϵ] < δ \end{matrix}

$\forall \theta\in \Theta, \epsilon>0, \delta>0, S_n, \exists n_0(\theta, \epsilon, \delta): \forall n \geq n_0,\;\\P_n\big[|{\hat \theta(S_{n}}) - \theta^*|\geq \epsilon \big] < \delta \tag{1}$

আমরা আসল সংখ্যার অনুক্রম $[0,1]$

{P_{n} [| \hat{θ} (S_{n}) - θ^{*} | \geq ϵ]}

$\big\{ P_n\big[|{\hat\theta(S_{n}}) - \theta^*|\geq \epsilon \big]\big\}$

সূচিত । যদি এই অনুক্রমের হিসাবে সীমা থাকে তবে এটিকে কেবল , আমাদের এটি থাকবে $n$ $n\rightarrow \infty$ $p$

\begin{matrix} (2) & \forall θ \in Θ, ϵ > 0, δ > 0, S_{n}, \exists n_{0} (θ, ϵ, δ) : \forall n \geq n_{0}, | P_{n} [| \hat{θ (S_{n}}) - θ^{*} | \geq ϵ] - p | < δ \end{matrix}

$\forall \theta\in \Theta, \epsilon>0, \delta>0, S_n,\,\exists n_0(\theta, \epsilon, \delta): \forall n \geq n_0,\;\\\Big| P_n\big[|\hat{\theta(S_{n}}) - \theta^*|\geq \epsilon \big] -p\Big|< \delta \tag{2}$

সুতরাং আমরা যদি ধরে নিই (বা প্রয়োজনীয়) , আমরা মূলত ধরে নিই (বা প্রয়োজনীয়) যে হিসাবে সীমাটি বিদ্যমান এবং শূন্য, সমান । $(1)$ $n\rightarrow \infty$ $p=0$

সুতরাং সার্চ "সীমা যেমন হয় "। যা সামঞ্জস্যতার বর্তমান সংজ্ঞাটি (এবং হ্যাঁ, এটি "সমস্ত সম্ভাব্য নমুনাগুলি" জুড়ে) $(1)$ $P_n\big[|\hat{\theta(S_{n}}) - \theta^*|\geq \epsilon\big]$ $n\rightarrow \infty$ $0$

সুতরাং দেখা যাচ্ছে যে ওপি মূলত সমান সম্পত্তিটির জন্য বিকল্প ধারনার প্রস্তাব করেছিল, এবং অনুমানকারীটির আলাদা সম্পত্তি নয়।

যোগ করুন (ইতিহাসের অংশটি ভুলে গেছেন)

তাঁর "সম্ভাবনার তত্ত্বের ফাউন্ডেশনস" (1933) -তে কোলমোগোরভ একটি পাদটীকাতে উল্লেখ করেছেন যে (সম্ভাব্যতার রূপান্তর ধারণা)

"... এটি বার্নোলির কারণে; এর সম্পূর্ণ সাধারণ চিকিত্সা ইইএসলুস্কি দ্বারা প্রবর্তন করা হয়েছিল"।

(1925 সালে) স্লুটস্কির কাজ জার্মান ভাষায় রয়েছে - জার্মান শব্দটি ইংরেজিতে কীভাবে অনুবাদ করা হয়েছিল (বা বার্নোল্লি দ্বারা ব্যবহৃত শব্দটি) এমনকি এটি একটি সমস্যাও হতে পারে। তবে একটি শব্দে খুব বেশি পড়ার চেষ্টা করবেন না।

— আলেকোস পাপাদোপল্লোস
সূত্র