স্কোয়ার বায়াস এবং ভেরিয়েন্সের ওজনফলকে ন্যূনতম করে তোলে এমন একটি অনুমানকারী কীভাবে সিদ্ধান্তের তত্ত্বের সাথে ফিট করে?

ঠিক আছে - আমার মূল বার্তাটি কোনও প্রতিক্রিয়া প্রকাশ করতে ব্যর্থ হয়েছে; সুতরাং, আমাকে প্রশ্নটি অন্যভাবে রাখি। আমি সিদ্ধান্তের তাত্ত্বিক দৃষ্টিকোণ থেকে আমার অনুমানের বোঝার ব্যাখ্যা দিয়ে শুরু করব। আমার কোনও আনুষ্ঠানিক প্রশিক্ষণ নেই এবং আমার চিন্তাভাবনা যদি কোনওভাবে ত্রুটিযুক্ত হয় তবে তা আমাকে অবাক করে দেবে না।

ধরুন আমাদের কিছু ক্ষতি ফাংশন রয়েছে । প্রত্যাশিত ক্ষতি হ'ল (ঘনঘনবাদী) ঝুঁকি: $L(\theta,\hat\theta(x))$

R (θ, \hat{θ} (x)) = \int L (θ, \hat{θ} (x)) L (θ, \hat{θ} (x)) d x,

$R(\theta,\hat\theta(x))=\int L(\theta,\hat\theta(x))\mathcal{L}(\theta,\hat\theta(x))dx,$

যেখানে সম্ভাবনা; এবং বেয়েসের ঝুঁকি হ'ল প্রত্যাশিত ঘন ঘন ঘন ঝুঁকি: $\mathcal{L}(\theta,\hat\theta(x))$

r (θ, \hat{θ} (x)) = \int \int R (θ, \hat{θ} (x)) π (θ) d x d θ,

$r(\theta,\hat\theta(x))=\int\int R(\theta,\hat\theta(x))\pi (\theta)dxd\theta,$

যেখানে আমাদের পূর্ববর্তী। $\pi (\theta)$

সাধারণভাবে, আমরা এমন পাই যা হ্রাস করে এবং সমস্ত সুন্দরভাবে কার্যকর হয়; তদুপরি ফুবিনির উপপাদ্য প্রযোজ্য এবং আমরা সংহতকরণের ক্রমটি বিপরীত করতে পারি যাতে প্রদত্ত কোনও কে ন্যূনতম করে অন্য সকলের থেকে স্বতন্ত্র। এইভাবে সম্ভাবনার নীতি লঙ্ঘন করা হয়নি এবং আমরা বায়সিয়ান এবং আরও অনেক কিছু সম্পর্কে ভাল অনুভব করতে পারি। $\hat\theta(x)$ $r$ $\hat\theta(x)$ $r$

উদাহরণস্বরূপ, পরিচিত স্কোয়ার ত্রুটির ক্ষতি, প্রদত্ত আমাদের ঘন ঘন ঝুঁকি হ'ল গড় স্কোয়ার ত্রুটি বা যোগফল স্কোয়ারড পক্ষপাত এবং বৈকল্পিকতা এবং আমাদের বয়েসের ঝুঁকি হ'ল আমাদের পূর্বে প্রদত্ত বর্গক্ষেত্রের পক্ষপাত এবং বৈচিত্রের প্রত্যাশিত যোগ - যেমন, একটি উত্তরোত্তর প্রত্যাশিত ক্ষয়ক্ষতি। $L(\theta,\hat\theta(x))=(\theta- \hat\theta(x))^2,$

এটি এখনও পর্যন্ত আমার কাছে বোধগম্য মনে হয় (যদিও আমি বেশ ভুল হতে পারি); তবে, যাই হোক না কেন, জিনিসগুলি আমার কাছে অন্য কিছু উদ্দেশ্যে খুব কম বোঝায়। উদাহরণস্বরূপ, ধরুন যে সমান-ওজনযুক্ত বর্গক্ষেত্রের পক্ষপাত এবং বৈচিত্রের যোগফলকে কমিয়ে আনার পরিবর্তে আমি একটি অসম-ওজনযুক্ত যোগফলকে হ্রাস করতে চাই - অর্থাৎ, আমি যা ন্যূনতম করতে চাই: $\hat\theta(x)$

(E [\hat{θ} (x)] - θ)^{2} + k E [(\hat{θ} (x) - E [\hat{θ} (x)])^{2}],

$(\mathbb{E}[\hat\theta(x)]-\theta)^2+k\mathbb{E}[(\hat\theta(x)-\mathbb{E}[\hat\theta(x)])^2],$

যেখানে কিছু ধনাত্মক বাস্তব ধ্রুবক (1 ব্যতীত)। $k$

আমি সাধারণত "অবজেক্ট ফাংশন" হিসাবে এর মতো একটি যোগফল উল্লেখ করি যদিও এটি হতে পারে যে আমি সেই শব্দটি ভুলভাবে ব্যবহার করছি। আমার প্রশ্নটি কীভাবে সমাধানটি সন্ধান করতে হবে তা নয় - এই উদ্দেশ্য ফাংশনটি ন্যূনতম করে এমন - বরং আমার প্রশ্নটি দ্বিগুণ: $\hat\theta(x)$

সিদ্ধান্তের তত্ত্বের দৃষ্টান্তের মধ্যে কি এই ধরনের উদ্দেশ্যমূলক কাজ করা যায়? যদি তা না হয় তবে এটির সাথে খাপ খায় এমন আরও একটি কাঠামো আছে কি? যদি হ্যাঁ, কিভাবে? দেখে মনে হচ্ছে সম্পর্কিত ক্ষতি সম্পর্কিত ফাংশনটি , , এবং ফাংশন হবে , যা - প্রত্যাশার কারণে - আমি মনে করি) সঠিক না। $\theta$ $\hat\theta(x)$ $\mathbb{E}[\hat\theta(x)]$
এই জাতীয় উদ্দেশ্য ফাংশন সম্ভাবনার নীতি লঙ্ঘন করে কারণ প্রদত্ত যে কোনও অনুমান অন্যান্য অনুমানের উপর নির্ভর করে (এমনকি অনুমানমূলকও)। তবুও, এমন কিছু অনুষ্ঠান রয়েছে যখন পক্ষপাতিত্ব হ্রাসের জন্য ত্রুটি বৈকল্পিক বৃদ্ধির জন্য ট্রেড করা আকাঙ্খিত। এই জাতীয় লক্ষ্য হিসাবে দেওয়া হয়েছে, সমস্যাটি ধারণার মতো উপায় আছে যা এটি সম্ভাবনার নীতিটিকে মেনে চলে? $\hat\theta(x_{j})$ $\hat\theta(x_{i\neq j})$

আমি ধরে নিচ্ছি যে আমি সিদ্ধান্ত তত্ত্ব / অনুমান / অপ্টিমাইজেশন সম্পর্কে কিছু মৌলিক ধারণা বুঝতে ব্যর্থ হয়েছি। কোনও উত্তরের জন্য অগ্রিম ধন্যবাদ এবং অনুগ্রহ করে ধরে নিন যে আমি সাধারণত কিছুই জানি না কারণ এই অঞ্চল বা গণিতে আমার সাধারণত কোন প্রশিক্ষণ নেই। অধিকন্তু, প্রস্তাবিত কোনও রেফারেন্স (নিষ্পাপ পাঠকদের জন্য) প্রশংসা করা হয়।

— user153935
সূত্র

এটি মোটামুটি আকর্ষণীয় এবং অভিনব প্রশ্ন! একটি আনুষ্ঠানিক স্তরে, ঘন ঘন ঝুঁকিপূর্ণ ফাংশন অর্থ হিসাবে সংজ্ঞায়িত ক্ষতি ফাংশন থেকে ক্ষতির ক্রিয়াকলাপে উপস্থিত হওয়ার জন্য মতো প্রত্যাশা নিষিদ্ধ করার কোনও কারণ নেই । তারা এর সম্পূর্ণ বিতরণের উপর নির্ভর করে এমন একটি বৈশিষ্ট্য যা অদ্ভুত বলে মনে হতে পারে তবে পুরো বিতরণটি একটি ফাংশন হিসাবে সেট করা হয়েছে এবং ফলস্বরূপ ক্ষতিটি এইভাবে একটি কার্যকারিতা হিসাবে কাজ করে

(E_{θ} [\hat{θ} (X)] - θ)^{2} + k E_{θ} [(\hat{θ} (X) - E [\hat{θ} (X)])^{2}],

$(\mathbb{E}_\theta[\hat\theta(X)]-\theta)^2+k\mathbb{E}_\theta[(\hat\theta(X)-\mathbb{E}[\hat\theta(X)])^2],$

L (θ, \hat{θ}) = (E_{θ} [\hat{θ} (X)] - θ)^{2} + k (\hat{θ} - E_{θ} [\hat{θ} (X)])^{2}

$L(\theta,\hat{\theta})=(\mathbb{E}_\theta[\hat\theta(X)]-\theta)^2+k(\hat\theta-\mathbb{E}_\theta[\hat\theta(X)])^2$

E_{θ} [\hat{θ} (X)]

$\mathbb{E}_\theta[\hat\theta(X)]$

\hat{θ} (X)

$\hat{\theta}(X)$

θ

$\theta$

θ

$\theta$ , এবং বিতরণ ।

\hat{θ}

$\hat{\theta}$

\hat{θ} (X)

$\hat{\theta}(X)$

আমি আপত্তিটি পুরোপুরিভাবে পূর্বাভাস করতে পারি যে ক্ষতির ফাংশন নীতিগতভাবে প্রকৃতির একটি অবস্থার একটি কাজ, এবং একটি ক্রিয়াকলাপ , উদাহরণস্বরূপ প্যারামিটার স্পেসে সংঘটিত হচ্ছে , অতএব যাইহোক কোনও বিতরণীয় অনুমান জড়িত। যা গেমের তত্ত্বের দৃষ্টিকোণ থেকে সঠিক। তবে প্রদত্ত যে এটি পরিসংখ্যানগত সিদ্ধান্ত তত্ত্ব, যেখানে একটি সিদ্ধান্ত একটি এলোমেলো পরিবর্তনশীল পর্যবেক্ষণ উপর নির্ভর করবে , আমি কোনও কারণ দেখতে পাচ্ছি না যেখানে সাধারণীকরণ যেখানে ক্ষতির ক্রিয়াটি বিতরণের উপর নির্ভর করে , ta থিতা দ্বারা $L(\theta,\delta)$ $\theta$ $\delta$ $\Theta$ $\delta$ $x$ $X$ $X$ $\theta$ , বিবেচনা করা যায়নি। এটি সম্ভাবনামত নীতি লঙ্ঘন করতে পারে তা সিদ্ধান্তের তত্ত্বের জন্য সরাসরি উদ্বেগের বিষয় নয় এবং বায়েসের প্রাক্কলনকারীকে আনুষ্ঠানিকভাবে প্রাপ্তি রোধ করে না।

— সিয়ান
সূত্র