শি'আন যেমন বলেছেন, প্রশ্নটি মূল বিষয়, তবে আমি মনে করি যে তবুও কিছু লোক বায়সীয় দৃষ্টিভঙ্গি থেকে সর্বাধিক সম্ভাবনার অনুমানকে বিবেচনা করেছিল কারণ কিছু সাহিত্যে এবং ইন্টারনেটে প্রকাশিত একটি বিবৃতি বলে: " সর্বাধিক সম্ভাবনা প্রাক্কলনটি সমান হলে বায়েশিয়ান সর্বাধিক উত্তরোত্তর অনুমানের একটি বিশেষ অনুমান "
আমি বলব যে কোনও বায়সীয় দৃষ্টিকোণ থেকে সর্বাধিক সম্ভাবনার প্রাক্কলনকারী এবং এর অদম্য সম্পত্তিটি বোধগম্য হতে পারে তবে বায়সীয় তত্ত্বের অনুমানকারীদের ভূমিকা এবং অর্থ ঘনত্ববাদী তত্ত্ব থেকে খুব আলাদা। এবং এই নির্দিষ্ট অনুমানকারী সাধারণত একটি বায়সীয় দৃষ্টিকোণ থেকে খুব বুদ্ধিমান হয় না। কারণটা এখানে. সরলতার জন্য আমাকে এক-মাত্রিক পরামিতি এবং এক-এক রূপান্তর বিবেচনা করা উচিত।
সমস্ত দুটি মন্তব্য প্রথম:
জেনেরিক বহুগুণে বসবাসের পরিমাণ হিসাবে প্যারামিটারটি বিবেচনা করা কার্যকর হতে পারে, যার ভিত্তিতে আমরা বিভিন্ন সমন্বয় ব্যবস্থা বা পরিমাপের ইউনিট বেছে নিতে পারি। এই দৃষ্টিকোণ থেকে একটি পুনরূদ্ধারকরণ কেবল স্থানাঙ্কের পরিবর্তন a উদাহরণস্বরূপ, পানির ট্রিপল পয়েন্টের তাপমাত্রা একই হিসাবে আমরা এটি প্রকাশ করি কিনাT=273.16 (কে), t=0.01 (° সি), θ=32.01 (° এফ), বা η=5.61(একটি লোগারিথমিক স্কেল)। আমাদের সূচনাগুলি এবং সিদ্ধান্তগুলি পরিবর্তনগুলি সমন্বয় করার ক্ষেত্রে সম্মতিযুক্ত হওয়া উচিত। কিছু সমন্বিত সিস্টেম অন্যদের তুলনায় বেশি প্রাকৃতিক হতে পারে তবে অবশ্যই।
অবিচ্ছিন্ন পরিমাণের জন্য সম্ভাব্যতা সর্বদা এই জাতীয় পরিমাণের মানগুলির অন্তর (আরও সুনির্দিষ্টভাবে, সেটগুলি) উল্লেখ করে, কখনও কোনও নির্দিষ্ট মানগুলিতে নয়; যদিও একক ক্ষেত্রে আমরা উদাহরণস্বরূপ কেবলমাত্র একটি মান সমন্বিত সেটগুলি বিবেচনা করতে পারি। সম্ভাবনা-ঘনত্ব স্বরলিপিp(x)dx, রিমন-অবিচ্ছেদ্য স্টাইলে, আমাদের বলছেন যে
(ক) আমরা একটি সমন্বিত সিস্টেম বেছে নিয়েছিxপ্যারামিটারে বহুগুণে,
(খ) এই সমন্বয় ব্যবস্থাটি আমাদের সমান প্রস্থের অন্তরগুলির কথা বলতে দেয়,
(গ) সম্ভাবনাটি যে মানটি একটি ছোট ব্যবধানে থাকেΔx আনুমানিক হয় p(x)Δx, কোথায় xব্যবধানের মধ্যে একটি পয়েন্ট।
(বিকল্পভাবে আমরা বেস লেবেসগু পরিমাপের কথা বলতে পারিdx এবং সমান পরিমাপের অন্তর, তবে সারমর্মটি একই)
অতএব, "p(x1)>p(x2)"এর অর্থ এই নয় যে সম্ভাবনাটি x1 এর চেয়ে বড় x2, কিন্তু সম্ভাবনা যেx চারপাশে একটি ছোট ব্যবধানে থাকা x1এটি প্রায় সমান প্রস্থের বিরতিতে থাকা সম্ভাবনার চেয়ে বড়x2। এ জাতীয় বিবৃতি সমন্বয়-নির্ভর।
আসুন (ঘন ঘনবাদী) সর্বাধিক সম্ভাবনার দৃষ্টিভঙ্গি দেখুন
এই দৃষ্টিকোণ থেকে পরামিতি মানের সম্ভাবনার কথা বলছিxকেবল অর্থহীন is দাড়ি. আমরা সত্য প্যারামিটার মান এবং মানটি জানতে চাইx~ যা ডেটাতে সর্বোচ্চ সম্ভাবনা দেয় D স্বজ্ঞাতভাবে চিহ্ন থেকে খুব দূরে থাকা উচিত নয়:
x~:=argmaxxp(D∣x).(*)
এটি সর্বাধিক সম্ভাবনার অনুমানকারী।
এই অনুমানকারীটি বহুগুণে প্যারামিটারে একটি বিন্দু নির্বাচন করে এবং তাই কোনও স্থানাঙ্ক ব্যবস্থার উপর নির্ভর করে না। অন্যথায় স্থিতিযুক্ত: প্যারামিটারের বহুগুণে প্রতিটি পয়েন্ট একটি সংখ্যার সাথে সম্পর্কিত: ডেটার সম্ভাবনাD; আমরা সেই পয়েন্টটি বেছে নিচ্ছি যা সর্বাধিক সম্পর্কিত নম্বর রয়েছে has এই পছন্দটির জন্য কোনও সমন্বয় ব্যবস্থা বা বেস পরিমাপের প্রয়োজন হয় না। এই কারণেই এই অনুমানকটি প্যারামিটারাইজেশন ইনগ্রেন্টেট, এবং এই সম্পত্তিটি আমাদের জানায় যে এটি কোনও সম্ভাবনা নয় - পছন্দসই হিসাবে। যদি আমরা আরও জটিল প্যারামিটার ট্রান্সফর্মেশনগুলি বিবেচনা করি এবং শি'য়ান দ্বারা উল্লিখিত প্রোফাইল সম্ভাবনাটি এই দৃষ্টিকোণ থেকে সম্পূর্ণ উপলব্ধি করে তবে এই অদলবদলটি রয়ে গেছে।
আসুন বায়েসীয় দৃষ্টিকোণটি দেখুন
এই দৃষ্টিকোণ থেকে এটি সর্বদা অবিরত প্যারামিটারের সম্ভাবনার কথা বলতে বুদ্ধিমান হয়, যদি আমরা এটি সম্পর্কে অনিশ্চিত থাকি তবে ডেটা এবং অন্যান্য প্রমাণের শর্তাধীনD। আমরা এটি লিখি
p(x∣D)dx∝p(D∣x)p(x)dx.(**)
শুরুতে মন্তব্য করা হিসাবে, এই সম্ভাবনাটি একক পয়েন্ট নয়, বহুগুণে প্যারামিটারের অন্তরগুলিকে বোঝায়।
আদর্শভাবে আমাদের সম্পূর্ণ সম্ভাবনা বন্টন নির্দিষ্ট করে আমাদের অনিশ্চয়তার প্রতিবেদন করা উচিত p(x∣D)dxপরামিতি জন্য। সুতরাং বায়েশিয়ান দৃষ্টিকোণ থেকে অনুমানক ধারণাটি গৌণ।
এই ধারণাটি উপস্থিত হয় যখন আমাদের কিছু নির্দিষ্ট উদ্দেশ্যে বা কারণে পরামিতিটির বহুগুণে একটি পয়েন্ট বাছাই করতে হবে , যদিও সত্য পয়েন্টটি অজানা। এই পছন্দটি সিদ্ধান্ত তত্ত্বের ক্ষেত্র [1], এবং নির্বাচিত মানটি বায়েসিয়ান তত্ত্বের "অনুমানকারী" এর যথাযথ সংজ্ঞা। সিদ্ধান্ত তত্ত্ব বলে যে আমাদের প্রথমে একটি ইউটিলিটি ফাংশন প্রবর্তন করতে হবে (P0,P)↦G(P0;P) যা আমাদের জানায় যে পয়েন্টটি বাছাই করে আমরা কতটা লাভ করি P0 পরামিতি বহুগুণে যখন সত্য পয়েন্ট হয় P(বিকল্পভাবে, আমরা ক্ষতির ফাংশনটি হতাশাবোধে বলতে পারি)। এই ফাংশনটির প্রতিটি সমন্বয় ব্যবস্থায় আলাদা ভাব থাকবে, যেমন eg(x0,x)↦Gx(x0;x), এবং (y0,y)↦Gy(y0;y); যদি সমন্বিত রূপান্তর হয়y=f(x), দুটি এক্সপ্রেশন দ্বারা সম্পর্কিত হয় Gx(x0;x)=Gy[f(x0);f(x)] [2]।
আমাকে একবারে চাপ দিন যে আমরা যখন কোন চতুর্ভুজ ইউটিলিটি ফাংশনের কথা বলি, বলি, আমরা স্পষ্টভাবে একটি নির্দিষ্ট সমন্বয় ব্যবস্থা বেছে নিয়েছি, সাধারণত প্যারামিটারের জন্য একটি প্রাকৃতিক একটি one অন্য একটি সমন্বিত সিস্টেমে ইউটিলিটি ফাংশনের জন্য এক্সপ্রেশনটি সাধারণত চতুর্ভুজযুক্ত হবে না , তবে এটি প্যারামিটারের বহুগুণে একই ইউটিলিটি ফাংশন।
অনুমানকারী P^ একটি ইউটিলিটি ফাংশন সঙ্গে যুক্ত G আমাদের ডেটা প্রদত্ত প্রত্যাশিত ইউটিলিটিটি সর্বাধিক করে তোলে point D। একটি সমন্বিত সিস্টেমেxএটির সমন্বয় হ'ল
x^:=argmaxx0∫Gx(x0;x)p(x∣D)dx.(***)
এই সংজ্ঞা স্থানাঙ্ক পরিবর্তনগুলি থেকে পৃথক: নতুন স্থানাঙ্কে y=f(x) অনুমানের সমন্বয় হয় y^=f(x^)। এটি এর সমন্বয়-স্বাধীনতা থেকে অনুসরণ করেG এবং অবিচ্ছেদ্য।
আপনি দেখতে পাচ্ছেন যে এই ধরণের আক্রমণাত্মকতা বায়েশিয়ান অনুমানকারীদের অন্তর্নির্মিত সম্পত্তি।
এখন আমরা জিজ্ঞাসা করতে পারি: এমন কোনও ইউটিলিটি ফাংশন রয়েছে যা সর্বাধিক সম্ভাবনার সমান একটি অনুমানকারীকে নিয়ে যায়? যেহেতু সর্বাধিক সম্ভাবনার প্রাক্কলনকারী অচল, তাই এই জাতীয় কোনও কার্য উপস্থিত থাকতে পারে। এই দৃষ্টিকোণ থেকে, সর্বাধিক সম্ভাবনা বায়েসিয়ান দৃষ্টিকোণ থেকে আক্রমণাত্মক না হলে বোকামি হবে!
একটি ইউটিলিটি ফাংশন যা একটি নির্দিষ্ট সমন্বিত সিস্টেমে x একটি ডিরাক ডেল্টার সমান, Gx(x0;x)=δ(x0−x), কাজটি মনে হচ্ছে [3]। সমীকরণ(***) উৎপাদনের x^=argmaxxp(x∣D), এবং যদি পূর্বে (**) স্থানাঙ্কে অভিন্ন x, আমরা সর্বাধিক সম্ভাবনার অনুমান পাই obtain (*)। বিকল্পভাবে আমরা ক্রমবর্ধমান ছোট সমর্থন সহ ইউটিলিটি ফাংশনের একটি ক্রম বিবেচনা করতে পারি, যেমনGx(x0;x)=1 যদি |x0−x|<ϵ এবং Gx(x0;x)=0 অন্য কোথাও, জন্য ϵ→0 [4]।
সুতরাং, হ্যাঁ, সর্বাধিক সম্ভাবনার অনুমানকারী এবং এর আক্রমণাত্মকতা বয়েসীয় দৃষ্টিকোণ থেকে বোঝা যায়, যদি আমরা গাণিতিকভাবে উদার হয়ে থাকি এবং সাধারণীকরণগুলি গ্রহণ করি। তবে একটি বায়সিয়ান দৃষ্টিকোণে একজন অনুমানকটির অর্থ, ভূমিকা এবং ব্যবহার একটি ঘনত্ববাদী দৃষ্টিকোণ থেকে সম্পূর্ণ পৃথক।
আমার আরও যোগ করা যাক যে উপরে বর্ণিত ইউটিলিটি ফাংশনটি গাণিতিক ধারণা তৈরি করেছে কিনা সে সম্পর্কে সাহিত্যে কিছু সংরক্ষণ আছে বলে মনে হয় [৫]। যাই হোক না কেন, এই জাতীয় ইউটিলিটি ফাংশনটির উপযোগিতা বরং সীমাবদ্ধ: জেনেস [৩] উল্লেখ করেছেন, এর অর্থ এই যে "আমরা ঠিক ঠিক হওয়ার সুযোগের বিষয়েই যত্নশীল; এবং, যদি আমরা ভুল হয়ে থাকি তবেও আমাদের যত্ন নেই don't আমরা কতটা ভুল "।
এখন বক্তব্যটি বিবেচনা করুন "সর্বাধিক সম্ভাবনা একটি ইউনিফর্ম পূর্ববর্তী সহ সর্বাধিক-এ-পোস্টেরিয়েরির একটি বিশেষ কেস"। স্থানাঙ্কগুলির একটি সাধারণ পরিবর্তনের অধীনে কী ঘটে তা লক্ষ করা গুরুত্বপূর্ণy=f(x):
1. উপরের ইউটিলিটি ফাংশনটি একটি পৃথক অভিব্যক্তি ধরে নিয়েছে,Gy(y0;y)=δ[f−1(y0)−f−1(y)]≡δ(y0−y)|f′[f−1(y0)]|;
স্থানাঙ্কের মধ্যে পূর্ব ঘনত্বy জ্যাকবীয় নির্ধারক কারণে অভিন্ন নয় ;
3. মূল্নির্ধারক অবর ঘনত্ব সর্বোচ্চ নয় মধ্যেyসমন্বয় করুন, কারণ ডায়ারাক ডেল্টা একটি অতিরিক্ত গুণক কারণ অর্জন করেছে;
4. নতুনটিতে সম্ভাব্যতার সর্বাধিক সম্ভাব্যতার দ্বারা অনুমানকটি এখনও দেওয়া হয়,yস্থানাঙ্ক।
এই পরিবর্তনগুলি একত্রিত হয় যাতে অনুমানের পয়েন্টটি এখনও প্যারামিটারের বহুগুণে একই থাকে।
সুতরাং, উপরোক্ত বিবৃতি সুস্পষ্টভাবে একটি বিশেষ সমন্বয় ব্যবস্থা ধরে নিচ্ছে। একটি অস্থায়ী, আরও সুস্পষ্ট বক্তব্যটি এটি হতে পারে: "সর্বাধিক সম্ভাবনার অনুমানক সংখ্যাটি বেইসিয়ান অনুমানকারীর সমান যে কোনও স্থানাঙ্ক ব্যবস্থায় একটি ব-দ্বীপ ইউটিলিটি ফাংশন এবং অভিন্ন পূর্ববর্তী রয়েছে"।
চূড়ান্ত মন্তব্য
উপরের আলোচনাটি অনানুষ্ঠানিক, তবে পরিমাপ তত্ত্ব এবং স্টিলিটজেস ইন্টিগ্রেশন ব্যবহার করে সুনির্দিষ্ট করা যেতে পারে।
বায়েসীয় সাহিত্যে আমরা অনুমানকারকের আরও অনানুষ্ঠানিক ধারণাটিও খুঁজে পেতে পারি: এটি এমন একটি সংখ্যা যা কোনওভাবে সম্ভাবনার বন্টনকে "সংক্ষিপ্তসার" করে, বিশেষত যখন সম্পূর্ণ ঘনত্ব নির্দিষ্ট করা অসুবিধে বা অসম্ভব p(x∣D)dx; উদাহরণস্বরূপ মারফি []] বা ম্যাককে []] দেখুন। এই ধারণাটি সাধারণত সিদ্ধান্ত তত্ত্ব থেকে পৃথক হয় এবং সুতরাং এটি সমন্বিত-নির্ভর হতে পারে বা স্বতঃস্ফূর্তভাবে একটি নির্দিষ্ট সমন্বয় ব্যবস্থা গ্রহণ করে। তবে অনুমানের সিদ্ধান্ত-তাত্ত্বিক সংজ্ঞায়, এমন কিছু যা অদম্য নয় তা অনুমানকারী হতে পারে না।
[1] উদাহরণস্বরূপ, এইচ। রাইফা, আর। শ্লেইফার: ফলিত পরিসংখ্যান সংক্রান্ত সিদ্ধান্ত তত্ত্ব (উইলি 2000)।
[২] ওয়াই চকোয়েট-ব্রুহ্যাট, সি। ডিউইট-মোরেটে, এম। ডিলার্ড-ব্লিক: বিশ্লেষণ, ম্যানিফোল্ডস এবং পদার্থবিজ্ঞান। প্রথম খণ্ড: বুনিয়াদি (এলসেভিয়ার 1996), বা ডিফারেনশিয়াল জ্যামিতির উপর অন্য কোনও ভাল বই।
[3] ইটি জেইনস: সম্ভাব্যতা তত্ত্ব: দ্য লজিক অফ সায়েন্স (কেমব্রিজ ইউনিভার্সিটি প্রেস 2003), §13.10।
[৪] জে.এম. বার্নার্ডো, এএফ স্মিথ: বেয়েসিয়ান থিওরি (উইলি 2000), §5.1.5।
[5] আইএইচ জেরেমিন: ম্যানিফোল্ডগুলিতে ইনভেআরেন্ট বায়েশিয়ান অনুমান https://doi.org/10.1214/009053604000001273 ; আর। বাসেট, জে ডেরাইড: বেয়েস অনুমানের সীমা হিসাবে সর্বাধিক পোস্টেরিয়েরি অনুমানকারী https://doi.org/10.1007/s10107-018-1241-0 ।
[]] কেপি মারফি: মেশিন লার্নিং: একটি সম্ভাব্য দৃষ্টিভঙ্গি (এমআইটি প্রেস 2012) বিশেষত অধ্যায়। ৫.
[]] ডিজেসি ম্যাককে: ইনফরমেশন থিওরি, ইনফারেন্সন এবং লার্নিং অ্যালগরিদম (কেমব্রিজ ইউনিভার্সিটি প্রেস 2003), http://www.inferences.phy.cam.ac.uk/mackay/itila/ ।