সম্ভাবনার সংজ্ঞা নিয়ে ফ্রিকোয়েনসিস্ট এবং বায়েসিয়ার মধ্যে কোনও পার্থক্য আছে কি?


21

কিছু সূত্র বলেছে যে সম্ভাবনা ফাংশন শর্তসাপেক্ষ সম্ভাবনা নয়, কেউ কেউ বলেন এটি এটি। এটি আমার কাছে খুব বিভ্রান্তিকর।

আমি দেখেছি বেশিরভাগ উত্স অনুসারে, প্যারামিটার সহ বিতরণের সম্ভাবনাটি নমুনাগুলি দেওয়া সম্ভাব্য ভর কার্যকারিতার একটি পণ্য হওয়া উচিত :n x iθnxi

L(θ)=L(x1,x2,...,xn;θ)=i=1np(xi;θ)

লজিস্টিক রিগ্রেশন-এর উদাহরণস্বরূপ, আমরা অনুকূল পরামিতিগুলি অর্জনের জন্য সম্ভাব্যতা ফাংশন (সর্বাধিক সম্ভাবনা প্রাক্কলন) সর্বাধিকতর করতে একটি অপ্টিমাইজেশন অ্যালগরিদম ব্যবহার করি এবং তাই চূড়ান্ত এলআর মডেল। প্রদত্ত প্রশিক্ষণ নমুনা, যা আমরা একে অপরের থেকে স্বাধীন হতে অনুমান, আমরা সম্ভাব্যতার পণ্য (বা যৌথ সম্ভাব্যতা ভর ফাংশন) সর্বাধিক চান। এটি আমার কাছে বেশ সুস্পষ্ট বলে মনে হয়।n

এর মধ্যে সম্পর্ক অনুসারে : সম্ভাবনা, শর্তাধীন সম্ভাবনা এবং ব্যর্থতার হার , "সম্ভাবনা কোনও সম্ভাবনা নয় এবং এটি শর্তাধীন সম্ভাবনাও নয়"। এটি আরও উল্লেখ করেছে, "সম্ভাবনাটি কেবলমাত্র বেইসিয়ান সম্ভাবনা সম্পর্কে বোঝার ক্ষেত্রে শর্তসাপেক্ষ সম্ভাবনা, অর্থাত্ যদি আপনি ধরে নেন যে একটি এলোমেলো পরিবর্তনশীল।"θ

ঘন ঘন এবং বায়েশিয়ানদের মধ্যে শেখার সমস্যাটির চিকিত্সার বিভিন্ন দৃষ্টিভঙ্গি সম্পর্কে আমি পড়েছি।

একটি উত্স অনুসারে, বায়সিয়ান অনুমানের জন্য, আমাদের কাছে একটি প্রাইরি , সম্ভাবনা এবং আমরা বয়েসীয় উপপাদ ব্যবহার করে উত্তর :পি ( এক্স | θ ) পি ( θ | এক্স )P(θ)P(X|θ)P(θ|X)

P(θ|X)=P(X|θ)×P(θ)P(X)

আমি বায়েশিয়ান ইনফারেন্সের সাথে পরিচিত নই। কীভাবে যা তার পরামিতি উপর শর্তাধীন পর্যবেক্ষিত তথ্য বিতরণের হয়, এছাড়াও সম্ভাবনা বলা হয়? ইন উইকিপিডিয়া , এটা বলছেন কখনও কখনও এটি লেখা হয় । এটার মানে কি?এল ( θ | এক্স ) = পি ( এক্স | θ )P(X|θ)L(θ|X)=p(X|θ)

ফ্রিকোয়ালিস্ট এবং বায়েশিয়ার সংজ্ঞার মধ্যে কোনও সম্ভাবনা আছে কি ??

ধন্যবাদ।


সম্পাদনা করুন:

বায়েসের উপপাদ্যকে ব্যাখ্যা করার বিভিন্ন উপায় রয়েছে - বায়েশিয়ান ব্যাখ্যা এবং ঘনঘনবাদী ব্যাখ্যা (দেখুন: বয়েসের উপপাদ্য - উইকিপিডিয়া )।


2
সম্ভাবনার দুটি প্রধান বৈশিষ্ট্য হ'ল (ক) এটি অন্য উপায়ের চেয়ে নির্দিষ্ট জন্য একটি ফাংশন এবং (খ) এটি কেবলমাত্র আনুপাতিকতার ইতিবাচক ধ্রুবক পর্যন্ত জানা যায়। এটা একটা সম্ভাবনা (শর্তাধীন বা অন্যভাবে), কারণ এটি সংহত সমষ্টি করার দরকার নেই বা না সর্বাঙ্গেএক্স 1 θθX1θ
হেনরি

উত্তর:


24

সংজ্ঞায় কোনও পার্থক্য নেই - উভয় ক্ষেত্রেই সম্ভাবনা ফাংশনটি প্যারামিটারের কোনও ফাংশন যা নমুনা ঘনত্বের সাথে সমানুপাতিক। কঠোরভাবে বলতে গেলে আমাদের প্রয়োজন হয় না যে সম্ভাবনা নমুনা ঘনত্বের সমান হয়; এটি কেবলমাত্র আনুপাতিক হওয়া দরকার, যা পরামিতিগুলির উপর নির্ভর করে না এমন বহুগুণিত অংশগুলি অপসারণের অনুমতি দেয়।

স্যাম্পলিংয়ের ঘনত্বটি প্যারামিটারের একটি নির্দিষ্ট মান হিসাবে শর্তাধীন তথ্যের ফাংশন হিসাবে ব্যাখ্যা করা হয়, সম্ভাব্যতা ফাংশনটি একটি নির্দিষ্ট ডেটা ভেক্টরের জন্য প্যারামিটারের একটি ফাংশন হিসাবে ব্যাখ্যা করা হয়। সুতরাং আইআইডি ডেটার মানক ক্ষেত্রে আপনার কাছে রয়েছে:

Lx(θ)i=1np(xi|θ).

বায়েশিয়ার পরিসংখ্যানগুলিতে আমরা সাধারণত বেয়েসের উপপাদ্যকে এর সহজতম রূপে প্রকাশ করি:

π(θ|x)π(θ)Lx(θ).

বয়েসের উপপাদ্যের জন্য এই অভিব্যক্তিটি জোর দিয়েছিল যে এর উভয় বহুমাত্রিক উপাদানগুলি প্যারামিটারের ফাংশন যা উত্তরোবস্থার ঘনত্বের আগ্রহের বিষয়। (এই আনুপাতিকতার ফলাফলটি পুরোপুরি নিয়মকে সংজ্ঞায়িত করে, যেহেতু উত্তরকেন্দ্রটি একটি ঘনত্ব, এবং তাই এখানে একটি অনন্য গুণমান ধ্রুবক রয়েছে যা একে একের সাথে সংহত করে তোলে)) আপনি আপনার আপডেটে উল্লেখ করেছেন যে, বায়েসিয়ান এবং ঘনতত্ববাদী দর্শনের বিভিন্ন ব্যাখ্যামূলক কাঠামো রয়েছে। ঘনঘনবাদী দৃষ্টান্তের মধ্যে প্যারামিটারটি সাধারণত "স্থির ধ্রুবক" হিসাবে বিবেচিত হয় এবং তাই এটি সম্ভাব্যতা পরিমাপ হিসাবে চিহ্নিত করা হয় না। অতএব ঘন ঘনবাদীরা প্যারামিটারে পূর্বের বা উত্তরোত্তর বিতরণের শিলালিপিটি প্রত্যাখ্যান করে (এই দার্শনিক এবং ব্যাখ্যামূলক পার্থক্য সম্পর্কে আরও আলোচনার জন্য, দেখুন, ও'নিল ২০০৯ )।


14

সম্ভাবনা ফাংশন থেকে স্বাধীনভাবে সংজ্ঞায়িত করা হয় বা পূর্বে পরিসংখ্যান দৃষ্টান্ত যে অনুমান জন্য ব্যবহার করা হয় একটি ফাংশন, যেমন (অথবা , প্যারামিটারের) , ফাংশন যা নির্ভর করে বা এর দ্বারা সূচিযুক্ত এই অনুমানের জন্য উপলব্ধ পর্যবেক্ষণ (গুলি) । এবং স্পষ্টভাবে ডেটাতে পরিবর্তনশীলতা বা এলোমেলোতা উপস্থাপন করতে বেছে নেওয়া সম্ভাব্যতা মডেলগুলির পরিবারের উপর নির্ভর করে। জোড়ার প্রদত্ত মানের জন্য, এই ফাংশনের মান এর মডেলের ঘনত্বের মানের সাথে একরকম- এল ( θ ; এক্স ) এল ( θ | এক্স ) θ - - এক্স ( θ , এক্স ) এক্স θL(θ;x)L(θ|x)θx(θ,x)xযখন প্যারামিটার । θযা প্রায়শই "তথ্যের সম্ভাব্যতা" হিসাবে অসচেতনভাবে অনুবাদ করা হয়।

এই ফোরামে পূর্বের উত্তরের চেয়ে আরও প্রামাণ্য ও historicalতিহাসিক উত্স উদ্ধৃত করতে ,

"আমরা পরিমানের পরিমানের সম্ভাবনা নিয়ে আলোচনা করতে পারি যা পর্যবেক্ষণ করা যায় ... এই অনুমানগুলি ব্যাখ্যা করার পরামর্শ দেওয়া যেতে পারে এমন কোনও অনুমানের সাথে সম্পর্কিত। আমরা অনুমানের সম্ভাবনা সম্পর্কে কিছুই জানতে পারি না। [আমরা] সম্ভাবনাটি নির্ধারণ করতে পারি অনুমানের ... গণনা দ্বারা পর্যবেক্ষণগুলি থেকে ... ... সম্ভাবনার কথা বলা ... একটি পর্যবেক্ষণযোগ্য পরিমাণের কোনও অর্থ নেই। " আরএ ফিশার, একটি ছোট নমুনা থেকে কেটে নেওয়া গুণগত সংখ্যার `। সম্ভাব্য ত্রুটি '' তেমেট্রোন 1, 1921, পৃষ্ঠা 25

এবং

"আমরা একটি নমুনা থেকে যা আবিষ্কার করতে পারি তা হ'ল আর এর কোনও নির্দিষ্ট মানের সম্ভাবনা, যদি আমরা সম্ভাবনার সমানুপাতিক পরিমাণ হিসাবে সম্ভাবনাটি সংজ্ঞায়িত করি যে, আর এর নির্দিষ্ট মান প্রাপ্ত একটি জনসংখ্যা থেকে, একটি নমুনা পর্যবেক্ষণ করা মান রয়েছে , পাওয়া উচিত। " আরএ ফিশার, একটি ছোট নমুনা থেকে কেটে নেওয়া গুণগত সংখ্যার `। সম্ভাব্য ত্রুটি '' তেমেট্রোন 1, 1921, p.24

যা জেফ্রি (এবং আমি) অতিমাত্রায় খুঁজে পেয়েছি এমন একটি আনুপাতিকতার উল্লেখ করে:

".. সম্ভাবনা, প্রফেসর আর এ ফিশার দ্বারা প্রবর্তিত একটি সুবিধাজনক শব্দ, যদিও তার ব্যবহারে এটি কখনও কখনও ধ্রুবক গুণ দ্বারা গুণিত হয়। মূল তথ্য এবং আলোচনার অধীনে অনুমান করা এই পর্যবেক্ষণগুলির সম্ভাবনা।" এইচ। জেফরিজ, থিওরি অফ প্রবিলিটি , 1939, পৃষ্ঠা ২২.2

জন অলডরিক (স্ট্যাটিস্টিকাল সায়েন্স, 1997) দ্বারা বিষয়টিতে দুর্দান্ত historicalতিহাসিক প্রবেশ থেকে একটি বাক্য উদ্ধৃত করা :

"ফিশার (1921, পি। 24) 1912 সালে তিনি উল্টো সম্ভাবনার বিষয়ে যা লিখেছিলেন তা পুনর্নির্মাণ করেছিলেন, সম্ভাবনার ঘনত্ব এবং সম্ভাবনার উপর সম্পাদিত গাণিতিক ক্রিয়াকলাপগুলির মধ্যে পার্থক্য: সম্ভাবনাটি কোনও 'ডিফারেনশনাল উপাদান নয়,'" এটি সংহত করা যায় না । " জে। অ্যালডরিচ, আরএ ফিশার এবং মেকিংয়ের সর্বোচ্চ সম্ভাবনা 1912 - 1922 , 1997 , পৃষ্ঠা 9

বায়সিয়ান পদ্ধতির অবলম্বন করার সময়, সম্ভাবনা কার্যটি আকার বা প্রকৃতিতে পরিবর্তিত হয় না। এটি দ্বারা এর ঘনত্ব হতে চলেছে । অতিরিক্ত বৈশিষ্ট্য যা, কারণ একটি সম্ভাব্য মডেল, পূর্বে বন্টন, এ ঘনত্ব সঙ্গে অন্বিত হয় দ্বারা সূচীবদ্ধ একটি হিসাবে ব্যাখ্যা করা যেতে পারে শর্তাধীন একটি আদায় উপর, ঘনত্ব শর্তসাপেক্ষ : একটি Bayesian মডেলিং , এক উপলব্ধি আগে, ঘনত্ব থেকে উত্পাদিত হয় , তারপর একটি আদায় ,θ θ x θ θ θ π ( )xθθxθθθπ()Xx, ঘনত্ব দিয়ে বিতরণ থেকে উত্পাদিত হয় , দ্বারা । অন্য কথায়, এবং যথাযথ প্রভাবশালী পরিমাপ থেকে সম্মান সঙ্গে জুটি যৌথ ঘনত্ব আছে যা থেকে এক আহরিত এর অবর ঘনত্ব , এটি হ'ল শর্তসাপেক্ষ ঘনত্ব , হিসাবে শর্তসাপেক্ষে এছাড়াও হিসাবে প্রকাশিত (১৯৯৯) থেকে পাওয়া যায় ।L(θ|)θ(θ,x)

π(θ)×L(θ|x)
θθx
π(θ|x)π(θ)×L(θ|x)
posteriorprior×likelihood

দ্রষ্টব্য: আমি ঘন ঘন এবং বায়েশিয়ান সম্ভাবনাগুলি বিভ্রান্তিকর এবং অপ্রয়োজনীয় মধ্যে সম্ভাব্য কার্যকারিতা সম্পর্কে উইকিপিডিয়া পৃষ্ঠার প্রবর্তনের মধ্যে যে পার্থক্য পেয়েছি তা পাওয়া যায় , বা বর্তমান স্পষ্টতই বায়েশিয়ান পরিসংখ্যানবিদদের সংখ্যাগরিষ্ঠ সম্ভাবনা উত্তরোত্তর সম্ভাবনার বিকল্প হিসাবে ব্যবহার করে না বলে সম্ভবত স্পষ্টতই ভুল। একইভাবে, বেইস থিওরেম সম্পর্কে উইকিপিডিয়া পৃষ্ঠায় নির্দেশিত "পার্থক্য" অন্য যে কোনও কিছুর চেয়ে বিভ্রান্ত মনে হচ্ছে, কারণ এই উপপাদ্যটি কন্ডিশনের পরিবর্তনের বিষয়ে সম্ভাবনা বিবৃতি, দৃষ্টান্ত থেকে পৃথক বা সম্ভাব্যতার বক্তব্যটির অর্থ থেকে পৃথক। ( আমার মতে এটি একটি উপপাদকের চেয়ে বেশি সংজ্ঞা!)


1

একটি ছোট সংযোজন হিসাবে:

"সম্ভাবনা" নামটি পুরোপুরি বিভ্রান্তিমূলক, কারণ এখানে বিভিন্ন সম্ভাব্য বিভিন্ন অর্থ রয়েছে। শুধুমাত্র "সাধারণ ভাষা" নয়, তবে পরিসংখ্যানগুলিতেও। আমি কমপক্ষে তিনটি পৃথক, তবে এমনকি সম্পর্কিত অভিব্যক্তিগুলিও ভাবতে পারি যেগুলিকে সমস্ত সম্ভাবনা বলা হয়; এমনকি পাঠ্য বইয়ে।

এটি বলেছিল, সম্ভাবনার গুণগত সংজ্ঞা গ্রহণ করার সময় এর মধ্যে এমন কোনও কিছুই নেই যা এর (যেমন অ্যাক্সিয়োম্যাটিক) সংজ্ঞাটির অর্থে এটি কোনও প্রকার সম্ভাব্যতায় রূপান্তরিত করবে। এটি একটি আসল মূল্যবান সংখ্যা। আপনি এটি সম্ভাবনার সাথে গণনা করতে বা সম্পর্কিত করতে প্রচুর কাজ করতে পারেন (অনুপাত গ্রহণ, প্রিয়ার এবং পোস্টেরিয়ার গণনা করা ইত্যাদি) - তবে নিজেই সম্ভাবনার দিক থেকে এর কোনও অর্থ নেই।

জিয়া'র আরও তথ্যমূলক এবং বিস্তৃত উত্তর দ্বারা উত্তর কম-বেশি অচল হয়ে পড়েছে। তবে অনুরোধের মাধ্যমে সম্ভাবনার কয়েকটি পাঠ্য বইয়ের সংজ্ঞা:

  • ফাংশনL(x;θ)
  • প্যারামিটারের একটি 'শ্রেষ্ঠ' মান খুঁজে বের করার পদ্ধতি কিছু পর্যবেক্ষিত ডেটার অবস্থার অধীনে (সর্বোচ্চ এল, নূন্যতম এল, লগ-এল।, ইত্যাদি)θ
  • বিভিন্ন প্রিয়ারের (যেমন একটি শ্রেণিবদ্ধকরণ কার্যে) সম্ভাবনার মানগুলির অনুপাত ... এবং তদুপরি ভিন্ন ভিন্ন অর্থ যে কেউ উল্লিখিত উপাদানগুলির (আব) ব্যবহারের জন্য দায়ী করার চেষ্টা করতে পারে।

1
আপনি যদি উদাহরণ / রেফারেন্স যুক্ত করতে পারেন তবে আমি কমপক্ষে তিনটি ভিন্ন, তবে এমনকি সম্পর্কিত অভিব্যক্তিগুলিকেও বলেছি যেগুলিকে সমস্ত সম্ভাবনা বলা হয় এটি একটি আরও উত্তম উত্তর হবে; এমনকি পাঠ্য বইয়ে
কেজেটিল বি হালওয়ারসেন
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.