কোনও আপেক্ষিক, নর্মাল ইউটিলিটি ফাংশনকে যখন পিএমএফ হিসাবে চিকিত্সা করে, শ্যানন এন্ট্রপি বা শ্যানন তথ্যের ব্যাখ্যা কী?

Question

মনে করুন হ'ল বিযুক্ত র্যান্ডম ভেরিয়েবলের পারস্পরিক একচেটিয়া ফলাফলের একটি সেট এবং একটি ইউটিলিটি ফাংশন যেখানে , ইত্যাদি etc.$\Omega$$f$∑ Ω f ( ω ) = $0 < f(\omega) \leq 1$$\sum_\Omega f(\omega) = 1$

যখন অবিশেষে উপর বিতরণ করা হয় এবং একটি হল সম্ভাব্যতা ভর ফাংশন , শ্যানন এনট্রপি হয় বড় ( , এবং এক উপাদান যখন হয়েছে সব এর ভর, শ্যানন এনট্রপি ছোট করা ( , আসলে)। এটি আশ্চর্যজনক (বা অনিশ্চয়তা হ্রাস ) এবং ফলাফল এবং অনিশ্চয়তা (বা প্রত্যাশিত আশ্চর্যজনক ) এবং এলোমেলো পরিবর্তনশীল সম্পর্কে অন্তর্দৃষ্টিগুলির সাথে মিলে যায় :Ω $f$$\Omega$$f$$H(\Omega) = \sum_{\Omega}f(\omega)log\frac{1}{f(\omega)}$Ω চ $=log|\Omega|)$$\Omega$$f$$0$

• যখন সমানভাবে বিতরণ করা হয়, তখন অনিশ্চয়তা সর্বাধিক হয়, এবং ভরকে সমানভাবে বিতরণ করার জন্য যত বেশি ফলাফল হয়, আমরা তত বেশি অনিশ্চিত।$f$
• যখন এর সমস্ত ভর এক ফলাফলের মধ্যে কেন্দ্রীভূত হয়, তখন আমাদের কোনও অনিশ্চয়তা থাকে না।$f$
• যখন আমরা কোনও ফলাফলকে সম্ভাব্যতা নির্ধারণ করি তখন আমরা বাস্তবে এটি পর্যবেক্ষণ করলে কোনও তথ্যই ("অবিশ্বাস্য") পাই না।$1$
• আমরা যখন একটি সম্ভাব্যতা কাছাকাছি এবং কাছাকাছি একটি ফলাফল নির্ধারণ , এটি একটি প্রকৃত ঘটছে পর্যবেক্ষণ আরও তথ্যপূর্ণ ( "বিস্ময়কর") হয়ে যায়।$0$

(এগুলি আরও বেশি কংক্রিটের বিষয়ে কিছুই বলেনি - তবে কম এপিস্টেমিক - অবশ্যই শ্যাননের তথ্য / এনট্রপির কোডিং ব্যাখ্যা) অবশ্যই)

যাইহোক, যখন এর কোনও ইউটিলিটি ফাংশনটির ব্যাখ্যা থাকে, তখন বা ? আমার কাছে মনে হচ্ছে এটি থাকতে পারে:l o g $f$ ∑f(ω)log$log\frac{1}{f(\omega)}$$\sum f(\omega)log\frac{1}{f(\omega)}$

• যদি একটি পিএমএফ হিসাবে Ω এর উপরে অভিন্ন বিতরণ উপস্থাপন করে , তবে চ ইউটিলিটি ফাংশন হিসাবে ফলাফলের প্রতি উদাসীনতার সাথে মিলে যায় যা এর চেয়ে বড় হতে পারে না *$f$$\Omega$$f$
• একটি ইউটিলিটি ফাংশন যেখানে একটি ফলাফলের সমস্ত ইউটিলিটি থাকে এবং বাকিগুলির কোনও কিছুই থাকে না (যেমন কোনও ইউটিলিটির স্কুড হিসাবে থাকতে পারে) খুব দৃ relative় আপেক্ষিক পছন্দগুলির সাথে সামঞ্জস্য করে - উদাসীনতার অভাব।

এখানে কি কোনও রেফারেন্স প্রসারিত হচ্ছে? সম্ভাব্য ভর কার্যকারিতা এবং সাধারণকরণের সাথে তুলনা করার ক্ষেত্রে সীমাবদ্ধতা সম্পর্কে আমি কিছু মিস করেছি, ভিন্নতর র্যান্ডম ভেরিয়েবলের তুলনায় আপেক্ষিক ইউটিলিটিগুলি?

* আমি উদাসীনতা বক্ররেখাগুলি সম্পর্কে সচেতন এবং বিভিন্ন কারণে কীভাবে তারা আমার প্রশ্নের সাথে প্রাসঙ্গিক হতে পারে তা দেখতে পাচ্ছি না, একটি নির্দিষ্ট নমুনা স্পেসের প্রতি আমার ফোকাস দিয়ে শুরু করে এবং প্রতি সে 'প্রতি উদাসীনতা' নিয়ে আমি আগ্রহী নই এই বিষয়টি নিয়ে, তার পরিবর্তে কীভাবে সম্ভাব্যতা হিসাবে ইউটিলিটিগুলি ব্যাখ্যা করতে হয় এবং সম্ভাব্যতার কার্যকারিতা কীভাবে ব্যাখ্যা করতে হয় যখন প্রশ্নে (বিযুক্ত) 'সম্ভাব্যতা বিতরণ' আসলে বা (অতিরিক্ত) কোনও ইউটিলিটি ফাংশনটির ব্যাখ্যা থাকে।

Comments

আমার কাছে কোনও উত্তর নেই, তবে আপনার প্রশ্ন আমাকে ন্যায্য কেক কাটার সমস্যায় এনট্রপি ব্যবহার করার কথা ভাবায় : en.wikedia.org/wiki/Fair_cake-cutting মানক মডেলটি হ'ল পিষ্টকটি একটি বিরতি [0, 1], এবং বিরতিতে বিভিন্ন সাধারণ মানের মান সহ এজেন্ট রয়েছে। পদক্ষেপগুলি অ-পারমাণবিক বলে ধরে নেওয়া হয়, তবে তাদের "এনট্রপি" নিয়ে আর কোনও অনুমান নেই। কেক কাটা সমস্যা সম্পর্কে আমরা কী বলতে পারি তা ভাবতে আগ্রহী হতে পারে যেখানে ইউটিলিটি ফাংশনগুলি এনট্রপির সাথে আবদ্ধ। $n$

— এরেল সেগাল-হালেভি

Answer 1

শ্যাননের এন্ট্রপি নিয়ে আলোচনার আগে আরও একটি বিষয় রয়েছে যা নিয়ে আলোচনা করা উচিত: এটি প্রদর্শিত হয় যে আপনি অর্ডিনালের চেয়ে কার্ডিনাল ইউটিলিটিটি মনে রেখেছেন ।

"নরমালাইজড" ইউটিলিটি ফাংশনগুলি অবশ্যই উভয় ক্ষেত্রেই উদ্ভূত হতে পারে। তবে "আপেক্ষিক পছন্দসই" ধারণাটি কেবল মূল ইউটিলিটির প্রসঙ্গেই সংজ্ঞায়িত এবং পরিমাপ করা যায়।

আপনি যে দুটি চূড়ান্ত বর্ণনা করেছেন তাতে সমস্যাটি উত্থাপিত হয় না, তবে সমস্ত সম্ভাব্য মধ্যবর্তী ক্ষেত্রেই in

একটি সাধারণ উদাহরণ: ধরে নিন যে তিনটি "ফলাফল", (বলুন, গ্রাহকের মাত্রা বা কিছু পরিমাণে প্রতিটি তিনটি আলাদা পণ্য)। আপনার ইউটিলিটি ফাংশন তাদের মান নির্ধারিত করে$A, B, C$

$$V(A) = 1, \;\;V(B) = 9,\;\; V(C) = 90$$

সাধারণ ইউটিলিটির অধীনে, এটি আমাদের কেবল এটি বলে

$$A <_{pr} B <_{pr} C$$

অবশ্যই আমরা তা পেতে ভাগ করে ভাগ করে সাধারণ করতে পারি$100$

এবং তিনটি ফলাফলের র‌্যাঙ্কিং সংরক্ষিত আছে

$$U_V(A)=0.01, \;\; U_V(B) = 0.09,\;\; U_V(C) =0.9$$

তবে অর্ডিনাল ইউটিলিটির অধীনে আমরা অন্য একটি ইউটিলিটি ফাংশনটি খুব ভালভাবে ব্যবহার করতে পারি যা নির্ধারিত হবে

$$W(A) = 31, \;\;W(B) = 32,\;\; W(C) = 37$$

এবং প্রাপ্ত

$$U_W(A)=0.31, \;\; U_W(B) = 0.32,\;\; U_W(C) =0.37$$

র‌্যাঙ্কিং একই তাই দুটি ইউটিলিটি ফাংশন এবং ডাব্লু সাধারণ ইউটিলিটির অধীনে সমান are$V$$W$

তবে আপনি যা বর্ণনা করছেন তাতে ইউটিলিটি ফাংশন ভি এর চেয়ে আলাদা আপেক্ষিক পছন্দগুলি উপস্থাপন করে এবং তাই এটি একই ইউটিলিটি ফাংশন নয়। তবে এটি কেবলমাত্র মূল ইউটিলিটির অধীনে অর্থবহ , যেখানে ইউটিলিটি সংখ্যার মধ্যে পরিমাণগত তুলনাগুলির অর্থ রয়েছে বলে ধরে নেওয়া হয়। $W$$V$

মূল ইউটিলিটি আশেপাশের সমস্যাগুলির সাথে আপনি কি পরিচিত?

Comments

সচেতন যে এই ধরনের সমস্যা আছে? হ্যাঁ. (ব্যক্তিগত উন্নয়নের বাইরে) কেন সচেতন আমাকে এ জাতীয় বিষয়গুলি সাবধানতার সাথে বিবেচনা করা প্রয়োজন? সত্যই নয়, যদিও ডোমেনের জন্য আমি আগ্রহী (ক্রিয়াকলাপ এবং আরভিওর পরিবেশগুলি সম্পর্কিত সিদ্ধান্ত সংক্রান্ত সমস্যাগুলি), ইউটিলিটি সাধারণত মুখ্য হিসাবে বিবেচিত হয়, যতদূর আমি বলতে পারি - এবং ইউ সত্যই পৃথক ইউটিলিটি ফাংশন হিসাবে বিবেচিত হবে যদিও উল্লেখযোগ্যভাবে একই অर्डিনাল পছন্দগুলি পছন্দ করে related আমি অবশ্য মূল ইউটিলিটি সম্পর্কিত সমস্যাগুলি সম্পর্কে আরও শুনে খুশি হব। $V$$U$

— EM23

Answer 2

আমার অন্য উত্তরে ওপির সাথে বিনিময় করার পরে আসুন তার পদ্ধতির সাথে কিছুটা কাজ করি।

আমরা একটি বিযুক্ত দৈব চলক আছে সসীম সমর্থনে এক্স = { x এর 1 , । । । , এক্স ট } , এবং সম্ভাব্যতা ভর ফাংশন (PMF), Pr ( এক্স = এক্স আমি ) = P আমি , আমি = 1 , । । । , $X$$X = \{x_1,...,x_k\}$$\Pr(X=x_i)=p_i, i=1,...,k$

এর সমর্থনে মানগুলি হ'ল একটি বাস্তব-মূল্যবান কার্ডিনাল ইউটিলিটি ফাংশনে ইনপুট , ইউ ( এক্স i ) > $X$ । এরপরে আমরা সাধারণযুক্ত ইউটিলিটি ফাংশনটি বিবেচনা করি$u(x_i) > 0\; \forall i$

$$w(X): w(x_i) = \frac {u(x_i)}{\sum_{i=1}^ku(x_i)},\;\;i=1,...,k \tag{1}$$

এবং আমরা এটা বলা হয়

$$w(x_i) = p_i \tag{2}$$

নোট যে আমরা শুধু পর্যবেক্ষণ সসীম ডোমেনের একটি সাধারণ অ নেতিবাচক বিযুক্ত ফাংশন, সন্তুষ্ট সাধারণ -আমরা একটি সম্ভাব্যতা ভর ফাংশন বৈশিষ্ট্য বিশেষভাবে যে অনুমান না এর PMF কার্যকরী ফর্ম আছে র্যান্ডম ভেরিয়েবল যার মান w ( x i ) ইনপুট হিসাবে গ্রহণ করে।$w(x_i)$$w(x_i)$

যেহেতু একটি র্যান্ডম ভেরিয়েবলের পরিমাপযোগ্য ফাংশন, এটিও একটি এলোমেলো পরিবর্তনশীল। সুতরাং আমরা এর প্রত্যাশিত মানের মতো জিনিসগুলিকে অর্থবহ বিবেচনা করতে পারি। অজ্ঞান পরিসংখ্যানবিদ আইনটি ব্যবহার করছি$w(x_i)$

$$E[w(X)] = \sum_{i=1}^kp_iw(x_i) = \sum_{i=1}^kp_i^2 \tag{3}$$

এই উত্তল ফাংশন, এবং যদি আমরা ধরে এটা extremize চেষ্টা বাধ্যতা অধীনে s ' Σ ট আমি = 1 P আমি = 1 আমরা সহজেই প্রাপ্ত$p_i$$\sum_{i=1}^kp_i=1$

$$\text{argmin} E[w(X)] = \mathbf p^*: p_1=p_2=...=p_k=1/k \tag {4}$$

এবং আমরা একটি সাধারণ ফলাফল পেয়েছি:

$X$

$w(X)$ $E[w(X)]=1/k$

$w(X)$

তবে এটি আমার ধারণা যে ওপির মনে এটি নয়। বরং এটি শ্যাননের এন্ট্রপিকে এমন একটি মেট্রিক হিসাবে দেখেছে যার কিছু পছন্দসই বীজগণিত বৈশিষ্ট্য রয়েছে এবং সম্ভবত অর্থবহ উপায়ে আগ্রহের কিছুতে মাপতে পারে।

এটি ইকোনমিক্সের আগে করা হয়েছিল, বিশেষত শিল্প সংস্থাতে, বাজারের ঘনত্বের সূচকগুলি ("প্রতিযোগিতার ডিগ্রি / একটি বাজারের একচেটিয়া কাঠামো") নির্মিত হয়েছিল। আমি এখানে দুটি বিশেষভাবে প্রাসঙ্গিক বলে মনে করি।

$n$$s_i$

$$H = \sum_{i=1}^n s_i^2$$

$w(X)$

$$R_e = -\sum_{i=1}^n s_i\ln s_i$$

এনকাউয়া, ডি, এবং জ্যাকমিন, এ (1980)। একচেটিয়া ডিগ্রি, ঘনত্বের সূচক এবং প্রবেশের হুমকি। আন্তর্জাতিক অর্থনৈতিক পর্যালোচনা, 87-105। , "অনুমোদিত" ঘনত্ব সূচকগুলির একটি অজস্র উত্স প্রদান করে, যেমন তারা এমন বৈশিষ্ট্যগুলি সংজ্ঞায়িত করে যা এই জাতীয় সূচকের অবশ্যই থাকা উচিত। যেহেতু তাদের পদ্ধতির বিমূর্ততা রয়েছে, তাই আমি বিশ্বাস করি যে এটি ওপি অন্বেষণ করতে এবং এর সাথে কী অর্থ যুক্ত করতে চায় তা কার্যকর হতে পারে।

Answer 3

$v=v*2-0.5$

সুতরাং, আপনাকে প্রথমে আপনার ইউটিলিটিতে একটি অর্থপূর্ণ অনুপাতের স্কেল সরবরাহ করতে হবে। এটি করার একটি উপায় হ'ল প্রাকৃতিক 0 ইউটিলিটি স্তরের একটি ব্যাখ্যা দেওয়া। এই স্পেসিফিকেশন ছাড়া এন্ট্রপি অর্থহীন।