পারস্পরিক তথ্য গণনা কিভাবে?

আমি একটু বিভ্রান্ত। কেউ আমাকে কীভাবে ব্যাখ্যা করতে পারেন যে বাইনারি টার্ম ইভেন্ট হিসাবে ওজন হিসাবে টার্ম-ডকুমেন্ট ম্যাট্রিক্সের ভিত্তিতে দুটি পদগুলির মধ্যে পারস্পরিক তথ্য কীভাবে গণনা করতে?

\begin{matrix} ^{'} W h y^{'} & ^{'} H o w^{'} & ^{'} W h e n^{'} & ^{'} W h e r e^{'} \\ D o c u m e n t 1 & 1 & 1 & 1 & 1 \\ D o c u m e n t 2 & 1 & 0 & 1 & 0 \\ D o c u m e n t 3 & 1 & 1 & 1 & 0 \end{matrix}

$\begin{matrix} & 'Why' & 'How' & 'When' & 'Where' \\ Document1 & 1 & 1 & 1 & 1 \\ Document2 & 1 & 0 & 1 & 0 \\ Document3 & 1 & 1 & 1 & 0 \end{matrix}$

I (X; Y) = \sum_{y \in Y} \sum_{x \in X} p (x, y) \log (\frac{p (x, y)}{p (x) p (y)})

$I(X;Y)= \sum_{y \in Y} \sum_{x \in X} p(x,y) \log\left(\frac{p(x,y)}{p(x)p(y)} \right)$

ধন্যবাদ

— user18075
সূত্র

কি কি এবং ?

X

$X$

Y

$Y$

— দিলিপ সরোতে

এক্স এবং ওয়াই পদসমূহ। এক্স "কেন" হতে পারে এবং ওয়াই "কীভাবে" হতে পারে।

— ব্যবহারকারী18075

দস্তাবেজগুলিতে স্বাভাবিক সহ-উপস্থিতিগুলি সমন্বিত একটি যৌথ সম্ভাব্যতা সারণী গঠনের বিষয়ে। তারপরে আপনি টেবিলটি ব্যবহার করে যৌথ এনট্রপি এবং প্রান্তিক এনট্রোপিগুলি পেতে পারেন। অবশেষে,

I (X, Y) = H (X) + H (Y) - H (X, Y) .

$I(X,Y) = H(X)+H(Y)-H(X,Y).$

— জোরান
সূত্র

যখন যৌথ এবং প্রান্তিক বিতরণগুলি নির্ধারণ করা হয়েছে, তখন কেন আপনার , এবং গণনা করা এবং আপনার প্রদর্শিত সূত্রটি ব্যবহার করা দরকার? "প্লাগ ইন ইন" এর জন্য প্রয়োজনীয় সমস্ত কিছু যেমন, ওপি দ্বারা প্রদত্ত সূত্রের মাধ্যমে পারস্পরিক তথ্য সরাসরি নির্ধারণ করা যায় না, যেমন। এবং এই স্থানে পরিচিত?

H (X)

$H(X)$

H (Y)

$H(Y)$

H (X, Y)

$H(X,Y)$

p (x, y), p (x)

$p(x,y), p(x)$

p (y)

$p(y)$

— দিলীপ সরোতে

সূত্রগুলি সমতুল্য ব্যতীত প্রথম নজরে আরও ব্যাখ্যাযোগ্য হতে পারে।

— জোড়ান