মাল্টিক্লাসের জন্য লজিস্টিক রিগ্রেশন

মাল্টিক্লাসের জন্য লজিস্টিক রিগ্রেশনের মডেল পেয়েছি যা দ্বারা দেওয়া হয়েছে

পি (ওয়াই = ঞ | {এক্স}^{(আমি)}) = \frac{মেপুঃ (θ_{ঞ}^{টি} {এক্স}^{(আমি)})}{1 + + Σ_{মি = 1}^{ট} মেপুঃ (θ_{মি}^{টি} {এক্স}^{(আমি)})}

$P(Y=j|X^{(i)}) = \frac{\exp(\theta_j^TX^{(i)})}{1+ \sum_{m=1}^{k}\exp(\theta_m^T X^{(i)})}$

যেখানে কে ক্লাসের সংখ্যা, থিটা অনুমান করার জন্য প্যারামিটার হল জেথ ক্লাস দ্বাদশ প্রশিক্ষণের ডেটা

ভাল একটি জিনিস আমি পেলাম না হ'ল ডিনোমিনেটর অংশ মডেলটি কীভাবে স্বাভাবিক করেছে। আমার অর্থ এটি সম্ভাব্যতা 0 এবং 1 এর মধ্যে স্থিত করে তোলে।

1 + + Σ_{মি = 1}^{ট} মেপুঃ (θ_{মি}^{টি} {এক্স}^{(আমি)})

$1+ \sum_{m=1}^{k}\exp(\theta_m^T X^{(i)})$

মানে আমি লজিস্টিক রিগ্রেশন হওয়ার অভ্যস্ত

পি (ওয়াই = 1 | {এক্স}^{(আমি)}) = 1 / (1 + + মেপুঃ (- θ^{টি} {এক্স}^{(আমি)}))

$P(Y=1|X^{(i)}) = 1/ (1 + \exp(-\theta^T X^{(i)}))$

আসলে, আমি নোমালাইজেশন জিনিসটিতে বিভ্রান্ত হয়ে পড়েছি। এই ক্ষেত্রে যেহেতু এটি একটি সিগময়েড ফাংশন তাই এটি কখনই মান 0 এর চেয়ে কম বা 1 এর চেয়ে বেশি হতে দেয় না But তবে আমি বহু শ্রেণীর ক্ষেত্রে বিভ্রান্ত। এটা এমন কেন?

এটি আমার রেফারেন্স https://list.scms.waikato.ac.nz/pipermail/wekalist/2005- ফেব্রুয়ারি/ 029738 . html । আমি মনে করি এটি স্বাভাবিক করা উচিত ছিল

পি (ওয়াই = ঞ | {এক্স}^{(আমি)}) = \frac{মেপুঃ (θ_{ঞ}^{টি} {এক্স}^{(আমি)})}{Σ_{মি = 1}^{ট} মেপুঃ (θ_{মি}^{টি} {এক্স}^{(আমি)})}

$P(Y=j|X^{(i)}) = \frac{\exp(\theta_j^T X^{(i)})}{\sum_{m=1}^{k} \exp(\theta_m^T X^{(i)})}$

logistic multinomial

— user34790
সূত্র

Y = 1

$Y=1$

Y = 0

$Y=0$

1

$1$

আপনার অন্যান্য পোস্টগুলির উপর ভিত্তি করে আপনি কীভাবে সমীকরণগুলি চিহ্নিত করবেন তা জানেন। এখানে পাঠ্য সমীকরণগুলি পড়া কঠিন এবং (সাবস্ক্রিপ্টগুলি) বিভ্রান্তিকর - আপনি কি তাদের দিয়ে চিহ্নিত করতে পারেন?

L A T E X

$\LaTeX$

যেহেতু আপনি এখানে অনেকগুলি প্রশ্ন পোস্ট করছেন, দয়া করে বিরতি দিন এবং ভাল প্রশ্নগুলি কীভাবে জিজ্ঞাসা করবেন সে সম্পর্কে আমাদের FAQ পড়ুন। জন্য সহায়তা পড়ুন

T E X

$\TeX$

আমি এই সমীকরণটি সম্পাদনা করেছি @ @ হুইবার আসলে, আমি বাইনারি নয় মাল্টিক্লাস লজিস্টিক রিগ্রেশন সম্পর্কিত বিভ্রান্ত। আমি উদ্বিগ্ন, যখন আমি ডোনোমিনেটরে সমস্ত উপাদান যুক্ত করি তখন সম্ভাবনাটি স্বাভাবিক হয়

— ব্যবহারকারী 34790

X^{(i)}

$X^{(i)}$

উত্তর:

$K$ $K> 2$ $K-1$ $K$

পি (Y_{আমি} = কে | {এক্স}_{আমি}) = 1 - Σ_{ট = 1}^{কে - 1} পি (Y_{আমি} = ট | {এক্স}_{আমি}) ।

$P(y_i = K | x_i) = 1 - \sum_{k=1}^{K-1} P(y_i = k | x_i) .$

পি (Y_{আমি} = ট | {এক্স}_{আমি}) = \frac{মেপুঃ (θ_{আমি}^{টি} {এক্স}_{আমি})}{Σ_{আমি = 1}^{কে} মেপুঃ (θ_{আমি}^{টি} {এক্স}_{আমি})} ।

$P(y_i = k | x_i) = \frac{\exp(\theta_i^T x_i)}{\sum_{i=1}^K \exp(\theta_i^T x_i)} .$

K

$K$

θ_{K} = (0, \dots, 0)^{T}

$\theta_K = (0, \ldots, 0)^T$

Σ_{আমি = 1}^{কে} মেপুঃ (θ_{আমি}^{টি} {এক্স}_{আমি}) = মেপুঃ (0) + + Σ_{আমি = 1}^{কে - 1} মেপুঃ (θ_{আমি}^{টি} {এক্স}_{আমি}) = 1 + + Σ_{আমি = 1}^{কে - 1} মেপুঃ (θ_{আমি}^{টি} {এক্স}_{আমি}) ।

$\sum_{i=1}^K \exp(\theta_i^T x_i) = \exp(0) + \sum_{i=1}^{K-1} \exp(\theta_i^T x_i) = 1 + \sum_{i=1}^{K-1} \exp(\theta_i^T x_i) .$

k < K

$k < K$

পি (Y_{আমি} = ট | {এক্স}_{আমি}) = \frac{মেপুঃ (θ_{আমি}^{টি} {এক্স}_{আমি})}{1 + + Σ_{আমি = 1}^{কে - 1} মেপুঃ (θ_{আমি}^{টি} {এক্স}_{আমি})}

$P(y_i = k | x_i) = \frac{\exp(\theta_i^T x_i)}{1 + \sum_{i=1}^{K-1} \exp(\theta_i^T x_i)}$

— sebp
সূত্র

মনে রাখবেন যে রেফারেন্স ক্লাসের পছন্দটি গুরুত্বপূর্ণ নয়, যদি আপনি সর্বাধিক সম্ভাবনা করছেন। তবে আপনি যদি শাস্তিযুক্ত সর্বাধিক সম্ভাবনা বা বেইসিয়ান অনুমান করছেন, তবে সম্ভাব্যতাগুলি অতিরিক্ত-প্যারামিটারাইজড রেখে দেওয়াই প্রায়শই বেশি কার্যকর let এর কারণ, বেশিরভাগ পেনাল্টি ফাংশন / প্রিজনরা রেফারেন্স ক্লাসের পছন্দটি সম্পর্কে সম্মতিযুক্ত নয়

— সম্ভাব্যতা

i

$i$

i

$i$

k

$k$

$k$ $k-1$ $\exp(0)$ $k$ $\theta=0$

$\theta_1 X=b$

\frac{মেপুঃ (খ)}{মেপুঃ (0) + + মেপুঃ (খ)} = \frac{মেপুঃ (0)}{মেপুঃ (0) + + মেপুঃ (- খ)} = \frac{1}{1 + + মেপুঃ (- খ)}

$\frac{\exp(b)}{\exp(0)+\exp(b)} = \frac{\exp(0)}{\exp(0)+\exp(-b)} = \frac{1}{1+\exp(-b)}$

— conjugateprior
সূত্র