12

আমি লজিস্টিক রিগ্রেশনটিতে প্রাপ্ত সহগগুলির থেকে প্রতিকূলতার অনুপাতের জন্য 95% আত্মবিশ্বাস ব্যবধান কীভাবে তৈরি করব তা শিখছি। সুতরাং, লজিস্টিক রিগ্রেশন মডেল বিবেচনা করে,

\log (\frac{p}{1 - p}) = α + β x

$\log\left(\frac{p}{1 - p}\right) = \alpha + \beta x \newcommand{\var}{\rm Var} \newcommand{\se}{\rm SE}$

যেমন নিয়ন্ত্রণ গ্রুপের জন্য $x = 0$ এবং কেস গ্রুপের জন্য $x = 1$ ।

আমি ইতিমধ্যে পড়েছি যে সবচেয়ে সহজ উপায় জন্য 95% সিআই তৈরি $\beta$ করা হয় তারপর আমরা ঘনিষ্ঠ ফাংশনটি প্রয়োগ করি, অর্থাৎ,

\hat{β} \pm 1.96 \times S E (\hat{β}) \to \exp {\hat{β} \pm 1.96 \times S E (\hat{β})}

$\hat{\beta} \pm 1.96\times \se(\hat{\beta}) \rightarrow \exp\{\hat{\beta} \pm 1.96\times \se(\hat{\beta})\}$

আমার প্রশ্নগুলি হ'ল:

তাত্ত্বিক কারণ কী যা এই পদ্ধতির ন্যায্যতা দেয়? আমি জানি $\mbox{odds ratio} = \exp\{\beta\}$ এবং সর্বাধিক সম্ভাবনা অনুমানকারী অদম্য। তবে আমি এই উপাদানগুলির মধ্যে সংযোগটি জানি না।
পূর্ববর্তী পদ্ধতির মতো ডেল্টা পদ্ধতিটি একই 95% আত্মবিশ্বাসের ব্যবধান তৈরি করা উচিত? ব-দ্বীপ পদ্ধতিটি ব্যবহার করে,

$\exp {\hat{β}} \dot{\sim} N (β, \exp {β}^{2} V a r (\hat{β}))$ $\exp\{\hat{\beta}\} \dot{\sim} N(\beta,\ \exp\{\beta\}^2 \var(\hat{\beta}))$
তারপর,

$\exp {\hat{β}} \pm 1.96 \times \sqrt{\exp {β}^{2} V a r (\hat{β})}$ $\exp\{\hat{\beta}\} \pm 1.96\times \sqrt{\exp\{\beta\}^2 \var(\hat{\beta})}$
যদি তা না হয় তবে সেরা পদ্ধতিটি কোনটি?

— মারসিও আগস্টো ডিনিজ
সূত্র

1

আমি সিআইয়ের জন্যও বুটস্ট্র্যাপ পছন্দ করি, যদি আমার কাছে পরামিতি মান বা পর্যাপ্ত আকারের প্রশিক্ষণের ডেটা থাকে।

— EngrStudent

2

এটি করার আরও একটি ভাল উপায় আছে, বিশদের জন্য দেখুন stats.stackexchange.com/questions/5304/…

— mdewey

7

প্রক্রিয়াটির সমর্থনযোগ্যতা হ'ল LE জন্য এমএলইয়ের অ্যাসিম্পটোটিক স্বাভাবিকতা এবং কেন্দ্রীয় সীমাবদ্ধ তত্ত্বের সাথে যুক্তিগুলির ফলাফল। $\beta$
ডেল্টা পদ্ধতিটি এমএলইয়ের চারপাশে ফাংশনটির লিনিয়ার (অর্থাত্ প্রথম অর্ডার টেলর) সম্প্রসারণ থেকে আসে। এরপরে আমরা এমএলইয়ের অ্যাসিম্পটোটিক স্বাভাবিকতা এবং নিরপেক্ষতার কাছে আবেদন করি।

তাত্পর্যপূর্ণভাবে উভয়ই একই উত্তর দেয়। তবে ব্যবহারিকভাবে, আপনি যাকে আরও ঘনিষ্ঠভাবে স্বাভাবিক দেখায় তার পক্ষে থাকবেন। এই উদাহরণে, আমি প্রথমটির পক্ষপাতিত্ব করব কারণ পরেরটি কম সংশ্লেষিত হতে পারে।

— আমির
সূত্র

3

আইএসএল-এর একটি উদাহরণের সাথে আস্থাভিত্তিক ব্যবস্থাগুলির তুলনা

তিবশিরানী, জেমস, হাস্টি রচিত "পরিসংখ্যানগত শিক্ষার পরিচিতি" বইটি মজুরির তথ্যের উপর বহুপদী লজিস্টিক রিগ্রেশন ডিগ্রি 4 এর আস্থাভ্রান্তির 266 পৃষ্ঠায় একটি উদাহরণ দেয় । বইয়ের উদ্ধৃতি:

আমরা বাইনারি ইভেন্ট ডিগ্রি -4 বহুভুজ সহ লজিস্টিক রিগ্রেশন ব্যবহার করে মডেল করি । আনুমানিক 95% আত্মবিশ্বাসের ব্যবধানের সাথে 250,000 ডলারের বেশি মজুরির পিছনের সম্ভাব্যতা নীল রঙে দেখানো হয়েছে। $wage>250$

নীচে এই ধরনের অন্তরগুলি তৈরির জন্য দুটি পদ্ধতির দ্রুত পুনরুদ্ধার এবং সেইসাথে স্ক্র্যাচ থেকে কীভাবে প্রয়োগ করা যায় সে সম্পর্কে মন্তব্য দেওয়া হয়েছে

ওয়াল্ড / শেষ পয়েন্ট রূপান্তর অন্তর

লিনিয়ার সংমিশ্রণ (ওয়াল্ড সিআই ব্যবহার করে) এর জন্য আস্থার ব্যবধানের উপরের এবং নিম্ন সীমানা গণনা করুন $x^T\beta$
সম্ভাব্যতাগুলি অর্জনের জন্য শেষ পয়েন্ট একরোটিক রূপান্তর প্রয়োগ করুন । $F(x^T\beta)$

যেহেতু একটি একঘেয়ে রূপান্তর হয় $Pr(x^T\beta) = F(x^T\beta)$ $x^T\beta$

[P r (x^{T} β)_{L} \leq P r (x^{T} β) \leq P r (x^{T} β)_{U}] = [F (x^{T} β)_{L} \leq F (x^{T} β) \leq F (x^{T} β)_{U}]

$[Pr(x^T\beta)_L \leq Pr(x^T\beta) \leq Pr(x^T\beta)_U] = [F(x^T\beta)_L \leq F(x^T\beta) \leq F(x^T\beta)_U]$

কংক্রিটলি এর অর্থ গণনা করা এবং তারপরে নিম্ন এবং উপরের সীমাগুলি পেতে ফলাফলটিতে লজিট রূপান্তরকরণ প্রয়োগ করা: $\beta^Tx \pm z^* SE(\beta^Tx)$

[\frac{e^{x^{T} β - z^{*} S E (x^{T} β)}}{1 + e^{x^{T} β - z^{*} S E (x^{T} β)}}, \frac{e^{x^{T} β + z^{*} S E (x^{T} β)}}{1 + e^{x^{T} β + z^{*} S E (x^{T} β)}},]

$[\frac{e^{x^T\beta - z^* SE(x^T\beta)}}{1 + e^{x^T\beta - z^* SE(x^T\beta)}}, \frac{e^{x^T\beta + z^* SE(x^T\beta)}}{1 + e^{x^T\beta + z^* SE(x^T\beta)}},]$

স্ট্যান্ডার্ড ত্রুটি গণনা করা হচ্ছে

সর্বাধিক সম্ভাবনা তত্ত্ব আমাদের জানায় যে এর আনুমানিক বৈকল্পিকটি ব্যবহার করে রিগ্রেশন কোফেরিয়েন্টসের কোভারিয়েন্স ম্যাট্রিক্স ব্যবহার করে গণনা করা যায় $x^T\beta$ $\Sigma$

V a r (x^{T} β) = x^{T} Σ x

$Var(x^T\beta) = x^T \Sigma x$

নকশা ম্যাট্রিক্স এবং ম্যাট্রিক্স হিসাবে সংজ্ঞায়িত করুন $X$ $V$

X = [\begin{matrix} 1 & x_{1, 1} & \dots & x_{1, p} \\ 1 & x_{2, 1} & \dots & x_{2, p} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ 1 & x_{n, 1} & \dots & x_{n, p} \end{matrix}] V = [\begin{matrix} {\hat{π}}_{1} (1 - {\hat{π}}_{1}) & 0 & \dots & 0 \\ 0 & {\hat{π}}_{2} (1 - {\hat{π}}_{2}) & \dots & 0 \\ ⋮ & ⋮ & ⋱ & ⋮ \\ 0 & 0 & \dots & {\hat{π}}_{n} (1 - {\hat{π}}_{n}) \end{matrix}]

$\textbf{X = }\begin{bmatrix} 1 & x_{1,1} & \ldots & x_{1,p} \\ 1 & x_{2,1} & \ldots & x_{2,p} \\ \vdots & \vdots & \ddots & \vdots \\ 1 & x_{n,1} & \ldots & x_{n,p} \end{bmatrix} \ \ \ \ \textbf{V = } \begin{bmatrix} \hat{\pi}_{1}(1 - \hat{\pi}_{1}) & 0 & \ldots & 0 \\ 0 & \hat{\pi}_{2}(1 - \hat{\pi}_{2}) & \ldots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \ldots & \hat{\pi}_{n}(1 - \hat{\pi}_{n}) \end{bmatrix}$

যেখানে মান জন্য তম পরিবর্তনশীল তম পর্যবেক্ষণ এবং পূর্বাভাস সম্ভাব্যতা পর্যবেক্ষণ জন্য প্রতিনিধিত্ব করে । $x_{i,j}$ $j$ $i$ $\hat{\pi}_{i}$ $i$

কোভেরিয়েন্স ম্যাট্রিক্স এরপরে পাওয়া যাবে: এবং হিসাবে স্ট্যান্ডার্ড ত্রুটি $\Sigma = \textbf{(X}^{T}\textbf{V}\textbf{X)}^{-1}$ $SE(x^T\beta) = \sqrt{Var(x^T\beta)}$

পূর্বাভাসযুক্ত সম্ভাবনার 95% আস্থা অন্তরগুলি তখন হিসাবে প্লট করা যেতে পারে

ডেল্টা পদ্ধতির আস্থা অন্তর

পদ্ধতির হ'ল ফাংশন লিনিয়ার সান্নিধ্যের বৈচিত্র্য গণনা করা এবং এটি বৃহত নমুনা আত্মবিশ্বাসের অন্তরগুলি তৈরি করতে ব্যবহার করুন। $F$

Var [F (x^{T} \hat{β})] \approx \nabla F^{T} Σ \nabla F

$\text{Var}[F\mathbf{(x^T \hat \beta)}] \approx \nabla F^T \ \Sigma \ \nabla F$

যেখানে হল গ্রেডিয়েন্ট এবং আনুমানিক কোভেরিয়েন্স ম্যাট্রিক্স। একটি মাত্রায় নোট করুন: $\nabla$ $\Sigma$

\frac{\partial F (x β)}{\partial β} = \frac{\partial F (x β)}{\partial x β} \frac{\partial x β}{\partial β} = x f (x β)

$\frac{\partial F(x\beta)}{\partial \beta} = \frac{\partial F(x\beta)}{\partial x\beta} \frac{\partial x\beta}{\partial \beta} = x f(x\beta)$

যেখানে এর ডেরাইভেটিভ । এটি মাল্টিভারিয়েট ক্ষেত্রে সাধারণীকরণ করে $f$ $F$

Var [F (x^{T} \hat{β})] \approx f^{T} x^{T} Σ x f

$\text{Var}[F\mathbf{(x^T \hat \beta)}] \approx f^T \ \mathbf{x^T} \ \Sigma \ \mathbf{x} \ f$

আমাদের ক্ষেত্রে F হ'ল লজিস্টিক ফাংশন (যা আমরা ) যার ডাইরিভেটিভ $\pi(x^T\beta)$

π^{'} (x^{T} β) = π (x^{T} β) (1 - π (x^{T} β))

$\pi'(x^T\beta) = \pi (x^T\beta) (1 - \pi (x^T\beta) )$

আমরা এখন উপরের গণনা করা ভেরিয়েন্স ব্যবহার করে একটি আত্মবিশ্বাসের ব্যবধান তৈরি করতে পারি।

C . I . = [P r (x \hat{β}) - z^{*} \sqrt{Var [π (x \hat{β})]} \leq P r (x \hat{β}) + z^{*} \sqrt{Var [π (x \hat{β})]}]

$C.I. = [Pr(x\hat \beta) - z^* \sqrt{\text{Var}[ \pi(x \hat \beta) ]} \leq Pr(x\hat \beta) + z^* \sqrt{\text{Var}[ \pi(x \hat \beta) ]} ]$

মাল্টিভারিয়েট ক্ষেত্রে ভেক্টর আকারে

C . I . = [π (x^{T} \hat{β}) \pm z^{*} \sqrt{{(π (x^{T} \hat{β}) (1 - π (x^{T} \hat{β})))}^{T} x^{T} Var [\hat{β}] x π (x^{T} \hat{β}) (1 - π (x^{T} \hat{β}))]}

$C.I. = \mathbf{[\pi(x^T\hat \beta) \pm z^* \sqrt{ \left(\pi(x^T \hat \beta) (1 - \pi(x^T \hat \beta) ) \right)^T x^T \ \ \text{Var}[ \hat \beta] \ \ x \ \ \pi(x^T \hat \beta) (1 - \pi(x^T \hat \beta) ) ]}}$

নোট করুন যে in , অর্থাৎ ডিজাইনের ম্যাট্রিক্স একক সারি $\mathbf{x}$ $\mathbb{R}^{p+1}$ $X$

একটি মুক্ত সমাপ্তি উপসংহার

সম্ভাব্যতা এবং নেতিবাচক লগ প্রতিক্রিয়া উভয়ের জন্য সাধারণ কিউকিউ প্লটগুলিতে এক নজরে দেখা যায় যে দুটি সাধারণত বিতরণ করা হয় না। এই পার্থক্য ব্যাখ্যা করতে পারে?

উৎস:

— জাভিয়ের বোয়ারেট সিকোত্তে
সূত্র

1

এই পৃষ্ঠায় লগ রূপান্তর প্রসঙ্গে আলোচিত হিসাবে বেশিরভাগ উদ্দেশ্যে সবচেয়ে সহজ উপায় সম্ভবত সবচেয়ে ভাল । আপনার নির্ভরশীল ভেরিয়েবলটি লগইট স্কেলে বিশ্লেষণ করা হিসাবে বিবেচনা করুন, পরিসংখ্যানগত পরীক্ষাগুলি করা হয়েছে এবং সেই লগিট স্কেলের উপর আত্মবিশ্বাসের বিরতি (সিআই) সংজ্ঞায়িত হয়েছে। বিজোড় অনুপাতের পিছনে রূপান্তরটি কেবল সেই ফলাফলগুলিকে এমন একটি স্কেলে রাখা হয় যা পাঠক আরও সহজেই বুঝতে পারে sp এটিও করা হয়, উদাহরণস্বরূপ, কক্স বেঁচে থাকার বিশ্লেষণে, যেখানে বিপজ্জনক সহগ (এবং 95% সিআই) বিপদ অনুপাত এবং তাদের সিআই অর্জনের জন্য ক্ষয়ক্ষতি হয়।

— EDM
সূত্র

লজিস্টিক রিগ্রেশন থেকে বিজোড় অনুপাতের জন্য একটি আত্মবিশ্বাসের ব্যবধান উত্পাদন করার বিভিন্ন উপায়

আইএসএল-এর একটি উদাহরণের সাথে আস্থাভিত্তিক ব্যবস্থাগুলির তুলনা

ওয়াল্ড / শেষ পয়েন্ট রূপান্তর অন্তর

স্ট্যান্ডার্ড ত্রুটি গণনা করা হচ্ছে

ডেল্টা পদ্ধতির আস্থা অন্তর

একটি মুক্ত সমাপ্তি উপসংহার