ভেরিয়েবলের ভেক্টর কীভাবে হাইপারপ্লেন উপস্থাপন করতে পারে?

আমি পরিসংখ্যানগত শিক্ষার উপাদানগুলি পড়ছি এবং পৃষ্ঠা 12 (বিভাগ 2.3) এ একটি রৈখিক মডেল হিসাবে চিহ্নিত করা হয়েছে:

\hat{Y} = X^{T} \hat{β}

$\widehat{Y} = X^{T} \widehat{\beta}$

... যেখানে হ'ল ভবিষ্যদ্বাণীকারী / স্বতন্ত্র ভেরিয়েবল / ইনপুটগুলির কলাম ভেক্টর স্থানান্তর। (এটি আগে বলেছে "সমস্ত ভেক্টর কলাম ভেক্টর হিসাবে ধরে নেওয়া হয়" সুতরাং এটি কি একটি সারি ভেক্টর এবং কলাম ভেক্টর হিসাবে তৈরি করবে না?) $X^{T}$ $X^{T}$ $\widehat{\beta}$

অন্তর্ভুক্তটি হ'ল " " যা সংশ্লিষ্ট সহগের সাথে (ধ্রুবক) ইন্টারসেপ্ট দিয়ে গুণিত হবে। $X$ $1$

এটা বলতে যায়:

ইন -dimensional ইনপুট-আউটপুট স্থান, একটি hyperplane প্রতিনিধিত্ব করে। যদি ধ্রুবকটি অন্তর্ভুক্ত করা হয় , তবে হাইপারপ্লেনটি মূলটি অন্তর্ভুক্ত করে এবং এটি একটি উপগ্রহ; যদি তা না হয় তবে এটি পয়েন্টে কেটে ফেলার একটি অ্যাফাইন সেট । $(p + 1)$ $(X,\ \widehat{Y})$ $X$ $Y$ $(0,\ \widehat{\beta_0})$

" " ভবিষ্যদ্বাণীকারীদের উপসংহার, ইন্টারসেপ্টের " " এবং " " দ্বারা গঠিত কোন ভেক্টরকে বর্ণনা করে ? এবং একটি " " অন্তর্ভুক্ত করে হাইপারপ্লেনটিকে উত্সের মধ্য দিয়ে যেতে কেন বাধ্য করে, অবশ্যই " " কে ? $(X,\ \widehat{Y})$ $1$ $\widehat{Y}$ $1$ $X$ $1$ $\widehat{\beta_0}$

আমি বইটি বুঝতে ব্যর্থ; যে কোনও সহায়তা / পরামর্শ / সংস্থানসমূহের লিঙ্কগুলি খুব প্রশংসা হবে।

regression references statistical-learning

— স্কট
সূত্র

এটি প্রথমে বিবেচনা করতে সহায়তা করতে পারে । সেক্ষেত্রে, সঙ্গে পথিমধ্যে। এটি মধ্য দিয়ে যাওয়া একটি লাইনের সমীকরণ । উচ্চ মাত্রায় এক্সটেনশনগুলি তাত্ক্ষণিক।

p = 1

$p = 1$

\hat{y} = {\hat{β}}_{0} + x \hat{β}

$\hat{y} = \hat{\beta}_0 + x \hat{\beta}$

β_{0}

$\beta_0$

(0, {\hat{β}}_{0})

$(0, \hat{\beta}_0)$

— অক্টোবরে

যদি @ ক্রমের সহায়তা যথেষ্ট না হয় তবে ভেক্টরগুলি লিখে এবং গুণিত করার চেষ্টা করুন।

— পিটার ফ্লুম

এখানে একটি দুর্দান্ত গ্রাফিকাল উপস্থাপনা: blog.stata.com/2011/03/03/… । স্বরলিপিটি আলাদা, এটিতে আপনার এক্স এবং এক্স ।

\hat{β}

$\hat \beta$

— দিমিত্রি ভি। মাস্টারভ

বই হয় ভুল, বা অন্তত এটা অসঙ্গত নয়। স্পষ্টতই ভেরিয়েবলগুলি ধ্রুবক সহ নয় । এভাবে সেট "তে অন্তর্ভুক্ত প্রকৃতপক্ষে একটি hyperplane, কিন্তু এটা বলতে চাই যে ধ্রুবক ভুল ।" পরিবর্তে আমি মনে করি বইটি ধ্রুবকটি বলতে বোঝাতে বোঝায় রিগ্রেশনটিতে অন্তর্ভুক্ত থাকলেও তবুও এটি অংশ হিসাবে বিবেচনা করা উচিত নয় । সুতরাং মডেলটি সত্যই যেখানে । সেট করা অবিলম্বে ইন্টারসেপ্ট সম্পর্কে দৃ .়তা দেয়।

p

$p$

{(X, \hat{Y}) | X \in R^{p}}

$\{(X,\hat{Y})|X\in\mathbb{R}^p\}$

X

$X$

X

$X$

\hat{Y} = {\hat{β}}_{0} + X^{'} \hat{β}

$\hat{Y}=\hat\beta_0 + X'\hat\beta$

β = (β_{1}, β_{2}, \dots, β_{p})^{'}

$\beta=(\beta_1,\beta_2,\ldots,\beta_p)'$

X = 0

$X=0$

— whuber

(যদি আমরা এর পরিবর্তে ধ্রুবকটি অন্তর্ভুক্ত করি , তবে আমরা সমস্ত এর উপর অবাধে পৃথক হতে দিতে পারি না : এটি মাত্রিক উপ স্পেসের মধ্যে থাকা সীমাবদ্ধ The গ্রাফ তারপর codimension অন্তত হয়েছে এবং তাই আসলে একটি নয়) "hyperplane।"

X

$X$

X

$X$

R^{p}

$\mathbb{R}^p$

p - 1

$p-1$

{(X, \hat{Y})}

$\{(X,\hat Y)\}$

2

$2$

— whuber

উত্তর:

যাক পর্যবেক্ষণ এবং সংখ্যা হতে ব্যাখ্যামূলক ভেরিয়েবল সংখ্যা। $N$ $K$

আসলে একটি $X$ ম্যাট্রিক্স। কেবলমাত্র যখন আমরা একটি পর্যবেক্ষণ দেখি, আমরা প্রতিটি পর্যবেক্ষণকে সাধারণত হিসাবে চিহ্নিত - একটি নির্দিষ্ট পর্যবেক্ষণ স্কেলারের বর্ণনামূলক ভেরিয়েবলের সারি ভেক্টর দিয়ে গুণিত করে $N\!\times\!K$ $x_i^T$ কলাম ভেক্টর । তদ্ব্যতীত, একটি $K\!\times\!1$ $\beta$ $Y$ কলাম ভেক্টর, সমস্ত পর্যবেক্ষণ । $N\!\times\!1$ $Y_n$

এখন, দ্বি মাত্রিক হাইপারপ্লেনটি ভেক্টর এবং এর এক (!) কলামের ভেক্টরের মধ্যে বিস্তৃত হবে । মনে রাখবেন যে একটি ম্যাট্রিক্স, সুতরাং প্রতিটি ব্যাখ্যামূলক চলক ম্যাট্রিক্স ঠিক একটি কলাম ভেক্টর দ্বারা উপস্থাপিত হয় । আমাদের কাছে যদি কেবলমাত্র একটি ব্যাখ্যাযোগ্য পরিবর্তনশীল থাকে, কোনও বাধা নেই এবং , সমস্ত ডাটা পয়েন্টগুলি এবং দ্বারা বিভক্ত 2 মাত্রিক সমতল বরাবর অবস্থিত । $Y$ $X$ $X$ $N\!\times\!K$ $X$ $Y$ $Y$ $X$

একাধিক রিগ্রেশনের জন্য, এবং ম্যাট্রিক্স মধ্যে হাইপারপ্লেনের মোট কতটি মাত্রা রয়েছে ? উত্তর: যেহেতু ব্যাখ্যামূলক ভেরিয়েবলের কলামের ভেক্টর রয়েছে তাই আমাদের অবশ্যই একটি মাত্রিক হাইপারপ্লেন থাকতে হবে। $Y$ $X$ $K$ $X$ $K\!+\!1$

সাধারণত, একটি ম্যাট্রিক্স সেটিংয়ে, regাল সহগের যুক্তিসঙ্গত বিশ্লেষণের জন্য নিগ্রহের পক্ষপাতহীন হওয়ার জন্য ধ্রুবক বাধা প্রয়োজন। এই কৌশলটির সামঞ্জস্য করার জন্য, আমরা ম্যাট্রিক্স একটি কলামকে কেবল " এস" নিয়ে থাকতে বাধ্য করি। এই ক্ষেত্রে, অনুমানকারী একা দাঁড়িয়ে থাকে প্রতিটি পর্যবেক্ষণের জন্য এলোমেলো ব্যাখ্যামূলক ভেরিয়েবলের পরিবর্তে ধ্রুবক দিয়ে। গুণফল তাই এর প্রত্যাশিত মানকে প্রদত্ত যে মান 1 সহ স্থির করে রাখা হয়েছে এবং অন্য সমস্ত ভেরিয়েবল শূন্য। অতএব $X$ $1$ $\beta_1$ $\beta_1$ $Y$ $x_{1i}$ মাত্রিক হাইপারপ্লেনটি ডাইমেনশনাল সাবস্পেসেরসাথে একটি মাত্রা দ্বারা হ্রাস পেয়েছে, এবং এই মাত্রিক সমতলের"ইন্টারসেপ্ট" এর সাথে সামঞ্জস্য করে। $K\!+\!1$ $K$ $\beta_1$ $K$

ম্যাট্রিক্স সেটিংসে এটি সর্বদা পরামর্শ দেওয়া উচিত যে আমরা আমাদের ফলাফলগুলির জন্য কোনও অন্তর্দৃষ্টি পেতে পারি কিনা তা দেখার জন্য দুটি দিকের সাধারণ ক্ষেত্রে সাদাসিধে নজর রাখা উচিত। এখানে, সবচেয়ে সহজ উপায় দুই ব্যাখ্যামূলক ভেরিয়েবল সঙ্গে সহজ রিগ্রেশন মনে হল: অথবা বিকল্পভাবে ম্যাট্রিক্স বীজগণিত প্রকাশ: যেখানে হয় a

Y_{আমি} = β_{1} {এক্স}_{1 আমি} + + β_{2} {এক্স}_{2 আমি} + + {তোমার দর্শন লগ করা}_{আমি}

$y_i=\beta_1x_{1i} + \beta_2x_{2i} +u_i$

Y = X β + u

$Y=X\beta +u$

X

$X$

ম্যাট্রিক্স।

N \times 2

$N\!\times\!2$

একটি ত্রিমাত্রিক হাইপারপ্লেন ছড়িয়ে দেয়। $<Y,X>$

এখন আমরা যদি সমস্ত কে সমস্ত হতে বাধ্য করি তবে আমরা পাই: যা আমাদের সাধারণ সাধারণ রিগ্রেশন যা দ্বি মাত্রিক প্লটে প্রতিনিধিত্ব করা যেতে পারে । নোট করুন যে এখন দ্বি মাত্রিক লাইনে হ্রাস পেয়েছে - মূলত 3 টি মাত্রিক হাইপারপ্লেনের একটি উপসেট। গুণফল এ লাইন কাটারের বিরতির সাথে মিলে যায় $x_1$ $1$

Y_{আমি} = β_{1 আমি} + + β_{2} {এক্স}_{2 আমি} + + {তোমার দর্শন লগ করা}_{আমি}

$y_i=\beta_{1i} + \beta_2x_{2i} + u_i$

X, Y

$X,\ Y$

< Y, X >

$<Y,X>$

β_{1}

$\beta_1$

।

x_{2 i} = 0

$x_{2i}=0$

এটি আরও দেখানো যেতে পারে যে যখন ধ্রুবকটি অন্তর্ভুক্ত থাকে তখন এটি মধ্য দিয়েও যায় । যদি আমরা ধ্রুবকটি ছেড়ে চলে যাই তবে রিগ্রেশন হাইপারপ্লেনটি সর্বদা মধ্য দিয়ে তুচ্ছভাবে চলে যায় - সন্দেহ নেই। এটি একাধিক মাত্রায় সাধারণীকরণ করে, যেমন : প্রাপ্ত করার জন্য পরে তা দেখা যাবে $<0,\beta_1>$ $<0,0>$ $\beta$ যেহেতু সংজ্ঞা অনুসারে পূর্ণ পদ রয়েছে, , এবং তাই আমরা যদি বিরতি ছেড়ে দিই তবে রিগ্রেশন উত্সটির মধ্য দিয়ে যায়।

({এক্স}^{'} এক্স) β = {এক্স}^{'} Y ⟹ ({এক্স}^{'} এক্স) β - {এক্স}^{'} Y = 0 ⟹ {এক্স}^{'} (Y - এক্স β) = 0।

$(X'X)\beta=X'y \implies (X'X)\beta-X'y=0 \implies X'(y-X\beta)=0.$

X

$X$

y - X β = 0

$y-X\beta=0$

( সম্পাদনা: আমি ঠিক বুঝতে পেরেছি যে আপনার দ্বিতীয় প্রশ্নের জন্য এটি ঠিক আপনার বিপরীতে লিখিতভাবে নিয়মিত অন্তর্ভুক্তি বা ধ্রুবককে বাদ দেওয়া হয়েছে However তবে, আমি ইতিমধ্যে সমাধানটি এখানেই প্রস্তুত করেছি এবং আমি যদি তাতে ভুল হয়ে থাকি তবে আমি সংশোধন হয়ে দাঁড়িয়েছি। )

আমি জানি একটি রেজিস্ট্রেশনের ম্যাট্রিক্স উপস্থাপনা শুরুতে বেশ বিভ্রান্তিকর হতে পারে তবে শেষ পর্যন্ত আরও জটিল বীজগণিত প্রাপ্ত করার সময় এটি অনেক সহজ করে তোলে। আশা করি এটা কিছুটা সাহায্য করবে।

— Majte
সূত্র

আমি মনে করি এটির ভাবনার উপায় হ'ল সেই সমীকরণটি পুনরায় সাজানো:

\hat{ওয়াই} - {এক্স}^{টি} \hat{β} = 0

$\widehat{Y} - X^{T} \widehat{\beta} = 0$

একমাত্র উপায় আপনি যে রৈখিক সমীকরণ মূল অন্তর্ভুক্ত করা পাবেন পূর্বাভাস করা হয় পথিমধ্যে সমান। এবং সেই মানটি অনুমান করার উপায় হ'ল রিগ্রেশন মডেলটিতে একটি ইন্টারসেপ্ট শব্দটি অন্তর্ভুক্ত করা।

\hat{ওয়াই}

$\widehat{Y}$

— DWin
সূত্র