ডেটা ম্যাট্রিক্স জন্য কি

Question

প্রদত্ত ডেটা ম্যাট্রিক্স (কলামে ভেরিয়েবল এবং সারিগুলিতে ডেটা পয়েন্ট সহ) এর জন্য মনে হয় যে পরিসংখ্যানগুলিতে গুরুত্বপূর্ণ ভূমিকা পালন করে। উদাহরণস্বরূপ, এটি সাধারণ ন্যূনতম স্কোয়ারগুলির বিশ্লেষণাত্মক সমাধানের একটি গুরুত্বপূর্ণ অঙ্গ। বা, পিসিএর জন্য, এর আইজেনভেেক্টরগুলি হ'ল ডেটার প্রধান উপাদান।এ টি$A$$A^TA$

আমি কীভাবে গণনা করব তা বুঝতে পেরেছি , তবে আমি ভাবছিলাম যে এই ম্যাট্রিক্সের প্রতিনিধিত্ব করে এমন একটি অন্তর্নিহিত ব্যাখ্যা আছে যা এর গুরুত্বপূর্ণ ভূমিকা নিয়ে যায়?$A^TA$

Comments

Stats.stackexchange.com/a/66295/919 এ বিশ্লেষণ করে কিছু অন্তর্দৃষ্টি সাধ্য হতে পারে ।

— whuber

Answer 1

জ্যামিতিকভাবে ম্যাট্রিক্স স্কেলার পণ্যগুলির ম্যাট্রিক্স (= বিন্দু পণ্য, = অভ্যন্তরীণ পণ্য) বলা হয়। বীজগণিতভাবে, একে সম-অফ-স্কোয়ারস এবং ক্রস-পণ্যগুলি ম্যাট্রিক্স ( এসএসসিপি ) বলা হয়।$\bf A'A$

এর -th তির্যক উপাদানটি সমান , যেখানে এর তম কলামের মানগুলিকে বোঝায় এবং সারি জুড়ে যোগফল। -th বন্ধ-তির্যক উপাদান তাতে রয়েছে ।∑ a 2 ( i ) a ( i ) i A ∑ i j ∑ a ( i ) a ( j $i$$\sum a_{(i)}^2$$a_{(i)}$$i$$\bf A$$\sum$$ij$$\sum a_{(i)}a_{(j)}$

এখানে অনেকগুলি গুরুত্বপূর্ণ এসোসিয়েশন সহগ রয়েছে এবং তাদের স্কোয়ার ম্যাট্রিকগুলিকে কৌণিক মিল বা এসএসসিপি-ধরণের মিল বলে:

• এসএসসিপি ম্যাট্রিক্সকে দ্বারা , নমুনার আকার বা r বিএফ এর সারিগুলির সংখ্যা , আপনি এমএসসিপি (গড়-বর্গাকার এবং ক্রস-পণ্য) ম্যাট্রিক্স পাবেন। এই সমিতি পরিমাপের জোড়ের সূত্রটি তাই (ভেক্টর এবং সাথে এর কলামগুলির একটি জোড়া )।এ ∑ x $n$$\bf A$ xy$\frac{\sum xy}{n}$$x$$y$$\bf A$

• আপনি যদি কেন্দ্রীভূত এর কলাম (ভেরিয়েবল) , তারপর হয় ছিটান (অথবা সহ-ছিটান, যদি কঠোর হতে) ম্যাট্রিক্স এবং হল সহভেদাংক ম্যাট্রিক্স। সহভেদাংক এর pairwise সূত্র সঙ্গে এবং centerted কলাম বাচক।এ ′ এ এ ′ এ / ( এন - ১ ) ∑ সি এক্স সি $\bf A$$\bf A'A$$\mathbf {A'A}/(n-1)$ গxগ$\frac{\sum c_xc_y}{n-1}$$c_x$$c_y$

• আপনি Z- যদি প্রমিত এর কলাম (বিয়োগ কলাম গড় এবং মানক চ্যুতির দ্বারা বিভক্ত করা), তারপর পিয়ারসন হয় পারস্পরিক সম্পর্ক ম্যাট্রিক্স: পারস্পরিক সম্পর্ক প্রমিত ভেরিয়েবলের জন্য সহভেদাংক হয়। পারস্পরিক সম্পর্কের pairwise সূত্র সঙ্গে এবং প্রমিত কলাম বাচক। পারস্পরিক সম্পর্ককে রৈখিকতার সহগ বলা হয়।এ ′ এ / ( এন - 1 ) ∑ z x z $\bf A$$\mathbf {A'A}/(n-1)$ zxz$\frac{\sum z_xz_y}{n-1}$$z_x$$z_y$

• যদি আপনি এর ইউনিট- স্কেল কলামগুলি (তাদের এসএস, সমষ্টিগুলির সমষ্টি 1 এ নিয়ে যান), তবে হ'ল কোসাইন মিলের ম্যাট্রিক্স। সমতুল্য pairwise সূত্র এইভাবে করছে বলে মনে হচ্ছে সঙ্গে এবং ও L2-সাধারণ কলাম বাচক । কোসিনের মিলকে অনুপাতের সহগ বলা হয়।এ ′ এ ∑ ইউ এক্স ইউ ওয়াই = ∑ এক্স $\bf A$$\bf A'A$ uxu$\sum u_xu_y = \frac{\sum{xy}}{\sqrt{\sum x^2}\sqrt{\sum y^2}}$$u_x$$u_y$

• আপনি যদি কেন্দ্রীভূত এবং তারপর unit- স্কেল এর কলাম , তারপর আবার পিয়ারসন হয় পারস্পরিক সম্পর্ক ম্যাট্রিক্স, কারণ পারস্পরিক সম্পর্ক কেন্দ্রিক ভেরিয়েবলের জন্য কোসাইন হয় 1 , 2 : Σ গ তোমার দর্শন লগ করা এক্স গ তোমার দর্শন লগ করা Y = Σ গ এক্স গ Yএ ′$\bf A$$\bf A'A$$^{1,2}$$\sum cu_xcu_y = \frac{\sum{c_xc_y}}{\sqrt{\sum c_x^2}\sqrt{\sum c_y^2}}$

এই চারটি মূল সমিতির ব্যবস্থার পাশাপাশি এটিকে শীর্ষে রাখার জন্য আসুন আমরা এর ভিত্তিতে আরও কিছু উল্লেখ করতে পারি। এগুলি কোসাইন মিলের বিকল্প হিসাবে দেখা যেতে পারে কারণ তারা সূত্রের ডিনমিনেটর থেকে এটি স্বাভাবিককরণ থেকে আলাদা গ্রহণ করে:$\bf A'A$

• এর সহগ পরিচয় [Zegers & দশ Berge, 1985] গাণিতিক আকারে তার হর হয়েছে বরং জ্যামিতিক গড় চেয়ে বলতে চাইছেন: । এটি 1 হতে পারে এবং কেবল যদিAএরতুলনা করা কলামগুলিঅভিন্ন হয়।$\frac{\sum{xy}}{(\sum x^2+\sum y^2)/2}$$\bf A$

• এর মতো অন্য ব্যবহারযোগ্য সহগকে সমতা অনুপাত বলা হয় : ।$\frac{\sum{xy}}{\sum x^2 + \sum y^2 -\sum {xy}} = \frac{\sum{xy}}{\sum {xy} + \sum {(x-y)^2}}$

• শেষ অবধি , যদি এর মানগুলি অবৈজ্ঞানিক হয় এবং কলামগুলির মধ্যে তাদের যোগফল 1 হয় (যেমন তারা অনুপাত হয়), তবে $\bf A$ হলবিশ্বস্ততাবাভট্টাচার্যসহগেরম্যাট্রিক্স।$\bf \sqrt {A}'\sqrt A$

---

একাধিক পরিসংখ্যান বা কোভেরিয়েন্স ম্যাট্রিক্স গণনা করার জন্য, যা অনেক স্ট্যাটিস্টিকাল প্যাকেজগুলি ব্যবহার করে, তথ্যকে কেন্দ্র করে বাইপাস করে এসএসসিপি ম্যাট্রিক্স এ ′ এ থেকে সরাসরি প্রস্থান করে। যাক গুলি ডেটা কলাম অঙ্কের সারি ভেক্টর হতে একজন যখন এন তথ্য সারি সংখ্যা। তারপর (1) গনা যেমন ছিটান ম্যাট্রিক্স সি = একটি ' একজন - গুলি ' গুলি / এন [সেখান সি / ( এন - 1 ) সহভেদাংক ম্যাট্রিক্স হবে]; (2) গ এর তির্যক$^1$$\bf A'A$$\bf s$$\bf A$$n$$\bf C = A'A-s's/ \it n$$\mathbf C/(n-1)$$\bf C$স্কোয়ার বিচ্যুতির পরিমাণ, সারি ভেক্টর ; (3) গণনা সম্পর্কিত ম্যাট্রিক্স আর = সি / $\bf d$ ।$\bf R=C/\sqrt{d'd}$

একজন তীব্র কিন্তু পরিসংখ্যানগতভাবে নবীন পাঠক পারস্পরিক সম্পর্কের দুটি সংজ্ঞা মিলিয়ে নিতে অসুবিধাজনক হতে পারে - "covariance" হিসাবে (যার মধ্যে নমুনা আকারের গড় হিসাবে অন্তর্ভুক্ত থাকে,ডিএফ= "এন -1"দ্বারা বিভাজন) এবং "কোসাইন" হিসাবে (যা কোনও বোঝায় না যেমন গড়)। তবে বাস্তবে পারস্পরিক সম্পর্কের প্রথম সূত্রে কোনও গড় গড় হয় না। জিনিস যে স্ট্যান্ড। বিচ্যুতি, যার মাধ্যমে জেড-মানিকরণ অর্জন করা হয়েছিল, একইডিএফদ্বারা বিভাজনের সাথে গণনা করা হয়েছিল; এবং সুতরাং সংশ্লেষ-সম-কোভেরিয়েন্স সূত্রের ডিনোমিনেটর সম্পূর্ণভাবে বাতিল করে যদি আপনি সূত্রটি মোড়ক করেন:সূত্রটি কোসাইনের সূত্রে রূপান্তরিত হয়। পরীক্ষামূলক পারস্পরিক সম্পর্কের মান গণনা করার জন্য আপনাকে n জানতেহবেনা$^2$$n$ (কেন্দ্রের সাথে গড়ের গণনা করার সময় বাদে)।

Answer 2

ম্যাট্রিক্স সমস্ত সকল কলাম ভেতরের পণ্য রয়েছে একটি । তির্যকটি এইভাবে কলামগুলির বর্গক্ষেত্রের নিয়মাবলী ধারণ করে। আপনি জ্যামিতি এবং লম্ব অনুমান কলাম দ্বারা দৃশ্যও কলাম স্থান সম্মুখের সম্পর্কে যদি মনে করেন একটি আপনি প্রত্যাহার করতে পারে যে নিয়ম ও ভেক্টর এই স্থান spanning অভ্যন্তরীণ পণ্য প্রজেকশন গণনার একটি কেন্দ্রীয় ভূমিকা পালন করে। অল্প স্কোয়ারের রিগ্রেশন পাশাপাশি মূল উপাদানগুলি অर्थোগোনাল অনুমানের ক্ষেত্রে বোঝা যায়।$A^TA$$A$$A$

আরও মনে রাখবেন যে যদি এর কলামগুলি অর্থনোর্মাল হয়, এইভাবে কলাম স্থানের জন্য একটি orthonormal ভিত্তি তৈরি করে, তবে A T A = I - পরিচয় ম্যাট্রিক্স।$A$$A^TA = I$ $-$

Answer 3

@ এনআরএইচ একটি ভাল প্রযুক্তিগত উত্তর দিয়েছে।

আপনি কিছু সত্যিই মৌলিক চান, আপনি মনে করতে পারেন ম্যাট্রিক্স সমতুল্য হিসাবে একটি 2 স্কেলের জন্য।$A^TA$$A^2$

Comments

যদিও অন্যান্য উত্তরগুলি আরও "প্রযুক্তিগতভাবে" সঠিক, এটি সবচেয়ে স্বজ্ঞাত উত্তর।

— বিড়াললভজাজ

Answer 4

জ্যামিতি একটি গুরুত্বপূর্ণ দৃশ্য এই (দৃষ্টিকোণ জোরালোভাবে এ "রৈখিক বীজগণিত এবং তার অ্যাপ্লিকেশন" স্ট্রং এর বই জোর) হল: ধরুন, একজন একটি হল মি × এন র্যাঙ্ক k এর -matrix, একটি রৈখিক মানচিত্র প্রতিনিধিত্বমূলক একটি : আর n → R মি । কর্নেল (একটি) এবং সারি (একটি) কলাম এবং সারি শূণ্যস্থান হতে দিন একটি । তারপর$A'A$$m \times n$$A: R^n \rightarrow R^m$$A$

$(A'A): R^n \rightarrow R^n$$\{e_1,..., e_n\}$$d_1,\ldots,d_k$

$(A'A)(x_1e_1 + \ldots + x_ne_n) = d_1x_1e_1 + ... + d_kx_ke_k$

(খ) পরিসর (এ) = কর্নেল (এ), কর্নেল (এ) এর সংজ্ঞা অনুসারে। সুতরাং A | সারি (A) সারি (A) কে কর্নেল (A) তে মানচিত্র করে।

$Av'= 0 \iff \text{v is in Kernel(A)} \iff v \text{is in orthogonal complement of Row(A)}$

$A(R^n)=A(\text{Row}(A))$$A|\text{Row(A)}:\text{Row(A)} \rightarrow Col(A)$

Reason: If v = r+k (r \in Row(A), k \in Kernel(A),from (c)) then
A(v) = A(r) + 0 = A(r) where A(r) = 0 <==> r = 0$.

[ঘটনাচক্রে একটি প্রমাণ দেয় যে সারি র‌্যাঙ্ক = কলাম র‌্যাঙ্ক!]

$A'|:Col(A)=\text{Row(A)} \rightarrow \text{Col(A')}=\text{Row(A)}$

$A'A(R^n) = \text{Row(A)}$

Comments

$\LaTeX$

Answer 5

$\textbf{A}^T\textbf{A}$

$\textbf{A}^T$$\textbf{A}$$row_p$$\textbf{A}^T$$col_p$$\textbf{A}$$dot(row_p, col_p)$$(p,p)$$\textbf{A}^T \textbf{A}$

$p$$\textbf{A}^T$$k$$\textbf{A}$$dot(row_p, col_k)$$(p,k)$

$(p, k)$$\textbf{A}^T\textbf{A}$$row_p$$col_k$$row_i$$col_j$$row_i$$col_j$, এবং বিপরীতভাবে.

$\textbf{A}$$i$$j \neq i$

Answer 6

$x\to E[x^2]$$A\to A^TA$

$x$$x_i$

$$a=\begin{bmatrix} x_1 \\ x_2 \\ \dots \\ x_n \end{bmatrix}$$

$x$

$$\bar{x^2}=\frac{a\cdot a} n$$ $A^TA$

$\sigma^2=E[x^2]$$A^TA$$A^TA$