একটি ইতিবাচক নির্দিষ্ট প্রতিসাম্য (covariance) ম্যাট্রিক্স এর বিপরীতে মোকাবেলা?

27

পরিসংখ্যান এবং এর বিভিন্ন অ্যাপ্লিকেশনগুলিতে আমরা প্রায়শই কোভেরিয়েন্স ম্যাট্রিক্স গণনা করি যা বিভিন্ন ব্যবহারের জন্য ইতিবাচক সুনির্দিষ্ট (বিবেচিত ক্ষেত্রে) এবং প্রতিসাম্যিক। কখনও কখনও, আমাদের বিভিন্ন গণনাগুলির জন্য এই ম্যাট্রিক্সের বিপরীত প্রয়োজন (উদাহরণস্বরূপ, কেন্দ্রের ম্যাট্রিক্স হিসাবে এই বিপরীতের সাথে চতুর্ভুজ আকার)। এই ম্যাট্রিক্সের গুণাবলী এবং উদ্দেশ্যে ব্যবহারগুলি দেওয়া, আমি অবাক:

সংখ্যার স্থায়িত্বের দিক থেকে, গণনা বা ব্যবহার সম্পর্কে যাওয়ার উপায়টি কী সেরা (সাধারণভাবে চতুষ্কোণ রূপগুলি বা ম্যাট্রিক্স-ভেক্টর গুণনের জন্য বলি) এই বিপরীতটি কী? কিছু ফ্যাক্টরীকরণ যা কাজে আসতে পারে?

linear-algebra matrix

— বেঞ্জামিন অ্যালাভিয়াস
সূত্র

14

কোলেস্কি ফ্যাক্টেরাইজেশন এর উপরের ত্রিভুজাকার ম্যাট্রিক্স এর সাথে বিপরীত কোলেস্কির মতো ফ্যাক্টেরাইজেশন হয় । $C=R^TR$ $C^{-1}=SS^T$ $S=R^{-1}$

অনুশীলনে, বিপরীত ঘটনাযুক্ত রাখাই ভাল। তাহলে বিক্ষিপ্ত তাহলে এটি সাধারণত আরও ভাল রাখা , অন্তর্নিহিত ম্যাট্রিক্স-ভেক্টর পণ্য হিসেবে দুই ত্রিদলীয় সিস্টেম সমাধান করে নির্ণিত করা যেতে পারে এবং । $R$ $S$ $y=C^{-1}x$ $R^Tz=x$ $Ry=z$

— আর্নল্ড নিউমায়ার
সূত্র

25

যখন আপনি কোনও কোভারিয়েন্স ম্যাট্রিক্সের সাথে কাজ করছেন তখন কোনও কোলেস্কি ফ্যাক্টরিয়েশন সর্বাধিক স্থিতিশীলতা এবং গতির জন্য সার্থক করে তোলে, যেহেতু কোভারিয়েন্স ম্যাট্রিক্স ইতিবাচক অর্ধ-নির্দিষ্ট প্রতিসাম্য মেট্রিক্স হবে। কোলেস্কি এখানে একটি প্রাকৃতিক। কিন্তু ...

যদি আপনি কোনও কোভেরিয়েন্স ম্যাট্রিক্স গণনা করার আগে কোনও কোলেস্কি ফ্যাক্টেরাইজেশন গণনা করতে চান তবে নিজেকে একটি উপকার করুন। আপনার ম্যাট্রিক্সের কিউআর ফ্যাক্টেরাইজেশন গণনা করে সমস্যাটিকে সর্বাধিক স্থিতিশীল করুন। (একটি কিউআরও দ্রুত।) এটি হ'ল আপনি যদি কোভারিয়েন্স ম্যাট্রিক্স হিসাবে গণনা করেন

C = A^{T} A

$C = A^{T} A$

যেখানে এর কলামটির অর্থ মুছে ফেলা হয়েছে, তারপরে আপনি যখন গঠন করবেন তখন এটি শর্ত সংখ্যাটি বর্গাকার করে দেখুন। সুতরাং ভালো কিউ কারণের গঠন হয় স্পষ্টভাবে একটি Cholesky গুণকনির্ণয় কম্পিউটিং বদলে । $A$ $C$ $A$ $A^{T}A$

A = Q R

$A = QR$

যেহেতু প্রশ্ন অরথগোনাল,

\begin{aligned} C & = (Q R)^{T} Q R \\ = R^{T} Q^{T} Q R \\ = R^{T} I R \\ = R^{T} R \end{aligned}

$\begin{align} C &= (QR)^{T} QR \\ &= R^T Q^T QR \\ &= R^T I R \\ &= R^{T} R \end{align}$

এইভাবে আমরা কিউআর ফ্যাক্টেরাইজেশন থেকে সরাসরি আকারে কোলেস্কি ফ্যাক্টরটি পাই । যদি কোনও -less QR factorization উপলভ্য হয় তবে আপনার আরও দরকার নেই বলে এটি আরও ভাল । একটি থেকে অ কিউ, গনা ফাস্ট জিনিস উত্পন্ন করা হয় না। এটি কেবল গৃহস্থালি রূপান্তরগুলির একটি ক্রম হয়ে ওঠে। (একটি কলাম pivoted, অ কিউ কথাটি আরও বেশি স্থিতিশীল, কিছু অতিরিক্ত কাজ pivots চয়ন করতে খরচে হবে।) $R^{T}$ $Q$ $Q$ $Q$ $Q$ $Q$

এখানে কিউআর ব্যবহারের দুর্দান্ত গুণটি হ'ল এটি ন্যক্কারজনক সমস্যাগুলির জন্য অত্যন্ত সংখ্যাগত স্থিতিশীল। আবার, এটি কারণ কারণ আমাদের কখনও কোলেস্কি ফ্যাক্টর গণনা করার জন্য সরাসরি কোভেরিয়েন্স ম্যাট্রিক্স তৈরি করতে হয়নি। আপনি পণ্যটি তৈরি করার সাথে সাথে আপনি ম্যাট্রিক্সের শর্ত সংখ্যাটি বর্গক্ষেত্র করেন। কার্যকরভাবে, আপনি সেই ম্যাট্রিক্সের সেই অংশগুলিতে তথ্য হারাবেন যেখানে আপনার কাছে শুরুতে খুব কম তথ্য ছিল। $A^{T}A$

শেষ অবধি, অন্য একটি প্রতিক্রিয়া হিসাবে উল্লেখ করা হয়েছে, আপনার এমনকি বিপরীত গণনা এবং সংরক্ষণ করার প্রয়োজন নেই, তবে এটি ত্রিভুজাকার সিস্টেমে ব্যাকস্লাভ আকারে স্পষ্টভাবে ব্যবহার করুন।

— pentavalentcarbon
সূত্র

5

C^{- 1}

$C^{-1}$

⟨ x, C^{- 1} x ⟩ = ⟨ x, (R^{T} R)^{- 1} x ⟩ = ‖ R^{- T} x ‖^{2}

$\langle x,C^{-1}x\rangle = \langle x,(R^T R)^{-1}x\rangle = \|R^{-T}x\|^2$

3

আমি গণিতের পরামর্শ ব্যবহার করে সম্প্রতি প্রথম প্রথম এটি করেছি।

আমার মনে হয় বেশিরভাগের দ্বারা এসভিডি সুপারিশ করা হয়েছিল, তবে আমি কোলেস্কির সরলতার পক্ষে বেছে নিয়েছি:

যদি ম্যাট্রিক্স , তবে আমি কে কোলেস্কি ব্যবহার করে ত্রিভুজাকার ম্যাট্রিক্স পঁচিয়ে ফেলছি, যেমন । আমি তখন (কিনা আমি এল চয়ন উপর নির্ভর করে ঊর্ধ্ব বা নিম্ন ত্রিকোণ হতে) backsubstitution বা forwardsubstitution ব্যবহার করেন, বিপরীতমুখী করার , এই ধরনের যে আমি আছে । এই থেকে, আমি তাড়াতাড়ি নিরূপণ করতে পারেন । $M = A A^\top$ $M$ $L$ $M = L L^\top$ $L$ $L^{-1}$ $M^{-1} = \left(L L^\top\right)^{-1} = L^{-\top}L^{-1}$

শুরু করা:

$M = A A^\top$ , যেখানে পরিচিত এবং স্পষ্টভাবে প্রতিসাম্যযুক্ত এবং এটি ইতিবাচক-সুনির্দিষ্ট। $M$

কোলেস্কি ফ্যাক্টরিয়েশন:

$M \rightarrow L L^\top$ , যেখানে বর্গক্ষেত্র এবং অ-একবিন্দু $L$

ফিরে প্রতিস্থাপন:

$L \rightarrow L^{-1}$ , সম্ভবত বিপরীতমুখী করার দ্রুততর উপায় হল (যে যদিও আমাকে উদ্ধৃত না) $L$

গুণ:

$M^{-1} = \left(L L^\top\right)^{-1} = L^{-\top} L^{-1}$

স্বরলিপি ব্যবহৃত: নিম্ন সূচকগুলি সারি, উপরের সূচকগুলি কলাম এবং হ'ল of এর স্থানান্তর $L^{-\top}$ $L^{-1}$

আমার কোলেস্কি অ্যালগরিদম (সম্ভবত সংখ্যার রেসিপি বা উইকিপিডিয়া থেকে)

$L_i^j = \frac{M_i^j - M_i \cdot M_j}{M_i^i - M_i \cdot M_i}$

এটি প্রায় স্থানে করা যেতে পারে (আপনার কেবল তির্যক উপাদানগুলির জন্য অস্থায়ী স্টোরেজ প্রয়োজন, একটি সঞ্চালক এবং কিছু পূর্ণসংখ্যার পুনরাবৃত্তকারী)।

আমার ব্যাক-প্রতিস্থাপনের অ্যালগরিদম (সংখ্যার রেসিপিগুলি থেকে, তাদের সংস্করণটি পরীক্ষা করুন কারণ আমি ল্যাটেক্স মার্কআপের সাথে ভুল করে ফেলেছি)

$\left(L^{-1}\right)_i^j = \left\{\begin{array}{11} 1 / {L_i^i} & \mbox{if } i = j\\ \left(-L_i \cdot \left(L^{-T}\right)_j\right) / L_i^i & \mbox{otherwise} \end{array}\right.$

যেমন the এক্সপ্রেশনটিতে উপস্থিত হয়, আপনি ম্যাট্রিক্সের উপর পুনরাবৃত্তি করার ক্রমটি গুরুত্বপূর্ণ (ফলাফল ম্যাট্রিক্সের কিছু অংশ এটির অন্যান্য অংশের উপর নির্ভর করে যা আগেই গণনা করতে হবে)। কোডটিতে একটি সম্পূর্ণ উদাহরণের জন্য সংখ্যাযুক্ত রেসিপি কোডটি চেক করুন। [সম্পাদনা]: আসলে, কেবল সংখ্যার রেসিপি উদাহরণ পরীক্ষা করে দেখুন check আমি বিন্দু-পণ্য ব্যবহার করে অত্যধিক সরলকরণ করেছি, এই বিন্দুতে যে উপরোক্ত সমীকরণটি একটি চক্রীয় নির্ভরতা পেয়েছে আপনি কোনও আদেশই পুনরুক্ত করেন না কেন ... $L^{-T}$

— মার্ক কে কোয়ান
সূত্র

2

আপনি যদি জানেন যে ম্যাট্রিক্সের একটি বিপরীত রয়েছে (যেমন, এটি যদি ইতিবাচক সুনির্দিষ্ট হয়) এবং যদি এটি খুব বড় না হয় তবে কোলেস্কি পচন একটি ম্যাট্রিক্সের বিপরীত বৈশিষ্ট্যযুক্ত করার জন্য একটি উপযুক্ত উপায় দেয়।

— ওল্ফগ্যাং ব্যাঙ্গারথ
সূত্র