A'A এবং AA 'সূত্রগুলির শর্ত সংখ্যা

9

এটি দেখানো হয়েছে (ইউসুফ সাদ, বিচ্ছিন্ন রৈখিক সিস্টেমের Iterative পদ্ধতি , পৃষ্ঠা 260) যা $cond(A'A) \approx cond(A)^2$

এটি কি সত্য? $AA'$ যেমন?

ক্ষেত্রে $A$ হয় $N\times M$ সঙ্গে $N \ll M$ , আমি এটা পর্যবেক্ষণ $cond(A'A) \gg cond(AA')$

এর নিরিখে শর্তাবলী গঠনের অর্থ কি? $AA'$ এই ক্ষেত্রে ভাল?

linear-algebra condition-number

2

আপনি দুটি ম্যাট্রিকের শর্ত সংখ্যাটি বিস্তৃত আকারের সাথে তুলনা করছেন। কেন ব্যাখ্যা না করে মনে হয় যে তুলনা সম্ভবত অর্থবহ নয়। অবশ্যই, যদি আপনি আরও ছোট ম্যাট্রিক্স ব্যবহার করে যা প্রয়োজন তা অর্জন করতে পারেন তবে আপনার উচিত (কন্ডিশনারটি একই রকম হলেও)।

— ডেভিড কেচসন

1

নীচে স্টেফানো এম এর নতুন উত্তরটি সঠিক। এটি পড়ুন এবং এটি ভোট দিন।

— ডেভিড কেচসন

6

যদি $A\in\mathbb{R}^{N\times M}$ সঙ্গে $N<M$ তাহলে

r a n k (A^{T} A) = r a n k (A A^{T}) = r a n k (A) \leq N < M

$\mathop{\mathrm{rank}}(A^TA) = \mathop{\mathrm{rank}}(AA^T) = \mathop{\mathrm{rank}}(A) \leq N < M$ যাতে

A^{T} A \in R^{M \times M}

$A^TA \in \mathbb{R}^{M\times M}$ পূর্ণ পদমর্যাদায় হতে পারে না , অর্থাত্ এটি একবচন।

সেই অনুযায়ী শর্ত নম্বরটি number $\kappa_2(A^TA)=\infty$ । সুনির্দিষ্ট নির্ভুল গণিতের কারণে, আপনি cond(A'A)যদি মাতলাবে গণনা করেন তবে আপনি একটি বৃহত সংখ্যা পাবেন, না Inf।

— স্টেফানো এম
সূত্র

@ অস্কারবি: এর একক মান

A

$A$ ঠিক আছে

N

$N$ , এর মতো কোনও জিনিস নেই

M

$M$ একক মান! আপনার ডেরাইভেশনটি সঠিক, তবে দয়া করে নোট করুন if

σ_{i}

$\sigma_i$ ,

i = 1 \dots N

$i=1\dots N$ এসভি এর হয়

A

$A$ তাহলে

S S^{T} = d i a g (σ_{1}^{2}, \dots, σ_{n}^{2})

$SS^T=\mathop{\mathrm{diag}}(\sigma_1^2,\dots,\sigma_n^2)$ যখন,

S^{T} S = d i a g (σ_{1}^{2}, \dots, σ_{n}^{2}, 0, \dots, 0)

$S^TS = \mathop{\mathrm{diag}}(\sigma_1^2,\dots,\sigma_n^2, 0, \dots, 0)$ সঙ্গে

M - N

$M-N$ পিছনে শূন্য।

— স্টিফানো এম

8

ভাল, এর কারণ দেখুন $A^TA$ প্রায় স্কোয়ার কন্ডিশনের সংখ্যা রয়েছে $A$ । এর এসভিডি পচন ব্যবহার করে $A=USV^T$ , সঙ্গে $U \in \mathbb{R}^{N \times N}$ , $S \in \mathbb{R}^{N \times M}$ , $V \in \mathbb{R}^{M \times M}$ , আমরা প্রকাশ করতে পারেন $A^T A$ যেমন

$A^T A=(USV^T)^T USV^T=VS^T U^T U S V^T=V S^T S V^T$

যা আমরা লক্ষ্য করে এখানে পৌঁছেছি $U$ অরথনরমাল, যেমন $U^T U=I$ । আরও আমরা নোট $S$ একটি তির্যক ম্যাট্রিক্স, যেমন চূড়ান্ত পচন $A^TA$ হিসাবে প্রকাশ করা যেতে পারে $V S^2 V^T$ , সঙ্গে $S^2$ অর্থ $S^T S$ , থেকে প্রথম এন একক মানগুলির সাথে একটি তির্যক ম্যাট্রিক্স উপস্থাপন করা হচ্ছে $S$ তির্যক মধ্যে স্কোয়ার। এর অর্থ হল যেহেতু শর্ত সংখ্যাটি প্রথম এবং শেষ একবাক্য মানের অনুপাত, $cond(A)=\frac{s_1}{s_N}$ জন্য $A \in \mathbb{R}^{N \times M}$ ,

$cond(A^T A)=\frac{s_1^2}{s_M^2}=(\frac{s_1}{s_M})^2=cond(A)^2$

এখন, আমরা একই অনুশীলনটি সম্পাদন করতে পারি $AA^T$ :

$AA^T=USV^T (USV^T)^T=USV^T V S^T U^T=U S^2 U^T$

যার অর্থ আমরা ফল পাই $cond(AA^T)=\frac{s_1^2}{s_N^2}$ , থেকে $S^2$ এখানে মানে $SS^T$ উপরের স্বরলিপি থেকে একটি সূক্ষ্ম পার্থক্য।

তবে লক্ষণীয় যে সূক্ষ্ম পার্থক্য! জন্য $A^TA$ , শর্ত সংখ্যাটির ডিনোমিনেটরে আরও বেশি মান রয়েছে sing $AA^T$ N'th একক মান আছে। আপনি শর্ত সংখ্যায় উল্লেখযোগ্য পার্থক্য কেন দেখছেন তা এটি ব্যাখ্যা করে - $AA^T$ প্রকৃতপক্ষে তুলনায় "ভাল কন্ডিশনার" হবে $A^TA$ ।

তবুও, ডেভিড কেচসন সঠিক ছিলেন - আপনি দুটি পৃথক পৃথক ম্যাট্রিকের মধ্যে শর্ত সংখ্যা তুলনা করছেন। বিশেষত, আপনি যা অর্জন করতে পারেন $A^TA$ আপনি যা অর্জন করতে পারেন তার মতো হবে না $AA^T$ ।

— OscarB
সূত্র

এটি একটি দুর্দান্ত ব্যাখ্যা! আমি পার্থক্য এখন স্পষ্টভাবে দেখতে। ম্যাট্রিক্স এ সাধারণ সমীকরণ তৈরি করতে ব্যবহৃত হয় এবং সামান্য পরিবর্তন সহ আপনি এটিকে সূচনা করতে পারেন

A A^{'}

$AA'$ শাস্ত্রীয় নয়

A^{'} A

$A'A$ । সাধারণ সমীকরণগুলি সমাধান না করে এলএসকিউআর এর মতো সলভার ব্যবহার করা সুবিধাজনক কিনা আপনি কি তা বলতে পারেন? যেহেতু এলএসকিউআর এই পণ্যটি তৈরি করার প্রয়োজন হয় না।

— আলেকজান্ডার

খুশী হয়ে গেল তা বুঝে। সাধারণভাবে, আপনার সমস্যার কন্ডিশনিং বিবেচনা করা উচিত। তবে, যদি এটি কোনও সমস্যা না হয় তবে সমস্যার আকারের (অন্যান্য বিষয়ের মধ্যে) উপর নির্ভর করে আপনি সাধারণ সমীকরণ / কিউআর-ফ্যাক্টরীকরণ (এ এর) / এলএসকিউআর ব্যবহার করতে পারেন। আপনার সমস্যাটি বড় বা অসুস্থ না হলে আমি সম্ভবত কিউআর-ফ্যাক্টেরাইজেশন প্রয়োগ করব, তবে আপনি যে সমস্যার সমাধান করার চেষ্টা করছেন তা সম্পর্কে আরও জ্ঞান ছাড়াই এটি বলা শক্ত। আমি নিশ্চিত যে আরও অভিজ্ঞতার সাথে অন্যরা আরও বিশদ পরামর্শ প্রদান করতে পারে।

— অস্কারব

এ নিজেই অসুস্থ শর্তযুক্ত (শর্ত সংখ্যা সহ)

\approx 10^{7}

$\approx 10^7$ ), ঘন এবং বড়। কিউআর কোনও বিকল্প নয়। এটি শর্তহীন হওয়ার কারণে আমাকে যাইহোক কিছু নিয়মিতকরণ করতে হবে ula এখন সাধারণ তিকনভ নিয়মিতকরণ যথেষ্ট বলে মনে হচ্ছে। মুল বক্তব্যটি যদি তা হয়

c o n d (A) < c o n d (A A^{T}) < c o n d (A^{T} A)

$cond(A) < cond(AA^T) < cond(A^T A)$ (আমার ক্ষেত্রে

N < M

$N < M$ ) তারপরে এলএসকিউআর ব্যবহার করা সর্বদা পছন্দনীয় বলে মনে হয় যেহেতু আপনার কোনও পণ্য গঠনের দরকার নেই। প্রশ্নটি হল যদি সাধারণ সমীকরণ এবং এলএসকিউআর দিয়ে প্রাপ্ত সমাধানগুলি অভিন্ন হয়?

— আলেকজান্ডার

ঠিক আছে, আমি যেমন এটি বুঝতে পারি, এলএসকিউআর সঠিকভাবে নির্ভুলভাবে "অসীম অনেকগুলি" পুনরাবৃত্তির পরে সাধারণ সমীকরণের জন্য একটি অভিন্ন সমাধান সরবরাহ করবে। যাইহোক, অসুস্থ-পোজ সমস্যাগুলির জন্য, সাধারণ সমীকরণের সমাধানটি আপনি চান তা নয়। পরিবর্তে, আপনি আধা পুনর্বিবেচনা অর্জন না হওয়া পর্যন্ত পুনরাবৃত্তি করতে LSQR ব্যবহার করতে চান to তবে, অসুস্থ-পোজযুক্ত সমস্যায় পুনরাবৃত্ত অ্যালগরিদমগুলি নিয়ন্ত্রণ করা পুরো অন্যান্য বল-খেলা। এছাড়াও, আপনার ম্যাট্রিক্স-ভেক্টর পণ্যের দাম এবং প্রয়োজনীয় পুনরাবৃত্তির সংখ্যার (এবং এইভাবে ম্যাটভেকস) উপর নির্ভর করে, বিডিয়াগোনালাইজেশন সহ একটি সরাসরি টিখনোভ সমাধান আরও ভাল হতে পারে।

— অস্কারব

অসাধারণ ব্যাখ্যা। +1 আপনার জন্য স্যার!

— meawoppl

2

যে দাবি $\DeclareMathOperator{\cond}{cond} \cond A^2 \approx \cond A^T A$ (স্কোয়ার ম্যাট্রিকের জন্য) ~~প্রশ্নে এবং~~ [সম্পাদনা: আমি ভুল লেখি] আর্টানের উত্তরটি বোকামি। পাল্টা-উদাহরণস্বরূপ

A = (\begin{matrix} ϵ & 1 \\ 0 & ϵ \end{matrix}), ϵ ≪ 1

$\newcommand\bigO{\mathcal{O}}A = \begin{pmatrix} \epsilon & 1 \\ 0 & \epsilon \end{pmatrix}, \quad \epsilon \ll 1$

যার জন্য আপনি সহজেই এবং । $\cond A^T A = \bigO(\epsilon^{-4})$ $\cond A^2 = \bigO(\epsilon^{-2})$

— জেড ব্রাউন
সূত্র

ঠিক আছে যে চাপে ঠিক আছে যে এগ্রি, এসভিডিএস, কনড সংখ্যা সম্পর্কে সাধারণভাবে এবং খুব আলাদা নয় তবে আমার মতে প্রশ্নের দাবী ।

A^{2}

$A^2$

A^{T} A

$A^T A$

[c o n d (A)]^{2}

$[\mathrm{cond}(A)]^2$

— স্টেফানো এম

@ স্টেফানোএম ধন্যবাদ, মনে হচ্ছে আমি ভুলভাবে পড়েছি, যদিও আলোচনা থেকে কেবল এটিই ছিল না।

— জেদ ব্রাউন

1

সঠিক গাণিতিক কনডে (A ^ 2) = কনড (A'A) = কনড (এএ '), যেমন দেখুন। গোলুব এবং ভ্যান anণ, তৃতীয় সংস্করণ, পি 70। এটি যদি প্রায় র‌্যাঙ্কের ঘাটতি হয় তবে ভাসমান পয়েন্ট গণিতের ক্ষেত্রে এটি সত্য নয়। সর্বোত্তম পরামর্শ হ'ল ন্যূনতম বর্গ সমস্যাগুলি সমাধান করার সময় উপরের বইয়ের রেসিপিগুলি অনুসরণ করা, সবচেয়ে নিরাপদ হচ্ছে এসভিডি পদ্ধতির, পি 257। এসভিডি গণনার সময় পরিবর্তে \ ওয়ারেপসিলন-র‌্যাঙ্ক ব্যবহার করুন, যেখানে mat ওয়ার্পসিলন আপনার ম্যাট্রিক্স ডেটার রেজোলিউশন।

— Artan
সূত্র

আমি দুঃখিত, আমি গোলুব এবং ভ্যান 3rdণ তৃতীয় এডি পি এর দিকে চেয়েছিলাম। 70, এবং কনড (A ^ 2) = কনড (এ ^ টিএ) = কনড (এএ ^ টি) এর ব্যাক আপ করার মতো কোনও কিছুই খুঁজে পেল না। আপনি কি আপনার রেফারেন্সের সাথে আরও সুনির্দিষ্ট হতে পারেন?

— অস্কারব

এখানে কোনও বিবৃতি নেই, তবে আপনি উপপাদ্যটি ২.০.২ এবং সিউডোইনভারস, বিভাগ ৫.৫.৪ থেকে কনড (এএ ') = কনড (এ'এ) থেকে প্রাপ্ত করতে পারেন। যে কারণটি আমি সিউডোইনভারস গ্রহণ করি তা হ'ল হাতে ন্যূনতম স্কোয়ার সমস্যার জন্য এটি matters কনডের পরে সমতা (A after 2) প্রায় \ প্রায় হওয়া উচিত, টাইপোর জন্য দুঃখিত।

— আর্টান

না, এই উত্তরটি সম্পূর্ণ ভুল। আমার পাল্টা উদাহরণ দেখুন।

— জেদ ব্রাউন

সাদ অবশ্যই কিছু নির্দিষ্ট প্রসঙ্গে এই জাতীয় বিন্দু তৈরি করেছেন। হাতের কাছে প্রশ্নের জন্য যা প্রাসঙ্গিক তা হ'ল অগ্রণী যুক্তি।

— আর্টান