পুনরাবৃত্ত লিনিয়ার সলভারগুলির জন্য বন্ধের মানদণ্ডগুলি প্রায় একক সিস্টেমে প্রয়োগ করা হয়

বিবেচনা করুন সঙ্গে প্রায় একবচন যার মানে নেই একটি eigenvalue এর খুব ছোট। পুনরাবৃত্ত পদ্ধতির সাধারণ স্টপ মাপদণ্ডটি অবশিষ্টাংশ উপর ভিত্তি করে এবং পুনরাবৃত্তির প্রতি শ্রদ্ধা জানানো হয় $Ax=b$ $A$ $\lambda_0$ $A$ $r_n:=b-Ax_n$ $\|r_n\|/\|r_0\|<tol$ সঙ্গে $n$ পুনরাবৃত্তির সংখ্যা। তবে আমরা যে ক্ষেত্রে বিবেচনা করছি, সেখানেছোট এগেনভ্যালুসাথে যুক্ত ইগেনস্পেসে বাসকরা বড় ত্রুটি হতে পারেযা ছোট্ট অবশেষেদেয়। মনে করুন প্রাথমিক অবশিষ্টাংশবড় হয়, তবে এটি ঘটতে পারে আমরা stop $v$ $\lambda_0$ $Av=\lambda_0v$ $r_0$ $\|r_n\|/\|r_0\|<tol$ তবে ত্রুটি এখনও বড়। এই ক্ষেত্রে আরও ভাল ত্রুটি সূচক কি? Isভাল প্রার্থী? $x_n-x$ $\|x_{n}-x_{n-1}\|$

linear-algebra

— হুই ঝাং
সূত্র

আপনি "প্রায় একবচন" এর সংজ্ঞাটি সম্পর্কে ভাবতে চাইতে পারেন। ম্যাট্রিক্স ( এবং পরিচয় ম্যাট্রিক্স সহ) এর খুব ছোট eigenvalue রয়েছে, তবে কোনও ম্যাট্রিক্স যেমন হতে পারে তেমন একক থেকে দূরে।

I \cdot ϵ

$I \cdot \epsilon$

ϵ ≪ 1

$\epsilon\ll 1$

I

$I$

— ডেভিড কেচসন

এছাড়াও,ভুল স্বরলিপি মত মনে হচ্ছে। আরও সাধারণ, না?

| | r_{n} / r_{0} | |

$||r_n/r_0||$

| | r_{n} | | / | | r_{0} | |

$||r_n||/||r_0||$

— বিল বার্থ

হ্যাঁ, আপনি ঠিক বলেছেন, বিল! আমি এই ভুল সংশোধন করব।

— হুই ঝাং

কি সম্পর্কে? এবং আপনার অ্যালগরিদম ঠিক কি?

‖ b - A x ‖ / ‖ b ‖

$\| b - Ax \| / \| b \|$

— শুহালো

সংযোজন: আমি মনে করি যে নিম্নলিখিত কাগজটি আপনি যেসব শর্তযুক্ত সিস্টেমগুলি নিয়ে উদ্বিগ্ন তা বেশ কিছুটা ঠিকভাবে চিহ্নিত করে, কমপক্ষে আপনি যদি সিজি ব্যবহার করছেন: অ্যাক্সেলসন, কপোরিন: পূর্ব শর্তযুক্ত কনজুগেট গ্রেডিয়েন্ট পুনরাবৃত্তির ক্ষেত্রে ত্রুটির আদর্শ অনুমান এবং স্টপিংয়ের মানদণ্ড। ডিওআই: 10.1002 / এনএল .244

— শুহালো

উত্তর:

থামার মানদণ্ডটি নির্ধারণ করতে অনুগ্রহ করে পুনরাবৃত্তির মধ্যে পার্থক্যটি কখনও ব্যবহার করবেন না । এই অভিব্যক্তির জন্য স্থবিরতার ভুল ব্যাখ্যা করে। বেশিরভাগ ননসমমিত্রিক ম্যাট্রিক্স পুনরাবৃত্তি একঘেয়ে হয় না, এমনকি কোনও পুনরায় আরম্ভ না করে সঠিক গাণিতিকের GMRES হঠাৎ রূপান্তরিত হওয়ার আগে এক নির্বিচার সংখ্যক পুনরাবৃত্তি (ম্যাট্রিক্সের মাত্রা পর্যন্ত) স্থবির হতে পারে। নাচটিগাল, রেড্ডি এবং ট্র্যাফেন (1993) এর উদাহরণ দেখুন ।

একত্রিতকরণ সংজ্ঞায়নের আরও ভাল উপায়

আমরা সাধারণত অবশিষ্টাংশের আকারের চেয়ে আমাদের সমাধানের নির্ভুলতায় আগ্রহী। বিশেষত, আমরা গ্যারান্টি দিতে চাই যে আনুমানিক সমাধান এবং সঠিক সমাধান সন্তুষ্টির মধ্যে পার্থক্য কিছু ব্যবহারকারী নির্দিষ্ট । এটা পরিনত হয় যে একটি খোঁজার এই অর্জন করতে পারেন যেমন যে যেখানে ক্ষুদ্রতম একবচন মান , এর কারণে $x_n$ $x$

| x_{n} - x | < c

$|x_n - x| < c$

c

$c$

x_{n}

$x_n$

| A x_{n} - b | < c ϵ

$|A x_n - b| < c\epsilon$

ϵ

$\epsilon$

A

$A$

\begin{aligned} | x_{n} - x | & = | A^{- 1} A (x_{n} - x) | \\ \leq \frac{1}{ϵ} | A x_{n} - A x | \\ = \frac{1}{ϵ} | A x_{n} - b | \\ < \frac{1}{ϵ} \cdot c ϵ = c \end{aligned}

$\begin{align} |x_n - x| &= |A^{-1} A (x_n - x)| \\ & \le \frac 1 \epsilon |A x_n - A x| \\ & = \frac 1 \epsilon |A x_n - b| \\ & < \frac 1 \epsilon \cdot c \epsilon = c \end{align}$

যেখানে আমরা ব্যবহার করেছি যে হল (দ্বিতীয় লাইন) এর বৃহত্তম একক মান এবং সেই ঠিক (তৃতীয় লাইন) সমাধান করে। $1/\epsilon$ $A^{-1}$ $x$ $A x = b$

ক্ষুদ্রতম একক মান নির্ধারণ করা $\epsilon$

ক্ষুদ্রতম একক মানটির একটি সঠিক অনুমান সাধারণত সমস্যা থেকে সরাসরি পাওয়া যায় না, তবে এটি অনুগ্রহযোগ্য গ্রেডিয়েন্ট বা জিএমআরইএস পুনরাবৃত্তির উপ-উত্পাদন হিসাবে অনুমান করা যায়। নোট যে যদিও বৃহত্তম eigenvalues এবং একবচন মূল্যবোধের অনুমান সাধারণত মাত্র কয়েক পুনরাবৃত্তিও পর বেশ ভাল, ক্ষুদ্রতম eigen / একবচন মান সঠিক অনুমান সাধারণত শুধুমাত্র একবার অভিসৃতি উপনিত প্রাপ্ত হয়। রূপান্তর আগে, প্রাক্কলনটি সাধারণত সত্য মানের তুলনায় উল্লেখযোগ্যভাবে বড় হবে। এর মানে দাড়ায় যে আপনি আসলে সমীকরণ সমাধান করতে হবে, আপনি সঠিক সহনশীলতা বর্ণনা করতে পারেন । একটি স্বয়ংক্রিয় রূপান্তর সহনশীলতা যা ব্যবহারকারীর দ্বারা সরবরাহিত নির্ভুলতা $\epsilon$ $c\epsilon$ $c$ সমাধান এবং অনুমান ক্ষুদ্রতম একবচন মান Krylov পদ্ধতি বর্তমান অবস্থা সঙ্গে খুব তাড়াতাড়ি মিলিত পারে কারণ অনুমান সত্য মান চেয়ে অনেক বড় ছিল। $\epsilon$ $\epsilon$

উপরের আলোচনা এছাড়াও সঙ্গে কাজ করে বাম-preconditioned অপারেটর দ্বারা প্রতিস্থাপিত এবং preconditioned অবশিষ্ট বা ডান-preconditioned অপারেটর সঙ্গে এবং ত্রুটি । যদি $A$ $P^{-1}A$ $P^{-1} (A x^n - b)$ $A P^{-1}$ $P (x_n - x)$ $P^{-1}$ একটি ভাল পূর্বশর্তী, পূর্ব শর্তযুক্ত অপারেটর ভাল শর্তযুক্ত হবে। বাম-পূর্বশর্তকরণের জন্য, এর অর্থ পূর্বশর্ত শর্তগুলি ছোট করা যেতে পারে, তবে সত্যিকারের অবশিষ্টটি নাও হতে পারে। সঠিক পূর্বশর্ত করার জন্য, সহজেই ছোট করা হয় তবে সত্য ত্রুটি সম্ভবত না. এটিকে ব্যাখ্যা করা হয়েছে যে ত্রুটি ছোট করার জন্য বাম-পূর্বশর্তকরণ কেন আরও ভাল, যখন অবশিষ্ট-ছোট শর্তগুলি (এবং অস্থির পূর্বশর্তগুলি ডিবাগ করার জন্য) ডান-পূর্ববর্তীকরণ আরও ভাল। $|P(x_n - x)|$ $|x_n-x|$
জিএমআরইএস এবং সিজি দ্বারা ন্যূনতম মান সম্পর্কে আরও আলোচনার জন্য এই উত্তরটি দেখুন ।
অতিরিক্ত একক মানগুলির -ksp_monitor_singular_valueঅনুমানগুলি যে কোনও পিইটিএসসি প্রোগ্রামের সাহায্যে পর্যবেক্ষণ করা যেতে পারে । কোড থেকে একক মানগুলি গণনা করতে KSPComputeExtremeSingularValues () দেখুন ।
একক মানগুলি অনুমান করার জন্য GMRES ব্যবহার করার সময়, পুনরারম্ভগুলি ব্যবহার করা উচিত নয় (যেমন -ksp_gmres_restart 1000পিইটিএসসি তে)।

— জেড ব্রাউন
সূত্র

'' পূর্ব শর্তযুক্ত অপারেটর দ্বারা প্রতিস্থাপিত এ'র সাথেও কাজ করে '' - তবে, এটি কেবল পূর্ব শর্তযুক্ত

ক্ষেত্রে প্রযোজ্য যদি

ব্যবহার করা হয় তবে শ্রদ্ধা। পূর্ব শর্তযুক্ত ত্রুটিতে

যদি

ব্যবহার করা হয়।

P^{- 1} r

$P^{-1}r$

P^{- 1} A

$P^{-1}A$

P^{- 1} δ x

$P^{-1}\delta x$

A P^{- 1}

$AP^{-1}$

— আর্নল্ড নিউমায়ার

ভাল কথা, আমি আমার উত্তর সম্পাদনা করেছি। লক্ষ্য করুন ডান-preconditioned ক্ষেত্রে তোমাদের নিয়ন্ত্রণ দেয়

, preconditioner (আবেদন unwinding

) সাধারণত ভুলবশত কম শক্তি মোড শক্তি যোগায়।

P δ x

$P\delta x$

P^{- 1}

$P^{-1}$

— জেদ ব্রাউন

এই সমস্যাটি দেখার আরেকটি উপায় হ'ল বিযুক্ত বিপরীত সমস্যাগুলির সরঞ্জামগুলি বিবেচনা করা, এটি হ'ল সমস্যাগুলি যার মধ্যে বা সমাধান করা জড়িত যেখানে খুব মন্দ নিয়ন্ত্রিত হয় (অর্থাত প্রথম ও শেষ একবচন মানের মধ্যে অনুপাত বড়)। $Ax=b$ $\min ||Ax-b||_2$ $A$ $\sigma_1/\sigma_n$

এখানে, থামার মানদণ্ডটি বেছে নেওয়ার জন্য আমাদের বেশ কয়েকটি পদ্ধতি রয়েছে এবং পুনরাবৃত্ত পদ্ধতির জন্য আমি এল-কার্ভের মানদণ্ডটি সুপারিশ করব কারণ এটিতে কেবল ইতিমধ্যে উপলব্ধ পরিমাণের অন্তর্ভুক্ত রয়েছে (অস্বীকৃতি: আমার পরামর্শদাতা এই পদ্ধতিটির পথিকৃত করেছেন, তাই আমি অবশ্যই স্পষ্টতই পক্ষপাতদুষ্ট এটা)। আমি এটি একটি পুনরাবৃত্ত পদ্ধতিতে সাফল্যের সাথে ব্যবহার করেছি।

ধারণাটি অবশিষ্ট monitor নিরীক্ষণ করা এবং সমাধানের আদর্শ , যেখানে হল ' ' পুনরাবৃত্তি। আপনি পুনরাবৃত্তি করার সাথে সাথে এটি লগলগের (আরএইচও, এটা) প্লটে একটি এল এর আকার আঁকতে শুরু করবে এবং সেই এলের কোণায় অবস্থিত বিন্দুটি সর্বোত্তম পছন্দ। $\rho_k=||Ax_k-b||_2$ $\eta_k=||x_k||_2$ $x_k$ $k$

এটি আপনাকে এমন একটি মাপদণ্ড কার্যকর করতে দেয় যেখানে আপনি কোণটি অতিক্রম করার সময় নজর রাখেন (যেমন এর গ্রেডিয়েন্টের দিকে তাকান ) এবং তারপরে কোণে অবস্থিত পুনরাবৃত্তিকে বেছে নিতে পারেন। $(\rho_k,\eta_k)$

আমি এটি যেভাবে শেষ 20 টি পুনরুক্তি সঞ্চয় করেছিলাম এবং গ্রেডিয়েন্টটি যদি 20 ধারাবাহিক পুনরাবৃত্তির জন্য কিছু প্রান্তিকের চেয়ে বড় ছিল, আমি জানতাম যে আমি বক্ররেখার উল্লম্ব অংশে ছিলাম এবং কোণটি পেরিয়েছি। তারপরে আমি আমার অ্যারেতে প্রথম পুনরাবৃত্তিটি নিয়েছি (যেমন 20 টি পুনরাবৃত্তির আগে) আমার সমাধান হিসাবে। $abs(\frac{\log(\eta_k)-\log(\eta_{k-1})}{\log(\rho_k)-\log(\rho_{k-1})})$

কর্নার সন্ধানের জন্য আরও বিবিধ পদ্ধতি রয়েছে এবং এগুলি আরও ভাল কাজ করে তবে উল্লেখযোগ্য সংখ্যক পুনরাবৃত্তিকে সঞ্চয় করতে হয়। এটি সঙ্গে কিছুটা খেলুন। আপনি যদি ম্যাটল্যাব এ থাকেন তবে আপনি টুলবক্স নিয়মিতকরণ সরঞ্জামগুলি ব্যবহার করতে পারেন, যা এর কয়েকটি প্রয়োগ করে (বিশেষত "কোণার" কার্যকারিতা প্রযোজ্য)।

নোট করুন যে এই পদ্ধতিরটি বড় আকারের সমস্যার জন্য বিশেষভাবে উপযুক্ত, কারণ অতিরিক্ত কম্পিউটারের সাথে জড়িত সময়টি সংক্ষিপ্ত হয়।

— OscarB
সূত্র

অনেক ধন্যবাদ! সুতরাং লগলগে (আরএইচও, এটা) প্লটে আমরা এল বক্ররেখার ডান থেকে শুরু করে এল এর শীর্ষে এসে শেষ করব, তাই না? আমি এই মানদণ্ডের পিছনে নীতিটি জানি না। এটি কেন সবসময় এল বক্রের মতো আচরণ করে এবং কেন আমরা কোণটি বেছে নিই তা ব্যাখ্যা করতে পারেন?

— হুই ঝাং

আপনাকে স্বাগতম :-D। পুনরাবৃত্তি পদ্ধতির জন্য, আমরা ডান থেকে শুরু করি এবং সর্বদা শীর্ষে থাকি। সমস্যার মধ্যে গোলমাল হওয়ার কারণে এটি এল হিসাবে আচরণ করে - উল্লম্ব অংশটি ঘটে

, যেখানে

শব্দের ভেক্টর

| | A x - b | |_{2} = | | e | |_{2}

$||Ax-b||_2=||e||_2$

e

$e$

b_{e x a c t} = b + e

$b_{exact}=b+e$ । আরও বিশ্লেষণের জন্য হ্যানসেন, পিসি এবং ও'লারি, ডিপি (1993) দেখুন। বিযুক্ত-পোজযুক্ত সমস্যাগুলি নিয়মিতকরণে এল-কার্ভ ব্যবহার। সাইম জার্নাল অন সায়েন্টিফিক কম্পিউটিং, ১৪. নোট করুন যে আমি পোস্টটিতে সামান্য আপডেট করেছি update

— অস্কারব

@ হুইজ্যাং: এটি সর্বদা একটি এল নয় If (এবং অবশ্যই, মর ইকম্প্লেক্স আকারগুলি উপস্থিত হতে পারে))

— আর্নল্ড নিউমায়ার

এল-কার্ভটি কি শর্তযুক্ত সমস্যাগুলিতে প্রযোজ্য যেখানে অনন্য সমাধান হওয়া উচিত? তা হল, আমি সমস্যাগুলিতে আগ্রহী Ax = b যেখানে খ "হুবহু" পরিচিত এবং A প্রায় একবাক্য তবে এখনও প্রযুক্তিগতভাবে অবিচ্ছিন্ন। আমার কাছে মনে হবে আপনি যদি GMRES এর মতো কিছু ব্যবহার করেন তবে আপনার বর্তমান এক্স এর অনুমানের নিয়ম সময়ের সাথে খুব বেশি পরিবর্তন হয় না, বিশেষত প্রথম তবে অনেকগুলি পুনরাবৃত্তির পরে। আমার কাছে মনে হচ্ছে এল-কার্ভের উল্লম্ব অংশটি ঘটে কারণ কোনও অসুস্থ-পোজ সমস্যাটিতে কোনও অনন্য / বৈধ সমাধান নেই; এই উল্লম্ব বৈশিষ্ট্যটি কি সমস্ত অসুস্থ শর্তে উপস্থিত থাকতে পারে?

— নিউকেগুয়ে

এক পর্যায়ে আপনি এ জাতীয় একটি উল্লম্ব রেখায় পৌঁছে যাবেন, সাধারণত আপনার সমাধান পদ্ধতির সংখ্যাসূচক ত্রুটিগুলির ফলস্বরূপ || অক্ষ-বি || কমছে না তবে, আপনি ঠিক বলেছেন যে এই ধরণের শব্দ-মুক্ত সমস্যায় বক্ররেখা সর্বদা একটি এল এর মতো হয় না, এর অর্থ হল আপনার কাছে সাধারণত কয়েকটি কোণ বেছে নিতে পারেন এবং অন্যটির উপরের একটি বেছে নেওয়া শক্ত হতে পারে। আমি বিশ্বাস করি যে উপরের আমার মন্তব্যে আমি যে কাগজটি উল্লেখ করেছি তাতে শব্দ-মুক্ত পরিস্থিতি সংক্ষেপে আলোচনা করা হয়েছে।

— অস্কারব

পুনরাবৃত্ত লিনিয়ার সলভারগুলির জন্য বন্ধের মানদণ্ডগুলি প্রায় একক সিস্টেমে প্রয়োগ করা হয়

একত্রিতকরণ সংজ্ঞায়নের আরও ভাল উপায়

ক্ষুদ্রতম একক মান ti নির্ধারণ করা ϵϵ\epsilon

মন্তব্য

ক্ষুদ্রতম একক মান নির্ধারণ করা $\epsilon$