সমস্যাগুলি যেখানে কনজুগেট গ্রেডিয়েন্ট GMRES এর চেয়ে অনেক ভাল কাজ করে

17

আমি কনজিগেট গ্রেডিয়েন্ট GMRES পদ্ধতির চেয়ে আরও ভাল কাজ করে এমন ক্ষেত্রে আমি আগ্রহী।

সাধারণভাবে, এসপিডি (সিমেট্রিক-পজিটিভ-সুনির্দিষ্ট) এর অনেক ক্ষেত্রে সিজিই বেশি পছন্দনীয় পছন্দ কারণ এতে কম স্টোরেজ প্রয়োজন হয় এবং সিজির জন্য রূপান্তর হারের উপর তাত্ত্বিকভাবে আবশ্যক যে জিএমআরইএসের দ্বিগুণ। এই জাতীয় হারগুলি প্রকৃতপক্ষে পালন করা হয় সেখানে কোন সমস্যা আছে? জিএমআরইএস একই সংখ্যক এসএমএভিএস (স্পার্স ম্যাট্রিক্স-ভেক্টর গুণ) এর জন্য সিজির সাথে তুলনামূলক আরও ভাল বা তুলনামূলক কার্যক্ষেত্রের কোনও বৈশিষ্ট্য রয়েছে কি?

linear-solver conjugate-gradient gmres

— piyush_sao
সূত্র

8

একটা জিনিষ যে তত্ত্বাবধায়ক এর পক্ষে করেছে যে এটি কমানোর বিযুক্ত না হয় তার অবশিষ্ট polynomials (কি GMRES করে) জন্য আদর্শ। এটি পরিবর্তে একটি ম্যাট্রিক্স-প্ররোচিত আদর্শকে হ্রাস করা হয় এবং প্রায়শই এই ম্যাট্রিক্স-প্ররোচিত নিয়মটি শারীরিক সমস্যার বিচক্ষণতার জন্য শক্তির আদর্শের খুব কাছাকাছি চলে আসে, এবং প্রায়শই সংরক্ষণের বৈশিষ্ট্যগুলির কারণে ত্রুটি মাপার জন্য এটি অনেক বেশি যুক্তিসঙ্গত আদর্শ is পদার্থবিজ্ঞান থেকে। $l^2$

আপনি প্রকৃতপক্ষে GMRES এর সাথে এই ধরণের প্রভাব অর্জন করতে পারেন যদি একটি ম্যাস ম্যাট্রিক্সের একটি কোলেস্কি ফ্যাক্টেরাইজেশন করা খুব ব্যয়বহুল না হয়, আপনি অভ্যন্তরীণ পণ্যগুলিকে আপনার পছন্দসই অভ্যন্তরীণ পণ্য হতে বাধ্য করতে পারেন।

তারপরে যে কেসগুলি সিএমআরইএস থেকে সিজি খুব আলাদাভাবে সঞ্চালনের প্রত্যাশা করা উচিত সেগুলি তখন যখন আদর্শ সমতার ক্ষেত্রে উল্লিখিত ধ্রুবকগুলি খুব আলাদা হয়। উদাহরণস্বরূপ এটি একটি উচ্চ ক্রম বর্ণালী-গ্যালারকিন পদ্ধতিতে সত্য হতে পারে যেখানে জিএমআরইএসে ব্যবহৃত বিচ্ছিন্ন আদর্শ সমস্ত ডিগ্রি স্বাধীনতার সমান হিসাবে বিবেচনা করে, যখন বাস্তবে বহুবর্ষীয় গ্রেডিয়েন্টগুলি সীমানার কাছাকাছি তীক্ষ্ণ হয় (সুতরাং নোড ক্লাস্টারিং), এবং তাই সেই আদর্শের মধ্যে আদর্শ সমতুল্য স্থিরতা এবং গণ ম্যাট্রিক্সের দ্বারা প্রদত্ত অবিচ্ছিন্ন আদর্শটি খুব বড় হতে পারে। $l^2$ $L^2$

— Reid.Atcheson
সূত্র

উচ্চতর অর্ডার পদ্ধতি এবং সিজি, জিএমআরইএস, এবং জিএমআরইএস + কোলেস্কি ট্রিকের একীকরণের ইতিহাসের সাথে একটি উদাহরণ দিতে এখানে চেয়েছি .. তবে দুর্ভাগ্যক্রমে দ্বিতীয় আদেশের সমস্যাগুলির জন্য আমার হাতে থাকা একমাত্র কোডটি হ'ল ননসিমমেট্রিক জাতের ডিজি .. সুতরাং সিজি আইএনএন প্রযোজ্য নয়, এটি কার্যকরভাবে দেখতে পছন্দ করবে।

— রিড.এচচসন

3

আমি মনে করি আপনার উত্তরটি গুরুত্বপূর্ণ কিছু পেয়েছে তবে আমি আশা করি আপনি স্পষ্ট করে বলবেন। বিশেষত, প্রশ্নটি একটি খাঁটি লিনিয়ার বীজগণিত প্রশ্ন এবং আপনার উত্তরটি একটি সংখ্যার পিডিই থেকে শারীরিক নিয়মাবলী এবং ভর ম্যাট্রিক্স ইত্যাদির বিষয়ে কথা বলে। একই ক্রাইলোভ স্থানের মধ্যে বিভিন্ন নিয়মে ন্যূনতমকরণ কীভাবে বিভিন্ন পুনরাবৃত্তির দিকে পরিচালিত করে সে সম্পর্কে আমরা কিছু সঠিকভাবে বলতে পারি?

— অ্যান্ড্রু টি। বার্কার

সংখ্যাসূচক উদাহরণগুলি বাদ দিয়ে আমি মনে করি না যে বিভিন্ন মানদণ্ডে কীভাবে আলাদা আলাদা উত্তর পাওয়া যায় তা ব্যাখ্যা করে এখনও একটি সতর্ক তাত্ত্বিক অধ্যয়ন হয়েছে। আমি মনে করি যে সমস্যাটি হ'ল ফলাফল অ্যাসিম্পটিকসের চারপাশে ঘোরে এবং একটি নির্দিষ্ট লিনিয়ার সিস্টেমের জন্য তাত্ত্বিক ফলাফলগুলি অভিন্ন মডিউলগুলি ধ্রুবক কারণ হতে পারে। যদি সেখানে কিছু তাত্ত্বিক অধ্যয়ন হয় তবে আমি সেগুলি দেখতে পছন্দ করব তবে আমার বিভাগের কয়েকটি সংখ্যাগত রৈখিক বীজগণিত বিশেষজ্ঞদের জিজ্ঞাসা করার পরে এটি মনে হয় না যে এখনও বিভিন্ন আদর্শের সাথে কী ঘটেছিল তা দেখানোর একটি নির্দিষ্ট তাত্ত্বিক বিশ্লেষণ রয়েছে।

— রিড.এচচসন

4

আমি সন্দেহ করি যে কোনও এসপিডি ম্যাট্রিক্সের জন্য GMRES এবং সিজির মধ্যে সাধারণত খুব বেশি পার্থক্য নেই।

ধরা যাক আমরা প্রতিসম ধনাত্মক সুনির্দিষ্ট এবং প্রারম্ভিক অনুমান সহ সমাধান করছি এবং সিজি এবং জিএমআরইএস দিয়ে পুনরাবৃত্তি উত্পন্ন করছি, তাদের এবং কল করুন । উভয় পুনরাবৃত্ত পদ্ধতি নির্মাণের হবে একই Krylov স্থান থেকে । তারা কিছুটা ভিন্ন উপায়ে এটি করবে। $Ax = b$ $A$ $x_0 = 0$ $x_k^c$ $x_k^g$ $x_k$ $K_k = \{ b, Ab, A^2b, \ldots \}$

সি জি ত্রুটি কমানোর দ্বারা চিহ্নিত করা শক্তি আদর্শ দ্বারা প্রবর্তিত মধ্যে , যাতে $e_k^c = x - x_k^c$ $A$

(A e_{k}^{c}, e_{ট}^{গ}) = (একজন (এক্স - {এক্স}_{ট}^{গ}), এক্স - {এক্স}_{ট}^{গ}) = \underset{Y \in কে}{সর্বনিম্ন} (একজন (এক্স - Y), এক্স - Y) ।

$\begin{equation} (A e_k^c, e_k^c) = (A (x - x_k^c), x - x_k^c) = \min_{y \in K} (A (x-y), x-y). \end{equation}$

$r_k = b - A x^g_k$ $\ell^2$

(R_{ট}, R_{ট}) = (খ - একজন {এক্স}_{ট}^{ছ}, খ - একজন {এক্স}_{ট}^{ছ}) = \underset{Y \in কে}{সর্বনিম্ন} (খ - একজন Y, খ - একজন Y) ।

$\begin{equation} (r_k, r_k) = (b - A x_k^g, b - A x_k^g) = \min_{y \in K} (b - Ay, b - Ay). \end{equation}$

A e_{k} = r_{k}

$A e_k = r_k$

(r_{k}, r_{k}) = (A e_{k}^{g}, A e_{k}^{g}) = (A^{2} e_{k}^{g}, e_{k}^{g})

$\begin{equation} (r_k, r_k) = (A e_k^g, A e_k^g) = (A^2 e_k^g, e_k^g) \end{equation}$

A

$A$

A

$A$

A^{2}

$A^2$

A

$A$

A

$A$

$K_1 = \{ b \}$ $x_1 = \alpha b$

α = \frac{(b, b)}{(A b, b)}

$\begin{equation} \alpha = \frac{ (b,b) }{ (Ab,b) } \end{equation}$

α = \frac{(একজন খ, খ)}{({একজন}^{2} খ, খ)} ।

$\begin{equation} \alpha = \frac{ (Ab,b) }{ (A^2b,b) }. \end{equation}$

A

$A$ এন্ট্রি সহ তির্যক

(ϵ, 1, 1, 1, \dots)

$(\epsilon,1,1,1,\ldots)$ এবং

b = (1, 1, 0, 0, 0, \dots)

$b = (1,1,0,0,0,\ldots)$ তারপর হিসাবে

ϵ \to 0

$\epsilon \rightarrow 0$ প্রথম সিজি পদক্ষেপটি প্রথম জিএমআরএস পদক্ষেপের দ্বিগুণ হয়ে যায়। সম্ভবত আপনি নির্মাণ করতে পারেন

A

$A$ এবং

b

$b$ যাতে দুটি পার্থক্যের এই ফ্যাক্টরটি পুনরাবৃত্তি জুড়ে চলতে থাকে তবে আমি সন্দেহ করি যে এটি এর থেকে আরও খারাপ হয়ে যায়।

— অ্যান্ড্রু টি বার্কার
সূত্র

2

দিন

b = (1, \sqrt{ϵ}, 0, 0, \dots)

$b = (1,\sqrt{\epsilon},0,0,\dotsc)$ । তারপর

| b | = \sqrt{1 + ϵ}

$|b| = \sqrt{1 + \epsilon}$ ,

b^{T} A b = \sqrt{2} ϵ

$b^T A b = \sqrt{2} \epsilon$ , এবং

b^{T} A^{2} b = ϵ \sqrt{1 + ϵ^{2}}

$b^T A^2 b = \epsilon \sqrt{1 + \epsilon^2}$ । এইভাবে

α_{CG} = \frac{ϵ^{- 1} + 1}{\sqrt{2}} \sim ϵ^{- 1}

$\alpha_{\text{CG}} = \frac{\epsilon^{-1}+1}{\sqrt 2} \sim \epsilon^{-1}$ , কিন্তু

α_{GMRES} = \sqrt{\frac{2}{1 + ϵ^{2}}} \sim \sqrt{2}

$\alpha_{\text{GMRES}} = \sqrt{\frac{2}{1 + \epsilon^2}} \sim \sqrt{2}$ । এটি হল, প্রাথমিক ভেক্টরটি অবশিষ্টাংশকে ছোট করার জন্য ইতিমধ্যে সঠিক স্কেলের, তবে এটি দিয়ে ছোট করা দরকার

ϵ^{- 1}

$\epsilon^{-1}$ ত্রুটি ছোট করতে।

— জেদ ব্রাউন

3

একটি বিষয় হ'ল জিএমআরইএস যেখানে কখনও সিজি প্রয়োগ করা যায় সেখানে ব্যবহৃত হয় না। আমি মনে করি না যে এই দুটি তুলনা করে এটি বোঝা যায়। এসপিডি ম্যাট্রিক্সের জন্য, স্টোরেজ প্রয়োজনীয়তা এবং আপনি উপরে উল্লিখিত কারণগুলির কারণে সিজি অবশ্যই বিজয়ী। একটি প্রশ্ন যা আকর্ষণীয় হবে তা হ'ল, সিজির একটি এক্সটেনশন সন্ধান করা, এটি সেই সমস্যার জন্য প্রযোজ্য যেখানে সিজি প্রয়োগ করা যায় না। বিসিজি-স্ট্যাবের মতো পদ্ধতি রয়েছে যা জিএমআরইএসের মতো রৈখিকভাবে বর্ধমান মেমরির প্রয়োজন হয় না, তবে রূপান্তরটি জিএমআরইএসের মতো ভাল নয় (কিছু সময় এমনকি পুনরায় চালু হওয়া জিএমআরইএস দিয়েও)।

— user1964178
সূত্র

2

আইডিআর স্কিমগুলি রয়েছে যা মেমরি সঞ্চয়, স্থিতিশীলতা এবং একীকরণের ক্ষেত্রে জিএমআরইএস এবং বিসিজি-র মধ্যে ব্যবধানকে কমিয়ে দেয়: ta.twi.tudelft.nl/nw/users/gijzen/IDR.html আমি নিশ্চিত না যে আমি জিএমআরইএস এর সাথে একমত সিজি হতে পারলে ব্যবহার করা উচিত নয়। যদি আপনি কোনও ম্যাট্রিক্সের কোলেস্কি ফ্যাক্টেরাইজেশন করতে পারেন যা আপনার শক্তির আদর্শকে প্ররোচিত করে, তবে আপনি এটিকে একটি প্রতিসামগ্রী ল্যাঙ্কজোস পুনরাবৃত্তিতে খাওয়াতে পারেন এবং তিনটি মেয়াদী পুনরাবৃত্তি সমাধান পেতে পারেন যা সিজির মতো প্রায় আচরণ করবে। অবশ্যই, সিজি সহজ বিকল্প, তবে বিকল্পটি পাওয়া যায় :)

— রেড.এচচসন

2

উদাহরণস্বরূপ, আপনি যদি ক্রিলোভ স্মুথ ব্যবহার করেন তবে GMRES সম্ভবত তার চেয়ে বেশি পছন্দনীয় কারণ এটি একটি দুর্বল নিয়ম ব্যবহার করে যা বৃহত্তর ইগেনভ্যালুগুলিকে লক্ষ্য করে যা উচ্চতর ফ্রিকোয়েন্সি বলে।

— জেদ ব্রাউন