লাইন অনুসন্ধানে কিউবিক এবং চতুষ্কোণ প্রবৃদ্ধির মধ্যে সিদ্ধান্ত নিতে সহায়তা করুন

Question

আমি একটি কোয়াটি-নিউটন বিএফজিএস অ্যালগরিদমের অংশ হিসাবে একটি লাইন অনুসন্ধান করছি। লাইন অনুসন্ধানের এক ধাপে আমি স্থানীয় মিনিমাইজারের কাছাকাছি যেতে একটি ঘনক দ্বিখণ্ডিত ব্যবহার করি।

দিন $f : R \rightarrow R, f \in C^1$আগ্রহের ফাংশন হতে। আমি একটি খুঁজে পেতে চাই$x^*$ যেমন যে $f'(x^*) \approx 0$।

দিন $f(x_k)$, $f'(x_k)$, $f(x_{k+1})$ এবং $f'(x_{k+1})$পরিচিত করা. ধরেও নিও$0\le x_k<x^*<x_{k+1}$। আমি একটি ঘনক বহুভুজ ফিট$Q(x)=ax^3+bx^2+cx+d$ যাতে $Q(0)=f(x_k)$, $Q'(0)=f'(x_k)$, $Q(x_{k+1}-x_{k})=f(x_{k+1})$ এবং $Q'(x_{k+1}-x_{k})=f'(x_{k+1})$।

আমি চতুর্ভুজ সমীকরণ সমাধান: $(1): Q'(x^*-x_k) = 0$ আমার সন্ধানের জন্য $x^*$ বন্ধ ফর্ম সমাধান ব্যবহার।

উপরোক্ত বেশিরভাগ ক্ষেত্রে ভাল কাজ করে, যখন বাদে $f(x)=\mathcal{O}(x^2)$ জন্য বন্ধ ফর্ম সমাধান হিসাবে $(1)$ দ্বারা বিভক্ত $a$ যা খুব কাছের বা ঠিক হয়ে যায় $0$।

আমার সমাধানটি দেখুন $a$ এবং যদি এটি "খুব ছোট" হয় তবে চতুষ্কোণ বহুবর্ষের মিনিমাইজারের জন্য কেবল বন্ধ ফর্ম সমাধানটি গ্রহণ করুন $Q_2(x)=bx^2+cx+d$ যার জন্য ইতিমধ্যে আমার সহগ রয়েছে $b,c,d$ আগের ফিট থেকে $Q(x)$।

আমার প্রশ্নটি: কখন ঘনক্ষেত্রের উপরের চতুর্ভুজটি দ্বিখণ্ডিত করা যায় তার জন্য আমি কীভাবে একটি ভাল পরীক্ষা করব? পরীক্ষার জন্য নিষ্পাপ পদ্ধতির$a \equiv 0$ সংখ্যাগত কারণে খারাপ কারণ আমি তাকিয়ে আছি $|a| < \epsilon\tau$ কোথায় $\epsilon$ মেশিন যথার্থ, কিন্তু আমি একটি ভাল সিদ্ধান্ত নিতে অক্ষম $\tau$ যে স্কেল আক্রমণকারী $f$।

বোনাস প্রশ্ন: সহগগুলি ব্যবহার করে কোনও সংখ্যাগত সমস্যা আছে,$b,c,d$, ব্যর্থ কিউবিক ফিট থেকে বা সহগের গণনার উপযুক্ত পদ্ধতির সাথে আমার কি নতুন চতুর্ভুজ ফিট করা উচিত?

স্পষ্টতার জন্য সম্পাদনা করুন: আমার প্রশ্নে$f$ আসলে যা সাধারণত হিসাবে পরিচিত হয় $\phi(\alpha)=f(\bar{x}_k+\alpha \bar{p_k})$সাহিত্যে। আমি কেবল প্রশ্ন প্রণয়নকে সহজ করে দিয়েছি। আমি যে অপ্টিমাইজেশন সমস্যাটি সমাধান করছি তা 6 মাত্রায় অ-রৈখিক। এবং আমি ভাল করেই জানি যে বিএফজিএস লাইন অনুসন্ধানের জন্য ওল্ফের শর্তগুলি যথেষ্ট তাই এটি উল্লেখ করে যে আমি আগ্রহী$f'(x^*) \approx 0$; আমি এমন কিছু সন্ধান করছি যা শক্তিশালী ওল্ফের শর্ত পূরণ করবে এবং ঘনক্ষেত্রের আনুমানিকের মিনিমাইজারটি নেওয়া ভাল পথে।

প্রশ্নটি BFGS সম্পর্কে ছিল না, বরং কীভাবে ঘন সহগের পরিমাণ কম যখন নির্ধারণ করা যায় যে চতুর্ভুজীয় অনুমান আরও উপযুক্ত more

সম্পাদনা 2: আপডেট স্বরলিপি, সমীকরণগুলি অপরিবর্তিত।

Answer 1

হুম ... কিউবিক ইন্টারপোলেশন লাইন অনুসন্ধানের জন্য শোনা যায় না, তবে সাধারণত ওভারকিল হয়।

আমি যদি আপনার সমস্যাটি সঠিকভাবে পড়ছি, $x$শুধু একটি স্কেলার? এক্ষেত্রে বিএফজিএস সম্ভবত আপনার সমস্যা সমাধানের সবচেয়ে কার্যকর উপায় নয়। ব্রেন্টের পদ্ধতির মতো স্কেলার অপ্টিমাইজেশন অ্যালগরিদমগুলি আপনার সমস্যাটি দ্রুত সমাধান করতে পারে।

বিএফজিএসের জন্য বেশ কয়েকটি লাইন অনুসন্ধান অ্যালগরিদম রয়েছে। আমার নিজের অ্যাপ্লিকেশনগুলির জন্য, মেমরিটি সীমিত BFGS (এল-বিএফজিএস) ব্যবহার করে এই লিনিয়ার্ক খুব ভাল কাজ করে। মনে রাখবেন যে আপনাকে কেবল ওল্ফের শর্তগুলি পূরণ করতে হবে এবং আপনি সঠিক মিনিমাইজারটি খুঁজে বের করে সম্ভবত বেশি কিছু অর্জন করতে পারবেন না।

যাইহোক, আসলে আপনার প্রশ্নের জবাব দিতে: আমি ঘনকটি সমাধান করলে NaN বা ইনফের মতো "খারাপ" মান পাওয়া যায় তবে এখানে যেমন হয়েছে ঠিক তেমনই চতুর্ভুজ বহুপদীতে স্যুইচ করার বিষয়টি বিবেচনা করব (যেমন এখানে করা হয়েছে ) ।

আপনি ব্যবহার করে কী বোঝাতে চাইছেন তা আমি নিশ্চিত নই $b,c,d$? কিউবিক ফিটের জন্য এই গুণাগুণগুলি চতুর্ভুজ ফিটের মতো হবে না তাই আপনি সেগুলি পুনরায় ব্যবহার করতে পারবেন না।

শেষ অবধি, আপনি ব্যবহার করতে পারেন $f(x_{k-1})$ , বরং $f(x_0)$, যেমন আপনার ফাংশনটি (সম্ভবত) স্থানীয়ভাবে কেবল প্রায় ঘনকক্ষ বা চতুর্ভুজযুক্ত হবে এবং $x_k$ এবং $x_{k-1}$ তুলনায় একে অপরের (এবং সমাধান) কাছাকাছি হওয়া উচিত $x_0$।

আশাকরি এটা সাহায্য করবে.

Comments

স্বচ্ছতার জন্য সম্পাদিত। ব্যবহার করে$b,c,d$"মানে আমি কিউবিক ফিট করেছিলাম fit $Q(x)=ax^3+bx^2+cx+d$ এবং এটি খুঁজে পেয়েছি $a\equiv 0$ এইভাবে আমার আছে $Q(x)=bx^2+cx+d$যা ইতিমধ্যে চতুষ্কোণ বহুপদী। এবং প্রশ্নটি ছিল যদি সহগগুলি$b,c,d$এই ফিটের জন্য প্রাপ্তগুলি কোনও দ্রবণের জন্য ব্যবহার করার জন্য বোধগম্য বা যদি আমি একটি সাধারণ চতুর্ভুজ ফিটের জন্য নতুন সহগের পুনরায় গণনা করি।

— এমিলি এল।

আহ, ঠিক আছে, অবশ্যই। সংখ্যার দৃষ্টিকোণ থেকে সহগগুলি ব্যবহার করতে কোনও সমস্যা দেখছি না। একমাত্র পয়েন্ট যেখানে আমি মনে করি এটি কার্যকর হবে, সমাধানের খুব কাছাকাছি যেখানে আপনি যেভাবেই শেষ করবেন।

— LKlevin

কি কিউবিক গণনা এবং "খারাপ" মানগুলি পরীক্ষা করে আপনার উত্তরটি প্রেরণা দিতে পারেন? এটি কখন করা নিরাপদ$a << b$ অথবা $a\approx 0$?

— এমিলি এল।

কখন $a \approx 0$, $b,c$ এবং $d$চতুর্ভুজ মামলার জন্য প্রায় হবে। যেহেতু বিএফজিএস লিনিয়ার্ক বেশ শক্তিশালী, আপনার এটি সঠিকভাবে হওয়া উচিত না, এমনকি এগুলি ব্যবহার করা ঠিক হবে ok যতক্ষণ আপনি ওল্ফের শর্ত মেনে চলেছেন ততক্ষণ আপনি রূপান্তর পাবেন। "খারাপ" মানগুলির জন্য যতক্ষণ না কম্পিউটার আপনার প্রয়োজনীয় নির্ভুলতার জন্য গণনা যথাযথভাবে করতে পারে ততক্ষণ সবকিছু ভাল। এটি যখন না পারে, আপনি ইনফ এবং এনএএন দেখতে শুরু করবেন।

— এলক্লেইন

Answer 2

মুরের একটি কাগজ রয়েছে, যা নোসেডাল দ্বারা প্রয়োগ করা হয়েছিল, সে সম্পর্কে:

জর্জে জে মোরি এবং ডেভিড জে। থুয়েন্তে। 1994. গ্যারান্টিযুক্ত যথেষ্ট হ্রাস সহ লাইন অনুসন্ধানের অ্যালগরিদম। এসিএম ট্রান্স ম্যাথ। Softw। 20, 3 (সেপ্টেম্বর 1994), 286-307। ডিওআই http://dx.doi.org/10.1145/192115.192132 ( প্রিন্ট )।

Comments

SciComp.SE এ স্বাগতম! কাগজটি খুঁজে পাওয়া সহজ করার জন্য আমি আপনার পোস্টটি ফর্ম্যাট করেছি। আপনি যদি নসেডালের বাস্তবায়নের কোনও লিঙ্ক খুঁজে পেতে পারেন তবে তা সহায়ক হবে।

— খ্রিস্টান ক্লাসন