এনএলএম () ফাংশনে কোড ভেরিয়েবল

Question

আর-তে একটি ফাংশন এনএলএম () রয়েছে যা নিউটন-রাফসন অ্যালগরিদম ব্যবহার করে একটি ফাংশনকে ছোট করে আনে । বিশেষত, এই ফাংশনটি নীচে বর্ণিত ভেরিয়েবল কোডের মান আউটপুট করে:

একটি পূর্ণসংখ্যা কোডটি নির্দেশ করে কেন অপ্টিমাইজেশন প্রক্রিয়াটি বন্ধ হয়ে যায়।

1: আপেক্ষিক গ্রেডিয়েন্ট শূন্যের কাছাকাছি, বর্তমান পুনরাবৃত্তি সম্ভবত সমাধান।

2: সহনশীলতার মধ্যে ক্রমাগত পুনরাবৃত্তি, বর্তমান পুনরাবৃত্তি সম্ভবত সমাধান।

3: সর্বশেষ বিশ্বব্যাপী পদক্ষেপটি অনুমানের চেয়ে কম পয়েন্ট নির্ধারণ করতে ব্যর্থ হয়েছিল। হয় অনুমানটি ফাংশনের আনুমানিক স্থানীয় ন্যূনতম বা স্টেপটল খুব ছোট।

4: পুনরাবৃত্তি সীমা অতিক্রম করে।

5: সর্বাধিক পদক্ষেপের আকারের স্টেপম্যাক্স টানা পাঁচবার ছাড়িয়ে গেছে। হয় ফাংশনটি নীচে সীমাহীন, কোনও দিক থেকে উপরে থেকে সীমাবদ্ধ মূল্য বা অবিরাম পদক্ষেপ খুব ছোট as

কেউ কি আমাকে ব্যাখ্যা করতে পারে (সম্ভবত কেবলমাত্র একটি ভেরিয়েবলের একটি ফাংশন সহ একটি সাধারণ চিত্র ব্যবহার করে) 1-5-এর পরিস্থিতিগুলির সাথে কী সম্পর্কিত?

উদাহরণস্বরূপ, পরিস্থিতি 1 নিম্নলিখিত চিত্রের সাথে সামঞ্জস্য হতে পারে:

তুমাকে অগ্রিম ধন্যবাদ!

Answer 1

এই বাস্তবায়নটি আরও স্পষ্টভাবে বোঝা যায় যখন কী কীভাবে সংক্ষিপ্তকরণ বা সর্বাধিকীকরণ করা হয় এবং কীভাবে অপ্টিমাইজেশন কাজ করে।

ধরুন আমাদের ফাংশন রয়েছে যার স্থানীয় সর্বনিম্ন । অপ্টিমাইজেশন পদ্ধতিগুলি যা রূপান্তর করে তা সিকোয়েন্স তৈরির চেষ্টা করে । এটা সবসময় দেখানো হয় যে তত্ত্ব ক্রম ফাংশন কিছু বর্গ জন্য স্থানীয় সর্বনিম্ন বিন্দু-র দিকে এগোয় নির্মাণ ।$f$$x_0$$x_i$$x_0$$f$

পুনরাবৃত্তিতে পরবর্তী প্রার্থী পেতে একটি দীর্ঘ প্রক্রিয়া হতে পারি, সুতরাং এটি স্বাভাবিক যে সমস্ত অ্যালগোরিদম পুনরাবৃত্তির সংখ্যাকে সীমাবদ্ধ করে। এটি পরিস্থিতি 4 এর সাথে মিলে যায় ।$i$

তারপরে প্রতিটি কাছাকাছি আমাদের কাছে । সুতরাং যদি এটি ইঙ্গিত দেয় যে আমরা সর্বনিম্নে পৌঁছেছি। এটি পরিস্থিতি 3 এর সাথে মিলে যায়$x$$x_0$$f(x)>f(x_0)$$f(x_i)>f(x_{i-1})$

এখন যদি ফাংশন এর এ ডেরিভেটিভ থাকে তবে অগত্যা । নিউটন-রাফসন পদ্ধতি প্রতিটি পদক্ষেপে গ্রেডিয়েন্ট গণনা করে, তাই যদি , সম্ভবত একটি সমাধান হয় যা পরিস্থিতি 1 এর সাথে মিলে যায় ।$f$$x_0$$\nabla f(x_0)=0$$\nabla f(x_i)\approx 0$$x_i$

রিয়েল ভেক্টরগুলির প্রতিটি কনভার্জেন্ট ক্রম হ'ল কচী ক্রম এবং বিপরীত, প্রায় অর্থ যে যদি কাছাকাছি হয় তবে to এর কাছাকাছি এবং বিপরীত যেখানে পুনরাবৃত্তি সংখ্যা। সুতরাং যদি , এবং আমরা জানি যে তত্ত্বে রূপান্তরিত হয় , তবে আমাদের ন্যূনতম বিন্দুর কাছাকাছি হওয়া উচিত। এটি পরিস্থিতি 2 এর সাথে মিলে যায় ।$x_i$$x_0$$x_i$$x_{i+1}$$i$$|x_i-x_{i-1}|<\varepsilon$$x_i$$x_0$

রূপান্তরকারী সিকোয়েন্সগুলিতে তারা চুক্তি করে এমন সম্পত্তি থাকে, অর্থাত্ যদি আমরা রূপান্তরটির কাছাকাছি থাকি তবে সিকোয়েন্সের বাকি সমস্ত উপাদানগুলি ছোট অঞ্চলে থাকে। সুতরাং যদি তত্ত্ব অনুসারে যে ক্রমটি বৃহত পদক্ষেপ গ্রহণ শুরু করে, এটি সম্ভবত এটির কোনও সংমিশ্রণ নেই এমন একটি ইঙ্গিত। এটি পরিস্থিতি 5 এর সাথে মিলে যায়

দ্রষ্টব্য কঠোর গাণিতিক সংজ্ঞাগুলি ইচ্ছাকৃতভাবে বাদ দেওয়া হয়েছিল।