বেশিরভাগ অনুমানের পদ্ধতিতে এমন কিছু প্যারামিটারগুলি সন্ধান করা হয় যা কিছু উদ্দেশ্যমূলক কার্যকে হ্রাস করে (বা সর্বাধিক করে তোলে)। উদাহরণস্বরূপ, ওএলএসের সাহায্যে আমরা স্কোয়ারের অবশিষ্টাংশের যোগফলকে হ্রাস করি। সর্বাধিক সম্ভাবনা অনুমানের সাথে, আমরা লগ-সম্ভাবনা ফাংশনটি সর্বাধিক করি। পার্থক্যটি তুচ্ছ: ক্ষুদ্রতরকরণকে উদ্দেশ্যমূলক কার্যের নেতিবাচক ব্যবহার করে সর্বাধিকীকরণে রূপান্তর করা যায়।
কখনও কখনও এই সমস্যাটি বীজগণিতভাবে সমাধান করা যেতে পারে, একটি ক্লোজড-ফর্ম সমাধান তৈরি করে। ওএলএসের সাহায্যে আপনি প্রথম ক্রমের শর্তাদির সিস্টেমটি সমাধান করেন এবং পরিচিত সূত্রটি পান (যদিও উত্তরটি মূল্যায়নের জন্য আপনার সম্ভবত কম্পিউটারের প্রয়োজন রয়েছে)। অন্যান্য ক্ষেত্রে, এটি গাণিতিকভাবে সম্ভব নয় এবং আপনাকে কম্পিউটার ব্যবহার করে প্যারামিটারের মানগুলি সন্ধান করতে হবে। এই ক্ষেত্রে, কম্পিউটার এবং অ্যালগরিদম আরও বড় ভূমিকা পালন করে। ননলাইনার লেস্ট স্কোয়ারগুলির একটি উদাহরণ। আপনি একটি সুস্পষ্ট সূত্র পাবেন না; আপনি যা পান তা হ'ল একটি রেসিপি যা প্রয়োগ করতে আপনার কম্পিউটারের দরকার। প্যারামিটারগুলি কী হতে পারে এবং কীভাবে সেগুলি পরিবর্তিত হতে পারে তার প্রাথমিক অনুমান দিয়ে রেসিপিটি শুরু করা যেতে পারে। তারপরে আপনি বিভিন্ন পরামিতিগুলির সংমিশ্রণ চেষ্টা করে দেখুন কোনটি আপনাকে সর্বনিম্ন / সর্বোচ্চ উদ্দেশ্যমূলক ফাংশন মান দেয়। এটি নিষ্ঠুর শক্তি পদ্ধতির এবং এটি একটি দীর্ঘ সময় নেয়। উদাহরণ স্বরূপ,105 সংমিশ্রণগুলি এবং যদি আপনি ভাগ্যবান হন তবে এটি আপনাকে সঠিক উত্তরের আশেপাশে রাখে। এই পদ্ধতির গ্রিড অনুসন্ধান বলা হয়।
অথবা আপনি কোনও অনুমান দিয়ে শুরু করতে পারেন এবং উদ্দেশ্য ফাংশনের উন্নতিগুলি কোনও মানের চেয়ে কম না হওয়া পর্যন্ত এই অনুমানটিকে কিছু দিক থেকে সংশোধন করতে পারেন। এগুলিকে সাধারণত গ্রেডিয়েন্ট পদ্ধতি বলা হয় (যদিও এমন আরও কিছু রয়েছে যা জেনেটিক অ্যালগরিদম এবং সিমুলেটেড অ্যানিলিংয়ের মতো কোন দিকে যেতে কোন গ্রেডিয়েন্ট ব্যবহার করে না)। এই জাতীয় কিছু সমস্যা গ্যারান্টি দেয় যে আপনি সঠিক উত্তরটি দ্রুত খুঁজে পেয়েছেন (চতুর্ভুজ উদ্দেশ্যমূলক ক্রিয়া)। অন্যরা এরকম কোনও গ্যারান্টি দেয় না। আপনি উদ্বিগ্ন হতে পারেন যে আপনি কোনও বিশ্বব্যাপী, সর্বোত্তমের চেয়ে কোনও স্থানীয়কে আটকে রেখেছেন, তাই আপনি প্রাথমিক অনুমানের একটি ব্যাপ্তি চেষ্টা করেন। আপনি খুঁজে পেতে পারেন যে বন্যপ্রাণে বিভিন্ন পরামিতিগুলি আপনাকে উদ্দেশ্যমূলক ফাংশনের একই মান দেয়, তাই আপনি জানেন না যে কোনটি বেছে নেবে।
অন্তর্দৃষ্টি পেতে একটি দুর্দান্ত উপায় এখানে। ধরুন আপনি একটি সহজ সূচকীয় রিগ্রেশন মডেল যেখানে শুধুমাত্র regressor পথিমধ্যে হয় ছিল:
E[y]=exp{α}
উদ্দেশ্য ফাংশনটি হ'ল
QN(α)=−12N∑iN(yi−exp{α})2
এই সাধারণ সমস্যাটি সহ, উভয় পদ্ধতিরই সম্ভব as ডেরিভেটিভ নিয়ে আপনি যে ক্লোজ-ফর্ম সলিউশনটি পান সেটি হ'ল । এছাড়াও আপনি যাচাই করতে পারেন যে এর পরিবর্তে অন্য যে কোনও কিছু আপনাকে উদ্দেশ্যমূলক কার্যের উচ্চতর মান দেয় । আপনার যদি কিছু রেজিস্টার থাকে তবে বিশ্লেষণাত্মক সমাধানটি উইন্ডোটির বাইরে চলে যায়।α∗=lny¯ln(y¯+k)