এল-ইনফিনিটি আদর্শ লিনিয়ার রিগ্রেশন সমাধান করার জন্য সফ্টওয়্যার প্যাকেজ

এল-ইনফিনিটি আদর্শকে হ্রাস করার লক্ষ্যে লিনিয়ার রিগ্রেশন সমাধান করার জন্য কোনও সফ্টওয়্যার প্যাকেজ রয়েছে কি?

regression

ভাল, যে কোনও রৈখিক-প্রোগ্রামিং প্যাকেজ কাজ করবে। এটি আপনাকে প্রচুর বিকল্প দিয়ে চলেছে। :)

— কার্ডিনাল

@ কার্ডিনাল কীভাবে আপনি এটি রৈখিক প্রোগ্রাম হিসাবে পুনরায় আবৃত্তি করবেন? এমনকি এটি তুচ্ছ মামলায় কীভাবে করা যায় তা স্পষ্ট নয় (যেমন দুটি ডেটা পয়েন্ট এবং একটি প্যারামিটার): কোনও বাধা নেই এবং উদ্দেশ্যগত কার্যটি অরৈখিক।

— শুক্র

মূল বাক্যাংশ : চেবিশেভ আনুমানিক। (আরও অনুসরণ করতে হবে The ধারণাটি অতিরিক্ত পরিবর্তনশীল প্রবর্তন করে উদ্দেশ্যটিকে সীমাবদ্ধতায় পরিণত করতে হবে))

— মূল

@ কার্ডিনাল আপনি এইটি বোঝাতে চাইছেন: mathworld.wolfram.com/ চেবেশেভ অ্যাপপ্রক্সিমেশনফর্মুলা এইচটিএমএল এটি বেশ জটিল বলে মনে হচ্ছে।

— ফ্যান জাং

ঠিক আছে, এটি কিছুটা সম্পর্কিত, তবে এই সমস্যার সাথে জার্মানি নয়। আপনার সমস্যা একটি সাধারণ এলপিতে সমাধান করা যেতে পারে। যত তাড়াতাড়ি আমি একটি কম্পিউটারে পেতে পারি, আমি একটি উত্তর পোস্ট করব।

— কার্ডিনাল

উত্তর:

সংক্ষিপ্ত উত্তর : আপনার সমস্যাটি একটি লিনিয়ার প্রোগ্রাম (এলপি) হিসাবে তৈরি করা যেতে পারে, আপনাকে কাজের জন্য আপনার প্রিয় এলপি সলভার চয়ন করতে রেখে। এলপি হিসাবে কীভাবে সমস্যাটি লিখবেন তা দেখতে, পড়ুন।

এই ক্ষুদ্রাকরণ সমস্যাটি প্রায়শই চেবিশেভ আনুমানিক হিসাবে উল্লেখ করা হয় ।

আসুন , সারি সঙ্গে দ্বারা প্রকাশ এবং । তারপর আমরা ফাংশন কমানোর জন্য নেওয়া থেকে সম্মান সঙ্গে । দ্বারা অনুকূল মানটি চিহ্নিত $\newcommand{\y}{\mathbf{y}}\newcommand{\X}{\mathbf{X}}\newcommand{\x}{\mathbf{x}}\newcommand{\b}{\mathbf{\beta}}\newcommand{\reals}{\mathbb{R}}\newcommand{\ones}{\mathbf{1}_n} \y = (y_i) \in \reals^n$ $\X \in \reals^{n \times p}$ $i$ $\x_i$ $\b \in \reals^p$ $f(\b) = \|\y - \X \b\|_\infty$ $\b$

f^{⋆} = f (β^{⋆}) = inf {f (β) : β \in R^{p}} .

$f^\star = f(\b^\star) = \inf \{f(\b): \b \in \reals^p \} \>.$

এলপি হিসাবে এটিকে পুনর্নির্মাণের মূলটি হ'ল সমস্যাটি এপিগ্রাফ আকারে পুনর্লিখন করা । নিজেকে বোঝাতে অসুবিধা হয় না যে, প্রকৃতপক্ষে

f^{⋆} = inf {t : f (β) \leq t, t \in R, β \in R^{p}} .

$f^\star = \inf\{t: f(\b) \leq t, \;t \in \reals, \;\b \in \reals^p \} \> .$

এখন, ফাংশন সংজ্ঞা ব্যবহার , আমরা ডানদিকে উপরের হিসাবে পুনর্লিখন করতে এবং তাই আমরা দেখতে পেলাম যে একটি রিগ্রেশন সেটিংয়ে ন্যূনতম করা to এর সমান is যেখানে অপ্টিমাইজেশন সম্পন্ন হয় ওভার , এবং দৈর্ঘ্যের একটি ভেক্টরকে বোঝায় । উপরের এলপিটিকে স্ট্যান্ডার্ড আকারে পুনরায় ছড়িয়ে দেওয়ার জন্য আমি এটিকে (সহজ) অনুশীলন হিসাবে রেখেছি। $f$

f^{⋆} = inf {t : - t \leq y_{i} - x_{i} β \leq t, t \in R, β \in R^{p}, 1 \leq i \leq n},

$f^\star = \inf\{t: -t \leq y_i - \x_i \b \leq t, \;t \in \reals, \;\b \in \reals^p,\; 1 \leq i \leq n \} \>,$

ℓ_{\infty}

$\ell_\infty$

\begin{array}{ll} minimize & t \\ subject to & y - X β \leq t 1_{n} \\ y - X β \geq - t 1_{n}, \end{array}

$\begin{array}{ll} \text{minimize} & t \\ \text{subject to} & \y-\X \b \leq t\ones \\ & \y - \X \b \geq - t \ones \>, \\ \end{array}$

(β, t)

$(\b, t)$

1_{n}

$\ones$

n

$n$

লিনিয়ার রিগ্রেশন এর সংস্করণ (সম্পূর্ণ প্রকরণ) এর সাথে সম্পর্ক $\ell_1$

এটি লক্ষণীয় যে আকর্ষণীয় আদর্শের সাথে খুব অনুরূপ কিছু করা যেতে পারে । চলুন । তারপরে, অনুরূপ যুক্তিগুলি এই সিদ্ধান্তে যে যাতে সংশ্লিষ্ট এলপি এলএল $\ell_1$ $g(\b) = \|\y - \X \b \|_1$

g^{⋆} = inf {t^{T} 1_{n} : - t_{i} \leq y_{i} - x_{i} β \leq t_{i}, t = (t_{i}) \in R^{n}, β \in R^{p}, 1 \leq i \leq n},

$\newcommand{\t}{\mathbf{t}} g^\star = \inf\{\t^T \ones : -t_i \leq y_i - \x_i \b \leq t_i, \;\t = (t_i) \in \reals^n, \;\b \in \reals^p,\; 1 \leq i \leq n \} \>,$

\begin{array}{ll} minimize & t^{T} 1_{n} \\ subject to & y - X β \leq t \\ y - X β \geq - t . \end{array}

$\begin{array}{ll} \text{minimize} & \t^T \ones \\ \text{subject to} & \y-\X \b \leq \t \\ & \y - \X \b \geq - \t \>. \\ \end{array}$

এখানে নোট করুন যে এখন স্কেলারের পরিবর্তে দৈর্ঘ্য ভেক্টর , যেমনটি কেস ছিল। $\t$ $n$ $\ell_\infty$

এই দুটি সমস্যার মধ্যে সাদৃশ্য এবং এলপি হিসাবে তাদের উভয়ই ফেলে দেওয়া যেতে পারে তা অবশ্য কোনও দুর্ঘটনা নয়। দুটি নিয়ম এ সম্পর্কিত যে তারা একে অপরের দ্বৈত নিয়ম ।

— মৌলিক
সূত্র

প্যারামিটার এবং / বা পূর্বাভাসগুলির জন্য আপনি কীভাবে কিছুটা নির্ভুলতা খুঁজে পাবেন? আমি নিম্নলিখিত সাম্প্রতিক প্রশ্নটির কারণে জিজ্ঞাসা করছি: গাণিতিক.স্ট্যাকেক্সেঞ্জ / ক্রিকেশনস / 214226/… ।

— জিমবি

মালাব সিভিএক্স ব্যবহার করে এটি করতে পারে। সিভিএক্স (বিনামূল্যে) পেতে:

http://cvxr.com/cvx/download/

সিভিএক্স-এ, আপনি এটি এইভাবে লিখবেন:

cvx_begin
   variable x(n);
   minimize( norm(A*x-b,Inf) );
cvx_end

( ম্যানুয়ালটির 12 পৃষ্ঠা উদাহরণ দেখুন )

সিভিএক্সের পাইথন বাস্তবায়ন রয়েছে ( এখানে ) তবে কমান্ডগুলি কিছুটা আলাদা ...

— user603
সূত্র

@ কার্ডিনালের উত্তরটি যথাযথভাবে বর্ণিত এবং স্বীকৃত হয়েছে, তবে, এই থ্রেডটি পুরোপুরি বন্ধ করার জন্য আমি নিম্নলিখিতটি উপস্থাপন করব: আইএমএসএল সংখ্যাসূচক গ্রন্থাগারগুলিতে এল-ইনফিনিটি আদর্শ নিয়মনীতি সম্পাদনের জন্য একটি রুটিন রয়েছে। রুটিনটি ফোর্টরান, সি, জাভা, সি # এবং পাইথনে পাওয়া যায়। আমি সি এবং পাইথন সংস্করণ ব্যবহার করেছি যার জন্য পদ্ধতিটি কল lnorm_regression, যা সাধারণ -norm রিগ্রেশন, । $L_p$ $p >= 1$

মনে রাখবেন যে এগুলি বাণিজ্যিক লাইব্রেরি তবে পাইথন সংস্করণগুলি অ-বাণিজ্যিক ব্যবহারের জন্য বিনামূল্যে (বিয়ারের মতো) বিনামূল্যে।

— জোশ হেমেন
সূত্র

দুর্ভাগ্যক্রমে, লিঙ্কটি আর কাজ করে না। আপনি এটি আপডেট করতে পারেন?

— COOLSerdash