ডিজাইন ম্যাট্রিক্স আকারের সাথে কীভাবে লাসো স্কেল করে?

যদি আমি একটি নকশা আছে ম্যাট্রিক্স , যেখানে মাত্রা পর্যবেক্ষণ সংখ্যা জন্য সমাধানে জটিলতা কি $X\in\mathcal{R}^{n\times d}$ $n$ $d$ লাসো, আর্টএবং? আমি মনে করি যে উত্তরটি কীভাবেএই প্যারামিটারগুলির সাথেকীভাবেএকটিএলএএসএসও পুনরাবৃত্তির স্কেলকরে তা উল্লেখ করা উচিত, যদি না আপনি অন্যথায় অনুভব করেন তবে পুনরাবৃত্তির সংখ্যা (কনভার্জেন্স) স্কেল কীভাবে হয় than $\hat{\beta}=\text{argmin}_{\beta}\frac{1}{2n} ||X\beta-y||^{2} + \lambda||\beta||_{1}$ $n$ $d$

আমি এই আগের ল্যাসো জটিলতার প্রশ্নটি পড়েছি , তবে এটি এখানে এবং এখানে গ্ল্যামনেট সম্পর্কে আলোচনার সাথে মতবিরোধ বলে মনে হচ্ছে । আমি সচেতন সেখানে আউট অনেক আলগোরিদিম, glmnet এর GLM পদ্ধতির সহ আছে, কিন্তু আমি একটি পিতা বা মাতা অ্যালগরিদম করার জন্য একটি Lasso উপাদান প্রতিস্থাপন সম্পর্কে একটি কাগজ লিখছি এবং সাধারণভাবে Lasso জটিলতা সম্পর্কে একটি আলোচনা অন্তর্ভুক্ত করতে চাই, বিশেষ করে সঙ্গে এবং । আমি বেসিক অ-স্পার্স ক্ষেত্রে গ্ল্যামনেটের জটিলতাও জানতে চাই, তবে রেফারেন্সড পেপারটি কিছুটা বিভ্রান্তিকর কারণ পুরো অ্যালগরিদম জটিলতা স্পষ্ট নয়। $d$ $n$

— rnoodle
সূত্র

এই উত্তরটি কেন stats.stackexchange.com/a/190717/28666 (যে থ্রেডে আপনি লিঙ্ক করেছেন) আপনার প্রশ্নের উত্তর কেন দেয় না তা পরিষ্কার নয়। তুমি কি বিস্তারিত বলতে পারো? কিসের সাথে মতবিরোধ হয়?

— অ্যামিবা

O (d n)

$O(dn)$

O (d^{2} n)

$O(d^{2}n)$

d^{2}

$d^{2}$

@ অ্যামিবা আপনার দেওয়া লিঙ্কটি ল্যারস অ্যালগরিদমের জন্য - আমি জিএলএম পদ্ধতির বিষয়ে জানতে চাই।

— rnoodle

O (d^{2} n)

$\mathcal{O}(d^2n)$

O (d n)

$\mathcal{O}(dn)$

O (d^{2} n)

$\mathcal{O}(d^2n)$

λ

$\lambda$

O (d^{2} n)

$\mathcal{O}(d^2n)$

O (d n)

$\mathcal{O}(dn)$

d

$d$

রেফারেন্স থেকে উত্তর,

$\mathcal{O}(d^2n)$
$\mathcal{O}(dn)$

, সঠিক.

পার্থক্য এটি

LARS সমীকরণগুলি বন্ধ আকারে লেখা হয় এবং একটি সঠিক সমাধান খুঁজে পায়

$O(d^2n)$

যখন

$\mathcal{O}(dn)$

$d$ $\mathcal{O}((d-k)n+k^2)$ $d-k$ $k$

$d^2n$ $d$ $d$ $d>>100$ $d=100$

স্কেলিং LARS গণনা জটিলতা জড়িত একটি সমস্যা। স্কেলিং সমন্বিত বংশোদ্ভূত সমস্যা গণনা জটিলতা এবং সংযোগ জড়িত ।

— সেক্সটাস এম্পেরিকাস
সূত্র