প্রশ্ন ট্যাগ «lasso»

লাসো রিগ্রেশন সহগের সংখ্যাগুলি শূন্যের দিকে সঙ্কুচিত করে, এভাবে কার্যকরভাবে মডেল নির্বাচন সরবরাহ করে। আমি বিশ্বাস করি যে আমার ডেটাতে নামমাত্র এবং অবিচ্ছিন্ন সহকারীদের মধ্যে অর্থপূর্ণ মিথস্ক্রিয়া রয়েছে। অগত্যা, তবে সত্যিকারের মডেলটির 'মূল প্রভাবগুলি' অর্থবহ (শূন্য নয়)। সত্যিকারের মডেলটি অজানা বলে অবশ্যই আমি এটি জানি না। আমার উদ্দেশ্যগুলি হ'ল প্রকৃত …

25 machine-learning  lasso  glmnet  shrinkage  penalized 

লসোর জন্য বিভিন্ন বাস্তবায়ন সফ্টওয়্যার উপলব্ধ । আমি বিভিন্ন ফোরামে বায়সিয়ান অ্যাপ্রোচ বনাম ঘন ঘনবাদী পদ্ধতির বিষয়ে অনেক আলোচনা জানি। আমার প্রশ্নটি লাসোর সাথে খুব নির্দিষ্ট - নিয়মিত ল্যাসো বনাম বায়সিয়ান লাসোর পার্থক্য বা সুবিধা কী কী ? প্যাকেজে বাস্তবায়নের দুটি উদাহরণ এখানে রয়েছে: # just example data set.seed(1233) X …

24 r  machine-learning  linear-model  lasso 

সুতরাং আমাকে একটি প্রশ্ন জিজ্ঞাসা করা হয়েছিল যার ভিত্তিতে এল 1 (অর্থাত্ লাসো) এবং এল 2 (অর্থাত্ রিজ রিগ্রেশন) কী পরিমাণে পরিমাপ করে। উত্তরটি এল 1 = মিডিয়ান এবং এল 2 = গড়। এটিতে কোনও ধরণের স্বজ্ঞাত যুক্তি রয়েছে কি? নাকি এটি বীজগণিতভাবে নির্ধারণ করতে হবে? যদি তা হয় তবে …

24 lasso  regularization  loss-functions  ridge-regression 

কিছু শাস্তি ফাংশন এবং অনুমান ভাল যেমন Lasso (যেমন চর্চিত হয়, L1L1L_1 ) এবং রিজ ( ) এবং কিভাবে এইসব রিগ্রেশনে তুলনা করুন।L2L2L_2 আমি ব্রিজ পেনাল্টি সম্পর্কে পড়ছি, যা the জেনারেলাইজড পেনাল্টি। এটিকে লাসো-এর সাথে তুলনা করুন, যার এবং রিজকে, সাথে তুলনা করুন, যাতে তাদের বিশেষ কেস তৈরি করে।∑∥βj∥γ∑‖βj‖γ\sum \|\beta_{j}\|^{\gamma}γ=1γ=1\gamma …

22 regression  lasso  regularization  ridge-regression  elastic-net 

আমি আর প্যাকেজগুলি আরও ভালভাবে বুঝতে চাই Larsএবং Glmnetযা লসো সমস্যা সমাধানের জন্য ব্যবহৃত হয়: (জন্য ভেরিয়েবল এবং নমুনা পৃষ্ঠা 3 এ www.stanford.edu/~hastie/Papers/glmnet.pdf দেখুন )পিএনমি i এন( β)0β) ∈ আরপি + 1[ ১2 এনΣi = 1এন( y)আমি- β0- এক্সটিআমিβ)2+ λ | | β| |ঠ1]মিআমিএন(β0β)∈আরপি+ +1[12এনΣআমি=1এন(Yআমি-β0-এক্সআমিটিβ)2+ +λ||β||ঠ1]min_{(\beta_0 \beta) \in R^{p+1}} \left[\frac{1}{2N}\sum_{i=1}^{N}(y_i-\beta_0-x_i^T\beta)^2 …

22 r  regression  machine-learning  lasso  regularization 

আমি যদি একটি নিখুঁত ভবিষ্যদ্বাণী জুটি খুঁজে পেতে সক্ষম হয় তা পরীক্ষা করতে আমি আর এস এ ল্যাসো রিগ্রেশন নিয়ে একটি ছোট পরীক্ষা চালাচ্ছি। জোড়টিকে এইরকম সংজ্ঞায়িত করা হয়: f1 + f2 = ফলাফল এখানে ফলাফলটি 'বয়স' নামে পরিচিত একটি পূর্বনির্ধারিত ভেক্টর। F1 এবং f2 বয়স ভেক্টরের অর্ধেক নিয়ে এবং …

20 r  regression  feature-selection  lasso  high-dimensional 

loss=∥y−Xβ∥22+λ∥β∥1loss=‖y−Xβ‖22+λ‖β‖1 {\rm loss} = \| y - X \beta \|_2^2 + \lambda \| \beta \|_1 exp(−λ∥β∥1)exp⁡(−λ‖β‖1) \exp(-\lambda \| \beta \|_1 ) λλ\lambda বিবেচনা করুন যে বয়েসীয় দৃষ্টিকোণ থেকে আমরা পরবর্তী সম্ভাবনাগুলি গণনা করতে পারি যে, বলুন যে শূন্য-না-প্যারামিটার অনুমানগুলি প্রদত্ত অন্তরগুলির যে কোনও সংগ্রহের মধ্যে রয়েছে এবং লাসো দ্বারা শূন্যে …

20 lasso  laplace-distribution 

পরিসংখ্যান শেখার অ্যালগরিদম চালানোর আগে বৈশিষ্ট্য নির্বাচন পদ্ধতিগুলি (এলোমেলো বন বৈশিষ্ট্য গুরুত্বের মান বা ইউনিভারিয়েট বৈশিষ্ট্য নির্বাচন পদ্ধতি ইত্যাদি) ব্যবহার করার জন্য আমার একটি প্রশ্ন রয়েছে। আমরা ওভারফিটিং এড়াতে জানি যে আমরা ওজন ভেক্টরগুলিতে নিয়মিতকরণ জরিমানা প্রবর্তন করতে পারি। সুতরাং আমি যদি লিনিয়ার রিগ্রেশন করতে চাই, তবে আমি এল 2 …

20 regression  machine-learning  feature-selection  lasso  regularization 

এল 1 পেনালাইজড রিগ্রেশন (ওরফে লাসো) দুটি ফর্মুলেশনে উপস্থাপিত হয়। দুটি উদ্দেশ্যমূলক ফাংশনটি তারপরে দুটি পৃথক সূত্রগুলি সাপেক্ষে এবং এবং, equivalently কারুশ-কুহান-টকার (কেকেটি) শর্তাবলী ব্যবহার করে, প্রথম সূত্রের স্থিতিস্থাপকতা দ্বিতীয় সূত্রের গ্রেডিয়েন্ট গ্রহণ করা এবং এটি 0 এর সমান স্থাপনের সমান, এটি সহজেই পাওয়া যায় যা আমি খুঁজে পাই না …

20 regression  lasso  penalized 

আমি একটি ডেটাসেটের জন্য সহগের সঙ্কুচিত প্রাক্কলনগুলি পেতে দন্ডিত আর প্যাকেজটি ব্যবহার করছি যেখানে আমার প্রচুর ভবিষ্যদ্বাণী রয়েছে এবং কোনটি গুরুত্বপূর্ণ তা সম্পর্কে খুব কম জ্ঞান। আমি এল 1 এবং এল 2 টিউনিংয়ের প্যারামিটারগুলি বেছে নেওয়ার পরে এবং আমি আমার গুণাগুণগুলি নিয়ে সন্তুষ্ট হয়েছি, আর-স্কোয়ারের মতো কোনও কিছুর সাথে মডেল …

20 regression  lasso  stepwise-regression  ridge-regression 

সম্প্রতি আমি আবিষ্কার করেছি যে প্রয়োগকৃত একনোমেট্রিক্স সাহিত্যে, বৈশিষ্ট্য নির্বাচনের সমস্যাগুলি মোকাবেলা করার সময়, নির্বাচিত ভেরিয়েবলগুলি ব্যবহার করে ওএলএস রিগ্রেশন অনুসরণ করার পরে ল্যাসো সম্পাদন করা অস্বাভাবিক কিছু নয়। আমি ভাবছিলাম যে কীভাবে আমরা এই জাতীয় পদ্ধতির বৈধতা অর্জন করতে পারি? এটি কি বাদ দেওয়া ভেরিয়েবলের মতো ঝামেলা সৃষ্টি করবে? …

20 regression  feature-selection  econometrics  least-squares  lasso 

ডিভিডি হিসাবে ডিভিটি mtcarsসেট করে ডেভিড আলফা (১, সুতরাং লাসো) সহ গ্ল্যামনেটের প্লটটি mpgভবিষ্যদ্বাণী ভেরিয়েবল হিসাবে অন্য হিসাবে সেট করা হয় । glmnet(as.matrix(mtcars[-1]), mtcars[,1]) আমরা কি বিভিন্ন ভেরিয়েবল সংক্রান্ত এই চক্রান্ত থেকে এই উপসংহারে আসতে পারি, বিশেষ করে am, cylএবং wt(লাল, কালো এবং হালকা নীল লাইন)? একটি প্রতিবেদন প্রকাশের জন্য …

19 regression  feature-selection  lasso  glmnet 

আমি ভবিষ্যদ্বাণী সঙ্কুচিত / নির্বাচনের জন্য ইলাস্টিক নেট পদ্ধতিতে সত্যই আগ্রহী হয়ে উঠছি। এটি খুব শক্তিশালী বলে মনে হচ্ছে। তবে বৈজ্ঞানিক দৃষ্টিকোণ থেকে আমি সহকর্মীরা একবার পেয়ে গেলে কী করণীয় তা ভাল করে জানিনা। আমি কোন প্রশ্নের উত্তর দিচ্ছি? এটি সেই পরিবর্তনশীল যা ফলাফলটিকে সবচেয়ে বেশি প্রভাবিত করে এবং এইগুলি …

19 hypothesis-testing  prediction  inference  lasso  elastic-net 

ধাপে ধাপে অ্যালগরিদমিক পরিবর্তনশীল-নির্বাচন পদ্ধতিগুলি এমন মডেলগুলির জন্য বাছাই করে যা প্রতিরোধের মডেলগুলিতে প্রতিটি অনুমানকে কমবেশি বিবেচনা করে ( s এস এবং তাদের এসই, পি- ভ্যালু, এফ পরিসংখ্যান ইত্যাদি), এবং সত্য ভবিষ্যদ্বাণীকারীদের বাদ দিতে পারে যুক্তিসঙ্গতভাবে পরিপক্ক সিমুলেশন সাহিত্য অনুসারে ভুয়া ভবিষ্যদ্বাণীদের অন্তর্ভুক্ত করুন।ββ\beta ভেরিয়েবল নির্বাচন করার জন্য লাসো কি …

18 regression  feature-selection  lasso  regression-strategies  stepwise-regression 

প্রশ্ন এই Lasso চক্রান্ত (glmnet) থেকে উপসংহার Lasso মূল্নির্ধারক যে একঘেয়ে নয় সমাধান পাথ প্রমান। এটি হ'ল কিছু কফিশিয়েন্ট সঙ্কুচিত হওয়ার আগেই পরম মানে বৃদ্ধি পায়। আমি এই মডেলগুলিকে বিভিন্ন ধরণের ডেটা সেটগুলিতে প্রয়োগ করেছি এবং "বন্যের মধ্যে" এই আচরণটি কখনও দেখিনি এবং আজ অবধি তারা ধরেই নিয়েছিল যে তারা …

18 lasso  ridge-regression  elastic-net