প্রশ্ন ট্যাগ «regularization»

এই পোস্টটি এটিকে অনুসরণ করে : ত্রিভুজটিতে ধ্রুবক যুক্ত করে কেন রিজ অনুমানটি ওএলএসের চেয়ে ভাল হয়? এখানে আমার প্রশ্ন: আমি যতদূর জানি, রিজ নিয়মিতকরণ একটি ell_2 -norm (ইউক্লিডিয়ান দূরত্ব) ব্যবহার করে। তবে কেন আমরা এই আদর্শের বর্গ ব্যবহার করব? ( ৩ এর সরাসরি প্রয়োগের ফলে বিটার স্কোয়ারের যোগফলের বর্গমূলের …

12 lasso  regularization  ridge-regression 

আমি ইদানীং বিচ্ছিন্ন উপস্থাপনাগুলিতে প্রচুর কাগজপত্র দেখছি এবং তাদের বেশিরভাগই আদর্শ ব্যবহার করেন এবং কিছুটা । আমার প্রশ্ন হ'ল \ ell_p আদর্শ এবং \ ell_ {p, q} মিশ্রিত আদর্শ কী? এবং এগুলি কীভাবে নিয়ন্ত্রণের সাথে প্রাসঙ্গিক?ℓpℓp\ell_pℓpℓp\ell_pℓp,qℓp,q\ell_{p, q} ধন্যবাদ

12 machine-learning  regularization  sparse 

ইয়ান গুডফেলির বই ডিপ লার্নিংয়ে আমি এমন কিছু পড়লাম । নিউরাল নেটওয়ার্কগুলির প্রসঙ্গে, "L2 প্যারামিটার আদর্শ শাস্তি সাধারণত ওজন ক্ষয় হিসাবে পরিচিত This স্পেসে "তবে শূন্যের দিকে মডেল পরামিতিগুলিকে নিয়মিত করা আরও বেশি সাধারণ। (ডিপ লার্নিং, গুডফেলো ইত্যাদি) আমি উৎসুক. আমি বুঝতে পারি যে কেবলমাত্র আমাদের ব্যয় কার্যক্রমে একটি নিয়মিত …

11 machine-learning  neural-networks  deep-learning  regularization 

রিজ বা লাসোতে নিয়মিতকরণ পরামিতি ল্যাম্বদা নির্বাচন করার ক্ষেত্রে প্রস্তাবিত পদ্ধতিটি ল্যাম্বদার বিভিন্ন মান চেষ্টা করে, বৈধতা সেটটিতে ত্রুটিটি পরিমাপ করে এবং অবশেষে লাম্বদার সেই মানটি বেছে নেয় যা সর্বনিম্ন ত্রুটি প্রদান করে। যদি ফ (ল্যাম্বদা) ফাংশন = ত্রুটি উত্তল হয় তবে এটি আমার কাছে ক্লিট হয় না। এটা কি …

11 cross-validation  error  regularization  validation  optimization 

নিয়মিতকরণের কৌশলগুলি দ্বারা আমি লসো, রিজ রিগ্রেশন, ইলাস্টিক নেট এবং এর মতো উল্লেখ করছি। জনসংখ্যার উপাত্ত এবং ডায়াগনোসিস ডেটা সম্বলিত স্বাস্থ্যসেবা ডেটা সম্পর্কিত একটি ভবিষ্যদ্বাণীপূর্ণ মডেল বিবেচনা করুন যেখানে রোগীদের থাকার জন্য থাকার দৈর্ঘ্যের পূর্বাভাস দেওয়া হচ্ছে। কিছু ব্যক্তির জন্য বেসলাইন সময়কালীন একাধিক লস পর্যবেক্ষণ (যেমন, একাধিক আইপি পর্ব) থাকে …

11 multiple-regression  random-effects-model  regularization 

বন্ধ থাকে। এই প্রশ্নটি অফ-টপিক । এটি বর্তমানে উত্তর গ্রহণ করছে না। এই প্রশ্নটি উন্নত করতে চান? প্রশ্নটি আপডেট করুন যাতে এটি ক্রস ভ্যালিডেটের জন্য অন-বিষয় । গত বছর বন্ধ ছিল । কোন উন্মুক্ত উত্স বাস্তবায়ন - যে কোনও ভাষায় - লসো নিয়মিতকরণের জন্য লর্ডো নিয়মিতকরণের পথগুলি সমন্বিত বংশোদ্ভূত দ্বারা …

11 regression  lasso  regularization 

লাসো রিগ্রেশন সম্পর্কে আমার বোঝা হ'ল যে ক্ষুদ্রতরকরণ সমস্যা সমাধানের জন্য রিগ্রেশন সহগগুলি নির্বাচন করা হয়েছে: minβ∥y−Xβ∥22 s.t.∥β∥1≤tminβ‖y−Xβ‖22 s.t.‖β‖1≤t\min_\beta \|y - X \beta\|_2^2 \ \\s.t. \|\beta\|_1 \leq t অনুশীলনে সমস্যাটি সমাধানের জন্য ল্যাগরেঞ্জ গুণক ব্যবহার করে এটি করা হয় minβ∥y−Xβ∥22+λ∥β∥1minβ‖y−Xβ‖22+λ‖β‖1\min_\beta \|y - X \beta\|_2^2 + \lambda \|\beta\|_1 মধ্যে সম্পর্ক কি …

10 optimization  lasso  regularization  lagrange-multipliers 

বেশ কয়েকটি উত্তরে আমি দেখেছি ক্রসভিলেটেড ব্যবহারকারীরা ওপিকে লাসো, রিজ এবং ইলাস্টিক নেটে প্রাথমিক কাগজপত্র সন্ধান করার পরামর্শ দেয়। উত্তরোত্তর জন্য, লাসো, রিজ এবং ইলাস্টিক নেটগুলিতে সেমিনাল কী কাজ করে?

10 references  lasso  regularization  ridge-regression  elastic-net 

যদি আমি একটি নকশা আছে ম্যাট্রিক্স , যেখানে n হল মাত্রা পর্যবেক্ষণ সংখ্যা ঘ জন্য সমাধানে জটিলতা কি β = argmin β 1এক্স। আরn × dX∈Rn×dX\in\mathcal{R}^{n\times d}এনnnঘddলাসো, আর্টএনএবংডি সহ? আমি মনে করি যে উত্তরটি কীভাবেএই প্যারামিটারগুলির সাথেকীভাবেএকটিএলএএসএসও পুনরাবৃত্তির স্কেলকরে তা উল্লেখ করা উচিত, যদি না আপনি অন্যথায় অনুভব করেন তবে …

10 optimization  lasso  regularization  time-complexity 

আমি সম্প্রতি লাসোর (নিয়মিতকরণ) বিষয়ে কয়েকটি পরিসংখ্যানের আলোচনায় এসেছি এবং একটি বিষয় যা অব্যাহত রাখে তা হ'ল লাসো কেন কাজ করে বা কেন এটি এত ভাল কাজ করে তা আমরা সত্যই বুঝতে পারি না। আমি ভাবছি যে এই বিবৃতিটি উল্লেখ করছে। স্পষ্টতই আমি বুঝতে পারি কেন লাসো প্রযুক্তিগতভাবে কাজ করে, …

10 machine-learning  lasso  regularization 

শিরোনাম অনুসারে, আমি লাইব্রেরি থেকে LBFGS অপ্টিমাইজার ব্যবহার করে গ্ল্যামনেট লিনিয়ার থেকে ফলাফলগুলি প্রতিলিপি করার চেষ্টা করছি lbfgs। এই অপটিমাইজারটি ততক্ষণ আমাদের বিচ্ছিন্নতা সম্পর্কে চিন্তা না করে একটি এল 1 নিয়ন্ত্রক পদ যুক্ত করতে দেয়, যতক্ষণ না আমাদের উদ্দেশ্যমূলক ফাংশন (এল 1 নিয়ন্ত্রক শব্দটি ব্যতীত) উত্তল থাকে। মধ্যে ইলাস্টিক নেট …

10 r  regression  regularization  glmnet  elastic-net 

এটা তোলে সুপরিচিত যে (যেমন compressive সেন্সিং ক্ষেত্রে) এল1L1L_1 আদর্শ হল "sparsity-inducing," অর্থে যে, আমরা যদি কমান কার্মিক (জন্য সংশোধন করা হয়েছে ম্যাট্রিক্স একজনAA ও ভেক্টর খ⃗ b→\vec{b} ) চক , খ⃗ ( এক্স⃗ ) = ∥ এ x⃗ - খ⃗ ∥22+ λ ∥ x⃗ ∥1fA,b→(x→)=‖Ax→−b→‖22+λ‖x→‖1f_{A,\vec{b}}(\vec{x})=\|A\vec{x}-\vec{b}\|_2^2+\lambda\|\vec{x}\|_1 বৃহৎ যথেষ্ট জন্য λ …

10 regression  matrix  normalization  regularization  sparse 

নিয়মিতকরণ করার জন্য অনেকগুলি পদ্ধতি রয়েছে - এল0এল0L_0, এল1এল1L_1, এবং এল2এল2L_2উদাহরণস্বরূপ আদর্শ ভিত্তিক নিয়মিতকরণ। ফ্রেডম্যান হাসেটি এবং তিবশরানির মতে , সেরা নিয়ন্ত্রক সমস্যাটির উপর নির্ভর করে: যথা সত্য টার্গেট ফাংশনের প্রকৃতি, ব্যবহৃত নির্দিষ্ট ভিত্তি, সংকেত-থেকে-শব্দ অনুপাত এবং নমুনার আকার। বিভিন্ন নিয়মিতকরণ পদ্ধতির কার্যকারিতা এবং পারফরম্যান্সের তুলনা করে কি কোন অভিজ্ঞতাগত …

10 r  regression  machine-learning  regularization 

ইন সপ্তাহ 3 বক্তৃতা নোট এর অ্যান্ড্রু এনজি এর Coursera মেশিন লার্নিং বর্গ , একটি শব্দ নিয়মিতকরণ বাস্তবায়ন খরচ ফাংশন যোগ করা হয়: জে+ +( θ ) = জে( θ ) +λ2 মিΣj = 1এনθ2ঞজে+ +(θ)=জে(θ)+ +λ2মিΣঞ=1এনθঞ2J^+(\theta) = J(\theta) + \frac{\lambda}{2m} \sum_{j=1}^n \theta_j^2 বক্তৃতা নোটগুলি বলে: আমরা একক সংশ্লেমে আমাদের …

10 regularization 

ভারসাম্যহীন ঘটনার কোনও ইভেন্ট সনাক্ত করতে আমি দ্বি নির্দেশমূলক আরএনএন ব্যবহার করি। Theণাত্মক শ্রেণীর চেয়ে ধনাত্মক শ্রেণি প্রায় 100 গুণ কম is কোনও নিয়মিতকরণ ব্যবহার না করা অবস্থায় আমি ট্রেনের সেটটিতে 100% এবং বৈধতা সেটটিতে 30% নির্ভুলতা পেতে পারি। আমি l2 নিয়মিতকরণ চালু করি এবং ফলাফলটি দীর্ঘতর শেখার পরিবর্তে ট্রেনের …

10 neural-networks  deep-learning  regularization  rnn