প্রশ্ন ট্যাগ «gradient-descent»

আমি লিনিয়ার রিগ্রেশন অধ্যয়ন করছি এবং নীচে সেট on (x, y) tried এ চেষ্টা করে দেখছি, যেখানে x বর্গফুটে বাড়ির ক্ষেত্রফল নির্দিষ্ট করেছে এবং y ডলারে মূল্য নির্দিষ্ট করেছে। এটি অ্যান্ড্রু এনজি নোটসের প্রথম উদাহরণ । 2104.400 1600.330 2400.369 1416.232 3000.540 আমি একটি নমুনা কোড বিকাশ করেছি কিন্তু আমি যখন …

12 regression  least-squares  gradient-descent  supervised-learning 

যদি আমরা একটি ব্যাচে 10 টি উদাহরণ বলতে প্রক্রিয়াকরণ করি তবে আমি বুঝতে পারি যে আমরা প্রতিটি উদাহরণের জন্য ক্ষতির পরিমাণ তুলতে পারি, তবে প্রতিটি উদাহরণের জন্য ওজন আপডেট করার ক্ষেত্রে ব্যাকপ্রসারণ কীভাবে কাজ করে? উদাহরণ স্বরূপ: উদাহরণ 1 -> ক্ষতি = 2 উদাহরণ 2 -> ক্ষতি = -2 এটির …

12 neural-networks  gradient-descent  backpropagation  tensorflow 

আমি এই সম্পর্কিত একটি প্রশ্ন জিজ্ঞাসা করব । আমি এখানে এক্সজিস্টের জন্য কাস্টম লস ফাংশন লেখার একটি উদাহরণ পেয়েছি : loglossobj <- function(preds, dtrain) { # dtrain is the internal format of the training data # We extract the labels from the training data labels <- getinfo(dtrain, "label") # We …

12 r  machine-learning  gradient-descent  boosting  loss-functions 

সম্প্রতি, আমরা রেসিডুয়াল নিউরাল নেট এর উত্থান দেখেছি, যার মধ্যে প্রতিটি স্তরের একটি কম্পিউটেশনাল মডিউল এবং একটি শর্টকাট সংযোগ থাকে যা স্তরের ইনপুট যেমন স্তরটির আউটপুট প্রদর্শন করে: নেটওয়ার্কটি অবশিষ্টাংশের বৈশিষ্ট্যগুলি নিষ্কাশনের অনুমতি দেয় এবং শিল্পের পারফরম্যান্সের গ্রেডিয়েন্ট সমস্যাটির প্রতি আরও হওয়ার পাশাপাশি গভীর গভীরতার জন্য অনুমতি দেয়।y i + …

11 machine-learning  neural-networks  deep-learning  gradient-descent  residual-networks 

mgcvপ্যাকেজের Rঝুলানো টেন্সর পণ্যের পারস্পরিক ক্রিয়ার জন্য দুটি ফাংশন আছে: te()এবং ti()। আমি উভয়ের মধ্যে শ্রমের মৌলিক বিভাজন বুঝতে পারি (একটি অ-রৈখিক ইন্টারঅ্যাকশন বনাম বনাম। এই ইন্টারঅ্যাকশনটিকে প্রধান প্রভাব এবং একটি মিথস্ক্রিয়াতে ডেকপোজ করে)। আমি যা বুঝতে পারি না তা হ'ল কেন te(x1, x2)এবং ti(x1) + ti(x2) + ti(x1, x2)(কিছুটা) …

11 r  gam  mgcv  conditional-probability  mixed-model  references  bayesian  estimation  conditional-probability  machine-learning  optimization  gradient-descent  r  hypothesis-testing  wilcoxon-mann-whitney  time-series  bayesian  inference  change-point  time-series  anova  repeated-measures  statistical-significance  bayesian  contingency-tables  regression  prediction  quantiles  classification  auc  k-means  scikit-learn  regression  spatial  circular-statistics  t-test  effect-size  cohens-d  r  cross-validation  feature-selection  caret  machine-learning  modeling  python  optimization  frequentist  correlation  sample-size  normalization  group-differences  heteroscedasticity  independence  generalized-least-squares  lme4-nlme  references  mcmc  metropolis-hastings  optimization  r  logistic  feature-selection  separation  clustering  k-means  normal-distribution  gaussian-mixture  kullback-leibler  java  spark-mllib  data-visualization  categorical-data  barplot  hypothesis-testing  statistical-significance  chi-squared  type-i-and-ii-errors  pca  scikit-learn  conditional-expectation  statistical-significance  meta-analysis  intuition  r  time-series  multivariate-analysis  garch  machine-learning  classification  data-mining  missing-data  cart  regression  cross-validation  matrix-decomposition  categorical-data  repeated-measures  chi-squared  assumptions  contingency-tables  prediction  binary-data  trend  test-for-trend  matrix-inverse  anova  categorical-data  regression-coefficients  standard-error  r  distributions  exponential  interarrival-time  copula  log-likelihood  time-series  forecasting  prediction-interval  mean  standard-error  meta-analysis  meta-regression  network-meta-analysis  systematic-review  normal-distribution  multiple-regression  generalized-linear-model  poisson-distribution  poisson-regression  r  sas  cohens-kappa 

আমি ভাবছিলাম যে কোনও এসভিএমকে প্রশিক্ষণ দেওয়া (কোনও লিনিয়ার বলতে, জিনিসগুলিকে সহজ করে তোলা) ব্যাকপ্রোপেশন ব্যবহার করে কী সম্ভব? বর্তমানে, আমি একটি রাস্তা ব্লক আছি কারণ আমি শুধুমাত্র লেখা সম্পর্কে মনে করতে পারেন ক্লাসিফায়ার এর আউটপুট হিসাবে f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b))f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b)) f(\mathbf{x};\theta,b) = \text{sgn}(\theta\cdot\mathbf{x} - (b+1)) = \text{sgn}(g(\mathbf{x};\theta,b)) অতএব, আমরা যখন "ব্যাকওয়ার্ড পাস" …

11 machine-learning  neural-networks  svm  gradient-descent  backpropagation 

যখন সমীকরণের একটি সেট বিশ্লেষণাত্মকভাবে সমাধান করা যায় না, তখন আমরা গ্রেডিয়েন্ট বংশদ্ভুত অ্যালগরিদম ব্যবহার করতে পারি। তবে মনে হয় মন্টি কার্লো সিমুলেশন পদ্ধতিও রয়েছে যা বিশ্লেষণাত্মক সমাধান না থাকা সমস্যাগুলি সমাধান করতে ব্যবহার করা যেতে পারে। গ্রেডিয়েন্ট বংশদ্ভুত কখন ব্যবহার করবেন এবং মন্টি কার্লো কখন ব্যবহার করবেন তা কীভাবে …

11 monte-carlo  gradient-descent 

কিছু ডেটা সেটে স্টোকাস্টিক গ্রেডিয়েন্ট বংশদ্ভুতের মাধ্যমে একটি প্যারামিটারাইজড মডেলকে (উদাহরণস্বরূপ সর্বাধিকীকরণের জন্য) প্রশিক্ষণ দেওয়ার সময়, এটি সাধারণত অনুমান করা হয় যে প্রশিক্ষণের ডেটা বিতরণ থেকে প্রশিক্ষণের নমুনাগুলি আঁকা হয়। সুতরাং যদি লক্ষ্যটি একটি যৌথ বিতরণ মডেল করা হয় , তবে প্রতিটি প্রশিক্ষণের নমুনা সেই বিতরণটি থেকে আঁকতে হবে।P(X,Y)P(X,Y)P(X,Y)(xi,yi)(xi,yi)(x_i,y_i) যদি …

10 machine-learning  conditional-probability  reinforcement-learning  gradient-descent 

আমি এমএল (মেশিন লার্নিং) অ্যালগরিদমে গ্রেডিয়েন্ট বংশদ্ভুত অপ্টিমাইজেশন বোঝার চেষ্টা করছি am আমি বুঝতে পারি যে একটি ব্যয় ফাংশন রয়েছে — যেখানে লক্ষ্যটি হ'ল ত্রুটি হ্রাস করা টু । এমন এক যেখানে ওজন ন্যূনতম ত্রুটি দেওয়ার জন্য অপ্টিমাইজ করা হচ্ছে, এবং আংশিক ডেরিভেটিভস ব্যবহার করা হচ্ছে, এটি কি প্রতিটি পদক্ষেপে …

9 optimization  gradient-descent 

মনে করুন আমরা গ্রেডিয়েন্ট শালীন উপর একটি খেলনা উদাহরণ করছি, একটি চতুর্ভুজ ফাংশন হ্রাস এক্সটিএকটি এক্সএক্সটিএকজনএক্সx^TAx, স্থির পদক্ষেপের আকার ব্যবহার করে । = 0.03α=0.03\alpha=0.03। (এ = [ 10 , 2 ; ২ , ৩ ]একজন=[10,2;2,3]A=[10, 2; 2, 3]) যদি আমরা এর ট্রেস প্লট করি এক্সএক্সxপ্রতিটি পুনরাবৃত্তিতে আমরা নিম্নলিখিত চিত্রটি পাই। …

9 r  machine-learning  optimization  gradient-descent 

আমি ভ্যানিলা সাবগ্রেডিয়েন্ট পদ্ধতিগুলির মাধ্যমে লাসো সমাধান করার চিন্তা করছিলাম। তবে আমি লোকদের প্রক্সিমাল গ্রেডিয়েন্ট বংশোদ্ভূত ব্যবহারের পরামর্শ দিয়েছি। লাসোর জন্য কেন ভ্যানিলা সাবগ্রেডিয়েন্ট পদ্ধতিগুলির পরিবর্তে প্রক্সিমাল জিডি ব্যবহার করা যেতে পারে তা কেউ কেউ হাইলাইট করতে পারে?

9 machine-learning  optimization  lasso  gradient-descent 

আমি গ্রেডিয়েন্ট বুস্টিং ( https://en.wikedia.org/wiki/Gradient_boosting ) এ দরকারী উইকিপিডিয়া এন্ট্রি পড়ছি , এবং কীভাবে / কেন আমরা খাড়া বংশোদ্ভূত পদক্ষেপ দ্বারা আনুমানিক আনতে পারি তা বোঝার চেষ্টা করছি (এটি ছদ্ম-গ্রেডিয়েন্টও বলা হয়) )। খাড়া বংশোদ্ভূত কীভাবে অবশিষ্টাংশের সাথে সংযুক্ত / অনুরূপ হয় সে সম্পর্কে কেউ আমাকে অন্তর্দৃষ্টি দিতে পারেন? সাহায্য …

9 self-study  gradient-descent 

গ্রেডিয়েন্ট বংশোদ্ভূত হওয়ার জন্য কেউ কীভাবে সর্বোত্তম শেখার হার নির্ধারণ করতে পারে? আমি ভাবছি যে পূর্ববর্তী পুনরাবৃত্তির তুলনায় ব্যয় ফাংশনটি যদি বৃহত্তর মান দেয় তবে আমি স্বয়ংক্রিয়ভাবে এটিকে সামঞ্জস্য করতে পারি (অ্যালগরিদম রূপান্তরিত হবে না) তবে কী নতুন মান নেওয়া উচিত তা আমি নিশ্চিত নই।

9 regression  machine-learning  gradient-descent