প্রশ্ন ট্যাগ «gradient-descent»

গ্রেডিয়েন্ট ডিসেন্ট কোনও ফাংশনের সর্বনিম্ন সন্ধানের জন্য একটি অ্যালগরিদম। এটি পুনরাবৃত্তভাবে ফাংশনের আংশিক ডেরিভেটিভস (গ্রেডিয়েন্টস) গণনা করে এবং সেই আংশিক ডেরিভেটিভসের সমানুপাতিক পদক্ষেপে নেমে আসে। গ্রেডিয়েন্ট বংশোদ্ভূত একটি বড় অ্যাপ্লিকেশন হ'ল একটি সেটগুলির একটি প্যারামিটারাইজড মডেল ফিটিং করছে: ছোট করা ফাংশনটি মডেলের জন্য একটি ত্রুটি ফাংশন।

4
সাইকিট-লার্ন: এসজিডিসি ক্লাসিফায়ার হিসাবে লজিস্টিক রিগ্রেশন হিসাবে পূর্বাভাস দেওয়া
লজিস্টিক রিগ্রেশনকে প্রশিক্ষণের একটি উপায় হ'ল স্টোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভুত ব্যবহার, যা বিজ্ঞানী-শিখতে একটি ইন্টারফেস দেয়। আমি কি করতে চান একটি scikit-শিখতে এর নিতে হয় SGDClassifier এবং এটি একটি পণ্য সরবরাহ রিগ্রেশন হিসাবে একই স্কোর আছে এখানে । তবে আমার স্কোর সমতুল্য না হওয়ায় অবশ্যই আমি অবশ্যই কিছু মেশিন লার্নিং বর্ধনগুলি …

3
গ্রেডিয়েন্ট বংশোদ্ভূত এবং স্টোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভূত মধ্যে পার্থক্য কি?
গ্রেডিয়েন্ট বংশোদ্ভূত এবং স্টোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভূত মধ্যে পার্থক্য কি? আমি এগুলির সাথে খুব বেশি পরিচিত নই, আপনি একটি সংক্ষিপ্ত উদাহরণ দিয়ে পার্থক্যটি বর্ণনা করতে পারবেন?

4
গ্রেডিয়েন্ট বংশোদ্ভূত কি সর্বদা সর্বোত্তম হয়ে যায়?
আমি ভাবছি যে এমন কোনও দৃশ্য আছে যাতে গ্রেডিয়েন্ট বংশোদ্ভূত ন্যূনতম রূপান্তরিত হয় না। আমি সচেতন যে গ্রেডিয়েন্ট বংশোদ্ভূত সর্বদা বিশ্ব সর্বোত্তম রূপান্তরিত হওয়ার গ্যারান্টিযুক্ত নয়। আমি এও সচেতন যে পদক্ষেপের আকারটি যদি খুব বড় হয় তবে এটি একটি সর্বোত্তম থেকে অন্যদিকে চলে যেতে পারে। যাইহোক, এটি আমার কাছে মনে …

1
অন্যান্য অ্যাক্টিভেশন ফাংশনগুলির তুলনায় রিলু কেন ভাল
এখানে উত্তরটি বিলুপ্ত হওয়া এবং বিস্ফোরিত গ্রেডিয়েন্টকে বোঝায় যেগুলি অ- sigmoidসক্রিয় ক্রিয়াকলাপে ছিল তবে আমার ধারণা, Reluএর একটি অসুবিধা রয়েছে এবং এটি তার প্রত্যাশিত মান। আউটপুটটির জন্য কোনও সীমাবদ্ধতা নেই Reluএবং সুতরাং এর প্রত্যাশিত মানটি শূন্য নয়। আমি সময় মনে রাখবেন সামনে জনপ্রিয়তা Reluযে tanhসবচেয়ে জনপ্রিয় ছিল মধ্যে মেশিন বিশেষজ্ঞদের …

4
গ্রেডিয়েন্ট বংশোদ্ভূত কি প্রতিটি অপ্টিমাইজারের কেন্দ্রীয়?
আমি জানতে চাই যে গ্রেডিয়েন্ট ডেসেন্টটি অ্যাডাম, অ্যাডাগ্রেড, আরএমএসপ্রপ এবং অন্যান্য বেশ কয়েকটি অপ্টিমাইজারের মতো অপ্টিমাইজারে ব্যবহৃত মূল আলগোরিদিম কিনা।

1
আমার কয়টি এলএসটিএম সেল ব্যবহার করা উচিত?
আমার ব্যবহার করা উচিত ন্যূনতম, সর্বাধিক এবং "যুক্তিসঙ্গত" পরিমাণগুলির সাথে সম্পর্কিত কোনও নিয়ামক (বা প্রকৃত নিয়ম) কি আছে? বিশেষত আমি টেনসরফ্লো এবং num_unitsসম্পত্তি থেকে বেসিকএলএসটিএমসেল সম্পর্কিত করছি । অনুগ্রহ করে ধরে নিই যে আমার দ্বারা শ্রেণিবদ্ধকরণের সমস্যা রয়েছে: t - number of time steps n - length of input vector …
12 rnn  machine-learning  r  predictive-modeling  random-forest  python  language-model  sentiment-analysis  encoding  machine-learning  deep-learning  neural-network  dataset  caffe  classification  xgboost  multiclass-classification  unbalanced-classes  time-series  descriptive-statistics  python  r  clustering  machine-learning  python  deep-learning  tensorflow  machine-learning  python  predictive-modeling  probability  scikit-learn  svm  machine-learning  python  classification  gradient-descent  regression  research  python  neural-network  deep-learning  convnet  keras  python  tensorflow  machine-learning  deep-learning  tensorflow  python  r  bigdata  visualization  rstudio  pandas  pyspark  dataset  time-series  multilabel-classification  machine-learning  neural-network  ensemble-modeling  kaggle  machine-learning  linear-regression  cnn  convnet  machine-learning  tensorflow  association-rules  machine-learning  predictive-modeling  training  model-selection  neural-network  keras  deep-learning  deep-learning  convnet  image-classification  predictive-modeling  prediction  machine-learning  python  classification  predictive-modeling  scikit-learn  machine-learning  python  random-forest  sampling  training  recommender-system  books  python  neural-network  nlp  deep-learning  tensorflow  python  matlab  information-retrieval  search  search-engine  deep-learning  convnet  keras  machine-learning  python  cross-validation  sampling  machine-learning 

4
যদি ফাংশনটি মসৃণ হয় তবে কেন এটি গ্রেডিয়েন্ট বংশোদ্ভূত হবে?
আমি এখন "হ্যান্ডস-অন মেশিন লার্নিং উইথ সায়কিট-লার্ন অ্যান্ড টেনসরফ্লো" শীর্ষক একটি বই পড়েছি এবং ১১ তম অধ্যায়ে এটির ইএলইউ (এক্সপেনশনাল রিলু) এর ব্যাখ্যা সম্পর্কে নিম্নলিখিত বিবরণ রয়েছে। তৃতীয়, ফাংশনটি প্রায় z = 0 সহ সর্বত্র মসৃণ, যা গ্রেডিয়েন্ট বংশোদ্ভূতিকে গতি বাড়িয়ে তুলতে সহায়তা করে, যেহেতু এটি z = 0 এর …

1
অবজেক্ট ফাংশন এবং আউটপুট লেয়ার অ্যাক্টিভেশন ফাংশনের মধ্যে লিঙ্কটি কতটা নমনীয়?
আউটপুট স্তরের অ্যাক্টিভেশন ফাংশনটির সাথে সংক্ষিপ্ত করার উদ্দেশ্যে উদ্দেশ্য ফাংশনটি জোড়া লাগাতে অনেকগুলি নিউরাল নেটওয়ার্ক প্যাকেজগুলিতে এটি স্ট্যান্ডার্ড বলে মনে হচ্ছে। উদাহরণস্বরূপ, রিগ্রেশন জন্য ব্যবহৃত লিনিয়ার আউটপুট স্তরটির জন্য একটি স্কোয়ার ত্রুটির উদ্দেশ্যমূলক ফাংশনটি স্ট্যান্ডার্ড (এবং প্রায়শই কেবল পছন্দ) হয়। আর একটি সাধারণ জুড়ি হ'ল লজিস্টিক আউটপুট এবং লগ হ্রাস …

2
ভেক্টর অপারেশনের উপর ভিত্তি করে স্টোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভূত?
আসুন ধরে নেওয়া যাক যে আমি এন স্যাম্পল রয়েছে এমন একটি ডেটাসেট ব্যবহার করে স্টোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভূত আলগরিদমকে প্রশিক্ষণ দিতে চাই। যেহেতু ডেটাসেটের আকার স্থির হয়ে গেছে, তাই আমি টি টি বার পুনরায় ব্যবহার করব। প্রতিটি পুনরাবৃত্তি বা "যুগ" এ, আমি প্রতিটি প্রশিক্ষণের নমুনা এলোমেলোভাবে পুরো প্রশিক্ষণের সেটটিকে পুনরায় অর্ডার …

2
কেন শিখার হার আমার নিউরাল নেটওয়ার্কের ওজনকে স্কাইরকেটে ডেকে আনছে?
আমি কিছুটা গবেষণার জন্য সাধারণ নিউরাল নেটওয়ার্কগুলি লিখতে টেনসরফ্লো ব্যবহার করছি এবং প্রশিক্ষণের সময় 'ন্যান' ওজন নিয়ে আমার অনেক সমস্যা হয়েছিল। অপটিমাইজার পরিবর্তন করা, ক্ষতির পরিবর্তন, উপাত্তের আকার ইত্যাদির মতো অনেকগুলি বিভিন্ন সমাধান আমি চেষ্টা করেছি তবে কোনও লাভ হয়নি। অবশেষে, আমি লক্ষ করেছি যে শিক্ষার হারে পরিবর্তন আমার ওজনে …
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.