প্রশ্ন ট্যাগ «optimization»

আমি বর্তমানে স্টোচাস্টিক গ্রেডিয়েন্ট বংশোদ্ভূতিকে বাস্তবায়ন করার জন্য কাজ করছি, SGDব্যাক-বর্ধন ব্যবহার করে নিউরাল জালগুলির জন্য, এবং আমি এর উদ্দেশ্য বুঝতে গিয়ে শিখার হারের জন্য মানগুলি কীভাবে বেছে নেব সে সম্পর্কে আমার কিছু প্রশ্ন রয়েছে। শেখার হারটি কী ত্রুটির গ্রেডিয়েন্টের আকারের সাথে সম্পর্কিত, যেমন এটি বংশোদ্ভূত হারকে নির্দেশ করে? যদি …

85 machine-learning  neural-network  deep-learning  optimization  hyperparameter 

সুতরাং, আমি এই বিষয়ে কোনও সাহিত্যের সন্ধান করতে পারিনি তবে মনে হচ্ছে এটি একটি মূল্যবান মূল্য দেওয়ার মতো: নতুন পর্যবেক্ষণ উপলব্ধ থাকলে মডেল প্রশিক্ষণ এবং অনুকূলকরণের সেরা অনুশীলনগুলি কী কী? পূর্বাভাস হ্রাস শুরু হওয়ার আগে কোনও মডেল পুনরায় প্রশিক্ষণের সময়কাল / ফ্রিকোয়েন্সি নির্ধারণ করার কোনও উপায় আছে কি? সামগ্রিক ডেটার …

28 machine-learning  predictive-modeling  optimization  training 

নিউরাল নেটওয়ার্কগুলি প্রশিক্ষণ দেওয়ার সময়, একটি হাইপারপ্যারামিটার হ'ল একটি মিনিব্যাচের আকার। সাধারণ পছন্দগুলি প্রতি মিনি ব্যাচটিতে 32, 64 এবং 128 টি উপাদান। মিনি-ব্যাচ কত বড় হতে হবে এমন কোনও নিয়ম / নির্দেশিকা রয়েছে? কোন প্রকাশনা যা প্রশিক্ষণের উপর প্রভাবটি তদন্ত করে?

21 neural-network  deep-learning  convnet  optimization 

আমি ভাবছি যে এমন কোনও দৃশ্য আছে যাতে গ্রেডিয়েন্ট বংশোদ্ভূত ন্যূনতম রূপান্তরিত হয় না। আমি সচেতন যে গ্রেডিয়েন্ট বংশোদ্ভূত সর্বদা বিশ্ব সর্বোত্তম রূপান্তরিত হওয়ার গ্যারান্টিযুক্ত নয়। আমি এও সচেতন যে পদক্ষেপের আকারটি যদি খুব বড় হয় তবে এটি একটি সর্বোত্তম থেকে অন্যদিকে চলে যেতে পারে। যাইহোক, এটি আমার কাছে মনে …

21 machine-learning  neural-network  deep-learning  optimization  gradient-descent 

আমি কিছুক্ষণের জন্য নিউরাল নেটওয়ার্ক ব্যবহার করে আসছি। তবে, একটি বিষয় যা আমি ক্রমাগত লড়াই করে তা হ'ল নেটওয়ার্ক প্রশিক্ষণের জন্য একটি অপ্টিমাইজার নির্বাচন করা (ব্যাকপ্রপ ব্যবহার করে)। আমি সাধারণত যা করি তা হ'ল একটি (যেমন স্ট্যান্ডার্ড এসজিডি) দিয়ে শুরু করা এবং তারপরে অন্যকে অন্যরকম চেষ্টা করুন try আমি ভাবছিলাম …

18 neural-network  optimization  backpropagation 

আমি অ্যান্ড্রু এনজি (একটি ভিডিওতে দুর্ভাগ্যবশত আমি আর খুঁজে পাচ্ছি না) শুনেছি কীভাবে গভীর শিক্ষার সমস্যাগুলির মধ্যে স্থানীয় মিনিমার বোঝাপড়া এই অর্থে পরিবর্তিত হয়েছে যে তারা এখন কম সমস্যাযুক্ত হিসাবে বিবেচিত হয় কারণ উচ্চ মাত্রিক স্থানগুলিতে (এর মুখোমুখি হয়েছিল) গভীর শিক্ষণ) সমালোচনামূলক পয়েন্টগুলি স্থানীয় মিনিমার পরিবর্তে স্যাডল পয়েন্ট বা প্লাটিউস …

18 machine-learning  deep-learning  optimization  convergence 

উইকিপিডিয়া পৃষ্ঠা উদ্ধৃতি চিহ্ন "পরিসংখ্যানগত শিক্ষণ উপাদানসমূহ" বলেছেন: সাধারণত, সঙ্গে একটি শ্রেণীবিন্যাস সমস্যার জন্য বৈশিষ্ট্য, ⌊ √ppp বৈশিষ্ট্যগুলি প্রতিটি বিভক্তিতে ব্যবহৃত হয়।⌊p–√⌋⌊p⌋\lfloor \sqrt{p}\rfloor আমি বুঝতে পারি যে এটি মোটামুটি ভাল শিক্ষিত অনুমান এবং এটি সম্ভবত অভিজ্ঞতাগত প্রমাণ দ্বারা নিশ্চিত করা হয়েছিল, তবে এর অন্যান্য কারণগুলি কি কারণ বর্গমূলকে বেছে নেওয়া …

14 statistics  random-forest  optimization  evaluation  sampling 

আমার উপলব্ধি থেকে, জেনেটিক অ্যালগরিদমগুলি বহু-উদ্দেশ্যমূলক অপ্টিমাইজেশানের শক্তিশালী সরঞ্জাম। তদ্ব্যতীত, নিউরাল নেটওয়ার্কগুলি প্রশিক্ষণ দেওয়া (বিশেষত গভীরগুলি) খুব কঠিন এবং এর অনেকগুলি সমস্যা রয়েছে (নন-কনভেক্স ব্যয় ফাংশনগুলি - স্থানীয় মিনিমা, বিলুপ্ত হওয়া এবং বিস্ফোরক গ্রেডিয়েন্টস ইত্যাদি)। এছাড়াও আমি হ'ল জিএর সাথে একটি এনএনকে ধারণামূলকভাবে প্রশিক্ষণ দেওয়া সম্ভব। আমি ভাবছিলাম, কেন তারা …

13 neural-network  optimization  genetic-algorithms 

আমি জানতে চাই যে গ্রেডিয়েন্ট ডেসেন্টটি অ্যাডাম, অ্যাডাগ্রেড, আরএমএসপ্রপ এবং অন্যান্য বেশ কয়েকটি অপ্টিমাইজারের মতো অপ্টিমাইজারে ব্যবহৃত মূল আলগোরিদিম কিনা।

13 machine-learning  neural-network  deep-learning  optimization  gradient-descent 

মনে হচ্ছে অ্যাডাপটিভ মুহুর্তের প্রাক্কলন (অ্যাডাম) অপ্টিমাইজারটি প্রায় সবসময় আরও ভাল কাজ করে (দ্রুত এবং আরও নির্ভরযোগ্যভাবে একটি সর্বনিম্ন সর্বনিম্নে পৌঁছায়) যখন প্রশিক্ষণে নিউরাল নেটগুলি ব্যয় করা হয় function সব সময় আদমকে ব্যবহার করবেন না কেন? এমনকি আরএমএসপ্রপ বা গতিবেগ অপ্টিমাইজার ব্যবহার করে কেন বিরক্ত করবেন?

13 neural-network  optimization 

আর বেস ফাংশন glm()এমএলইয়ের জন্য ফিশার্স স্কোরিং ব্যবহার করে, যখন উপস্থিতগুলি glmnetএকই সমীকরণটি সমাধান করার জন্য স্থানাংক বংশদ্ভুত পদ্ধতি ব্যবহার করে। স্থায়ী বংশোদ্ভূত ফিশার স্কোরিংয়ের চেয়ে বেশি সময় সাশ্রয়ী, কারণ ফিশার স্কোরিং কিছু অন্যান্য ম্যাট্রিক্স অপারেশন ছাড়াও দ্বিতীয় ক্রম ডেরিভেটিভ ম্যাট্রিক্স গণনা করে। যা সম্পাদন করতে ব্যয়বহুল করে তোলে, যখন …

11 machine-learning  r  algorithms  optimization 

বন্ধ । এই প্রশ্নটি আরও ফোকাস করা প্রয়োজন । এটি বর্তমানে উত্তর গ্রহণ করছে না। এই প্রশ্নটি উন্নত করতে চান? প্রশ্নটি আপডেট করুন যাতে এটি কেবলমাত্র এই পোস্টটি সম্পাদনা করে একটি সমস্যার উপর দৃষ্টি নিবদ্ধ করে । 5 বছর আগে বন্ধ । দেখে মনে হয় বেশিরভাগ ভাষায় বেশ কয়েকটি বৈজ্ঞানিক …

10 efficiency  statistics  tools  knowledge-base  machine-learning  neural-network  deep-learning  optimization  hyperparameter  machine-learning  time-series  categorical-data  logistic-regression  python  visualization  bigdata  efficiency  classification  binary  svm  random-forest  logistic-regression  data-mining  sql  experiments  bigdata  efficiency  performance  scalability  distributed  bigdata  nlp  statistics  education  knowledge-base  definitions  machine-learning  recommender-system  evaluation  efficiency  algorithms  parameter  efficiency  scalability  sql  statistics  visualization  knowledge-base  education  machine-learning  r  python  r  text-mining  sentiment-analysis  machine-learning  machine-learning  python  neural-network  statistics  reference-request  machine-learning  data-mining  python  classification  data-mining  bigdata  usecase  apache-hadoop  map-reduce  aws  education  feature-selection  machine-learning  machine-learning  sports  data-formats  hierarchical-data-format  bigdata  apache-hadoop  bigdata  apache-hadoop  python  visualization  knowledge-base  classification  confusion-matrix  accuracy  bigdata  apache-hadoop  bigdata  efficiency  apache-hadoop  distributed  machine-translation  nlp  metadata  data-cleaning  text-mining  python  pandas  machine-learning  python  pandas  scikit-learn  bigdata  machine-learning  databases  clustering  data-mining  recommender-system 

আমি কিছুটা গবেষণার জন্য সাধারণ নিউরাল নেটওয়ার্কগুলি লিখতে টেনসরফ্লো ব্যবহার করছি এবং প্রশিক্ষণের সময় 'ন্যান' ওজন নিয়ে আমার অনেক সমস্যা হয়েছিল। অপটিমাইজার পরিবর্তন করা, ক্ষতির পরিবর্তন, উপাত্তের আকার ইত্যাদির মতো অনেকগুলি বিভিন্ন সমাধান আমি চেষ্টা করেছি তবে কোনও লাভ হয়নি। অবশেষে, আমি লক্ষ করেছি যে শিক্ষার হারে পরিবর্তন আমার ওজনে …

9 machine-learning  python  tensorflow  optimization  gradient-descent