প্রশ্ন ট্যাগ «adam»

6
ক্ষতিকারক ক্ষয় সহ অ্যাডাম অপ্টিমাইজার
বেশিরভাগ টেনসরফ্লো কোডে আমি দেখেছি অ্যাডাম অপ্টিমাইজারটি ধ্রুবক শেখার হারের 1e-4(অর্থাৎ 0.0001) ব্যবহার করে। কোডটি সাধারণত নিম্নলিখিতটি দেখায়: ...build the model... # Add the optimizer train_op = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy) # Add the ops to initialize variables. These will include # the optimizer slots added by AdamOptimizer(). init_op = tf.initialize_all_variables() # launch …

1
স্টোকাস্টিক গ্রেডিয়েন্ট বংশদ্ভুতের আদম পদ্ধতি কীভাবে কাজ করে?
নিউরাল নেটওয়ার্ক প্রশিক্ষণের জন্য আমি বেসিক গ্রেডিয়েন্ট বংশদ্ভুত অ্যালগরিদমগুলির সাথে পরিচিত। আমি অ্যাডামের প্রস্তাব দেওয়ার কাগজটি পড়েছি: অ্যাডাম: স্টকস্টিক অপ্টিমাইজেশনের একটি পদ্ধতি । আমি অবশ্যই কিছু অন্তর্দৃষ্টি পেয়েছি (কমপক্ষে), কাগজটি সামগ্রিকভাবে আমার কাছে খুব উচ্চ স্তরের বলে মনে হচ্ছে। উদাহরণস্বরূপ, একটি ব্যয় ফাংশন প্রায়শই বিভিন্ন বিভিন্ন ফাংশনের সমষ্টি, অতএব এর …

3
অ্যাডাম অপ্টিমাইজারটিকে তার হাইপার পরামিতিগুলির মানকে শক্ত বলে বিবেচনা করার কারণ কী?
আমি ডিপ লার্নিংয়ের জন্য অ্যাডাম অপটিমাইজার সম্পর্কে পড়ছিলাম এবং বেঙ্গিও, গুডফেলো এবং করভিলের ডিপ লার্নিংয়ের নতুন বইয়ের নীচের বাক্যটি পেলাম : অ্যাডামকে সাধারণত হাইপার প্যারামিটারগুলির নির্বাচনের পক্ষে যথেষ্ট শক্তিশালী হিসাবে বিবেচনা করা হয়, যদিও শিক্ষার হারটি মাঝে মাঝে প্রস্তাবিত ডিফল্ট থেকে পরিবর্তন করা প্রয়োজন। যদি এটি সত্য হয় তবে এটি …

2
প্রশিক্ষণের ক্ষতিতে স্পাইকের ব্যাখ্যা বনাম পুনরায় আদম অপ্টিমাইজারের সাথে পুনরাবৃত্তি
আমি iG) এসজিডি এবং ii) অ্যাডাম অপটিমাইজার ব্যবহার করে একটি নিউরাল নেটওয়ার্ক প্রশিক্ষণ দিচ্ছি। সাধারণ এসজিডি ব্যবহার করার সময়, আমি নীচে দেখানো হিসাবে পুনরুক্তি বক্রিয়া বনাম একটি মসৃণ প্রশিক্ষণ ক্ষতি পাই । যাইহোক, আমি যখন অ্যাডাম অপটিমাইজার ব্যবহার করেছি, প্রশিক্ষণ হ্রাস বক্ররেখা কিছু স্পাইক আছে। এই স্পাইকগুলির ব্যাখ্যা কী? মডেল …

1
ডিপ লার্নিংয়ের জন্য অ্যাডাম অপ্টিমাইজারের জন্য পক্ষপাত সংশোধন শব্দটি অন্তর্ভুক্ত করা কেন গুরুত্বপূর্ণ?
আমি ডিপ লার্নিংয়ের জন্য অ্যাডাম অপ্টিমাইজার সম্পর্কে পড়ছিলাম এবং নীচের বাক্যটি পেরিয়েছিলাম ডিগ্র লার্নিং বাই বেগনিও, গুডফেলো এবং কোর্টভিলে-র নীচে: আদম প্রথম অর্ডার মুহুর্তের (গতিবেগের মেয়াদ) এবং (নিরীক্ষিত) দ্বিতীয়-ক্রমের মুহুর্তগুলির অনুমানের সংশোধন অন্তর্ভুক্ত করার জন্য উত্সে তাদের সূচনা হিসাবে বিবেচনা করে। দেখে মনে হচ্ছে যে এই পক্ষপাত সংশোধন শর্তাদি অন্তর্ভুক্ত …

1
আরএমএসপ্রপ এবং অ্যাডাম বনাম এসজিডি
আমি আরএমএসপ্রপ, অ্যাডাম এবং এসজিডি নেটওয়ার্ক ব্যবহার করে ইএমএনআইএসটি যাচাইকরণ সেটটিতে পরীক্ষা নিরীক্ষা করছি am আমি এসজিডি (0.1 এর শিক্ষার হার) এবং ড্রপআউট (0.1 ড্রপ আউট প্রোব) পাশাপাশি এল 2 নিয়মিতকরণ (1e-05 জরিমানা) এর সাথে 87% নির্ভুলতা অর্জন করছি। আরএমএসপ্রপ এবং আদম এবং একই সাথে 0.001 এর প্রাথমিক শিক্ষার হারের …
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.