প্রশ্ন ট্যাগ «backpropagation»

ফিডফোরওয়ার্ড নিউরাল নেটওয়ার্কে সংযোগের ওজন সূচনা করার সময়, শিখনের অ্যালগরিদমটি ভাঙতে সক্ষম হবে না এমন কোনও প্রতিসাম্য এড়াতে এলোমেলোভাবে এগুলি শুরু করা গুরুত্বপূর্ণ। আমি বিভিন্ন স্থানে যে সুপারিশটি দেখেছি (যেমন টেনসরফ্লো এর এমএনআইএসটি টিউটোরিয়ালে ) q q of এর স্ট্যান্ডার্ড বিচ্যুতি ব্যবহার করে ছাঁটাই করা সাধারণ বিতরণ ব্যবহার করা হয় …

13 neural-networks  backpropagation  weights  truncated-normal 

আরএনএনগুলি (এবং, বিশেষত, এলএসটিএম ইউনিট সহ) কীভাবে কাজ করে সে সম্পর্কে আমার একটি প্রাথমিক জ্ঞান রয়েছে। আমার কাছে একটি এলএসটিএম ইউনিটের আর্কিটেকচারের সচিত্র চিত্র রয়েছে, এটি একটি ঘর এবং কয়েকটি গেট, যা মানগুলির প্রবাহকে নিয়ন্ত্রণ করে। যাইহোক, আপাতদৃষ্টিতে, আমি সম্পূর্ণরূপে বুঝতে পারি নি যে এলএসটিএম কীভাবে "নিখোঁজ এবং বিস্ফোরিত গ্রেডিয়েন্টস" …

13 neural-networks  lstm  rnn  backpropagation 

ব্যাচ নরমালাইজেশন গভীর নিউরাল নেটগুলিতে যথেষ্ট পারফরম্যান্স উন্নতির জন্য জমা দেওয়া হয়েছে। ইন্টারনেটে প্রচুর পরিমাণে উপাদান দেখায় যে কীভাবে এটি অ্যাক্টিভেশন-বাই-অ্যাক্টিভেশন ভিত্তিতে প্রয়োগ করা যায়। আমি ইতিমধ্যে ম্যাট্রিক্স বীজগণিত ব্যবহার করে ব্যাকপ্রপ বাস্তবায়ন করেছি এবং দিয়েছি যে আমি উচ্চ স্তরের ভাষায় Rcpp(এবং শেষ পর্যন্ত forজিপিইউ'র উপর নির্ভর করে ঘন ম্যাট্রিক্স …

12 machine-learning  neural-networks  deep-learning  backpropagation  batch-normalization 

বলুন যে আমি অনুভূতি বিশ্লেষণ করতে একটি আরএনএন / এলএসটিএম ব্যবহার করি, এটি বহু-এক-এক পদ্ধতির ( এই ব্লগটি দেখুন )। নেটওয়ার্কটি সময় (বিপিটিটি) এর মাধ্যমে একটি ছিন্ন বিচ্ছিন্ন ব্যাকপ্রোপ্যাগেশনের মাধ্যমে প্রশিক্ষিত হয়, যেখানে নেটওয়ার্কটি যথারীতি কেবল 30 টি শেষ ধাপের জন্য নিবন্ধভুক্ত থাকে। আমার ক্ষেত্রে আমার প্রতিটি পাঠ্য বিভাগ যা …

12 neural-networks  deep-learning  natural-language  backpropagation 

যদি আমরা একটি ব্যাচে 10 টি উদাহরণ বলতে প্রক্রিয়াকরণ করি তবে আমি বুঝতে পারি যে আমরা প্রতিটি উদাহরণের জন্য ক্ষতির পরিমাণ তুলতে পারি, তবে প্রতিটি উদাহরণের জন্য ওজন আপডেট করার ক্ষেত্রে ব্যাকপ্রসারণ কীভাবে কাজ করে? উদাহরণ স্বরূপ: উদাহরণ 1 -> ক্ষতি = 2 উদাহরণ 2 -> ক্ষতি = -2 এটির …

12 neural-networks  gradient-descent  backpropagation  tensorflow 

আমি ভাবছিলাম যে কোনও এসভিএমকে প্রশিক্ষণ দেওয়া (কোনও লিনিয়ার বলতে, জিনিসগুলিকে সহজ করে তোলা) ব্যাকপ্রোপেশন ব্যবহার করে কী সম্ভব? বর্তমানে, আমি একটি রাস্তা ব্লক আছি কারণ আমি শুধুমাত্র লেখা সম্পর্কে মনে করতে পারেন ক্লাসিফায়ার এর আউটপুট হিসাবে f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b))f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b)) f(\mathbf{x};\theta,b) = \text{sgn}(\theta\cdot\mathbf{x} - (b+1)) = \text{sgn}(g(\mathbf{x};\theta,b)) অতএব, আমরা যখন "ব্যাকওয়ার্ড পাস" …

11 machine-learning  neural-networks  svm  gradient-descent  backpropagation 

আমি বর্তমানে একটি মুখের স্বীকৃতি সফটওয়্যারটিতে কাজ করছি যা মুখগুলি সনাক্ত করতে কনভলিউশন নিউরাল নেটওয়ার্ক ব্যবহার করে। আমার পড়াশোনার উপর ভিত্তি করে, আমি একত্রিত করেছি যে একটি কনভোলশনাল নিউরাল নেটওয়ার্ক ওজন ভাগ করে নিয়েছে, যাতে প্রশিক্ষণের সময় সময় বাঁচাতে পারে। তবে, কীভাবে একজন ব্যাকপ্রপ্যাজেশনকে মানিয়ে নেয় তাই এটি কনভোলশন নিউরাল …

11 machine-learning  neural-networks  computer-vision  backpropagation  conv-neural-network 

আমি বুঝতে পারি যে প্রচলিত প্রশিক্ষণ নিয়ে কিছু সমস্যা এড়ানোর জন্য প্রাক-প্রশিক্ষণ ব্যবহৃত হয়। আমি যদি একটি অটোনকোডার দিয়ে ব্যাকপ্রেজিগেশন ব্যবহার করি তবে আমি জানি যে আমি সময় সংক্রান্ত সমস্যাগুলিতে চলে যাব কারণ ব্যাকপ্রোপেশনটি ধীর, এবং আমি স্থানীয় অপটিমে আটকে যেতে পারি এবং নির্দিষ্ট বৈশিষ্ট্যগুলি শিখতে পারি না। আমি যা …

10 machine-learning  neural-networks  backpropagation  rbm  pre-training 

স্ট্যানফোর্ড এনএলপি গভীর শিক্ষার শ্রেণীর লিখিত কার্যনির্বাহী সমস্যাগুলির মধ্যে আমি যাচ্ছি http://cs224d.stanford.edu/assignment1/assignment1_soln আমি 3a এর উত্তরটি বোঝার চেষ্টা করছি যেখানে তারা কেন্দ্রের শব্দের জন্য ভেক্টর থেকে ডাইরিভেটিভ খুঁজছেন। ধরুন আপনাকে স্কিপগ্রামের কেন্দ্রের শব্দ সি এর সাথে সম্পর্কিত একটি পূর্বাভাসযুক্ত ভেক্টর given দেওয়া হয়েছে, এবং ওয়ার্ড টুভেক মডেলগুলিতে পাওয়া সফটম্যাক্স ফাংশন …

9 self-study  neural-networks  backpropagation  word2vec