স্নায়ু নেটওয়ার্কে নমুনা, সময় ধাপ এবং বৈশিষ্ট্যগুলির মধ্যে পার্থক্য

Question

আমি LSTM স্নায়ুর নেটওয়ার্ক নিম্নলিখিত ব্লগের মাধ্যমে যাচ্ছি: http://machinelearningmastery.com/understanding-stateful-lstm-recurrent-neural-networks-python-keras/

এলএসটিএমগুলির বিভিন্ন কনফিগারেশনের জন্য লেখক ইনপুট ভেক্টর এক্সকে [নমুনা, সময়ের ধাপ, বৈশিষ্ট্য] হিসাবে পুনরায় আকার দিন।

লেখক লিখেছেন

প্রকৃতপক্ষে, বর্ণগুলির ক্রমগুলি পৃথক বৈশিষ্ট্যগুলির এক সময়ের পদক্ষেপের পরিবর্তে কোনও বৈশিষ্ট্যের সময়ের পদক্ষেপ। আমরা নেটওয়ার্ককে আরও প্রসঙ্গ দিয়েছি, তবে এটি প্রত্যাশার মতো আরও ক্রম নয়

এটার মানে কি?

Answer 1

আপনার সাথে সম্পর্কিত [নমুনা, সময়_পথ, বৈশিষ্ট্য] এর ঠিক নীচে আমি এটি পেয়েছি।

X = numpy.reshape(dataX, (len(dataX), seq_length, 1))

নমুনা - এটি লেন (ডাটাএক্স), বা আপনার কাছে থাকা ডেটা পয়েন্টের পরিমাণ।

সময়ের পদক্ষেপ - এটি আপনার বারবারের নিউরাল নেটওয়ার্ক চালানোর সময় ধাপের সমান। আপনি যদি চান যে আপনার নেটওয়ার্কটির 60 টি অক্ষরের মেমরি রয়েছে তবে এই সংখ্যাটি 60 হওয়া উচিত।

বৈশিষ্ট্য - এটি প্রতিটি সময় পদক্ষেপের বৈশিষ্ট্যগুলির পরিমাণ। আপনি যদি ছবিগুলি প্রক্রিয়াজাত করেন তবে এটি পিক্সেলের পরিমাণ। এক্ষেত্রে আপনার কাছে প্রতি সময় ধাপে 1 টি বৈশিষ্ট্য রয়েছে বলে মনে হয়।

Comments

আপনি কি এর মধ্যে পার্থক্যটি ব্যাখ্যা করতে পারবেন: এক্স = numpy.reshape (ডেটাএক্স, (লেন (ডেটাএক্স), 3, 1)) এবং এক্স = numpy.reshape (ডেটাএক্স, (লেন (ডেটাএক্স), 1, 3)) এটি কীভাবে প্রভাবিত করে এলএসটিএম?

— বিপুল জৈন

(লেন (ডেটাএক্স), 3, 1) 3 টি পুনরাবৃত্তির জন্য এলএসটিএম চালায়, আকারের ইনপুট ভেক্টরকে ইনপুট করে (1,)। (লেন (ডেটাএক্স), 1, 3) 1 টি পুনরাবৃত্তির জন্য এলএসটিএম চালায়। যার অর্থ এটি পূর্ববর্তী পুনরাবৃত্তির থেকে কোনও প্রতিক্রিয়া আসতে পারে না বলে পুনরাবৃত্ত সংযোগগুলি থাকাও যথেষ্ট অযথাই।

— এক্ষেত্রে

"(লেন (ডেটাএক্স), 3, 1) 3 টি পুনরাবৃত্তির জন্য এলএসটিএম চালায়" আমরা এর জন্য যুগটি ব্যবহার করি না। এর অর্থ কি মহাকাব্য = 3?

— বিপুল জৈন

রুক্ষ অনুবাদে একটি যুগের অর্থ হ'ল আমরা আমাদের ডেটা সেটে প্রতিটি ডেটা পয়েন্টে একবার প্রশিক্ষণ নিয়েছি। প্রশিক্ষণের সময়, লেনের (ডেটাএক্স) উদাহরণগুলি দেখে 1 পর্ব হিসাবে গণনা করা হয়। তবে, আরএনএনগুলি ধারাবাহিকভাবে ডেটা নেয়। প্রতিটি প্রশিক্ষণের উদাহরণে, আপনাকে একাধিক পুনরাবৃত্তির মাধ্যমে এটি ডেটা ফিড করতে হবে। উদাহরণস্বরূপ, আমার কাছে একটি "গাড়ি" শব্দ আছে এবং প্রতিটি পুনরাবৃত্তির উপর আমি এটি একটি অক্ষর খাওয়াচ্ছি, এটি সম্পূর্ণ গণনা করা যাক এবং তারপরে পরবর্তী অক্ষরটি ফিড করুন। "গাড়ী" শব্দের প্রসেসিং সম্পূর্ণ করার জন্য চিঠির মাধ্যমে পুরো শব্দ বর্ণটি প্রক্রিয়া করার জন্য এটি 3 টি পুনরাবৃত্তি প্রয়োজন।

— জুনাতন স্যামুয়েল

@ জুনাটন স্যামুয়েল হাই, আমি জানি অনেক সময় কেটে গেছে তবে একই বিষয় বুঝতে আমার খুব সমস্যা হচ্ছে। আপনার উত্তরটি খুব পরিষ্কার, তবে আমি এখনও কিছুটা বিভ্রান্ত। ধারণা করুন আমাদের কাছে বেশ কয়েক বছর ধরে (মাসেহাজার) বিক্রয় বর্ণনা করার একটি সময় সিরিজ ছিল। উদাহরণস্বরূপ লেন (ডেটা) = 3000, ডেটা.শ্যাপ = (3000,1) কল্পনা করুন, সুতরাং আমাদের 3000 মাস রেকর্ড করা আছে। পরবর্তীটির পূর্বাভাস : আমি যদি পূর্বের একটি (কেবলমাত্র পরবর্তী!) ভবিষ্যদ্বাণী করতে N পূর্ববর্তী পর্যবেক্ষণ ব্যবহার করতে চাই, তবে LSTM এ ইনপুট ডেটার আকারটি কী হওয়া উচিত? উদাহরণস্বরূপ যদি আমরা t-n,..., t-2, t-1ভবিষ্যদ্বাণী করতে ব্যবহার করতে চান t।

— Euler_Salter

Answer 2

এটি কিছুটা দেরি হলেও কেবল ক্ষেত্রে;
একটি নমুনা স্বতন্ত্র প্রশিক্ষণের উদাহরণগুলি উল্লেখ করতে পারে। একটি "ব্যাচ_সাইজ" ভেরিয়েবল তাই স্নায়বিক নেটওয়ার্কে আপনি প্রেরণ করা নমুনার গণনা। এটি হল, আপনি নিউরাল নেটওয়ার্কে একবারে কতগুলি পৃথক উদাহরণ খাওয়াচ্ছেন।

টাইমস্টেপস সময়ের টিক্স ks আপনার প্রতিটি নমুনার কতক্ষণ সময় হয়। উদাহরণস্বরূপ, একটি নমুনায় 128-সময় পদক্ষেপ থাকতে পারে, যেখানে প্রতিটি সময় পদক্ষেপগুলি সিগন্যাল প্রক্রিয়াজাতকরণের জন্য 30 সেকেন্ডের হতে পারে। প্রাকৃতিক ভাষা প্রক্রিয়াকরণে (এনএলপি), একটি সময় পদক্ষেপ সেটআপের উপর নির্ভর করে কোনও চরিত্র, একটি শব্দ বা একটি বাক্যের সাথে যুক্ত হতে পারে।

বৈশিষ্ট্যগুলি হ'ল প্রতিটি সময় পদক্ষেপে আমরা যে পরিমাণ মাত্রা খাই। এনএলপিতে উদাহরণস্বরূপ, ওয়ার্ড 2vec ব্যবহার করে 300 টি বৈশিষ্ট্য দ্বারা একটি শব্দ উপস্থাপন করা যেতে পারে। সিগন্যাল প্রক্রিয়াজাতকরণের ক্ষেত্রে, আসুন ভান করি যে আপনার সিগন্যালটি 3D is অর্থাৎ, আপনার প্রতিটি অক্ষের উপর এক্সিলারোমিটারের পরিমাপের মতো একটি এক্স, একটি ওয়াই এবং একটি জেড সংকেত রয়েছে। এর অর্থ আপনার প্রতিটি নমুনার জন্য প্রতিটি সময়ে পদক্ষেপে 3 টি বৈশিষ্ট্য প্রেরণ করা হবে। গিলিয়ামের

দ্বারা

Answer 3

একটি উদাহরণ সহ আমার উত্তর: ["হ্যালো এটি জাইজ", "আপনি কেমন আছেন", "মহান মানুষ ..."]

এই ক্ষেত্রে "[নমুনা, সময়ের পদক্ষেপ, বৈশিষ্ট্য]" এর অর্থ:

• নমুনা: 3 কারণ তালিকায় 3 টি উপাদান রয়েছে
• সময়ের পদক্ষেপগুলি: এখানে আপনি সর্বোচ্চ_ দৈর্ঘ্য = 4 দৈর্ঘ্য নিতে পারেন ("হ্যালো এটি এক্সআইজেড") = 4; দৈর্ঘ্য ("আপনি কেমন করছেন") = 4; দৈর্ঘ্য ("দুর্দান্ত মানুষ ...") = 2 (বিরামচিহ্ন অপসারণের পরে "।")। এটি সময়ের পদক্ষেপ বলে বলার কারণ হ'ল প্রথম উপাদানটিতে "হ্যালো এটি xyz" ==> টি 0 ("হ্যালো"), টি 1 ("এটি"), টি 2 ("এটি") এবং টি 3 ("এক্সইজেড") রয়েছে
• বৈশিষ্ট্য: প্রতিটি শব্দের জন্য এম্বেড করার আকার। উদাহরণস্বরূপ, "হ্যালো": 50 ডি অ্যারে, "এটি": 50 ডি অ্যারে এবং আরও অনেক কিছু