টেনসরফ্লো বোতলনেকসের ধারণা কী?


উত্তর:


20

নিউরাল নেটওয়ার্কে বাধাটি হ'ল কেবলমাত্র একটি স্তর যার কম নিউরন থাকে তারপরে স্তরটি নীচে বা উপরে। প্রশিক্ষণের সময় সবচেয়ে ভাল ক্ষতি পেতে, এই জাতীয় স্তরটি নেটওয়ার্ককে উপলব্ধ জায়গাগুলিতে সেরা ফিট করার জন্য বৈশিষ্ট্য উপস্থাপনগুলি সংক্ষেপ করতে উত্সাহ দেয়।

একটি সিএনএন (যেমন গুগলের ইনসেপশন নেটওয়ার্ক) তে, নেটওয়ার্কে বৈশিষ্ট্য মানচিত্রের (ওরফে "চ্যানেল") হ্রাস করার জন্য অলস স্তরগুলি যুক্ত করা হয়, যা অন্যথায় প্রতিটি স্তরে বৃদ্ধি পায়। ইনপুট চ্যানেলগুলির চেয়ে কম আউটপুট চ্যানেলগুলির সাথে 1x1 কনভোলিউশন ব্যবহার করে এটি অর্জন করা হয়েছে।

আপনি সাধারণত বাধা স্তরের জন্য সরাসরি ওজন গণনা করেন না সরাসরি, প্রশিক্ষণ প্রক্রিয়াটি হ্যান্ডল করে, অন্যান্য সমস্ত ওজন হিসাবে। ভালভাবে কাজ করে এমন নেটওয়ার্ক আর্কিটেকচারের সন্ধানের জন্য একটি অটল স্তরের জন্য একটি ভাল আকার নির্বাচন করা আপনার অনুমান করা উচিত এবং তারপরে পরীক্ষা করুন। এখানে লক্ষ্যটি সাধারণত এমন একটি নেটওয়ার্ক সন্ধান করা হয় যা নতুন চিত্রগুলিকে ভাল করে তোলে এবং অজানা স্তরগুলি নেটওয়ার্কের পরামিতিগুলির সংখ্যা হ্রাস করে সহায়তা করে যখন এখনও এটি গভীরতর হতে দেয় এবং অনেকগুলি বৈশিষ্ট্যের মানচিত্র উপস্থাপন করে।


হ্যালো নীল! আমার মনে হয় আমার খুব সাধারণ প্রশ্ন রয়েছে তবে আমি এখনও বিভ্রান্ত। ai.stackexchange.com/questions/21172/… আপনার কাছে আমাকে উত্তর দেওয়ার মতো সময় আছে?
jgauth

@ জাগাথ: আমি এই সাইটের সমস্ত প্রশ্নের আরএসএস ফিডে সাবস্ক্রাইব করেছি, এবং আমি যেখানে দেখতে পাচ্ছি যেখানে মনে করতে পারে এমন সমস্ত প্রশ্নের উত্তর দেওয়ার চেষ্টা করি। কোনও প্রশ্ন দেখার জন্য সরাসরি আমার সাথে যোগাযোগ করার দরকার নেই। আপনি যদি নির্দিষ্ট কিছু সম্পর্কে আমার সাথে যোগাযোগ করতে চান তবে এটি কোনও সম্পর্কিত প্রশ্নে বা সাইট চ্যাটে যদি না থাকে তবে এটি সেরা।
নিল স্লেটার

8

ভাবুন, আপনি একটি প্রাক প্রশিক্ষিত মডেলের শেষ স্তরটি পুনরায় গণনা করতে চান:

Input->[Freezed-Layers]->[Last-Layer-To-Re-Compute]->Output

[শেষ-স্তর-থেকে-পুনরায় গণনা] প্রশিক্ষণের জন্য , আপনাকে প্রদত্ত ইনপুট ডেটার জন্য একাধিকবার [হিমায়িত-স্তরসমূহের আউটপুটগুলি মূল্যায়ন করতে হবে । সময় সাশ্রয় করার জন্য, আপনি কেবলমাত্র একবার এই আউটপুটগুলি গণনা করতে পারেন ।

Input#1->[Freezed-Layers]->Bottleneck-Features-Of-Input#1

তারপরে, আপনি সমস্ত বোতলনেক-বৈশিষ্ট্যগুলি ইনপুট # আই সঞ্চয় করেন এবং এগুলিকে সরাসরি [শেষ স্তর থেকে পুনরায় গণনা] প্রশিক্ষণ দেওয়ার জন্য ব্যবহার করেন।

"চিত্র_প্রেম প্রশিক্ষণ" উদাহরণটির "ক্যাশে_বটলেটনকস" ফাংশন থেকে ব্যাখ্যা:

কারণ আমরা একই চিত্রটি একাধিকবার পড়ার সম্ভাবনা পেয়েছি (প্রশিক্ষণের সময় যদি কোনও বিকৃতি প্রয়োগ না করা হয়) তবে প্রিপ্রোসেসিংয়ের সময় প্রতিটি চিত্রের জন্য আমরা যদি বাধা স্তরের মানগুলি একবার গণনা করি এবং এটি কেবল ক্যাশেড মানগুলি পড়ি তবে এটি জিনিসগুলিকে অনেক গতিতে পারে প্রশিক্ষণের সময় বারবার।


5

তথ্য সনাক্তকরণ সহ প্রকৃত প্রশিক্ষণ শুরুর আগে টেনসরফ্লো বাধা হ'ল শেষ প্রাক নির্ধারণের পর্ব। এটি এমন একটি পর্যায়ে যেখানে প্রতিটি প্রশিক্ষণ চিত্র থেকে একটি ডেটা কাঠামো গঠন করা হয় যা প্রশিক্ষণের চূড়ান্ত পর্যায়ে স্থান গ্রহণ করতে পারে এবং প্রশিক্ষণ সামগ্রীতে ব্যবহৃত প্রতিটি চিত্র থেকে চিত্রকে আলাদা করতে পারে। কিছুটা ছবির আঙুলের ছাপের মতো।

এটি পুনরায় প্রশিক্ষণ কমান্ডের সাথে জড়িত এবং নাম হিসাবে বোঝা যায়, এটি হ'ল কমান্ড কার্যকর করার প্রধান সময় গ্রাহক। এই বাধাটি যদি খুব বেশি সময় ব্যয় করে মনে হয় তবে প্রশিক্ষণের উপাদানগুলির পরিমাণের সাথে আপস করতে হবে।

এটি একটি কমান্ড লাইন কমান্ড হিসাবে, আমি সঠিক অ্যালগরিদম জানি না। অ্যালগরিদম গিথুবের কোডে প্রকাশ্য তবে সম্ভবত এটি এত জটিল (সংজ্ঞা অনুসারে মৃত্যুদণ্ডের সময়টি খুব দীর্ঘ) আমি বিশ্বাস করি যে এই ধরণের উত্তরে আমি কেবল এটি লিখতে পারি না।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.