নিউরাল নেটওয়ার্ক - বাইনারি বনাম বিচ্ছিন্ন / একটানা ইনপুট

Question

সমস্ত ইনপুট নোডের জন্য (ব্যাকপ্রোপেশন বা ছাড়াই) কোনও ফিডফর্ডার নেটওয়ার্কের ইনপুট হিসাবে আলাদা বা অবিচ্ছিন্ন নর্মালাইজড মানগুলির চেয়ে বাইনারি মানগুলি (0/1) পছন্দ করার কোনও ভাল কারণ আছে ?

অবশ্যই, আমি কেবল ইনপুটগুলি নিয়েই কথা বলছি যা উভয় রূপে রূপান্তরিত হতে পারে; যেমন, আপনি যদি একটি পরিবর্তনশীল বিভিন্ন মান হয় সরাসরি গ্রহণ করতে পারেন, তাদের মধ্যে একটি মান হিসাবে ফিড আছে এক ইনপুট নোডের বা একটি বাইনারি নোড গঠন প্রতিটি বিযুক্ত মান। এবং অনুমানটি হ'ল সম্ভাব্য মানগুলির ব্যাপ্তি সমস্ত ইনপুট নোডের জন্য একই হবে । উভয় সম্ভাবনার উদাহরণের জন্য ছবিগুলি দেখুন।

এই বিষয়ে গবেষণা করার সময়, আমি এই বিষয়ে কোনও ঠান্ডা শক্ত তথ্য পাইনি; এটি আমার কাছে মনে হয়, কম - কম - এটি সর্বদা শেষ পর্যন্ত "ট্রায়াল এবং ত্রুটি" হবে। অবশ্যই, প্রতিটি বিচ্ছিন্ন ইনপুট মানের জন্য বাইনারি নোডগুলি আরও ইনপুট স্তর নোডগুলি বোঝায় (এবং এইভাবে আরও লুকানো স্তর নোডগুলি) তবে এটি কি কোনও নোডে একই মানগুলির চেয়ে ভাল আউটপুট শ্রেণিবিন্যাস তৈরি করে, এতে ভাল-ফিটিং থ্রেশহোল্ড ফাংশন রয়েছে with গোপন স্তর?

আপনি কি সম্মত হবেন যে এটি কেবল "চেষ্টা করে দেখুন", বা এ সম্পর্কে আপনার অন্য মতামত আছে?

Answer 1

$f(wx + b)$$f$$x$

$f(wx + b)$$w$$b$$k$

$k$$k$

Comments

সুতরাং এটি সংক্ষেপে বলতে গেলে আপনি ভেরিয়েবলগুলির স্কেলগুলিকে নির্দেশ করেন: মেট্রিক, অর্ডিনাল এবং নামমাত্র। ভাল আমি মনে করি এটি সুস্পষ্ট যে নামমাত্র স্কেলগুলি "গণনা" বা কোনও ফাংশন দ্বারা প্রতিনিধিত্ব করা যায় না। সত্যিকারের মূল্যবোধ সম্পর্কে, আমি আপনার মতোই ভাবি যে মসৃণ ট্রানিসিশনের কারণে প্রকৃত মানগুলি "শ্রেণিবদ্ধ" প্রকৃত মানগুলির চেয়ে "ভাল" হতে পারে তবে আমি এর পক্ষে কোনও শক্ত প্রমাণ খুঁজে পাইনি। আমার কাছে "বিচার ও ত্রুটি" এর অন্য মামলার মতো বলে মনে হচ্ছে।

— সিরকো

Answer 2

হ্যাঁ সেখানে. আপনার লক্ষ্যটি বাইনারি শ্রেণিবদ্ধকারী তৈরি করা কল্পনা করুন। তারপরে আপনি আপনার সমস্যাটিকে একটি বার্নোল্লি বিতরণ হিসাবে অনুমান করার মতো মডেল করেন যেখানে কোনও বৈশিষ্ট্য ভেক্টর দেওয়া হলে ফলাফলটি একটি শ্রেণি বা বিপরীতে হয়। এই ধরনের নিউরাল নেটওয়ার্কের আউটপুট শর্তযুক্ত সম্ভাবনা। ০.৫ এর বেশি হলে আপনি এটিকে কোনও শ্রেণিতে যুক্ত করেন, অন্যথায় অন্যটির সাথে।

যথাযথভাবে সংজ্ঞায়িত করতে, আউটপুটটি অবশ্যই 0 এবং 1 এর মধ্যে হওয়া উচিত, সুতরাং আপনি আপনার লেবেলগুলি 0 এবং 1 হতে বেছে নিন এবং ক্রস এনট্রপিটি হ্রাস করুন,

$$E = y(x)^{t}(1-y(x))^{1-t}$$ $y(x)$$t$$t \in \left\{0, 1\right\}$

Comments

আমি বুঝতে পারি যে ইনপুট মানগুলির ভেরিয়েবল রেঞ্জের তুলনায় একটি সাধারণীকরণের ইনপুটটিকে প্রাধান্য দেওয়া উচিত, কারণ এটি নেটওয়ার্ক শওড দ্বারা উত্পাদিত বাইনারি আউটপুটগুলির সাথে আরও বেশি মিল। কিন্তু আমার প্রশ্ন, আমার পড়ুন চেয়েছিলেন সাধারণ একটি নির্দিষ্ট পরিসীমা, অর্থাত্ বিযুক্ত মান যদি ইনপুট একটি সীমার মধ্যে হতে পারে, তবে সব নোড, একই সীমার থাকা উচিত অর্থাত স্বাভাবিক হবে না। যে ক্ষেত্রে, এটা হবে এখনো প্রতিটি বিযুক্ত মান বাইনারি নোড ব্যবহার করতে preferrable হবে? (এই

— শর্তটি

Answer 3

আমি যখন সমস্যার সমাধান করছিলাম তখন আমি একই ধরণের সমস্যার মুখোমুখি হয়েছি। আমি উভয় আর্কিটেকচার চেষ্টা করিনি, তবে আমার গ্রহণযোগ্যতাটি হ'ল, যদি ইনপুট ভেরিয়েবলটি আলাদা হয় তবে নিউরাল নেটওয়ার্কের আউটপুট ফাংশনে ইমালস ফাংশনটির বৈশিষ্ট্য থাকবে এবং নিউরাল নেটওয়ার্ক মডেলিং ইমপুলস ফাংশনে ভাল। আসলে কোনও ফাংশন নিউরাল নেটওয়ার্কের জটিলতার উপর নির্ভর করে বিভিন্ন ধরণের নির্ভুলতার সাথে নিউরাল নেটওয়ার্কের সাথে মডেল করা যায়। পার্থক্যটি হ'ল, প্রথম আর্কিটেকচারে, আপনি ইনপুটটির সংখ্যা বাড়িয়েছেন যাতে ইমপালস ফাংশনটি মডেল করার জন্য প্রথম লুকানো স্তরের নোডে আপনার ওজনের সংখ্যা বেশি হয় তবে দ্বিতীয় স্থাপত্যের জন্য আপনার প্রথম আর্কিটেকচারের তুলনায় লুকানো স্তরে নোডের বেশি সংখ্যক প্রয়োজন একই কর্মক্ষমতা পেতে।