কেন মেশিন লার্নিং মডেলগুলিকে ব্ল্যাক বক্স বলা হয়?

Question

আমি এই ব্লগ পোস্টটি শিরোনামটি পড়ছিলাম: ফিনান্সিয়াল ওয়ার্ল্ড ওয়ান্ট টু টু এআই এর ব্ল্যাক বক্সগুলি , যেখানে লেখক বারবার এমএল মডেলগুলিকে "ব্ল্যাক বাক্স" হিসাবে উল্লেখ করেছেন।

এমএল মডেলগুলি উল্লেখ করার সময় বেশ কয়েকটি জায়গায় একই রকম পরিভাষা ব্যবহার করা হয়েছে। এটা এমন কেন?

এমএল ইঞ্জিনিয়াররা জানেন না যে নিউরাল জালের ভিতরে কী চলে। প্রতিটি স্তরটি এমএল ইঞ্জিনিয়ার দ্বারা নির্বাচিত হয় কী কী অ্যাক্টিভেশন ফাংশনটি ব্যবহার করতে হবে, সেই ধরণের স্তরটি কী করে, ত্রুটিটি কীভাবে আবার প্রচার করা হয় ইত্যাদি knowing

Comments

কিছুটা সূক্ষ্ম কিছু: এমএল ইঞ্জিনিয়ার স্ট্রাকচারের সমস্ত কিছু জানেন - কত স্তর, অ্যাক্টিভেশন ফাংশন ইত্যাদি they তারা যা জানেন না তা ওজন নিজেরাই। তবে একটি এমএল মডেল তার ওজন দ্বারা এতটাই নির্ধারিত হয় যে নির্দিষ্ট ওজনের একটি নির্দিষ্ট সেট সহ মডেলটির মূল্যায়ন (বর্তমানে) মানুষের দ্বারা ব্যাখ্যা করা, ব্যাখ্যা করা বা বোঝা যায় না, এমনকি বিশেষজ্ঞ মানুষ যারা কাঠামোর পুরোপুরি বোঝেন।

— isaacg

সামান্য প্রাসঙ্গিক: stats.stackexchange.com/a/297476/100456

— মিগুয়েল

@ আইস্যাকগ - একজন এমএল ইঞ্জিনিয়ার ওজন কী তা সহজেই আবিষ্কার করতে পারেন। কালো বাক্স বুদ্ধিমান না দিয়ে কি করতে আরো আছে কেন ওজন হয় তারা কি এবং কি সেই ওজন বাস্তব জগতে সঙ্গে সম্পর্কযুক্ত। অতএব, এটি আরও সূক্ষ্ম is

— জোশ

আরেকটি সম্পর্কিত প্রশ্ন: ডাটাসায়েন্স.স্ট্যাকেক্সেঞ্জারওয়েজ

— কিউ

Answer 1

কালো বাক্স জিনিস (যতদিন শ্রোতা মানুষের হয়) শ্রোতা দক্ষতার স্তর সঙ্গে কিছুই করার আছে, কিন্তু সঙ্গে explainability ফাংশন মেশিন লার্নিং আলগোরিদিম দ্বারা অনুকরণে করুন।

লজিস্টিক রিগ্রেশন ইনপুট এবং আউটপুট মধ্যে খুব সহজ সম্পর্ক আছে। আপনি মাঝে মাঝে বুঝতে পারবেন কেন নির্দিষ্ট নমুনাটি ভুলভাবে ক্যাটালোজ করা হয়েছিল (উদাহরণস্বরূপ কারণ ইনপুট ভেক্টরের নির্দিষ্ট উপাদানটির মান খুব কম ছিল)।

এটি একই সিদ্ধান্ত গাছের ক্ষেত্রে প্রযোজ্য: আপনি গাছটি প্রয়োগ করা যুক্তিগুলি অনুসরণ করতে পারেন এবং বুঝতে পারেন যে কেন একটি নির্দিষ্ট উপাদান অন্য শ্রেণীর জন্য নির্দিষ্ট করা হয়েছিল।

তবে ডিপ নিউরাল নেটওয়ার্কগুলি ব্ল্যাক বক্স অ্যালগরিদমের দৃষ্টান্তমূলক উদাহরণ। কেউই নয়, এমনকি বিশ্বের সর্বাধিক বিশেষজ্ঞ ব্যক্তিও সেই কাজটি উপলব্ধি করতে পারবেন না যা প্রকৃতপক্ষে নিউরাল নেটওয়ার্ক প্রশিক্ষণের মাধ্যমে তৈরি করা হয়েছে। এ সম্পর্কিত একটি অন্তর্দৃষ্টি বিদ্বেষমূলক উদাহরণ দ্বারা সরবরাহ করা যেতে পারে : একটি প্রশিক্ষণ নমুনায় কিছু সামান্য (এবং একটি মানুষের দ্বারা অজ্ঞাতনামা) পরিবর্তন নেটওয়ার্ককে ভাবতে পরিচালিত করতে পারে যে এটি সম্পূর্ণ আলাদা লেবেলের অন্তর্ভুক্ত। প্রতিকূল উদাহরণ তৈরি করার জন্য কিছু কৌশল রয়েছে এবং তাদের বিরুদ্ধে দৃust়তা বাড়ানোর জন্য কিছু কৌশল রয়েছে। তবে প্রদত্ত যে কেউ নেটওয়ার্ক দ্বারা মডেলিং করা ফাংশন সম্পর্কিত সমস্ত প্রাসঙ্গিক বৈশিষ্ট্য আসলে জানেন না, তাদের তৈরি করার জন্য একটি অভিনব উপায় খুঁজে পাওয়া সর্বদা সম্ভব।

মানুষও কালো বাক্স এবং আমরা প্রতিকূল উদাহরণগুলিতেও বুদ্ধিমান ।

Comments

সিদ্ধান্ত গাছগুলির যুক্তি তত্ত্ব অনুসারে অনুসরণ করা যেতে পারে , তবে এটি প্রায়শই ব্যবহারিক হয় না। এনএনএসের সাথে মৌলিক পার্থক্য কোথায় তা আমি দেখতে পাচ্ছি না।

— মিগুয়েল

বিটিডাব্লু আমি ব্যবহৃত সরঞ্জামের বেসিকগুলি এমনকি দক্ষতার অভাব / আগ্রহের অভাবে ব্যবহার করা ব্ল্যাক বক্স ব্যবহার করেছি এবং দেখেছি ।

— মিগুয়েল

"তবে প্রদত্ত যে কেউ নেটওয়ার্কের দ্বারা মডেলিং করা ফাংশনটি আসলে জানে না"। এটি ভুল / উচ্চারণযুক্ত খারাপ। কোন ফাংশনটি মডেল করা হয়েছিল তা আমরা যদি সঠিকভাবে না জানতাম তবে আমরা তাদের প্রশিক্ষণ দিতে পারি না বা তাদের পূর্বাভাসের জন্য ব্যবহার করতে পারি না। আমরা ঠিক জানি কোন ফাংশন মডেল করা হয়। আমরা এর সম্পর্কিত সমস্ত বৈশিষ্ট্য জানি না। এবং ফাংশন জটিল। তবে এটি একটি খুব পৃথক বক্তব্য।

— মার্টিন থোমা

@ মার্টিন থোমা একমত হয়েছে এবং আপডেট হয়েছে।

— ncasas

(+1) তবে একটি নিটপিক। লজিস্টিক রিগ্রেশন ক্লাস অ্যাসাইনমেন্ট করে না, এটি কেবল শর্তযুক্ত সম্ভাবনাগুলি অনুমান করার চেষ্টা করে। সঠিকভাবে ব্যবহৃত শ্রেণিবদ্ধকরণ গাছ সহ ডিট্টো। ক্লাস অ্যাসাইনমেন্টগুলি মানুষের দ্বারা আরোপিত হয় যা সিদ্ধান্ত নেওয়ার প্রয়োজন এমএল অ্যালগরিদমগুলি নিজেরাই নয়।

— ম্যাথু

Answer 2

যদিও আমি বেশিরভাগ পয়েন্টে (+1) ncasas জবাবের সাথে একমত হই , আমি কিছু বিষয়ে আলাদা হতে অনুরোধ করছি:

• সিদ্ধান্ত গাছগুলিও ব্ল্যাক বক্সের মডেল হিসাবে ব্যবহার করা যেতে পারে। আসলে, আমি বলব বেশিরভাগ ক্ষেত্রে এগুলি ব্ল্যাক-বক্স মডেল হিসাবে ব্যবহৃত হয়। যদি আপনার 10,000 টি বৈশিষ্ট্য এবং 50 টি গভীরতার গাছ থাকে তবে আপনি যুক্তিসঙ্গতভাবে এটি কোনও মানুষ বুঝতে পারবেন না।
• নিউরাল নেটওয়ার্কগুলি বোঝা যায়। বিশ্লেষণের অনেকগুলি কৌশল রয়েছে ( মডেলটির উন্নতি করার লক্ষ্যে আমার মাস্টার থিসিসের অধ্যায় 2.5 দেখুন )। বিশেষত অন্তর্ভুক্তি বিশ্লেষণ (চিত্র 2.10), ফিল্টার ভিজ্যুয়ালাইজেশন (চিত্র 2.11)। এছাড়াও কেন আমাকে আপনার বিশ্বাস করা উচিত? কাগজ ( আমার নোট )

অভিনব অন্তর্নিবেশ বিশ্লেষণের মাধ্যমে একটি কালো-বাক্স মডেলটির পূর্বাভাস ব্যাখ্যা ("কেন আমি আপনাকে বিশ্বাস করব?" থেকে):

আমি মডেল ইন্টারপ্রেটিবিলিটিটির পৌরাণিক কাহিনীটি উল্লেখ করতে চাই । এটি সংক্ষিপ্ত উপায়ে ব্যাখ্যাযোগ্যতা সম্পর্কে কিছু ধারণা গঠন করে।

তোমার প্রশ্ন

কেন মেশিন লার্নিং মডেলগুলিকে ব্ল্যাক বক্স বলা হয়?

লোকেরা কীভাবে এটি ব্যবহার করে : কারণ তারা সমস্যাটিকে এমনভাবে মডেল করেন না যা কোনও নির্দিষ্ট ইনপুটটির জন্য কী ঘটে তা সরাসরি মানুষকে বলতে দেয়।

ব্যক্তিগত চিন্তা

আমি মনে করি না "ব্ল্যাক বক্স মডেল" এর এই ধারণাটি বেশি অর্থবোধ করে। উদাহরণস্বরূপ, আবহাওয়ার পূর্বাভাস সম্পর্কে চিন্তা করুন। আপনি কোনও ডেটা দিলে কোন আবহাওয়ার পূর্বাভাস দেওয়া হবে তা আপনি কোনও মানুষ আশা করতে পারেন না। তবুও বেশিরভাগ লোকেরা বলবেন না যে শারীরিক আবহাওয়া মডেলগুলি ব্ল্যাক বক্সের মডেল। তাহলে পার্থক্য কোথায়? এটি কি কেবল সত্য যে একটি মডেল ডেটা ব্যবহার করে তৈরি করা হয়েছিল এবং অন্যটি পদার্থবিজ্ঞানের অন্তর্দৃষ্টি ব্যবহার করে তৈরি করা হয়েছিল?

লোকেরা যখন ব্ল্যাক বক্সের মডেলগুলির কথা বলে তারা সাধারণত এটিকে বলে যে এটি কোনও খারাপ জিনিস। তবে মানুষেরাও ব্ল্যাক বক্সের মডেল। আমি এখানে যে গুরুতর পার্থক্যটি দেখতে পাচ্ছি তা হ'ল মানুষ যে শ্রেণীর ত্রুটিগুলি করে সেগুলি মানুষের জন্য ভবিষ্যদ্বাণী করা আরও সহজ। সুতরাং এটি একটি প্রশিক্ষণ সমস্যা (এনএন পক্ষের প্রতিকূল উদাহরণ) এবং একটি শিক্ষার সমস্যা (এনএনএস কীভাবে কাজ করে তা মানুষকে শেখানো)।

'ব্ল্যাক-বক্স মডেল' শব্দটি কীভাবে ব্যবহার করা উচিত : এমন একটি পদ্ধতির যা আমার কাছে আরও বেশি অর্থবোধ করে তা হ'ল সমস্যাটিকে একটি "ব্ল্যাক বক্স সমস্যা" বলা, যা ব্যবহারকারী 144410 (+1) লিখেছেন তার অনুরূপ । সুতরাং যে কোনও মডেল যা সমস্যাটিকে কেবল একটি কালো বাক্স হিসাবে বিবেচনা করে - তাই এমন কিছু যা আপনি ইনপুট রাখতে পারেন এবং আউটপুট আউট করতে পারেন - এটি একটি ব্ল্যাক বক্স মডেল। যে মডেলগুলি সমস্যাটি সম্পর্কে অন্তর্দৃষ্টি (কেবল ধরে নেই!) রয়েছে তারা কালো-বাক্সের মডেল নয়। অন্তর্দৃষ্টি অংশটি জটিল। প্রতিটি মডেল সম্ভাব্য ক্রিয়াকলাপটিকে এটি মডেল করতে পারে তার উপর বিধিনিষেধ তৈরি করে (হ্যাঁ, আমি সর্বজনীন আনুমানিক সমস্যা সম্পর্কে জানি As যতক্ষণ আপনি একটি নির্দিষ্ট আকারের এনএন ব্যবহার করেন এটি প্রয়োগ হয় না)। আমি বলব সমস্যাটি অন্তর্দৃষ্টি বলে কিছু যদি আপনি সমস্যাটি পোজ না করে ইনপুট এবং আউটপুট সম্পর্ক সম্পর্কে কিছু জানেন (ডেটা না দেখে)।

এর থেকে নিম্নলিখিতগুলি কী:

• নিউরাল নেটওয়ার্কগুলি নন-ব্ল্যাকবক্স (হোয়াইটবক্স?) ​​হতে পারে
• লজিস্টিক রিগ্রেশন একটি ব্ল্যাক-বক্স মডেল হতে পারে।
• এটি সমস্যা এবং এটি সম্পর্কে আপনার অন্তর্দৃষ্টি সম্পর্কে আরও বেশি, মডেল সম্পর্কে কম।

Comments

ধন্যবাদ. আপনার উত্তরগুলি পড়তে সর্বদা আনন্দিত হয় :)

— ডওয়ানি 33

আপনাকে স্বাগতম :-) এবং সুন্দর কথার জন্য আপনাকে ধন্যবাদ :-) দয়া করে আমার প্রশ্নের লবণের সাথে আপনার প্রশ্নের উত্তরটি নিন। আমি এটি সম্পর্কে খুব নিশ্চিত না। আমি মনে করি না এর একটি নির্দিষ্ট উত্তর আছে কারণ লোকেরা এটির সংজ্ঞা না রেখে শব্দটি ব্যবহার করে। সুতরাং একদিকে মানুষের মধ্যে ব্যবহার সম্ভবত পৃথক এবং অন্যদিকে এমনকি কোনও প্রদত্ত একক ব্যক্তি সর্বদা একইভাবে ব্যবহার করতে পারে না।

— মার্টিন থোমা

Answer 3

এটি মডেল ব্যাখ্যাযোগ্যতা এবং ব্যাখ্যাযোগ্যতার দিকে নেমে আসে। একটি সহজ মডেলের আউটপুট দেওয়া, প্রতিটি ইনপুট মডেল আউটপুটে কীভাবে অবদান রাখে ঠিক তা সনাক্ত করা সম্ভব তবে মডেলগুলি আরও জটিল হওয়ার সাথে সাথে এটি আরও কঠিন হয়ে যায়। রিগ্রেশন সহ উদাহরণস্বরূপ আপনি সহগকে নির্দেশ করতে পারেন, সিদ্ধান্তের গাছের সাহায্যে আপনি বিভাজনগুলি সনাক্ত করতে পারেন। এবং এই তথ্যের সাহায্যে, আপনি মডেল আচরণ ব্যাখ্যা করার জন্য বিধিগুলি অর্জন করতে পারেন।

যাইহোক, মডেল প্যারামিটারগুলির সংখ্যা বাড়ার সাথে সাথে ঠিক কী ইনপুটগুলির সংমিশ্রণগুলি চূড়ান্ত মডেল আউটপুট নিয়ে যায় বা মডেলের আচরণ থেকে নিয়মগুলি নিয়ে আসে তা ব্যাখ্যা করা ক্রমশ কঠিন হয়ে ওঠে। আর্থিক শিল্পে বলুন যখন সিওও এসে জিজ্ঞাসা করবে, 'তবে, আপনার উচ্চ ফ্রিকোয়েন্সি ব্যবসায় কেন অর্থনীতি ভেঙেছিল', তিনি শুনতে চান না কীভাবে এটি তৈরি হয়েছিল, কেন এটি তাকে দেউলিয়া পাঠিয়েছিল। মডেলটি কীভাবে নির্মিত হয়েছিল তা বলা সম্ভব হবে, তবে মডেল যে কারণগুলির ফলাফলগুলির সংমিশ্রণগুলি ইনপুট হিসাবে প্রাপ্ত হয়েছিল তার ফলাফল ব্যাখ্যা করা সম্ভব হবে না, এবং এই কারণেই লোকেরা কালো বাক্সগুলির বিষয়ে কথা বলছে।

Answer 4

ব্ল্যাক বক্স মডেলগুলি এমন কোনও গাণিতিক মডেলগুলিকে উল্লেখ করে যার সমীকরণগুলি কোনও শারীরিক / বৈজ্ঞানিক আইনের উপর ভরসা না করেই যথাসম্ভব সাধারণ এবং নমনীয় হিসাবে বেছে নেওয়া হয়।

গ্রে বক্স মডেলগুলি গাণিতিক মডেল যেখানে সমীকরণের একটি অংশ (গাণিতিক ফাংশন) শারীরিক জ্ঞাত আইন থেকে আসে তবে বাকি অংশটি অব্যক্ত অংশের জন্য ক্ষতিপূরণ দেওয়ার জন্য সাধারণ ফাংশন হিসাবে ধরে নেওয়া হয়।

হোয়াইট বক্স মডেলগুলি গাণিতিক মডেলগুলি সম্পূর্ণ শারীরিক আইন এবং সিস্টেমের বোঝার উপর ভিত্তি করে তৈরি করা হয়, যেমন যান্ত্রিক গতি আইন (বিমানের মডেল .. ইত্যাদি)

দেখুন: https://en.wikedia.org/wiki/ গণিত_মোডেল# এ_প্রিয়রি_ফর্ম

Comments

আকর্ষণীয় সংজ্ঞা! কয়েকটি উদাহরণ যেতে যাক: লজিস্টিক রিগ্রেশন, এসভিএম, এনএন, ডিকন ট্রি সমস্ত ব্ল্যাক বক্স মডেল। প্রসঙ্গে উপর নির্ভর করে, বায়সিয়ান মডেলগুলি তিনটি বিভাগেই থাকতে পারে। আবহাওয়ার মডেলগুলি হাইট-বক্স বা ধূসর বাক্স মডেল।

— মার্টিন থোমা

আমি এই উত্তর সাথে একমত হতে হবে। আপনি শারীরিক তত্ত্বের ভিত্তিতে অভিজ্ঞতামূলক মডেল এবং মডেলগুলির মধ্যে পার্থক্য আঁকছেন। যাইহোক, উভয় প্রকারের মডেলটি কীভাবে প্যাকেজ করা হয়েছে তার উপর নির্ভর করে সাদা বা কালো বাক্স হতে পারে।

— ব্রায়ান বোর্চারস

ব্ল্যাক বক্স শব্দটি অন্তর্নিহিত 'সত্য' সিস্টেমকে বোঝায় এবং মডেল কাঠামো নির্বাচনের সমস্যার সাথে সম্পর্কিত।

— ব্যবহারকারী 144410

"আধুনিক শব্দ" ব্ল্যাক বক্স "1945 সালের দিকে ইংরেজি ভাষায় প্রবেশ করেছে বলে মনে হয়। বৈদ্যুতিন সার্কিট তত্ত্বে ট্রান্সফার ফাংশনগুলি থেকে নেটওয়ার্ক সংশ্লেষণের প্রক্রিয়া, যার ফলে বৈদ্যুতিন সার্কিটগুলি" ব্ল্যাক বাক্স "হিসাবে বিবেচিত হয় যা প্রয়োগ সংকেতগুলির প্রতিক্রিয়া দ্বারা চিহ্নিত ছিল : তাদের পোর্ট, উইলহেম Cauer যারা তাদের অধিকাংশ উন্নত আকারে তাঁর চিন্তাচেতনা প্রকাশিত 1941 সালে ... "উত্স আঁকা করা যাবে en.wikipedia.org/wiki/Black_box#History

— user144410

Answer 5

একটি কালো বাক্স, যেমন আপনি জানেন যে কোনও ফাংশনকে বোঝায় যেখানে আপনি ইনপুট এবং আউটপুটগুলির স্বাক্ষর জানেন তবে এটি কীভাবে ইনপুটগুলি থেকে আউটপুট নির্ধারণ করে তা জানতে পারে না।

এই ক্ষেত্রে এই শব্দটির ব্যবহারটি ভুলভাবে বাজানো হচ্ছে। এটি এমএল মডেলগুলি জানার এবং বোঝার জন্য লেখক / লেখকের ইচ্ছা বা ক্ষমতার বাইরেও হতে পারে তবে এর অর্থ এই নয় যে এটি অন্যের ইচ্ছা বা সামর্থ্যের বাইরে। প্রতিটি এমএল মডেল তৈরি করা ইঞ্জিনিয়াররা ঠিক কীভাবে এটি কাজ করে তা জানেন এবং সিদ্ধান্তের গাছটিকে ইচ্ছামত টানতে এবং এটিকে চালিয়ে নিতে পারেন। কারন কেউ খুব অলস হতে পারে বা এটি করতে কিছুটা সময় নিতে পারে তার অর্থ এই নয় যে তথ্যটি সহজেই সেবন করার জন্য উপলব্ধ নয়।

এমএল মডেলগুলি কালো বাক্স নয়, এগুলি স্পষ্ট বাক্স যা কেবলমাত্র বড়।

Answer 6

এমএল ইঞ্জিনিয়াররা জানেন না যে নিউরাল জালের ভিতরে কী ঘটে

আপনার বিরোধিতা করার জন্য দুঃখিত, তবে এটি সত্য। তারা জানে যে নিউরাল নেটওয়ার্কগুলি কীভাবে শিখতে পারে তবে কোনও প্রদত্ত নিউরাল নেটওয়ার্ক কী শিখেছে তা তারা জানে না। নিউরাল নেটওয়ার্কগুলি দ্বারা শিখানো যুক্তি কুখ্যাতভাবে অনির্বচনীয়।

মেশিন লার্নিং ব্যবহারের বিষয়টি সাধারণত কোনও প্রোগ্রামার বা ডোমেন বিশেষজ্ঞ ভাবেন না এমন নিয়মগুলি শিখতে হয়। এটি নির্ধারণ করা সহজাতভাবেই কঠিন।

এটি প্রচলিত কম্পিউটার প্রোগ্রামের সাথে এক বর্ণের একটি পরিবর্তনশীল নাম, কোনও মন্তব্য, কোনও সুস্পষ্ট কাঠামো, অস্পষ্ট গণিত ব্যবহার করে এবং বর্তমানে মারা যাওয়া এমন ব্যক্তির দ্বারা সমান। আপনি এটি কোনও ডিবাগারে পা রাখতে পারেন তবে এটি কীভাবে কাজ করে তা এখনও পরিষ্কার।

খুব কমই, কেউ নিউরাল নেটওয়ার্ক কী করে তা বোঝার জন্য সমস্যায় পড়ে। উদাহরণস্বরূপ, ন্যূন-দ্বন্দ্বের অ্যালগরিদম এন-কুইন্স সমস্যার বিষয়ে প্রশিক্ষিত একটি নিউরাল নেটওয়ার্ক বিশ্লেষণ করে আবিষ্কার করা হয়েছিল । তবে এটি অনেক কাজ।

Comments

কিছু লিনিয়ার পদ্ধতিতে যেমন বলা যেতে পারে, পিসিএ, কেবলমাত্র ডিএল-এর সূত্রটি আরও জটিল।

— মিগুয়েল

Answer 7

প্রশ্নে উদ্ধৃত ব্লগের পোস্টে, আলোচনার বিষয়টি এই যে, যে বিশেষজ্ঞরা ফিনান্সে মেশিন লার্নিং মডেল তৈরি করেন তাদের গ্রাহকদের (মেশিন লার্নিংয়ের কোনও প্রশিক্ষণ নেই এমন ফিনান্সিয়র) ব্যাখ্যা করতে পারবেন না মডেল কীভাবে সিদ্ধান্ত নেয় ।

এটি এমন মডেলগুলির মধ্যে একটি পার্থক্য প্রকাশ করে যা সত্যিকারের গোপনীয় তথ্যের কারণে কালো বাক্স (যেমন সহগগুলি একটি টেম্পার প্রুফ এফপিজিএতে এনকোডড থাকে) এবং যে মডেলগুলি খোলা থাকে (এই দিক থেকে সহগুণগুলি পরিচিত তা বোঝে) তবে একটির কাছে বোধগম্য নয় বিশেষ শ্রোতা ।

এই দ্বিতীয় ধরণের "ব্ল্যাক বক্স" সমস্যাযুক্ত কারণ গ্রাহকরা তাদের নিশ্চিত করতে চান যে আপনি যে মডেলটি তৈরি করেছেন সেটি "মুখের বৈধতা"। অন্যান্য ধরণের মডেল যেমন লজিস্টিক রিগ্রেশন সহ, সহগের দিকে লক্ষ্য করা এবং তাদের প্রত্যাশিত প্লাস বা বিয়োগ চিহ্ন রয়েছে কিনা তা পরীক্ষা করা তুলনামূলক সহজ even এমনকি একটি গাণিতিক নিরক্ষর এমবিএ এটি বুঝতে পারে।

Answer 8

মেশিন লার্নিংকে সঠিকভাবে ব্ল্যাক বাক্স হিসাবে বিবেচনা করা যেতে পারে, নিউরাল নেটওয়ার্কগুলি ব্যবহার করে এক্সওআর সমস্যার সমাধানগুলি মডেল করা যেতে পারে তবে ইনপুটগুলির সংখ্যা বাড়ার সাথে সাথে জটিলতা এবং মাত্রাও বৃদ্ধি পায়। যদি এটি বোঝার এবং ব্যাখ্যা করা খুব জটিল হয় তবে এটি একটি কালো বাক্স, আমরা ফলাফলগুলি গণনা করতে পারি কি না

আমরা কেবল তাদের 3 টি মাত্রা পর্যন্ত উপলব্ধি করতে পারি তবে এটি যথেষ্ট কারণ আমরা রেফারেন্সের পয়েন্ট হিসাবে 3 ডি মডেলটি ব্যবহার করে এটি উচ্চতর মাত্রা পর্যন্ত বহির্মুখী করতে পারি। আমরা স্থানীয় ন্যূনতম, পাশাপাশি আংশিকভাবে শিখে নেওয়া ডেটাসেটের কিছু অংশ কল্পনা করতে পারি।

আমি কিছুক্ষণের জন্য এই ধারণাটির সাথে কথা বললাম এবং তাই আমি কাজ করে নিউরাল নেটওয়ার্কগুলির অ্যানিমেশন তৈরি করেছি এবং নিউরাল নেটওয়ার্কগুলি সম্পর্কে আমার বোঝার উন্নতি করেছি। আমি 1 এবং 2 টি গোপন স্তর (3 য় বেশিরভাগটি সম্পন্ন হয়) এবং তারা কীভাবে ডেটা শিখায় তা সহ অ্যানিমেশনগুলি তৈরি করেছি।

অ্যানিমেশনটি ধীর গতির এবং উপরের স্তরগুলি দেখানো শীর্ষ ডান দিকের অ্যানিমেশনটি দেখার মতো, আপনি যদি পছন্দ করেন তবে ইউটিউবে অ্যানিমেশনগুলিকে গতি দিতে পারেন, নীল এবং লাল মেশালের সাথে উপরের ডান অ্যানিমেশনটিতে 3:20 কমলা এবং উল্লেখযোগ্য পরিবর্তনগুলি দেখা যায় 6 মিনিটে লাল জাল এবং 8:20 এ ব্লু, কমলা এবং লাল জাল। ওজন পরিবর্তনের দিকনির্দেশগুলি অবশ্যই নীচে বাম অ্যানিমেশনটিতে রয়েছে

https://www.youtube.com/watch?v=UhQJbFDtcoc

Answer 9

আমি মনে করি এইভাবে ব্যবহৃত ব্ল্যাক বক্স ধারণাটি সফ্টওয়্যার এবং হার্ডওয়্যার মানের আশ্বাসে ব্ল্যাক বক্স টেস্টিং থেকে উদ্ভূত । এটি তখনই হয় যখন আপনি / বা এমনকি অনুসন্ধান না করে বা আপনি যা পরীক্ষা করছেন তার অভ্যন্তরীণ কাজ দেখতে না পেলেন। এটি যে কারণ হতে পারে

1. এর মধ্যে উঁকি দেওয়া অবাস্তব বা অসাধ্য (এটি সিল করা পরিবেশে রয়েছে এবং আমরা কেবল এটি দেখতে পারি না) - তবে এটি পাশাপাশি হতে পারে

2. কারণ ভিতরে যদি কেউ দেখতে পান তবে কৃপী পরীক্ষার লেখার আরও বড় সুযোগ রয়েছে chance "উদ্দেশ্য নিয়ে বা ছাড়া)" লেখার পরীক্ষাগুলি পাস করার জন্য ডিজাইন করা "এর বৃহত ঝুঁকি।

পরীক্ষা করা জিনিসটি ফিট করার জন্য পরীক্ষার লিখন, আসলে কিছু আবিষ্কার করার সম্ভাবনা হ্রাস করে।

কোনও দক্ষ সিগন্যাল ইঞ্জিনিয়ারের পক্ষে নিউরাল নেটওয়ার্কের অভ্যন্তরীণ কর্মের দিকে নজর দেওয়া এবং কোনও নির্দিষ্ট প্রশিক্ষণের অনুক্রমের জন্য কোন বৈশিষ্ট্যগুলি বেছে নেওয়া হচ্ছে তা পরীক্ষা করা পুরোপুরি সম্ভব হবে ।

Answer 10

ব্ল্যাক বাক্সের পদ্ধতিগুলি "নির্বিঘ্নে" ব্যাখ্যা করা কঠিন। ফিনান্স বা অন্যান্য ক্ষেত্রে যে কেউ রিগ্রেশন বা এমনকি সিদ্ধান্তের গাছের বুনিয়াদি বুঝতে পারে। সমর্থন ভেক্টর মেশিন হাইপারপ্লেন এবং নিউরাল নেটওয়ার্ক সিগময়েড ফাংশন সম্পর্কে কথা বলা শুরু করুন এবং আপনি বেশিরভাগ শ্রোতা হারাবেন