আমার অ্যামাজন সাম্প্রতিক নিয়োগ কেলেঙ্কারী থেকে অনুপ্রাণিত প্রশ্ন রয়েছে, যেখানে তাদের নিয়োগ প্রক্রিয়ায় মহিলাদের বিরুদ্ধে বৈষম্যের অভিযোগ আনা হয়েছিল। এখানে আরও তথ্য :
অ্যামাজন.কমের মেশিন-লার্নিং বিশেষজ্ঞরা একটি বড় সমস্যা উদ্ঘাটিত করেছেন: তাদের নতুন নিয়োগের ইঞ্জিন মহিলাদের পছন্দ করেনি।
দলটি শীর্ষ প্রতিভা সন্ধানের যান্ত্রিকীকরণের লক্ষ্যে চাকরীর আবেদনকারীদের জীবনবৃত্তান্ত পর্যালোচনা করার জন্য ২০১৪ সাল থেকে কম্পিউটার প্রোগ্রামগুলি তৈরি করছিল ...
... সংস্থার পরীক্ষামূলক নিয়োগের সরঞ্জামটি কৃত্রিম বুদ্ধিমত্তাকে চাকরিপ্রার্থীদের এক থেকে পাঁচ তারকা পর্যন্ত স্কোর দেওয়ার জন্য ব্যবহার করেছিল ...
... তবে ২০১৫ সালের মধ্যে, সংস্থাটি বুঝতে পেরেছিল যে তার নতুন সিস্টেমটি সফ্টওয়্যার বিকাশকারী চাকরি এবং অন্যান্য প্রযুক্তিগত পোস্টের জন্য লিঙ্গ-নিরপেক্ষ উপায়ে প্রার্থীদের রেটিং দিচ্ছে না।
এজন্য যে অ্যামাজনের কম্পিউটার মডেলগুলি 10 বছরের সময়কালে কোম্পানীর কাছে জমা দেওয়া পুনঃসূচনাগুলিতে নিদর্শনগুলি পর্যবেক্ষণ করে আবেদনকারীদের পরীক্ষার জন্য প্রশিক্ষণ দিয়েছিল। বেশিরভাগ পুরুষদের কাছ থেকে এসেছিল, প্রযুক্তি শিল্প জুড়ে পুরুষদের আধিপত্যের প্রতিচ্ছবি। (কারিগরি ক্ষেত্রে জেন্ডার ভাঙ্গনের বিষয়ে গ্রাফিকের জন্য দেখুন: এখানে দেখুন ) বাস্তবে, অ্যামাজনের সিস্টেম নিজে শিখিয়েছিল যে পুরুষ প্রার্থীরা তার চেয়ে বেশি পছন্দসই। এটি "মহিলা দাবা ক্লাব অধিনায়ক" এর মতো "মহিলা" শব্দটি অন্তর্ভুক্ত করে পুনরায় সূচনা করেছিল। এই বিষয়টি সম্পর্কে পরিচিত লোকদের মতে এটি দুটি অল-উইমেন কলেজের স্নাতকদের হ্রাস পেয়েছে। তারা স্কুলের নাম নির্দিষ্ট করে দেয়নি।
অ্যামাজন প্রোগ্রামগুলিকে এই বিশেষ শর্তে নিরপেক্ষ করতে সম্পাদনা করে। তবে এই গ্যারান্টি ছিল না যে মেশিনগুলি বৈষম্যমূলক প্রমাণ করতে পারে এমন প্রার্থীদের বাছাইয়ের অন্যান্য উপায় তৈরি করবে না, জনগণ বলেছে।
সিয়াটল সংস্থাটি শেষবছর শুরুতে দলটিকে ছত্রভঙ্গ করেছিল কারণ এক্সিকিউটিভরা এই প্রকল্পের জন্য আশা হারিয়ে ফেলেছিল ...
... কোম্পানির পরীক্ষা ... মেশিন লার্নিংয়ের সীমাবদ্ধতায় কেস স্টাডি সরবরাহ করে।
... কার্নেগি মেলন বিশ্ববিদ্যালয়ে মেশিন লার্নিং শেখানো নীহার শাহের মতো কম্পিউটার বিজ্ঞানীরা বলেছেন যে এখনও অনেক কাজ বাকি আছে।
"কীভাবে অ্যালগরিদমটি সুষ্ঠু তা নিশ্চিত করা যায়, কীভাবে অ্যালগরিদমটি সত্যই ব্যাখ্যাযোগ্য এবং ব্যাখ্যাযোগ্য তা নিশ্চিত করা যায় - এটি এখনও বেশ দূরে," তিনি বলেছিলেন।মাস্কলাইন ভাষা
[অ্যামাজন] অ্যামাজনের এডিনবার্গ ইঞ্জিনিয়ারিং হবে একটি দল গঠন করেছে যা বেড়েছে প্রায় এক ডজন মানুষ। তাদের লক্ষ্য ছিল এআই বিকাশ করা যা দ্রুত ওয়েব ক্রল করতে পারে এবং প্রার্থীদের নিয়োগের যোগ্য করে তোলে, বিষয়টি সম্পর্কে পরিচিত লোকেরা জানিয়েছেন।
এই গোষ্ঠীটি নির্দিষ্ট কাজের ফাংশন এবং অবস্থানগুলিতে ফোকাস করে 500 টি কম্পিউটার মডেল তৈরি করেছে। তারা প্রত্যেককে প্রায় ৫০,০০০ পদ শনাক্ত করতে শিখিয়েছিল যা অতীতে প্রার্থীদের পুনরায় শুরুতে প্রদর্শিত হয়েছিল। বিভিন্ন কম্পিউটার কোড লেখার দক্ষতা যেমন আইটি আবেদনকারীদের মধ্যে সাধারণ ছিল এমন দক্ষতার জন্য অ্যালগরিদমগুলি সামান্য তাত্পর্য নিযুক্ত করতে শিখেছে ...
পরিবর্তে, প্রযুক্তির পক্ষপাতদু প্রার্থীরা যারা পুরুষ ইঞ্জিনিয়ারদের পুনরায় শুরুতে সাধারণত ক্রিয়া ব্যবহার করে নিজের বিবরণ দিয়েছিলেন তাদের মতো, যেমন "মৃত্যুদণ্ডপ্রাপ্ত" এবং "বন্দী," একজন বলেছিলেন।
ধরা যাক আমি নতুন ব্যক্তিকে নিয়োগের ক্ষেত্রে পাঁচ তারকা র্যাঙ্কিংয়ের মতো ব্যক্তিগত ডেটা থেকে কিছু আউটপুট পূর্বাভাস দেওয়ার জন্য একটি পরিসংখ্যান মডেল তৈরি করতে চাই build ধরা যাক আমি নৈতিক সীমাবদ্ধতা হিসাবেও লিঙ্গ বৈষম্য এড়াতে চাই। লিঙ্গ বাদে দুটি কঠোরভাবে সমান প্রোফাইল দেওয়া, মডেলের আউটপুট একই হওয়া উচিত।
আমি কি লিঙ্গ (বা এর সাথে সম্পর্কিত কোনও ডেটা) ইনপুট হিসাবে ব্যবহার করব এবং তাদের প্রভাবগুলি সংশোধন করার চেষ্টা করব, বা এই ডেটাগুলি ব্যবহার করা এড়ানো উচিত?
আমি কীভাবে লিঙ্গ সম্পর্কে বৈষম্যের অনুপস্থিতি পরীক্ষা করব?
পরিসংখ্যানগতভাবে বৈষম্যমূলক এমন ডেটার জন্য আমি কীভাবে আমার মডেলটিকে সংশোধন করব তবে নৈতিক কারণে আমি থাকতে চাই না?