নৈতিকতা কেন বর্তমান এআই সিস্টেমে আরও সংহত হয় না?


9

আমি কম্পিউটার বিজ্ঞানে পিএইচডি শিক্ষার্থী এবং বর্তমানে মেশিন এথিক্সে করা অ্যাপ্লিকেশনগুলিতে (আর্টিকেল এবং এআইয়ের সমন্বিত একটি বহুপাক্ষিক ক্ষেত্র, যা সুস্পষ্ট নৈতিক কর্মসূচি বা এজেন্ট তৈরির দিকে দৃষ্টি নিবদ্ধ করে) তৈরি করে art ক্ষেত্রটিতে প্রযুক্তিগত পটভূমি রয়েছে এমন অনেক লোক থাকলেও ক্ষেত্রটিতে বেশিরভাগ ক্ষেত্রে তাত্ত্বিক যুক্তি রয়েছে এবং তুলনামূলকভাবে খুব কম প্রয়োগ রয়েছে are

আমি বুঝতে পেরেছি যে নীতিশাস্ত্র জড়িত তাই এর কোন গৌণ সত্য নেই এবং যেহেতু এটি দর্শনের অংশ তাই যে কোন ধরণের নৈতিকতা প্রয়োগ করা উচিত এবং কীভাবে এটি সর্বোত্তমভাবে করা যায় তা নিয়ে বিতর্ক করতেই কেউ হারিয়ে যেতে পারেন। যাইহোক, কম্পিউটার বিজ্ঞানে, আপনার পদ্ধতির সম্ভাবনা বা সীমাবদ্ধতাগুলি দেখানোর জন্য এমনকি একটি সাধারণ বাস্তবায়ন চেষ্টা করা স্বাভাবিক।

এআই-তে স্পষ্টভাবে নীতিশাস্ত্র প্রয়োগ এবং এর সাথে পরীক্ষায় এত কম কাজ করার সম্ভাব্য কারণগুলি কী কী?


2
পদ্ধতির উদাহরণগুলি এই এবং এই ওভারভিউ পেপারে পাওয়া যাবে ।
সুজান

উত্তর:


2

এটি অগত্যা একটি উচ্চ-স্তরের উত্তর এবং অত্যন্ত অনুমানমূলক, তবে আমি এই প্রশ্নটি নিয়ে ভাবছিলাম, এবং এখানে আমার চিন্তাভাবনা রয়েছে:

  • নৈতিক অ্যালগোরিদম প্রয়োগ করার জন্য দর্শনের গাণিতিক ভিত্তি প্রয়োজন কারণ কম্পিউটারগুলি ডিফার্ট ইঞ্জিন

রাসেল এবং হোয়াইটহেডের বিখ্যাত ব্যর্থতা এবং গডেলের অসম্পূর্ণতা উপপাদনের পরে, এটি সমস্যাযুক্ত বলে মনে হবে।

  • এআই একটি উচ্চতর প্রয়োগ ক্ষেত্র, বিশেষত আজ গভীর শিক্ষার ক্রমাগত বৈধতা প্রতি, এবং কোনও সংস্থা তাদের বাধ্য না করা হলে নীতিশাস্ত্রের সমস্যার কাছে যেতে চায় না

সুতরাং, আপনি এটিকে স্ব-ড্রাইভিং গাড়িগুলিতে দেখেন কারণ ইঞ্জিনিয়ারদের সমস্যাটি কাটানো ছাড়া কোনও উপায় নেই। বিপরীতে, আমি মনে করি না আপনি অনেকগুলি অ্যালগরিদমিক স্টক ট্রেডিং সংস্থাগুলি দেখতে পাবেন, যেখানে ব্যবসাটি পেরেটো দক্ষতা , আর্থিক অনুমানের নৈতিকতা বা সামাজিক প্রভাব সম্পর্কে উদ্বেগজনক। ("ফ্ল্যাশ ক্রাশ" এর সমাধান হ'ল উচ্চ-ফ্রিকোয়েন্সি অ্যালগরিদমিক ব্যবসায়ের সামাজিক মূল্যকে সম্বোধন করার পরিবর্তে সাময়িক স্থগিতকরণের নিয়ম বলে মনে হয়।) আরও স্পষ্ট উদাহরণ হ'ল সোশ্যাল মিডিয়া সংস্থাগুলি তথ্যের অপব্যবহারের চূড়ান্ত পরিমাণকে উপেক্ষা করে এবং ভুল তথ্য) তাদের সাইটে পোস্ট করা হচ্ছে, অজ্ঞতার পক্ষে আবেদন করা, যা তথ্যের অপব্যবহারের ফলে উত্পন্ন কার্যকলাপটি তাদের নীচের অংশগুলিকে ইতিবাচকভাবে প্রভাবিত করে বলে অত্যন্ত সন্দেহ।

  • ফলিত ক্ষেত্রগুলি মূলত লাভ দ্বারা চালিত হয়

কর্পোরেশনগুলির প্রাথমিক নির্দেশিকাটি হ'ল বিনিয়োগকারীদের একটি লাভ ফিরিয়ে দেওয়া। জরিমানা ও জরিমানা অবৈধ কার্যকলাপের দ্বারা প্রাপ্ত লাভের চেয়ে কম হবে বলে আশা করা গেলে কর্পোরেশনগুলি আইন ভঙ্গ করা অস্বাভাবিক কিছু নয় not (ব্যবসায়ের ক্ষেত্রে নীতিশাস্ত্রের ধারণা রয়েছে, তবে সাধারণভাবে সংস্কৃতি মানুষ এবং সংস্থাগুলি অর্থ নির্বিশেষে তারা কত অর্থ উপার্জন করে তার ভিত্তিতে বিচার করে বলে মনে হয়।)

  • মেশিন নীতিশাস্ত্রের প্রয়োগগুলি সেই অঞ্চলে অনুসন্ধান করা হচ্ছে যেখানে তাদের পণ্যটি বিক্রি করা প্রয়োজন, তবে অন্য কোথাও, এটি এখনও মূলত অনুমানমূলক

যদি অতিমানবুদ্ধি বিকশিত হয় এবং মানবিকতা নিশ্চিহ্ন হয় (যেমন উচ্চতর গণিতের দক্ষতাযুক্ত কিছু খুব স্মার্ট ব্যক্তি আমাদের সম্পর্কে সতর্ক করে দিচ্ছে), আমার অনুভূতি হ'ল এটি প্রকৃতির একটি ফাংশন হবে, যেখানে এই অ্যালগরিদমের অনিয়ন্ত্রিত বিবর্তন হ'ল হাইপারকে কেন্দ্র করে এমন অর্থনৈতিক চালকদের কারণে আর্থিক জল্পনা এবং স্বায়ত্তশাসিত যুদ্ধের মতো শিল্পগুলিতে পার্টিশন অটোমেটা। মূলত, প্রভাবগুলি নির্বিশেষে, কোনও মূল্যে মুনাফার তাড়া করা।


মজার দিক, লাভের দিক! যেহেতু আমি গবেষণার কারণগুলিতে এতটা কেন্দ্রীভূত ছিলাম তা ভেবে দেখিনি, তবে এটি বোঝা যায় যে গবেষণাটি আরও এগিয়ে নেওয়ার জন্য শিল্পের পক্ষ থেকে কোনও চাপ নেই।
সুজান

@ সুজানটোলমিয়ার ধন্যবাদ গেম থিওরিটি এখন কয়েক বছর ধরে কীভাবে নৈতিকতার সাথে সংযোগ স্থাপন করেছে সে সম্পর্কে আমি আনন্দ করছি। (বেশিরভাগ প্রথম দিকের দর্শন যেখানে উদাহরণস্বরূপ, "ভারসাম্য" "ভাল" হিসাবে বলা হত - ভারসাম্য একটি ভারসাম্যপূর্ণ ফাংশন এবং যথাযথভাবে গণিত হিসাবে সংজ্ঞায়িত হতে পারে It এটি স্থিতাবস্থায় অর্থনীতির সাথে সম্পর্কিত যা সাধারণত অনুকূল হিসাবে বোঝা যায়, যেখানে অস্থিতিশীলতা সম্ভাব্য বিপর্যয়কর।) তবে আমি একমাত্র এআই অবদানকারী নই যিনি এই ক্ষেত্রে অর্থনৈতিক ড্রাইভারদের স্পর্শ করেছেন এবং আমি যাকে "হাইপারপারটিসান এআই" বলছি তার সম্ভাব্য বিপদগুলি।
ডিউকঝৌ

1

আমি এআই / এমএল প্রযুক্তিগুলির নৈতিক বাস্তবায়নের পথে কেন খুব সামান্য, এই সমস্যার একটি অংশ বোধ করি, কেবল তাত্ত্বিক কাঠামোর প্রয়োজন বা যথাযথ প্রয়োগ নেই বলেই।

এর অর্থ হ'ল, আমরা এই বোঝাপড়াটি অ্যালগরিদম এবং মডেলগুলিতে প্রয়োগ করতে পারি যা কোনও অর্থবহ উপায়ে ইন্টারঅ্যাক্ট করতে পারে না are এআই সুরক্ষা / নৈতিকতা সম্পর্কে আমাদের কাছে এত বড় তাত্ত্বিক কাঠামো রয়েছে কারণ এটি অত্যন্ত গুরুত্বপূর্ণ। শক্তিশালী এআই তৈরি হওয়ার আগে আমাদের নিরাপদ নির্দেশিকা নিয়ে আসা দরকার ।

কিছু অত্যন্ত মনোযোগী কাগজপত্র নৈতিক / নিরাপদ এআই সিস্টেম তৈরির ক্ষেত্রে বিষয়গুলি সঙ্কীর্ণ করতে শুরু করেছে। এআই সুরক্ষায় কংক্রিট সমস্যাগুলি দেখুন


সুস্পষ্ট নীতিশাস্ত্রের প্রয়োজন আছে বলে মনে হয়, কমপক্ষে অনেক গবেষক সুস্পষ্ট নীতিশাস্ত্রের অগ্রগতির জন্য আহ্বান করেছেন (যেমন মুর 2006 )। তাত্ত্বিক কাঠামোর যথাযথ প্রয়োগের ক্ষেত্রে, আপনি সঠিক হতে পারেন: বাস্তবায়ন কিছু ক্ষেত্রে কিছু ব্যাখ্যা বোঝায় যা কঠিন প্রমাণ করতে পারে। তবে, আপনি সম্মত হন যে এআই এর জন্য নিরাপদ নির্দেশিকা গুরুত্বপূর্ণ, যার অর্থ আমরা আমাদের মেশিনগুলিকে কী করতে 'সঠিক' বা 'নৈতিক' বলে মনে করি তার উপর ব্যবহারিক নির্দেশিকা। এই নির্দেশিকাগুলি বোঝায় যে কোনওভাবে কীভাবে মেশিনগুলিতে নৈতিকতা প্রয়োগ করা যায়।
সুজান

1

অনুকরণ পদ্ধতিটি দিয়ে, সবচেয়ে উপযুক্ত আচরণটি কৃত্রিম বুদ্ধিমত্তায় একীভূত করা যেতে পারে। যখন নৈতিক অবস্থান পরিবর্তন হয় তখন কৃত্রিম বুদ্ধিমত্তাকে পুনরায় আকার দেওয়া যেতে পারে। এটি আদর্শগত উদ্দেশ্যে বা তথ্য সংগ্রহের জন্য ব্যবহৃত হয়। এটি রোবট কী তা পরিষ্কার নয়।


1

আমরা অ্যাকাউন্টের মধ্যে ত্রুটি মডেল নিতে পারি। নিউরাল নেটওয়ার্কগুলির অধীনে পারফরম্যান্সের মধ্যে পক্ষপাত এবং পার্থক্য সনাক্ত করা প্রথম পদক্ষেপ হতে পারে। এবং তারপরে আমরা এ জাতীয় পারফরম্যান্স অনুমোদিত কিনা তা নিয়ে আলোচনা করতে পারি। যতদূর আমরা জানি, নৃতাত্ত্বিক অনুশীলনের জন্য অভিজ্ঞতামূলক এবং ক্ষেত্র অধ্যয়ন প্রয়োজন। শিখে নেওয়া মেশিনের কাজটি ভুল বা না তা নির্ধারণ করার জন্য আমরা কেবল যুক্তি এবং কাগজ প্রবন্ধগুলি নিতে পারি না। এটি আরও দুর্ঘটনা, ত্রুটি বা এমনকি বিকাশকারীদের তৈরি করা বাগগুলিতে ভাগ করা যেতে পারে।


আপনি এখানে একটি আকর্ষণীয় বিষয় উত্থাপিত হ'ল মূলত, কোন ব্যবস্থাগুলি পরীক্ষা করার জন্য ব্যবহার করা যেতে পারে এবং সিস্টেমটি সঠিকভাবে সম্পাদন করছে কিনা তা আপনি কীভাবে নির্ধারণ করবেন? এটি এমন কিছু যা ক্ষেত্র থেকে অনুপস্থিত, এবং আমি মনে করি এটি প্রকৃতপক্ষে সমস্যার একটি অংশ: স্থল সত্য ছাড়া আপনার সিস্টেমকে কীভাবে পরীক্ষা করবেন? কোন (পরিমাপের) পদক্ষেপগুলি সুস্পষ্ট নৈতিক অ্যালগরিদমের প্রসঙ্গে বোঝায়? তা ছাড়া আপনার কাছে সিস্টেমের তুলনা করার কোনও উপায় নেই, যা ক্ষেত্রে অগ্রগতি সীমাবদ্ধ করে।
সুজান

1

স্বজ্ঞাতভাবে বলতে গেলে, এটি এআই নীতিশাস্ত্র বাস্তবায়নের বিষয়ে খুব কম গবেষণা হয়েছে বলে মনে হচ্ছে কারণ:

  1. সামগ্রিকভাবে সমাজটি স্বাচ্ছন্দ্যের সাথে একমত হয় যে মেশিন বুদ্ধিমত্তার বর্তমান অবস্থা এটিকে সচেতন বা সংবেদনশীল হিসাবে বিবেচনা করার পক্ষে যথেষ্ট শক্তিশালী নয়। সুতরাং আমাদের এটিকে নৈতিক অধিকার দেওয়ার প্রয়োজন নেই (এখনও)।

  2. প্রোগ্রামে নৈতিক আচরণের প্রয়োগের জন্য কম্পিউটারগুলির "অর্থ" ব্যাখ্যা করতে সক্ষম হওয়ার জন্য একটি পদ্ধতি প্রয়োজন, যা আমরা কীভাবে করব তা এখনও জানি না।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.