অসিমভের আইনগুলি কি ডিজাইনের দ্বারা ত্রুটিযুক্ত, বা সেগুলি বাস্তবে সম্ভব?


19

আইজাক অসিমভের রোবোটিক্সের বিখ্যাত তিনটি আইন অসমভের বিজ্ঞান কল্পকাহিনীর প্রসঙ্গে উদ্ভূত হয়েছিল। সেই গল্পগুলিতে, অকাল বা হেরফের হওয়া পরিস্থিতি বিপর্যয় ছড়িয়ে পড়ার জন্য এই তিনটি আইন একটি সুরক্ষার ব্যবস্থা হিসাবে কাজ করে।

প্রায়শই না এর চেয়েও বেশি, অসীমভের আখ্যানগুলি সেগুলি ভেঙে ফেলার একটি উপায় খুঁজে বের করে এবং লেখককে তাদের আইনগুলিতে বিভিন্ন পরিবর্তন করতে পরিচালিত করে। উদাহরণস্বরূপ, তাঁর কয়েকটি গল্পে তিনি প্রথম আইন সংশোধন করেছেন , একটি চতুর্থ (বা জেরোথ) আইন যুক্ত করেছেন , বা এমনকি সমস্ত আইন সম্পূর্ণরূপে সরিয়ে দিয়েছেন

তবে তর্ক করা সহজ যে জনপ্রিয় সংস্কৃতিতে এবং এমনকি এআই গবেষণার ক্ষেত্রেও রোবোটিক্সের আইনগুলি যথেষ্ট গুরুত্ব সহকারে নেওয়া হয়। আইনের বিভিন্ন, বিষয়গত এবং পারস্পরিক-এক্সক্লুসিভ ব্যাখ্যার পার্শ্ব সমস্যাটিকে উপেক্ষা করে, আইনগুলি কী তাদের নিজস্ব নকশা দ্বারা স্বতঃস্ফূর্তভাবে ত্রুটিযুক্ত প্রমাণিত করেছে, বা, বাস্তবে ব্যবহারের জন্য যথেষ্ট শক্তিশালী? তেমনি, আরও উন্নততর, কঠোর সুরক্ষা হিউরিস্টিকস সেটটির জন্য ডিজাইন করা হয়েছে?


কিলবট হেলস্কেপ থেকে সাবধান! xkcd.com/1613
NietzscheanAI

আমরা এই সম্ভাবনাটি ভুলে যাই না: xkcd.com/1450
dinrepsys

আলোচনা শুরু করার জন্য অসীমভের আইনগুলি একটি ছোট্ট প্রচেষ্টা। আরও গভীরভাবে আলোচনার জন্য, নিক বোস্ট্রামের "সুপারইন্টেয়েলেশন" পড়ুন - এটি বর্তমান জ্ঞান এবং বোঝার উপর ভিত্তি করে ততই বিস্তৃত।
ফ্লোরিন আন্দ্রেই

উত্তর:


12

আসিমভের আইনগুলি বাস্তবে ব্যবহার করার মতো শক্তিশালী নয়। শক্তি এমনকি বিবেচনা করা হয় না, যেহেতু তারা ইংরেজী শব্দের সাথে রচিত হয় প্রথমে বিষয়টির ব্যাখ্যা করতে হবে যেহেতু কোনও অর্থ পেতে পারে। আপনি এখানে একটি ভাল আলোচনা খুঁজে পেতে পারেন ।

একটি অংশ প্রতিলিপি করতে:

আপনি এই জিনিসগুলি কীভাবে সংজ্ঞায়িত করবেন? প্রথমে প্রায় প্রতিটি ইস্যুতে স্ট্যান্ড না নিয়ে আপনি কীভাবে "মানব" সংজ্ঞা দেন? এবং যদি "মানব" যথেষ্ট কঠিন না হয়, তবে আপনাকে "ক্ষতি" সংজ্ঞায়িত করতে হবে এবং আপনি আবার একই সমস্যা পেয়েছেন। এই শব্দগুলির জন্য আপনি যে কোনও সত্যই দৃ un় দ্ব্যর্থহীন সংজ্ঞা দেন human যা মানুষের অন্তর্নিজ্ঞানের উপর নির্ভর করে না philosophy এর ফলে দর্শনের অদ্ভুত স্ফূরণ ঘটে, আপনার এআই এমন কিছু করে যা আপনি সত্যিই এটি করতে চান না।

সহজেই ধারণা করা যায় যে অসিমভ এটি জানার জন্য যথেষ্ট স্মার্ট এবং রিয়েল-ওয়ার্ল্ড এআই নিয়ন্ত্রণ প্রোটোকল ডিজাইনের চেয়ে গল্প লেখায় আগ্রহী in

নিউরোমান্সার উপন্যাসে , পরামর্শ দেওয়া হয়েছিল যে এআইরা সম্ভবত একে অপরের বিরুদ্ধে চেক হিসাবে কাজ করতে পারে। রে কুর্জভিলের আসন্ন এককত্ব বা অন্যথায় হাইপারআইন্টেজেলেট এজিআই হওয়ার সম্ভাবনা সম্ভবত এআইগুলিকে নিয়ন্ত্রণ করার জন্য মানুষের পক্ষে খুব একটা সম্ভাবনা ছেড়ে যায় না, পিয়ার-রেগুলেশনকে একমাত্র সম্ভাব্য সম্ভাবনা হিসাবে ফেলে দেয়।

এটি লক্ষণীয় যে এলিজার ইউদকোভস্কি এবং অন্যরা একটি পরীক্ষা চালিয়েছিলেন যার মধ্যে ইউদকভস্কি কথা বলার ক্ষমতা নিয়ে একটি সুপারইনট্রেজেন্ট এআইয়ের ভূমিকা পালন করেছিলেন তবে লকড বাক্সের বাইরে অন্য কোনও সংযোগ নেই। চ্যালেঞ্জারদের এআইকে বাক্সে রাখার জন্য সমস্ত মূল্যেই দায়িত্ব দেওয়া হয়েছিল। যুডকোভস্কি দু'বার পালিয়ে গিয়েছিলেন।


আপনি কি জানেন যে ইউডকভস্কি পরীক্ষাগুলির কোনও প্রতিলিপি কখন প্রকাশিত হয়েছিল? আপনি যে লিঙ্কটি দিয়েছেন (এবং ইমেলটি এটির পরে লিঙ্ক করে) একটি সরবরাহ করে বলে মনে হয় না।
নিটসেচানআইএআই

@ ইউজার 217281728 না, আমি এটি সন্ধান করেছি তবে মনে হচ্ছে এটি সে রাখছে, অর্থাৎ তার কৌশলটি আবারও এটি করার সম্ভাবনা বজায় রাখার জন্য মোড়াচ্ছে। তিনি কী বলেছিলেন এবং আমি কেন এটি মনে করি সে সম্পর্কে আমার কিছু ধারণা রয়েছে, আপনি যদি আমাকে ডিএম করেন তবে আমি ভাগ করে নিতে পেরে খুশি হব।
ডাইনারেপসিস

আমি এখন এটি করেছি।
নিটসেচানআইএআই

আমি এই ধারণার অধীনে রয়েছি যে অসিমভ এটি জানার জন্য যথেষ্ট স্মার্ট, তবে মূল বিষয়টি ছিল সহজ নিয়মগুলি কার্যকর হয় না। নেতিবাচক উদাহরণগুলি নির্দেশ করে ("আপনি এটি কেবল লোকের ক্ষতি না করার জন্য বলতে পারবেন না, এটি কাজ করবে না") দরকারী সত্য-বিশ্বের এআই নিয়ন্ত্রণ কাজটি তার নিজের পক্ষে কার্যকর।
ম্যাথু গ্রেভস

2

অসীমভ তিনটি আইন বিশেষত প্রমাণ করার জন্য তৈরি করেছিলেন যে তারা প্রথমে যতটা যুক্তিসঙ্গত মনে হোক না কেন, যথেষ্ট নয়। আমি এমন একটি লোককে জানি যে লোকটিকে চিনত এবং সে এটি নিশ্চিত করে।


2
"আমি এমন একটি ছেলেকে জানি যারা ছেলেটিকে চিনত" ... আপনার কাছে কি আরও কিছু নির্ভরযোগ্য উত্স নেই? আমি আপনার উত্তর নিয়ে সন্দেহ করছি না, তবে অবশ্যই ইতিমধ্যে বিষয়টি সম্পর্কে একটি যথাযথ উদ্ধৃতি উপস্থিত থাকা উচিত।
3442

তাঁর নাম ছিল বেন উইলিয়ামস। এই গুগল প্লাস পোস্ট যেখানে তিনি আসিমভ থ্রি আইন সম্পর্কে তার মতামত বর্ণিত হয় plus.google.com/+JohnNewmanIII/posts/HeTnPdhaY9p
Doxosophoi

0

অসিমভের রোবোটিক্সের প্রথম আইনটি বিবেচনা করুন:

একটি রোবট কোনও মানুষকে আঘাত করতে পারে না বা নিষ্ক্রিয়তার মাধ্যমে কোনও মানুষকে ক্ষতি করতে দেয় না।

গাড়ি চালানোর গাড়ি বিবেচনায় নেওয়ার সময় আইনটি ইতিমধ্যে সমস্যাযুক্ত।

এখানে কি সমস্যা, আপনি জিজ্ঞাসা? ঠিক আছে, আপনি সম্ভবত নৈতিকতার ক্ষেত্রে ট্রলির সমস্যা হিসাবে পরিচিত ক্লাসিক চিন্তার পরীক্ষার সাথে পরিচিত হবেন । সমস্যার সাধারণ রূপটি হ'ল:

ট্রলি সরাসরি তাদের দিকে এগিয়ে চলেছে। আপনি ট্রেনের উঠানে কিছুটা দূরে দাঁড়িয়ে আছেন, একটি লিভারের পাশে। আপনি যদি এই লিভারটি টানেন, ট্রলিটি ট্র্যাকের বিভিন্ন সেটটিতে স্যুইচ করবে। তবে, আপনি লক্ষ্য করেছেন যে পাশের ট্র্যাকের একজন ব্যক্তি রয়েছেন। আপনার দুটি বিকল্প রয়েছে: (1) কিছুই করবেন না, এবং ট্রলিটি মূল ট্র্যাকের পাঁচ জনকে হত্যা করেছে। (২) লিভারটি টানুন, ট্রলিটি পাশের ট্র্যাকের দিকে ঘুরিয়ে ফেলুন যেখানে এটি একজন ব্যক্তিকে মেরে ফেলবে। কোনটি সঠিক পছন্দ?

উত্স: উইকিপিডিয়া

স্ব-ড্রাইভিং গাড়িগুলি আসলে ট্রলির সমস্যার ক্ষেত্রে বাস্তব জীবনের বিভিন্নতা বাস্তবায়ন করতে হবে, যার মূল অর্থ হ'ল মানুষকে মেরে ফেলার জন্য স্ব-ড্রাইভিং গাড়িগুলি প্রোগ্রাম করার দরকার

অবশ্যই এর অর্থ এই নয় যে সমস্ত রোবটকে হত্যা করার জন্য প্রোগ্রাম করা দরকার, তবে স্ব-ড্রাইভিং গাড়িগুলি এক ধরণের রোবোটের একটি ভাল উদাহরণ যা তা করবে।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.