শিশুরা মারধর রোবটকে নতুন পালানোর কৌশলটি অনুপ্রেরণা জাগায় নিবন্ধটি একটি জাপানি মলে একটি গবেষণা সম্পর্কে দুটি গবেষণা গবেষণাপত্রের উপর ভিত্তি করে তৈরি করা হয়েছে যা নিরীক্ষণপ্রাপ্ত বাচ্চাদের রোবটে আক্রমণ করতে পরিচালিত করেছিল। আপনার যে গবেষণামূলক গবেষণার প্রতি আগ্রহী তা হ'ল চিলড্রেনস অ্যাবিউজ অফ সোশ্যাল রোবট থেকে পালানো ।
গবেষণামূলক গবেষণাপত্রে, গবেষকরা শিশুদের দ্বারা নির্যাতনের সম্ভাবনা হ্রাস করার জন্য একটি পরিকল্পনা অনুকরণ অনুসরণ করতে রোবটগুলিকে প্রোগ্রাম করতে সক্ষম হন। যদি এটি শিশুদের সনাক্ত করে, তবে রোবটটি প্রাপ্তবয়স্কদের ভিড়ের পিছনে ফিরে যাওয়ার প্রোগ্রাম করা হয়েছিল (যারা তখন প্রয়োজনে বাচ্চাদের শাসন করতে পারে)। এটি ঘটেছে কারণ গবেষকরা দেখেছেন যে এটি কেবলমাত্র শিশুরা যারা প্রশ্নোত্তর মলে রোবটকে মারধর করছে।
তারা অন্য বিকল্পগুলি চেষ্টা করে দেখুন যদিও:
এই কাজে রোবটের কৌশলটি অপব্যবহার রোধের কৌশলটি ছিল "পালানো", অর্থাত্ এমন কোনও জায়গায় চলে যাওয়া যেখানে এটির সম্ভাবনা কম থাকে। কেউ জিজ্ঞাসা করতে পারে যে রোবট কেন অপব্যবহারকে কাটিয়ে উঠতে পারে না। আমাদের প্রাথমিক পরীক্ষায় আমরা বেশ কয়েকটি পদ্ধতির চেষ্টা করেছি, কিন্তু আমরা দেখেছি যে রোবটের পক্ষে শিশুদের এটির অপব্যবহার না করার জন্য প্ররোচিত করা খুব কঠিন। উদাহরণস্বরূপ, আমরা শক্তিশালী শব্দ, সংবেদনশীল বা ভদ্র ভাবগুলি ব্যবহার করে বিভিন্ন উপায়ে রোবটের শব্দগুলিকে পরিবর্তন করেছি, কিন্তু এর মধ্যে কোনওটিই সফল হয়নি। একটি আংশিক সফল কৌশল ছিল রোবট শিশুদের 'শারীরিকভাবে' চাপ দেওয়া। যখন এর পথটি অবরুদ্ধ করা হয়েছিল, তখন এটি কেবল চালিয়ে যাওয়ার চেষ্টা করবে এবং এমন আচরণ করবে যেন এটি শিশুদের মধ্যে সংঘর্ষিত হয় এবং তার পথে যেতে বাধ্য করে (কোনও মানব অপারেটরের সতর্কতা অবলম্বনে)। আমরা লক্ষ্য করেছি যে বাচ্চারা প্রথমে রোবটের অনুরোধগুলি গ্রহণ করেছিল এবং সেগুলি মান্য করে; কিন্তু, খুব শীঘ্রই তারা জানতে পেরেছিল যে তারা রোবোটের চেয়ে শক্তিশালী তাই তারা যদি চাপ দেয় তবে তারা জিততে পারে এবং তারা বাম্পার সুইচটি (সুরক্ষার জন্য রোবোটের সাথে সংযুক্ত) চাপিয়ে এটি থামাতে পারে। এটি উপলব্ধি করার পরে, তারা কেবল অবমাননাকর আচরণ অব্যাহত রেখেছে। স্পষ্টতই একটি শক্তিশালী রোবট থাকা সুরক্ষা এবং সামাজিক গ্রহণযোগ্যতার জন্য একটি সমস্যা তৈরি করবে সুতরাং এই জাতীয় আপত্তিজনক পরিস্থিতির সাথে মোকাবিলা করা আরও কঠিন।
তবে আসুন আপনার প্রশ্ন আরও জিজ্ঞাসাবাদ করা যাক:
সচেতন এআই যদি সম্ভব হয় এবং এটি ব্যাপকভাবে ছড়িয়ে পড়ে, তবে যে এআই জানেন যে তারা এআইকে নির্যাতনের জন্য কী করছে তার পক্ষে কি সহজ হবে না?
আপনি কেন এই ধরনের নির্যাতনকে ভুল বলে মনে করবেন ? সর্বোপরি, কেউ যুক্তি দিতে পারে যে যন্ত্রটি যদি আপনি নির্যাতন করে থাকেন তবে যন্ত্রটি সত্যই 'অভিজ্ঞতা' করবে না ... সুতরাং মেশিনটিকে অত্যাচার করা নৈতিকভাবে ঠিক হওয়া উচিত। তা মানবে হতে পারে যদি এটি ব্যাথা, কিন্তু এটা সন্দেহজনক ক্ষমতা যেমন একটি মানসিক অবস্থা সিমুলেট করা হবে কিনা তা "-এর ব্যথা হচ্ছে" আসলে সমতূল্য হচ্ছে যে মানসিক অবস্থা হবে। প্রশ্নটি দেখুন সংবেদনশীল রাষ্ট্রগুলির অনুকরণটি আসলে আবেগ অনুভবের সমান? এই বিষয়ে আরও আলোচনার জন্য।
আপনি এই জাতীয় যুক্তি তুলতে পারেন, তবে এটি সত্যিই কোনও আবেগের স্তরে কাজ করবে না কারণ বেশিরভাগ মানুষ মেশিনের প্রতি সহানুভূতি বোধ করবে । এটি যৌক্তিকভাবে ন্যায়সঙ্গত করা কঠিন হতে পারে (এবং এটি নৃতত্ত্ববাদে জড়িত মানুষের প্রবণতাগুলির উপর ভিত্তি করে ) তবে আমরা এই সহানুভূতি অনুভব করি। এই সহানুভূতির কারণেই আপনি প্রথম এই প্রশ্নটি জিজ্ঞাসা করেছিলেন, গবেষকরা কীভাবে কোনও রোবটকে মারধর থেকে রক্ষা করতে পারেন তা বুঝতে পেরেছিলেন, পুলিশ অফিসারদেরকে একটি সফটব্যাঙ্ক রোবোটকে মারধর করার জন্য মাতাল জাপানি একজনকে গ্রেপ্তার করতে সক্ষম করেছিল এবং বহু মানুষকে তৈরি করেছিল হিচবিওটি ধ্বংসের জন্য বিচলিত । এবং এটিএআই এর অপব্যবহার কীভাবে এড়ানো হবে - মানবিক সহানুভূতি। যদি বেশিরভাগ মানুষ মেশিনগুলির কল্যাণ সম্পর্কে চিন্তা করে তবে তারা এই কয়েকজন মানুষকে বন্ধ করতে অগ্রাধিকার দেবে যারা মেশিনগুলির অপব্যবহার করতে সক্ষম এবং ইচ্ছুক।
সম্পাদনা: ওপো তার প্রশ্নটি সম্পাদন করে স্পষ্ট করে দিতে যে তিনি সফটওয়্যার নিয়ে কথা বলছেন , রোবট সম্পর্কে নয়। রোবটগুলির জন্য, আপনি কিছু স্তরের সহানুভূতি তৈরি করতে নৃবিজ্ঞানের উপর নির্ভর করতে পারেন, তবে কোডের কাঁচা লাইনের সাথে সহানুভূতি পাওয়া শক্ত hard
আপনি অ্যালগরিদমের অপব্যবহার বন্ধ করতে যাচ্ছেন না। এটিকে খোলামেলাভাবে বলুন, যেহেতু অ্যালগরিদমগুলি আমাদের মতো নয়, আমরা রোবটগুলির প্রতি সমান সহানুভূতি বাড়িয়ে তুলব না। এমনকি চ্যাটবটগুলি কিণ্ডা ইফিউফ হয়। যদি আপনি লোককে কোডের রেখাগুলির সাথে সহানুভূতি জানাতে পারেন (সম্ভবত আবেগ এবং নীতির দৃ conv়প্রত্যয়ী সিমুলেশন তৈরি করে) তবে উপরের উত্তরটি প্রযোজ্য - মানুষ মেশিনকে অ্যানথ্রোপমোরাইফাইজ করে এবং পাল্টা ব্যবস্থা নিয়ে আসবে। আমরা এখনও সেই স্তরটি না, সুতরাং "এআই এর অপব্যবহার বন্ধ করা" একটি নিম্ন অগ্রাধিকার হবে।
তবুও, কিছু ফেইলসফেস অপব্যবহারের ক্ষতির পরিমাণ সীমাবদ্ধ করার জন্য প্রোগ্রাম করা যেতে পারে, যেমন চ্যাটবোটের অপব্যবহারের বিষয়ে এই থ্রেডে বর্ণিত - বটটি বিরক্তিকরভাবে প্রতিক্রিয়া জানানোর জন্য গালাগালিটিকে বিরক্তিকর বোধ করতে এবং পরবর্তী লক্ষ্যবস্তুতে নিয়ে যেতে, গালাগালীর প্রতি প্রতিক্রিয়া জানান "উইটসের যুদ্ধ" বা এমনকি অপব্যবহারকারীদের পরিষেবাটি ব্যবহার করা থেকে বিরত রাখতে।
এই ব্যর্থতাগুলি তাদের জন্য শীতল স্বাচ্ছন্দ্য যারা অপব্যবহার রোধ করতে চায় , তাতে সাড়া দেয় না।
এছাড়াও ... একজন অপব্যবহারকারী আনন্দের সাথে শিখতে পারেন কীভাবে কোনও এআই প্রোগ্রাম করতে হয় তার নিজের হৃদয়ের বিষয়বস্তুতে অপব্যবহার করতে। এটিকে থামানোর জন্য কিছুই করা যায় না এবং বলা হয় অপব্যবহার বন্ধ করার যে কোনও সম্ভাব্য পদক্ষেপ (যেমন প্রতিটি মানুষ পর্যবেক্ষণ করে তারা নিশ্চিত করে যে তারা কোনও এআই-এর সাথে দুষ্কৃতী করার পরিকল্পনা করে না) এটি সমাধানের চেয়ে বেশি ক্ষতি হতে পারে।