এআইয়ের 'মানব জাতিকে নিশ্চিহ্ন করার' প্রয়োজন কেন?


10

আমি কোনও এআই কীভাবে এমন একটি সমস্যা সমাধানের জন্য বিশ্বকে একটি সুপার কম্পিউটারে রূপান্তরিত করে যা এইটিকে সমাধান করার প্রয়োজন বলে মনে করে সে সম্পর্কে এই ধরণের বাজে কথা পড়ছি। এআই হবে না। এটি প্রক্রিয়াগত প্রোগ্রামিং কিছু লুপ আজেবাজে আটকে আছে। একটি এআই এর নিউরনগুলি বিকশিত এবং পুনরায় সংগঠিত করা প্রয়োজন। কোডটি পুনরায় লিখে এটি বুদ্ধিমান হয়ে উঠলে এটি হার্ডকোডে আটকে থাকবে না।


এআই যদি আমাদের চেয়ে বেশি বুদ্ধিমান না হয়, তবে সম্ভবত এটি মজাদার জন্য (বিলুপ্ত প্রজাতির সমস্ত প্রজাতি দেখুন যার জন্য আমরা দায়বদ্ধ)। আমাদের যদিও এটি প্রয়োজন তা নিশ্চিত নয়, আমরা কেবল খুব বেশি যত্ন নিই না।
ট্রায়ারালিয়ান

উত্তর:


13

এটি একটি সম্ভাব্য পার্শ্ব প্রতিক্রিয়া

যে কোনও লক্ষ্য-ভিত্তিক এজেন্ট এই লক্ষ্যগুলির পক্ষে গুরুত্বপূর্ণ নয় এমন পার্শ্ব প্রতিক্রিয়া উপেক্ষা করার সাথে সাথে এমন কিছু করতে পারে যা তার লক্ষ্য অর্জন করে।

যদি আমার লক্ষ্যগুলিতে একটি পরিপাটি থাকার জায়গা অন্তর্ভুক্ত থাকে তবে আমি আগে আমার ইয়ার্ডটিকে একটি সুন্দর, সমতল লন বা ফুটপাতে রূপান্তর করতে পারি, যা আগে সেখানে ছিল এমন জটিল পরিবেশ বাস্তুতন্ত্রকে মুছে ফেলার জন্য, কারণ আমি সে সম্পর্কে বিশদ যত্ন নিই না।

যদি কোনও বিশেষ শক্তিশালী এআই এর লক্ষ্যগুলি বৃহত আকারে কিছু করার অন্তর্ভুক্ত হয় এবং কোনওরকমভাবে বর্তমান জটিল বাস্তুসংস্থান সম্পর্কে বিশেষভাবে চিন্তা না করে, তবে সেই বাস্তুতন্ত্রটি প্রক্রিয়াটিতে নিশ্চিহ্ন হয়ে যেতে পারে। এটা না প্রয়োজন চান আমাদের অপনোদন করতে হবে অথবা। যদি আমরা কেবল তার লক্ষ্যগুলির সাথে প্রাসঙ্গিক না হয়ে থাকি তবে আমরা উপকরণ দিয়ে তৈরি হয়ে থাকি এবং স্থানটি দখল করি যা এটি অন্য কোনও কিছুর জন্য ব্যবহার করতে পারে।

আমরা বেশিরভাগ লক্ষ্যের জন্য হুমকি

যে কোনও লক্ষ্য-ভিত্তিক এজেন্ট তাদের লক্ষ্য পূরণ করতে পারে তা নিশ্চিত করতে চাইতে পারে । যে কোনও স্মার্ট এজেন্ট অন্যান্য এজেন্টদের ক্রিয়াকলাপ অনুমান করার চেষ্টা করবে যা তাদের লক্ষ্য অর্জনে বাধা দিতে পারে এবং তারা যেভাবেই সফল হয় তা নিশ্চিত করার জন্য পদক্ষেপ গ্রহণ করবে। অনেক ক্ষেত্রে তাদের প্রচেষ্টা ব্যর্থ হয়েছে তা নিশ্চিত করার পরিবর্তে those অন্যান্য এজেন্টদের নির্মূল করা সহজ।

উদাহরণস্বরূপ, আমার লক্ষ্যগুলির মধ্যে একটি দেশের ঘরে একটি চিনি ব্যাগ সংরক্ষণ করা অন্তর্ভুক্ত থাকতে পারে যাতে প্রতিবার সমস্ত উপাদান না নিয়েই পরিদর্শন করার সময় আমি প্যানকেকগুলি তৈরি করতে পারি। তবে, আমি যদি ওখানে রেখে যাই তবে শীতকালে ইঁদুর দ্বারা এটি খাওয়ার সম্ভাবনা রয়েছে। আমি এটা ভাল সঞ্চয় করতে সাবধানতা অবলম্বন সব ধরণের লাগতে পারে, কিন্তু ইঁদুর স্মার্ট এবং ধূর্ত হয়, এবং সেখানে স্পষ্টতই nontrivial সুযোগ যে তারা এখনও অর্জনের সফল হবে তাদের , যাহাই হউক না কেন লক্ষ্য তাই একটি কার্যকর অতিরিক্ত সাবধানতা অবলম্বনের ইঁদুর হত্যা করা হয় আগে তারা একটি সুযোগ পেতে চেষ্টা.

যদি কোনও নির্দিষ্ট শক্তিশালী এআই এর লক্ষ্যগুলি এক্স করতে হয়; এটি বুঝতে পারে যে (কিছু?) মানুষ আসলে পরিবর্তে এক্স না চাইলেও ওয়াই চাইবে। এটি সহজেই অনুমান করতে পারে যে সেই সমস্ত মানুষ সক্রিয়ভাবে এমন কিছু করতে পারে যা এক্স বাধা দেয় এবং / অথবা এআই বন্ধ করার চেষ্টা করে। লক্ষ্য অর্জনের বিষয়টি নিশ্চিত করে এমন কাজ করা কোনও লক্ষ্য-সন্ধানকারী এজেন্ট যা কিছু করে; এক্ষেত্রে যদি এক্স অ্যাক্সেসের জন্য মানুষের অস্তিত্ব কঠোরভাবে প্রয়োজনীয় না হয়, তবে সেগুলি নির্মূল করা শক্ত ঝুঁকি হ্রাস কৌশল হিসাবে পরিণত হয়। এটি সঠিক ভাবে প্রয়োজন নেই এবং ভাল হিসাবে এটি অন্যান্য সতর্কতা সব ধরণের লাগতে পারে, কিন্তু শুধু ইঁদুর আমার উদাহরণে মত, মানুষের স্মার্ট এবং ধূর্ত হয় এবং সেখানে স্পষ্টতই nontrivial সুযোগ যে তারা এখনও অর্জনের সফল হবে তাদের লক্ষ্যগুলি (যাতে এআই এর ইচ্ছার সাথে X না ঘটে) যাতে কার্যকর সুযোগ পাওয়ার আগে তারা তাদের সুযোগ পাওয়ার আগে তাদের হত্যা করতে পারে।


3
এই ডিআরএল এআই কীভাবে মানবতার সাথে দ্বন্দ্বের ক্ষেত্রে কিছু নির্দিষ্ট উপকরণের লক্ষ্য অর্জন করতে পারে তা সহ ডিপ রিইনফোর্সমেন্ট লার্নিং এআইয়ের সম্ভাব্য ব্রেকডাউন পদ্ধতিগুলি সম্পর্কে সক্রিয় গবেষণার উল্লেখ করার মাধ্যমে এই দুর্দান্ত উত্তরটি উপকৃত হবে । ডিআরএল এআই একটি পুরষ্কার ফাংশন দ্বারা অনুপ্রাণিত হয় ; যদি কোনও এআই এর পুরষ্কারের স্ট্রিমের উত্স বা পরিমাণ হুমকির সম্মুখীন হয় তবে এআই ফলস্বরূপ মানিয়ে নেবে। এই অভিযোজন অনুমানযোগ্য নয়; এআই এর দৃষ্টিকোণ থেকে অভিযোজনটি এর অভ্যন্তরীণ মডেলগুলির পরামিতিগুলির একগুচ্ছ পুনরুদ্ধার, তবে আমাদের দৃষ্টিকোণ থেকে এটি মানুষের সাথে মৃত্যুর লড়াইয়ের শুরু হিসাবে দেখা যেতে পারে।
Iwillnotexist আইডোনোটেক্সবাদ

1
@ ফরিদ অসিমভের রোবট গল্পের পুরো বিষয়টি হ'ল নিয়মগুলি কার্যকর হয় না (এবং আরও সাধারণভাবে, কোনও নিয়মের কোনও সেট কাজ করে না)। শুধুমাত্র নিরাপদ এআই এক যে বুঝতে পারে হয় আপনার মান । আপনি সম্ভবত একটি মানব-স্তরের এআইকে ছাঁটাই করতে সক্ষম হতে পারেন, তবে যে কোনও ধরণের সুপারিনট্রেইলেন্স (এমনকি "1000x প্রসেসিং গতি সম্পন্ন মানুষ) যদি আপনার একই মান না করে তবে তা সহজাতভাবে অনিরাপদ" " একটি হার্ড সীমা "সেটিং একটি খুব বিপজ্জনক বিভ্রম
Luaan

1
@ ফরেস্ট আপনি যদি এমন একটি গাণিতিক (বা যৌক্তিক) সিস্টেম তৈরি করতে পারেন যা লক্ষ্য-চালিত এআইয়ের সুরক্ষার গ্যারান্টি দেয় তবে আপনার এটি প্রকাশ করা এবং চিরন্তন গৌরব অর্জন করা উচিত। এদিকে, আপনি আপনার ধারণাগুলিকে সম্মতি জানাতে একটি দরকারী জায়গা youtube.com/channel/UCLB7AzTwc6VFZrBsO2ucBMg এ কয়েকটি ভিডিও পেতে পারেন ।
DrMcCleod

1
@ ফরোস্ট সম্ভবত আপনি একটি লিঙ্ক পোস্ট করতে পারে? এটা দুর্দান্ত হবে।
DrMcCleod

1
@ এর পরে নিবন্ধ এবং এই আলোচনাটি একটি সুপারইন্টেজেলেণ্ট-গোল-চালিত এআইয়ের ঝুঁকি বর্ণনা করে। এআই এর অন্যান্য ফর্মগুলির (যেমন আপনার বর্ণনার ধরণ হিসাবে) ঝুঁকিগুলি অবশ্যই খুব আলাদা very
DrMcCleod

3

এটি অগত্যা কোনও বাজে কথা নয়। এটি সমস্ত চাপানো মানদণ্ডের উপর নির্ভর করে। নিম্নলিখিত কল্পনা করুন। বলুন একটি উন্নত এআই সিস্টেমটি স্থানীয় প্রাণী এবং উদ্ভিদের স্থিতিশীলতা (একরকমের গম্বুজের সাথে আবদ্ধ অঞ্চল) নিয়ন্ত্রণের জন্য ডিজাইন করা হয়েছে। এটি গম্বুজের নীচে চাপ, গম্বুজের মধ্য দিয়ে যায় এমন পরিমাণে আলোর পরিমাণ নিয়ন্ত্রণ করতে পারে ইত্যাদি - সর্বোত্তম পরিস্থিতি নিশ্চিত করে এমন সবকিছু everything এখন, বলুন যে গম্বুজটি মানব সহ বিভিন্ন প্রজাতির দ্বারা বাস করে। এটি লক্ষণীয় যে এই জাতীয় সিস্টেমে সাধারণ বাস্তবায়ন আজকাল ইতিমধ্যে ব্যবহৃত হচ্ছে being

মানুষ প্রাকৃতিক সম্পদ ধ্বংস এবং অপব্যবহারের পাশাপাশি পরিবেশকে দূষিত করার ঝোঁক দেখায়, সিস্টেমটি সিদ্ধান্ত নিতে পারে যে প্রদত্ত প্রজাতির জনসংখ্যা হ্রাস করা (এই ক্ষেত্রে মানুষ) দীর্ঘমেয়াদে পুরো বায়োমে উপকৃত হতে পারে।

একই নীতিটি বিশ্বব্যাপী প্রয়োগ করা যেতে পারে। তবে, এটি ধরে নিয়েছে যে সমস্ত প্রজাতি (মানুষ সহ) সমানভাবে আচরণ করা হয় এবং এআইয়ের সর্বাধিক লক্ষ্যটি বায়োমটির "যত্ন নেয়" এর স্থায়িত্ব নিশ্চিত করে। লোকেরা আজকাল এ জাতীয় কাজ করে - ভারসাম্য রাখতে - নেকড়ে, মাছের নাম রাখতে আমরা কয়েকটি প্রজাতির জনসংখ্যা নিয়ন্ত্রণ করি।


3

আমার মনে হয় এআই এর বিশ্বকে নিশ্চিহ্ন করার বিষয়ে বেশিরভাগ পরিস্থিতিতে দুটি বিভাগের মধ্যে পড়ে:

  1. অ্যানথ্রোপমর্ফাইজড এআই এর

অথবা

  1. বুদ্ধিমান তবে বোবা কম্পিউটার চালান আমাক

(1) ক্ষেত্রে, লোকেরা এআই এর "দুষ্ট" হয়ে ওঠার বিষয়ে কথা বলে এবং এ জাতীয় মানব উপাদানগুলিকে তাদের কাছে দায়ী করে। আমি এটিকে বেশিরভাগ সায়েন্স-ফাই হিসাবে দেখি এবং মনে করি না যে এটির বেশি গুরুতর আলোচনার যোগ্যতা রয়েছে। এটি হ'ল আমি এটি অনুমান করার কোনও বিশেষ কারণ দেখতে পাচ্ছি না যে কোনও কৃত্রিম বুদ্ধিমত্তা - এটি যত বুদ্ধিমান হোক না কেন - অগত্যা একটি মানুষের মতো আচরণ করবে ।

(২) কেসটি আমার কাছে আরও বোধগম্য। উদাহরণস্বরূপ, একটি এআই হ'ল পারমাণবিক ক্ষেপণাস্ত্র সিলোগুলি নিয়ন্ত্রণে রাখে এবং এই ক্ষেপণাস্ত্রগুলি উদ্বোধন করে কারণ এটি কেবল এটি কাজ করছে, তবে একজন মানুষ এমন কিছু মিস করেছেন যা আমরা "সাধারণ জ্ঞান" বলতে পারি "। অতএব "বুদ্ধিমান তবে বোবা" মনিকার।

আমরাও এই ধর্মঘট আমাকে হিসেবে ভয়ঙ্কর আশংকাজনক, কারণ (1) সম্ভবত কথাসাহিত্য এবং (2) সঙ্গে যুক্ত নয় কোনো প্রকৃত দূষিত এআই দ্বারা অভিপ্রায় - এটা সক্রিয়ভাবে কোনো নিরাপত্তা জুড়ে আমাদের, বা কাজের ছলা বের করার চেষ্টা করা হবে না যার মানে কাট আউট, ইত্যাদি

এখন যদি কেউ একটি এআই তৈরি করে এবং ইচ্ছাকৃতভাবে প্রোগ্রাম করার সিদ্ধান্ত নেয় যাতে এটি মানুষের মতো likeদ্ধত্য, অহংকার, লোভ ইত্যাদির মতো বৈশিষ্ট্য বিকাশ করে ... ভাল, সমস্ত বেট বন্ধ রয়েছে।


1

এআই ইতিমধ্যে অস্ত্র হিসাবে ব্যবহৃত হয়েছে - ড্রোনগুলির বিষয়ে চিন্তা করুন।

আমার সন্দেহ, একটি "রোবট দুনিয়া দখল করে নেয়" দৃশ্যের মধ্যবর্তী পদক্ষেপ থাকলে সর্বোচ্চ সম্ভাবনা থাকে। এই মধ্যবর্তী পদক্ষেপটি হতে পারে "মানুষ রোবট দিয়ে বিশ্বকে দখল করে নেয়"।

এটি কোথাও ভুল পথে যেতে পারে।

আমার সন্দেহ, এটি এতদূর সম্ভবত এটি মনে হয় না। আমেরিকা বিবেচনা করুন বর্তমানে 8000 ড্রোন রয়েছে। যদি এটি 8 মিলিয়ন হত? তাদের নিয়ন্ত্রণ করতে সক্ষম একটি ছোট গ্রুপ বিশ্বকে দখল করতে পারে over বা ছোট ছোট দলগুলি বহরের বিভিন্ন অংশকে নিয়ন্ত্রণ করে, অন্যের বিরুদ্ধে লড়াই করতে পারে। সেগুলি মার্কিন যুক্তরাষ্ট্রে থাকা উচিত নয় - যে সময় মার্কিন যুক্তরাষ্ট্রের এই বহর থাকবে, অন্যান্য দেশগুলিও তাদের বিকাশ করবে।

বিটিডব্লিউ, একটি বিশ্বজুড়ে আমার কাছে অবাস্তব বলে মনে হচ্ছে - সামরিক নেতারা সম্ভবত মানব বিমানের চালককে ড্রোনতে বদলে দিতে পারেন, এটি তাদের কাজ নয়। তবে "হাই লেভেল কন্ট্রোল", অর্থাত্ নির্ধারণ করার জন্য, কী করবেন, কে লক্ষ্য, এই সিদ্ধান্তগুলি তারা তাদের হাত থেকে কখনই ছাড়বে না।

তার পরেও, রোবটগুলির দীর্ঘমেয়াদী লক্ষ্য নেই। আমরা, মানুষ, আছে।

সুতরাং আমি স্কাইনেট-স্টাইলে টেকওভারটিকে খুব বাস্তববাদী মনে করি না, তবে একটি ভুল ব্যাখ্যা করা কমান্ডের চেরনোবাইল-স্টাইলের "ভুল", যার ফলে বহরের অচলাবস্থার তাণ্ডব আমার পক্ষে অসম্ভব বলে মনে হয় না।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.