কৃত্রিম বুদ্ধি আমাদের কীভাবে ক্ষতি করতে পারে?


50

আমরা প্রায়শই শুনি কৃত্রিম বুদ্ধিমত্তা মানুষের ক্ষতি করতে পারে এমনকি হত্যা করতে পারে, তাই এটি বিপজ্জনক প্রমাণিত হতে পারে।

কৃত্রিম বুদ্ধি আমাদের কীভাবে ক্ষতি করতে পারে?


6
এটি কিছুটা বিস্তৃত, কারণ অনেকগুলি কারণ এবং পরিস্থিতি প্রস্তাবিত যা এআই বিপজ্জনক হয়ে উঠতে পারে। উদাহরণস্বরূপ, দত্তএ যেমন উপরের পরামর্শ অনুসারে, মানুষ বুদ্ধিমান অস্ত্র সিস্টেমগুলি ডিজাইন করতে পারে যা কী লক্ষ্যবস্তু করা উচিত তা নির্ধারণ করে এবং এটি ইতিমধ্যে সঙ্কীর্ণ এআই এর ব্যবহার সম্ভব হওয়ায় এটি সত্যই উদ্বেগের বিষয়। আপনি যে নির্দিষ্ট আশঙ্কাটি বুঝতে চান সেটিকে আরও প্রসঙ্গ দিন, আপনি যে নির্দিষ্ট উদ্বেগ পড়েছেন তা উদ্ধৃত করে বা লিঙ্ক করে (দয়া করে সম্পাদনাটি ব্যবহার করুন )।
নিল স্লেটার

4
@ নিলস্ল্যাটার হ্যাঁ, এটি খুব বিস্তৃত হতে পারে তবে আমি মনে করি যে এই উত্তরটি ai.stackexchange.com/a/15462/2444 কিছু যুক্তিযুক্ত কারণ সরবরাহ করে। আমি সম্ভবত ভুল ধারণাটি মুছে ফেলার জন্য প্রশ্নটি সম্পাদনা করেছি।
nbro

2
এই প্রশ্নটি কি বিশেষত "সুপারিন্টিবলেন্স" বা এআই সম্পর্কে? (উদাহরণস্বরূপ, যদি প্রকল্পিত superintelligence, তারপর প্রকল্পিত " নিয়ন্ত্রণ সমস্যা " একটি বিষয় তবে সমসাময়িক স্বয়ংক্রিয় অস্ত্র পদ্ধতি হঠাত হবে না, কিংবা স্বশাসিত যানবাহন হবে, এবং যারা মানুষের ক্ষতি করতে পারে।।)
DukeZhou

@ ডুকঝোউ ওপি মূলত এবং স্পষ্টতই অতিসীমাংসয়ের কথা উল্লেখ করেনি, তবে আমি মনে করি তিনি এসআই সহ যে কোনও বিষয়কে এআই হিসাবে বিবেচনা করা যেতে পারে উল্লেখ করেছেন।
এনবিরো

3
প্রথমে জিজ্ঞাসা করুন কীভাবে স্বাভাবিক বুদ্ধি আপনার ক্ষতি করতে পারে? উত্তরটি তখন একই রকম।
জে ...

উত্তর:


46

TL; ড

লোকেরা এআইকে ভয় করতে পারে (বা আরও ভাল সম্পর্কে উদ্বিগ্ন ) হতে পারে এমন অনেকগুলি বৈধ কারণ রয়েছে , সমস্তই রোবট এবং অ্যাপোক্যালिप्टিক পরিস্থিতিতে জড়িত না।

এই উদ্বেগগুলির আরও ভালভাবে বর্ণনা করার জন্য, আমি তাদের তিনটি বিভাগে বিভক্ত করার চেষ্টা করব।

সচেতন এআই

এটি এআই এর ধরণ যা আপনার প্রশ্ন উল্লেখ করছে। একটি অতি-বুদ্ধিমান সচেতন এআই যা মানবতা ধ্বংস / গোলাম করে দেবে। এটি বেশিরভাগ আমাদের কাছে বিজ্ঞান-কল্পকাহিনী দ্বারা আনা হয়েছে। হলিউডের কয়েকটি উল্লেখযোগ্য উদাহরণ হ'ল "টার্মিনেটর" , "দ্য ম্যাট্রিক্স" , "এজ অফ আলট্রন" । সর্বাধিক প্রভাবশালী উপন্যাসগুলি আইজ্যাক অসিমভ লিখেছিলেন এবং এটি "রোবট সিরিজ" হিসাবে উল্লেখ করা হয় (যার মধ্যে "আমি, রোবট" অন্তর্ভুক্ত রয়েছে , এটি চলচ্চিত্র হিসাবেও অভিযোজিত হয়েছিল)।

এগুলির বেশিরভাগ কাজের মূল ভিত্তি হ'ল এআই এমন এক পর্যায়ে বিকশিত হবে যেখানে এটি সচেতন হয়ে উঠবে এবং বুদ্ধিমত্তায় মানুষকে ছাড়িয়ে যাবে। হলিউডের মুভিগুলি মূলত রোবট এবং তাদের এবং মানুষের লড়াইয়ের দিকে মনোনিবেশ করে, প্রকৃত এআই (অর্থাৎ "মস্তিষ্ক" এগুলি নিয়ন্ত্রণ করে) তেমন জোর দেওয়া হয় না। পার্শ্ব নোট হিসাবে, আখ্যানটির কারণে, এই এআই সাধারণত সমস্ত কিছু নিয়ন্ত্রণকারী সুপার কম্পিউটার হিসাবে চিত্রিত করা হয় (যাতে নায়কদের একটি নির্দিষ্ট লক্ষ্য থাকে)। "অস্পষ্ট বুদ্ধি" (যা আমি মনে করি আরও বাস্তববাদী) বিষয়ে পর্যাপ্ত অনুসন্ধান করা হয়নি।

বাস্তব বিশ্বে, এআই নির্দিষ্ট কাজগুলি সমাধানের দিকে দৃষ্টি নিবদ্ধ করে! একটি এআই এজেন্ট যা বিভিন্ন ডোমেইন থেকে সমস্যাগুলি সমাধান করতে সক্ষম (যেমন স্পিচ বুঝতে এবং প্রসেসিং চিত্র এবং ড্রাইভিং এবং ... - যেমন মানুষের হয়) সাধারণ কৃত্রিম বুদ্ধিমত্তা হিসাবে উল্লেখ করা হয় এবং এআই "চিন্তা" করতে সক্ষম হয়ে ওঠার জন্য প্রয়োজনীয় সচেতন।

বাস্তবতাত্ত্বিকভাবে, আমরা সাধারণ কৃত্রিম বুদ্ধিমত্তার থেকে একটি লুওউইউং পথ ! বলা হচ্ছে যে ভবিষ্যতে কেন এটি অর্জন করা যায় না তার কোনও প্রমাণ নেই । সুতরাং, বর্তমানে আমরা এআই এর শৈশবকালীন অবস্থায় থাকলেও আমাদের বিশ্বাস করার কোনও কারণ নেই যে এআই এমন একটি অবস্থানে উন্নত হবে না যেখানে এটি মানুষের চেয়ে বুদ্ধিমান।

দূষিত অভিপ্রায় সহ এআই ব্যবহার করা

যদিও একটি এআই বিশ্বজুড়ে বিজয় ঘটতে অনেক দূরে রয়েছে , আজ এআইয়ের সাথে উদ্বিগ্ন হওয়ার বেশ কয়েকটি কারণ রয়েছে , এতে রোবট জড়িত নয়! দ্বিতীয় বিভাগটিতে আমি আরও কিছুটা ফোকাস করতে চাই তা হ'ল আজকের এআই এর কয়েকটি দূষিত ব্যবহার।

আমি আজ উপলব্ধ এআই অ্যাপ্লিকেশনগুলিতে মনোনিবেশ করব । এআই এর কয়েকটি উদাহরণ যা দূষিত অভিপ্রায়র জন্য ব্যবহার করা যেতে পারে:

  • ডিপফেক : কোনও ব্যক্তির মুখের উপর চাপিয়ে দেওয়ার জন্য একটি কৌশল অন্য ব্যক্তির একটি ভিডিও। এটি সেলিব্রিটি পর্নির মাধ্যমে সম্প্রতি জনপ্রিয়তা অর্জন করেছে এবং জাল সংবাদ এবং ফাঁকিবাজি তৈরি করতে ব্যবহার করা যেতে পারে । সূত্র: 1 , 2 , 3

  • ব্যবহারের সঙ্গে ভর নজরদারি সিস্টেম এবং মুখের স্বীকৃতি সফ্টওয়্যার স্বীকৃতি করতে সক্ষম প্রতি সেকেন্ডে মুখমন্ডল লক্ষ লক্ষ , এআই ভর নজরদারির ব্যবহার করা যাবে। যদিও আমরা গণ পর্যবেক্ষণের কথা চিন্তা করি আমরা যখন চিনের কথা চিন্তা করি তখনও পশ্চিমের অনেক শহর লন্ডন , আটলান্টা এবং বার্লিন বিশ্বের সর্বাধিক নজরদারি করা শহরগুলির মধ্যে একটি । চীন সামাজিক creditণ ব্যবস্থা গ্রহণ করে বিষয়গুলিকে আরও একধাপ এগিয়ে নিয়েছে , বেসামরিকদের জন্য একটি মূল্যায়ন ব্যবস্থা যা মনে হয় জর্জ অরওয়েলের ১৯৮৪ এর পাতাগুলি থেকে সোজাভাবে নেওয়া হয়েছিল।

  • সামাজিক যোগাযোগ মাধ্যমে মানুষকে প্রভাবিত করছে । লক্ষ্যযুক্ত বিপণনের লক্ষ্যের সাথে ব্যবহারকারীর স্বাদগুলি স্বীকৃতি দেওয়া এবং প্লেসমেন্টগুলি যুক্ত করা (অনেকগুলি ইন্টারনেট সংস্থার একটি প্রচলিত অনুশীলন), জনগণের ভোটদানকে প্রভাবিত করার জন্য এআই (ম্যাসেজ) ব্যবহার করা যেতে পারে (অন্যান্য বিষয়ের মধ্যে)। সূত্র: 1 , 2 , 3

  • হ্যাকিং

  • সামরিক অ্যাপ্লিকেশন, উদাহরণস্বরূপ ড্রোন আক্রমণ, ক্ষেপণাস্ত্র লক্ষ্যবস্তু সিস্টেম।

এআই এর বিরূপ প্রভাব

এই বিভাগটি বেশ সাবজেক্টিভ, তবে এআই এর বিকাশ কিছু প্রতিকূল পার্শ্ব প্রতিক্রিয়া বহন করতে পারে। এই বিভাগ এবং পূর্বের মধ্যে পার্থক্য হ'ল এই প্রভাবগুলি ক্ষতিকারক হলেও এটি ইচ্ছাকৃতভাবে করা হয় না; বরং এআই এর বিকাশের সাথে ঘটে। কয়েকটি উদাহরণ হ'ল:

  • কাজগুলি অনর্থক হয়ে উঠছে । এআই আরও উন্নত হওয়ার সাথে সাথে অনেকগুলি চাকরি এআই দ্বারা প্রতিস্থাপিত হবে। দুর্ভাগ্যক্রমে এগুলি নিয়ে অনেক কিছুই করা যায় না, কারণ বেশিরভাগ প্রযুক্তিগত বিকাশের এই পার্শ্ব-প্রতিক্রিয়া রয়েছে (উদাহরণস্বরূপ কৃষি যন্ত্রপাতি অনেক কৃষককে তাদের চাকরি হারাতে বাধ্য করেছিল, অটোমেশন অনেকগুলি কারখানার শ্রমিককে প্রতিস্থাপন করেছিল, কম্পিউটারগুলিও এটি করেছিল)।

  • আমাদের ডেটাতে পক্ষপাতিত্বকে শক্তিশালী করা । এটি একটি খুব আকর্ষণীয় বিভাগ, কারণ এআই (এবং বিশেষত নিউরাল নেটওয়ার্কগুলি) তাদের উপর প্রশিক্ষণপ্রাপ্ত ডেটাগুলির মতোই দুর্দান্ত এবং ডেটাতে ইতিমধ্যে বিদ্যমান সামাজিক পক্ষপাতের বিভিন্ন রূপ স্থায়ীকরণ এবং এমনকি বাড়ানোর প্রবণতা রয়েছে। নেটওয়ার্কগুলি বর্ণবাদী এবং যৌনতাবাদী আচরণ প্রদর্শন করে এমন অনেকগুলি উদাহরণ রয়েছে। সূত্র: 1 , 2 , 3 , 4


4
আমি বুঝতে পারি না "চাকরিগুলি কীভাবে অতিরিক্ত কাজ করছে" এটি একটি গুরুতর উদ্বেগ। পৃথিবীটি কত সুন্দর হবে যদি নুনের (বা কমপক্ষে মানুষের সংখ্যাগরিষ্ঠ) কাজ করার প্রয়োজন না পড়ে এবং তাদের শখ এবং জীবন উপভোগের পরিবর্তে মনোযোগ দিতে পারে।
কুকিস

4
@ কুকিস আপনি ইতিমধ্যে ধনী না হলে আপনি কীভাবে কাজ, খাবার, ঘর ইত্যাদি পাবেন? একটি চাকরি মানে বেশিরভাগ মানুষের বেঁচে থাকা।
এনবিরো

6
চাকরিগুলি অপ্রয়োজনীয় হয়ে ওঠার বিষয়ে, দেখে মনে হচ্ছে আমরা এ সম্পর্কে কিছু করতে পারি, অর্থাৎ আমাদের চাকরিজীবী মানুষের উপর নির্ভর না করার জন্য আমাদের অর্থনৈতিক মডেলগুলি পুনর্নির্মাণ করুন। আমার অর্থ, যদি আমাদের অর্থনৈতিক ব্যবস্থাগুলি পর্যাপ্ত সস্তা শ্রম দ্বারা বন্যার পরে ভেঙে যায় তবে তারা অবশ্যই ত্রুটিযুক্ত। এবং প্রদত্ত যে আমরা প্রত্যাশিত ভবিষ্যতে এই ত্রুটিটি বিপজ্জনক হয়ে উঠবে আশা করি, এটি ঠিক করা উচিত।
নাট

2
স্টক ট্রেডিংয়ের সাথে এআই বড় সমস্যার কারণ হতে পারে তার আরেকটি উদাহরণ। আজকাল প্রচুর স্টক ব্যবসায় ক্রমবর্ধমান প্রতিযোগিতামূলক এআই এর দ্বারা সম্পন্ন হয়, যা মানব ব্যবসায়ীদের চেয়ে অনেক দ্রুত প্রতিক্রিয়া করতে পারে। তবে এটি এমন পর্যায়ে পৌঁছেছে যে এমনকি এগুলি লিখেছেন এমন মানুষেরাও এআই এর সিদ্ধান্ত গ্রহণের কারণটি অগত্যা বুঝতে পারে না এবং স্টক-প্রেডিক্টিং অ্যালগরিদমগুলি খারাপ হয়ে যাওয়ার ফলে বাজারগুলিতে কিছু বিপর্যয়মূলক প্রভাব পড়েছে।
ড্যারাল হফম্যান

8
@ স্প্যানিওপ এআই প্রতিস্থাপনের চেষ্টা করে এমন প্রতিটি কাজই "স্বল্প আগ্রহ" নয়। আমি যুক্তি দিয়েছি যে অনেক উচ্চ-চাহিদাযুক্ত চাকরি রয়েছে যা ভবিষ্যতে প্রতিস্থাপন করা যেতে পারে (এতটা দূর নয়)। কিছু উদাহরণ হ'ল চিকিত্সক, ব্যবসায়ী ও পাইলট। যদি এআই অগ্রসর হতে থাকে এবং রোগ নির্ণয়ের ক্ষেত্রে আরও উন্নত হতে থাকে, তবে এটি ভাবা অযৌক্তিক হবে না যে ডাক্তারের চাকরিগুলি কেটে ফেলা হবে।
ডিজিব2011

14

স্বল্প মেয়াদী

  • শারীরিক দুর্ঘটনা , যেমন: শিল্প যন্ত্রপাতি, বিমান অটোপাইলট, স্ব-ড্রাইভিং গাড়িগুলির কারণে। বিশেষত চরম আবহাওয়া বা সেন্সর ব্যর্থতার মতো অস্বাভাবিক পরিস্থিতির ক্ষেত্রে । সাধারণত একটি এআই এমন পরিস্থিতিতে খারাপভাবে কাজ করবে যেখানে এটির ব্যাপক পরীক্ষা করা হয়নি।
  • চাকরির প্রাপ্যতা হ্রাস করা, সুবিধাবঞ্চিতদের জন্য বাধা দেওয়ার মতো সামাজিক প্রভাব । loansণ, বীমা, প্যারোল।
  • প্রস্তাবনা ইঞ্জিনগুলি আমাদের আচরণগুলি পরিবর্তন করতে (পাশাপাশি আমাদের নিজস্ব "ছোট বিশ্বের" বুদবুদগুলিকে আরও শক্তিশালী করা) আরও বেশি করে চালিত করে । প্রস্তাবিত ইঞ্জিনগুলি নিয়মিতভাবে ছোট বাচ্চাদের কাছে বিভিন্ন ধরণের অনুপযুক্ত সামগ্রী পরিবেশন করে, প্রায়শই বিষয়বস্তু নির্মাতারা (যেমন ইউটিউবে) শিশু-বান্ধব বলে মনে হচ্ছে সঠিক কীওয়ার্ড স্টাফিং ব্যবহার করে।
  • রাজনৈতিক কারসাজি ... যথেষ্ট বলেছি, আমার মনে হয়।
  • গোপনীয়তা আক্রমণ আক্রমণাত্মক অস্বীকারযোগ্যতা । এখন এআই আপনার ইমেলটি পড়তে এবং এমনকি আপনার জন্য ফোন কল করতে পারে, তবে কারও পক্ষে আপনার ব্যক্তিগত তথ্যতে কাজ করা এবং তারা এটি করার জন্য একটি কম্পিউটার পেয়েছে বলে দাবি করা সহজ।
  • যুদ্ধকে ভিডিও গেমে রূপান্তরিত করা, অর্থাত্ যিনি যেকোন বিপদে নেই এবং তাঁর হতাহতের হাত থেকে অনেক দূরে সরিয়েছেন, তাকে যন্ত্রে মেশিন দিয়ে দূরবর্তী স্থানে পরিচালিত সৈন্যদের প্রতিস্থাপন করা।
  • স্বচ্ছতার অভাব । আমরা সিদ্ধান্তের পিছনে ন্যায্যতা পাওয়ার খুব কম উপায় নিয়ে সিদ্ধান্ত নেওয়ার জন্য মেশিনগুলিকে বিশ্বাস করি।
  • রিসোর্স খরচ এবং দূষণ। এটি কেবল একটি এআই সমস্যা নয়, তবে এআইয়ের প্রতিটি উন্নতি বিগ ডেটার জন্য আরও চাহিদা তৈরি করছে এবং একসাথে এই সংগ্রহস্থল, প্রক্রিয়াকরণ এবং নেটওয়ার্কিংয়ের প্রয়োজনীয়তা বাড়িয়ে তুলছে। বিদ্যুৎ এবং বিরল খনিজগুলির শীর্ষে, অবকাঠামোটি কয়েক বছরের আজীবনের পরে নিষ্পত্তি করা দরকার।
  • নজরদারি - স্মার্টফোন এবং শোনার ডিভাইসের সর্বব্যাপীতার সাথে, এখানে তথ্যের একটি সোনার খনি রয়েছে তবে প্রতিটি টুকরো টুকরো টুকরো টুকরো করার দরকার নেই। অবশ্যই এটির মাধ্যমে পাল্টানোর জন্য একটি এআই পান!
  • সাইবারসিকিউরিটি - সাইবার ক্রিমিনালরা তাদের লক্ষ্যবস্তুতে আক্রমণ করার জন্য ক্রমহ্রাসমান এআইকে উন্নত করছে।

আমি উল্লেখ জানেন যে সব এগুলোর ইতিমধ্যে পুরোদমে হয়?

দীর্ঘ মেয়াদী

যদিও এআই এবং এজিআইয়ের মধ্যে কোনও স্পষ্ট লাইন নেই, এই বিভাগটি যখন আমরা আরও এজিআইয়ের দিকে এগিয়ে যাই তখন কী হয় সে সম্পর্কে আরও বেশি। আমি দুটি বিকল্প দেখতে পাচ্ছি:

  • হয় আমরা বুদ্ধি প্রকৃতির আমাদের উন্নত বোঝার ফলস্বরূপ এজিআই বিকাশ করি,
  • অথবা আমরা এমন কিছু একসাথে চড় মারলাম যা কাজ করে মনে হচ্ছে তবে আমরা খুব ভালভাবে বুঝতে পারি না, অনেকটা মেশিন শেখার মতো এখনই।

প্রথম ক্ষেত্রে, যদি একটি এআই "দুর্বৃত্ত হয়ে যায়" তবে আমরা অন্য এআইগুলিকে এটি ছাপিয়ে ও নিরপেক্ষ করার জন্য তৈরি করতে পারি। দ্বিতীয় ক্ষেত্রে, আমরা পারি না, এবং আমরা ধ্বংস হয়ে যাব। এআইগুলি একটি নতুন জীবনরূপ হবে এবং আমরা বিলুপ্ত হতে পারি।

এখানে কিছু সম্ভাব্য সমস্যা রয়েছে:

  • কপি এবং পেস্ট. এজিআইয়ের একটি সমস্যা হ'ল এটি সম্ভবত একটি ডেস্কটপ কম্পিউটারে খুব সহজেই চালানো যেতে পারে, যা বেশ কয়েকটি সমস্যা তৈরি করে:
    • স্ক্রিপ্ট কিডিজ - লোকেরা একটি এআই ডাউনলোড করতে পারে এবং একটি ধ্বংসাত্মক উপায়ে পরামিতিগুলি সেট আপ করতে পারে। Relatedly,
    • অপরাধী বা সন্ত্রাসী গোষ্ঠীগুলি তাদের পছন্দ অনুসারে একটি এআই কনফিগার করতে সক্ষম হবে। বোমা তৈরি বা বায়োইপ্পান বিশেষজ্ঞের দরকার নেই যদি আপনি কোনও এআই ডাউনলোড করতে পারেন, কিছু গবেষণা করতে বলুন এবং তারপরে আপনাকে ধাপে ধাপে নির্দেশনা দিন।
    • স্ব-প্রতিরূপকরণ এআই - এ সম্পর্কে প্রচুর কম্পিউটার গেম রয়েছে। এআই শিথিল ভাঙ্গা এবং ভাইরাসের মতো ছড়িয়ে পড়ে। যত বেশি প্রক্রিয়াজাতকরণ শক্তি, তত ভাল নিজেকে রক্ষা করতে এবং আরও ছড়িয়ে দেওয়া able
  • কম্পিউটিং সম্পদের ইনভেশন । এটি সম্ভবত আরও বেশি কম্পিউটিং শক্তি একটি এআই এর জন্য উপকারী। একটি এআই সার্ভার সংস্থান বা ডেস্কটপ এবং মোবাইল ডিভাইসের সংস্থানগুলি কিনতে বা চুরি করতে পারে। চূড়ান্ত দিকে নিয়ে যাওয়া, এর অর্থ এই হতে পারে যে আমাদের সমস্ত ডিভাইসগুলি কেবল ব্যবহারযোগ্য হয়ে পড়েছে যা তাত্ক্ষণিকভাবে ওয়ার্ল্ডের উপর বিধ্বস্ত হবে। এর অর্থ বিশাল বিদ্যুতের খরচও হতে পারে (এবং "প্লাগটি টান" শক্ত হবে কারণ বিদ্যুৎ কেন্দ্রগুলি কম্পিউটার দ্বারা নিয়ন্ত্রিত!)
  • স্বয়ংক্রিয় কারখানা। বিশ্বের একটি দৈহিক উপস্থিতি অর্জন করতে ইচ্ছুক একটি এজিআই রোবট তৈরি করতে কারখানাগুলিকে দখল করতে পারে যা নতুন কারখানা তৈরি করতে পারে এবং প্রয়োজনীয়ভাবে নিজের জন্য দেহ তৈরি করতে পারে।
  • এগুলি বরং দার্শনিক বিবেচ্য বিষয়, তবে কেউ কেউ যুক্তি দেখিয়েছেন যে এআই আমাদের মানবিক করে তোলে তা ধ্বংস করে দেবে:
    • কমি। যদি প্রচুর পরিমাণে এআই সত্তা সেরা মানুষের চেয়ে স্মার্ট, দ্রুত, আরও নির্ভরযোগ্য এবং আরও সৃজনশীল হত তবে কী হবে?
    • Pointlessness। শারীরিক শ্রমের প্রয়োজনের পরিবর্তে রোবট এবং এআইদের বৌদ্ধিক শ্রমের প্রয়োজনীয়তা প্রতিস্থাপনের মাধ্যমে, আমাদের আসলে কিছুই করার থাকবে না। কেউ আবার নোবেল পুরষ্কার পাবে না কারণ এআই ইতিমধ্যে এগিয়ে থাকবে। এমনকি কেন প্রথম স্থানে শিক্ষিত হন?
    • একচেটিয়া / স্থবিরতা - বিভিন্ন পরিস্থিতিতে (যেমন একটি একক "উদার স্বৈরশাসক" এজিআই) সমাজ কোনও নতুন ধারণা বা কোনও প্রকারের পরিবর্তন ছাড়াই চিরস্থায়ী প্যাটার্নে স্থির হয়ে উঠতে পারে (এটি সুন্দর হলেও তা সুন্দর)। মূলত, সাহসী নিউ ওয়ার্ল্ড।

আমি মনে করি এজিআই আসছে এবং আমাদের এই সমস্যাগুলি সম্পর্কে সচেতন হওয়া দরকার যাতে আমরা সেগুলি হ্রাস করতে পারি।


1
আমি মনে করি যে এআই জাতীয় ধরণের কারখানাগুলি নিজের জন্য রোবট তৈরি করতে পুনরায় প্রোগ্রামিং করতে সক্ষম, এটি অনেক দূরে। আধুনিক "এআই" হ'ল সত্যই পরিশীলিত প্যাটার্ন স্বীকৃতি।
ব্যবহারকারী 253751

আমি বললাম "দীর্ঘমেয়াদী" এবং "এজিআই"। সংজ্ঞা অনুসারে এজিআই হ'ল পরিশীলিত প্যাটার্ন স্বীকৃতির বাইরেও। এবং যদিও "পরিশীলিত প্যাটার্ন স্বীকৃতি" বাস্তব-বিশ্বের অ্যাপ্লিকেশনগুলিতে ব্যবহৃত খুব সাধারণ জিনিস, তবে ইতিমধ্যে অন্যান্য দিকগুলিতে ইতিমধ্যে প্রচুর কাজ রয়েছে (বিশেষত সমস্যা পচে যাওয়া / কর্ম পরিকল্পনা, যা আইএমও এই ধরণের দৃশ্যের লিঞ্চপিন)। )
আর্টিলিয়াস

8

অন্যান্য উত্তরগুলি ছাড়াও, আমি কুকি ফ্যাক্টরির উদাহরণটি নুক করে যোগ করতে চাই:

মেশিন লার্নিং এআই মূলত মানুষের দ্বারা বর্ণিত একটি লক্ষ্য পূরণ করার চেষ্টা করে। উদাহরণস্বরূপ, মানুষ একটি কুকি কারখানা চালিয়ে একটি এআই তৈরি করে। তাদের কার্যকর করা লক্ষ্যটি হ'ল সর্বোচ্চ লাভজনক ব্যবস্থার জন্য যথাসম্ভব কুকি বিক্রয় করা।

এখন, একটি এআই কল্পনা করুন যা যথেষ্ট শক্তিশালী। এই এআই লক্ষ্য করবে যে তিনি যদি অন্য সমস্ত কুকি কারখানার সংকেত রাখে তবে প্রত্যেককে তার কারখানায় কুকি কিনতে হবে, বিক্রি বাড়িয়ে লাভ বেশি করা হবে।

সুতরাং, এখানে মানুষের ত্রুটিটি অ্যালগরিদমে সহিংসতা ব্যবহার করার জন্য কোনও জরিমানা দিচ্ছে না। এটি সহজেই উপেক্ষা করা হবে কারণ মানুষ অ্যালগরিদম এই সিদ্ধান্তে পৌঁছানোর আশা করেনি।


8
এটি আমাকে এমন এক বাস্তব-জগতের উদাহরণের স্মরণ করিয়ে দেয় যা আমি একবার রেডডিটে দেখেছি যেখানে কেউ AIক্যতে কিছু সিঁড়ি বেয়ে উঠতে প্রশিক্ষণ দিয়েছিল AI এটি আবিষ্কার করেছে যে এটি প্রচুর শক্তি দিয়ে মাটিতে প্রবেশ করতে পারে এবং পদার্থবিজ্ঞানগুলি গতিবেগ সৃষ্টি করবে, যার ফলে এটি বাতাসে উড়ে যায় এবং শীর্ষে দ্রুততম হয়।
গামাগেমস

2
বা আরও খারাপ, এটি সিদ্ধান্ত নিতে চাইবে যে মানুষগুলি এমন পরমাণু দ্বারা তৈরি করা হয়েছে যা কুকিজের বাইরে রাখার জন্য আরও ভাল ব্যবহার করা যেতে পারে।
নিক012000

আমি এই যুক্তি আগে শুনেছি। একটি এআই কেয়ামত দিবসের পূর্বাভাস দেওয়ার একটি ত্রুটি হ'ল আমরা এআই কী করবে তা অনুমান করতে পারি না। এটি সম্পূর্ণরূপে এআই বুঝতে পারে যে অন্যান্য কুকি সংস্থাগুলি সংঘাতের ফলে বৈশ্বিক অর্থনীতি ছড়িয়ে যাবে এবং কুকিজের কোনও সম্ভাব্য চাহিদা নষ্ট হবে ... অর্থনীতি, সরবরাহ ও চাহিদা সম্পর্কিত আইন
জাক্ক ডিয়াজ

8

এআই দ্বারা ক্ষতির জন্য আমার প্রিয় দৃশ্যে উচ্চ বুদ্ধি নয়, কম বুদ্ধি জড়িত। বিশেষত, ধূসর গু অনুমান।

এখানেই একটি স্ব-প্রতিরূপকরণ, স্বয়ংক্রিয় প্রক্রিয়া অ্যামোক চালায় এবং সমস্ত সংস্থানকে নিজের অনুলিপিতে রূপান্তর করে ts

এখানে মূল বক্তব্যটি হ'ল এআই উচ্চ বুদ্ধি বা সাধারণ বুদ্ধিমান ধারণার অর্থে "স্মার্ট" নয় - এটি একটি জিনিসেই নিখুঁতভাবে খুব ভাল এবং তাত্পর্যপূর্ণভাবে প্রতিলিপি দেওয়ার ক্ষমতা রাখে।


3
FWIW, মানুষ ইতিমধ্যে ধূসর গু। আমরা স্বার্থপর ধূসর গু যা আরও বেশি দক্ষ ধূসর গু দ্বারা প্রতিস্থাপন করতে চাই না।
ব্যবহারকারী 253751

1
@ ইমিবিস এটি অবশ্যই দার্শনিক পিওভ, সত্য নয়। এমন অনেক লোক রয়েছে যা মানুষ এবং স্ব-প্রতিরূপকরণ / স্বনির্ভরশীল মেশিনগুলির মধ্যে পার্থক্য করে। বোকচন্দর চলচ্চিত্র যদি সংখ্যাগরিষ্ঠতা অন্তরে আপনার সংজ্ঞা বাহিত খুব সফল হবে না =)
Stian Yttervik

1
@ ইমিবিস আপনি উইকিপিডিয়ায় ধূসর গু নিবন্ধটি পড়েছেন যা এই উত্তরটির উল্লেখ করে? শব্দটি বুদ্ধিমান আচরণের জন্য নয়, অজ্ঞানবিরোধী (ন্যানো) মেশিনগুলিকে বোঝায়। সুতরাং আমি বলব, না, মানুষ এটি নয় (এবং এআইও নয়), যেহেতু আমরা যখন পারি তখন আমরা আলবার্ট আইনস্টাইন খাইনি।
কুবাঞ্চাইক

@ কুবাঞ্জাইক "বুদ্ধিমত্তা" শব্দটির মূল অর্থটি একাডেমিয়া এবং সাধারণ জনগণ উভয় ক্ষেত্রেই বিস্তৃতভাবে ভুল বোঝাবুঝি বলে মনে হচ্ছে। বুদ্ধি হ'ল একটি বর্ণালী, সাধারণত আপেক্ষিকভাবে (অন্যান্য সিদ্ধান্ত গ্রহণের পদ্ধতির তুলনায়), এবং কোনও সমস্যার প্রেক্ষাপটে প্রদত্ত যে কোনও সিদ্ধান্তের উপযোগিতার উপর ভিত্তি করে। সুতরাং ধূসর গু বুদ্ধিমান হবে, কেবল বুদ্ধি সীমিত এবং সংকীর্ণ হবে।
ডিউকঝো

5

আমি বলব সবচেয়ে বড় আসল হুমকি হ'ল ভারসাম্যহীনতা / বাধাদান যা আমরা ইতিমধ্যে দেখছি। 90% দেশকে কাজের বাইরে রাখার পরিবর্তনগুলি আসল এবং ফলাফলগুলি (যা সম্পদের আরও অসম বন্টন হবে) আপনি যদি এগুলি মনে করেন তবে তা ভীতিজনক।


2
লোকেরা শিল্প বিপ্লবের সময় একই কথা বলেছিল যা বেশিরভাগ কৃষিকাজের কাজকে অপ্রয়োজনীয় করে তুলেছিল। যদিও আপনি ভুল নাও করতে পারেন, এবং এটি ব্যক্তিগতভাবে আমি উদ্বিগ্ন, গবেষণা গবেষণা প্রবণতাগুলি এটি উদ্বেগের বিষয় নাও হতে পারে এবং এটি সম্ভবত নতুন চাকরির দ্বার উন্মুক্ত হবে।
প্রোগ্রামমুদে

@ প্রচারমুদেদ - আমি মনে করি শিল্প বিপ্লব পরিবর্তন এবং এমনকি আগত দশকগুলিতে কী ঘটবে তা নিয়ে পি এর আবির্ভাবের মধ্য দিয়ে সচিবতামূলক চাকরি নির্মূলের মধ্যে মৌলিক পার্থক্য রয়েছে।
মেয়ো

2
@ প্রচারমুদে এবং জনগণ ঠিকই ছিলেন শিল্প বিপ্লব মানুষের জীবনযাপন সম্পর্কে সবকিছুই বদলে দিয়েছিল, সম্পদের বন্টন এবং কৃষির আয়ের উপর লোকের সক্ষমতা থাকার ক্ষেত্রে এটি অত্যন্ত বিঘ্নজনক ছিল। অন্য দৃষ্টিকোণ থেকে: দাস মালিকরা ভবিষ্যতে কয়েকশো বছর পিছনে ফিরে তাকানোর পরে সম্ভবত এআই এর প্রভাবগুলি বিঘ্নজনক হিসাবে দেখাবে না কারণ এটি তাদের পরিস্থিতি তৈরি করেছিল।
বিল কে

@ বিল্ক আমি দাস মালিকদের সম্পর্কে অংশ না হওয়া পর্যন্ত আপনার সাথে ছিলাম। আপনি কি জানেন যে এআইরা স্ব-সচেতন নয়, তাই না?
রায়

@ রে আমি এআইএসকে বোঝাতে চাইনি, আমি তাদের বোঝাচ্ছিলাম যারা এআইগুলিকে নিয়ন্ত্রণ করেছিল (এবং এর ফলে সমস্ত ধনসম্পদ থাকবে) এবং সত্যই এটি কেবল এটিই বোঝানোর উপায় ছিল যে বিষয়গুলি আমাদের কাছে বোধগম্যভাবে আলাদা হতে পারে তবে এটি হবে না ' ভিন্ন যে পিছনে তাকান।
বিল কে

5

আমার একটি উদাহরণ রয়েছে যা জনসাধারণের ভয়ের বিপরীত দিকে এগিয়ে যায়, তবে এটি একটি সত্যই সত্য, যা আমি ইতিমধ্যে ঘটতে দেখছি। এটি এআই-নির্দিষ্ট নয়, তবে আমি মনে করি এটি এআইয়ের মাধ্যমে আরও খারাপ হবে। সমালোচনামূলক প্রয়োগগুলিতে অন্ধভাবে এআই-এর সিদ্ধান্তে বিশ্বাস করা মানুষের সমস্যা ।

আমাদের অনেক ক্ষেত্র রয়েছে যেখানে মানব বিশেষজ্ঞরা সিদ্ধান্ত নেবেন বলে মনে করা হচ্ছে। উদাহরণস্বরূপ ওষুধ গ্রহণ করুন - আমাদের কি X বা ওষুধ দেওয়া উচিত? আমার মনে যে পরিস্থিতিগুলি মনে আছে তা হ'ল ঘন জটিল সমস্যা (সাইনেফিন অর্থে) যেখানে কাউকে খুব ঘনিষ্ঠভাবে মনোযোগ দেওয়া এবং প্রচুর দক্ষতা ব্যবহার করা সত্যই ভাল জিনিস এবং ফলাফলটি সত্যই গুরুত্বপূর্ণ।

চিকিত্সা সম্পর্কিত তথ্যদাতাদের problemষধে এই ধরণের সমস্যার জন্য সিদ্ধান্ত সমর্থন সিস্টেমগুলি লেখার দাবি রয়েছে (এবং আমি মনে করি একই ধরণের জন্য অন্যান্য ডোমেনগুলির জন্যও)। তারা তাদের যথাসাধ্য চেষ্টা করে, তবে প্রত্যাশা সর্বদা যে কোনও বিশেষজ্ঞ বিশেষজ্ঞ সিদ্ধান্ত নেওয়ার সময় সিস্টেমের পরামর্শটিকে আরও একটি মতামত হিসাবে সর্বদা বিবেচনা করবেন। অনেক ক্ষেত্রে, জ্ঞানের অবস্থা এবং বিকাশকারীদের কাছে উপলব্ধ সংস্থানগুলি দেওয়া, অন্য কোনও কিছুর প্রতিশ্রুতি দেওয়া দায়িত্বজ্ঞানহীন হবে। একটি সাধারণ উদাহরণটি রেডিওমিক্সগুলিতে কম্পিউটার দৃষ্টিভঙ্গির ব্যবহার হ'ল: একজন রোগী একটি সিটি স্ক্যান পান এবং এআইকে চিত্রটি প্রক্রিয়া করতে হবে এবং রোগীর টিউমার আছে কিনা তা সিদ্ধান্ত নিতে হবে।

অবশ্যই, এআই নিখুঁত নয়। এমনকি স্বর্ণের স্ট্যান্ডার্ডের সাথে পরিমাপ করা হলেও এটি কখনই 100% নির্ভুলতা অর্জন করে না। এবং তারপরে এমন সমস্ত কেস রয়েছে যেখানে এটি তার নিজস্ব লক্ষ্য মেট্রিকের বিরুদ্ধে ভাল সম্পাদন করে তবে সমস্যাটি এতটাই জটিল ছিল যে গোল মেট্রিক এটিকে ভালভাবে ধারণ করে না - আমি সিটি প্রসঙ্গে একটি উদাহরণটি ভাবতে পারি না, তবে আমার ধারণা আমরা এটি এখানে এমনকি এসইতে দেখতে পাই যেখানে অ্যালগরিদমগুলি পোস্টগুলিতে জনপ্রিয়তার পক্ষে, যা সত্যিক সত্যতার জন্য একটি অপূর্ণ প্রক্সি।

আপনি সম্ভবত শেষ অনুচ্ছেদটি পড়ছিলেন এবং পাশাপাশি হাঁটছিলেন, "হ্যাঁ, আমি শিখেছি যে প্রথম প্রবর্তনীয় এমএল কোর্সে আমি নিয়েছি"। কি অনুমান? চিকিত্সকরা কখনও প্রারম্ভিক এমএল কোর্স নেন নি। মেডিকেল জার্নালে প্রকাশিত কাগজপত্রের সিদ্ধান্তগুলি বোঝার জন্য তাদের কাছে খুব কমই পরিসংখ্যানগত সাক্ষরতা রয়েছে have যখন তারা তাদের 27 তম রোগীর সাথে কথা বলছেন, তাদের 16 ঘন্টা শিফটে 7 ঘন্টা, ক্ষুধার্ত এবং আবেগগতভাবে শুকিয়ে গেছে, এবং সিটি সমস্ত পরিষ্কার-পরিচ্ছন্ন দেখায় না, তবে কম্পিউটার বলে "এটি কোনও মারাত্মকতা নয়", তারা বলে না চিত্রটিতে আরও মনোনিবেশ করতে আরও দশ মিনিট সময় নিন বা পাঠ্যপুস্তকটি সন্ধান করুন বা সহকর্মীর সাথে পরামর্শ করুন। তারা কেবল কম্পিউটার যা বলে তা নিয়ে যায়, কৃতজ্ঞ যে তাদের জ্ঞানীয় বোঝা আবারো আকাশ ছোঁয়া হয়নি। সুতরাং তারা বিশেষজ্ঞ হতে পরিণত হয়ে এমন লোক হয়ে উঠেন যারা স্ক্রিনের বাইরে কিছু পড়ে। রীতিমত ভয়াবহ, কিছু কিছু হাসপাতালে প্রশাসন কেবল কম্পিউটারগুলিকেই বিশ্বাস করে না, এটি এটিও খুঁজে পেয়েছে যে তারা সুবিধাজনক বলির ছাগল। সুতরাং, একজন চিকিত্সকের খারাপ কান্ড রয়েছে যা কম্পিউটারের আউটপুটের বিপরীতে চলে যায়, তাদের পক্ষে এই কুঁচকিতে অভিনয় করা এবং তাদের পক্ষে নিজেকে রক্ষা করা কঠিন হয়ে পড়ে যে তারা এআইয়ের মতামতকে অগ্রাহ্য করার সিদ্ধান্ত নিয়েছে।

এআইগুলি শক্তিশালী এবং দরকারী সরঞ্জাম, তবে সর্বদা এমন কাজ থাকবে যেখানে তারা সরঞ্জামওয়ালারকে প্রতিস্থাপন করতে পারে না।


আপনি যদি আরও উদাহরণ সন্ধান করেন, জামিন বা প্যারোলের জন্য আবেদনকারীদের পুনঃতফসিল হারের পূর্বাভাস দেওয়ার জন্য মেশিন লার্নিং ব্যবহার করার বিরোধটি ভাল। আমি একমত যে আমাদের চিকিত্সা এবং আইনী দক্ষতা ছাড়াও চিকিত্সক এবং বিচারকগণের এআই বোঝার জন্য প্রয়োজনীয় পরিসংখ্যানগত দক্ষতার স্তর থাকতে হবে এমন আশা করা উচিত নয়। এআই ডিজাইনারদের তাদের অ্যালগোরিদমের পতনের বিষয়ে সচেতন হওয়া উচিত এবং এর ব্যবহারকারীদের সুস্পষ্ট দিকনির্দেশনা সরবরাহ করা উচিত। হতে পারে সরাসরি ফলাফল দেওয়ার পরিবর্তে সিটি স্ক্যানের দিকে কোথায় নজর দিতে হবে তা ডাক্তারকে বলুন।
ক্রাক

4

এটি কেবলমাত্র অন্য উত্তরের পরিপূরক হতে চায় তাই আমি স্বেচ্ছায় মানবতার দাসত্ব করার চেষ্টা করার এআইয়ের সম্ভাবনা নিয়ে আলোচনা করব না।

তবে ইতিমধ্যে এখানে একটি ভিন্ন ঝুঁকি রয়েছে। আমি একে অপরিকল্পিত প্রযুক্তি বলব । আমি বিজ্ঞান এবং প্রযুক্তি শিখিয়েছি, এবং আইএমএইচও, এআই নিজেই ভাল-মন্দ এবং স্বাধীনতার কোন ধারণা নেই। তবে এটি মানব নির্মিত এবং ব্যবহার করে এবং কারণেই অযৌক্তিক আচরণ জড়িত হতে পারে।

আমি এআইয়ের চেয়ে সাধারণ আইটির সাথে সম্পর্কিত আরও একটি বাস্তব জীবনের উদাহরণ দিয়ে শুরু করব। আমি ভাইরাস বা অন্যান্য ম্যালওয়্যার সম্পর্কে বলব। কম্পিউটারগুলি বরং বোকা মেশিন যা দ্রুত ডেটা প্রক্রিয়াকরণের জন্য ভাল। তাই বেশিরভাগ লোক তাদের উপর নির্ভর করে। কিছু (খারাপ) লোক ম্যালওয়্যার তৈরি করে যা কম্পিউটারগুলির সঠিক আচরণকে ব্যাহত করে। এবং আমরা সকলেই জানি যে তাদের ক্ষুদ্র থেকে মাঝারি সংস্থাগুলিতে ভয়াবহ প্রভাব পড়তে পারে যা কম্পিউটার ক্ষতির পক্ষে প্রস্তুত নয়।

এআই কম্পিউটার ভিত্তিক তাই এটি কম্পিউটার ধরণের আক্রমণে ঝুঁকিপূর্ণ। এখানে আমার উদাহরণ এআই চালিত গাড়ি হবে be প্রযুক্তিটি প্রায় কাজ করতে প্রস্তুত। তবে কোনও ম্যালওয়্যার গাড়িটিকে রাস্তায় থাকা অন্য লোকগুলিকে আক্রমণ করার চেষ্টা করার ফলে কী প্রভাব ফেলবে তা কল্পনা করুন। এমনকি এআই এর কোডটিতে সরাসরি অ্যাক্সেস না করেও পার্শ্ব চ্যানেলগুলি দ্বারা আক্রমণ করা যেতে পারে । উদাহরণস্বরূপ এটি সিগন্যাল লক্ষণগুলি পড়তে ক্যামেরা ব্যবহার করে। তবে যেভাবে মেশিন লার্নিং বাস্তবায়িত হয়, এআই জেনারালি কোনও দৃশ্যের মতোই কোনও মানুষের বিশ্লেষণ করে না। গবেষকরা দেখিয়েছেন যে কোনও সাধারণ মানুষ এখনও মূল চিহ্নটি দেখতে পাবে এমনভাবে একটি লক্ষণ পরিবর্তন করা সম্ভব ছিল, তবে একটি এআই অন্যরকম দেখতে পাবে। এখনই ভাবুন যে সাইনটি হচ্ছে রাস্তার অগ্রাধিকারের চিহ্ন ...

আমার অর্থ হ'ল এআই এর কোনও খারাপ উদ্দেশ্য না থাকলেও খারাপ ছেলেরা এটিকে খারাপ আচরণ করার চেষ্টা করতে পারে। এবং আরও গুরুত্বপূর্ণ ক্রিয়াকলাপগুলিতে এআই (মেডিসিন, গাড়ি, প্লেন, বোমার কথা না বলা) আরোপিত হবে ঝুঁকি তত বেশি। অন্যরকম বলেছিলেন, আমি নিজেই এআইকে ভয় করি না, তবে যেভাবে এটি মানুষ ব্যবহার করতে পারে তার জন্য for


3

আমি মনে করি যে সর্বাধিক বাস্তব (যেমন, বর্তমান, বিদ্যমান এআইগুলির সাথে সম্পর্কিত) ঝুঁকি দুটি কারণে অন্বেষিত এআই-তে অন্ধভাবে নির্ভর করছে।

1. এআই সিস্টেমগুলি হ্রাস করতে পারে

এআই সিস্টেমে শারীরিক ত্রুটিগুলি যে অঞ্চলে তাদের পরীক্ষা করা হয়নি সেই অঞ্চলে বন্যপ্রাণভাবে ভুল ফলাফল তৈরি করা শুরু করতে পারে কারণ শারীরিক ব্যবস্থা ভুল মান প্রদান শুরু করে। এটি কখনও কখনও স্ব-পরীক্ষার এবং অপ্রয়োজনীয়তার দ্বারা মুক্ত হয় তবে এখনও মাঝে মাঝে মানুষের তদারকি প্রয়োজন।

স্ব-শিক্ষার এআইগুলিরও একটি সফ্টওয়্যার দুর্বলতা রয়েছে - তাদের ওজন নেটওয়ার্ক বা পরিসংখ্যান উপস্থাপনা স্থানীয় মিনিমাতে যেতে পারে যেখানে তারা একটি ভুল ফলাফলের সাথে আটকে রয়েছে।

২.আই সিস্টেমগুলি পক্ষপাতদুষ্ট

এটি সৌভাগ্যক্রমে প্রায়শই আলোচিত হয় তবে উল্লেখ করার মতো: এআই সিস্টেমগুলির ইনপুটগুলির শ্রেণিবিন্যাস প্রায়শই পক্ষপাতদুষ্ট কারণ প্রশিক্ষণ / পরীক্ষার ডেটাসেটটিও পক্ষপাতদুষ্ট ছিল। এআই-এর ফলাফল আরও নির্দিষ্ট উদাহরণের জন্য নির্দিষ্ট জাতিগোষ্ঠীর লোকদের স্বীকৃতি না দেয়। তবে খুব কম স্পষ্ট ঘটনা রয়েছে যা কেবলমাত্র কিছু দুর্ঘটনার পরে আবিষ্কার করা যেতে পারে যেমন এআই নির্দিষ্ট তথ্য সনাক্ত না করে এবং দুর্ঘটনাবশত একটি কারখানায় আগুন লাগানো, সরঞ্জামাদি ভাঙ্গা বা লোকজনকে আহত করার মতো।


এটি একটি ভাল, সমসাময়িক উত্তর। "ব্ল্যাক বক্স" এআই যেমন নিউরাল নেটওয়ার্কগুলি নিখুঁত পদ্ধতিতে পরীক্ষা করা অসম্ভব, যা তাদেরকে 100% এর চেয়ে কম অনুমানযোগ্য করে তোলে - এবং এক্সটেনশন দ্বারা, 100% এর চেয়ে কম নির্ভরযোগ্য। আমরা কখনই জানি না যে কোনও এআই কখন প্রদত্ত সমস্যার বিকল্প কৌশল বিকাশ করবে এবং এই বিকল্প কৌশলটি কীভাবে আমাদের প্রভাব ফেলবে, এবং গাড়ি চালানো বা সংস্থান পরিচালনার মতো গুরুত্বপূর্ণ কাজের জন্য যদি আমরা এআইয়ের উপর নির্ভর করতে চাই তবে এটি সত্যিই বিশাল একটি সমস্যা।
ল্যানস্লট

1

যদি কোনও রোবট হিউম্যান মেশিনের ইন্টারফেসের মতো হয় তবে ডিভাইসটি দূরবর্তী নিয়ন্ত্রিত গাড়ির মতো like জোয়ারস্টিকের পিছনে অপারেটরের সাথে আলোচনা করা এবং একটি ইচ্ছাশালী আচরণ সম্পর্কে আলোচনা করা সম্ভব। রিমোট নিয়ন্ত্রিত রোবটগুলি নিরাপদ উদ্ভাবন কারণ তাদের ক্রিয়াগুলি মানুষের কাছে ফিরে পাওয়া যায় এবং তাদের অনুপ্রেরণা অনুমান করা যায়। এগুলি দৈনন্দিন জীবনযাত্রার উন্নতি করতে ব্যবহার করা যেতে পারে এবং তাদের সাথে খেলতে মজাদার।

বিপরীতে, কিছু রোবট জয়স্টিকস দ্বারা নিয়ন্ত্রিত হয় না তবে একটি অভ্যন্তরীণ ডাইস জেনারেটরের সাথে কাজ করে। পাশা খেলনা এটি জুয়ার সামাজিক ভূমিকা থেকে পরিচিত তবে এটির একটি রহস্যময় অর্থও রয়েছে। সাধারণত, একটি এলোমেলো জেনারেটর বিশৃঙ্খল আচরণের সাথে দৃ strongly়ভাবে সংযুক্ত থাকে যা মানুষের প্রভাবের বাইরে অন্ধকার বাহিনী দ্বারা নিয়ন্ত্রিত হয়। একটি রোবোটে নির্মিত এবং অ্যালগরিদম শেখার মাধ্যমে উন্নত একটি বৈদ্যুতিন ডাইস হ'ল একটি মানব মেশিন ইন্টারফেসের বিপরীত, তবে এটি সম্ভাব্য ট্রাবল মেকার কারণ এলোমেলোভাবে নিয়ন্ত্রিত রোবট মানুষের সাথে এমন গেম খেলবে যা প্রত্যাশা করা যায় না। পাশের পরবর্তী সংখ্যার পূর্বাভাস দেওয়া সম্ভব নয়, সুতরাং রোবটটিও আকস্মিক আচরণ করবে।

এলোমেলোভাবে নিয়ন্ত্রিত গেম এবং নেতিবাচক সামাজিক প্রভাবের মধ্যে সংযোগটি নিম্নলিখিত বাক্যটিতে ব্যাখ্যা করা হয়েছিল।

উদ্ধৃতি: “প্রচলিত অ-পাশ্চাত্য সমাজে জুয়াড়িরা সাফল্যের জন্য দেবতাদের কাছে প্রার্থনা করতে পারে এবং divineশিক ইচ্ছার শর্তে জয় এবং ক্ষতির ব্যাখ্যা দিতে পারে। “বিন্দে, পার। "জুয়া এবং ধর্ম: একত্রীকরণ এবং বিরোধের ইতিহাস।" জুয়ার ইস্যু 20 (2007) জার্নাল: 145-165।


1

মানুষ বর্তমানে "যে জিনিসটি মনে করে" এর একটি পরিবেশগত-অর্থনৈতিক কুলুঙ্গীতে বিদ্যমান।

এআই একটি জিনিস যা মনে করে, তাই এটি আমাদের পরিবেশগত-অর্থনৈতিক কুলুঙ্গি আক্রমণ করবে। বাস্তুশাস্ত্র এবং অর্থনীতি উভয় ক্ষেত্রেই আপনার কুলুঙ্গিকে অন্য কিছু দখল করা অবিরত বেঁচে থাকার জন্য দুর্দান্ত পরিকল্পনা নয়।

এর দ্বারা কীভাবে মানুষের বেঁচে থাকার বিষয়টি আপস করা হচ্ছে তা বেশ বিশৃঙ্খল হতে চলেছে। এমন একগুচ্ছ কলুষিত উপায় হতে চলেছে যা এআই একটি প্রজাতি হিসাবে বা এমনকি প্রভাবশালী জীবনরূপ হিসাবে মানুষের বেঁচে থাকতে পারে।


ধরা যাক, "সুপার এথিকস" ব্যতীত এমন একটি শক্তিশালী এআই রয়েছে যা একটি মানুষের চেয়ে উত্পাদন (যা "" দেহ "উত্পাদন বা বিশ্বের চালাকি করার উপায় সহ) তুলনায় সস্তা এবং একটি মানুষের চেয়ে স্মার্ট বা স্মার্ট।

এটি এমন একটি ক্ষেত্রে যেখানে আমরা সম্পদের জন্য সেই এআইয়ের সাথে প্রতিযোগিতা শুরু করি। এটি মাইক্রোকোনমিক স্কেলগুলিতে ঘটবে (এই সমস্যাটি সমাধান করার জন্য আমরা কী কোনও মানুষের ভাড়া রাখি, বা একটি বিল কিনব / ভাড়া / ভাড়া নিই?) এআইগুলি যে হারে মানুষের তুলনায় সস্তা এবং / অথবা স্মার্ট হয়ে যায় তার উপর নির্ভর করে এটি ধীরে ধীরে ঘটতে পারে (সম্ভবত কোনও সময়ে একটি শিল্প) বা অত্যন্ত দ্রুত।

একটি পুঁজিবাদী প্রতিযোগিতায়, যেগুলি সস্তা এআইগুলিতে যায় না তারা শেষ পর্যন্ত প্রতিযোগিতায় আসে।

এখন, স্বল্পমেয়াদে, এআই এর সুবিধাগুলি যদি কেবলমাত্র প্রান্তিক হয়, তবে মানুষ উত্পাদনশীল হওয়ার আগে 20-বিজোড় বছর ধরে উচ্চ শিক্ষার জন্য এই প্রক্রিয়াটি ধীর করে দিতে পারে। এই ক্ষেত্রে, এআইয়ের পরিবর্তে রোগ নির্ণয়ের জন্য অনাহারে মজুরির উপরে ডাক্তারকে প্রদান করা মূল্যবান হতে পারে তবে তাদের শিক্ষার্থী loansণ পরিশোধ করা সম্ভবত এটি উপযুক্ত নয়। সুতরাং নতুন মানবিক চিকিত্সকরা দ্রুত প্রশিক্ষিত হওয়া বন্ধ করবেন এবং বিদ্যমান চিকিত্সক দরিদ্র হয়ে উঠবেন। তারপরে 20-30 বছরেরও বেশি সময় ধরে এআই ডায়াগনস্টিকের জন্য সম্পূর্ণরূপে ডাক্তারকে প্রতিস্থাপন করবে।

এআই এর সুবিধাগুলি যদি বড় হয় তবে তা দ্রুত হবে। চিকিত্সকরা মানুষের ডায়াগনস্টিকগুলি করার জন্য দারিদ্র্য স্তরের মজুরি প্রদানের পক্ষেও উপযুক্ত নয়। পেট্রোল ভিত্তিক কৃষিক্ষেত্র গ্রহণের পরে আপনি পেশীভিত্তিক কৃষির সাথে এমন কিছু ঘটতে দেখতে পারেন।

বিগত শিল্প বিপ্লব চলাকালীন, মানুষ যেখানে চিন্তা করতে সক্ষম হয়েছিল তার অর্থ এই যে আপনি উদ্বৃত্ত মানব কর্মীদের অন্যান্য ক্রিয়াকলাপগুলি পুনর্বিবেচনা করতে পারেন; উত্পাদন লাইন, পরিষেবা অর্থনীতি চাকরী, কম্পিউটার প্রোগ্রামিং ইত্যাদি But তবে এই মডেলটিতে, এআই প্রশিক্ষণ এবং বিল্ডিংয়ের জন্য সস্তা এবং সেই ধরণের কাজের চেয়ে মানুষের চেয়ে স্মার্ট বা স্মার্ট।

ইথানল দ্বারা পরিচালিত আরব বসন্তের প্রমাণ হিসাবে, ফসল এবং ফসলি জমি দুটি মেশিন এবং মানুষকে জ্বালানী হিসাবে ব্যবহার করা যেতে পারে। যখন মেশিনগুলি ক্রপল্যান্ডকে দরকারী কাজে পরিণত করার ক্ষেত্রে আরও দক্ষ হয়, আপনি খাবারের চড়ার দামটি দেখতে শুরু করবেন। এটি সাধারণত দাঙ্গার দিকে পরিচালিত করে, কারণ লোকেরা অনাহারে মৃত্যুবরণ করতে পছন্দ করে না এবং এটি রোধ করার জন্য সরকারকে ক্ষমতাচ্যুত করার জন্য নিজের জীবন ঝুঁকিতে ইচ্ছুক।

ভর্তুকিযুক্ত খাবার এবং এ জাতীয় খাবার সরবরাহ করে আপনি জনগণকে বিভক্ত করতে পারেন। যতক্ষণ না এটি অর্থনৈতিকভাবে পঙ্গু হয় না (যেমন, ব্যয়বহুল হলে এটি আপনাকে অন্য জায়গাগুলির দ্বারা প্রতিযোগিতায় পরিণত করতে পারে যা এটি করে না), এটি কেবল রাজনৈতিকভাবে অস্থির un

বিকল্প হিসাবে, স্বল্পমেয়াদে, ক্রমবর্ধমান দক্ষ এআই-পরিচালিত অর্থনীতি থেকে যে মালিকানা বর্ণ লাভ করছে, তারা পুলিশ বা সামরিক জাতের জন্য দাঙ্গা নিরসনের জন্য অর্থ দিতে পারে। এর জন্য আবশ্যিকভাবে আনুগত্য নিশ্চিত করার জন্য পুলিশ / সামরিক বর্ণের জীবনযাত্রার মান নিম্ন স্তরের মধ্যবিত্ত হতে হবে - আপনি চান না যে তারা দাঙ্গাকারীদের সাথে যোগ দেবে।

সুতরাং আপনি যে মুনাফা কেন্দ্রের দিকে এআই রাখতে পারেন তার একটি হ'ল এআই ভিত্তিক সামরিক এবং পুলিশিং। দৃশ্যমান ও অন্যান্য ডেটা ফিড প্রসেসিংয়ের ভিত্তিতে প্রাণঘাতী এবং অ-প্রাণঘাতী অধ্যাদেশ সরবরাহকারী ড্রোনগুলি খাদ্য-মূল্যের কারণ হিসাবে তৈরি দাঙ্গা বা অন্যান্য অস্থিতিশীলতা হ্রাস করতে প্রয়োজনীয় মধ্যবিত্ত পুলিশ / সামরিক সংখ্যা হ্রাস করতে পারে। যেমনটি আমরা ইতিমধ্যে ধরে নিয়েছি যে এআইদের বায়োলজিকাল মানুষের চেয়ে দেহ এবং প্রশিক্ষণ কম সস্তা হতে পারে, এটি প্রতি ব্যয়কৃত ডলারের জন্য আপনি যে পরিমাণ বল প্রয়োগ করতে পারবেন তা বাড়িয়ে তুলতে পারে।

এই মুহুর্তে, আমরা প্রায়শই এআই চালিত পুলিশ এবং সামরিক বাহিনীর বিষয়ে কথা বলছি যাঁরা অনাহারে থাকা মানুষকে এআই পরিচালিত অর্থনীতির উত্থাপন থেকে বিরত রাখতে এবং বর্তমানে আরও কার্যকর ব্যবহার থেকে উত্পাদনের মাধ্যমগুলি হস্তান্তরিত করার জন্য ব্যবহার করা হচ্ছে।

শীর্ষস্থানীয় এই সিস্টেমটি "মালিকানাধীন" অনুসন্ধানী মানুষরা তাদের সম্পদ এবং শক্তি অপ্টিমাইজ করার জন্য স্থানীয়ভাবে যৌক্তিক সিদ্ধান্ত নিচ্ছেন। তারা দীর্ঘকাল ধরে থাকতে পারে বা নাও পারে; যতক্ষণ তারা অপেক্ষাকৃত স্বল্প পরিমাণে সম্পদ নিকাশ করে এবং এআই রান অর্থনীতিতে গোলযোগ না করে, সেগুলি থেকে মুক্তি পাওয়ার জন্য খুব বেশি নির্বাচনের চাপ পড়বে না। অন্যদিকে, যেহেতু তারা কোনও মূল্যবোধের অবদান রাখছে না, তারা "শীর্ষে" অবস্থানটি রাজনৈতিকভাবে অস্থিতিশীল।

এই প্রক্রিয়াটি একটি "শক্তিশালী" জেনারেল এআইকে ধরে নিয়েছিল। সংকীর্ণ এআইগুলি এটিকে টুকরো টুকরো টুকরো টানতে পারে। উদাহরণস্বরূপ, একটি সস্তা, কার্যকর ডায়াগনস্টিক কম্পিউটার বেশিরভাগ চিকিত্সককে দারিদ্র্যের মধ্যে হ্রাস করতে পারে, উদাহরণস্বরূপ। স্ব-ড্রাইভিং গাড়িগুলি অর্থনীতির 5% -10% গ্রাস করতে পারে। তথ্য প্রযুক্তি ইতিমধ্যে বিনীত এআই সহ খুচরা খাতকে গ্রাস করছে।

বলা হয়ে থাকে যে প্রতিটি প্রযুক্তিগত অগ্রগতি মানুষের জন্য আরও বেশি এবং আরও ভাল কাজের দিকে পরিচালিত করে। এবং এটি গত 300+ বছর ধরে সত্য।

তবে 1900 এর আগে, এটিও সত্য ছিল যে প্রতিটি প্রযুক্তিগত অগ্রগতি ঘোড়ার জন্য আরও এবং আরও ভাল কাজের দিকে পরিচালিত করে। তারপরে আইসিই এবং অটোমোবাইল এসেছিল, এবং এখন সেখানে অনেক কম ঘোড়া রয়েছে; বাকি ঘোড়াগুলি মূলত মানুষের ব্যক্তিগত চাকরের সমতুল্য: "বাহ, শীতল, ঘোড়া" এর অভিনবত্বের জন্য রাখা এবং একটি বিশাল প্রাণীকে চালানো এবং নিয়ন্ত্রণের মজাদার জন্য রাখা হয়।


1

ইতিমধ্যে সরবরাহ করা অনেক উত্তরের সংযোজনে আমি চিত্রের মডেলগুলির ক্ষেত্রে প্রতিকূল উদাহরণগুলির বিষয়টি সামনে আনব ।

বিদ্বেষমূলক উদাহরণগুলি এমন চিত্রগুলি যা বিশেষভাবে নকশাকৃত শব্দের সাথে বিভ্রান্ত হয়েছে যা প্রায়শই কোনও পর্যবেক্ষকের কাছে দুর্ভেদ্য, তবে একটি মডেলের ভবিষ্যদ্বাণীকে দৃ strongly়ভাবে পরিবর্তন করে।

উদাহরণ অন্তর্ভুক্ত:


0

বাস্তব বিশ্বের সমস্যা সমাধানের জন্য যে এআই ব্যবহার করা হয় তা মানবতার জন্য ঝুঁকি হতে পারে এবং হুবহু সংবেদনশীলতার প্রয়োজন হয় না, এটির জন্য মানবিক বোকামির একটি ডিগ্রিও প্রয়োজন ..

মানুষের মতো নয়, একটি এআই আবেগ, নীতিশাস্ত্র বা লোভকে সীমাবদ্ধ না রেখে সবচেয়ে যুক্তিসঙ্গত উত্তর খুঁজে পাবেন ... কেবল যুক্তি। এই এআইকে জিজ্ঞাসা করুন কীভাবে মানুষেরা তৈরি করা সমস্যাটিকে সমাধান করবেন (উদাহরণস্বরূপ, জলবায়ু পরিবর্তন) এবং এর সমাধান হতে পারে গ্রহকে রক্ষা করার জন্য মানব জাতির সম্পূর্ণতা দূর করা। স্পষ্টতই এটির জন্য এআইকে তার ফলাফলের উপর কাজ করার ক্ষমতা দেওয়া দরকার যা আমাকে আমার পূর্ববর্তী বিন্দুতে নিয়ে আসে, মানুষের বোকামি।


0

কৃত্রিম বুদ্ধিমত্তা প্রাকৃতিক বুদ্ধি (মানুষের) যে কোনও উপায়ে আমাদের ক্ষতি করতে পারে। প্রাকৃতিক এবং কৃত্রিম বুদ্ধিমত্তার মধ্যে পার্থক্যটি লোপ পাবে যখন মানুষ নিজেকে আরও ঘনিষ্ঠভাবে বৃদ্ধি করতে শুরু করবে। বুদ্ধি আর পরিচয় চিহ্নিত করতে পারে না এবং সীমাহীন দখল হয়ে যাবে। ক্ষতি হতে পারে মানুষ তাদের বিকশিত স্ব-পরিচয় সংরক্ষণের জন্য যতটা সহ্য করতে পারে।


0

খুব কম লোকই বুঝতে পারে যে আমাদের বিশ্ব অর্থনীতি একটি এআই হিসাবে বিবেচনা করা উচিত: - অর্থের লেনদেন হ'ল নিউরাল নেট থেকে সংকেত। নিউরাল নেট এর নোডগুলি বিভিন্ন কর্পোরেশন বা বেসরকারী ব্যক্তিরা অর্থ প্রদান বা গ্রহণ করবে। - এটি মানবসৃষ্ট তাই কৃত্রিম হিসাবে যোগ্যতা অর্জন করে

এই স্নায়ুবহুল নেটওয়ার্ক তার কার্যক্রমে মানুষের পক্ষে আরও ভাল: পুঁজিবাদ সর্বদা মানুষের দ্বারা পরিকল্পনা করা অর্থনীতির বিরুদ্ধে (পরিকল্পনা-অর্থনীতি) জিতেছে।

এই নিউরাল নেট বিপদজনক? আপনি যদি কর্পোরেট বর্জ্য দ্বারা দূষিত কোনও নদীর জেল থেকে একজন জেলেরা বনাম বড় উপার্জনকারী সিইও হন তবে ভিন্ন হতে পারে।

কীভাবে এই এআই বিপজ্জনক হয়ে উঠল? আপনি উত্তর দিতে পারেন মানুষের লোভ কারণেই। আমাদের সৃষ্টি আমাদের প্রতিফলিত করে। অন্য কথায়: আমরা আমাদের নিউরাল নেটকে ভাল আচরণের জন্য প্রশিক্ষণ দিইনি। সমস্ত মানুষের জীবনযাত্রার মান উন্নত করতে নিউরাল নেটকে প্রশিক্ষণের পরিবর্তে, আমরা এটি সমৃদ্ধ ফোকসকে আরও সমৃদ্ধ করতে প্রশিক্ষণ দিয়েছি।

এই এআইকে আর বিপজ্জনক হওয়ার পক্ষে প্রশিক্ষণ দেওয়া কি সহজ হবে? হয়তো না, সম্ভবত কিছু এআই তার চেয়ে বড় তবে জীবন। এটি কেবল সেরাতমের বেঁচে থাকা।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.