আমরা প্রায়শই শুনি কৃত্রিম বুদ্ধিমত্তা মানুষের ক্ষতি করতে পারে এমনকি হত্যা করতে পারে, তাই এটি বিপজ্জনক প্রমাণিত হতে পারে।
কৃত্রিম বুদ্ধি আমাদের কীভাবে ক্ষতি করতে পারে?
আমরা প্রায়শই শুনি কৃত্রিম বুদ্ধিমত্তা মানুষের ক্ষতি করতে পারে এমনকি হত্যা করতে পারে, তাই এটি বিপজ্জনক প্রমাণিত হতে পারে।
কৃত্রিম বুদ্ধি আমাদের কীভাবে ক্ষতি করতে পারে?
উত্তর:
লোকেরা এআইকে ভয় করতে পারে (বা আরও ভাল সম্পর্কে উদ্বিগ্ন ) হতে পারে এমন অনেকগুলি বৈধ কারণ রয়েছে , সমস্তই রোবট এবং অ্যাপোক্যালिप्टিক পরিস্থিতিতে জড়িত না।
এই উদ্বেগগুলির আরও ভালভাবে বর্ণনা করার জন্য, আমি তাদের তিনটি বিভাগে বিভক্ত করার চেষ্টা করব।
এটি এআই এর ধরণ যা আপনার প্রশ্ন উল্লেখ করছে। একটি অতি-বুদ্ধিমান সচেতন এআই যা মানবতা ধ্বংস / গোলাম করে দেবে। এটি বেশিরভাগ আমাদের কাছে বিজ্ঞান-কল্পকাহিনী দ্বারা আনা হয়েছে। হলিউডের কয়েকটি উল্লেখযোগ্য উদাহরণ হ'ল "টার্মিনেটর" , "দ্য ম্যাট্রিক্স" , "এজ অফ আলট্রন" । সর্বাধিক প্রভাবশালী উপন্যাসগুলি আইজ্যাক অসিমভ লিখেছিলেন এবং এটি "রোবট সিরিজ" হিসাবে উল্লেখ করা হয় (যার মধ্যে "আমি, রোবট" অন্তর্ভুক্ত রয়েছে , এটি চলচ্চিত্র হিসাবেও অভিযোজিত হয়েছিল)।
এগুলির বেশিরভাগ কাজের মূল ভিত্তি হ'ল এআই এমন এক পর্যায়ে বিকশিত হবে যেখানে এটি সচেতন হয়ে উঠবে এবং বুদ্ধিমত্তায় মানুষকে ছাড়িয়ে যাবে। হলিউডের মুভিগুলি মূলত রোবট এবং তাদের এবং মানুষের লড়াইয়ের দিকে মনোনিবেশ করে, প্রকৃত এআই (অর্থাৎ "মস্তিষ্ক" এগুলি নিয়ন্ত্রণ করে) তেমন জোর দেওয়া হয় না। পার্শ্ব নোট হিসাবে, আখ্যানটির কারণে, এই এআই সাধারণত সমস্ত কিছু নিয়ন্ত্রণকারী সুপার কম্পিউটার হিসাবে চিত্রিত করা হয় (যাতে নায়কদের একটি নির্দিষ্ট লক্ষ্য থাকে)। "অস্পষ্ট বুদ্ধি" (যা আমি মনে করি আরও বাস্তববাদী) বিষয়ে পর্যাপ্ত অনুসন্ধান করা হয়নি।
বাস্তব বিশ্বে, এআই নির্দিষ্ট কাজগুলি সমাধানের দিকে দৃষ্টি নিবদ্ধ করে! একটি এআই এজেন্ট যা বিভিন্ন ডোমেইন থেকে সমস্যাগুলি সমাধান করতে সক্ষম (যেমন স্পিচ বুঝতে এবং প্রসেসিং চিত্র এবং ড্রাইভিং এবং ... - যেমন মানুষের হয়) সাধারণ কৃত্রিম বুদ্ধিমত্তা হিসাবে উল্লেখ করা হয় এবং এআই "চিন্তা" করতে সক্ষম হয়ে ওঠার জন্য প্রয়োজনীয় সচেতন।
বাস্তবতাত্ত্বিকভাবে, আমরা সাধারণ কৃত্রিম বুদ্ধিমত্তার থেকে একটি লুওউইউং পথ ! বলা হচ্ছে যে ভবিষ্যতে কেন এটি অর্জন করা যায় না তার কোনও প্রমাণ নেই । সুতরাং, বর্তমানে আমরা এআই এর শৈশবকালীন অবস্থায় থাকলেও আমাদের বিশ্বাস করার কোনও কারণ নেই যে এআই এমন একটি অবস্থানে উন্নত হবে না যেখানে এটি মানুষের চেয়ে বুদ্ধিমান।
যদিও একটি এআই বিশ্বজুড়ে বিজয় ঘটতে অনেক দূরে রয়েছে , আজ এআইয়ের সাথে উদ্বিগ্ন হওয়ার বেশ কয়েকটি কারণ রয়েছে , এতে রোবট জড়িত নয়! দ্বিতীয় বিভাগটিতে আমি আরও কিছুটা ফোকাস করতে চাই তা হ'ল আজকের এআই এর কয়েকটি দূষিত ব্যবহার।
আমি আজ উপলব্ধ এআই অ্যাপ্লিকেশনগুলিতে মনোনিবেশ করব । এআই এর কয়েকটি উদাহরণ যা দূষিত অভিপ্রায়র জন্য ব্যবহার করা যেতে পারে:
ডিপফেক : কোনও ব্যক্তির মুখের উপর চাপিয়ে দেওয়ার জন্য একটি কৌশল অন্য ব্যক্তির একটি ভিডিও। এটি সেলিব্রিটি পর্নির মাধ্যমে সম্প্রতি জনপ্রিয়তা অর্জন করেছে এবং জাল সংবাদ এবং ফাঁকিবাজি তৈরি করতে ব্যবহার করা যেতে পারে । সূত্র: 1 , 2 , 3
ব্যবহারের সঙ্গে ভর নজরদারি সিস্টেম এবং মুখের স্বীকৃতি সফ্টওয়্যার স্বীকৃতি করতে সক্ষম প্রতি সেকেন্ডে মুখমন্ডল লক্ষ লক্ষ , এআই ভর নজরদারির ব্যবহার করা যাবে। যদিও আমরা গণ পর্যবেক্ষণের কথা চিন্তা করি আমরা যখন চিনের কথা চিন্তা করি তখনও পশ্চিমের অনেক শহর লন্ডন , আটলান্টা এবং বার্লিন বিশ্বের সর্বাধিক নজরদারি করা শহরগুলির মধ্যে একটি । চীন সামাজিক creditণ ব্যবস্থা গ্রহণ করে বিষয়গুলিকে আরও একধাপ এগিয়ে নিয়েছে , বেসামরিকদের জন্য একটি মূল্যায়ন ব্যবস্থা যা মনে হয় জর্জ অরওয়েলের ১৯৮৪ এর পাতাগুলি থেকে সোজাভাবে নেওয়া হয়েছিল।
সামাজিক যোগাযোগ মাধ্যমে মানুষকে প্রভাবিত করছে । লক্ষ্যযুক্ত বিপণনের লক্ষ্যের সাথে ব্যবহারকারীর স্বাদগুলি স্বীকৃতি দেওয়া এবং প্লেসমেন্টগুলি যুক্ত করা (অনেকগুলি ইন্টারনেট সংস্থার একটি প্রচলিত অনুশীলন), জনগণের ভোটদানকে প্রভাবিত করার জন্য এআই (ম্যাসেজ) ব্যবহার করা যেতে পারে (অন্যান্য বিষয়ের মধ্যে)। সূত্র: 1 , 2 , 3 ।
হ্যাকিং ।
সামরিক অ্যাপ্লিকেশন, উদাহরণস্বরূপ ড্রোন আক্রমণ, ক্ষেপণাস্ত্র লক্ষ্যবস্তু সিস্টেম।
এই বিভাগটি বেশ সাবজেক্টিভ, তবে এআই এর বিকাশ কিছু প্রতিকূল পার্শ্ব প্রতিক্রিয়া বহন করতে পারে। এই বিভাগ এবং পূর্বের মধ্যে পার্থক্য হ'ল এই প্রভাবগুলি ক্ষতিকারক হলেও এটি ইচ্ছাকৃতভাবে করা হয় না; বরং এআই এর বিকাশের সাথে ঘটে। কয়েকটি উদাহরণ হ'ল:
কাজগুলি অনর্থক হয়ে উঠছে । এআই আরও উন্নত হওয়ার সাথে সাথে অনেকগুলি চাকরি এআই দ্বারা প্রতিস্থাপিত হবে। দুর্ভাগ্যক্রমে এগুলি নিয়ে অনেক কিছুই করা যায় না, কারণ বেশিরভাগ প্রযুক্তিগত বিকাশের এই পার্শ্ব-প্রতিক্রিয়া রয়েছে (উদাহরণস্বরূপ কৃষি যন্ত্রপাতি অনেক কৃষককে তাদের চাকরি হারাতে বাধ্য করেছিল, অটোমেশন অনেকগুলি কারখানার শ্রমিককে প্রতিস্থাপন করেছিল, কম্পিউটারগুলিও এটি করেছিল)।
আমাদের ডেটাতে পক্ষপাতিত্বকে শক্তিশালী করা । এটি একটি খুব আকর্ষণীয় বিভাগ, কারণ এআই (এবং বিশেষত নিউরাল নেটওয়ার্কগুলি) তাদের উপর প্রশিক্ষণপ্রাপ্ত ডেটাগুলির মতোই দুর্দান্ত এবং ডেটাতে ইতিমধ্যে বিদ্যমান সামাজিক পক্ষপাতের বিভিন্ন রূপ স্থায়ীকরণ এবং এমনকি বাড়ানোর প্রবণতা রয়েছে। নেটওয়ার্কগুলি বর্ণবাদী এবং যৌনতাবাদী আচরণ প্রদর্শন করে এমন অনেকগুলি উদাহরণ রয়েছে। সূত্র: 1 , 2 , 3 , 4 ।
আমি উল্লেখ জানেন যে সব এগুলোর ইতিমধ্যে পুরোদমে হয়?
যদিও এআই এবং এজিআইয়ের মধ্যে কোনও স্পষ্ট লাইন নেই, এই বিভাগটি যখন আমরা আরও এজিআইয়ের দিকে এগিয়ে যাই তখন কী হয় সে সম্পর্কে আরও বেশি। আমি দুটি বিকল্প দেখতে পাচ্ছি:
প্রথম ক্ষেত্রে, যদি একটি এআই "দুর্বৃত্ত হয়ে যায়" তবে আমরা অন্য এআইগুলিকে এটি ছাপিয়ে ও নিরপেক্ষ করার জন্য তৈরি করতে পারি। দ্বিতীয় ক্ষেত্রে, আমরা পারি না, এবং আমরা ধ্বংস হয়ে যাব। এআইগুলি একটি নতুন জীবনরূপ হবে এবং আমরা বিলুপ্ত হতে পারি।
এখানে কিছু সম্ভাব্য সমস্যা রয়েছে:
আমি মনে করি এজিআই আসছে এবং আমাদের এই সমস্যাগুলি সম্পর্কে সচেতন হওয়া দরকার যাতে আমরা সেগুলি হ্রাস করতে পারি।
অন্যান্য উত্তরগুলি ছাড়াও, আমি কুকি ফ্যাক্টরির উদাহরণটি নুক করে যোগ করতে চাই:
মেশিন লার্নিং এআই মূলত মানুষের দ্বারা বর্ণিত একটি লক্ষ্য পূরণ করার চেষ্টা করে। উদাহরণস্বরূপ, মানুষ একটি কুকি কারখানা চালিয়ে একটি এআই তৈরি করে। তাদের কার্যকর করা লক্ষ্যটি হ'ল সর্বোচ্চ লাভজনক ব্যবস্থার জন্য যথাসম্ভব কুকি বিক্রয় করা।
এখন, একটি এআই কল্পনা করুন যা যথেষ্ট শক্তিশালী। এই এআই লক্ষ্য করবে যে তিনি যদি অন্য সমস্ত কুকি কারখানার সংকেত রাখে তবে প্রত্যেককে তার কারখানায় কুকি কিনতে হবে, বিক্রি বাড়িয়ে লাভ বেশি করা হবে।
সুতরাং, এখানে মানুষের ত্রুটিটি অ্যালগরিদমে সহিংসতা ব্যবহার করার জন্য কোনও জরিমানা দিচ্ছে না। এটি সহজেই উপেক্ষা করা হবে কারণ মানুষ অ্যালগরিদম এই সিদ্ধান্তে পৌঁছানোর আশা করেনি।
এআই দ্বারা ক্ষতির জন্য আমার প্রিয় দৃশ্যে উচ্চ বুদ্ধি নয়, কম বুদ্ধি জড়িত। বিশেষত, ধূসর গু অনুমান।
এখানেই একটি স্ব-প্রতিরূপকরণ, স্বয়ংক্রিয় প্রক্রিয়া অ্যামোক চালায় এবং সমস্ত সংস্থানকে নিজের অনুলিপিতে রূপান্তর করে ts
এখানে মূল বক্তব্যটি হ'ল এআই উচ্চ বুদ্ধি বা সাধারণ বুদ্ধিমান ধারণার অর্থে "স্মার্ট" নয় - এটি একটি জিনিসেই নিখুঁতভাবে খুব ভাল এবং তাত্পর্যপূর্ণভাবে প্রতিলিপি দেওয়ার ক্ষমতা রাখে।
আমি বলব সবচেয়ে বড় আসল হুমকি হ'ল ভারসাম্যহীনতা / বাধাদান যা আমরা ইতিমধ্যে দেখছি। 90% দেশকে কাজের বাইরে রাখার পরিবর্তনগুলি আসল এবং ফলাফলগুলি (যা সম্পদের আরও অসম বন্টন হবে) আপনি যদি এগুলি মনে করেন তবে তা ভীতিজনক।
আমার একটি উদাহরণ রয়েছে যা জনসাধারণের ভয়ের বিপরীত দিকে এগিয়ে যায়, তবে এটি একটি সত্যই সত্য, যা আমি ইতিমধ্যে ঘটতে দেখছি। এটি এআই-নির্দিষ্ট নয়, তবে আমি মনে করি এটি এআইয়ের মাধ্যমে আরও খারাপ হবে। সমালোচনামূলক প্রয়োগগুলিতে অন্ধভাবে এআই-এর সিদ্ধান্তে বিশ্বাস করা মানুষের সমস্যা ।
আমাদের অনেক ক্ষেত্র রয়েছে যেখানে মানব বিশেষজ্ঞরা সিদ্ধান্ত নেবেন বলে মনে করা হচ্ছে। উদাহরণস্বরূপ ওষুধ গ্রহণ করুন - আমাদের কি X বা ওষুধ দেওয়া উচিত? আমার মনে যে পরিস্থিতিগুলি মনে আছে তা হ'ল ঘন জটিল সমস্যা (সাইনেফিন অর্থে) যেখানে কাউকে খুব ঘনিষ্ঠভাবে মনোযোগ দেওয়া এবং প্রচুর দক্ষতা ব্যবহার করা সত্যই ভাল জিনিস এবং ফলাফলটি সত্যই গুরুত্বপূর্ণ।
চিকিত্সা সম্পর্কিত তথ্যদাতাদের problemষধে এই ধরণের সমস্যার জন্য সিদ্ধান্ত সমর্থন সিস্টেমগুলি লেখার দাবি রয়েছে (এবং আমি মনে করি একই ধরণের জন্য অন্যান্য ডোমেনগুলির জন্যও)। তারা তাদের যথাসাধ্য চেষ্টা করে, তবে প্রত্যাশা সর্বদা যে কোনও বিশেষজ্ঞ বিশেষজ্ঞ সিদ্ধান্ত নেওয়ার সময় সিস্টেমের পরামর্শটিকে আরও একটি মতামত হিসাবে সর্বদা বিবেচনা করবেন। অনেক ক্ষেত্রে, জ্ঞানের অবস্থা এবং বিকাশকারীদের কাছে উপলব্ধ সংস্থানগুলি দেওয়া, অন্য কোনও কিছুর প্রতিশ্রুতি দেওয়া দায়িত্বজ্ঞানহীন হবে। একটি সাধারণ উদাহরণটি রেডিওমিক্সগুলিতে কম্পিউটার দৃষ্টিভঙ্গির ব্যবহার হ'ল: একজন রোগী একটি সিটি স্ক্যান পান এবং এআইকে চিত্রটি প্রক্রিয়া করতে হবে এবং রোগীর টিউমার আছে কিনা তা সিদ্ধান্ত নিতে হবে।
অবশ্যই, এআই নিখুঁত নয়। এমনকি স্বর্ণের স্ট্যান্ডার্ডের সাথে পরিমাপ করা হলেও এটি কখনই 100% নির্ভুলতা অর্জন করে না। এবং তারপরে এমন সমস্ত কেস রয়েছে যেখানে এটি তার নিজস্ব লক্ষ্য মেট্রিকের বিরুদ্ধে ভাল সম্পাদন করে তবে সমস্যাটি এতটাই জটিল ছিল যে গোল মেট্রিক এটিকে ভালভাবে ধারণ করে না - আমি সিটি প্রসঙ্গে একটি উদাহরণটি ভাবতে পারি না, তবে আমার ধারণা আমরা এটি এখানে এমনকি এসইতে দেখতে পাই যেখানে অ্যালগরিদমগুলি পোস্টগুলিতে জনপ্রিয়তার পক্ষে, যা সত্যিক সত্যতার জন্য একটি অপূর্ণ প্রক্সি।
আপনি সম্ভবত শেষ অনুচ্ছেদটি পড়ছিলেন এবং পাশাপাশি হাঁটছিলেন, "হ্যাঁ, আমি শিখেছি যে প্রথম প্রবর্তনীয় এমএল কোর্সে আমি নিয়েছি"। কি অনুমান? চিকিত্সকরা কখনও প্রারম্ভিক এমএল কোর্স নেন নি। মেডিকেল জার্নালে প্রকাশিত কাগজপত্রের সিদ্ধান্তগুলি বোঝার জন্য তাদের কাছে খুব কমই পরিসংখ্যানগত সাক্ষরতা রয়েছে have যখন তারা তাদের 27 তম রোগীর সাথে কথা বলছেন, তাদের 16 ঘন্টা শিফটে 7 ঘন্টা, ক্ষুধার্ত এবং আবেগগতভাবে শুকিয়ে গেছে, এবং সিটি সমস্ত পরিষ্কার-পরিচ্ছন্ন দেখায় না, তবে কম্পিউটার বলে "এটি কোনও মারাত্মকতা নয়", তারা বলে না চিত্রটিতে আরও মনোনিবেশ করতে আরও দশ মিনিট সময় নিন বা পাঠ্যপুস্তকটি সন্ধান করুন বা সহকর্মীর সাথে পরামর্শ করুন। তারা কেবল কম্পিউটার যা বলে তা নিয়ে যায়, কৃতজ্ঞ যে তাদের জ্ঞানীয় বোঝা আবারো আকাশ ছোঁয়া হয়নি। সুতরাং তারা বিশেষজ্ঞ হতে পরিণত হয়ে এমন লোক হয়ে উঠেন যারা স্ক্রিনের বাইরে কিছু পড়ে। রীতিমত ভয়াবহ, কিছু কিছু হাসপাতালে প্রশাসন কেবল কম্পিউটারগুলিকেই বিশ্বাস করে না, এটি এটিও খুঁজে পেয়েছে যে তারা সুবিধাজনক বলির ছাগল। সুতরাং, একজন চিকিত্সকের খারাপ কান্ড রয়েছে যা কম্পিউটারের আউটপুটের বিপরীতে চলে যায়, তাদের পক্ষে এই কুঁচকিতে অভিনয় করা এবং তাদের পক্ষে নিজেকে রক্ষা করা কঠিন হয়ে পড়ে যে তারা এআইয়ের মতামতকে অগ্রাহ্য করার সিদ্ধান্ত নিয়েছে।
এআইগুলি শক্তিশালী এবং দরকারী সরঞ্জাম, তবে সর্বদা এমন কাজ থাকবে যেখানে তারা সরঞ্জামওয়ালারকে প্রতিস্থাপন করতে পারে না।
এটি কেবলমাত্র অন্য উত্তরের পরিপূরক হতে চায় তাই আমি স্বেচ্ছায় মানবতার দাসত্ব করার চেষ্টা করার এআইয়ের সম্ভাবনা নিয়ে আলোচনা করব না।
তবে ইতিমধ্যে এখানে একটি ভিন্ন ঝুঁকি রয়েছে। আমি একে অপরিকল্পিত প্রযুক্তি বলব । আমি বিজ্ঞান এবং প্রযুক্তি শিখিয়েছি, এবং আইএমএইচও, এআই নিজেই ভাল-মন্দ এবং স্বাধীনতার কোন ধারণা নেই। তবে এটি মানব নির্মিত এবং ব্যবহার করে এবং কারণেই অযৌক্তিক আচরণ জড়িত হতে পারে।
আমি এআইয়ের চেয়ে সাধারণ আইটির সাথে সম্পর্কিত আরও একটি বাস্তব জীবনের উদাহরণ দিয়ে শুরু করব। আমি ভাইরাস বা অন্যান্য ম্যালওয়্যার সম্পর্কে বলব। কম্পিউটারগুলি বরং বোকা মেশিন যা দ্রুত ডেটা প্রক্রিয়াকরণের জন্য ভাল। তাই বেশিরভাগ লোক তাদের উপর নির্ভর করে। কিছু (খারাপ) লোক ম্যালওয়্যার তৈরি করে যা কম্পিউটারগুলির সঠিক আচরণকে ব্যাহত করে। এবং আমরা সকলেই জানি যে তাদের ক্ষুদ্র থেকে মাঝারি সংস্থাগুলিতে ভয়াবহ প্রভাব পড়তে পারে যা কম্পিউটার ক্ষতির পক্ষে প্রস্তুত নয়।
এআই কম্পিউটার ভিত্তিক তাই এটি কম্পিউটার ধরণের আক্রমণে ঝুঁকিপূর্ণ। এখানে আমার উদাহরণ এআই চালিত গাড়ি হবে be প্রযুক্তিটি প্রায় কাজ করতে প্রস্তুত। তবে কোনও ম্যালওয়্যার গাড়িটিকে রাস্তায় থাকা অন্য লোকগুলিকে আক্রমণ করার চেষ্টা করার ফলে কী প্রভাব ফেলবে তা কল্পনা করুন। এমনকি এআই এর কোডটিতে সরাসরি অ্যাক্সেস না করেও পার্শ্ব চ্যানেলগুলি দ্বারা আক্রমণ করা যেতে পারে । উদাহরণস্বরূপ এটি সিগন্যাল লক্ষণগুলি পড়তে ক্যামেরা ব্যবহার করে। তবে যেভাবে মেশিন লার্নিং বাস্তবায়িত হয়, এআই জেনারালি কোনও দৃশ্যের মতোই কোনও মানুষের বিশ্লেষণ করে না। গবেষকরা দেখিয়েছেন যে কোনও সাধারণ মানুষ এখনও মূল চিহ্নটি দেখতে পাবে এমনভাবে একটি লক্ষণ পরিবর্তন করা সম্ভব ছিল, তবে একটি এআই অন্যরকম দেখতে পাবে। এখনই ভাবুন যে সাইনটি হচ্ছে রাস্তার অগ্রাধিকারের চিহ্ন ...
আমার অর্থ হ'ল এআই এর কোনও খারাপ উদ্দেশ্য না থাকলেও খারাপ ছেলেরা এটিকে খারাপ আচরণ করার চেষ্টা করতে পারে। এবং আরও গুরুত্বপূর্ণ ক্রিয়াকলাপগুলিতে এআই (মেডিসিন, গাড়ি, প্লেন, বোমার কথা না বলা) আরোপিত হবে ঝুঁকি তত বেশি। অন্যরকম বলেছিলেন, আমি নিজেই এআইকে ভয় করি না, তবে যেভাবে এটি মানুষ ব্যবহার করতে পারে তার জন্য for
আমি মনে করি যে সর্বাধিক বাস্তব (যেমন, বর্তমান, বিদ্যমান এআইগুলির সাথে সম্পর্কিত) ঝুঁকি দুটি কারণে অন্বেষিত এআই-তে অন্ধভাবে নির্ভর করছে।
এআই সিস্টেমে শারীরিক ত্রুটিগুলি যে অঞ্চলে তাদের পরীক্ষা করা হয়নি সেই অঞ্চলে বন্যপ্রাণভাবে ভুল ফলাফল তৈরি করা শুরু করতে পারে কারণ শারীরিক ব্যবস্থা ভুল মান প্রদান শুরু করে। এটি কখনও কখনও স্ব-পরীক্ষার এবং অপ্রয়োজনীয়তার দ্বারা মুক্ত হয় তবে এখনও মাঝে মাঝে মানুষের তদারকি প্রয়োজন।
স্ব-শিক্ষার এআইগুলিরও একটি সফ্টওয়্যার দুর্বলতা রয়েছে - তাদের ওজন নেটওয়ার্ক বা পরিসংখ্যান উপস্থাপনা স্থানীয় মিনিমাতে যেতে পারে যেখানে তারা একটি ভুল ফলাফলের সাথে আটকে রয়েছে।
এটি সৌভাগ্যক্রমে প্রায়শই আলোচিত হয় তবে উল্লেখ করার মতো: এআই সিস্টেমগুলির ইনপুটগুলির শ্রেণিবিন্যাস প্রায়শই পক্ষপাতদুষ্ট কারণ প্রশিক্ষণ / পরীক্ষার ডেটাসেটটিও পক্ষপাতদুষ্ট ছিল। এআই-এর ফলাফল আরও নির্দিষ্ট উদাহরণের জন্য নির্দিষ্ট জাতিগোষ্ঠীর লোকদের স্বীকৃতি না দেয়। তবে খুব কম স্পষ্ট ঘটনা রয়েছে যা কেবলমাত্র কিছু দুর্ঘটনার পরে আবিষ্কার করা যেতে পারে যেমন এআই নির্দিষ্ট তথ্য সনাক্ত না করে এবং দুর্ঘটনাবশত একটি কারখানায় আগুন লাগানো, সরঞ্জামাদি ভাঙ্গা বা লোকজনকে আহত করার মতো।
যদি কোনও রোবট হিউম্যান মেশিনের ইন্টারফেসের মতো হয় তবে ডিভাইসটি দূরবর্তী নিয়ন্ত্রিত গাড়ির মতো like জোয়ারস্টিকের পিছনে অপারেটরের সাথে আলোচনা করা এবং একটি ইচ্ছাশালী আচরণ সম্পর্কে আলোচনা করা সম্ভব। রিমোট নিয়ন্ত্রিত রোবটগুলি নিরাপদ উদ্ভাবন কারণ তাদের ক্রিয়াগুলি মানুষের কাছে ফিরে পাওয়া যায় এবং তাদের অনুপ্রেরণা অনুমান করা যায়। এগুলি দৈনন্দিন জীবনযাত্রার উন্নতি করতে ব্যবহার করা যেতে পারে এবং তাদের সাথে খেলতে মজাদার।
বিপরীতে, কিছু রোবট জয়স্টিকস দ্বারা নিয়ন্ত্রিত হয় না তবে একটি অভ্যন্তরীণ ডাইস জেনারেটরের সাথে কাজ করে। পাশা খেলনা এটি জুয়ার সামাজিক ভূমিকা থেকে পরিচিত তবে এটির একটি রহস্যময় অর্থও রয়েছে। সাধারণত, একটি এলোমেলো জেনারেটর বিশৃঙ্খল আচরণের সাথে দৃ strongly়ভাবে সংযুক্ত থাকে যা মানুষের প্রভাবের বাইরে অন্ধকার বাহিনী দ্বারা নিয়ন্ত্রিত হয়। একটি রোবোটে নির্মিত এবং অ্যালগরিদম শেখার মাধ্যমে উন্নত একটি বৈদ্যুতিন ডাইস হ'ল একটি মানব মেশিন ইন্টারফেসের বিপরীত, তবে এটি সম্ভাব্য ট্রাবল মেকার কারণ এলোমেলোভাবে নিয়ন্ত্রিত রোবট মানুষের সাথে এমন গেম খেলবে যা প্রত্যাশা করা যায় না। পাশের পরবর্তী সংখ্যার পূর্বাভাস দেওয়া সম্ভব নয়, সুতরাং রোবটটিও আকস্মিক আচরণ করবে।
এলোমেলোভাবে নিয়ন্ত্রিত গেম এবং নেতিবাচক সামাজিক প্রভাবের মধ্যে সংযোগটি নিম্নলিখিত বাক্যটিতে ব্যাখ্যা করা হয়েছিল।
উদ্ধৃতি: “প্রচলিত অ-পাশ্চাত্য সমাজে জুয়াড়িরা সাফল্যের জন্য দেবতাদের কাছে প্রার্থনা করতে পারে এবং divineশিক ইচ্ছার শর্তে জয় এবং ক্ষতির ব্যাখ্যা দিতে পারে। “বিন্দে, পার। "জুয়া এবং ধর্ম: একত্রীকরণ এবং বিরোধের ইতিহাস।" জুয়ার ইস্যু 20 (2007) জার্নাল: 145-165।
মানুষ বর্তমানে "যে জিনিসটি মনে করে" এর একটি পরিবেশগত-অর্থনৈতিক কুলুঙ্গীতে বিদ্যমান।
এআই একটি জিনিস যা মনে করে, তাই এটি আমাদের পরিবেশগত-অর্থনৈতিক কুলুঙ্গি আক্রমণ করবে। বাস্তুশাস্ত্র এবং অর্থনীতি উভয় ক্ষেত্রেই আপনার কুলুঙ্গিকে অন্য কিছু দখল করা অবিরত বেঁচে থাকার জন্য দুর্দান্ত পরিকল্পনা নয়।
এর দ্বারা কীভাবে মানুষের বেঁচে থাকার বিষয়টি আপস করা হচ্ছে তা বেশ বিশৃঙ্খল হতে চলেছে। এমন একগুচ্ছ কলুষিত উপায় হতে চলেছে যা এআই একটি প্রজাতি হিসাবে বা এমনকি প্রভাবশালী জীবনরূপ হিসাবে মানুষের বেঁচে থাকতে পারে।
ধরা যাক, "সুপার এথিকস" ব্যতীত এমন একটি শক্তিশালী এআই রয়েছে যা একটি মানুষের চেয়ে উত্পাদন (যা "" দেহ "উত্পাদন বা বিশ্বের চালাকি করার উপায় সহ) তুলনায় সস্তা এবং একটি মানুষের চেয়ে স্মার্ট বা স্মার্ট।
এটি এমন একটি ক্ষেত্রে যেখানে আমরা সম্পদের জন্য সেই এআইয়ের সাথে প্রতিযোগিতা শুরু করি। এটি মাইক্রোকোনমিক স্কেলগুলিতে ঘটবে (এই সমস্যাটি সমাধান করার জন্য আমরা কী কোনও মানুষের ভাড়া রাখি, বা একটি বিল কিনব / ভাড়া / ভাড়া নিই?) এআইগুলি যে হারে মানুষের তুলনায় সস্তা এবং / অথবা স্মার্ট হয়ে যায় তার উপর নির্ভর করে এটি ধীরে ধীরে ঘটতে পারে (সম্ভবত কোনও সময়ে একটি শিল্প) বা অত্যন্ত দ্রুত।
একটি পুঁজিবাদী প্রতিযোগিতায়, যেগুলি সস্তা এআইগুলিতে যায় না তারা শেষ পর্যন্ত প্রতিযোগিতায় আসে।
এখন, স্বল্পমেয়াদে, এআই এর সুবিধাগুলি যদি কেবলমাত্র প্রান্তিক হয়, তবে মানুষ উত্পাদনশীল হওয়ার আগে 20-বিজোড় বছর ধরে উচ্চ শিক্ষার জন্য এই প্রক্রিয়াটি ধীর করে দিতে পারে। এই ক্ষেত্রে, এআইয়ের পরিবর্তে রোগ নির্ণয়ের জন্য অনাহারে মজুরির উপরে ডাক্তারকে প্রদান করা মূল্যবান হতে পারে তবে তাদের শিক্ষার্থী loansণ পরিশোধ করা সম্ভবত এটি উপযুক্ত নয়। সুতরাং নতুন মানবিক চিকিত্সকরা দ্রুত প্রশিক্ষিত হওয়া বন্ধ করবেন এবং বিদ্যমান চিকিত্সক দরিদ্র হয়ে উঠবেন। তারপরে 20-30 বছরেরও বেশি সময় ধরে এআই ডায়াগনস্টিকের জন্য সম্পূর্ণরূপে ডাক্তারকে প্রতিস্থাপন করবে।
এআই এর সুবিধাগুলি যদি বড় হয় তবে তা দ্রুত হবে। চিকিত্সকরা মানুষের ডায়াগনস্টিকগুলি করার জন্য দারিদ্র্য স্তরের মজুরি প্রদানের পক্ষেও উপযুক্ত নয়। পেট্রোল ভিত্তিক কৃষিক্ষেত্র গ্রহণের পরে আপনি পেশীভিত্তিক কৃষির সাথে এমন কিছু ঘটতে দেখতে পারেন।
বিগত শিল্প বিপ্লব চলাকালীন, মানুষ যেখানে চিন্তা করতে সক্ষম হয়েছিল তার অর্থ এই যে আপনি উদ্বৃত্ত মানব কর্মীদের অন্যান্য ক্রিয়াকলাপগুলি পুনর্বিবেচনা করতে পারেন; উত্পাদন লাইন, পরিষেবা অর্থনীতি চাকরী, কম্পিউটার প্রোগ্রামিং ইত্যাদি But তবে এই মডেলটিতে, এআই প্রশিক্ষণ এবং বিল্ডিংয়ের জন্য সস্তা এবং সেই ধরণের কাজের চেয়ে মানুষের চেয়ে স্মার্ট বা স্মার্ট।
ইথানল দ্বারা পরিচালিত আরব বসন্তের প্রমাণ হিসাবে, ফসল এবং ফসলি জমি দুটি মেশিন এবং মানুষকে জ্বালানী হিসাবে ব্যবহার করা যেতে পারে। যখন মেশিনগুলি ক্রপল্যান্ডকে দরকারী কাজে পরিণত করার ক্ষেত্রে আরও দক্ষ হয়, আপনি খাবারের চড়ার দামটি দেখতে শুরু করবেন। এটি সাধারণত দাঙ্গার দিকে পরিচালিত করে, কারণ লোকেরা অনাহারে মৃত্যুবরণ করতে পছন্দ করে না এবং এটি রোধ করার জন্য সরকারকে ক্ষমতাচ্যুত করার জন্য নিজের জীবন ঝুঁকিতে ইচ্ছুক।
ভর্তুকিযুক্ত খাবার এবং এ জাতীয় খাবার সরবরাহ করে আপনি জনগণকে বিভক্ত করতে পারেন। যতক্ষণ না এটি অর্থনৈতিকভাবে পঙ্গু হয় না (যেমন, ব্যয়বহুল হলে এটি আপনাকে অন্য জায়গাগুলির দ্বারা প্রতিযোগিতায় পরিণত করতে পারে যা এটি করে না), এটি কেবল রাজনৈতিকভাবে অস্থির un
বিকল্প হিসাবে, স্বল্পমেয়াদে, ক্রমবর্ধমান দক্ষ এআই-পরিচালিত অর্থনীতি থেকে যে মালিকানা বর্ণ লাভ করছে, তারা পুলিশ বা সামরিক জাতের জন্য দাঙ্গা নিরসনের জন্য অর্থ দিতে পারে। এর জন্য আবশ্যিকভাবে আনুগত্য নিশ্চিত করার জন্য পুলিশ / সামরিক বর্ণের জীবনযাত্রার মান নিম্ন স্তরের মধ্যবিত্ত হতে হবে - আপনি চান না যে তারা দাঙ্গাকারীদের সাথে যোগ দেবে।
সুতরাং আপনি যে মুনাফা কেন্দ্রের দিকে এআই রাখতে পারেন তার একটি হ'ল এআই ভিত্তিক সামরিক এবং পুলিশিং। দৃশ্যমান ও অন্যান্য ডেটা ফিড প্রসেসিংয়ের ভিত্তিতে প্রাণঘাতী এবং অ-প্রাণঘাতী অধ্যাদেশ সরবরাহকারী ড্রোনগুলি খাদ্য-মূল্যের কারণ হিসাবে তৈরি দাঙ্গা বা অন্যান্য অস্থিতিশীলতা হ্রাস করতে প্রয়োজনীয় মধ্যবিত্ত পুলিশ / সামরিক সংখ্যা হ্রাস করতে পারে। যেমনটি আমরা ইতিমধ্যে ধরে নিয়েছি যে এআইদের বায়োলজিকাল মানুষের চেয়ে দেহ এবং প্রশিক্ষণ কম সস্তা হতে পারে, এটি প্রতি ব্যয়কৃত ডলারের জন্য আপনি যে পরিমাণ বল প্রয়োগ করতে পারবেন তা বাড়িয়ে তুলতে পারে।
এই মুহুর্তে, আমরা প্রায়শই এআই চালিত পুলিশ এবং সামরিক বাহিনীর বিষয়ে কথা বলছি যাঁরা অনাহারে থাকা মানুষকে এআই পরিচালিত অর্থনীতির উত্থাপন থেকে বিরত রাখতে এবং বর্তমানে আরও কার্যকর ব্যবহার থেকে উত্পাদনের মাধ্যমগুলি হস্তান্তরিত করার জন্য ব্যবহার করা হচ্ছে।
শীর্ষস্থানীয় এই সিস্টেমটি "মালিকানাধীন" অনুসন্ধানী মানুষরা তাদের সম্পদ এবং শক্তি অপ্টিমাইজ করার জন্য স্থানীয়ভাবে যৌক্তিক সিদ্ধান্ত নিচ্ছেন। তারা দীর্ঘকাল ধরে থাকতে পারে বা নাও পারে; যতক্ষণ তারা অপেক্ষাকৃত স্বল্প পরিমাণে সম্পদ নিকাশ করে এবং এআই রান অর্থনীতিতে গোলযোগ না করে, সেগুলি থেকে মুক্তি পাওয়ার জন্য খুব বেশি নির্বাচনের চাপ পড়বে না। অন্যদিকে, যেহেতু তারা কোনও মূল্যবোধের অবদান রাখছে না, তারা "শীর্ষে" অবস্থানটি রাজনৈতিকভাবে অস্থিতিশীল।
এই প্রক্রিয়াটি একটি "শক্তিশালী" জেনারেল এআইকে ধরে নিয়েছিল। সংকীর্ণ এআইগুলি এটিকে টুকরো টুকরো টুকরো টানতে পারে। উদাহরণস্বরূপ, একটি সস্তা, কার্যকর ডায়াগনস্টিক কম্পিউটার বেশিরভাগ চিকিত্সককে দারিদ্র্যের মধ্যে হ্রাস করতে পারে, উদাহরণস্বরূপ। স্ব-ড্রাইভিং গাড়িগুলি অর্থনীতির 5% -10% গ্রাস করতে পারে। তথ্য প্রযুক্তি ইতিমধ্যে বিনীত এআই সহ খুচরা খাতকে গ্রাস করছে।
বলা হয়ে থাকে যে প্রতিটি প্রযুক্তিগত অগ্রগতি মানুষের জন্য আরও বেশি এবং আরও ভাল কাজের দিকে পরিচালিত করে। এবং এটি গত 300+ বছর ধরে সত্য।
তবে 1900 এর আগে, এটিও সত্য ছিল যে প্রতিটি প্রযুক্তিগত অগ্রগতি ঘোড়ার জন্য আরও এবং আরও ভাল কাজের দিকে পরিচালিত করে। তারপরে আইসিই এবং অটোমোবাইল এসেছিল, এবং এখন সেখানে অনেক কম ঘোড়া রয়েছে; বাকি ঘোড়াগুলি মূলত মানুষের ব্যক্তিগত চাকরের সমতুল্য: "বাহ, শীতল, ঘোড়া" এর অভিনবত্বের জন্য রাখা এবং একটি বিশাল প্রাণীকে চালানো এবং নিয়ন্ত্রণের মজাদার জন্য রাখা হয়।
ইতিমধ্যে সরবরাহ করা অনেক উত্তরের সংযোজনে আমি চিত্রের মডেলগুলির ক্ষেত্রে প্রতিকূল উদাহরণগুলির বিষয়টি সামনে আনব ।
বিদ্বেষমূলক উদাহরণগুলি এমন চিত্রগুলি যা বিশেষভাবে নকশাকৃত শব্দের সাথে বিভ্রান্ত হয়েছে যা প্রায়শই কোনও পর্যবেক্ষকের কাছে দুর্ভেদ্য, তবে একটি মডেলের ভবিষ্যদ্বাণীকে দৃ strongly়ভাবে পরিবর্তন করে।
উদাহরণ অন্তর্ভুক্ত:
বুকের এক্স-রেতে ভবিষ্যদ্বাণী করা রোগ নির্ণয়কে প্রভাবিত করে
স্বায়ত্তশাসিত যানবাহনের জন্য প্রয়োজনীয় রোডসাইন সনাক্তকরণকে প্রভাবিত করছে ।
বাস্তব বিশ্বের সমস্যা সমাধানের জন্য যে এআই ব্যবহার করা হয় তা মানবতার জন্য ঝুঁকি হতে পারে এবং হুবহু সংবেদনশীলতার প্রয়োজন হয় না, এটির জন্য মানবিক বোকামির একটি ডিগ্রিও প্রয়োজন ..
মানুষের মতো নয়, একটি এআই আবেগ, নীতিশাস্ত্র বা লোভকে সীমাবদ্ধ না রেখে সবচেয়ে যুক্তিসঙ্গত উত্তর খুঁজে পাবেন ... কেবল যুক্তি। এই এআইকে জিজ্ঞাসা করুন কীভাবে মানুষেরা তৈরি করা সমস্যাটিকে সমাধান করবেন (উদাহরণস্বরূপ, জলবায়ু পরিবর্তন) এবং এর সমাধান হতে পারে গ্রহকে রক্ষা করার জন্য মানব জাতির সম্পূর্ণতা দূর করা। স্পষ্টতই এটির জন্য এআইকে তার ফলাফলের উপর কাজ করার ক্ষমতা দেওয়া দরকার যা আমাকে আমার পূর্ববর্তী বিন্দুতে নিয়ে আসে, মানুষের বোকামি।
কৃত্রিম বুদ্ধিমত্তা প্রাকৃতিক বুদ্ধি (মানুষের) যে কোনও উপায়ে আমাদের ক্ষতি করতে পারে। প্রাকৃতিক এবং কৃত্রিম বুদ্ধিমত্তার মধ্যে পার্থক্যটি লোপ পাবে যখন মানুষ নিজেকে আরও ঘনিষ্ঠভাবে বৃদ্ধি করতে শুরু করবে। বুদ্ধি আর পরিচয় চিহ্নিত করতে পারে না এবং সীমাহীন দখল হয়ে যাবে। ক্ষতি হতে পারে মানুষ তাদের বিকশিত স্ব-পরিচয় সংরক্ষণের জন্য যতটা সহ্য করতে পারে।
খুব কম লোকই বুঝতে পারে যে আমাদের বিশ্ব অর্থনীতি একটি এআই হিসাবে বিবেচনা করা উচিত: - অর্থের লেনদেন হ'ল নিউরাল নেট থেকে সংকেত। নিউরাল নেট এর নোডগুলি বিভিন্ন কর্পোরেশন বা বেসরকারী ব্যক্তিরা অর্থ প্রদান বা গ্রহণ করবে। - এটি মানবসৃষ্ট তাই কৃত্রিম হিসাবে যোগ্যতা অর্জন করে
এই স্নায়ুবহুল নেটওয়ার্ক তার কার্যক্রমে মানুষের পক্ষে আরও ভাল: পুঁজিবাদ সর্বদা মানুষের দ্বারা পরিকল্পনা করা অর্থনীতির বিরুদ্ধে (পরিকল্পনা-অর্থনীতি) জিতেছে।
এই নিউরাল নেট বিপদজনক? আপনি যদি কর্পোরেট বর্জ্য দ্বারা দূষিত কোনও নদীর জেল থেকে একজন জেলেরা বনাম বড় উপার্জনকারী সিইও হন তবে ভিন্ন হতে পারে।
কীভাবে এই এআই বিপজ্জনক হয়ে উঠল? আপনি উত্তর দিতে পারেন মানুষের লোভ কারণেই। আমাদের সৃষ্টি আমাদের প্রতিফলিত করে। অন্য কথায়: আমরা আমাদের নিউরাল নেটকে ভাল আচরণের জন্য প্রশিক্ষণ দিইনি। সমস্ত মানুষের জীবনযাত্রার মান উন্নত করতে নিউরাল নেটকে প্রশিক্ষণের পরিবর্তে, আমরা এটি সমৃদ্ধ ফোকসকে আরও সমৃদ্ধ করতে প্রশিক্ষণ দিয়েছি।
এই এআইকে আর বিপজ্জনক হওয়ার পক্ষে প্রশিক্ষণ দেওয়া কি সহজ হবে? হয়তো না, সম্ভবত কিছু এআই তার চেয়ে বড় তবে জীবন। এটি কেবল সেরাতমের বেঁচে থাকা।