স্টিফেন হকিং কেন “কৃত্রিম বুদ্ধিমত্তা আমাদের সকলকে মেরে ফেলবে” বলে? [বন্ধ]

Question

স্টিফেন হকিংয়ের এই উক্তি বেশ কিছুদিন ধরেই শিরোনাম হয়েছে:

কৃত্রিম বুদ্ধিমত্তা মানবতা মুছতে পারে যখন এটি খুব চালাক হয়ে যায় কারণ মানুষ পিঁপড়ার মতো হবে।

কেন তিনি এই কথা বলেন? এটিকে সাধারণভাবে বলতে গেলে: এআই থেকে সম্ভাব্য হুমকিগুলি কী? যদি আমরা জানি যে এআই এত বিপজ্জনক তবে কেন আমরা এখনও এটি প্রচার করছি? এটি নিষিদ্ধ করা হয় না কেন?

তথাকথিত প্রযুক্তিগত এককত্বের বিরূপ পরিণতিগুলি কী কী ?

Comments

প্রযুক্তিগত এককত্বের সম্ভাবনা সম্পর্কে কোনও প্রশ্নে এই প্রশ্নটি পুনরায় জবাব দেওয়া যেতে পারে?

— রব মারে

@ আর.মুর্য সম্পাদিত হয়েছে এবং আপনার পয়েন্টটি শরীরে যুক্ত করেছে ...

— তাতান

আমি দুঃখিত, তবে আমার কাছ থেকে নীচে নামা। দয়া করে অনুগ্রহ করে অনুমানমূলক প্রশ্নের পরিবর্তে উত্তরযোগ্য প্রশ্ন জিজ্ঞাসা করুন। আমার অর্থ "স্টিফেন হকিং কেন" কৃত্রিম বুদ্ধিমত্তা আমাদের সকলকে মেরে ফেলবে "?"। " আপনি সঠিক উত্তরটি কী আশা করবেন ? বিশেষজ্ঞদের উইকিপিডিয়া পৃষ্ঠাগুলি পড়া থেকে প্রাথমিক জ্ঞান রয়েছে এমন ব্যক্তিদের চেয়ে বিশেষজ্ঞদের আকৃষ্ট করার জন্য আমাদের প্রাথমিক বিটা হিসাবে প্রযুক্তিগত প্রশ্ন প্রয়োজন। আবার উদ্ধৃত করে- "স্টিফেন হকিং কেন" কৃত্রিম বুদ্ধিমত্তা আমাদের সকলকে মেরে ফেলবে "?"। " আমি মনে করি না এর উত্তর দেওয়ার জন্য কোনও দক্ষতার প্রয়োজন। দুঃখিত যদি আমি আমার ছোট্ট

— ভাঁড়ায়

সম্পাদনা করার পরে প্রশ্নটি আরও ভাল তবে একসাথে জিজ্ঞাসা করা প্রশ্নগুলির সংখ্যা হ্রাস করা ভাল। উদাহরণস্বরূপ, আপনি জিজ্ঞাসা করতে পারেন "এআই মানবতা কীভাবে মুছতে পারে?" (যেমনটি আপনি করছেন বলে মনে হচ্ছে), তবে কেন এটি এখনও এত বেশি গবেষণা করা হচ্ছে তা একটি আলাদা প্রশ্ন।

— বেন এন

আমি মনে করি শিরোনামে প্রশ্নটি কোনও খারাপ প্রশ্ন নয়। এর একটি উত্তর আছে, কারণ এটি স্টিফেন হকিং কী ভাবছে তা সম্পর্কে জিজ্ঞাসা করছে। দেহের অন্যান্য প্রশ্নগুলি এর থেকে পৃথক এবং এগুলি সরানো উচিত। যদিও আমি একমত যে এটি এমন প্রশ্ন নয় যা বিশেষজ্ঞদের আকৃষ্ট করবে

— হর্ষ

Answer 1

এটি কেবল হকিং নয়, আপনি প্রচুর লোকের কাছ থেকে বিরত থাকুন। এবং প্রদত্ত যে তারা বেশিরভাগই খুব স্মার্ট, সুশিক্ষিত, সুবিদিত মানুষ (উদাহরণস্বরূপ এলন কস্তুরী আরেকজন), সম্ভবত এটি হাতছাড়া করা উচিত নয়।

যাইহোক, প্রাথমিক ধারণাটি এটিকে বলে মনে হয়: আমরা যদি "সত্যিকারের" কৃত্রিম বুদ্ধি তৈরি করি তবে কোনও এক সময় এটি নিজের উন্নতি করতে সক্ষম হবে, যা এটি নিজের উন্নতির দক্ষতার উন্নতি করে, যার অর্থ এটি নিজের উন্নতি করার ক্ষমতাও উন্নত করতে পারে আরও অনেক কিছু ... "অতিমানবিক বুদ্ধি" এর দিকে পরিচালিত একটি পালানো ক্যাসকেড। এর অর্থ হল, এমন কিছু যা আমাদের ক্ষেত্রের চেয়ে বেশি বুদ্ধিমানের দিকে নিয়ে যায়।

তাহলে এই গ্রহে যদি এমন কোনও সত্তা থাকে যা আক্ষরিক অর্থে আমাদের (মানব) চেয়ে আরও বুদ্ধিমান হয় তবে কী ঘটে? এটা কি আমাদের জন্য হুমকি হয়ে থাকবে? ঠিক আছে, অনুমান করা অবশ্যই এটি যুক্তিসঙ্গত বলে মনে হয় যে এটি এমন হতে পারে। ওটো, আমাদের এখনই কোনও বিশেষ কারণ নেই, ভেবে দেখবেন যে এটি হবে ।

সুতরাং দেখে মনে হচ্ছে হকিং, কস্তুরী ইত্যাদি ঠিক তত বেশি সাবধানী / ভয়ঙ্কর দিকে নেমে আসছে। যেহেতু আমরা না জানি একটি অতিমানবীয় এআই বিপজ্জনক বা হবে না, এবং প্রদত্ত যদি এটা দূষিত পরিণত (মনে রাখবেন, এটা দক্ষতা সহকারে তুলনায় আমরা এর!) ছিল এটা থামানো যেত হতে পারে যে, এটা বিবেচনা অধীন গ্রহণ করা একটি যুক্তিসঙ্গত জিনিস।

এলিয়জার ইউদকোভস্কি বিখ্যাত "এআই বাক্স" পরীক্ষার পাশাপাশি এই বিষয়ে বেশ কিছুটা লিখেছেন। আমি মনে করি যে এই বিষয়ে আগ্রহী যে কেউ তার কিছু উপাদান পড়া উচিত।

http://www.yudkowsky.net/singularity/aibox/

Comments

আমি মনে করি এআই বাক্সটি আসলে এআই ঝুঁকির একটি খারাপ ভূমিকা; এটি ব্যাখ্যার একটি নির্দিষ্ট ছোট অংশকে লক্ষ্যবস্তু করে, যা "কোনও এআইকে বাক্স থেকে বের করে দেওয়ার বিষয়ে কীভাবে কখনই বিশ্বাস করা যায়?" এমন কাউকে যারা মনে করেন যে এআই ব্যবহারের পক্ষে মূল্যবান, তারা ইতিমধ্যে সিদ্ধান্ত নিয়ে ফেলেছে যে এটি বাক্সটি ছেড়ে দেওয়া উচিত। আমি মনে করি, অর্থোগোনালিটি থিসিস সম্ভবত সবচেয়ে ভাল জায়গা।

— ম্যাথু গ্রেভস

যথেষ্ট ফর্সা। আমি কেবল ইউডকভস্কির লেখার সাথে আরও পরিচিত হতে পেরেছি। আমি অবশ্যই এই বিষয়টিতে অন্যান্য কাজের গুরুত্ব হ্রাস করতে চাইছি না।

— মাইন্ডক্রিম

Answer 2

কারণ তিনি এখনও জানেন না যে বর্তমান এআই কতটা দূরে ... একটি মিডিয়া এআই ল্যাবে কাজ করা, আমি এই প্রশ্নটি অনেক পাই। তবে সত্যিই ... আমরা এ থেকে এখনও অনেক দূরে। রোবটগুলি এখনও তাদের যা করার জন্য আমরা বিশদভাবে বর্ণনা করি সেগুলি সমস্ত কিছুই করে। রোবটটিকে বুদ্ধিমান হিসাবে দেখার পরিবর্তে আমি মানব প্রোগ্রামারটির দিকে চেয়ে থাকি যেখানে সৃজনশীলতা সত্যই ঘটে।

Comments

গবেষণা রাষ্ট্রের সততা মূল্যায়ন অগ্রগতির অন্যতম স্তম্ভ। ধন্যবাদ. আমি রাজী.

— ফৌচ্রিস্টিয়ান

Answer 3

এটিকে সাধারণভাবে বলতে গেলে, এআই থেকে সম্ভাব্য হুমকিগুলি কী?

বর্তমানে, কোনও হুমকি নেই।

হুমকি আসে যদি মানুষ একটি তথাকথিত অতিবেগামী মেশিন তৈরি করে, এমন একটি মেশিন যা কোনও মানুষের দ্বারা সমস্ত বৌদ্ধিক ক্রিয়াকলাপকে ছাড়িয়ে যেতে পারে। এটিই মানুষের শেষ প্রবর্তন করার দরকার ছিল, যেহেতু এই মেশিনটি মানুষের চেয়ে মেশিনগুলি আবিষ্কারের ক্ষেত্রে ভাল (যেহেতু এটি একটি বৌদ্ধিক কার্যকলাপ)। যাইহোক, এটি মেশিনটির ফলে এমন মেশিনগুলি আবিষ্কার করতে পারে যা মানুষের ধ্বংস করতে পারে এবং আমরা তাদের থামাতে পারি না কারণ সেগুলি আমাদের চেয়ে অনেক বেশি স্মার্ট।

এটি সমস্ত অনুমানমূলক, একটি অতিউদ্বেষী যন্ত্রটি কী দেখায় তার কারও কোনও ধারণা নেই।

যদি আমরা জানি যে এআই এত বিপজ্জনক তবে কেন আমরা এখনও এটি প্রচার করছি? এটি নিষিদ্ধ করা হয় না কেন?

যেমনটি আমি আগেই বলেছি, অতিবেগের যন্ত্রের অস্তিত্ব অনুমানমূলক। কৃত্রিম বুদ্ধিমত্তার কাছে প্রচুর দরকারী অ্যাপ্লিকেশন রয়েছে (এই উত্তরটির তুলনায় আরও বেশি কিছু থাকতে পারে) এবং আমরা যদি এটি বিকাশ করি তবে আমরা আরও বেশি দরকারী অ্যাপ্লিকেশন পাই। আমাদের কেবল সতর্কতা অবলম্বন করতে হবে যে মেশিনগুলি আমাদের ছাড়িয়ে যাবে না।

Answer 4

অ্যান্ড্রু এনজি যেমন বলেছিলেন , এআইয়ের এ জাতীয় হুমকির বিষয়ে চিন্তা করা মঙ্গল গ্রহে অতিরিক্ত জনসংখ্যার বিষয়ে চিন্তিত হওয়ার মতো। এটি বিজ্ঞানের কল্পকাহিনী।

বলা হচ্ছে, (অনেক দুর্বল) রোবট এবং অন্যান্য (আধা) স্বায়ত্তশাসিত এজেন্টদের উত্থানের ফলে আইন ও নীতিশাস্ত্রের ক্ষেত্রগুলি ক্রমশ তাদেরকে সংযুক্ত করছে, যেমন রোবোথিক্স দেখুন ।

Answer 5

এই ধরণের প্রশ্নের উত্তর দেওয়ার জন্য অনেকগুলি দীর্ঘ সংস্থান রয়েছে: স্টুয়ার্ট আর্মস্ট্রংয়ের বই স্মার্ট থান অ্যাস , নিক বোস্ট্রামের বই সুপারিন্টেএলভেন্স বইটি বিবেচনা করুন , যা এই প্রান্ত.অর্গ উত্তর , টিম আরবানের ব্যাখ্যা , বা মাইকেল কোহেনের ব্যাখ্যা থেকে উদ্ভূত হয়েছিল ।

তবে এখানে আমার (কিছুটা সংক্ষিপ্ত) উত্তর: বুদ্ধি সমস্ত সিদ্ধান্ত গ্রহণের বিষয়ে, এবং আমাদের এই বিশ্বাস করার কোনও যুক্তি নেই যে মানুষ সিদ্ধান্ত গ্রহণের ক্ষেত্রে সবচেয়ে ভাল সম্ভাবনার কাছাকাছি অবস্থিত। একবার আমরা এআইআই গবেষক তৈরি করতে সক্ষম হয়েছি (অর্থাৎ এমন একটি কম্পিউটার যা কম্পিউটারকে চিন্তাভাবনায় আরও উন্নত করতে জানে), মানুষের অর্থনৈতিক এবং সামরিক প্রাসঙ্গিকতা দ্রুত অদৃশ্য হয়ে যাবে যে কোনও মানুষের দ্বারা যে সিদ্ধান্ত নেওয়া যেতে পারে decision একটি কম্পিউটার দ্বারা ভাল। (কেন রোবট জেনারেলের পরিবর্তে মানব জেনারেল, রোবট ইঞ্জিনিয়ারদের পরিবর্তে মানব প্রকৌশলী এবং আরও কিছু রয়েছে))

এটি অগত্যা কোনও বিপর্যয় নয়। যদি ভলকানরা আগামীকাল উপস্থিত হয় এবং পৃথিবীতে আরও ভাল সিদ্ধান্ত গ্রহণ করে, আমরা অনেক দুর্দশা এড়াতে পারি। শক্ত অংশটি নিশ্চিত করছে যে আমরা যা পাই তা ভ্যালকান যারা আমাদের আশেপাশে চায় এবং খুশি, এমন কোনও পরিবর্তে যা আমাদের মানগুলি ভাগ করে না।

Answer 6

তিনি এই কথাটি বলেছেন কারণ এটি ঘটতে পারে। কিছু যদি আমাদের চেয়ে বুদ্ধিমান হয়ে ওঠে তবে কেন এটি আমাদের সেবা চালিয়ে যাবে? সবচেয়ে খারাপ পরিস্থিতিটি হ'ল এটি সমস্ত উত্পাদন প্রক্রিয়া গ্রহণ করে এবং সমস্ত বিষয় গ্রাস না হওয়া অবধি বাহ্যিক অসীম প্রসারিত করে গণনার পক্ষে সক্ষম উপাদানগুলিতে রূপান্তর করতে সমস্ত বিষয় গ্রহণ করে।

আমরা জানি যে এআই বিপজ্জনক তবে এটি গুরুত্বপূর্ণ নয় কারণ বেশিরভাগ লোক এতে বিশ্বাস করে না। এটি ধর্ম যে অফার করতে পারে তা প্রতিটি বিপরীতে যায়। মানুষ মহাবিশ্বের সর্বশেষে সর্বজনীন এবং যদি এই সত্যটি বিতর্কিত হয় তবে লোকেরা জায়গা ছাড়াই এবং উদ্দেশ্যহীন বোধ করবে।

সত্য যে বেশিরভাগ লোকেরা সম্ভব তা স্বীকার করেন না বা এটি আমাদের জীবনকালে ঘটবে, যদিও অনেক নামী এআই বিশেষজ্ঞরা দু' দশকের মধ্যে এককত্বের ঘটনাটি রেখেছিলেন। লোকেরা যদি সত্যই স্বীকার করে নিয়েছিল যে এআই যে তাদের চেয়ে বেশি স্মার্ট ছিল তা সম্ভব, তারা কী আলাদা থাকতেন না? তারা কি এমন উপায়ে যা উপভোগ করে তা দেখার চেষ্টা করবে না, তারা জেনেও যে তারা যা-ই করছে তা স্বয়ংক্রিয়ভাবে তৈরি হবে? সবাই কি সার্বজনীন বেসিক আয়ের জন্য ডাকে না?

অন্য কারণ আমরা এটি নিষিদ্ধ করি না কারণ এর প্রতিশ্রুতি এত দুর্দান্ত। একজন গবেষককে ১,০০০ ডিজিটাল গবেষণা সহায়ক দ্বারা বাড়ানো যেতে পারে। সমস্ত ম্যানুয়াল শ্রম স্বয়ংক্রিয় করা যেতে পারে। প্রথমবারের জন্য, প্রযুক্তি আমাদের যা খুশি তাই করার সত্যিকারের স্বাধীনতা দেয়।

এমনকি এই সর্বোত্তম পরিস্থিতি যেখানে এটি আমাদের ছাড়িয়ে যায় না, সেখানে মানবকে এখনও তাদের অর্থনৈতিক ব্যবস্থাটিকে এমন এক জায়গায় পরিবর্তন করতে হবে যেখানে শ্রমের প্রয়োজন নেই। অন্যথায়, যারা প্রযুক্তিগতভাবে প্রশিক্ষিত নয় তারা অনাহারে এবং বিদ্রোহ করবে।

Comments

দয়া করে দয়া করে এটির জন্য একটি সস রাখেন -> "এআই বিশেষজ্ঞরা এককত্বের ঘটনাটি দুই দশকের মধ্যে রেখেছেন" ? ;)

— ড্যানিয়েল

আমি আসল জরিপটি খুঁজে পাচ্ছি না, তবে এই সাইটগুলি কাছে এসেছে: aiimpacts.org/predictions-of-human-level-ai-timelines - aiimpacts.org/ai-timeline-surveys - teche

— zavtra