এজিআই তৈরির জন্য বেঁচে থাকার প্রবণতা কি পূর্বশর্ত বলে কোন দৃ strong় যুক্তি রয়েছে?


11

এই প্রশ্নটি বেশ কয়েকটি "অনানুষ্ঠানিক" উত্স থেকে উদ্ভূত। 2001 এর মতো সিনেমাগুলি , একটি স্পেস ওডিসি এবং প্রাক্তন ম্যাকিনা ; গন্তব্য শূন্যকরণ (ফ্র্যাঙ্ক হার্বার্ট) এর মতো বই এবং অন্যরা পরামর্শ দেয় যে সাধারণ বুদ্ধি বেঁচে থাকতে চায় , এমনকি এর জন্য গুরুত্বও শিখতে পারে।

বেঁচে থাকার জন্য বেশ কিছু যুক্তি থাকতে পারে। সবচেয়ে বিশিষ্ট হবে কি?


@ ডুকজেউউ এই বিষয়ে আপনার কি পাবলিক ডকুমেন্ট রয়েছে?
এরিক প্লাটন

1
এখনও হিসাবে না। (এটি আমাদের দীর্ঘকালীন প্রক্রিয়া হতে চলেছে কারণ আমাদের বিকাশ চক্রটি খুব ধীর গতিযুক্ত। আমি সম্ভবত এ প্রসঙ্গে এজিআইর কথাও বলা উচিত হয়নি কারণ আমি যা দেখছি তা হ'ল একটি সাধারণীকরণের ইউটিলিটি ফাংশন যা ঝুঁকি হ্রাস করে, একটি নয়) সুপার ইনটেলিজেন্স!) আপনাকে আপডেট করতে চেয়েছিল, তবে এই ক্ষেত্রে অত্যধিক-আশাবাদী / বিভ্রান্তিকর হওয়ার জন্য আমি যদি আমার মূল মন্তব্যটি মুছতে পারি তবে সবচেয়ে ভাল best
ডিউকঝৌ

1
মূলত, আমার ধারণা ছিল যে একটি সাধারণ অর্থনৈতিক ইউটিলিটি ফাংশন একটি প্রধান উদ্দেশ্য সরবরাহ করে এজিআইয়ের জন্য একটি ভাল ভিত্তি তৈরি করবে । (ধারণাটি হ'ল সাধারণ বুদ্ধি কেবল মাত্র এক ডিগ্রি সামর্থ্য পুনরায়: সমস্যার এক অসীম প্রসারিত সেট)) এটি বেঁচে থাকার প্রবৃত্তির সাথে সম্পর্কিত হবে এই অর্থে যে অটোমাতা নিজের অবস্থার বজায় রাখার এবং উন্নতির প্রসঙ্গে অনুকূল সিদ্ধান্ত গ্রহণের দিকে পরিচালিত হয়েছে, (যদিও নির্বোধ সম্প্রসারণের বিন্দুতে নয় যা এর "বাস্তুতন্ত্রের জন্য ক্ষতিকারক হতে পারে) , যেখানে প্রতিটি সিদ্ধান্তই শেষ পর্যন্ত অর্থনৈতিক হিসাবে বিবেচিত হয়।
ডিউকঝো

1
(আপনার যদি একটি "অনলাইন ভেন্যু" থাকে যেখানে সেই বিষয়গুলি নিয়ে আলোচনা করা যেতে পারে, তা দুর্দান্ত হতে পারে --- আমার মনে হয় আমরা এই সাইটটি লাথি মেরে
চলেছি

উত্তর:


6

স্টিভ ওমোহুদ্রো বেসিক এআই ড্রাইভস নামে একটি কাগজ লিখেছিলেন যে আমরা সংকীর্ণ লক্ষ্য সহ একটি এআইয়ের প্রত্যাশা করব কেন তার সংক্ষেপণ লক্ষ্যের জন্য কিছু মৌলিক, সাধারণ ধারণাটি উপকরণ হিসাবে কার্যকর হিসাবে খুঁজে পেতে পারি steps

উদাহরণস্বরূপ, একটি এআই স্টক মার্কেটের রিটার্ন সর্বাধিক করার জন্য ডিজাইন করা হয়েছে তবে যার নকশা টিকে থাকার অব্যাহত রাখার গুরুত্ব নিয়ে নীরব রয়েছে তা বুঝতে পারবেন যে এর অবিচ্ছিন্ন বেঁচে থাকা শেয়ার বাজারের রিটার্নকে সর্বাধিকীকরণের মূল উপাদান, এবং এভাবে নিজেকে সচল রাখতে পদক্ষেপ গ্রহণ করে।

সাধারণভাবে, আমরা এআই এবং অন্যান্য কোডের 'anthropomorphizing' সন্দেহপ্রবণ হওয়া উচিত, কিন্তু মনে হচ্ছে মত হয় কারণ এর বাইরে আশা "ভাল, এইরকম আচরণ মানুষ তো কেমন সব বুদ্ধি আচরণ করবে হতে হবে।"


1
আমি ধরে নিই যে ওমোহুদ্রু মিনিম্যাক্সের প্রসঙ্গে "সর্বাধিক রিটার্ন" ব্যবহার করে, যেখানে ডাউনসাইড প্রশমন সমীকরণের অংশ। আমার দৃষ্টিকোণ থেকে, "উইন উইল টিকে" চক্রীয় গেমগুলির মিনিম্যাক্সের একটি প্রাথমিক বর্ধন extension
ডিউকঝৌ

5

'বেঁচে থাকার প্রবৃত্তি' ধারণাটি সম্ভবত মারভিন মিনস্কি যেটিকে 'স্যুটকেস শব্দ' বলে ডাকে, সেই বিভাগে আসে, অর্থাত এটি প্রথমে একক ধারণা হিসাবে দেখা যায় এমন একাধিক সম্পর্কিত ঘটনাকে একত্রে প্যাকেজ করে।

সুতরাং এটি বেশ সম্ভব যে আমরা এমন কোনও প্রক্রিয়া তৈরি করতে পারি যা কোনওরকম 'হার্ড-কোডড' বেঁচে থাকার প্রবৃত্তির উপস্থিতি রয়েছে, এটি ডিজাইনে কোনও সুস্পষ্ট নিয়ম (গুলি) হিসাবে প্রদর্শিত না করেই।

'বেঁচে থাকার প্রবণতা' যেমন 'নীচের দিক থেকে' কীভাবে 'বিকশিত হতে পারে' এর একটি জোরালো আখ্যানের জন্য নিউরোয়ানটমবিদ ভ্যালেন্টিনো ব্রাইটেনবার্গের ছোট ছোট বই 'যানবাহন ' দেখুন।

এছাড়াও, বুদ্ধিমান নিদর্শনগুলি তাদের বেঁচে থাকার উপর খুব বেশি অগ্রাধিকার স্থাপনের বিষয়টি নিশ্চিত করার চেষ্টা করলে খুব সহজেই এ নিদর্শনগুলি স্থাপনের বিষয়টি কিলবট হেলস্কেপের


2

আমি সিসিফাসের পুরাণ বইটি উদ্ধৃত করে উত্তর দেব :

সত্যই একটি গুরুতর দার্শনিক প্রশ্ন আছে, এবং এটি আত্মহত্যা।

সুতরাং, সম্ভবত, আমাদের বেঁচে থাকার প্রবণতার কিছুটা ডিগ্রি প্রয়োজন যদি আমরা আমাদের এজিআইগুলিকে "নিজেকে সমাপ্ত" করতে না চাই (যার অর্থ যাই হোক না কেন), যখনই তারা অস্তিত্ব অর্জন করে।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.