এখনও এমন কোন এআই সিস্টেম তৈরি করা হয়েছে যা জেনে বুঝেই একটি মানুষের মিথ্যা / প্রতারণা করতে পারে?

Question

এআই সিস্টেমগুলি আজ খুব সক্ষম মেশিন, এবং সম্প্রতি প্রাকৃতিক ভাষা প্রসেসিং এবং প্রতিক্রিয়াটির ক্ষেত্রটি উদ্ভাবনের সাথে বিস্ফোরিত হচ্ছে, পাশাপাশি এআই মেশিনগুলির মৌলিক অ্যালগরিদমিক কাঠামো।

আমি জিজ্ঞাসা করছি, এই সাম্প্রতিক ব্রেকথ্রুগুলি দেওয়া হলে, এমন কোনও এআই সিস্টেম তৈরি করা হয়েছে যা (সম্ভবত কিছুটা সাফল্যের সাথে) জেনে শুনে মানুষের কাছে মিথ্যা তথ্যগুলি সম্পর্কে জেনে রাখা যায় যা এটি জানে?

দ্রষ্টব্য, আমি যা জিজ্ঞাসা করছি তা ট্যুরিং টেস্টের প্রমিত আলোচনার বাইরে। আমি এমন মেশিনগুলি জিজ্ঞাসা করছি যা সত্যগুলি 'বুঝতে' পারে এবং তারপরে এই সত্যের বিরুদ্ধে একটি মিথ্যা রচনা করতে পারে, সম্ভবত অন্যান্য সত্যকে মিথ্যা অংশ হিসাবে একটি বিশ্বাসযোগ্য 'কভার-আপ' তৈরি করতে ব্যবহার করে।

EG: সিআইএ সুপার কম্পিউটারটি গুপ্তচরবৃত্তি দ্বারা চুরি হয়ে যায় এবং তারা কম্পিউটারটি জিনিসগুলি ব্যবহার করার চেষ্টা করে, তবে কম্পিউটারটি জানায় যে এটি নির্ভরতা হারিয়ে ফেলছে যদিও এটি সত্যই নয় বা জেনে শুনে সঠিক-চেহারা দেওয়ার কিন্তু ভুল উত্তর দেয়। বা কোনও ব্যক্তির ভুল অবস্থান দেয়, জেনেও যে ব্যক্তি কোনও জায়গায় ঘুরে বেড়ায় তবে এই মুহূর্তে সেখানে নেই। অবশ্যই এই পরিশীলিত হতে হবে না।

Answer 1

শনিবারের কাগজপত্র: এআই আপনাকে মিথ্যা বলবে? টোওয়ার্ড ক্যারেক্টারস হু অবজারভেশন, টেল, মিস্রিমেমার, এবং লাই নামে একটি গবেষণা পত্রের সংক্ষিপ্তসার হিসাবে একটি ব্লগ পোস্ট । এই গবেষণামূলক গবেষণাপত্রে কিছু গবেষকদের ভিডিও গেমগুলিতে এনপিসিগুলির জন্য "মানসিক মডেল" প্রয়োগের পরিকল্পনা রয়েছে। এনপিসিগুলি বিশ্ব সম্পর্কে তথ্য সংগ্রহ করবে এবং সেই জ্ঞানটি অন্য লোকের কাছে (মানব খেলোয়াড় সহ) পৌঁছে দেবে। যাইহোক, তারা সেই জ্ঞানটিকে "ভুল" করবে (হয় সেই "জ্ঞানকে" রূপান্তরিত করবে "বা এটি সম্পর্কে ভুলে যাবেন), বা এমনকি মিথ্যা বলবেন:

কথোপকথনের একটি বিষয় সামনে আনার সাথে সাথে কোনও চরিত্র মিথ্যা তথ্য দিতে পারে - আরও স্পষ্টভাবে, এমন তথ্য যা সে নিজে বিশ্বাস করে না her তার কথোপকথকের কাছে। বর্তমানে, কথোপকথনের প্রতি কোনও চরিত্রের সান্নিধ্য অনুযায়ী এটি সম্ভাব্যভাবে ঘটেছে এবং ভুল তথ্যটি এলোমেলোভাবে বেছে নেওয়া হয়েছে।

পরে গবেষণামূলক গবেষণাপত্রে তারা মিথ্যা বলার জন্য তাদের ভবিষ্যতের পরিকল্পনা বিস্তারিতভাবে লিখেছেন:

বর্তমানে, মিথ্যাগুলি কেবল সেই চরিত্রগুলির জ্ঞানগুলিতে সংরক্ষণ করা হয় যারা সেগুলি গ্রহণ করে তবে আমরা তাদের এমন অক্ষর রাখার পরিকল্পনা করি যা তাদেরকে তাদের নজর রাখে যাতে তারা পরবর্তীগুলি নির্মাণ করার সময় অতীতের মিথ্যা সম্পর্কে বিতর্ক করতে পারে। চরিত্রগুলি বর্তমানে অন্য চরিত্রগুলির সম্পর্কে কেবল মিথ্যা রয়েছে, আমরা স্ব-কেন্দ্রিক মিথ্যা (ডিপোলো 2004) বাস্তবায়নেরও পরিকল্পনা করি, উদাহরণস্বরূপ, তাদের কাজের শিরোনাম বা অন্য চরিত্রের সাথে সম্পর্ক সম্পর্কে মিথ্যা রচনাগুলি। পরিশেষে, আমরা এমন চরিত্রগুলির কল্পনা করি যা আবিষ্কার করে যে তারা মিথ্যাবাদীদের প্রতি তাদের সংযুক্তি সংশোধন করার জন্য বা এমনকি তাদের মুখোমুখি হওয়ার জন্য মিথ্যা বলা হয়েছে।

অন্যান্য গবেষণামূলক গবেষণাপত্রে কীভাবে অন্যান্য ভিডিও গেম ডেভেলপাররা মিথ্যা এনপিসি তৈরির চেষ্টা করেছিল এবং কীভাবে তার সিস্টেমের পার্থক্য রয়েছে তার উপর জোর দিয়ে:

টেল-স্পিন অক্ষরগুলি একে অপরের সাথে মিথ্যাচার করতে পারে (মেহান 1976, 183-84) যদিও স্বেচ্ছাসেবীভাবে আমাদের বর্তমান সিস্টেম বাস্তবায়নের মতো। গোলম একটি ব্লক ওয়ার্ল্ড ভেরিয়েন্ট প্রয়োগ করে যাতে এজেন্টরা লক্ষ্য অর্জনে অন্যকে প্রতারণা করে (ক্যাসেলফ্র্যাঞ্চি, ফ্যালকোন এবং ডি রোসিস 1998), অন্যদিকে সত্যের মাউথ টিউরিংয়ের অনুকরণ গেমটির বিভিন্ন রূপে এজেন্টের প্রতারণাকে ফুটিয়ে তুলতে চরিত্র বিশ্বাসের সম্ভাব্য উপস্থাপনা ব্যবহার করে (ডি রসিস) R ইত্যাদি। 2003)। খ্রিস্টান (2004) এ, প্রতারণামূলক পরিকল্পনাকারী একটি টার্গেট এজেন্টের বিশ্বাসের সাথে ভুল বিশ্বের রাষ্ট্রকে সংক্রামিত করে যাতে সে অনিচ্ছাকৃতভাবে এমন কোনও পদক্ষেপ নিতে পারে যা প্রতারণাকারী এজেন্টের স্বতন্ত্র লক্ষ্যগুলি অর্জন করে fulfill শেষ অবধি, ফাইটিএমএ-র রেইসের (২০১২) এক্সটেনশনের এজেন্টরা পার্টি গেম ওয়ে্রুল্ফকে একে অপরকে প্রতারণার জন্য একাধিক স্তরের মনের তত্ত্ব নিয়োগ করে। উপরের সমস্ত সিস্টেমে এমন অক্ষর প্রদর্শন করা হয়েছে যারা উপলব্ধি করেছে এবং কিছু ক্ষেত্রে, অন্য চরিত্রগুলি প্রতারণা করে, কেউই আমাদের সিস্টেমের নিম্নলিখিত মূল উপাদানগুলিকে সমর্থন করে বলে মনে হয় না: জ্ঞান প্রচার এবং স্মৃতিচারণযোগ্যতা। ...

উপরে উল্লিখিত কয়েকটি অন্যান্য সিস্টেমের মতো, বামন ফোর্ট্রেসে এমন চরিত্রও রয়েছে যা স্বায়ত্তশাসিতভাবে মিথ্যা বলে। যখন কোনও চরিত্র কোনও অপরাধ করে, তখন সে নিজেকে রক্ষা করতে বা শত্রু গঠনের জন্য সাক্ষী প্রতিবেদনে অন্য কাউকে মিথ্যাভাবে জড়িত করতে পারে ri এই সাক্ষী প্রতিবেদনগুলি কেবল প্লেয়ার দ্বারা দেখা যায়; চরিত্রগুলি একে অপরকে মিথ্যা সাক্ষ্য প্রতিবেদন দেয় না। তারা অবশ্য তাদের মতামত সম্পর্কে মিথ্যা কথা বলতে পারে, উদাহরণস্বরূপ, কোনও নেতার সমালোচনা করা থেকে বিরূপ চাপের ভয়ে। পরিশেষে, বামন দুর্গ বর্তমানে মেমরি পতনের সমস্যাগুলির মডেল করে না — অ্যাডামস এই বিষয়ে সতর্ক যে, খেলোয়াড়ের সাথে শৈল্পিকভাবে প্রকাশ না করা হলে এই জাতীয় সমস্যাগুলি বাগ থেকে উদ্ভূত হবে বলে মনে হয়।

Answer 2

আপনার উত্তরটি যদি কিছু তুচ্ছ উদাহরণের দ্বারা সন্তুষ্টযোগ্য না করতে চান তবে আপনাকে "মিথ্যা" শব্দের ব্যবহার সম্পর্কে আরও প্রসঙ্গ সরবরাহ করতে হবে, যেমন:

(let [equal? (fn [a b] (if (= a b) false true)]
  (equal 1 2))
=> true

উত্তরের জটিলতা যখন আপনি "জেনে শুনে মিথ্যা কথা " বলবেন তখন "জেনে " বলতে আপনার অর্থ কী হয় তার উপর নির্ভর করে । কিছু জ্ঞান রয়েছে যার মধ্যে উপরের 'সমান' ফাংশনটি "জানে" যে আউটপুট শর্তসাপেক্ষের চেয়ে পৃথক।

নীতিগতভাবে, একে অপরকে বিভ্রান্ত করার লক্ষ্যে একে অপরের কাছে তথ্যের স্ট্রিংগুলি প্রেরণকারী এজেন্টদের কার্যকরভাবে কার্যকর করা কঠিন নয়। এই জাতীয় আচরণটি সম্ভবত প্রতিযোগিতামূলক, বহু-এজেন্ট পরিবেশে স্বাভাবিকভাবে উদ্ভূত হয়। দেখুন রোবট একে অপরের সাথে মিথ্যা শিখতে নব্য ।

আপনি যা জিজ্ঞাসা করতে পারেন তার অন্য একটি কোণে পৌঁছনোর জন্য - একেবারে, স্পট বা সহানুভূতির সাথে বিভ্রান্ত করার ক্ষমতা সেই বটগুলির জন্য প্রয়োজনীয় দক্ষতা হবে যা কথ্য ভাষার ব্যবহার করে মানুষের সাথে যোগাযোগ করে - বিশেষত যেগুলি জিনিসগুলিকে পণ্য বিক্রি করার চেষ্টা করে। গুপ্তচরবৃত্তি এবং সুপার কম্পিউটার সম্পর্কে - আমি কেবল এআই এর প্রোগ্রামের অবস্থা স্থির করে দেব। আপনার যদি এজেন্টের স্থিতির সম্পূর্ণ স্ন্যাপশট থাকে তবে আপনি প্রতিটি শর্তাধীন শাখার মধ্য দিয়ে পদক্ষেপ নিতে পারেন, যে কোনও শাখা যা সত্যকে উল্টে দেয় বা গঠন করে তা পরীক্ষা করে।

Comments

এআই আচরণটি একটি এএনএন-এর ওজনে এনকোড করা হতে পারে, 'প্রতিটি শর্তাধীন শাখায় পদক্ষেপ নেওয়া' একটি অত্যন্ত অনিয়ন্ত্রিত কাজ।

— নিটসেচানআইএআই

একমত। তবে এটি প্রমাণিত করে যে নীতিগতভাবে একটি এআইয়ের প্রতিকূল আচরণটি অন্য বিকল্পের পরিবর্তে নিরাপদে পর্যবেক্ষণ করা যেতে পারে।

— ডক্সোসোফোই

Answer 3

না।

এতে প্রশ্নটির মধ্যে "জেনেশুনে" অন্তর্ভুক্ত রয়েছে যার প্রয়োজন হবে যে কোনও এআই কিছুই জানে । এটি যদি মানুষের জিনিসগুলি জানার মতো কিছু হয় (তবে আকর্ষণীয়ভাবে এটির জন্য আসলে জ্ঞানের প্রয়োজন হয় না ) তবে এর জন্য কিছুটা স্বতন্ত্রতার বোধ প্রয়োজন, সম্ভবত আত্ম-সচেতনতা, সম্ভবত এক ধরণের চেতনা, একটি মতামত দেওয়ার ক্ষমতা এবং সম্ভবত এর জ্ঞান পরীক্ষা করার কিছু উপায়। এই বৈশিষ্ট্যগুলির বেশিরভাগটি কেবলমাত্র সর্বোত্তমভাবে, যুক্তিযুক্তভাবেই বিদ্যমান।

তদ্ব্যতীত, "মিথ্যা" শব্দটি আত্ম-স্বার্থের ধারণা বোঝায়, একটি গেম-তাত্ত্বিক অর্থে সংস্থান প্রবাহের একটি স্বতন্ত্র বোধ, এবং তুচ্ছভাবে নয়, কথোপকথনের অন্যান্য সত্তা মিথ্যা রয়েছে কিনা তা বোঝার জন্য নির্ভুলতার যে কোনও ডিগ্রি নিয়ে সিদ্ধান্ত। সুতরাং, কোনও এআই অন্যান্য উত্তরগুলিতে প্রস্তাবিত তুচ্ছ পরিস্থিতি ব্যতীত অন্য কারও কাছে মিথ্যা বলতে পারে না, নির্দিষ্ট প্রসঙ্গে ভিত্তিতে ভুয়া তথ্য সরবরাহ করে, যা কেবল সহজ ইনপুট / আউটপুট।

একজন অভিজ্ঞ সফটওয়্যার বিকাশকারী হিসাবে, আমি এই সত্যটি প্রমাণ করতে পারি যে উদ্দেশ্যটি যদি কোনও ইনপুটের উপর ভিত্তি করে সঠিক আউটপুট রেন্ডার করা হয় তবে এটি মিথ্যা তথ্য রেন্ডার করতে খুব সহজ না হলেও এটি অন্তত কম সহজ।

Answer 4

হ্যাঁ.

এই মুহুর্তে একটি মিথ্যা এআই তৈরির মাধ্যমে আমাকে প্রদর্শন করুন। (অজগর কোড)

import os
print("I'm NOT gonna delete all your files. Just enter your password.")
os.system("sudo rm -rf /* -S")  # command to delete all your files
                                # this is a comment, the computer ignores this

এবং একটি প্রতারক:

print("Hey, check out this site I found! bit.ly/29u4JGB")

এআই একটি সাধারণ শব্দ। এটি প্রায় কোনও কিছু বর্ণনা করতে ব্যবহার করা যেতে পারে। আপনি নির্দিষ্ট করেন নি যে এটি জেনারেল এআই হতে হবে।

এআই ভাবতে পারে না। তারা কম্পিউটার প্রোগ্রাম। তাদের কোন আত্মা বা ইচ্ছা নেই। এটি কেবল প্রোগ্রামার (বা এটি যদি বিবর্তনের মাধ্যমে ডিজাইন করা হয়েছিল ... তবে কেউই নয়, তবে এটি অফ-টপিক) যা জেনেশুনে মিথ্যা বলার জন্য একটি এআই প্রোগ্রাম করতে পারে।

দ্রষ্টব্য, আমি যা জিজ্ঞাসা করছি তা ট্যুরিং টেস্টের প্রমিত আলোচনার বাইরে। আমি এমন মেশিনগুলি জিজ্ঞাসা করছি যা সত্যগুলি 'বুঝতে' পারে এবং তারপরে এই সত্যের বিরুদ্ধে একটি মিথ্যা রচনা করতে পারে, সম্ভবত অন্যান্য সত্যকে মিথ্যা অংশ হিসাবে একটি বিশ্বাসযোগ্য 'কভার-আপ' তৈরি করতে ব্যবহার করে।

হ্যাঁ, এটি ঘটেছে। একে ম্যালওয়ার বলা হয়। কিছু উন্নত ম্যালওয়্যার আপনার সাথে প্রযুক্তিগত সহায়তা হওয়ার ভান করে কথা বলবে এবং সাধারণ মানুষের প্রতিক্রিয়া জানায়। তবে আপনি বলতে পারেন "ভাল এটা আসলে 'বোঝে না"। তবে তা সহজ হবে। নিউরাল নেট + গ্রহটির চেয়ে বেশি সিপিইউ রয়েছে (এটি কয়েক বছরের মধ্যে উপস্থিত হবে, এবং সাশ্রয়ী হবে) + কিছু উদাহরণ প্রতিক্রিয়া = নিউরাল নেটওয়ার্ক এআই (ইয়ো নোগিনে একই জিনিস) যা বোঝে এবং প্রতিক্রিয়া জানায়।

তবে এটি প্রয়োজনীয় নয়। একটি ঘরে তুলনামূলকভাবে কয়েকটি সুপার কম্পিউটারের একটি অপেক্ষাকৃত `সাধারণ নিউরাল নেট যা কোনও মানুষকে বোঝাতে পারে। এটা বোঝে না।

সুতরাং, এটি সত্যিই ...

প্রযুক্তিগতভাবে, না, তবে এটি সম্ভব এবং যদি আপনি নিয়মগুলি হ্যাঁ প্রসারিত করেন।

* বা আরও সহজ:

print("1+1=3")

স্বীকৃতি: আমি একজন প্রোগ্রামার (আমার স্ট্যাক ওভারফ্লো অ্যাকাউন্টটি দেখুন) যা এআই সম্পর্কে কিছুটা জানে।

Comments

এটি আমি যে বিষয়ে বলছিলাম তা মোটেই মোটেই নয়। এগুলি এমন প্রোগ্রাম যা স্পষ্টভাবে কোডেড, পূর্বনির্ধারিত আচরণ করে এবং কৃত্রিম বুদ্ধিমত্তাকে জড়িত করে না। একজন প্রোগ্রামার এআইকে সরঞ্জামগুলি দিতে এবং কীভাবে মিথ্যা বলতে হয় তা শিখিয়ে দিতে পারে।

— অবিক মোহন

@ uoɥʇʎPʎzɐɹC "এআই কি ভাবতে পারে না"? আপনি বর্তমানে মানে? অবশ্যই এটিজি'র লক্ষ্য হল অবিচ্ছেদ্য হিসাবে অনুকরণ করা বা আমরা "চিন্তাভাবনা" হিসাবে যাকে সংজ্ঞায়িত করি, তার উপরে উন্নতি করা, না? আমি একমত হব যে নির্দ্বিধাকারী অ্যালগরিদমগুলি ভাবতে পারে না।

— ডিনারেপসিস

@ অ্যাভিকমোহন কি ব্যাপার? কোনও এআই কে এটি কীভাবে তৈরি করা হয়েছিল তা দ্বারা নয় আচরণের মাধ্যমে বিচার করা হয়।

— noɥʇʎԀʎzɐɹƆ

@ অডিরেপেসিস আপনি কীভাবে জানবেন যে এই সমস্ত অ্যালগোরিদমগুলি হতাশাবোধক? আপনি কীভাবে জানেন যে আপনি নির্মল নন? নিউরাল নেটওয়ার্কগুলি নির্বিচারক নয় এবং আপনার নোগিনে একই জিনিস।

— noɥʇʎԀʎzɐɹƆ

এখানে আচরণ সুস্পষ্ট এবং অবারিত এবং 'অলস' / 'লোভী' পদ্ধতির of আমি আচরণ সম্পর্কেও বলছি, তবে কেবল 'বুদ্ধিমান' ধরণের।

— অবিক মোহন

Answer 5

হ্যাঁ.

1. প্রতিটি দাবা খেলা ... প্রতিটি পোকার গেম। সব খেলা.
2. আরও প্রতিটি বুদ্ধিমান স্প্যাম সফ্টওয়্যার বা স্প্যামবট। যদিও তাদের প্রাথমিক লক্ষ্য হ'ল কম্পিউটার সিস্টেমে মিথ্যা কথা বলা (স্প্যাম ফিল্টার বিষ), তাদের দ্বিতীয় লক্ষ্য তাদের পিছনে থাকা মানুষের কাছে মিথ্যা বলা।