কৃত্রিম বুদ্ধিমত্তা হ্যাকিংয়ের ঝুঁকিপূর্ণ?

Question

অ্যাডভারসিয়াল সেটিংসে ডিপ লার্নিং অফ সীমাবদ্ধতার কাগজটি অনুসন্ধান করে যে কীভাবে কোনও আক্রমণকারী দ্বারা নিউরাল নেটওয়ার্কগুলি দূষিত হতে পারে যারা নিউরাল নেটওয়ার্ক দ্বারা ট্রেন করা ডেটা সেটটি ম্যানিপুলেট করতে পারে। নিউরাল নেটওয়ার্ক নিয়ে লেখকরা পরীক্ষা-নিরীক্ষার অর্থ হস্তাক্ষরযুক্ত অঙ্কগুলি পড়তে চেয়েছিলেন, যার দ্বারা নিউরাল নেটওয়ার্কটি প্রশিক্ষণপ্রাপ্ত হস্তাক্ষর অঙ্কগুলির নমুনাগুলি বিকৃত করে এর পড়ার ক্ষমতাকে ক্ষুন্ন করে।

আমি উদ্বিগ্ন যে দূষিত অভিনেতারা এআইকে হ্যাক করার চেষ্টা করতে পারে। উদাহরণ স্বরূপ

• গতির সীমা বন্ধের লক্ষণগুলির ভুল ব্যাখ্যা করতে স্বায়ত্তশাসিত যানগুলি বোকা বানানো।
• মুখের স্বীকৃতিকে বাইপাসিং করা, যেমন এটিএমের মতো।
• স্প্যাম ফিল্টারগুলি বাইপাস করছে।
• চলচ্চিত্রের পর্যালোচনাগুলি, হোটেলগুলি ইত্যাদির বোকা অনুভূতি বিশ্লেষণ
• অসাধারণ সনাক্তকরণ ইঞ্জিনগুলিকে বাইপাস করছে।
• ভয়েস কমান্ড নকল।
• বিভক্তকরণ মেশিন লার্নিং-ভিত্তিক মেডিকেল পূর্বাভাস।

কোন প্রতিকূল প্রভাব বিশ্বকে বিঘ্নিত করতে পারে? আমরা কীভাবে এটি প্রতিরোধ করতে পারি?

Comments

মানব বুদ্ধি হ্যাকিংয়ের পক্ষে ঝুঁকির বিষয়ে বিবেচনা করুন

— গাইস

মজাদার. আপনি কি "অ্যাডভারসিয়াল সেটিংস ঝুঁকি মডেলগুলি" বা একটি traditionalতিহ্যবাহী সাইবার-সুরক্ষা উত্তরের কাছাকাছি কিছু হলেও আগ্রহী কিন্তু এখনও প্রায় এআই সম্পর্কে? শুভ কামনা.

— টোটোলজিকাল উদ্ঘাটন

Answer 1

আমি যেভাবে দেখি তা এআই দু'টি সুরক্ষার দৃষ্টিকোণ থেকে দুর্বল:

1. এআই চালাচ্ছে এমন মেশিনে কিছু ধরণের কোড এক্সিকিউশন অর্জন করতে বা ডেটা উত্তোলনের জন্য এককভাবে প্রোগ্রাম্যাটিক ত্রুটিগুলি ব্যবহার করার সর্বোত্তম পদ্ধতি।

2. সিস্টেমটি মোকাবেলায় ডিজাইন করা হয়েছে এমন নির্দিষ্ট তথ্যের জন্য এআই অপটিক্যাল বিভ্রমের সমতুল্য ট্রিকারি।

প্রথমটি অন্য যে কোনও সফ্টওয়্যারের মতো একইভাবে হ্রাস করতে হবে। আমি অনিশ্চিত যদি অন্য সফ্টওয়্যারগুলির তুলনায় এই ফ্রন্টে এআই আরও ঝুঁকিপূর্ণ হয় তবে আমি ভাবতে আগ্রহী যে জটিলতা সম্ভবত খানিকটা ঝুঁকি বাড়িয়ে তুলবে।

দ্বিতীয়টি সম্ভবত উত্তরটির কয়েকটি উত্তর হিসাবে উল্লিখিত হিসাবে সিস্টেমের সাবধানী পরিমার্জন উভয়ই দ্বারা সর্বোত্তমভাবে প্রশমিত করা যায়, তবে সিস্টেমটিকে আরও প্রসঙ্গ-সংবেদনশীল করে; অনেক বিদ্বেষমূলক কৌশলগুলি ভ্যাকুয়ামে মূল্যায়ন হওয়ার উপর নির্ভর করে।

Comments

কোড দুর্বলতা এবং ব্যবহারের দুর্বলতার মধ্যে বিভাজন ভাল। যাইহোক, কোড দুর্বলতাগুলি সাধারণত এআই-তে স্বল্প হয়। এআই এর জটিলতা ডেটাগুলির মধ্যে রয়েছে, তা কোনও নিউরাল নেটওয়ার্কের নোড ওজন বা এলোমেলো বনের গাছের গাছ। এআইকে খাওয়ানোর জন্য খুব সামান্য কোড রয়েছে, এবং প্রধান ঝুঁকি এটি অতিরিক্ত খাওয়াচ্ছে না - একটি ক্লাসিক বাফার ওভারফ্লো ঝুঁকি, সহজেই বিংশ শতাব্দীর শেষের কৌশলগুলি দ্বারা হ্রাস করা।

— এমসাল্টারস

@ এসএমএল্টাররা আমার মনে হয় একটি সাধারণ উপসংহার আঁকার পক্ষে কঠিন কারণ কোডের জটিলতা বিভিন্ন ধরণের এআই এজেন্টগুলির মধ্যে অনেকগুলি পরিবর্তিত হতে পারে (আমার ধারণা আপনার মন্তব্য নিউরাল নেটওয়ার্কগুলির জন্য অনেকাংশে নির্ভুল)। তদ্ব্যতীত, যদিও এর ডেটা এবং ম্যানিপুলেশন সম্ভবত বৃহত্তর আক্রমণ পৃষ্ঠ, এটি একই ধরণের আক্রমণকে ছাড় দেওয়া বুদ্ধিমানের কাজ হবে যা অতীতে আপোসযুক্ত চিত্র ফাইলগুলির মাধ্যমে দূরবর্তী কোড প্রয়োগের অনুমতি দেয় যা চিত্র দেখার অ্যাপ্লিকেশনগুলির ত্রুটিগুলি কাজে লাগিয়েছে। ভেক্টরটি হ'ল ডেটা যা যাচ্ছিল, কিন্তু আচরণটি এখনও কোড দুর্বলতার শিরোনামের আওতায় পড়ে I

— ক্রিস্টোফার গ্রিফিথ

Answer 2

প্রোগ্রামার বনাম প্রোগ্রামার

এটি একটি "অনন্ত যুদ্ধ": প্রোগ্রামার্স বনাম প্রোগ্রামার। সমস্ত জিনিস হ্যাক করা যায়। প্রতিরোধটি পেশাদার সুরক্ষার দায়িত্বে থাকা পেশাদাররা এবং প্রয়োগের সুরক্ষায় প্রোগ্রামারদের জ্ঞানের স্তরের সাথে যুক্ত।

উদাহরণস্বরূপ , সেন্টিমেন্ট অ্যানালাইসিস দ্বারা উত্পাদিত মেট্রিকগুলিতে গণ্ডগোলের চেষ্টা করা কোনও ব্যবহারকারীকে সনাক্ত করার বিভিন্ন উপায় রয়েছে তবে সেই ধাপগুলিও নিষ্ক্রিয় করার উপায় রয়েছে। এটি একটি বেশ বিরক্তিকর লড়াই।

এজেন্ট বনাম এজেন্ট

একটি আকর্ষণীয় বিষয় যা @ ডুকঝু উত্থাপন করেছিলেন তা হ'ল এই যুদ্ধের বিবর্তন, এতে দুটি কৃত্রিম বুদ্ধিমত্তা (এজেন্ট) জড়িত। সেক্ষেত্রে যুদ্ধটি সর্বাধিক জ্ঞাত। সেরা প্রশিক্ষিত মডেল কোনটি, আপনি জানেন?

তবে দুর্বলতার ইস্যুতে নিখুঁততা অর্জনের জন্য কৃত্রিম বুদ্ধিমত্তা বা কৃত্রিম সুপার বুদ্ধিমত্তা মানবকে অবরুদ্ধ করার ক্ষমতাকে ছাড়িয়ে যায়। দেখে মনে হচ্ছে যে আজ অবধি সকল হ্যাকের জ্ঞান এই এজেন্টের মনে ইতিমধ্যে বিদ্যমান ছিল এবং সে তার নিজস্ব সিস্টেমকে রোধ করার এবং সুরক্ষা বিকাশের নতুন উপায়গুলি বিকাশ করতে শুরু করে। জটিল, তাই না?

আমি বিশ্বাস করি এমন একটি এআই, যিনি ভাবেন এটি কঠিন: "মানুষ কি তার মুখ চিহ্নিত করার পরিবর্তে কোনও ফটো ব্যবহার করবে?"

আমরা কীভাবে এটি প্রতিরোধ করতে পারি

সর্বদা একজন মেশিনের তদারকিকারী একটি মানুষের থাকা, এবং এখনও এটি 100% কার্যকর হবে না। এটি কোনও এজেন্ট নিজের মডেলকে একা উন্নত করতে পারে এমন সম্ভাবনা উপেক্ষা করে।

উপসংহার

সুতরাং আমি মনে করি দৃশ্যপটটি এইভাবে কাজ করে: একটি প্রোগ্রামার লগ এবং পরীক্ষার মাধ্যমে জ্ঞান অর্জনকারী একটি এআই এবং আইএ বিকাশকারীদের বৈধতাগুলি নষ্ট করার চেষ্টা করে ব্যর্থতার সম্ভাবনা হ্রাস করার চেষ্টা করে একটি চৌকস এবং নিরাপদ মডেল তৈরি করার চেষ্টা করে।

Comments

দুর্দান্ত উত্তর। (ইমো, গ্রহণযোগ্য উত্তর হওয়া উচিত, তবে আপনাকে কিছু সমর্থন বা লিঙ্ক সরবরাহ করতে হবে)) নির্বিশেষে আপনার যুক্তি সঠিক, যদিও আমি মনে করি এটি প্রোগ্রামার বনাম প্রোগ্রামার ছাড়িয়ে এজেন্ট বনাম এজেন্টের প্রসারিত হওয়া শুরু করবে কারণ নতুন অ্যালগরিদমগুলি বাড়বে পরিশীলিতকরণ, এবং মানবিক প্ররোচনা ছাড়াই এই কৌশলগুলি গ্রহণ করুন।

— ডিউকঝৌ

আপডেট করা হয়েছে! শুভ পয়েন্ট @ ডুকজেউউ

— আইএ

Answer 3

আমরা কীভাবে এটি প্রতিরোধ করতে পারি?

এআই যাচাইকরণ সম্পর্কে বেশ কয়েকটি কাজ রয়েছে। স্বয়ংক্রিয় যাচাইকারীরা নিউরাল নেটওয়ার্কগুলির দৃ rob়তা বৈশিষ্ট্য প্রমাণ করতে পারে। এর অর্থ হ'ল যদি এনএন-এর ইনপুট এক্স কোনও নির্দিষ্ট সীমাতে that (কিছু মেট্রিকে, যেমন এল 2) এর চেয়ে বেশি না জড়িত থাকে, তবে এনএন তাতে একই উত্তর দেয়।

এই জাতীয় যাচাইকারীরা এর দ্বারা সম্পন্ন হয়:

• স্ট্যানফোর্ড: https://arxiv.org/pdf/1702.01135.pdf
• ETHZ: https://www.sri.inf.ethz.ch/papers/sp2018.pdf
• গুগল: https://arxiv.org/pdf/1803.06567.pdf , https://arxiv.org/pdf/1805.10265.pdf
• বোশ: https://arxiv.org/pdf/1805.10265.pdf

এই পদ্ধতিটি নিউরাল নেটওয়ার্কগুলির দৃust়তা বৈশিষ্ট্যগুলি পরীক্ষা করতে সহায়তা করতে পারে। পরবর্তী পদক্ষেপটি এমন নিউরাল নেটওয়ার্ক তৈরি করা, যার জন্য দৃust়তা প্রয়োজন। উপরের কিছু কাগজপত্রে কীভাবে এটি করা যায় তার পদ্ধতিও রয়েছে।

নিউরাল নেটওয়ার্কগুলির দৃust়তা উন্নতির জন্য বিভিন্ন কৌশল রয়েছে:

• প্রতিকূল প্রশিক্ষণ (উদাহরণস্বরূপ এ। কুরকিন এট আল, আইসিএলআর 2017 দেখুন )

• ডিফেন্সিভ পাতন (উদাহরণস্বরূপ এন। পেপারনট এট।, এসএসপি 2016 দেখুন )

• এমএমএসটিভি প্রতিরক্ষা ( মাড্রি এট।, আইসিএলআর 2018 )।

কমপক্ষে সর্বশেষে শেষ পর্যন্ত এনএন আরও শক্তিশালী করতে পারে। আরও সাহিত্য এখানে পাওয়া যাবে ।

Comments

এটি একটি অসম্ভব দাবি বলে মনে হচ্ছে ... যদি না সাধারণ ইনপুট এক্সের চেয়ে কিছু নির্দিষ্ট ইনপুট এক্স হয়? কোন ক্ষেত্রে, হ্যাকিবিলিটি সম্পর্কে কিছুই বলা উচিত বলে মনে হচ্ছে, যেহেতু প্রশিক্ষণের ক্ষেত্রে যারা ইনপুটগুলি সীমিত করার দরকার নেই?

— মেহরদাদ

@ মেহরদাদ: ইনপুট স্পেসটি যদি এমনভাবে কাঠামোযুক্ত হয় যে আপনি এলোমেলোভাবে এটি নমুনা করতে পারেন তবে সম্ভবত এটি সম্ভাবনাময় অর্থে অর্জনযোগ্য। এর অর্থ হল, আপনি সম্ভবত এটি স্থাপন করতে পারেন যে সম্ভাব্য ইনপুটগুলির 95% ক্ষেত্রে 95 এর চেয়ে ছোট 95% ব্যাঘাত ক্লাস লেবেলকে প্রভাবিত করে না। এটি ইনপুট স্পেসে আউটপুট ক্লাসের মধ্যে সীমানা মসৃণ, বা ইনপুট স্পেসের বৃহত্তম অংশটি কোনও শ্রেণির সীমানার কাছে অবস্থিত নয় তা প্রতিষ্ঠার সমান। স্পষ্টতই ইনপুট জায়গার কিছু অংশ বর্গ সীমানার কাছাকাছি থাকতে হবে।

— MSalters

আমি নিশ্চিত নই যে এটি কাগজে বর্ণিত "অ্যাডভারসারিয়াল" মামলায় প্রযোজ্য: সেখানে, (আইআইআরসি) পুরো চিত্রটিতে একটি ব্যাক-প্রসারণ গ্রেডিয়েন্ট যুক্ত করা হয়েছে, তাই সম্পূর্ণ ইনপুটটিতে পরিবর্তনটি বেশ বড় হতে পারে - এমনকি যদি প্রতিটি পৃথক পিক্সেলের জন্য পরিবর্তন সবে লক্ষণীয়।

— নিকি

@ এসএমএলটার: আমার ধারণা, হ্যাঁ। কিন্তু তারপর এটি একটি ন্যায্য বিট মূল্যহ্রাস যদি না আপনি আসলে ছবি যে একটি বর্গ সীমান্তে হয় দেখাতে পারেন যে আসলে উচিত বলে মনে হয় হতে একটি বর্গ সীমান্তে ...

— Mehrdad

"পরবর্তী পদক্ষেপটি এমন নিউরাল নেটওয়ার্ক তৈরি করা, এর জন্য দৃ rob়তা প্রয়োজন" এই বাক্যটি গবেষণা চলছে। সাধারণভাবে এনএন শক্তিশালীকরণ সমস্যা থেকে মুক্তি পাওয়া খুব কঠিন। তবে অ্যাডভারসিয়াল ট্রেনিংয়ের মাধ্যমে দৃust়তা বাড়ানো সম্ভব (উদাহরণস্বরূপ এ। কুরকিন এট।, আইসিএলআর 2017 ), ডিফেন্সিভ ডিস্টিলেশন (উদাহরণস্বরূপ এন। পেপারনট এট আল।, এসএসপি 2016 ), এমএমএসটিভি প্রতিরক্ষা ( মাড্রি এট আল, আইসিএলআর 2018) )। কমপক্ষে সর্বশেষে শেষ পর্যন্ত এনএন আরও শক্তিশালী করতে পারে।

— ইলিয়া পলাচেভ

Answer 4

আমি বিশ্বাস করি এটি হ'ল কোনও সিস্টেমই নিরাপদ নয়, তবে আমি নিশ্চিত নই যে আমি এখনও 20-30 বছরের এআই বিকাশ / বিবর্তনের পরে এটি বলতে পারব কিনা। যাইহোক, এমন নিবন্ধ রয়েছে যা মানবকে এআই (কম্পিউটার ভিশন) বোকা দেখিয়েছে।

https://www.theverge.com/2018/1/3/16844842/ai-computer-vision-trick-adversarial-patches-google

https://spectrum.ieee.org/cars-that-think/transportation/sensors/slight-street-sign-modifications-can-fool-machine-learning-algorithms

Answer 5

কৃত্রিম বুদ্ধিমত্তা হ্যাকিংয়ের পক্ষে কি ক্ষতিগ্রস্থ?

আপনার প্রশ্নটি একটি মুহুর্তের জন্য উল্টে দিন এবং ভাবেন:

অন্য যে কোনও সফ্টওয়্যারটির তুলনায় এআই হ্যাকিংয়ের ঝুঁকির চেয়ে কম কী করবে?

দিনের শেষে, সফ্টওয়্যারটি সফ্টওয়্যার এবং সর্বদা বাগ এবং সুরক্ষা সংক্রান্ত সমস্যা থাকবে। এআইগুলি নন-এআই সফ্টওয়্যার যে সকল সমস্যার ঝুঁকিতে রয়েছে, এআইরা এটিকে একরকম প্রতিরোধ ক্ষমতা দেয় না।

এআই-সুনির্দিষ্ট টেম্পারিংয়ের ক্ষেত্রে, এআই মিথ্যা তথ্য খাওয়ানোর ঝুঁকিতে রয়েছে। বেশিরভাগ প্রোগ্রামের থেকে পৃথক, এআই এর কার্যকারিতা এটি গ্রহণ করে এমন ডেটা দ্বারা নির্ধারিত হয়।

বাস্তব বিশ্বের উদাহরণের জন্য, কয়েক বছর আগে মাইক্রোসফ্ট একটি এআই চ্যাটবট তৈরি করেছিল টয় নামে। "আমরা একটি প্রাচীর তৈরি করতে যাচ্ছি, এবং মেক্সিকো এর মূল্য দিতে যাচ্ছে" বলতে এটি শিখতে 24 ঘন্টা কমেরও বেশি সময় লেগেছে টুইটারের লোকদের:

(নীচে লিঙ্কিত ভার্জ নিবন্ধ থেকে নেওয়া চিত্র, আমি এর জন্য কোনও ক্রেডিট দাবি করি না))

আর তা হ'ল আইসবার্গের ডগা।

টে সম্পর্কে কিছু নিবন্ধ:

• বিবিসি
• কিনারা

এখন কল্পনা করুন যে এটি কোনও চ্যাট বট নয়, ভাবুন এটি এমন ভবিষ্যতের একটি গুরুত্বপূর্ণ অংশ ছিল যেখানে এআই কোনও গাড়ি চালককে (যেমন একটি স্বয়ংচালিত গাড়ী) হত্যা না করা বা কোনও রোগীকে হত্যা না করার মতো জিনিসগুলির দায়িত্বে রয়েছে from অপারেটিং টেবিল (অর্থাত্‍ এক ধরণের চিকিত্সা সহায়তা সরঞ্জাম)।

মঞ্জুর, একজন আশা করে যে এই জাতীয় এআইগুলি এই জাতীয় হুমকির বিরুদ্ধে আরও সুরক্ষিত হতে পারে তবে মনে করে যে কেউ এআইআই জনকে ভুয়া তথ্যের উদ্রেক করার কোনও উপায় খুঁজে পেয়েছে তবে তা প্রমাণিত হয়নি (সর্বোপরি, সেরা হ্যাকাররা কোনও চিহ্নই ছাড়বে না), এর আসল অর্থ হতে পারে জীবন এবং মৃত্যুর মধ্যে পার্থক্য।

স্ব-ড্রাইভিং গাড়ির উদাহরণ ব্যবহার করে, কল্পনা করুন যে কোনও মিথ্যা ডেটা মোটরওয়েতে যাওয়ার সময় জরুরি অবস্থা থামানোর জন্য গাড়ীটিকে এটির প্রয়োজন মনে করতে পারে। মেডিকেল এআই-এর জন্য একটি অ্যাপ্লিকেশন হ'ল ইআরের জীবন-মৃত্যুর সিদ্ধান্ত, কোনও হ্যাকার যদি ভুল সিদ্ধান্তের পক্ষে দাঁড়িপাল্লা টিপতে পারে তবে ভাবুন।

আমরা কীভাবে এটি প্রতিরোধ করতে পারি?

চূড়ান্তভাবে ঝুঁকির স্কেল নির্ভর করে এআই-তে মানুষ কতটা নির্ভরশীল হয় তার উপর। উদাহরণস্বরূপ, যদি মানুষ কোনও এআইয়ের রায় গ্রহণ করে এবং কখনও এটিকে প্রশ্নবিদ্ধ না করে, তবে তারা সমস্ত ধরণের হেরফেরের জন্য নিজেকে উন্মুক্ত করে তুলবে। তবে, যদি তারা এআই এর বিশ্লেষণকে ধাঁধার একমাত্র অংশ হিসাবে ব্যবহার করে তবে দুর্ঘটনাক্রমে বা দূষিত উপায়ে এটি কোনও এআই ভুল হলে স্পট করা সহজ হয়ে যায়।

চিকিত্সা সিদ্ধান্ত গ্রহণকারীর ক্ষেত্রে, কেবল এআইকে বিশ্বাস করবেন না, শারীরিক পরীক্ষা চালান এবং কিছু মানুষের মতামতও পান। যদি দুটি ডাক্তার এআইয়ের সাথে একমত না হন তবে এআই এর নির্ণয়টি ছুঁড়ে দিন।

গাড়ির ক্ষেত্রে, একটি সম্ভাবনা হ'ল বেশ কয়েকটি রিলান্ড্যান্ট সিস্টেম থাকা দরকার যা করণীয় সম্পর্কে অবশ্যই 'ভোট' দিতে হবে। যদি কোনও গাড়ীর পৃথক সিস্টেমে একাধিক এআই থাকে যা অবশ্যই কোন পদক্ষেপ নেবে সে সম্পর্কে ভোট দিতে হবে, একটি হ্যাকার নিয়ন্ত্রণ পেতে বা অচলাবস্থার জন্য কেবল একটি এআইয়ের চেয়ে বেশি গ্রহণ করতে হবে। গুরুত্বপূর্ণভাবে, যদি এআইগুলি বিভিন্ন সিস্টেমে চালিত হয় তবে একের উপর একই ব্যবহার করা যেতে পারে না, হ্যাকারের কাজের চাপ আরও বাড়িয়ে তোলে।

Comments

আমি একাধিক পৃথক এআই সিস্টেম থাকার ধারণাটি পছন্দ করি যা প্রশমন কৌশল হিসাবে চুক্তিতে পৌঁছাতে হয়। তবুও আপনাকে আশ্বস্ত করতে হবে যে তারা যে কোনও ভোটিং মেকানিজম ব্যবহার করেছিল তা কোনও জাল সিদ্ধান্তকে নিয়ে গঠিত হতে পারে না।

— ক্রিস্টোফার গ্রিফিথ

ক্রিস্টোফার গ্রিফিথ সত্য, এটি একটি ঝুঁকিপূর্ণ। গাড়ির ক্ষেত্রে, হ্রাস করার সর্বোত্তম উপায়টি হ'ল সিস্টেমটি ডিজাইন করা যাতে আক্রমণকারীকে এটির ব্যবহারের জন্য শারীরিক অ্যাক্সেসের প্রয়োজন হয় এবং এটি পৌঁছানো শক্ত করে তোলে যাতে ব্যক্তিটিকে অ্যাক্সেস করার জন্য গাড়ীতে প্রবেশ করতে হবে। কোনও সিস্টেম অফলাইনে রাখা সাধারনত আদর্শ না হলেও সাধারণত হ্যাকিংয়ের প্রতিরোধের উপযুক্ত।

— ফারাপ

Answer 6

আমি আকিওর সাথে একমত হয়েছি যে কোনও সিস্টেম পুরোপুরি নিরাপদ নয়, তবে পুরানো সিস্টেমগুলির সাথে তুলনা করার সময় এআই সিস্টেমগুলি আক্রমণের ঝুঁকি কম থাকে কারণ ক্রমাগত উন্নতি করার দক্ষতার কারণে।

যত বেশি সময় কেটে যায় লোকেরা নতুন ধারণা নিয়ে আসবে এবং হার্ডওয়্যার উন্নত হবে যাতে তারা "শক্তিশালী এআই" হয়।

Answer 7

কৃত্রিম বুদ্ধিমত্তা হ্যাকিংয়ের ঝুঁকিপূর্ণ?

প্রজ্ঞান; আপনি যদি বলেন যে এআই দুর্বল, তবে আমি এখানে এ জাতীয় বিবৃতি দিয়ে আপনার সাথে একমত নই। কৃত্রিম বুদ্ধিমত্তাকে তিনটি বিভাগে বা পর্যায়ক্রমে বিভক্ত করা হয় যা আমাদের অর্থাত্ চলার কথা।

• কৃত্রিম সংকীর্ণ বুদ্ধি

• কৃত্রিম সাধারণ বুদ্ধি

• কৃত্রিম সুপার বুদ্ধি

সুতরাং, আপনার বক্তব্য অনুযায়ী; "আমি উদ্বিগ্ন যে দূষিত অভিনেতারা এআইকে হ্যাক করার চেষ্টা করতে পারে ....."

আপনার বার্তার শৃঙ্খলার উদাহরণগুলির দ্বারা প্রদত্ত, আমরা কৃত্রিম সংকীর্ণ বুদ্ধিমত্তার স্তরে রয়েছি, যেখানে মানব হ্যাকার এই ধরণের অ্যাপ্লিকেশনগুলিতে আক্রমণ করার জন্য তার / দূষিত কোডটিকে মোচড় দিতে পারে ow তবে আমরা যদি সরাসরি কৃত্রিমের চূড়ান্ত স্তরে চলে যাই গোয়েন্দা; তবে যে কোনও উপায়েই; কোনও মানুষ কোনও সুপার ইন্টেলিজেন্ট সফটওয়্যার প্রোগ্রাম বা একটি হাই টেক সুপার বুদ্ধিমান এজেন্টকে আক্রমণ করতে বা হ্যাক করতে পারে না। এই ক্ষেত্রে; একজন মানব হ্যাকার, একবারে একটি কাজ করে, কোনও কৃত্রিম বুদ্ধিমত্তাকে তার ফোকাসকে বিভক্ত করা এবং একসাথে প্রচুর কর্মচারী করা বন্ধ করার মতো কিছুই নেই, এইভাবে সঠিকভাবে কাজ করে এমন কোনও মনের অনুমান করা শক্ত নয়

তোমার জ্ঞাতার্থে

মিডিয়া সাধারণত এআই সম্পর্কে যা বলেছে তা গ্রহণ করবেন না, কেবল কারণ; তারা জানেন না যে বড় জিনিসটি ঘটবে যা নতুন প্রজাতি যা মানুষের প্রতিযোগিতা করে

একটি উচ্চ প্রযুক্তির যে নতুন সমাজে বাস কল্পনা করুন। পরীক্ষা করে দেখুন সাইবার গ্র্যান্ড চ্যালেঞ্জ

যদি আপনি এই ইভেন্টটি মিস করেন তবে দুঃখিত am

Comments

আমি কল্পনা করব যে এমনকি কৃত্রিমভাবে সুপার বুদ্ধিমান সৃষ্টি সহ একটি পৃথিবীতে, এখনও উচ্চতর বিশেষায়িত সরঞ্জামগুলি ব্যবহার করে এই সিস্টেমগুলি হ্যাক করার উপায় রয়েছে যা নির্দিষ্ট কার্যগুলিতে সাধারণীকরণযুক্ত এআই সিস্টেমগুলিকে সহজতর করে তুলতে পারে।

— kroe2

Answer 8

যে কোনও ধরণের গোয়েন্দা তথ্য হ্যাকিংয়ের পক্ষে ঝুঁকিপূর্ণ, ডিএনএ ভিত্তিক বা কৃত্রিম হোক। প্রথম, আসুন হ্যাকিং সংজ্ঞায়িত করা যাক। এই প্রসঙ্গে হ্যাকিং হ'ল নির্দিষ্ট লক্ষ্য অর্জনের জন্য দুর্বলতাগুলির শোষণ যা হ'ল স্ট্যাটাস, আর্থিক লাভ, ব্যবসা বা সরকার বিঘ্নিত হতে পারে, চাঁদাবাজির জন্য ব্যবহার করা যেতে পারে এমন তথ্য, ব্যবসায়িক চুক্তি বা নির্বাচনের উপরের অংশ, বা অন্য কোনও রূপ অন্তর্ভুক্ত থাকতে পারে নিয়ন্ত্রণ বা হেরফের

ব্রেন হ্যাকিং কৌশল এবং তাদের সাধারণ উদ্দেশ্যগুলির উদাহরণ এখানে। এগুলির প্রত্যেকেরই একটি ডিজিটাল সিস্টেম সমতুল্য।

• সরকারী প্রচার - অনুমানযোগ্য সম্মতি comp
• কেলেঙ্কারী - অর্থ
• স্পুফিং - হাস্যকর জনসাধারণের প্রতিক্রিয়া
• রোল প্লে করা - অ্যাক্সেস অর্জন বা চালাকি করতে বিশ্বাস অর্জন করুন
• ব্যথা কেন্দ্র - বর্ধিত আয়ের জন্য আসক্তি কাজে লাগান

কিছুকে সিঙ্গুলারিটি বলা হয় সে সম্পর্কে উদ্বিগ্ন, যেখানে বুদ্ধিমান সফ্টওয়্যার সত্তা তাদের নিজস্ব লক্ষ্য অর্জনের জন্য মানুষ এবং তাদের সামাজিক কাঠামো হ্যাক করতে সক্ষম হতে পারে। মানুষ যে অন্য মানুষের বুদ্ধিমান এজেন্টদের হ্যাক করতে পারে তা হ'ল আরেকটি সম্ভাবনা। আমি মনে করি না যে প্রশিক্ষণের ডেটা হ'ল আক্রমণের একমাত্র পয়েন্ট।

• প্যারামিটার ম্যাট্রিকগুলি এমনভাবে ওভাররাইট করা যেতে পারে যা সনাক্ত করা কঠিন।
• শক্তিবৃদ্ধি সংকেতগুলির সাথে ছত্রভঙ্গ করা যেতে পারে।
• ইনপুট অনুমতিতে ত্রুটির জ্ঞাত পকেটগুলি ব্যবহার করা যেতে পারে।
• ডিজিটাল সিস্টেমগুলির নির্বিচারবাদী প্রকৃতি প্রশিক্ষণপ্রাপ্ত সিস্টেমটিকে নকল করে এবং নেটওয়ার্কের বাইরে চালানোর আগে দুর্বলতার পয়েন্টগুলি অনুসন্ধান করার মাধ্যমে অন্যান্য গভীর শিখার দ্বারা ব্যবহার করা যেতে পারে

প্রশ্নের তালিকাভুক্ত সম্ভাবনাগুলি বিবেচনার দাবি রাখে তবে এটি আমার তালিকার সংস্করণ।

• এভি ত্রুটিযুক্ত দ্বারা হত্যা বা ফার্মেসী বা হাসপাতালে সনাক্তকরণ সিস্টেম স্পফিং
• প্রাপকের কাছে বিপুল পরিমাণে পণ্য সরবরাহ করা যা তাদের জন্য অর্থ প্রদান করে না
• নির্দিষ্ট গোষ্ঠীকে প্রান্তিককরণের মাধ্যমে সামাজিক গণহত্যা

এটি প্রতিরোধের একমাত্র উপায় হ'ল বৈশ্বিক বিলুপ্তির ইভেন্টের জন্য অপেক্ষা করা, তবে এটি প্রশমিত করার উপায়ও থাকতে পারে। ইউএনআইএক্স সিস্টেমে দুর্বলতা খুঁজতে প্রোগ্রাম শাতান যেমন লেখা হয়েছিল, তেমন বুদ্ধিমান সিস্টেমগুলি অন্যান্য বুদ্ধিমান সিস্টেমে দুর্বলতাগুলি অনুসন্ধান করার জন্য তৈরি করা যেতে পারে। অবশ্যই, যেমন প্রোগ্রামিং মডেল এবং প্রচলিত তথ্য সিস্টেমগুলি সুরক্ষার কথা মাথায় রেখে ডিজাইন করা যেতে পারে, দুর্বলতাগুলি ডিগ্রি থেকে প্রথম দিন থেকে যথাযথভাবে সম্ভব হ্রাস করা যায়, সেই লক্ষ্যকে সামনে রেখে এআই সিস্টেমগুলি ডিজাইন করা যেতে পারে।

আপনি যদি কোনও সিস্টেমের তথ্যের পথ অনুসরণ করেন এবং সেই পথের যে কোনও বিন্দুতে সংকেতটি পড়তে বা লিখার উপায়গুলি বিবেচনা করেন, আপনি অ্যাক্সেসের এই পয়েন্টগুলি থেকে অতিরঞ্জিতভাবে রক্ষা করতে পারেন। স্পষ্টতই, এই প্রশ্নে উল্লিখিত ক্ষেত্রে প্রশিক্ষণের জন্য ডেটা ব্যবহার করার সময় যত্ন নেওয়া গুরুত্বপূর্ণ, এবং তথ্যের পথে সঠিক এনক্রিপশন প্রয়োজন, বরাবর যাতে অননুমোদিত কর্মীদের কোনও শারীরিক অ্যাক্সেস দেওয়া হয় না তবে আমি ব্যবস্থা গ্রহণের এবং যুদ্ধের মধ্যে লড়াইয়ের পূর্বেই প্রত্যাশা রেখেছিলাম এই উদ্বেগ এবং সুযোগগুলি থেকে উদ্ভূত পাল্টা ব্যবস্থা।

Answer 9

একটি এআই হ্যাক করার অনেক উপায় আছে। আমি যখন ছোট ছিলাম তখন বুঝতে পারি কীভাবে একটি দাবা কম্পিউটারকে বীট করতে হয়। আমি সর্বদা একই প্যাটার্নটি অনুসরণ করেছি, একবার আপনি শিখলে আপনি এটি ব্যবহার করতে পারেন। বিশ্বের সেরা হ্যাকার একটি 4 বছর বয়সী যিনি তার বাবা-মায়ের মধ্যে প্যাটার্নটি প্রতিষ্ঠা না করা পর্যন্ত তিনি কিছু চাইবেন এমন কিছু চান। যাইহোক, একটি এআই এর ধরণগুলি শিখতে একটি আই পান এবং প্রদত্ত সংমিশ্রণ দিয়ে আপনি ফলাফলটি নির্ধারণ করতে পারেন। উদ্দেশ্য বা সুযোগ অনুসারে কোডে কেবল সরল ত্রুটি বা পিছনের দরজা রয়েছে। এআই নিজেই হ্যাক হওয়ার সম্ভাবনাও রয়েছে। একে বলা হয় দুর্ব্যবহার, ছোট বাচ্চাকে আবার মনে রাখুন ...

বিটিডাব্লু এর সহজ উপায় হ'ল এআই সর্বদা নিরাপদে ব্যর্থ হয় ... কিছু লোক ভুলে যায়।