সাধারণ বুদ্ধি অর্জনের জন্য গভীর স্নায়বিক নেটওয়ার্ক এবং গভীর শিক্ষণ কেন অপ্রতুল?

Question

ডিপ লার্নিং (ডিএল) এবং গভীর (এর) নেটওয়ার্কগুলির সাথে সম্পর্কিত সমস্ত কিছুই "সফল" বলে মনে হচ্ছে, কমপক্ষে খুব দ্রুত অগ্রগতি হচ্ছে এবং এজিআই পৌঁছেছে এই বিশ্বাসটি বাড়িয়ে তুলছে। এটি জনপ্রিয় কল্পনা। এজিআই তৈরি সহ অনেকগুলি সমস্যা মোকাবেলার জন্য ডিএল একটি দুর্দান্ত সরঞ্জাম। যদিও এটি যথেষ্ট নয়। একটি সরঞ্জাম একটি প্রয়োজনীয় উপাদান, তবে প্রায়শই অপ্রতুল।

ডোমেনের শীর্ষস্থানীয় ব্যক্তিত্বরা অগ্রগতি পেতে অন্য কোথাও খুঁজছেন। এই প্রতিবেদন / দাবিটি ইউসুয়া বেনজিও , ইয়ান লেকান এবং জেফ হিন্টনের বিবৃতিগুলির সংযোগকে জোগাড় করে । প্রতিবেদনে আরও ব্যাখ্যা করা হয়েছে:

ডিএল-এর প্রধান দুর্বলতাগুলি (যেমন আমি তাদের দেখতে পাচ্ছি) হ'ল: সম্ভাব্যতম সহজ মডেল নিউরনের উপর নির্ভরতা ("কার্টুনিশ" যেমন লেকান তাদের ডাকে); উনিশ শতকের স্ট্যাটিস্টিকাল মেকানিক্স এবং স্ট্যাটিস্টিকস থেকে ধারণাগুলির ব্যবহার, যা শক্তি কার্যকারিতা এবং লগ-সম্ভাবনা পদ্ধতির ভিত্তি; এবং ব্যাকপ্রপ এবং স্টোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভূত কৌশলগুলির মধ্যে এইগুলির সংমিশ্রণটি প্রয়োগের একটি সীমাবদ্ধ ব্যবস্থার দিকে পরিচালিত করে (অফলাইন, বেশিরভাগ সজ্জিত, তত্ত্বাবধানে শিক্ষণ), অত্যন্ত প্রতিভাবান অনুশীলনকারীদের প্রয়োজন হয় (ওরফে "স্টোকাস্টিক গ্র্যাজুয়েট বংশোদ্ভূত"), বিপুল পরিমাণে ব্যয়বহুল লেবেলযুক্ত প্রশিক্ষণ ডেটা এবং গণনার শক্তি। বিশাল সংস্থাগুলির জন্য যারা দুর্দান্ত প্রতিভা লোভিত করতে বা কিনতে এবং ডেটা সংগ্রহ এবং এটি ক্রাচ করার জন্য সীমাহীন সংস্থান স্থাপন করতে পারে, তাদের পক্ষে দুর্দান্ত, ডিএল কেবল আমাদের বেশিরভাগের কাছেই অ্যাক্সেসযোগ্য বা কার্যকর নয়।

আকর্ষণীয় এবং প্রাসঙ্গিক হলেও, এই জাতীয় ব্যাখ্যা আসলে সমস্যার সূত্রকে সম্বোধন করে না: অভাব কি?

প্রশ্নটি বিস্তৃত মনে হচ্ছে, তবে এটি একটি সহজ উত্তরের অভাবে হতে পারে। কোন এজিআইয়ের জন্য ডিএল-এর অভাব রয়েছে তা পিন-পয়েন্ট করার কোনও উপায় আছে কি?

Comments

আরও দেখুন মেশিন লার্নিং কি টুরিং পরীক্ষায় উত্তীর্ণ হতে পারে? ।

— nbro

Answer 1

স্নায়ুবহুল নেটওয়ার্কগুলির সাথে কাজ করে এমন প্রত্যেকেরই সিস্টেমের সাথে মানুষের মতো বুদ্ধিমত্তার সাথে তুলনা করার সময় একটি গুরুত্বপূর্ণ বিষয় মিস হয়। কোনও বোধগম্য কিছু করতে একজন মানুষকে অনেক মাস সময় লাগে, এমন সমস্যাগুলি সমাধান করতে সক্ষম হতে দিন যেখানে প্রাপ্তবয়স্ক মানুষ সবেই পরিচালনা করতে পারেন। আমাদের মস্তিষ্কের তুলনায় এটি এবং মানব মস্তিষ্কের আকার অপরিসীম। দিকনির্দেশ সঠিক হতে পারে তবে স্কেলটি বন্ধ। মানব মস্তিষ্কে নিউরনের সংখ্যা মেমরি অনুসারে মিলিত হতে পারে তবে এটিকে বাস্তব সময়ের অনুকরণ করার জন্য সমান্তরালতার পরিমাণটি এখনও অর্জন করা যায় না (কমপক্ষে এলোমেলো গবেষকের জন্য)। কিছুটা পুরানো হওয়ার পরে এটি আপনাকে ধারণা দিতে পারে যে আমাদের প্রসেসিং পাওয়ারের কত অভাব রয়েছে।

Comments

এই সংক্ষিপ্ত উত্তরের জন্য আপনাকে ধন্যবাদ। আপনি কি বলছেন যে কেবলমাত্র ডিএইল প্রযুক্তির সাহায্যে একটি এজিআই বা তারপরের কী আকার অর্জন করা গুরুত্বপূর্ণ? আকারটি গুরুত্ব দেয় না, তবে কিছু সম্ভবত এখনও অনুপস্থিত। (এই অনুচ্ছেদে কোনও শংসার সম্পূর্ণ উদ্দেশ্য) is

— এরিক প্লাটোন

উদাহরণস্বরূপ, আসুন সেলুলার অটোমেটাকে একটি লা ওল্ফ্রাম বিবেচনা করুন। খুব সহজ, তবুও অবাক করা জটিলতার দিকে নিয়ে যায়।

— এরিক প্লাটন

কোয়ান্টাম কম্পিউটিং, শেষ পর্যন্ত যে রূপটি গ্রহণ করতে পারে, এই প্রক্রিয়াজাতকরণের প্রস্তাবিত সমাধানগুলির মধ্যে একটি?

— ডিউকঝো

কোয়ান্টাম প্রসেসিং এক পর্যায়ে সিদ্ধান্তে পৌঁছাতে ব্যবহার করা যেতে পারে তবে এটি মানুষের মস্তিষ্কের মতো অবিচ্ছিন্ন প্রবাহ অনুকরণ করতে ব্যবহার করা যায় না। সিস্টেমটি পর্যবেক্ষণ করা হলে কোয়ান্টাম তরঙ্গরূপটি ধসে পড়বে এবং এটিকে মূলত একটি ধীর সিক্যুয়ালি সিস্টেমে হ্রাস করবে।

— কেম কল্যাঙ্কু

পছন্দ করেছেন তবে একটি হাতির মানুষের চেয়ে প্রায় 3 গুণ বেশি গুণ রয়েছে । আকারের যুক্তি গুরুত্বপূর্ণ, নিশ্চিত তবে একা আকার যথেষ্ট মনে হয় না।

— এরিক প্লাটোন

Answer 2

ডিপ লার্নিং বেশিরভাগ তত্ত্বাবধানে শেখার ক্ষেত্রে সফল, যেখানে মস্তিষ্ক বেশিরভাগই নিরীক্ষণ পদ্ধতিতে বিভাগগুলি তৈরি করে। এটি কীভাবে করা যায় তা আমরা এখনও জানি না। ( গুগল মস্তিষ্কে একবার দেখুন : ১,000,০০০ কোর এবং এগুলি যা করতে পারে তা হ'ল বিড়ালদের এবং মানব মুখগুলিকে বেশ অস্বাভাবিক নির্ভুলতার সাথে চিনতে recognize)

ডিপ লার্নিংয়ে উচ্চতর কাঠামোগত অ্যাক্টিভেশন ব্যবহার করা হয়, যেমন একটি নিউরাল নেটওয়ার্ক শ্রেণিবদ্ধে "কুকুর" এবং "বিড়াল" এর উচ্চ স্তরের উপস্থাপনা মোটেও সমান হওয়ার দরকার নেই। অন্যদিকে মস্তিষ্ক বিরল বিতরণ উপস্থাপনা তৈরি করতে বাধা নিউরন ব্যবহার করে যা তাদের শব্দার্থিক দিকগুলিতে ক্ষয়যোগ্য। এটি সম্ভবত উপমা অনুসারে বিমূর্তি এবং যুক্তির জন্য গুরুত্বপূর্ণ।

মস্তিষ্কের অনেকগুলি বিভিন্ন অংশ রয়েছে যা এক সাথে কাজ করে। ডিপ লার্নিং গবেষকরা কেবল তাদের স্থাপত্যের মধ্যে স্মৃতি বা মনোযোগ ব্যবস্থা সংহত করতে শুরু করেছেন ।

মস্তিষ্ক বিভিন্ন ইন্দ্রিয় থেকে তথ্য সংহত করে। বেশিরভাগ ডিপ লার্নিং অ্যাপ্লিকেশনগুলি কেবলমাত্র এক ধরণের ইনপুট ব্যবহার করে যেমন পাঠ্য বা ছবি।

মস্তিষ্ক বিভাগ হিসাবে ক্রম মডেলিং সক্ষম। (মূলত প্রতিটি ক্রিয়া একটি ক্রমিক (অর্থাত্‍ টেম্পোরাল) বিভাগের নাম দেয়)) এরপরে এই শ্রেণিগুলিকে দীর্ঘমেয়াদী শ্রেণিবদ্ধ পরিকল্পনা হিসাবে সাজানো যেতে পারে। এখন পর্যন্ত আমি ডিপ লার্নিংয়ে সেদিকে কিছুই দেখিনি।

এছাড়াও নিউরাল নেটওয়ার্কগুলি এখনও মানুষের মস্তিষ্কের মতো একই স্কেলে কাজ করতে পারে না। এই প্রশ্নের উত্তরের দিকে নজর দিলে মানব মস্তিষ্ক আরও কয়েক দশক ধরে নিউরনের গণনায় এগিয়ে থাকবে। একটি নিউরাল নেটওয়ার্কের একই ধরণের পারফরম্যান্সে পৌঁছানোর জন্য মস্তিষ্কের মতো একই সংখ্যক নিউরনের প্রয়োজন হতে পারে না (কারণ উচ্চতর নির্ভুলতার কারণে) তবে এই মুহুর্তে ভিডিও প্রসেসিং এখনও ইনপুট এবং থ্রুপুটের ক্ষেত্রে সীমাবদ্ধ।

Comments

আকর্ষণীয় বিষয় এখানেও, আপনাকে ধন্যবাদ। এখানে আমার উদ্বেগটি হ'ল এটি বিপরীত প্রক্রিয়া ([গভীর] শেখার) এবং কাঠামো (নেটওয়ার্ক বা মস্তিষ্কের)। যদি এই প্রবণতাটি সঠিক হয় তবে আমাদের যা আছে তার ভিত্তিতে এজিআই সময়ের প্রশ্ন মাত্র। আপনি গভীর নেটওয়ার্কগুলিতে অর্থসূচক সমস্যার কথা উল্লেখ করেন, সম্ভবত অ্যাডভারসিয়াল মডেলগুলিতে সেরা দেখা। এটি নির্দেশ করে যে কোনও কিছু অনুপস্থিত এবং এই উত্তরের অন্যতম সেরা যুক্তি। আমি বুঝতে পারি যে বর্তমান স্ট্রাকচারগুলি অপর্যাপ্ত (যেমন শুরুর স্মৃতি মডেল)। যদিও এটি "কেন" ইস্যুটিকে অপ্রত্যক্ষভাবে সম্বোধন করছে। আপনার উত্তরটি পরিমার্জন করার উপায়গুলি কি আপনি দেখতে পাচ্ছেন?

— এরিক প্লাটন

এমএল গেমের সাম্প্রতিক "কেবলমাত্র অপটিক্যাল" পন্থাগুলি তত্ত্বাবধানে পড়াশোনা থেকে মুক্ত হওয়ার চেষ্টা করে?

— ডিউকঝৌ

@ ডুকঝো: আমি মনে করি যে আরএল-কৌশলগুলি নিরীক্ষণমূলক শিক্ষায় ভূমিকা নিতে পারে তবে এখনই আমার কাছে মনে হয়েছে যে আরএল উচ্চ স্তরের ধারণাগুলি শিখছে না।

— ব্লাইন্ডকংফুমাস্টার

@ এরিকপ্ল্যাটন: আমি নিশ্চিত না যে আমি আপনার মন্তব্যটি বুঝতে পেরেছি। আমি যা অনুভব করছি তা হ'ল 1. কাঠামো এবং ২ স্কেল। এবং অবশ্যই অ্যালগোরিদম, কিন্তু সেগুলি কাঠামোর সাথে জড়িত।

— ব্লাইন্ডকংফুমাস্টার

Answer 3

আইএমএইচও প্রথম প্রতিবন্ধকতা স্কেল : এমনকি গুগলের বৃহত্তম ডিএনএনও মস্তিষ্কের স্কেলের কাছাকাছি আসে না এবং বিভিন্ন আদেশের একক কারণে ...

Answer 4

আমি মনে করি এটি এখনও মানুষের মস্তিষ্ককে যে দিকগুলি তৈরি করে তা এখনও হারিয়ে যাচ্ছে; একে অপরের সাথে কাজ করে প্রচুর আলাদা নেটওয়ার্ক।

মেডিটেশন যেমন মস্তিষ্কের আরও সিএনরজিস্টিকভাবে কাজ করে জ্ঞানীয় ক্ষমতাগুলিকে উন্নত করে, তেমনই আমরা মেশিনগুলিতেও এটি প্রয়োগ করতে পারি।

উদাহরণস্বরূপ, গুগল আমরা ইতিমধ্যে যা শিখেছি তা জোরদার করার জন্য স্বপ্নের মতো একটি কম্পিউটার শিখছে। https://medium.com/@tannistho/why-is-google-teaching-its-ai-to-dream-e9ae9ecd0e3a#.gljal6pww

এবং এখানে প্যাথনেট, নিউরাল নেটওয়ার্কের একটি নেটওয়ার্ক। https://medium.com/@thoszymkowiak/deepmind-just-published-a-mind-blowing-paper-pathnet-f72b1ed38d46#.ed0f6pdq7

এই সমস্ত যান্ত্রিক তৈরি এবং এগুলিকে একত্রে রাখার মতো পর্যাপ্ত শক্তি এবং আমরা খুব কাছাকাছি চলে যাব!

Comments

"এটি" কী তা আপনি পরিষ্কার করতে পারেন? এটি গভীর শিক্ষার প্রক্রিয়া বা সমান গভীর নেটওয়ার্ক হতে পারে। এগুলি আলাদা।

— এরিক প্লাটোন

উভয়ই, তবে প্রধানত গভীর নিউরাল নেটওয়ার্ক একে অপরের সাথে কাজ করে, আমি অনুমান করি যে ডিএনএন-তেও ভাল নিউরাল প্লাস্টিকের বৈশিষ্ট্য থাকতে হবে। তবে এটি এমন একটি বিষয় যা আমরা কেবলমাত্র বেসিকগুলিকেই স্পর্শ করতে পারি, এমনকি এমনকি আমরা জানি না একটি মানুষের মস্তিষ্ক ঠিক কীভাবে কাজ করে

— আলেকজান্ডার

Answer 5

কৃত্রিম বুদ্ধিমত্তার প্রবক্তারা আজ কম্পিউটারের সমস্যা - দ্রুত জটিল সমস্যাগুলি সমাধান করার ক্ষমতা নিয়ে দৃষ্টি নিবদ্ধ করছেন। আমার বিশ্বাস যে এই দিকটিতে যে কোনও পরিমাণ সাফল্য মানুষের (সাধারণ) বুদ্ধিমত্তার দিকে পরিচালিত করবে না যদিও এটি নির্দিষ্ট কিছু ডোমেইনে অবশ্যই মানুষকে ছাড়িয়ে যাবে। পরিবর্তে, স্নায়বিক ঘটনাগুলি কী কারণে সংবেদন সৃষ্টি করে (কোয়ালিয়ার অভিজ্ঞতা) তা নিয়ে গবেষণা করার দিকে প্রচেষ্টা করা উচিত। অবশ্যই এটি দর্শনের কঠিন সমস্যা তবে আমি বিশ্বাস করি এটি সাধারণ বুদ্ধি এবং এর ক্ষমতার এক অনন্য চাবিকাঠি। বিপরীত প্রকৌশল এবং পরীক্ষামূলক তত্ত্বগুলিও এই প্রান্তের দিকে এগিয়ে যেতে হবে।

Comments

মেশিনগুলির জন্য কৈলা একটি আকর্ষণীয় বৈশিষ্ট্য হতে পারে (বিশেষত যদি আমরা লোকেরা এই মেশিনগুলিকে অধিকার দিতে চাই) তবে কোয়েল বাদে দর্শনের ক্ষেত্রে একটি খুব কঠিন সমস্যা, এখানে দুটি মূল বিষয় রয়েছে। (ক) বুদ্ধি নিজেই কোয়েলের প্রয়োজন হতে পারে না, আপনি ব্যক্তিগত প্রথম ব্যক্তির অভিজ্ঞতা থাকতে না পেরে স্মার্ট হতে পারবেন..আর, দার্শনিক জম্বি।

— এসই বাম 10_6_19

(খ) শিল্প কেবলমাত্র জটিল সমস্যাগুলি দ্রুত সমাধানের বিষয়ে চিন্তা করে এবং বলা হয় যে দ্রুত মেশিনটি ভাবতে পারে বা অনুভব করতে পারে কিনা তা নিয়ে সত্যই চিন্তাভাবনা করে না। এজিআই কেবলমাত্র সেই পরিমাণে কাঙ্ক্ষিত যে এটি কোনও জটিল সমস্যা দ্রুত সমাধান করতে পারে ... বুদ্ধি কেবল শেষ করার উপায়। (বাস্তবে, শিল্প একটি চিন্তাভাবনা এবং অনুভূতি মেশিন চাইবে না, কারণ এই জাতীয় মেশিনগুলি অধিকারের অধিকারী হতে পারে ... এবং অধিকারগুলি বিধিবিধানের মতো

— দয়ালু