এসভিএম কি স্ট্রিম শিখতে পারে একবারে?

33

আমার কাছে স্ট্রিমিং ডেটা সেট রয়েছে, উদাহরণগুলি একবারে পাওয়া যায়। তাদের উপর আমার বহু শ্রেণির শ্রেণিবিন্যাস করা দরকার। শেখার প্রক্রিয়াটিতে প্রশিক্ষণের উদাহরণ দেওয়ার সাথে সাথে আমার উদাহরণটি বাতিল করতে হবে। একযোগে, আমি লেবেলবিহীন ডেটা সম্পর্কে ভবিষ্যদ্বাণী করতে সর্বশেষতম মডেলটিও ব্যবহার করছি।

যতদূর আমি জানি, একটি নিউরাল নেটওয়ার্ক একবারে একবারে উদাহরণগুলি খাওয়ানো এবং উদাহরণের উপর এগিয়ে প্রচার এবং পশ্চাদপদ প্রচার সম্পাদন করে স্ট্রিম লার্নিং করতে সক্ষম হয়।

কোনও এসভিএম একবারে স্ট্রিম শিখতে পারে এবং উদাহরণটি সরাসরি ফেলে দিতে পারে?

machine-learning svm neural-networks

— siamii
সূত্র

2

গৃহীত উত্তর আপডেট করা উচিত। মনে হয় এই মুহূর্তে বেশ কয়েকটি গ্রন্থাগার রয়েছে যা এসভিএম অনলাইন লার্নিং অ্যালগরিদমগুলিকে সমর্থন করে। ভোপাল ওয়াবিটের এসএমএম-এর হ্রাস রয়েছে , অন্যান্য বিকল্পগুলি হ'ল: সাইকিট-লার্ন, সোফিয়া-এমিল এবং আর এর কার্নলব প্যাকেজটিতে অনলাইনে শেখার জন্য কয়েকটি বিকল্প রয়েছে।

— মার্বেল

22

মেশিন লার্নিংয়ের স্ট্রিমিং সেটিংটিকে "অনলাইন লার্নিং" বলা হয়। অনলাইন সেটিংসে কোনও সঠিক সমর্থন ভেক্টর মেশিন নেই (যেহেতু উদ্দেশ্য ফাংশনটির সংজ্ঞা ব্যাচ সেটিংয়ের জন্য অন্তর্নিহিত)। অনলাইন সেটিংসে সম্ভবত এসভিএমের সর্বাধিক সরল সাধারণীকরণ হ'ল প্যাসিভ-আক্রমনাত্মক অ্যালগরিদম। কোডটি এখানে http://webee.technion.ac.il/people/koby/code-index.html এবং একটি সম্পর্কিত কাগজ এখানে http://eprints.pascal-network.org/archive/00002147/01/CrammerDeKeShSi06। পিডিএফ

মূল ধারণাটি হ'ল যে কোনওটি জোড়া কোয়েরি পয়েন্ট সাথে জোড়া হিসাবে ডেটা গ্রহণ করে যেখানে হল লেবেলের সংখ্যা। অ্যালগরিদম একটি ওজন ম্যাট্রিক্স বজায় রাখে পুনরাবৃত্তির এ আলগোরিদিম একটি ডাটা বিন্দু recieves এবং তারপর পূর্বাভাস দেয় স্কোর $(\mathbf{x},y)\in\mathbb{R}^d\times [k]$ $\mathbf{x}\in \mathbb{R}$ $k$ $W_t\in \mathbb{R}^{k\times d}$ $t$ $\mathbf{x}_t$ $\hat{\mathbf{y}}_t=W\mathbf{x}_t$ প্রতিটি লেবেলের জন্য এবং এটি সত্য লেবেল হিসাবে সর্বোচ্চ স্কোরিং লেবেলটির পূর্বাভাস দেয়। যদি ভবিষ্যদ্বাণীটি ভুল হয় তবে অ্যালগরিদম সবচেয়ে ছোট পরিবর্তন করে যাতে এটি ভবিষ্যতে সেই ভুল এড়াতে পারে। সবচেয়ে ছোট পরিবর্তন এখানে ফ্রোবিনিয়াস রীতি অনুসারে সংজ্ঞায়িত হয়। $W_t$

— চিহ্ন
সূত্র

1

(+1) সাইটে স্বাগতম, মার্ক।

— কার্ডিনাল

11

সুস্পষ্ট আপডেট ফ্রেমওয়ার্কের চেয়ে অপ্রয়োজনীয়ভাবে আরও জটিল হওয়ার জন্য আমি সর্বদা অন্তর্নিহিত আপডেট ফ্রেমওয়ার্ক খুঁজে পেয়েছি (এতে অন্য উত্তরে বর্ণিত প্যাসিভ-আক্রমনাত্মক অ্যালগোরিদম অন্তর্ভুক্ত রয়েছে) (উল্লেখ নেই যে সুস্পষ্ট আপডেটগুলি সুস্পষ্ট ব্যক্তির চেয়ে অনেক ধীর হতে পারে যদি না অন্তর্নিহিত আপডেটের জন্য ক্লোজড ফর্ম সমাধান উপলব্ধ)।

অনলাইন ইম্পরেন্স ওজন সচেতন আপডেটগুলি একটি অত্যাধুনিক স্পষ্টত আপডেট অ্যালগরিদমের একটি উদাহরণ যা এর অন্তর্নিহিত অংশগুলির তুলনায় সহজ, দ্রুত এবং আরও নমনীয় (একাধিক ক্ষতির ক্রিয়াকলাপ, একাধিক জরিমানা, ব্যয় সংবেদনশীল পড়াশোনা ইত্যাদি) সমর্থন করে। কাগজটি কেবল লিনিয়ার মডেলগুলির সাথে ডিল করে (লিনিয়ার এসএমএম চতুষ্পদ জরিমানার সাথে কব্জাগরণের ক্ষতির সাথে মিলিত হয়)

যেহেতু আপনার বহু-শ্রেণীর শ্রেণিবিন্যাস প্রয়োজন, তাই একটি পন্থা হ'ল ভোপাল ওয়াবিটের "হ্রাস" কার্যকারিতা (কাগজ থেকে পদ্ধতির শীর্ষে নির্মিত) ব্যবহার করা যা দুর্ভাগ্যক্রমে ভালভাবে নথিভুক্ত হয় না।

— Yevgeny
সূত্র

8

এলএএসভিএম এসভিএমের অন্যতম জনপ্রিয় অনলাইন লার্নিং ভেরিয়েন্ট।

লিনিয়ার এসভিএমগুলিও স্ট্রোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভুত ব্যবহার করে প্রশিক্ষিত হতে পারে, যেমন কোনও লিনিয়ার মডেলের মতো।

— ফ্রেড ফু
সূত্র

কেবল বিষয়গুলি পরিষ্কার করার জন্য, কোনও লিনিয়ার মডেলকে এসজিডি ব্যবহার করে প্রশিক্ষণ দেওয়া যায় না, একজনকে অবশ্যই উদ্দেশ্যটির অন্তত একটি নির্দিষ্ট ফর্ম (অ্যাডিটিভ লস ফাংশন) ধরে নেওয়া দরকার

— লেজলট

6

দয়া করে কাগজ SVM বর্ধিত শিক্ষা, অভিযোজন এবং অনুকূলিতকরণ দেখুন , যা বাইনারি শ্রেণিবদ্ধকরণের জন্য একটি অনলাইন এসভিএম প্রস্তাব করেছিল।

উপরের কাগজের কোডটি এখানে পাওয়া যাবে । কোডটিতে, অনলাইন প্রশিক্ষণের দুটি উপায় চালু করা হয়েছে:

এসভিএমকে কল করে একবারে একটি উদাহরণে বর্ধিত প্রশিক্ষণ দিন svmtrain()এবং
ব্যাচের প্রশিক্ষণ সম্পাদন করুন, কল করার মাধ্যমে একযোগে সমস্ত প্রশিক্ষণের উদাহরণকে সমাধানে বাড়িয়ে তোলা svmtrain2()।

আপনার প্রশ্নের পিছনে, উত্তরটি একবারে স্ট্রিম শেখার পক্ষে স্পষ্টতই হ্যাঁ । কোডটি অপ্রকাশিত (বাতিল করা) উদাহরণও হ্যান্ডেল করতে পারে, যেমন সঠিক এবং আনুমানিক ছুটি-ওয়ান-আউট (এলইউ) ত্রুটি অনুমান - সঠিক সময়ে এলইউর ত্রুটি অনুমানটি দক্ষতার সাথে একবারে একটি উদাহরণ নিখরচায় করে এবং শ্রেণিবদ্ধের পরীক্ষা করে দক্ষতার সাথে গণনা করা যায় উদাহরণ.

— herohuyongtao
সূত্র

(+1) আমাদের সাইটে আপনাকে স্বাগতম!

— whuber

0

কার্নেলের সাথে অনলাইন লার্নিং সাধারণ কার্নেল সেটিংসে অনলাইনে শেখার বিষয়ে আলোচনা করে।

বিমূর্ত থেকে কিছু অংশ -

" কার্নেল ভিত্তিক অ্যালগরিদম যেমন সহায়তা ভেক্টর মেশিনগুলি ব্যাচ সেটিংয়ে বিভিন্ন সমস্যার ক্ষেত্রে যথেষ্ট সাফল্য অর্জন করেছে যেখানে প্রশিক্ষণের সমস্ত ডেটা আগে থেকেই পাওয়া যায়। সমর্থন ভেক্টর মেশিনগুলি তথাকথিত কার্নেল ট্রিককে বৃহত্তর মার্জিন ধারণার সাথে একত্রিত করে There রিয়েল-টাইম অ্যাপ্লিকেশনগুলির জন্য উপযুক্ত অনলাইন সেটিংয়ে এই পদ্ধতিগুলির সামান্য ব্যবহার। এই নিবন্ধে আমরা একটি পুনরুত্পাদন কার্নেল হিলবার্ট স্পেসে অনলাইন শেখার বিষয়টি বিবেচনা করি a বৈশিষ্ট্যের জায়গার মধ্যে ক্লাসিক্যাল স্টোকাস্টিক গ্রেডিয়েন্ট বংশদ্ভুত বিবেচনা করে এবং কিছু স্ট্র্যাটে-ফরোয়ার্ড ট্রিকস ব্যবহার করে paper , আমরা শ্রেণিবিন্যাস, রিগ্রেশন এবং অভিনবত্ব সনাক্তকরণের মতো বিস্তৃত সমস্যার জন্য সহজ এবং গণ্য দক্ষ আলগোরিদিমগুলি বিকাশ করি। "

— TenaliRaman
সূত্র