এসভিএম অনুকূল সি এবং গামা পরামিতি নির্ধারণের জন্য কোন অনুসন্ধানের সীমা?

32

আমি শ্রেণিবিন্যাসের জন্য এসভিএম ব্যবহার করছি এবং আমি লিনিয়ার এবং আরবিএফ কার্নেলের জন্য অনুকূল পরামিতিগুলি নির্ধারণ করার চেষ্টা করছি। লিনিয়ার কার্নেলের জন্য আমি সি নির্ধারণ করতে ক্রস-ভ্যালিডেটেড প্যারামিটার নির্বাচন ব্যবহার করি এবং আরবিএফ কার্নেলের জন্য আমি সি এবং গামা নির্ধারণের জন্য গ্রিড অনুসন্ধান ব্যবহার করি।

আমার কাছে 20 (সংখ্যাগত) বৈশিষ্ট্য এবং 70 টি প্রশিক্ষণ উদাহরণ রয়েছে যা 7 শ্রেণিতে শ্রেণিবদ্ধ করা উচিত।

সি এবং গামা পরামিতিগুলির অনুকূল মান নির্ধারণের জন্য আমার কোন অনুসন্ধানের ব্যাপ্তি ব্যবহার করা উচিত?

classification svm kernel-trick

— Kywia
সূত্র

31

পরীক্ষা করে দেখুন SVM ক্লাসিফিকেশন একটি ব্যবহারিক নির্দেশিকা কিছু পয়েন্টার, বিশেষ করে পৃষ্ঠা 5।

আমরা একটি "গ্রিড-অনুসন্ধান" সুপারিশ এবং ক্রস বৈধতা ব্যবহার করে। মানগুলির বিভিন্ন জোড়া চেষ্টা করা হয় এবং সর্বোত্তম ক্রস-বৈধতা নির্ভুলতার সাথে একটিটি বেছে নেওয়া হয়। আমরা দেখেছি এর ব্যাখ্যা মূলকভাবে ক্রমবর্ধমান সিকোয়েন্স চেষ্টা যে এবং , উদাহরণস্বরূপ ভাল পরামিতি চিহ্নিত করতে (ক ব্যবহারিক পদ্ধতি $C$ $\gamma$ $(C,\gamma)$ $C$ $\gamma$ )। $C = 2^{-5},2^{-3},\ldots,2^{15};\gamma = 2^{-15},2^{-13},\ldots,2^{3}$

প্রথমে আপনার ডেটাটিকে স্বাভাবিক করার কথা মনে রাখবেন এবং যদি আপনি পারেন তবে আরও ডেটা সংগ্রহ করুন কারণ এটির চেহারা থেকে আপনার সমস্যাটি ভারীভাবে নির্ধারিত হতে পারে।

— ciri
সূত্র

পিয়ার টেস্টিং ম্যানুয়ালি করা উচিত? এটি অর্জনের জন্য কোনও গ্রন্থাগার নেই?

— এক্স-আরডব্লু

11

চ্যাপেল এবং জিয়েন দ্বারা এই কাগজটির 2.3.2 বিভাগটি দেখুন । আরবিএফ কার্নেলের এবং এর জন্য একটি ভাল অনুসন্ধানের সীমা নির্বাচন করার জন্য তাদের কাছে একটি দুর্দান্ত উপাচার্য রয়েছে $\sigma$ এসবিএমের জন্য জন্যউপাচার্য রয়েছে। আমি উদ্ধৃতি $C$

বাকি ফ্রি প্যারামিটারগুলির ভাল মান নির্ধারণ করতে (যেমন, সিভি দ্বারা), সঠিক স্কেলে অনুসন্ধান করা গুরুত্বপূর্ণ is সুতরাং আমরা জন্য ডিফল্ট মান ঠিক এবং মাত্রার সঠিক অনুক্রমে আছে। একটি -class সমস্যা আমরা ব্যবহার pairwise দূরত্ব সমাংশক জন্য ডিফল্ট হিসেবে সমস্ত ডেটা-পয়েন্ট । জন্য ডিফল্ট হ'ল বৈশিষ্ট্যগুলির জায়গাগুলির মধ্যে বিভিন্ন অভিজ্ঞতা বিপরীতগুলি , যা দ্বারা গণনা করা যায় $C$ $\sigma$ $c$ $1/c$ $D^\rho_{ij}$ $\sigma$ $C$ $s^2$ থেকে একটিকার্নেল ম্যাট্রিক্স $s^2 = \frac{1}{n} \sum_i K_{ii} - \frac{1}{n^2}\sum_{i,j} K_{ij}$ $n\times n$ $K$ ।

পরবর্তীতে তারা গুণিতক (যেমন ব্যবহার জন্য $2^k$ $k\in \{-2,...,2\}$

অবশ্যই, আমরা @ সিরি বলেছি, ডেটা সাধারণকরণ ইত্যাদি সর্বদা একটি ভাল ধারণা।

— fabee
সূত্র

আমি মনে করি কয়েকটি সমান আরবিএফ কার্নেল সূত্র রয়েছে ulations একটি গামার সাথে এবং অন্যটি সিগমা সহ, যেমন গামা = 1/2 সিগমা ^ 2। উপরের হিউরিস্টিকের গামা কি গামা, সিগমা বা সিগমা ^ 2 এর সাথে মিলছে? আমি একই হিউরস্টিকের অন্যান্য বিবরণ পেয়েছি যা গামার জন্য।

— যন্ত্রপাতি

\frac{1}{2 σ^{2}}

$\frac{1}{2\sigma^2}$

— fabee

@fabee Should peer testing be done manually? there is not a library to achieve it?

— x-rw