স্বেচ্ছাসেবী বিতরণের মাধ্যমে অজ্ঞেয় শিক্ষণ

Question

যাক bitstring / ট্যাগ জোড়া উপর একটি বিতরণ হতে দিন বুলিয়ান মূল্যবান ফাংশন একটি সংগ্রহ হতে । প্রতিটি ফাংশনের জন্য , এবং আসুন: ওপটি (সি, ডি) = \ মিনি_ {চ \ সি} \ মাত্রই ভুল করে (চ, ডি) বলুন একটি অ্যালগরিদম যে একজন agnostically শেখে সি এর বেশী কোনো বন্টন, কোন যদি ডি এটা সম্ভাব্যতা সঙ্গে করতে পারেন 2/3 একটি ফাংশন এটি চ যেমন যে পথ ভ্রষ্ট করবে (চ, ডি) \ LEQ ওপিটি (সি, ডি) + \ এপসিলন , প্রদত্ত সময় এবং ডি থেকে প্রচুর নমুনা$D$$\{0,1\}^d\times \{0,1\}$$C$$f:\{0,1\}^d\rightarrow\{0,1\}$$f \in C$O P T ( C , D ) = min f ∈ C e r r ( f , D ) A C D 2 / 3 এফ ই আর আর ( এফ , ডি

$$err(f,D) = \Pr_{(x,y) \sim D}[f(x) \neq y]$$ $$OPT(C,D) = \min_{f \in C}\ err(f,D)$$ $A$$C$$D$$2/3$$f$$err(f,D) \leq OPT(C,D) + \epsilon$$D$এটি $d$ এবং 1 / \ এপসিলনে বহুবচন দ্বারা আবদ্ধ $1/\epsilon$।

প্রশ্ন: $C$ এর কোন শ্রেণির ক্রিয়াগুলি স্বেচ্ছাসেবী বিতরণে অজ্ঞানতত্ত্বে শেখার জন্য পরিচিত?

কোন ক্লাস খুব সহজ না! আমি জানি যে এমনকি মনোটোন সংযোগগুলিও স্বেচ্ছাসেবী বিতরণগুলির তুলনায় জ্ঞানবাদীভাবে শেখার জন্য পরিচিত নয়, তাই আমি কেবল অনিয়ন্ত্রিক শ্রেণির ফাংশনগুলির সন্ধান করছি।

Comments

ওপিটি (সি, ডি)> ০ (যেমন আপনার ভুল অনুমানের শ্রেণি রয়েছে

— সুরেশ ভেঙ্কট

ভাল যুক্তি. বিশেষ ক্ষেত্রে যখন ওপিটি (সি, ডি) = 0, এটি পিএসি শেখা হয় এবং এটি আরও সহজ। অগনস্টিক শেখার জন্য, গ্যারান্টিতে অবশ্যই ওপিটি (সি, ডি) কি তা বিবেচনা করা উচিত।

— অ্যারন রথ

"প্যাক ডাব্লু / শ্রেণিবদ্ধ নয়েজ" কেসও রয়েছে যেখানে ওপিটি (সি, ডি)> ০, এবং আপনার সঠিক অনুমানের শ্রেণি থাকলেও (উপলব্ধিযোগ্য সেটিং) কিছু ত্রুটি রয়েছে কারণ শব্দের কারণে লেবেলগুলি এলোমেলোভাবে উল্টে গেছে ... I ইচ্ছে করে বিভিন্ন সেটিংসের নামগুলি কম বিভ্রান্তিকর হত।

— লেভ রেইজিন

ওপিটি (সি, ডি) এর উপরের একটি আবদ্ধ সঙ্গে অগ্নিবিদ্যার শেখার মতো মনে হচ্ছে

— সুরেশ ভেঙ্কট

পুরোপুরি নয়, কারণ শ্রেণিবিন্যাসের শব্দের মডেলটিতে গোলমালকে নির্বিচারে অনুমতি দেওয়া হয় না। সুতরাং যদি অজানস্টিক মডেলটিতে এমন কিছু বিদ্বেষপূর্ণ শব্দের প্যাটার্ন ছিল যা শেখা (বা অভিজ্ঞতাজনিত ঝুঁকি মিনিমাইজারটি সন্ধান করা) কঠিন করে তুলেছিল তবে এটি প্রায়শই শ্রেণিবিন্যাসের শব্দের মডেলতে (যেমন পিএসি ডেল্টা প্যারামিটারে পড়ে) না ঘটে।

— লেভ রেইজিন

Answer 1

যদি কোনও শ্রেণি খুব সহজ না হয়, তবে এখানে কিছু অ্যাগনস্টিকালি পিএসি শেখার মতো ক্লাস রয়েছে। মন্তব্যের প্রতিক্রিয়া হিসাবে, বহুপদী বহু অনুমান সহ শ্রেণিগুলি অতিক্রম করা হয়েছে:

• ধ্রুবক গভীরতা সিদ্ধান্ত গাছ (এবং অন্যান্য ক্লাসে কেবল বহু বহু অনুমান রয়েছে)
• হাইপারপ্লেন (কেবলমাত্র স্বতন্ত্র লেবেল উত্পাদনকারী অনুমান) ও ( এন 2$R^2$$O(n^2)$
• অন্তর ইউনিয়ন (গতিশীল প্রোগ্রামিং)
• প্রথম কিছু সমতা এর বিট (দেখুন এই এবং এই )$\log(k)\log\log(k)$$n$
• নিম্ন মাত্রিক সেটিংসে অন্যান্য অনুমানের ক্লাস।

খুব সুন্দর আরও কিছু হ'ল এনপি-হার্ড টু (কমপক্ষে সঠিকভাবে) পিএনসি শেখা।

অ্যাডমোস্টিক শেখার বিষয়ে অ্যাডাম কালাইয়ের টিউটোরিয়ালটি আপনার আগ্রহীও হতে পারে।

Comments

ধন্যবাদ। সুতরাং ধ্রুবক গভীরতার সিদ্ধান্তের গাছ, 2-মাত্রিক হাইপারপ্লেন (আপনি যে অন্যান্য নিম্ন-মাত্রিক সেটিংসটি উল্লেখ করেছেন তা আমি ধরে নিই) সমস্তগুলি কেবল বহুবচনীয় ক্রিয়াকলাপের বিভাগে আসে, যা ক্লান্তি দ্বারা শিখতে পারে। লগ (কে) লগলগ (কে) বিট এবং অন্তরগুলির ইউনিয়নগুলিতে পার্টিশনগুলি আকর্ষণীয় কারণ এতে তারা সুপারপোলিওনামিয়ালি অনেকগুলি ফাংশন ধারণ করে। এই মত অন্য কেউ আছে?

— অ্যারন রথ

ডান, যদিও আর ^ 2 তে অসীম অনেকগুলি হাইপারপ্লেন রয়েছে, কেবলমাত্র O (n ^ 2) আর্ট তথ্য পয়েন্টগুলিকে আলাদাভাবে শ্রেণিবদ্ধ করছে। আমি আমার মাথার উপরের দিক থেকে অন্য কোনও আকর্ষণীয় ক্লাস জানি না, তবে আমি যদি কিছু / মনে করি তবে আমার উত্তরটি সম্পাদনা করব।

— লেভ রেইজিন

সুতরাং আপনি আনবাউন্ডেড ভিসি-ডাইমেনশন ক্লাস চান?

— সুরেশ ভেঙ্কট

আনবাউন্ডেড ভিসি ডাইমেনশন অবশ্যই আকর্ষণীয় হবে তবে বড় সসীম (নির্দিষ্ট ডি জন্য) ক্লাসগুলি ইতিমধ্যে অত্যন্ত আকর্ষণীয় (এবং বিরল বলে মনে হচ্ছে)

— অ্যারন রথ

পছন্দ করুন আপনি কি দয়া করে এটি ঠিক করতে পারেন? আমি নেটে অনুসন্ধান করেছি কিন্তু এটিও খুঁজে পাইনি।

— অনিরবিট