নো-ফ্রি-লাঞ্চের উপপাদ্য এবং কে-এনএন ধারাবাহিকতা

গণনামূলক শিক্ষায়, এনএফএল উপপাদ্যটি বলে যে কোনও সর্বজনীন শিক্ষানবিশ নেই। প্রতিটি লার্নিং অ্যালগরিদমের জন্য, এমন একটি বিতরণ রয়েছে যা উচ্চতর সম্ভাবনা সহ (যদিও একটি ত্রুটির ত্রুটিযুক্ত হাইপোপিসিস কম থাকে) উচ্চতর ত্রুটিযুক্ত একটি অনুমানের দ্বারা শিক্ষার্থীর আউটপুট তৈরি করে। উপসংহারটি হল যে শিখতে গেলে অনুমানের শ্রেণি বা বিতরণগুলি সীমাবদ্ধ করতে হবে। তাদের "" প্যাটার্ন স্বীকৃতির একটি সম্ভাব্য তত্ত্ব "বইয়ে দেবরোয়ে এট আল কে-নিকটবর্তী প্রতিবেশী শিক্ষার্থীদের জন্য নিম্নলিখিত থিওরিমটি প্রমাণ করেছেন: যেখানে

Assume μ has a density. if k \to \infty and k / n \to 0 then for every ϵ > 0, there's N, s.t. for all n > N : P (R_{n} - R^{*} > ϵ) < 2 e x p (- C_{d} n ϵ^{2})

$\text{Assume } \mu \text{ has a density. if } k\to \infty \text{ and } k/n\to0 \\ \text{ then for every } \epsilon>0, \text{ there's } N, \text{ s.t.} \text{ for all } n>N : \\ P(R_n - R^* > \epsilon)< 2exp(-C_dn \epsilon ^{2})$

R^{*}

$R^*$ বায়েসের-অনুকূল শাসনের ত্রুটি বলে কে-এন এন আউটপুট সত্য ত্রুটি (সম্ভাব্যতা আকারের ট্রেনিং সেট উপর হয় ), উদাহরণস্বরূপ স্থান সম্ভাব্যতা পরিমাপ এবং কিছু ধ্রুবক শুধুমাত্র ইউক্লিডিয়ান মাত্রার উপর নির্ভর করে। অতএব, ডিট্রিবিউশন সম্পর্কে কোনও অনুমান না করে আমরা যেভাবে অনুমান করতে পারি (সেখানে কিছু সীমাবদ্ধ শ্রেণীর মধ্যে সেরা নয়) আমরা সর্বোত্তম অনুমানের মতোই কাছে যেতে পারি। সুতরাং আমি বুঝতে চেষ্টা করছি যে এই ফলাফলটি কীভাবে এনএফএল থেরোমের বিরোধী নয়? ধন্যবাদ!

R_{n}

$R_n$

n

$n$

μ

$\mu$

R^{d}

$\mathbb{R}^d$

C_{d}

$C_d$

k-nearest-neighbour consistency

— মাইকেল জে
সূত্র

আমি এনএফএল উপপাদ্যকে যেভাবে বুঝতে পারি তা হ'ল এমন কোনও শিখনের অ্যালগরিদম নেই যা প্রতিটি কার্যের বাকী অংশের চেয়ে ভাল। এটি পরিষ্কার গাণিতিক অর্থে কোনও উপপাদ্য নয় যে এর প্রমাণ রয়েছে, বরং অভিজ্ঞতা অভিজ্ঞতা রয়েছে।

কেএনএন-এর জন্য আপনি যা বলেছেন তার অনুরূপ, এখানে নিউরাল নেটওয়ার্কগুলির জন্য ইউনিভার্সাল অ্যাক্সেসিমেশন থিয়েরেমও রয়েছে , যেখানে বলা হয়েছে যে একটি 2-স্তর নিউরাল নেটওয়ার্ক দেওয়া হয়েছে, আমরা যেকোন ক্রিয়াকলাপটিকে নির্বিচারে ত্রুটির সাথে আনুমানিক করতে পারি।

এখন, কীভাবে এটি এনএফএল ভাঙ্গবে না? এটি মূলত বলেছে যে আপনি কোনও সাধারণ 2-স্তর এনএন দিয়ে যে কোনও কল্পনাযোগ্য সমস্যা সমাধান করতে পারেন । কারণটি হ'ল তাত্ত্বিকভাবে এনএনগুলি আনুমানিক যে কোনও কিছু শিখিয়ে দেওয়ার পক্ষে কঠোরভাবে অনুশীলন করে যে কোনও কিছু আনুমানিক করতে পারে। এজন্য কিছু কাজের জন্য, অন্যান্য অ্যালগরিদমগুলি বেশি পছন্দসই।

এনএফএলকে ব্যাখ্যা করার একটি আরও ব্যবহারিক উপায় নিম্নলিখিত:

কোন পূর্ব-পূর্ব নির্ধারণের উপায় নেই যে কোন কার্য সম্পাদনের জন্য কোন অ্যালগরিদম সেরা করবে।

— CaucM
সূত্র

উত্তরের জন্য ধন্যবাদ, তবে কিছু ভুল রয়েছে .. ইউনিভার্সাল অ্যাক্সেসিমিশন উপপাদ্যের জন্য - এই উপপাদ্যটি এক্সপ্রেসিভনেস নিয়ে কাজ করে, যখন এনএফএল উপপাদ্যটি সাধারণীকরণের সাথে কাজ করে।

— মাইকেল