দুদা এট আল-এর প্যাটার্ন শ্রেণিবিন্যাসে কোনও নিখরচায় মধ্যাহ্নভিত্তিক উপপাদ্য বোঝা যাচ্ছে না

ডুডা, হার্ট এবং স্টার্কের প্যাটার্ন শ্রেণিবিন্যাসের যে কোনও শ্রেণিবদ্ধের সহজাত উচ্চতরত্বের অধ্যায় 9.2 বিভাগে ব্যবহৃত স্বরলিপিগুলি সম্পর্কে আমার কিছু প্রশ্ন রয়েছে । প্রথমে বইটি থেকে কিছু প্রাসঙ্গিক পাঠ্য উদ্ধৃত করি:

সরলতার জন্য দুই বিভাগ সমস্যা, যেখানে ট্রেনিং সেট বিবেচনা $D$ নিদর্শন নিয়ে গঠিত $x^i$ এবং সংশ্লিষ্ট বিভাগ লেবেল $y_i = ± 1$ জন্য $i = 1,..., n$ শিখতে হবে অজানা লক্ষ্য ফাংশন দ্বারা উত্পাদিত, $F(x)$ , যেখানে $y_i = F(x^i)$ ।

$H$ অনুমানের সেট (পৃথক) সেট বা পরামিতিগুলির সম্ভাব্য সেটগুলি বোঝাতে দিন । একটি নির্দিষ্ট হাইপোথিসিস $h(x) \in H$ নিউরাল নেটওয়ার্কে কোয়ান্টাইজড ওজন বা কার্যকরী মডেলের 0 পরামিতি, বা কোনও গাছের সিদ্ধান্তের সেট দ্বারা বর্ণনা করা যেতে পারে।

তদুপরি, $P(h)$ হ'ল পূর্ব সম্ভাবনা হ'ল প্রশিক্ষণ শেষে আলগোরিদিম হাইপোথিসিস উত্পাদন করবে $h$ ; মনে রাখবেন যে এই সম্ভাবনা নয় $h$ সঠিক।

এর পরে, $P(h|D)$ সম্ভাব্যতা যে অ্যালগরিদম হাইপোথিসিস সমর্পণ করা হবে উল্লেখ করে $h$ যখন ডেটার উপর প্রশিক্ষিত $D$ । নিকটতম প্রতিবেশী এবং সিদ্ধান্ত গাছের মতো নির্বিচারে শেখার অ্যালগরিদমে, $P(h|D)$ একক অনুমান বাদে সর্বত্র শূন্য হবে $h$ । স্টোকাস্টিক পদ্ধতিগুলির জন্য (যেমন এলোমেলো প্রাথমিক ওজন থেকে প্রশিক্ষিত নিউরাল নেটওয়ার্ক), বা স্টোকাস্টিক বল্টজম্যান লার্নিংয়ের জন্য, $P(h|D)$ একটি বিস্তৃত বিতরণ হতে পারে।

শূন্য এক বা অন্য ক্ষতি ফাংশনের জন্য $E$ কে ত্রুটি হতে দিন ।

প্রত্যাশিত বন্ধ-প্রশিক্ষণ-সেট শ্রেণীবিন্যাস ত্রুটি সত্য ফাংশন যখন এবং সম্ভাব্যতার ম প্রার্থী শেখার আলগোরিদিম দেওয়া হয় $F(x)$ $k$ $P_k(h(x)|D)$
$E_{k} (E | F, n) = \sum_{x \notin D} P (x) [1 - δ (F (x), h (x))] P_{k} (h (x) | D)$ $\mathcal{E}_k(E|F,n) = \sum_{x\notin D} P(x) [1-\delta(F(x), h(x))] P_k(h(x)|D)$
উপপাদ্য 9.1। (নিখরচায় দুপুরের খাবার নয়) যে কোনও দুটি লার্নিং অ্যালগরিদম এবং জন্য নিম্নলিখিতগুলি সত্য, নমুনা বিতরণ এবং প্রশিক্ষণের পয়েন্টগুলির এর চেয়ে পৃথক: $P_1 (h |D)$ $P_2(h|D)$ $P(x)$ $n$

, সমস্ত লক্ষ্য ফাংশনের উপর অভিন্ন গড় ged $F$ $\mathcal{E}_1 (E|F, n) — \mathcal{E}_2(E|F, n) = 0$

যে কোনও নির্দিষ্ট প্রশিক্ষণের জন্য সেট , , সমানভাবে গড় $D$ $F$ $\mathcal{E}_1 (E|F, D) — \mathcal{E}_2(E|F, D) = 0$

পর্ব 1 আসলে বলছে
$\sum_{F} \sum_{D} P (D | F) [E_{1} (E | F, n) — E_{2} (E | F, n)] = 0$ $\sum_F \sum_D P(D|F) [\mathcal{E}_1 (E|F, n) — \mathcal{E}_2(E|F, n)] = 0$
পার্ট 2 আসলে বলছে
$\sum_{F} [E_{1} (E | F, D) — E_{2} (E | F, D)] = 0$ $\sum_F [\mathcal{E}_1 (E|F, D) — \mathcal{E}_2(E|F, D)] = 0$

আমার প্রশ্নগুলি হয়

সূত্রে , অর্থাৎ আমি কি সাথে দিয়ে প্রতিস্থাপন করতে এবং এটিকে যোগফলের বাইরে নিয়ে যেতে পারি , কারণ এটি সত্যিই একটি বন্টন হয় উপর দেওয়া জন্য ম সম্ভাব্যতার সূত্রাবলি লার্নিং আলগোরিদিম? $\mathcal{E}_k(E|F,n)$ $E_{k} (E | F, n) = \sum_{x \notin D} P (x) [1 - δ (F (x), h (x))] P_{k} (h (x) | D),$ $\mathcal{E}_k(E|F,n) = \sum_{x\notin D} P(x) [1-\delta(F(x), h(x))] P_k(h(x)|D),$ $P_k(h(x)|D)$ $P_k(h|D)$ $\sum_{x \notin D}$ $h$ $H$ $D$ $k$
প্রদত্ত যে ম প্রার্থী শেখার আলগোরিদিম একটি সম্ভাব্যতার সূত্রাবলি পদ্ধতি, কেন সূত্রে , সেখানে উপর কোন সমষ্টি , অর্থাত্ ? $k$ $\mathcal{E}_k(E|F,n)$ $h$ $\sum_{h \in H}$
কীভাবে এবং একে অপরের থেকে আলাদা? $\mathcal{E}_i (E|F, D)$ $\mathcal{E}_i (E|F, n)$

কি এর অর্থ বন্ধ প্রশিক্ষণ ত্রুটি একটি প্রশিক্ষণ সেট দেওয়া হার ? $\mathcal{E}_i (E|F, D)$ $D$

না অফ-প্রশিক্ষণ ত্রুটি হার, সব প্রশিক্ষণ একটি প্রশিক্ষণ আকার প্রদত্ত সারি ধরে গড় মানে ? যদি হ্যাঁ, এনএফএল উপপাদ্যটিতে প্রথম ভাগ কেন গড় writing প্রশিক্ষণ নিয়ে আবার সেট করে লিখে , এবং কেন , সেখানে সব প্রশিক্ষণ একটি প্রশিক্ষণ আকার প্রদত্ত সারি উপর কোন গড় ? $\mathcal{E}_i (E|F, n)$ $n$ $\mathcal{E}_i (E|F, n)$ $\sum_D$ $\mathcal{E}_k(E|F,n)$ $n$
এনএফএল উপপাদ্যের অংশ 1 এ, অর্থ একটি নির্দিষ্ট প্রশিক্ষণের আকার সহ সমস্ত প্রশিক্ষণ সমষ্টি হবে ? $\sum_D$ $n$
যদি 1 ভাগের ট্রেনিং আকারের in এর সমস্ত সম্ভাব্য মানগুলির উপরে আরও যোগফল দেওয়া হয় তবে ফলাফলটি এখনও 0, ডান? $\mathbb{N}$ $n$
সূত্রে , আমি যদি থেকে , অর্থাৎ প্রশিক্ষণ সংস্থার বাইরে থাকা সীমাবদ্ধ নয় তবে উভয় অংশে এনএফএল তত্ত্বটি এখনও সত্য? $\mathcal{E}_k(E|F,n)$ $\sum_{x \notin D}$ $\sum_x$ $x$
মধ্যে সত্য সম্পর্ক যদি এবং একটি নির্ণায়ক ফাংশন গণ্য করা হয় না যেমন , কিন্তু এর পরিবর্তে শর্তসাপেক্ষ ডিস্ট্রিবিউশন , অথবা একটি যৌথ বন্টন যা সমতূল্য বুদ্ধিমান এবং (এছাড়াও দেখুন আমার আরেকটি প্রশ্ন ), তারপর আমি পরিবর্তন করতে পারেন হতে (বিস্ময়কর অংশ 1 এবং 2 তে নির্দেশিত)। এনএফএল উপপাদ্যের দুটি অংশ এখনও সত্য? $x$ $y$ $F$ $y=F(x)$ $P(y|x)$ $P(x,y)$ $P(y|x)$ $P(x)$ $\mathcal{E}_k (E|F,n)$ $E_{k} (E | P (x, y), n) = E_{x, y} [1 - δ (y, h (x))] P_{k} (h (x) | D)$ $\mathcal{E}_k(E|P(x,y),n) = \mathcal{E}_{x,y} [1-\delta(y, h(x))] P_k(h(x)|D)$ $P_k(h(x)|D)$

ধন্যবাদান্তে!

machine-learning

— টিম
সূত্র

কি দিরাক / ক্রোনেকার-ডেল্টা? ইন

δ

$\delta$

E_{k} (E | F, n) = \sum_{x \notin D} P (x) [1 - δ (F (x), h (x))] P_{k} (h (x) | D)

$\mathcal{E}_k(E|F,n) = \sum_{x\notin D} P(x) [1-\delta(F(x), h(x))] P_k(h(x)|D)$

এটি কি কোনও নিখরচায় মধ্যাহ্নভোজী প্রপঞ্চটি হ্যালটিং সমস্যার মতো? তারা সংযুক্ত আছে?

আমি মনে করি যে প্রশ্নগুলির উত্তরগুলি আমি জানি সেগুলির উত্তর দেব।

এই উত্তরটি হ'ল না কারণ আপনি এমন কোনও বাছাই করছেন যা ফিট সেট অংশ ছিল না এবং তাই উপর নির্ভর করে । $x$ $D$ $h$ $x$
$h$ কেবলমাত্র প্রত্যাশিত ত্রুটির হার পাওয়ার জন্য পরীক্ষার সেটের মানগুলিতে মূল্যায়ন করা হয় যাতে এটি পুরো সেট চেয়ে বেশি মূল্যায়ন হয় না তবে পরীক্ষার সেটে কেবল বিযুক্ত সেটে থাকে। $x$ $H$ $x$
$\mathcal{E}_i(E|F, D)$ হ'ল প্রত্যাশিত অফ অফ ট্রেনিং সেট ত্রুটি হার ফাংশন এবং প্রশিক্ষণ সেট । তবে আমার ধারণা আলাদা হয় কারণ আপনি কেবল প্রশিক্ষণের পয়েন্ট এর সংখ্যার উপর কন্ডিশনার করছেন এবং প্রকৃত মানগুলি নয়। কিন্তু পরবর্তী বিবৃতি দেওয়া এই বিস্ময়কর হয়। $F$ $D$ $\mathcal{E}_i(E|F, n)$ $n$ $x$
$D$ প্রশিক্ষণ ভেক্টরগুলির সেট। আছে মধ্যে প্রশিক্ষণ ভেক্টর । সুতরাং আপনি স্থির প্রশিক্ষণ ভেক্টরগুলির উপর সংক্ষেপ করছেন । একটি সেট । $n$ $D$ $n$ $D$ $D$
আমি মনে করি 5 টির উত্তর নেই। স্বরলিপিটি কিছুটা বিভ্রান্তিকর বলে মনে হচ্ছে।

6 এবং 7 এ মন্তব্য করতে পারবেন না।

— মাইকেল আর চেরনিক
সূত্র

+1 টি। সাইটে স্বাগতম, আমি অ্যামাজনে আপনার পর্যালোচনার একটি বড় অনুরাগী। সম্পাদনার ক্ষেত্রে আমার অনুমানের জন্য ক্ষমা করুন, গাণিতিক স্বরলিপি বেশিরভাগই কোনও কিছুর উভয় পক্ষেই রেখে দেওয়া হয়। আপনি যদি হলুদ-বৃত্তে ক্লিক করেন-? লেখার সময় উপরের ডানদিকে আপনি "উন্নত সহায়তা" এর জন্য একটি লিঙ্ক দেখতে পাবেন যা আরও তথ্য দেবে; এছাড়াও, আপনি কিছু বিদ্যমান ম্যাথজ্যাক্সের উপর ডান-ক্লিক করতে পারেন (যেমন উপরের যে কোনওটি) এবং এটি কীভাবে হয়েছিল তা দেখতে "ম্যাথ হিসাবে -> টেক্স কমান্ডগুলি" নির্বাচন করুন select

— গুং - মনিকা পুনরায়

অন্য কথায়, @ গুং বলছে: এই সাইটটি display in (প্রায়) ঠিক তেমনভাবে আশা করে যেভাবে প্রদর্শন গণিত সহ supports সাইটে স্বাগতম।

L A T E X

$\LaTeX$

— কার্ডিনাল

@ মিশেল দয়া করে আমাকে এই অন্যগুলিতে আমার স্বাগত যোগ করার অনুমতি দিন: আমি আপনাকে এখানে দেখতে পেরে আনন্দিত। (মাইকেল আমেরিকান স্ট্যাটিস্টিকাল অ্যাসোসিয়েশন আলোচনার তালিকায় ব্যতিক্রমী

— জ্ঞানীয়