ইউনিট বল থেকে এন নমুনাগুলির উত্সের মধ্যবর্তী নিকটতম বিন্দুর সূত্রের ব্যাখ্যা

ইন পরিসংখ্যান শেখার উপাদানসমূহ একটি সমস্যা উচ্চ মাত্রিক স্পেস K-NN সঙ্গে হাইলাইট সমস্যার আবির্ভাব ঘটে। আছে ডাটা পয়েন্টের যে অবিশেষে একটি বিতরণ করা হয় -dimensional ইউনিট বল। $N$ $p$

উত্স থেকে নিকটতম ডেটা পয়েন্টের মাঝারি দূরত্বটি এক্সপ্রেশন দ্বারা দেওয়া হয়:

d (p, N) = {(1 - {(\frac{1}{2})}^{\frac{1}{N}})}^{\frac{1}{p}}

$d(p,N) = \left(1-\left(\frac{1}{2}\right)^\frac{1}{N}\right)^\frac{1}{p}$

যখন , সূত্রটি বলের অর্ধেক ব্যাসার্ধকে ভেঙে দেয় এবং আমি দেখতে পাচ্ছি যে কীভাবে নিকটতম পয়েন্টটি সীমান্তের কাছে হিসাবে পৌঁছেছে , ফলে এইভাবে গাঁটের পিছনে অন্তর্দৃষ্টি উচ্চ মাত্রায় বিচ্ছিন্ন হয়ে যায়। তবে আমি বুঝতে পারি না কেন সূত্রটির এন এর উপর নির্ভরতা রয়েছে? কেউ দয়া করে স্পষ্ট করতে পারেন? $N=1$ $p \rightarrow \infty$

এছাড়াও বইটি এই বিষয়টি আরও উল্লেখ করে বলেছে: "... প্রশিক্ষণ নমুনার প্রান্তগুলির নিকটে ভবিষ্যদ্বাণী করা আরও বেশি কঠিন। তাদের অবশ্যই পার্শ্ববর্তী নমুনা বিন্দুগুলির মধ্যবর্তী স্থানে বিচ্ছিন্ন হওয়ার পরিবর্তে স্থানান্তর করতে হবে"। এটি একটি গভীর বিবৃতি বলে মনে হচ্ছে তবে এর অর্থ কী তা আমি বুঝতে পারি না। কেউ মন্তব্য করতে পারে?

self-study proof k-nearest-neighbour

— user64773
সূত্র

আপনাকে আপনার প্রদর্শিত সমীকরণটি একটু সম্পাদনা করতে হবে। সেই এক্সপোনেন্টটি কেবলমাত্র টির জন্য এখনকার মতো প্রযোজ্য, নাকি আপনি এটি পুরো প্রয়োগ করতে চান ?

\frac{1}{N}

$\frac 1N$

1

$1$

\frac{1}{2}

$\frac 12$

— দিলীপ সরওয়াতে

এটি "হাইপারস্পিয়ার" (যা মধ্যে মাত্রা বহুগুণ ) পৃথক করতে সহায়তা করবে "ইউনিট বল" (যা মাত্রা ) থেকে। হাইপারস্পিয়ারটি বলের সীমানা । যদি, আপনার শিরোনাম অনুসারে, সমস্ত পয়েন্ট হাইপারস্পিয়ার থেকে নমুনা করা হয় , তবে - সংজ্ঞা অনুসারে - এগুলির সমস্তটির উত্স থেকে দূরত্ব , মধ্যবর্তী দূরত্ব এবং সমস্ত উত্সের সমানভাবে নিকটে থাকে।

R^{p}

$\mathbb{R}^p$

p - 1

$p-1$

p

$p$

1

$1$

1

$1$

— হোয়বার

@DilipSarwate পুরো প্রয়োগ করা হয় । বইটিতে এমন একটি উদাহরণ রয়েছে যেখানে তাই

\frac{1}{2}

$\frac{1}{2}$

N = 500, p = 10

$N=500, p=10$

d (p, N) \approx 0.52

$d(p, N) \approx 0.52$

— 0.5

উত্তর:

রেডিয়াস এর একটি মাত্রিক হাইপারবলের ভলিউমটি সমানুপাতিক থাকে । $p$ $r$ $r^p$

সুতরাং উত্স থেকে দূরত্বের বেশি পরিমাণের ভলিউমের অনুপাত হ'ল । $kr$ $\frac{r^p-(kr)^p}{r^p}=1-k^p$

সম্ভাব্যতা যে সব এলোমেলোভাবে নির্বাচিত পয়েন্ট দূরত্বে থেকেও বেশী উৎপত্তি থেকে । নিকটতম এলোমেলো পয়েন্টের মাঝারি দূরত্বটি পেতে, এই সম্ভাবনাটি সমান করুন । সুতরাং $N$ $kr$ $\left(1-k^p\right)^N$ $\frac12$

{(1 - k^{p})}^{N} = \frac{1}{2}

$\left(1-k^p\right)^N=\tfrac12$

⟹ k = {(1 - \frac{1}{2^{1 / N}})}^{1 / p} .

$\implies k=\left(1-\tfrac1{2^{1/N}}\right)^{1/p}.$

স্বজ্ঞাতভাবে এটি কিছু প্রকারের অনুভূতি তৈরি করে: যত বেশি এলোমেলো পয়েন্ট রয়েছে ততই আপনি নিকটবর্তীটির উত্সের নিকটবর্তী হওয়ার প্রত্যাশা করেন, সুতরাং আপনার ক্রমহ্রাসমান ফাংশন হওয়ার প্রত্যাশা করা উচিত । এখানে একটি কমছে ফাংশন , তাই বৃদ্ধি ফাংশন হয় এইভাবে, এবং হয় ক্রমহ্রাসমান ফাংশন যেমন এর ম মূল হয়। $k$ $N$ $2^{1/N}$ $N$ $\tfrac1{2^{1/N}}$ $N$ $1-\tfrac1{2^{1/N}}$ $N$ $p$

— হেনরি
সূত্র

আহ, এটি দেখার দুর্দান্ত উপায়। আপনি আমার দ্বিতীয় প্রশ্নে উদ্ধৃতি পুনরায় ব্যাখ্যা করতে সক্ষম হবে?

— ব্যবহারকারী 64773

আমি সন্দেহ করি যে এটি উচ্চ মাত্রায়, পূর্বাভাস দেওয়ার পয়েন্টগুলি কার্যকরভাবে প্রশিক্ষণের তথ্য থেকে একটি দীর্ঘ পথ, যেমন একটি গোলকের কিনারায়, সুতরাং আপনি সত্যই আন্তঃবিবাহ করছেন না বরং এক্সট্রাপোলটিং করছেন, এবং তাই অনিশ্চয়তা অনেক বেশি। তবে আমি আসলে জানি না।

— হেনরি

আমি এটি পাই না - কেন আমি বুঝতে পারি যে এই অভিব্যক্তিটি কেআর এর চেয়ে সমস্ত পয়েন্টের সম্ভাবনা বেশি, তবে কেন এই সম্ভাবনাটি 1/2 সেট করা মধ্যবর্তী দূরত্ব দেয় ??

— ihadanny

@ আইহাদান্নি: মান the ব্যাসার্ধের ভগ্নাংশ দেয় যেখানে সমস্ত পয়েন্ট সম্ভাব্যতা আরও দূরে , এবং সুতরাং যেখানে কমপক্ষে এক বিন্দুটির সম্ভাবনাটি , তাই হ'ল নিকটতম বিন্দুর দূরত্বের বিতরণের মধ্যস্থতা।

k = {(1 - \frac{1}{2^{1 / N}})}^{1 / p}

$k=\left(1-\tfrac1{2^{1/N}}\right)^{1/p}$

N

$N$

\frac{1}{2}

$\frac12$

1 - \frac{1}{2} = \frac{1}{2}

$1-\frac12=\frac12$

k r

$kr$

— হেনরি

মিডিয়ান সংজ্ঞা, অর্ধেক বড় এবং অর্ধেক ছোট।

— গ্রান্ট ইজমিরলিয়ান

এবং এখন হাত না

আইআইডি এর যেকোন অনুক্রমের জন্য, যেখানে সাধারণ সিডিএফ
$P (min_{1 \leq i \leq N} Y_{i} > y) = (1 - F (y))^{N},$ $P( \min_{1\le i\le N} Y_i > y ) = (1-F(y))^N,$ $F$
এভাবে যদি আমরা আছে অবিশেষে বিতরণ IID ইউনিট বল মধ্যে মাত্রা, তারপর যেখানে দূরত্বের সাধারণ সিডিএফ হয়, । অবশেষে, সি , ইউনিট বলের মধ্যে সমানভাবে বিতরণ পয়েন্টের জন্য সিডিএফ, , কী? ইউনিট ব্যাসার্ধের বলের মধ্যে বিন্দুটি ব্যাসার্ধ r এর বলের মধ্যে থাকে বলে সম্ভাবনা: $N$ $X_i$ $p$
$P (min_{1 \leq i \leq N} | | X_{i} | | > r) = (1 - F (r))^{N},$ $P( \min_{1\le i\le N} ||X_i|| > r ) = (1-F(r))^N,$ $F$ $||X_i||, i=1,2,\ldots,N$ $F$ $R^p$

F (r) = P (| | X_{i} | | \leq r) = C r^{p} / (C 1^{p}) = r^{p}

$F(r) = P ( ||X_i|| \le r ) = C r^p/( C 1^p) = r^p$

এইভাবে সমাধান

1 / 2 = P (min_{1 \leq i \leq N} | | X_{i} | | > r) = (1 - r^{p})^{N}

$1/2 = P( \min_{1\le i\le N} ||X_i|| > r ) = (1- r^p)^N$

হয়

r = (1 - (1 / 2)^{1 / N})^{1 / p} .

$r = (1 - (1/2)^{1/N})^{1/p}.$

নমুনার আকারের উপর নির্ভরতা সম্পর্কে আপনার প্রশ্ন, । জন্য সংশোধন, যেমন বল আরো পয়েন্ট দিয়ে পরিপূর্ণ করে দেয় স্বাভাবিকভাবেই মূল ন্যূনতম দূরত্ব ছোট হয়ে করা উচিত নয়। $N$ $p$

অবশেষে, আপনার ভলিউমের অনুপাতের মধ্যে কিছু ভুল আছে। দেখে মনে হচ্ছে -র ইউনিট বলের ভলিউম । $k$ $R^p$

— গ্রান্ট ইজমিরলিয়ান
সূত্র

সংক্ষিপ্ত হিসাবে তবে কথায়:

আমরা মধ্যমা উৎপত্তি নিকটস্থ বিন্দুর দূরত্ব খুঁজতে চান মধ্যে ইউনিট ব্যাসার্ধ উৎপত্তি এ বল অবিশেষে বিতরণ পয়েন্ট মাত্রা। সংক্ষিপ্ততম দূরত্বটি ছাড়িয়ে যাওয়ার সম্ভাবনাটি (এই পরিমাণটি প্রকাশকে কল করুন [1]) হ'ল সংখ্যার স্বাধীনতার কারণে এককভাবে সমানভাবে বিতরণ করা বিন্দু ছাড়িয়ে যাওয়ার সম্ভাবনার শক্তি । দ্বিতীয়টি হ'ল এক বিয়োগের সম্ভাবনা যা এককভাবে বিতরণ করা বিন্দু চেয়ে কম । আধুনিক ব্যাসার্ধ্যের বলের ভলিউম অনুপাত ইউনিট ব্যাসার্ধ বা বল । আমরা এখন [1] হিসাবে প্রকাশ লিখতে পারি $N$ $p$ $r$ $N^{th}$ $r$ $r$ $r$ $r^p$

P (min_{1 \leq i \leq N} | | X_{i} | | > r) = (1 - r^{p})^{N} .

$P( \min_{1\le i\le N} ||X_i|| > r ) = (1- r^p)^N.$

সর্বনিম্ন দূরত্বের বিতরণের মধ্যস্থতাটি সন্ধান করতে উপরের সম্ভাব্যতাটি সেট করুন এবং উত্তরটি প্রাপ্ত করার জন্য সমাধান করুন । $1/2$ $r$

— গ্রান্ট ইজমিরলিয়ান
সূত্র