হারটিগান-ওয়াং কে-মানে পদ্ধতি এবং অন্যান্য অ্যালগরিদমে রূপান্তর

আমি মূলত ভাষার statsপ্যাকেজে কার্যকর হওয়া বিভিন্ন কে-মানে ক্লাস্টারিং অ্যালগরিদমগুলি বোঝার চেষ্টা করছি R।

আমি লয়েডের অ্যালগরিদম এবং ম্যাককুইনের অনলাইন অ্যালগরিদম বুঝতে পারি। আমি তাদের বোঝার উপায়টি নিম্নরূপ:

লয়েডের অ্যালগরিদম:

প্রাথমিকভাবে 'কে' র্যান্ডম পর্যবেক্ষণগুলি বেছে নেওয়া হয় যা 'কে' ক্লাস্টারের সেন্ট্রয়েড হিসাবে কাজ করবে। তারপরে সেন্ট্রয়েডগুলি একত্রিত হওয়া পর্যন্ত নিম্নলিখিত পদক্ষেপগুলি পুনরাবৃত্তিতে ঘটে।

প্রতিটি পর্যবেক্ষণ এবং নির্বাচিত সেন্ট্রয়েডের মধ্যে ইউক্লিডিয়ান দূরত্ব গণনা করা হয়।
প্রতিটি সেন্ট্রয়েডের নিকটতম পর্যবেক্ষণগুলিকে 'কে' বালতিতে ট্যাগ করা হয়।
প্রতিটি বালতিতে সমস্ত পর্যবেক্ষণের গড়টি নতুন সেন্ট্রয়েড হিসাবে কাজ করে।
নতুন সেন্ট্রয়েডগুলি পুরানো সেন্ট্রয়েডগুলিকে প্রতিস্থাপন করে এবং যদি পুরনো এবং নতুন সেন্ট্রয়েডগুলি রূপান্তর না করে তবে পুনরাবৃত্তিটি 1 ধাপে ফিরে যায়।

রূপান্তর করার শর্তগুলি নিম্নরূপ: পুরাতন এবং নতুন সেন্ট্রয়েডগুলি হুবহু একরকম, সেন্ট্রয়েডের মধ্যে পার্থক্যটি ছোট (10 ^ -3 এর ক্রমের) বা সর্বোচ্চ সংখ্যা (10 বা 100) পৌঁছেছে।

ম্যাককুইনের অ্যালগরিদম:

এটি একটি অনলাইন সংস্করণ যেখানে প্রথম 'কে' উদাহরণগুলি সেন্ট্রয়েড হিসাবে বেছে নেওয়া হয়েছে।

তারপরে সেন্ট্রয়েড সেই উদাহরণের সবচেয়ে কাছের অবস্থার উপর নির্ভর করে প্রতিটি উদাহরণ বালতিতে রাখা হয়। সম্পর্কিত সেন্ট্রয়েড পুনরায় গণনা করা হয়।

প্রতিটি উদাহরণ যথাযথ বালতিতে স্থাপন না করা পর্যন্ত এই পদক্ষেপটি পুনরাবৃত্তি করুন।

এই অ্যালগরিদমের কেবল একটি পুনরাবৃত্তি রয়েছে এবং লুপটি 'x' উদাহরণগুলির জন্য চলে

হার্টিগান-ওয়াং অ্যালগরিদম:

এলোমেলো বালতিগুলিতে সমস্ত পয়েন্ট / দৃষ্টান্ত নির্ধারণ করুন এবং সংশ্লিষ্ট সেন্ট্রয়েড গণনা করুন।
প্রথম উদাহরণ থেকে শুরু করে নিকটতম সেন্ট্রয়েড সন্ধান করুন এবং সেই বালতিটি আশ্বাস দিন। যদি বালতিটি পরিবর্তিত হয় তবে নতুন সেন্ট্রয়েডগুলি যেমন নতুন অর্পিত বালতির সেন্ট্রয়েড এবং পুরাতন বালতি অ্যাসাইনমেন্টের সেন্ট্রয়েড পুনরায় গণনা করুন কারণ এটি দুটি সেন্ট্রয়েড যা পরিবর্তনের দ্বারা প্রভাবিত
সমস্ত পয়েন্ট লুপ এবং নতুন সেন্ট্রয়েড পান।
পয়েন্ট 2 এবং 3 এর দ্বিতীয় পুনরাবৃত্তি করুন যা ক্লিন-আপ ক্রিয়াকলাপ সম্পাদন করে এবং বালতিগুলি সঠিক করতে স্ট্রে পয়েন্টগুলি পুনরায় সাইন করে।

সুতরাং আমরা রূপান্তর ফলাফল দেখার আগে এই অ্যালগরিদম 2 টি পুনরাবৃত্তি সম্পাদন করে।

এখন, আমি নিশ্চিত নই যে হারটিগান-ওয়াং অ্যালগরিদমের 4 পয়েন্টে আমি যা মনে করি তা হল অ্যালগোরিদমের সঠিক পদ্ধতি। আমার প্রশ্ন, হারটিগান-ওয়াংয়ের জন্য নিম্নলিখিত পদ্ধতিটি যদি কে-মানে বাস্তবায়নের সঠিক পদ্ধতি হয়? এই পদ্ধতির জন্য কি কেবল দুটি পুনরাবৃত্তি রয়েছে? যদি না হয় তবে কনভার্সনের শর্ত কী (কখন থামবে)?

আমি বুঝতে পারছি আরও একটি সম্ভাব্য প্রয়োগের ব্যাখ্যা।

এলোমেলো বালতিগুলিতে সমস্ত পয়েন্ট / দৃষ্টান্ত নির্ধারণ করুন এবং সংশ্লিষ্ট সেন্ট্রয়েড গণনা করুন।
প্রথম উদাহরণ থেকে শুরু করে নিকটতম সেন্ট্রয়েড সন্ধান করুন এবং সেই বালতিটি বরাদ্দ করুন। যদি বালতিটি পরিবর্তিত হয় তবে নতুন সেন্ট্রয়েডগুলি অর্থাৎ নতুন বরাদ্দ বালতির সেন্ট্রয়েড এবং পুরাতন বালতি অ্যাসাইনমেন্টের সেন্ট্রয়েডকে পুনরায় গণনা করুন কারণ এটি দুটি সেন্ট্রয়েড যা পরিবর্তনের দ্বারা প্রভাবিত হয়।
একবার কোনও পয়েন্টের জন্য বালতিতে পরিবর্তন আসার পরে, প্রথম নজরে ফিরে যান এবং আবার পদক্ষেপগুলি পুনরাবৃত্তি করুন।
সমস্ত দৃষ্টান্ত পুনরাবৃত্ত হলে পুনরাবৃত্তিটি শেষ হয় এবং বিন্দুগুলির কোনওটিই বালতি পরিবর্তন করে না।

এই উপায়ে অনেকগুলি পুনরাবৃত্তি রয়েছে যা ডেটাসেটের শুরু থেকে বারবার শুরু হয় এবং যখনই কোনও উদাহরণ বালতি পরিবর্তন করে।

যে কোনও ব্যাখ্যা সহায়ক হবে এবং দয়া করে আমাকে জানান যে আমি যদি এই পদ্ধতির কোনওটির জন্য আমার বোঝাপড়াটি ভুল করে থাকি।

r clustering k-means

— সিদ
সূত্র

কি হল একটি "বালতি"?

— কিউইট আছে - অ্যানি-মৌসে

@ অ্যানি-মাউস "বালতি" একটি "ক্লাস্টার"। উদাহরণস্বরূপ: কে-মানে ডেটাগুলি 'কে' বালতি / গুচ্ছগুলিতে বিভক্ত করতে ব্যবহৃত হয়

— সিড

তবে তখন এটি ম্যাককুইনস অ্যালগরিদমের মতো শোনাচ্ছে।

— কিট আছে - অ্যানি-মৌসে

@ Anony-হেয়ার ক্রিম। হ্যাঁ প্রথম পদক্ষেপটি বাদ দিয়ে হার্টিগান-ওওং ম্যাককুইনস অ্যালগোরিদমের মতোই মনে হয়। তবে এটি সঠিক ধারণা কিনা তা আমি নিশ্চিত নই। পুনরাবৃত্তি এবং একীকরণের জন্য আমি অনুপস্থিত কিছু ধারণা থাকতে পারে।

— সিড

Hartigan এর পদ্ধতি উপায় আরো জটিল

— Anony-হেয়ার ক্রিম - QUIT আছে

এইচডাব্লু এর অ্যালগরিদম, 1979 এর কাগজ থেকে ইনপুট প্রাথমিক ক্লাস্টার হিসাবে গ্রহণ করে। তবে লেখকরা তাদের শেষ বিভাগে এগুলি প্রাপ্ত করার জন্য একটি পদ্ধতির পরামর্শ দিয়েছেন। তারা লিখেছেন যে গ্যারান্টিযুক্ত যে সাবরোটিনে প্রাথমিক নিয়োগের পরে কোনও ক্লাস্টার খালি হবে না । এটি নিম্নলিখিত হিসাবে যায়:

সামগ্রিক গড় গণনা করুন । $\bar{x}$
$\bar{x}$ $||x_i - \bar{x}||_2$
$\{ 1 + (L-1) [M/K] \}$ $L=1, \dots, K$ $[\ \cdot\ ]$ $1$

মূল অ্যালগরিদম হিসাবে, এটি হার্টিগানের কে-ম্যানস ভার্সাস লুয়েডের কে-মিনস-ইজ টাইম অফ চেঞ্জের নামক একটি কাগজে বর্ণনা করা হয়েছে ? এন স্লোনিম, ই আহারনি, কে ক্রামার, 2013 সালে এজেসিএআই দ্বারা প্রকাশিত । মনে রাখবেন যে এই সংস্করণটি এলোমেলো প্রাথমিক পার্টিশন ব্যবহার করে। এটি নিম্নলিখিত হিসাবে যায়।

$x \in \mathcal{X}$ $K$

$\mathcal{C}$ $\mathcal{X}$ $K$ $C \in \mathcal{C}$ $v_C$
$\mathcal{X}$ $x \in \mathcal{X}$

2.1 থামার সূচকটি সেট করুন $s = 1$

2.1। লেজু করে সরিয়ে ফেলুন $x$ $C$ $C^{-} = C \setminus \{ x \}$

$\begin{aligned} C^{+} = {{a r g m i n}_{C^{*} \in (C ∖ C) \cup C^{-}} \frac{1}{n} d (x, v_{C}^{*}) + \frac{1}{n} \sum_{y \in C^{*}} [d (y, v_{C^{*} \cup x}) - d (y, v_{C^{*}})]} \cup {x} \end{aligned}$ $\begin{align*} C^+ = \Big\{ \mathrm{argmin}_{C^* \in (\mathcal{C} \setminus C) \cup C^{-}}\ \frac{1}{n} d(x,v_C^*) + \frac{1}{n} \sum_{y \in C^*} [d(y,v_{C^* \cup x}) - d(y,v_{C^*})] \Big\} \cup \{ x \} \end{align*}$
$C^{+} \neq C$ $C \leftarrow C^{-}$ $C^* \leftarrow C^{+}$ $v_{C}$ $v_{C^*}$ $s \leftarrow 0$
যদি $s=0$

$C^*$ $\mathrm{argmin}$ $x$ $C^*$ $d$ $v_C$ $v_{C^* \cup \{x \}}$

আমি মনে করি আপনার সব প্রশ্নের উত্তর উপরে অ্যালগোরিদমের মধ্যে অন্তর্নিহিত হয় ... যাইহোক, আমি এখনো নিশ্চিত আলগোরিদিম এই বাস্তবায়ন করতে হবে মান । বিশেষত যদি এটি আর এ প্রয়োগ করা হয় is কোনও মন্তব্য / সম্পাদনা স্বাগত।

— Perochkin
সূত্র