একটি পাই ক্লাস্টারের পেশাদার এবং কনস?


33

আমি রাস্পবেরি পিসের সাথে কীভাবে একটি "সুপার কম্পিউটার" বা গুচ্ছ তৈরি করতে চাইছে এমন অনেকগুলি পোস্ট দেখেছি, তবে পিসের একটি নেটওয়ার্ক তৈরির পক্ষে আমার পক্ষে খুব সামান্যই আছে। আমি আমার নিজের ছোট ক্লাস্টার তৈরি করতে আগ্রহী, তবে আমার কয়েকটি প্রশ্ন রয়েছে।

একবার ক্লাস্টার হয়ে গেলে, আরপিআইগুলি কি একক ভার্চুয়াল কম্পিউটার হিসাবে কাজ করে, বা সমস্ত আরপিআই-এর উপর আপনার ব্যক্তিগত নিয়ন্ত্রণ রয়েছে? একটি নোড অন্যের নিয়ন্ত্রণ আছে?

কোনও আরপিআই এমন কিছু করতে পারে যা একটি ক্লাস্টারে সীমাবদ্ধ? উদাহরণস্বরূপ, সমস্ত ব্যক্তিগত জিপিআইও বন্দরগুলির উপরে কি আমার এখনও নিয়ন্ত্রণ থাকবে?

এটি কত দ্রুত পাই তৈরি করে? আসুন আমি বলি যে আমি একটি 2 নোড ক্লাস্টার তৈরি করেছি, প্রতিটি 1GHz- এ আটকানো হয়েছে, আমি কি মূলত একটি "ডুয়াল কোর 1GHz" প্রসেসর করব? ক্লাস্টারটি বাইনারি গুণকগুলিতে থাকা দরকার? (উদা। 1,2,4,8,16,32,64)

এটি কি আমার ওয়েব হোস্টিংটিকে পাই এর জন্য এনজিআইএনএক্সের মাধ্যমে চলমানকে জটিল করবে? নির্দিষ্ট নোডগুলির প্রসেসিং পাওয়ারকে তারা যে নির্দিষ্ট কাজগুলি পরিচালনা করে তা নির্ধারিত করা যেতে পারে? যেমন নোড 1 ওয়েব পরিষেবা অনুরোধগুলি পরিচালনা করবে, নোড 2 ক্লাউড স্টোরেজ ইত্যাদি পরিচালনা করবে ..

উত্তর:


49

কিছু আকর্ষণীয় প্রশ্ন। আমি মনে করি আপনি কীভাবে রাস্পবেরি পিসের সাহায্যে নির্মিত "সুপার কম্পিউটার" কাজ করছেন তা কিছুটা ভুল বুঝাবুঝি হতে পারেন। এগুলি একটি স্বয়ংক্রিয় লোড শেয়ারিং সিস্টেম হিসাবে কাজ করে না। এগুলি সমান্তরাল প্রোগ্রামিং নামক কোনও কিছুর জন্য ডিজাইন করা হয়েছে , যেখানে একটি জটিল কাজটি টুকরো টুকরো টুকরো টুকরো টুকরো টুকরো টুকরো টুকরো টুকরো হয়ে যায় যা একই সাথে সম্পাদন করা যায় can ক্লাস্টারের মূল পাই (হেড নোড) সামগ্রিক কাজটি পরিচালনা করার দায়িত্বে থাকে এবং ক্লাস্টারের প্রতিটি পাই (ক্লায়েন্ট নোড) তার বরাদ্দকৃত কাজ সম্পাদন করে এবং ফলাফলগুলি মাথা নোডে ফিরে রিপোর্ট করে। ওপেনএমপিআইয়ের মতো লাইব্রেরিগুলি এর জন্য কী।

অতিরিক্তভাবে, যে রাস্পবেরি পাই ক্লাস্টারগুলি নির্মিত হয়েছে সেগুলি দক্ষ কম্পিউটিং ডিভাইস হিসাবে নির্মিত হয়নি। এগুলি উন্নয়ন প্ল্যাটফর্ম হিসাবে নির্মিত হয়েছে । 32 টি ডেস্কটপ পিসির চেয়ে 32 টি রাস্পবেরি পিস কিনতে এটি উল্লেখযোগ্যভাবে সস্তা। আপনি আপনার সমান্তরাল প্রোগ্রামিং সফটওয়্যারটি সেভাবে বেশ সস্তায় বিকাশ করতে এবং পরীক্ষা করতে পারেন। আপনার কাছে পিস বা পিসি না থাকলে একমাত্র বিকল্প হ'ল আসল সুপার কম্পিউটারে সিপিইউ সময়ের জন্য অনুরোধ করা। প্রশ্নে থাকা কম্পিউটারের আকারের উপর নির্ভর করে, এটি করার জন্য অর্থ ব্যয় হতে পারে বা সংস্থানগুলি পাওয়ার আগে দীর্ঘ অপেক্ষা করতে পারে। তাই লোকেরা কেন তাদের নিজস্ব ব্যক্তিগত ক্লাস্টার তৈরি করেছে। আপনার অ্যাপ্লিকেশনটিকে আসল কম্পিউটারে চালিত করা তখনই বোধগম্য হবে যখন আপনি জানেন যে এটি কাজ করে!

সুতরাং, এটি মাথায় রেখে এবং আপনার নির্দিষ্ট প্রশ্নগুলিতে এগিয়ে যাওয়া।

সঠিক ক্লাস্টারে পিস একক ভার্চুয়াল কম্পিউটার হিসাবে কাজ করবেন না। সান গ্রিড ইঞ্জিনের মতো কোনও টাস্ক বা রিসোর্স বরাদ্দ সিস্টেমের আকারে প্রতিটি পাইয়ের উপরে আপনার আলগা নিয়ন্ত্রণ রয়েছে । প্রয়োজন অনুযায়ী নোডগুলিতে টাস্কগুলি বরাদ্দ করা হয়, এবং কাজগুলি শেষ হয়ে গেলে সেই নোডের সংস্থানগুলি নতুন কাজের জন্য মুক্ত হয়।

একটি ক্লাস্টারে, যেহেতু প্রতিটি পাই লিনাক্সের নিজস্ব অনুলিপি চালাচ্ছে, তাই প্রতিটি পাই তার জিপিআইও পোর্টগুলির স্থানীয় নিয়ন্ত্রণ বজায় রাখতে পারে। আমি নিশ্চিত নই যে সফ্টওয়্যারটি কীভাবে সত্যিই এটি একটি সমান্তরাল কম্পিউটিং পরিবেশে ব্যবহার করবে, তবে আপনি আছেন।

একটি ক্লাস্টার সত্যই দ্রুত একটি পাই তৈরি করে না, কারণ তারা কোনও কম্পিউটার নয়। আপনি যা অর্জন করেন তা হ'ল একবারে আরও কিছু করার ক্ষমতা। আপনি দুটি গুণকের মধ্যে সীমাবদ্ধ নন। আপনি যে কাজগুলি চালাচ্ছেন তার উপর নির্ভর করে ক্লাস্টার্ড কম্পিউটারগুলির ক্ষেত্রে বাস্তব বাস্তব উপরের সীমা রয়েছে। কল্পনা করুন আপনি যদি 200 টি ধাপের প্রয়োজন হয় এমন অনেকগুলি পিসের উপর সমান্তরাল গণনা চালাচ্ছেন তবে। যাইহোক, প্রতিটি পরবর্তী পদক্ষেপে এমন তথ্য প্রয়োজন যা প্রতিটি পাই তার আগের পদক্ষেপে গণনা করে। সুতরাং প্রতিটি পাই প্রতিটি পুনরুক্তি প্রতিটি পি থেকে ডেটা গ্রহণ করা প্রয়োজন। প্রতিটি পুনরাবৃত্তি গণনা করতে যে পরিমাণ সময় নেয় তার উপর নির্ভর করে আপনি গণনার চেয়ে ডেটা প্রেরণে আরও বেশি সময় ব্যয় করতে পারেন। এ কারণেই বেশিরভাগ সুপার কম্পিউটারগুলি ইনফিনিব্যান্ড ব্যবহার করেনেটওয়ার্ক। এটি খুব দ্রুত, তাই আপনি আরও গণনা করতে পারেন। এর সমাধান হ'ল কম পিস ব্যবহার করা তবে তাদের প্রতিটি পুনরাবৃত্তির আরও বেশি কাজ করা উচিত তবে এটি আপনার অ্যালগরিদমের উপর নির্ভর করে সম্ভব নাও হতে পারে। সুতরাং ব্যবহারিক উপরের সীমা। (পিএস-তে এটি বিশেষত খারাপ হবে কারণ ইউএসবি ইথারনেট বেশ ধীর গতির)

সুতরাং, একটি ব্যবহারিক প্রয়োগ, ওয়েব হোস্টিং বিতরণ! আপনি এখানে একাধিক পিসের সুবিধা নিতে পারেন, এটি কেবল একটি নিয়মিত ক্লাস্টার নয়। বলুন আপনার 5 পিস আছে। আমরা তাদেরকে গেটওপিপি, ওয়েবপিআই 1, ওয়েবপিআই 2, ওয়েবপিআই 3 এবং ডেটাপি বলব। গেটওপিপি ইন্টারনেটের মুখোমুখি, ওয়েব অনুরোধগুলি পরিচালনা করতে এনগিনিক্স চালাচ্ছে, তবে কোনও প্রসেসিং করে না। পরিবর্তে এটি কী করে লোড ব্যালেন্সিং। এটি প্রক্সিং ব্যবহার করে এবং এলোমেলোভাবে আগত অনুরোধগুলিকে WebPi1, WebPi2, বা WebPi3 এ ফরোয়ার্ড করে। আমরা আমাদের ওয়েব অবকাঠামোটির শক্তি কেবল তিনগুণ করেছি, কারণ আমরা এখন একই সাথে আরও অনুরোধগুলি পরিচালনা করতে পারি। ডাটাপিআইয়ের কী হবে? ডেটাপিআই আমাদের সমস্ত ওয়েব ডেটা সংরক্ষণ করে একটি হার্ড ড্রাইভ সংযুক্ত করেছে এবং একটি এনএফএস সার্ভার চালাচ্ছে। ওয়েবপিক্স মাউন্ট করে যা এনএফএস শেয়ার করে তাই এটিতে প্রক্রিয়াকরণের ডেটার অ্যাক্সেস রয়েছে। এইভাবে আমাদের কেবলমাত্র একটি স্থানে ব্যাকআপ চালাতে হবে এবং ডিস্কের জায়গাতে সঞ্চয় করতে পারি।

আমি যা বর্ণনা করেছি তা হ'ল মূলত সেই মডেল যা গুগল এবং ফেসবুকের মতো বৃহত সংস্থাগুলি ব্যবহার করে তবে রাস্পবেরি পাই আকারে ছোট করে দেওয়া হয়। পিসের ব্যয়ের কারণে কেবল ধরা পড়ে, এটি করা মূলত একই বিকাশ প্ল্যাটফর্ম তৈরি করছে (তবে ওয়েবসার্ভিংয়ের জন্য) কারণ পিসের একটি ক্লাস্টারটি সমান্তরাল প্রোগ্রামিংয়ের জন্য। একাধিক পিস ব্যবহার করে, কারণ তুলনামূলকভাবে কম কম্পিউটারের দক্ষতার কারণে অল্প পরিমাণে ডেটা হ্যান্ডলিংয়ের দিকে এগিয়ে যাওয়ার সাথে সাথে শক্তির ব্যবহারের ক্ষেত্রে কর্মক্ষমতা হ্রাস পায়। তবে শুধু শেখার জন্য? তারা নিখুঁত।


সুতরাং আমি যদি কোনও হোম প্রকল্পে, 2 টি ওয়েবসাইটের সস্তার ওয়েব হোস্টিংয়ের জন্য, জিপিআইও, এসএসএইচ, এফটিপি, ক্লাউড স্টোরেজ, একটি হোম অটোমেশনের মাধ্যমে শীতল অনুরাগীদের নিয়ন্ত্রণের জন্য, কাজগুলি সঠিকভাবে বিতরণ করার জন্য একটি ছোট ক্লাস্টার তৈরি করা উপযুক্ত হবে?
সুপারএডমিন

4
+1 আমি কৌতুহলী এই প্রশ্নের কাছে এসেছি এবং সামান্য শিক্ষার সাথে রেখেছি। দুর্দান্ত উত্তর।
jrhorn424

@ আইওএসনুব, আপনি যদি একমাত্র ব্যক্তি এটি ব্যবহার করেন এবং আপনি যদি একবারে কোনও কোনও কাজই করেন তবে তখনও এটি একটি ক্লাস্টারের পক্ষে উপযুক্ত নাও হতে পারে, কারণ প্রয়োজনীয় সংস্থানগুলি বরাদ্দ করা হয়েছে। যদি কেবলমাত্র পর্যাপ্ত র‍্যাম না থাকে বা আপনি একক ব্যক্তির চেয়ে বেশি লোড পেয়ে থাকেন তবে সম্ভবত এটি মূল্যবান। আমি সুরক্ষার জন্য ভক্ত এবং হোম অটোমেশনের মতো জিনিসগুলি পৃথক পিসে রাখি। আপনি সত্যিই 0 টি সুযোগ চান যে আপনার বাড়ির জিনিসপত্র নিয়ে কেউ বেড়ান। এটি সুরক্ষার অতিরিক্ত স্তর।
ফ্রেড

@ jrhorn424 আমি আপনাকে পছন্দ করে আনন্দিত! আমি সম্প্রতি একটি উচ্চ পারফরম্যান্স (সুপার) কম্পিউটিং ইভেন্টে অংশ নিয়েছি যাতে এই জিনিসটি আমার মনে সতেজ ছিল। এটি লেখার জন্য সঠিক সময়।
ফ্রেড

1
ফ্রেড বর্ণিত প্রায় সঠিক ওয়েব হোস্টিং আর্কিটেকচারের একটি দৃ concrete় উদাহরণের জন্য : pidramble.com ( গিটহাবের কোড / নির্দেশিকাগুলির লিঙ্ক রয়েছে যেখানে আপনি পাই এর কোনও স্বাদে নিজের মালিকানা তৈরি করতে পারেন)।
geerlingguy
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.