এমন কোনও মেশিনে কীভাবে ডেটা সঞ্চয় করা যায় যার শক্তি এলোমেলোভাবে কাটা যায়


13

আমার একটি ভার্চুয়াল মেশিন (দেবিয়ান) একটি ফিজিকাল মেশিন হোস্টে চলছে। ভার্চুয়াল মেশিনটি ডেটা বাফার হিসাবে কাজ করে যা এটি প্রায়শই স্থানীয় নেটওয়ার্কের মাধ্যমে গ্রহণ করে (এই ডেটার জন্য সময়কাল 0.5 সে, তাই মোটামুটি উচ্চ থ্রুপুট)। প্রাপ্ত কোনও ডেটা ভার্চুয়াল মেশিনে সংরক্ষণ করা হয় এবং বারবার ইউডিপি-র মাধ্যমে বাহ্যিক সার্ভারে ফরোয়ার্ড করা হয়। একবার বাহ্যিক সার্ভার স্বীকার করে (ইউডিপির উপরে) এটি কোনও ডেটা প্যাকেট পেয়েছে, আসল তথ্যটি ভার্চুয়াল মেশিন থেকে মুছে ফেলা হয় এবং আবার বাহ্যিক সার্ভারে প্রেরণ করা হয় না। ভিএম এবং বাহ্যিক সার্ভারকে সংযুক্ত ইন্টারনেট সংযোগটি অবিশ্বাস্য, যার অর্থ এটি একসাথে কয়েক দিনের জন্য ডাউন হতে পারে।

ভিএম হোস্ট করা ফিজিকাল মেশিনটি এলোমেলোভাবে প্রতিদিন কয়েকবার পাওয়ার কাট করে। এটি কখন ঘটতে চলেছে তা বলার উপায় নেই এবং কোনও ইউপিএস, ব্যাটারি বা সিস্টেমে অনুরূপ সমাধান যুক্ত করা সম্ভব নয়।

মূলত, ডেটাটি ভার্চুয়াল মেশিনে একটি ফাইল-ভিত্তিক এইচএসকিউএলডিবি ডাটাবেসে সংরক্ষণ করা হয়েছিল। যাইহোক, ঘন ঘন বিদ্যুৎ সঙ্কটের ফলে ডেটাবেস স্ক্রিপ্ট ফাইলটি দুর্নীতিগ্রস্থ হয়ে যায় (ফাইল সিস্টেম স্তরে নয়, অর্থাত এটি পাঠযোগ্য, তবে এইচএসকিউএলডিবি এটি বোঝাতে পারে না), যা আমার প্রশ্নের দিকে নিয়ে যায়:

এমন পরিবেশে ডেটা কীভাবে সংরক্ষণ করা উচিত যেখানে পাওয়ার কাটা এবং ঘন ঘন ঘটতে পারে?

একটি বিকল্প যা আমি ভাবতে পারি সেগুলি হ'ল ফ্ল্যাট ফাইলগুলি ব্যবহার করা, প্রতিটি প্যাকেট ডেটা ফাইল সিস্টেমে ফাইল হিসাবে সংরক্ষণ করা। বিদ্যুতের ক্ষতির কারণে যদি কোনও ফাইল দূষিত হয় তবে এটিকে উপেক্ষা করা যেতে পারে এবং বাকী ডেটা অক্ষত থাকে। এটি মূলত ভার্চুয়াল মেশিনে ডেটা সঞ্চিত হওয়ার পরিমাণের সাথে সম্পর্কিত কিছু সমস্যা উত্থাপন করেছে। প্রতিটি টুকরোর মধ্যে 0.5 সেকেন্ডে, 10 দিনের মধ্যে 1,728,000 ফাইল তৈরি করা হবে। এর অন্তত অর্থ এই ডেটা সংরক্ষণের জন্য বর্ধিত সংখ্যক ইনড সহ একটি ফাইল সিস্টেম ব্যবহার করা (বর্তমান ফাইল সিস্টেম সেটআপটি ইনোডের বাইরে ~ 250,000 বার্তা এবং 30% ডিস্ক স্পেস ব্যবহৃত হয়েছে)। এছাড়াও, পরিচালনা করা শক্ত (অসম্ভব নয়)।

অন্য কোন বিকল্প আছে? এমন কি ডেটাবেস ইঞ্জিন রয়েছে যা দেবিয়ানে চালিত হয় যেগুলি বিদ্যুতের কাটা দ্বারা দূষিত হবে না? এছাড়াও, এর জন্য কোন ফাইল সিস্টেম ব্যবহার করা উচিত? এই মুহূর্তে ext3 ব্যবহার করা হয়।

ভার্চুয়াল মেশিনে চালিত সফ্টওয়্যারটি জাভা 6 ব্যবহার করে লেখা হয়, তাই আশা করি সমাধানটি বেমানান হবে না।


14
"ভিজিএমকে হোস্ট করা ফিজিক্যাল মেশিনটি এলোমেলোভাবে প্রতিদিন কয়েকবার পাওয়ার কাটতে পারে this এটি কখন ঘটবে তা বলার উপায় নেই এবং কোনও ইউপিএস, ব্যাটারি বা এর অনুরূপ সমাধান যুক্ত করা সম্ভব নয় is পদ্ধতি." আমি সত্যিই জানাতে চাই যে কিভাবে সম্ভব চাই। এটি কি আন্তর্জাতিক স্পেস স্টেশনে তাই কোনও ইউপিএস বা কিছু পাঠাতে 20 মিলিয়ন ডলার প্রয়োজন?
ceejayoz

3
ব্যাটারি ব্যাক ক্যাশেযুক্ত মেশিনটিতে কি কমপক্ষে একটি RAID নিয়ামক রয়েছে?
জোড়াদেচে

4
আমরা এই সমস্যাটির জন্য খুব আকর্ষণীয়, সৃজনশীল এবং সম্ভবত তাত্ত্বিকভাবে সঠিক সমাধানগুলির প্রস্তাব দিতে পারি। তবে , হোস্টে হাইপারভাইজার এবং হার্ডওয়্যার কী চলছে তা আমরা জানি না, সুতরাং ডিস্কের
লেখাগুলি

5
@ শেভাস মনে হচ্ছে এটি আপনার কল নয়, তবে আমি পরামর্শ দিচ্ছি যে এটি 50 টি বেসিক, সস্তা ইউপিএসের জন্য 2500 ডলার ব্যয় করতে হবে এবং তার রক্ষণাবেক্ষণের দরকার নেই (ব্যাটারি চলতে শুরু করার কয়েক বছর পরে আপনি এগুলি প্রতিস্থাপন করুন) )। সফ্টওয়্যারটিতে এটি সমাধান করার চেষ্টা করার ব্যয়টি এর চেয়ে অনেক বেশি হতে চলেছে, যদি না আপনি ফ্রি জন্য কাজ করে এমন একগুচ্ছ কোডারকে জানেন know কয়েক ঘন্টা বা কয়েকশত দক্ষ মানুষ-ঘন্টা @ 3-ফিগার @ এর পরিবর্তে, এটি 50 ডলার / ইউনিটের জন্য সমাধান করার জন্য পরিচালনা পেতে সহায়তা করতে পারে।
আশাহীন N00b

9
এটি আসলে দূষিত প্রোগ্রামের মতো শোনাচ্ছে। ব্যবহারকারী জানেন না যে তাদের কম্পিউটারে "ভিএম" চলছে। এটি পুরো নেটওয়ার্ক জুড়ে ডেটা চুরি করছে - তারপরে নিজেকে আড়াল করার জন্য একটি সংযোগের মাধ্যমে এটিকে ছড়িয়ে দিচ্ছে। ব্যবহারকারী এলোমেলোভাবে "কম্পিউটারটি চালু এবং" চালু করে - যাতে আপনি কেবল একটি ইউপিএস যুক্ত করতে পারবেন না।
লরেন্স

উত্তর:


23

সত্যই এখানে আপনার সর্বোত্তম পদ্ধতির হয় বিদ্যুতের কাটগুলি ঠিক করা, বা আরও ভাল অবস্থানে একটি ভিন্ন সিস্টেম স্থাপন করা।

হ্যাঁ রেডিসের মতো সিস্টেম রয়েছে যা পুনরায় প্লে করার জন্য কেবলমাত্র একটি অ্যাপেন্ড-লগ-এ ডেটা সংরক্ষণ করবে তবে আপনি নিম্ন স্তরে দুর্নীতির ঝুঁকির ঝুঁকি রাখেন - উদাহরণস্বরূপ যদি আপনার ফাইল সিস্টেমটি স্ক্র্যাম্বল হয় তবে ডিস্কের ডেটা সম্ভাব্য ঝুঁকিতে রয়েছে।

আমি প্রশংসা করি যে কোনও উন্নতি আপনার পক্ষে কার্যকর হবে তবে আপনি যে দৃশ্যের বর্ণনা দিয়েছেন তাতে সমস্যাটি সমাধান করা যায় না।


8
+1 সঠিক উত্তরটি "এটি করবেন না"
ক্রিস এস

6
+1 পরিণামে এলোমেলো শক্তি কাটগুলি আপনার ফাইল সিস্টেমকে দূষিত করবে। ইলেক্ট্রনিক্সগুলি অবিশ্বাস্যভাবে অবিশ্বাস্য জিনিসগুলি করে কারণ তাদের শক্তি ব্যর্থ হয়।
অনুদান

-1 (ভার্চুয়াল -1)। আমি মনে করি যে সময়ে সময়ে বিদ্যুতের কাটা ঘটে যায় এই ধারণার ভিত্তিতে এ জাতীয় ব্যবস্থা অবশ্যই তৈরি করা উচিত । এই অনুমান একটি বাস্তব বিশ্ব ঘটনা যা আপনাকে মোকাবেলা করতে হবে।
ইগাল সার্বান

11

আপনার পদ্ধতির কাজ করতে পারে। আমাকে এটিতে কিছু উন্নতি করার পরামর্শ দিন। ফাইল করার জন্য পারমাণবিক রচনায় স্ট্যাক ওভারফ্লোতে একটি প্রশ্ন ছিল । মূলত আপনি প্রতিটি প্যাকেট ডেটা অস্থায়ী ফাইলে সংরক্ষণ করেন এবং তারপরে আপনি এটির চূড়ান্ত নামকরণ করেন। নামকরণ একটি পারমাণবিক অপারেশন যা শক্তি ব্যর্থতা থেকে নিরাপদ থাকবে। এইভাবে আপনার গ্যারান্টিযুক্ত যে আপনার চূড়ান্ত গন্তব্যস্থলে থাকা সমস্ত ফাইল কোনও দুর্নীতি না করে সঠিকভাবে সংরক্ষণ করা হয়েছে।

তারপরে আপনি কয়েক মিলিয়ন ফাইল থাকার বিষয়টি মোকাবেলা করতে কী করতে পারেন। ক্রোন এমন একটি কাজ যা প্রতি ঘন্টায় চলতে পারে যা সমস্ত ফাইল পুরনো পরে এক ঘন্টা সময় নেয় এবং আবার পারমাণবিক ফাইল অপারেশন ব্যবহার করে একটি বড় ফাইলে সংযুক্ত করে যাতে এই ব্যর্থতা বিদ্যুতের ব্যর্থতার পরেও নিরাপদে চলে এবং পুরানো ফাইলগুলি মুছে দেয় tes লগ ঘূর্ণন মত ধরনের। এক ঘন্টা মূল্যমানের ফাইলগুলি প্রায় 7,200 ফাইল হবে। সুতরাং যে কোনও সময়ে আপনার ডিস্কে 20,000 ফাইলের বেশি থাকা উচিত নয়।


1
কোনও খারাপ উত্তর নয়, তবে এটির সাথে সমস্যাটি ধরেই নেওয়া হয় যে লেখাটি নিজেই একটি পারমাণবিক অপারেশন, যা তা নয়। সুতরাং ভুল সময়ে একটি শক্তি ব্যর্থতা এখনও ডেটা বা এফএস দুর্নীতি তৈরি করতে পারে। সম্ভবত পাওয়ার ফিক্সিংয়ের সেরা বিকল্পটি সম্পর্কে, বা জিনিসটিকে একটি ইউপিএসে প্লাগ ইন করা, যদিও, তাই +1 করুন।
আশাহীন N00b


হ্যাঁ, একবার লেখার পরে ফাইলটির নামকরণ একটি পারমাণবিক অপারেশন। প্রথমে ফাইল লেখার বিষয়টি নয়।
আশাহীন N00b

3
@ হোপলেস এন00 বি নতুন ফাইলটি অর্ধ-লিখিত বা দুর্নীতিযুক্ত তা বিবেচ্য নয়। আপনার কাছে পুরানো ফাইলটি ভাল অবস্থায় রয়েছে। আপনি যখন সিস্টেমটি পুনরুদ্ধার করবেন আপনি অর্ধ-লিখিত ফাইলটি ধ্বংস করবেন।
ডিজেক্লেওয়ার্থ

2
নিখুঁতভাবে একটি অস্থায়ী ডিরেক্টরিতে কেবল অস্থায়ী ফাইলগুলি বলতে দেয় যে কখনও লিখিত অর্ধেক হতে পারে। আপনার চূড়ান্ত গন্তব্য ডিরেক্টরিতে সমস্ত ফাইল সর্বদা দুর্নীতিগ্রস্থ এবং নিরাপদে ডিস্কে থাকবে
মারওয়ান আলসবাবাগ

7

আপনি সিস্টেমে ব্যাটারি-ব্যাকযুক্ত লেখার ক্যাশেযুক্ত একটি ইউপিএস বা একটি রেড কার্ড ইনস্টল করেন এবং software 49.95 হিসাবে সামান্য পরিমাণে , আপনি কেবল সফ্টওয়্যারটিতে যা অর্জন করা অসম্ভব তা অর্জন করেন।

আপনার দাবি যে কোনওভাবে কোনও ইউপিএস বা ব্যাটারি পর্যন্ত এই সার্ভারটি হুক করা সম্ভব নয় ... এটি বিশ্বাসযোগ্য নয়।


9
আমলাতান্ত্রিক বোকামি সবসময় বিশ্বাসযোগ্য।
ড্যান ফায়ারলড ফায়ারলাইট

3
@ ড্যানিইলি My PHB won't let me hook this up to a UPS/batteryখুব বেশি পেডেন্টিক না পাওয়া থেকে খুব আলাদা বিষয় it is not possible to add a UPS, a battery, or a similar solution to the system. , তবে এটি একটি গুরুত্বপূর্ণ পার্থক্য কারণ এটি উপলব্ধ পদ্ধতি এবং উপলব্ধ সমাধানগুলিকে পরিবর্তন করে।
আশাহীন N00b

বা, অন্য কোথাও উল্লিখিত হিসাবে, হাইজ্যাক করা কম্পিউটারটির ব্যবহারকারী যদি আমি কোনও ইউপিএস ইনস্টল করতে বলি তবে অবাক হবেন। পরিস্থিতি অন্যথায় কিছুটা অবিশ্বাস্য। যে কোনও ব্যক্তি, যুক্তিসঙ্গতভাবে, সঠিক ব্যবসায়ের ক্ষেত্রে প্রদত্ত ডেটাগুলির জন্য একটি ইউপিএস গ্রহণ করবে।
ওয়ার্নারসিডি

@ ওয়ার্ননার সিডি আমি চাই আপনি আমাদের সিআইওর সাথে দেখা করুন। যদিও আমি একমত যে কারও কম্পিউটারকে হাইজ্যাক করা এটির জন্য সম্ভাব্য ব্যবহারের ক্ষেত্রে, তবে আমি বৈধ ব্যক্তিদের সম্পর্কেও ভাবতে পারি, তাই আমি সন্দেহটিকে ছেলেটিকে দেব। এমবেডেড সিস্টেম এবং নিয়ন্ত্রকগুলি বা রাস্পবেরি পাই এর মতো চিন্তা করুন - এটি অবশ্যই এমন একটি পরিস্থিতিতে হতে পারে যে আপনি যে "কম্পিউটার" ব্যবহার করছেন এটি কোনও ইউপিএসের সাথে সংযুক্ত করতে $ 50 এর চেয়ে কম মূল্যবান।
আশাহীন N00b

এমনকি কম্পিউটারটি 50 ডলার ইউপিএসের চেয়ে কম হলেও - এটি কম্পিউটারে ডেটা যা আসলে কিছু মূল্যবান। গুগল "অকেজো" কম্পিউটারে নির্মিত হয়েছিল। সিপিইউর ব্যয়ের চেয়ে গুরুত্বপূর্ণ হ'ল হারানো ডেটা, হারানো মানব-শক্তি (এই প্রোগ্রামিং অ্যাডভেঞ্চার, ডেটা দুর্নীতির তাড়া, পুরানো সিস্টেমে বাগ ট্র্যাকিংয়ের পাশাপাশি এই নতুন অংশ), গ্রাহকরা মূল্য হারিয়েছেন (আমার ডেটা হারিয়েছেন? পরবর্তী কোম্পানির দয়া করে।) ইত্যাদি।
ওয়ার্নারসিডি

5

আপনার সমস্ত ডেটা সঞ্চয় করে এমন একটি ব্লক ডিভাইস বাদে পুরো সিস্টেমটিকে কেবল পঠনযোগ্য মাউন্ট করুন। সেই ব্লক ডিভাইসটি সরাসরি ব্যবহার করুন এবং সেই কাঁচা ব্লক ডিভাইসটি ব্যবহার করে আপনার নিজস্ব ডেটা স্টোরেজ মেকানিজম প্রয়োগ করুন।


3
... এবং ব্যাটারি-ব্যাকড ডিস্ক কন্ট্রোলার কার্ডে বিনিয়োগ করুন এবং নিশ্চিত করুন যে ডিস্কে কোনও লিখন-ক্যাশে নেই, বা আপনি এখনও ত্রুটিযুক্ত।
voretaq7

ফ্ল্যাট ফাইল সমাধানগুলির সাথে কিছু শক্ত রাষ্ট্র স্টোরেজ ব্যবহার করে একটি লাইভ-সিডি বা সমমানের রম সিস্টেমটি বন্ধ করা উচিত বলে এখানে এসেছেন।
মার্ক অ্যালেন

লেখার ক্যাশে অক্ষম করা যেতে পারে। এই পদ্ধতির ব্যবহারযোগ্য। কেবলমাত্র সঞ্চয় স্থানটি যুক্ত করার পরামর্শ দেওয়া হচ্ছে। ব্লকগুলি পরমাণুভাবে লেখা হয় (আমি ধরে নিই) যাতে আপনার কাছে দুটি "পয়েন্টার" ব্লক থাকতে পারে যা নতুন / টুডো ডেটা দিয়ে বিভাগটির শুরু এবং শেষের দিকে নির্দেশ করে। পয়েন্টারগুলি ডেটা লেখার / শেষ করার পরে আপডেট হয়। এনসিকিউও অক্ষম করা উচিত।
নিদ্রাহীনতা
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.