কেন মেমোরি-সীমাবদ্ধ এলএক্সসি পাত্রে অ্যাপ্লিকেশনগুলি বড় ফাইলগুলি ডিস্কে লিখে OOM দ্বারা হত্যা করা হচ্ছে?


10

সম্পাদনা 2: এই সমস্যাটি 3.8.0-25-জেনেরিক # 37-উবুন্টু এসএমপি এর অধীনেও রয়েছে বলে মনে হয়

সম্পাদনা: আমি "লিনাক্স আউট অফ মেমরি ম্যানেজারের ডিডি দিয়ে কোনও ফাইল লিখে কেন ট্রিগার করা হবে?" এর মূল শিরোনাম থেকে প্রশ্নটি সংশোধন করেছি? আরও ভালভাবে প্রতিফলিত করতে যে আমি নীচে বর্ণিত সাধারণ সমস্যা সম্পর্কে উদ্বিগ্ন:

আমি একটি ঝামেলার দৃশ্যে ছুটে যাচ্ছি যেখানে আমি মেমরির সীমাবদ্ধতা (300MB তে সেট করা) এর চেয়ে বেশি আকারের একটি ফাইল লিখলে OOM হত্যাকারী আমার LXC ধারকটিতে কঠোর হত্যার প্রক্রিয়া চালাচ্ছেন। আমি যখন জেন ভার্চুয়াল মেশিনে (একটি ইসি 2 টি 1. মাইক্রো) অ্যাপ্লিকেশনটি চালিত করি তখন সমস্যাটি ঘটে না যখন কেবলমাত্র 512 এমবি র‌্যাম রয়েছে, সুতরাং ধারকগুলির মেমরির সীমাটি মেনে চলার ক্ষেত্রে ফাইল বাফারিংয়ে কোনও সমস্যা দেখা দেয়।

একটি সাধারণ উদাহরণ হিসাবে, আমি প্রদর্শন করতে পারি যে ডিডি দ্বারা রচিত একটি বড় ফাইল কীভাবে সমস্যা সৃষ্টি করবে। আবার, এই সমস্যাটি সমস্ত অ্যাপ্লিকেশনকে জর্জরিত করে। আমি অ্যাপ্লিকেশনটির ক্যাশে খুব বেশি বড় হওয়ার সাধারণ সমস্যাটি সমাধান করতে চাইছি; আমি বুঝতে পারি যে কীভাবে আমি "ডিডি" তৈরি করতে পারি।

দৃশ্যপট:

আমার একটি এলএক্সসি ধারক রয়েছে যেখানে মেমরি.লিট_ইন_বাইটস 300 এমবিতে সেট করা আছে।

আমি নিম্নলিখিত হিসাবে একটি ~ 500 এমবি ফাইল ডিডি করার চেষ্টা করেছি:

dd if=/dev/zero of=test2 bs=100k count=5010

প্রায় 20% সময়, লিনাক্স ওওএম ম্যানেজারকে এই আদেশ দ্বারা ট্রিগার করা হয় এবং একটি প্রক্রিয়া মারা যায়। বলা বাহুল্য, এটি অত্যন্ত অনিচ্ছাকৃত আচরণ; ডিডি বলতে বোঝায় যে ধারকটির ভিতরে চলমান একটি প্রোগ্রাম দ্বারা একটি আসল "দরকারী" ফাইল রাইটিং অনুকরণ করা।

বিশদ: ফাইল ক্যাশেগুলি বড় হওয়ার পরে (260 এমবি), আরএসএস এবং ফাইল মানচিত্রটি বেশ কম থাকে বলে মনে হয়। লেখার সময় মেমরি.স্ট্যাট কেমন দেখতে পারে তার একটি উদাহরণ এখানে:

cache 278667264
rss 20971520
mapped_file 24576
pgpgin 138147
pgpgout 64993
swap 0
pgfault 55054
pgmajfault 2
inactive_anon 10637312
active_anon 10342400
inactive_file 278339584
active_file 319488
unevictable 0
hierarchical_memory_limit 300003328
hierarchical_memsw_limit 300003328
total_cache 278667264
total_rss 20971520
total_mapped_file 24576
total_pgpgin 138147
total_pgpgout 64993
total_swap 0
total_pgfault 55054
total_pgmajfault 2
total_inactive_anon 10637312
total_active_anon 10342400
total_inactive_file 278339584
total_active_file 319488
total_unevictable 0

এখানে ডেমেসগ থেকে একটি পেস্ট দেওয়া হয়েছে যেখানে OOM হত্যার সূত্রপাত করেছিল। আমি মেমরির ধরণের মধ্যে পার্থক্যগুলির সাথে খুব বেশি পরিচিত নই; একটি জিনিস দাঁড়ায় যে "নোড 0 সাধারণ" খুব কম, নোড 0 ডিএমএ 32 প্রচুর পরিমাণে মেমরি মুক্ত। যে কোনও ফাইল লেখার কারণে ওওমের কারণ ঘটছে তা কি কেউ ব্যাখ্যা করতে পারেন? কীভাবে আমি এটি হতে রোধ করব?

লগ:

[1801523.686755] Task in /lxc/c-7 killed as a result of limit of /lxc/c-7
[1801523.686758] memory: usage 292972kB, limit 292972kB, failcnt 39580
[1801523.686760] memory+swap: usage 292972kB, limit 292972kB, failcnt 0
[1801523.686762] Mem-Info:
[1801523.686764] Node 0 DMA per-cpu:
[1801523.686767] CPU    0: hi:    0, btch:   1 usd:   0
[1801523.686769] CPU    1: hi:    0, btch:   1 usd:   0
[1801523.686771] CPU    2: hi:    0, btch:   1 usd:   0
[1801523.686773] CPU    3: hi:    0, btch:   1 usd:   0
[1801523.686775] CPU    4: hi:    0, btch:   1 usd:   0
[1801523.686778] CPU    5: hi:    0, btch:   1 usd:   0
[1801523.686780] CPU    6: hi:    0, btch:   1 usd:   0
[1801523.686782] CPU    7: hi:    0, btch:   1 usd:   0
[1801523.686783] Node 0 DMA32 per-cpu:
[1801523.686786] CPU    0: hi:  186, btch:  31 usd: 158
[1801523.686788] CPU    1: hi:  186, btch:  31 usd: 114
[1801523.686790] CPU    2: hi:  186, btch:  31 usd: 133
[1801523.686792] CPU    3: hi:  186, btch:  31 usd:  69
[1801523.686794] CPU    4: hi:  186, btch:  31 usd:  70
[1801523.686796] CPU    5: hi:  186, btch:  31 usd: 131
[1801523.686798] CPU    6: hi:  186, btch:  31 usd: 169
[1801523.686800] CPU    7: hi:  186, btch:  31 usd:  30
[1801523.686802] Node 0 Normal per-cpu:
[1801523.686804] CPU    0: hi:  186, btch:  31 usd: 162
[1801523.686806] CPU    1: hi:  186, btch:  31 usd: 184
[1801523.686809] CPU    2: hi:  186, btch:  31 usd:  99
[1801523.686811] CPU    3: hi:  186, btch:  31 usd:  82
[1801523.686813] CPU    4: hi:  186, btch:  31 usd:  90
[1801523.686815] CPU    5: hi:  186, btch:  31 usd:  99
[1801523.686817] CPU    6: hi:  186, btch:  31 usd: 157
[1801523.686819] CPU    7: hi:  186, btch:  31 usd: 138
[1801523.686824] active_anon:60439 inactive_anon:28841 isolated_anon:0
[1801523.686825]  active_file:110417 inactive_file:907078 isolated_file:64
[1801523.686827]  unevictable:0 dirty:164722 writeback:1652 unstable:0
[1801523.686828]  free:445909 slab_reclaimable:176594
slab_unreclaimable:14754
[1801523.686829]  mapped:4753 shmem:66 pagetables:3600 bounce:0
[1801523.686831] Node 0 DMA free:7904kB min:8kB low:8kB high:12kB
active_anon:0kB inactive_anon:0kB active_file:0kB inactive_file:0kB
unevictable:0kB isolated(anon):0kB isolated(file):0kB present:7648kB
mlocked:0kB dirty:0kB writeback:0kB mapped:0kB shmem:0kB
slab_reclaimable:0kB slab_unreclaimable:0kB kernel_stack:0kB pagetables:0kB
unstable:0kB bounce:0kB writeback_tmp:0kB pages_scanned:0
all_unreclaimable? no
[1801523.686841] lowmem_reserve[]: 0 4016 7048 7048
[1801523.686845] Node 0 DMA32 free:1770072kB min:6116kB low:7644kB
high:9172kB active_anon:22312kB inactive_anon:12128kB active_file:4988kB
inactive_file:2190136kB unevictable:0kB isolated(anon):0kB
isolated(file):256kB present:4112640kB mlocked:0kB dirty:535072kB
writeback:6452kB mapped:4kB shmem:4kB slab_reclaimable:72888kB
slab_unreclaimable:1100kB kernel_stack:120kB pagetables:832kB unstable:0kB
bounce:0kB writeback_tmp:0kB pages_scanned:0 all_unreclaimable? no
[1801523.686855] lowmem_reserve[]: 0 0 3031 3031
[1801523.686859] Node 0 Normal free:5660kB min:4616kB low:5768kB
high:6924kB active_anon:219444kB inactive_anon:103236kB
active_file:436680kB inactive_file:1438176kB unevictable:0kB
isolated(anon):0kB isolated(file):0kB present:3104640kB mlocked:0kB
dirty:123816kB writeback:156kB mapped:19008kB shmem:260kB
slab_reclaimable:633488kB slab_unreclaimable:57916kB kernel_stack:2800kB
pagetables:13568kB unstable:0kB bounce:0kB writeback_tmp:0kB
pages_scanned:0 all_unreclaimable? no
[1801523.686869] lowmem_reserve[]: 0 0 0 0
[1801523.686873] Node 0 DMA: 2*4kB 3*8kB 0*16kB 2*32kB 4*64kB 3*128kB
2*256kB 1*512kB 2*1024kB 2*2048kB 0*4096kB = 7904kB
[1801523.686883] Node 0 DMA32: 129*4kB 87*8kB 86*16kB 89*32kB 87*64kB
65*128kB 12*256kB 5*512kB 2*1024kB 13*2048kB 419*4096kB = 1769852kB
[1801523.686893] Node 0 Normal: 477*4kB 23*8kB 1*16kB 5*32kB 0*64kB 3*128kB
3*256kB 1*512kB 0*1024kB 1*2048kB 0*4096kB = 5980kB
[1801523.686903] 1017542 total pagecache pages
[1801523.686905] 0 pages in swap cache
[1801523.686907] Swap cache stats: add 0, delete 0, find 0/0
[1801523.686908] Free swap  = 1048572kB
[1801523.686910] Total swap = 1048572kB
[1801523.722319] 1837040 pages RAM
[1801523.722322] 58337 pages reserved
[1801523.722323] 972948 pages shared
[1801523.722324] 406948 pages non-shared
[1801523.722326] [ pid ]   uid  tgid total_vm      rss cpu oom_adj
oom_score_adj name
[1801523.722396] [31266]     0 31266     6404      511   6       0
    0 init
[1801523.722445] [32489]     0 32489    12370      688   7     -17
-1000 sshd
[1801523.722460] [32511]   101 32511    10513      325   0       0
    0 rsyslogd
[1801523.722495] [32625]     0 32625    17706      838   2       0
    0 sshd
[1801523.722522] [32652]   103 32652     5900      176   0       0
    0 dbus-daemon
[1801523.722583] [  526]     0   526     1553      168   5       0
    0 getty
[1801523.722587] [  530]     0   530     1553      168   1       0
    0 getty
[1801523.722593] [  537]  2007   537    17706      423   5       0
    0 sshd
[1801523.722629] [  538]  2007   538    16974     5191   1       0
    0 python
[1801523.722650] [  877]  2007   877     2106      157   7       0
    0 dd
[1801523.722657] Memory cgroup out of memory: Kill process 538 (python)
score 71 or sacrifice child
[1801523.722674] Killed process 538 (python) total-vm:67896kB,
anon-rss:17464kB, file-rss:3300kB

আমি লিনাক্স আইপি-10-8-139-98 3.2.0-29-ভার্চুয়াল # 46-উবুন্টু এসএমপি শুক্র জুলাই 27 17:23:50 ইউটিসি 2012 x86_64 x86_64 x86_64 জিএনইউ / লিনাক্স অ্যামাজন ইসি 2 তে লিনাক্স করছি।


1
যারা এটি পড়েছেন তাদের দ্রুত সংক্ষিপ্তসার হিসাবে এটি একটি লিনাক্স কার্নেল বাগ
ইউএসএআর 33

উত্তর:


13

সম্পাদনা: আমি আমার মূল উত্তরটি নীচে রাখব, তবে আমি এখানে কী ঘটছে তা ব্যাখ্যা করার চেষ্টা করব এবং আপনার জন্য একটি সাধারণ সমাধান সরবরাহ করব।

সম্পাদনা 2: অন্য বিকল্প সরবরাহ করা হয়েছে।

আপনি যে সমস্যাটি এখানে আঘাত করছেন তা কর্নেলটি I / O পরিচালনা করে কীভাবে তা করতে হবে। আপনি যখন আপনার ফাইল সিস্টেমে একটি লিখন করেন, সেই লিখনটি তত্ক্ষণাত ডিস্কে প্রতিশ্রুতিবদ্ধ হয় না; এটি অবিশ্বাস্যভাবে অক্ষম হবে। পরিবর্তে, পৃষ্ঠাগুলি ক্যাশে হিসাবে উল্লেখ করা মেমরির একটি অঞ্চলে লেখাগুলি ক্যাশে করা হয় এবং পর্যায়ক্রমে ডিস্কের বাইরে খণ্ডে লেখা হয়। আপনার লগের "নোংরা" বিভাগটি এই পৃষ্ঠার ক্যাশের আকারটি বর্ণনা করে যা ডিস্কে এখনও লেখা হয়নি:

dirty:123816kB

তাহলে কি এই নোংরা ক্যাশে খালি? কেন এটা কাজ করছে না?

লিনাক্সে 'ফ্লাশ' ডিস্কে নোংরা পৃষ্ঠাগুলি লেখার জন্য দায়ী। এটি একটি ডেমন যা ডিস্কে লেখার দরকার আছে কিনা তা নির্ধারণ করার জন্য পর্যায়ক্রমে জেগে ওঠে, এবং যদি তা হয় তবে তা সম্পাদন করে। আপনি যদি সি ধরণের লোক হন তবে এখানেই শুরু করুন । ফ্লাশ অবিশ্বাস্যভাবে দক্ষ; এটি যখন প্রয়োজন হয় তখন ডিস্কে স্টাফ ফ্লাশিংয়ের দুর্দান্ত কাজ করে। এবং এটি ঠিক কীভাবে অনুমান করা হচ্ছে তা কাজ করছে।

আপনার LXC ধারকটির কার্নেল নেই বলে আপনার LXC ধারকটির বাইরে ফ্লাশ চলে । LXC পাত্রে কাছাকাছি একটি কনস্ট্রাক্ট হিসেবে বিদ্যমান Cgroups , যা লিনাক্স কার্নেল যে ভাল সীমাবদ্ধতা এবং প্রক্রিয়া দলের বিচ্ছিন্নতা পারবেন এর একটি বৈশিষ্ট্য, কিন্তু তার নিজস্ব কার্নেল বা ফ্লাশ ডেমন।

যেহেতু আপনার এলএক্সসির কার্নেলের উপলব্ধ মেমরির চেয়ে কম মেমরি সীমা রয়েছে তাই অদ্ভুত জিনিস ঘটে। ফ্লাশটি ধরে নিয়েছে যে এতে হোস্টের ক্যাশে লেখার পুরো স্মৃতি রয়েছে your এটি কোনও নির্দিষ্ট উপাদানগুলির ব্যর্থতা নয়; এটা প্রত্যাশিত আচরণ ধরনের। এই ধরণের জিনিসটি সিগ্রুপ দ্বারা পরিচালনা করা উচিত, তবে এটি মনে হয় না।

উদাহরণস্বরূপ আকারগুলির মধ্যে আপনি যে আচরণটি দেখেন এটি সম্পূর্ণরূপে ব্যাখ্যা করে। আপনি মাইক্রো ইনস্ট্যান্সে (512 এমবি র‌্যাম সহ) খুব বড় ডিস্কে খুব শীঘ্রই ডিস্কে ফ্লাশ করা শুরু করবেন

ঠিক আছে, এটা বোঝা যায়। তবে এটি অকেজো। আমার এখনও একটি বড় গাধা ফাইল লিখতে হবে।

ঠিক আছে, ফ্লাশ আপনার LXC সীমা সম্পর্কে অবগত নয়। সুতরাং কার্নেলটি প্যাচ করার পরিবর্তে আপনি যে জিনিসগুলি টুইট করতে চেষ্টা করতে পারেন তার জন্য এখানে কয়েকটি বিকল্প রয়েছে:

/proc/sys/vm/dirty_expire_centiseconds

নোংরা ক্যাশে কোনও পৃষ্ঠা রাখা এবং ডিস্কে লেখা থাকতে পারে এটি এটি নিয়ন্ত্রণ করে। ডিফল্টরূপে এটি 30 সেকেন্ড; এটি আরও দ্রুত ঠেলাঠেলি শুরু করতে নীচে সেট করার চেষ্টা করুন।

/proc/sys/vm/dirty_background_ratio

এটি চাপ দিতে শুরু করার আগে কত শতাংশ সক্রিয় মেমরি ফ্লাশ পূরণ করার অনুমতি দেয় তা এটি নিয়ন্ত্রণ করে। এখানে বিড়বিড় করার মতো একটি বিষয় রয়েছে যা এখানে সঠিক মোটের বাছাই করে চলেছে তবে সবচেয়ে সহজ ব্যাখ্যাটি হল আপনার মোট স্মৃতিতে কেবল তাকানো। ডিফল্টরূপে এটি 10% (কিছুটা ডিস্ট্রোজে এটি 5%)। এটি নিম্ন সেট করুন; এটি তাড়াতাড়ি ডিস্কে লিখতে বাধ্য করবে এবং আপনার LXC কে এর সীমা ছাড়িয়ে যেতে পারে।

আমি কি শুধু ফাইল সিস্টেমের সাথে কিছুটা স্ক্রু করতে পারি না?

হ্যাঁ ভালো. তবে আপনি এটি পরীক্ষা করে দেখুন .. আপনি কর্মক্ষমতা প্রভাবিত করতে পারেন। / Etc / fstab এ আপনার মাউন্টগুলিতে যেখানে আপনি এটি লিখবেন সেখানে ' সিঙ্ক ' মাউন্ট বিকল্পটি যুক্ত করুন।

আসল উত্তর:

ডিডি দ্বারা ব্যবহৃত ব্লকসাইজ হ্রাস করার চেষ্টা করুন:

dd if=/dev/zero of=test2 bs=512 count=1024000

আপনি একবারে কেবল একটি সেক্টর লিখতে পারেন (পুরানো এইচডিডিগুলিতে 512 বাইট, আরও বেশি 4096)। ডিডি যদি ডিস্কে ডিস্কে দ্রুত লেখার চাপ দেয় তবে ডিস্ক সেগুলি গ্রহণ করতে পারে, এটি মেমরিতে লেখাগুলি ক্যাশে করা শুরু করবে। এজন্য আপনার ফাইলের ক্যাশে বাড়ছে।


আমার লক্ষ্য করা উচিত যে আমি যদি পাইথনটিতে একই ধরণের পরীক্ষা চালিয়ে থাকি যেখানে আমি ম্যানুয়ালি ফাইলটির বস্তুটি ফ্লাশ করি, তবুও ত্রুটিটি একই সম্ভাবনার সাথে দেখা দেয়। ক্যাশে অবশ্যই বৃদ্ধি পায়, তবে এটি শুদ্ধ হওয়া উচিত প্রক্রিয়াটি হত্যার পরিবর্তে ভাবা উচিত।
USAaR33

1
আমি যাইহোক এটি একটি শট দিতে হবে। আমি পাইথনের সাথে একটি মানসিক চাপ () জোর করে খুঁজে পেয়েছি যা আপনি আশা করেন তা সবসময় করেন না।
আলেক্সফিলিপ

1
@ UsAaR33 দ্রুত ডিস্ক পান।
Tink

1
@ UsAaR33 একটি অ্যাপ্লিকেশন যত তাড়াতাড়ি লিখতে পারে; এটি কার্নেলটি আইও হ্যান্ডেল করার প্রত্যাশা করে। আমি এর আগে কোনও এলএক্সসি কনটেইনার ব্যবহার করি নি, তবে এক ঝলক নজরে দেখে মনে হচ্ছে এটি তৈরি করা ক্রোটে এটি নিজস্ব কার্নেল সরবরাহ করে না? যদি এটির ক্ষেত্রে থাকে তবে কার্নেলটি IO সরবরাহ করে হোস্ট সিস্টেমের সম্পূর্ণ স্মৃতি উপলব্ধ রয়েছে ass এটির কোনও ধারণা নেই যে আপনি এটি 300MB এর মধ্যে সীমাবদ্ধ করেছেন। এই সীমাটি আঘাত হানার পরে, ওওএম হত্যার প্রক্রিয়া শুরু করে।
আলেক্সফিলিপ

1
@ ইউএসএআর 33: খারাপ সেটিংস খারাপ ফলাফলের কারণ। সিস্টেমের একটি অংশকে বলা হয় প্রচুর মেমরি ক্যাশে হিসাবে ব্যবহার করা যেতে পারে, সিস্টেমের অন্য একটি অংশে ক্যাশে খুব বড় হলে প্রক্রিয়াগুলি মেরে ফেলার কথা বলা হয়। প্রচুর পরিমাণে র‌্যাম পাওয়া গেলে কেন এটি ডিস্কের জন্য অপেক্ষা করা উচিত? এবং যদি প্রচুর পরিমাণে র্যাম উপলব্ধ থাকে তবে কেন এটি ব্যবহার করতে দিচ্ছেন না?
ডেভিড শোয়ার্টজ

3

আপনার ফাইলটি / টেম্পে লেখা হচ্ছে? যদি তা হয় তবে এটি কোনও প্রকৃত ফাইল সিস্টেমে নাও থাকতে পারে তবে ডিস্কে বাসিন্দা। সুতরাং আপনি এটি লিখতে হিসাবে, আরও এবং আরও বেশি স্মৃতি ফাইলের প্রয়োজন মেটাতে নেওয়া হয়। অবশেষে, আপনি মেমরি + অদলবদল এবং আপনার কর্মক্ষমতা হতাশার বিন্দু অবনতি হয়েছে।


এটি $ HOM- এ লিখছে, যা এটিএইউএফএস মাউন্টে রয়েছে যা অন্তর্নিহিত ডিস্কটিতে লেখার ট্রিগার করে। (ইসি 2 ইবিএস)
ইউএসএআর 33

2

আপনি যদি র‌্যাম ডিস্কে লিখছেন না, আপনি অফলাগ = ডাইরেক্ট ব্যবহার করে ক্যাচিং এড়াতে পারবেন

dd if=/dev/zero of=test2 bs=100k oflag=direct count=5010

সরাসরি একটি "অবৈধ যুক্তি" ত্রুটির কারণ, তবে oflag = dsync ব্যবহার কাজ করে।
ইউএসএআর 33

আমি দুঃখিত যদি এটি আপনার পক্ষে কাজ না করে, ম্যান পেজ অনুসারে "ডেটা এর জন্য সরাসরি ব্যবহারের সরাসরি I / O"
কেভিন পার্কার
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.