আমি প্রচুর পরীক্ষা-নিরীক্ষা করেছি এবং আমার অনুসন্ধানগুলি এখানে রয়েছে।
জিন এবং বাছাই
জিআইএন সূচক বর্তমানে (9.4 সংস্করণ হিসাবে) ক্রম সরবরাহ করতে সহায়তা করতে পারে না ।
বর্তমানে পোস্টগ্রেএসকিউএল সমর্থিত সূচীগুলির মধ্যে কেবল বি-ট্রিই বাছাই করা আউটপুট তৈরি করতে পারে - অন্য সূচক প্রকারগুলি অনির্ধারিত, বাস্তবায়ন-নির্ভর ক্রমে মেলানো সারিগুলি প্রদান করে।
work_mem
থেকে ইশারা জন্য ধন্যবাদ ক্রিস এই কনফিগারেশন প্যারামিটার । এটি 4 এমবিতে ডিফল্ট হয় এবং আপনার রেকর্ডসেটটি বড় হওয়ার ক্ষেত্রে work_memযথাযথ মান বাড়ানো (থেকে পাওয়া যেতে পারে EXPLAIN ANALYSE) সাজানোর ক্রিয়াকলাপগুলিকে উল্লেখযোগ্যভাবে গতি বাড়িয়ে তুলতে পারে।
ALTER SYSTEM SET work_mem TO '32MB';
পরিবর্তন কার্যকর হওয়ার জন্য সার্ভারটি পুনরায় চালু করুন, তারপরে ডাবল চেক করুন:
SHOW work_mem;
মূল ক্যোয়ারী
আমি আমার ডাটাবেসটি 650 কে পণ্যের সাথে 40 কে পণ্য ধারণ করে এমন কিছু বিভাগে তৈরি করেছি। আমি ক্লজটি সরিয়ে ক্যোয়ারিকে কিছুটা সহজ করেছি published:
SELECT * FROM products WHERE category_ids @> ARRAY [248688]
ORDER BY score DESC, title LIMIT 10 OFFSET 30000;
Limit (cost=2435.62..2435.62 rows=1 width=1390) (actual time=1141.254..1141.256 rows=10 loops=1)
-> Sort (cost=2434.00..2435.62 rows=646 width=1390) (actual time=1115.706..1140.513 rows=30010 loops=1)
Sort Key: score, title
Sort Method: external merge Disk: 29656kB
-> Bitmap Heap Scan on products (cost=17.01..2403.85 rows=646 width=1390) (actual time=11.831..25.646 rows=41666 loops=1)
Recheck Cond: (category_ids @> '{248688}'::integer[])
Heap Blocks: exact=6471
-> Bitmap Index Scan on idx_products_category_ids_gin (cost=0.00..16.85 rows=646 width=0) (actual time=10.140..10.140 rows=41666 loops=1)
Index Cond: (category_ids @> '{248688}'::integer[])
Planning time: 0.288 ms
Execution time: 1146.322 ms
যেহেতু আমরা দেখতে পাচ্ছি work_memযথেষ্ট ছিল না তাই আমাদের ছিল Sort Method: external merge Disk: 29656kB(এখানে নম্বরটি আনুমানিক, ইন-মেমরি কুইকোর্টের জন্য এটি 32MB এর চেয়ে কিছুটা বেশি বেশি প্রয়োজন)।
মেমরির পদচিহ্ন হ্রাস করুন
বাছাইয়ের জন্য সম্পূর্ণ রেকর্ড নির্বাচন করবেন না, আইডি ব্যবহার করুন, সাজান প্রয়োগ করুন, অফসেট এবং সীমাবদ্ধ করুন, তারপরে আমাদের প্রয়োজন মাত্র 10 টি রেকর্ড লোড করুন:
SELECT * FROM products WHERE id in (
SELECT id FROM products WHERE category_ids @> ARRAY[248688]
ORDER BY score DESC, title LIMIT 10 OFFSET 30000
) ORDER BY score DESC, title;
Sort (cost=2444.10..2444.11 rows=1 width=1390) (actual time=707.861..707.862 rows=10 loops=1)
Sort Key: products.score, products.title
Sort Method: quicksort Memory: 35kB
-> Nested Loop (cost=2436.05..2444.09 rows=1 width=1390) (actual time=707.764..707.803 rows=10 loops=1)
-> HashAggregate (cost=2435.63..2435.64 rows=1 width=4) (actual time=707.744..707.746 rows=10 loops=1)
Group Key: products_1.id
-> Limit (cost=2435.62..2435.62 rows=1 width=72) (actual time=707.732..707.734 rows=10 loops=1)
-> Sort (cost=2434.00..2435.62 rows=646 width=72) (actual time=704.163..706.955 rows=30010 loops=1)
Sort Key: products_1.score, products_1.title
Sort Method: quicksort Memory: 7396kB
-> Bitmap Heap Scan on products products_1 (cost=17.01..2403.85 rows=646 width=72) (actual time=11.587..35.076 rows=41666 loops=1)
Recheck Cond: (category_ids @> '{248688}'::integer[])
Heap Blocks: exact=6471
-> Bitmap Index Scan on idx_products_category_ids_gin (cost=0.00..16.85 rows=646 width=0) (actual time=9.883..9.883 rows=41666 loops=1)
Index Cond: (category_ids @> '{248688}'::integer[])
-> Index Scan using products_pkey on products (cost=0.42..8.45 rows=1 width=1390) (actual time=0.004..0.004 rows=1 loops=10)
Index Cond: (id = products_1.id)
Planning time: 0.682 ms
Execution time: 707.973 ms
নোট Sort Method: quicksort Memory: 7396kB। ফলাফল আরও ভাল।
যোগদান করুন এবং অতিরিক্ত বি-ট্রি সূচি
ক্রিস পরামর্শ হিসাবে আমি অতিরিক্ত সূচক তৈরি করেছি:
CREATE INDEX idx_test7 ON products (score DESC, title);
প্রথমে আমি এইভাবে যোগদানের চেষ্টা করেছি:
SELECT * FROM products NATURAL JOIN
(SELECT id FROM products WHERE category_ids @> ARRAY[248688]
ORDER BY score DESC, title LIMIT 10 OFFSET 30000) c
ORDER BY score DESC, title;
অনুসন্ধান পরিকল্পনা কিছুটা পৃথক হলেও ফলাফল একই:
Sort (cost=2444.10..2444.11 rows=1 width=1390) (actual time=700.747..700.747 rows=10 loops=1)
Sort Key: products.score, products.title
Sort Method: quicksort Memory: 35kB
-> Nested Loop (cost=2436.05..2444.09 rows=1 width=1390) (actual time=700.651..700.690 rows=10 loops=1)
-> HashAggregate (cost=2435.63..2435.64 rows=1 width=4) (actual time=700.630..700.630 rows=10 loops=1)
Group Key: products_1.id
-> Limit (cost=2435.62..2435.62 rows=1 width=72) (actual time=700.619..700.619 rows=10 loops=1)
-> Sort (cost=2434.00..2435.62 rows=646 width=72) (actual time=697.304..699.868 rows=30010 loops=1)
Sort Key: products_1.score, products_1.title
Sort Method: quicksort Memory: 7396kB
-> Bitmap Heap Scan on products products_1 (cost=17.01..2403.85 rows=646 width=72) (actual time=10.796..32.258 rows=41666 loops=1)
Recheck Cond: (category_ids @> '{248688}'::integer[])
Heap Blocks: exact=6471
-> Bitmap Index Scan on idx_products_category_ids_gin (cost=0.00..16.85 rows=646 width=0) (actual time=9.234..9.234 rows=41666 loops=1)
Index Cond: (category_ids @> '{248688}'::integer[])
-> Index Scan using products_pkey on products (cost=0.42..8.45 rows=1 width=1390) (actual time=0.004..0.004 rows=1 loops=10)
Index Cond: (id = products_1.id)
Planning time: 1.015 ms
Execution time: 700.918 ms
বিভিন্ন অফসেট এবং পণ্য সংখ্যা নিয়ে খেলতে পোস্টগ্র্রেএসকিউএল অতিরিক্ত বি-ট্রি সূচক ব্যবহার করতে পারি না।
সুতরাং আমি শাস্ত্রীয় পথে গিয়ে জংশন সারণী তৈরি করেছি :
CREATE TABLE prodcats AS SELECT id AS product_id, unnest(category_ids) AS category_id FROM products;
CREATE INDEX idx_prodcats_cat_prod_id ON prodcats (category_id, product_id);
SELECT p.* FROM products p JOIN prodcats c ON (p.id=c.product_id)
WHERE c.category_id=248688
ORDER BY p.score DESC, p.title LIMIT 10 OFFSET 30000;
Limit (cost=122480.06..122480.09 rows=10 width=1390) (actual time=1290.360..1290.362 rows=10 loops=1)
-> Sort (cost=122405.06..122509.00 rows=41574 width=1390) (actual time=1264.250..1289.575 rows=30010 loops=1)
Sort Key: p.score, p.title
Sort Method: external merge Disk: 29656kB
-> Merge Join (cost=50.46..94061.13 rows=41574 width=1390) (actual time=117.746..182.048 rows=41666 loops=1)
Merge Cond: (p.id = c.product_id)
-> Index Scan using products_pkey on products p (cost=0.42..90738.43 rows=646067 width=1390) (actual time=0.034..116.313 rows=210283 loops=1)
-> Index Only Scan using idx_prodcats_cat_prod_id on prodcats c (cost=0.43..1187.98 rows=41574 width=4) (actual time=0.022..7.137 rows=41666 loops=1)
Index Cond: (category_id = 248688)
Heap Fetches: 0
Planning time: 0.873 ms
Execution time: 1294.826 ms
তবুও বি-ট্রি সূচকটি ব্যবহার করা হচ্ছে না, ফলাফলসেট ফিট হয় না, ফলস্বরূপ work_memখারাপ ফলাফল।
তবে কিছু পরিস্থিতিতে বিপুল সংখ্যক পণ্য এবং ছোট অফসেট পোস্টগ্রিএসকিউএল এখন বি-ট্রি সূচি ব্যবহার করার সিদ্ধান্ত নেয়:
SELECT p.* FROM products p JOIN prodcats c ON (p.id=c.product_id)
WHERE c.category_id=248688
ORDER BY p.score DESC, p.title LIMIT 10 OFFSET 300;
Limit (cost=3986.65..4119.51 rows=10 width=1390) (actual time=264.176..264.574 rows=10 loops=1)
-> Nested Loop (cost=0.98..552334.77 rows=41574 width=1390) (actual time=250.378..264.558 rows=310 loops=1)
-> Index Scan using idx_test7 on products p (cost=0.55..194665.62 rows=646067 width=1390) (actual time=0.030..83.026 rows=108037 loops=1)
-> Index Only Scan using idx_prodcats_cat_prod_id on prodcats c (cost=0.43..0.54 rows=1 width=4) (actual time=0.001..0.001 rows=0 loops=108037)
Index Cond: ((category_id = 248688) AND (product_id = p.id))
Heap Fetches: 0
Planning time: 0.585 ms
Execution time: 264.664 ms
এটি বাস্তবে যথেষ্ট যৌক্তিক কারণ এখানে বি-ট্রি সূচক সরাসরি ফলাফল দেয় না, এটি কেবল সিক্যুয়াল স্ক্যানের গাইড হিসাবে ব্যবহৃত হয়।
আসুন জিআইএন ক্যোয়ারির সাথে তুলনা করি:
SELECT * FROM products WHERE id in (
SELECT id FROM products WHERE category_ids @> ARRAY[248688]
ORDER BY score DESC, title LIMIT 10 OFFSET 300
) ORDER BY score DESC, title;
Sort (cost=2519.53..2519.55 rows=10 width=1390) (actual time=143.809..143.809 rows=10 loops=1)
Sort Key: products.score, products.title
Sort Method: quicksort Memory: 35kB
-> Nested Loop (cost=2435.14..2519.36 rows=10 width=1390) (actual time=143.693..143.736 rows=10 loops=1)
-> HashAggregate (cost=2434.71..2434.81 rows=10 width=4) (actual time=143.678..143.680 rows=10 loops=1)
Group Key: products_1.id
-> Limit (cost=2434.56..2434.59 rows=10 width=72) (actual time=143.668..143.670 rows=10 loops=1)
-> Sort (cost=2433.81..2435.43 rows=646 width=72) (actual time=143.642..143.653 rows=310 loops=1)
Sort Key: products_1.score, products_1.title
Sort Method: top-N heapsort Memory: 68kB
-> Bitmap Heap Scan on products products_1 (cost=17.01..2403.85 rows=646 width=72) (actual time=11.625..31.868 rows=41666 loops=1)
Recheck Cond: (category_ids @> '{248688}'::integer[])
Heap Blocks: exact=6471
-> Bitmap Index Scan on idx_products_category_ids_gin (cost=0.00..16.85 rows=646 width=0) (actual time=9.916..9.916 rows=41666 loops=1)
Index Cond: (category_ids @> '{248688}'::integer[])
-> Index Scan using products_pkey on products (cost=0.42..8.45 rows=1 width=1390) (actual time=0.004..0.004 rows=1 loops=10)
Index Cond: (id = products_1.id)
Planning time: 0.630 ms
Execution time: 143.921 ms
জিনের ফলাফল আরও ভাল। আমি বিভিন্ন সংখ্যক পণ্য এবং অফসেটের সংযোগগুলি পরীক্ষা করেছি , কোনও পরিস্থিতিতে জংশন টেবিলের পদ্ধতির চেয়ে ভাল ছিল না ।
বাস্তব সূচকের শক্তি
বাছাইয়ের জন্য পোস্টগ্রেএসকিউএলকে সূচকে সম্পূর্ণরূপে ব্যবহার করার জন্য, সমস্ত ক্যোয়ারী WHEREপ্যারামিটারগুলির পাশাপাশি ORDER BYপ্যারামিটারগুলি অবশ্যই একক বি-ট্রি সূচীতে থাকা উচিত। এটি করার জন্য আমি পণ্য থেকে জংশন সারণিতে সাজানোর ক্ষেত্রগুলি অনুলিপি করেছি:
CREATE TABLE prodcats AS SELECT id AS product_id, unnest(category_ids) AS category_id, score, title FROM products;
CREATE INDEX idx_prodcats_1 ON prodcats (category_id, score DESC, title, product_id);
SELECT * FROM products WHERE id in (SELECT product_id FROM prodcats WHERE category_id=248688 ORDER BY score DESC, title LIMIT 10 OFFSET 30000) ORDER BY score DESC, title;
Sort (cost=2149.65..2149.67 rows=10 width=1390) (actual time=7.011..7.011 rows=10 loops=1)
Sort Key: products.score, products.title
Sort Method: quicksort Memory: 35kB
-> Nested Loop (cost=2065.26..2149.48 rows=10 width=1390) (actual time=6.916..6.950 rows=10 loops=1)
-> HashAggregate (cost=2064.83..2064.93 rows=10 width=4) (actual time=6.902..6.904 rows=10 loops=1)
Group Key: prodcats.product_id
-> Limit (cost=2064.02..2064.71 rows=10 width=74) (actual time=6.893..6.895 rows=10 loops=1)
-> Index Only Scan using idx_prodcats_1 on prodcats (cost=0.56..2860.10 rows=41574 width=74) (actual time=0.010..6.173 rows=30010 loops=1)
Index Cond: (category_id = 248688)
Heap Fetches: 0
-> Index Scan using products_pkey on products (cost=0.42..8.45 rows=1 width=1390) (actual time=0.003..0.003 rows=1 loops=10)
Index Cond: (id = prodcats.product_id)
Planning time: 0.318 ms
Execution time: 7.066 ms
এবং এটি নির্বাচিত বিভাগ এবং বৃহত্তর অফসেটে প্রচুর সংখ্যক পণ্য সহ সবচেয়ে খারাপ পরিস্থিতি। অফসেট = 300 কার্যকর করার সময় মাত্র 0.5 এমএস।
দুর্ভাগ্যক্রমে এই জাতীয় জংশন সারণি বজায় রাখার জন্য অতিরিক্ত প্রচেষ্টা প্রয়োজন requires এটি সূচকযুক্ত বস্তুগত দৃশ্যের মাধ্যমে সম্পন্ন হতে পারে তবে এটি তখনই কার্যকর যখন আপনার ডেটা খুব কমই আপডেট হয়, কারণ এ জাতীয় বস্তুগত দৃষ্টিভঙ্গি সতেজ করা বেশ ভারী ক্রিয়াকলাপ।
সুতরাং আমি বর্ধিত work_memএবং হ্রাস মেমরির পদচিহ্ন ক্যোয়ারী সহ এখনও অবধি জিআইএন সূচক নিয়ে আছি ।