আমার কাছে 3 টি "বৃহত্তর" সারণী রয়েছে যা এক জোড়া কলামে যুক্ত হয় (উভয় int
গুলি)।
- টেবিল 1 এ 200 মিলিয়ন ডলার সারি রয়েছে
- টেবিল 2 এ 1.5 মিলিয়ন ডলার সারি রয়েছে
- টেবিল 3 এ ~ 6 মিলিয়ন সারি রয়েছে
প্রতিটি টেবিলের উপর একটি ক্লাস্টার সূচক আছে Key1
, Key2
এবং তারপর আরো একটি কলাম। Key1
কার্ডিনালিটি কম এবং খুব স্কিউড। এটি সর্বদা ধারাটিতে রেফারেন্স করা হয় WHERE
। Key2
ধারাটিতে কখনই উল্লেখ করা হয় না WHERE
। প্রতিটি যোগদান বহু থেকে বহু।
কার্ডিনালিটি অনুমানের সাথে সমস্যা। প্রতিটি যোগদানের আউটপুট অনুমান বৃহত্তর পরিবর্তে আরও ছোট হয় । আসল ফলাফলটি কয়েক মিলিয়ন হয়ে গেলে কম শতকের চূড়ান্ত প্রাক্কলনে এই ফলাফল হয়।
আরও ভাল অনুমান করার জন্য আমার কি সিই ক্লু করার কোনও উপায় আছে?
SELECT 1
FROM Table1 t1
JOIN Table2 t2
ON t1.Key1 = t2.Key1
AND t1.Key2 = t2.Key2
JOIN Table3 t3
ON t1.Key1 = t3.Key1
AND t1.Key2 = t3.Key2
WHERE t1.Key1 = 1;
সমাধানগুলি আমি চেষ্টা করেছি:
- এতে বহু-কলামের পরিসংখ্যান তৈরি করা হচ্ছে
Key1
,Key2
- প্রচুর পরিমাণে ফিল্টার পরিসংখ্যান তৈরি করা
Key1
(এটি বেশ কিছুটা সহায়তা করে তবে আমি ডাটাবেসে হাজার হাজার ব্যবহারকারীর দ্বারা নির্মিত পরিসংখ্যান শেষ করি))
মাস্কড এক্সিকিউশন প্ল্যান (খারাপ মুখোশ দেওয়ার জন্য দুঃখিত)
যে ক্ষেত্রে আমি দেখছি, ফলাফলটিতে 9 মিলিয়ন সারি রয়েছে। নতুন সিই 180 সারি অনুমান করে; লেগ্যাসি সিই 6100 সারি অনুমান করে।
এখানে একটি পুনরুত্পাদনযোগ্য উদাহরণ:
DROP TABLE IF EXISTS #Table1, #Table2, #Table3;
CREATE TABLE #Table1 (Key1 INT NOT NULL, Key2 INT NOT NULL, T1Key3 INT NOT NULL, CONSTRAINT pk_t1 PRIMARY KEY CLUSTERED (Key1, Key2, T1Key3));
CREATE TABLE #Table2 (Key1 INT NOT NULL, Key2 INT NOT NULL, T2Key3 INT NOT NULL, CONSTRAINT pk_t2 PRIMARY KEY CLUSTERED (Key1, Key2, T2Key3));
CREATE TABLE #Table3 (Key1 INT NOT NULL, Key2 INT NOT NULL, T3Key3 INT NOT NULL, CONSTRAINT pk_t3 PRIMARY KEY CLUSTERED (Key1, Key2, T3Key3));
-- Table1
WITH Numbers
AS (SELECT TOP (1000000) Number = ROW_NUMBER() OVER(ORDER BY t1.number)
FROM master..spt_values t1
CROSS JOIN master..spt_values t2),
DataSize (Key1, NumberOfRows)
AS (SELECT 1, 2000 UNION
SELECT 2, 10000 UNION
SELECT 3, 25000 UNION
SELECT 4, 50000 UNION
SELECT 5, 200000)
INSERT INTO #Table1
SELECT Key1
, Key2 = ROW_NUMBER() OVER (PARTITION BY Key1, T1Key3 ORDER BY Number)
, T1Key3
FROM DataSize
CROSS APPLY (SELECT TOP(NumberOfRows)
Number
, T1Key3 = Number%(Key1*Key1) + 1
FROM Numbers
ORDER BY Number) size;
-- Table2 (same Key1, Key2 values; smaller number of distinct third Key)
WITH Numbers
AS (SELECT TOP (1000000) Number = ROW_NUMBER() OVER(ORDER BY t1.number)
FROM master..spt_values t1
CROSS JOIN master..spt_values t2)
INSERT INTO #Table2
SELECT DISTINCT
Key1
, Key2
, T2Key3
FROM #Table1
CROSS APPLY (SELECT TOP (Key1*10)
T2Key3 = Number
FROM Numbers
ORDER BY Number) size;
-- Table2 (same Key1, Key2 values; smallest number of distinct third Key)
WITH Numbers
AS (SELECT TOP (1000000) Number = ROW_NUMBER() OVER(ORDER BY t1.number)
FROM master..spt_values t1
CROSS JOIN master..spt_values t2)
INSERT INTO #Table3
SELECT DISTINCT
Key1
, Key2
, T3Key3
FROM #Table1
CROSS APPLY (SELECT TOP (Key1)
T3Key3 = Number
FROM Numbers
ORDER BY Number) size;
DROP TABLE IF EXISTS #a;
SELECT col = 1
INTO #a
FROM #Table1 t1
JOIN #Table2 t2
ON t1.Key1 = t2.Key1
AND t1.Key2 = t2.Key2
WHERE t1.Key1 = 1;
DROP TABLE IF EXISTS #b;
SELECT col = 1
INTO #b
FROM #Table1 t1
JOIN #Table2 t2
ON t1.Key1 = t2.Key1
AND t1.Key2 = t2.Key2
JOIN #Table3 t3
ON t1.Key1 = t3.Key1
AND t1.Key2 = t3.Key2
WHERE t1.Key1 = 1;
make_parallel
ক্রিয়াটি সমস্যাটি প্রশমিত করতে সহায়তা করে। আমি একবার তাকানmany
। দেখতে বেশ গ্রস ব্যান্ড-সহায়তার মতো মনে হচ্ছে।