কলাম স্টোর সূচীতে পরিচয় কলাম


9

আমার কাছে প্রচুর পুনরাবৃত্ত তথ্য, প্রচুর NULLকলাম এবং এরকম একটি বিশাল টেবিল আইএমও (137 মিলিয়ন ডলার সারি) রয়েছে ।

আমি এটির সাথে একটি টেবিল ব্যবহার করে এটি অন্বেষণের বিষয়ে বিবেচনা করছি COLUMNSTORE INDEXএবং IDENTITYমূল টেবিলটিতে আমার একটি কলাম রয়েছে, এটি আমার একমাত্র কলাম যেখানে প্রতিটি সারিটি অনন্য।

আমি কি এই কলামটি বাইরে রেখে বা এটি অন্তর্ভুক্ত করব? আমি পড়েছি যে আপনি আপনার টেবিলের সমস্ত সারি এতে অন্তর্ভুক্ত করতে চান COLUMNSTORE INDEXতবে আমি এটিও পড়েছি যে সেরা প্রার্থীরা প্রচুর অ-অনন্য সারিগুলির কলাম।

এটি কি একজনের পক্ষে খারাপ প্রার্থী COLUMNSTORE INDEX?

আমি এসকিউএল সার্ভার 2012 ব্যবহার করছি, সুতরাং এটি একটি অনিবন্ধিত কলাম স্টোর। আমি এই ডেটা সংরক্ষণ করার সম্ভাব্য আরও ভাল উপায়গুলি সন্ধান করছি। আপডেটগুলি অস্তিত্বহীন, যদিও ইএলটি প্রক্রিয়াটির মাধ্যমে পর্যায়ক্রমে নতুন সারি যুক্ত করা হবে তাই আমি ধরে নিচ্ছি যে সেখানে কিছু কাজ হবে। কিছু লোকেরা এই ডেটাটি খনন করে এবং প্রচুর প্রতিবেদন তৈরি করে, প্রচুর সারি স্ক্যান করে, সার্ভারকে এমন একটি ক্রল এনে দেয় যা আমাদের গৌণ সার্ভারে প্রতিদিন একটি অনুলিপি অফলোড করতে বাধ্য করে।


1
মূল টেবিলের পরিচয় কলামটিও কি আপনার ক্লাস্টারড ইনডেক্স? যদি তা হয়, এসকিউএল সার্ভার স্বয়ংক্রিয়ভাবে কোনও ক্লাস্টারবিহীন কলাম স্টোর সূচীতে column কলামটি অন্তর্ভুক্ত করবে, এমনকি যদি আপনি স্পষ্টভাবে এটি না চান don't এটি কিছুটা সমান যেভাবে ক্লাস্টারড ইনডেক্স কলামগুলি একটি ক্লাস্টারবিহীন বি-ট্রি ইনডেক্সে অন্তর্ভুক্ত করা হবে তবে এই ক্ষেত্রে তথ্যটি প্রকৃত সংকীর্ণ কলামস্টোর বিভাগ হিসাবে সংরক্ষণ করা হবে be আরও তথ্যের জন্য দেখুন ডিবিএ.স্ট্যাকেক্সেঞ্জার / জিজ্ঞাসা
জেফ প্যাটারসন

137 million rowsবড় তবে পরিচালনযোগ্য। আপনি কি টেবিলটি বিভাজন করে বিভিন্ন ফাইল গ্রুপে রেখেছেন? বর্গক্ষেত্র 2012-এ কলামগুলির দোকান সূচকটি লিখিতযোগ্য নয়, সুতরাং আপনি সমস্যার মধ্যে পড়তে চলেছেন - আপনাকে এটিকে ড্রপ করে পুনরায় তৈরি করতে হবে। আমি বলছি না যে কলামস্টোর উইল খারাপ, তবে অন্যান্য বিকল্পগুলিও অন্বেষণ করা ভাল।
কিন শাহ

উত্তর:


11

সনাক্তকরণ কলামগুলি এসকিউএল সার্ভার ২০১২ বা এসকিউএল সার্ভার ২০১৪-এ কলামস্টোর সূচকগুলিতে সত্যই সংকুচিত হয় না all এটি সমস্ত সত্যই আপনি যে কাজের চাপের সম্মুখীন হচ্ছেন তার উপর নির্ভর করবে। যদি আপনার কাজের চাপে পরিচয় কলামটি অন্তর্ভুক্ত থাকে তবে আপনি খুব সুন্দরভাবে বিভাগের বিলোপের সুবিধা নিতে পারবেন

সংকোচনের দৃষ্টিকোণ থেকে - কলামস্টোর পৃষ্ঠাটি সাধারণত পৃষ্ঠার চেয়ে আরও ভাল সংক্ষেপণ সরবরাহ করে। সাধারণত। উত্পাদন অগ্রগতি করার আগে এটি পরীক্ষা করুন।

এসকিউএল সার্ভার ২০১২-এ আপনার বৃহত্তম সমস্যাটি ব্যাচ মোডের একটি খুব দুর্বল প্রয়োগ হবে এবং এটি সম্পর্কে আপনি কিছুই করতে পারবেন না।


7
স্বাগতম নিকো !!!
অ্যারন বারট্র্যান্ড

3

আমি অন্য উত্তরের সাথে নিকোতে যোগদান করা প্রতিহত করতে পারিনি (স্বাগতম, নিকো!) সাধারণভাবে, আমি নিকোর সাথে একমত যে এসকিউএল ২০১২-তে ব্যাচ মোডের সীমাবদ্ধতাগুলি (যদি নিকো তার নিজের ব্লগে লিঙ্ক না করে, আমি করব :)) একটি বড় উদ্বেগ হতে পারে। তবে আপনি যদি সেইগুলির সাথে থাকতে পারেন এবং সাবধানতার সাথে এটি পরীক্ষা করার জন্য আপনি টেবিলের বিরুদ্ধে লিখেছেন এমন প্রতিটি প্রশ্নের উপর সম্পূর্ণ নিয়ন্ত্রণ রাখতে পারেন, এসএমএল ২০১২ এ কলামস্টোর আপনার পক্ষে কাজ করতে পারে।

সনাক্তকরণ কলাম সম্পর্কে আপনার সুনির্দিষ্ট প্রশ্ন হিসাবে, আমি দেখতে পেয়েছি যে পরিচয় কলামটি খুব ভালভাবে সংকোচিত হয়েছে এবং কোনও প্রাথমিক পরীক্ষার ক্ষেত্রে এটি আপনাকে আপনার কলামের দোকান সূচীতে অন্তর্ভুক্ত করার জন্য সুপারিশ করবে। (মনে রাখবেন যে পরিচয় কলামটি যদি আপনার বি-ট্রি -এর ক্লাস্টারড ইনডেক্সও হয় তবে এটি স্বয়ংক্রিয়ভাবে আপনার অ-ক্লাস্টারযুক্ত কলাম স্টোর সূচীতে অন্তর্ভুক্ত হবে ))

রেফারেন্সের জন্য, পরিচয় কলামের ডেটা of 10 মিমি সারিগুলির জন্য আমি মাপগুলি পর্যবেক্ষণ করেছি। অনুকূল বিভাগ নির্মূলের জন্য লোড করা কলামস্টোরটি 26MB (বনাম 113MB PAGEরোউস্টোর টেবিলের সংকোচনের জন্য) সংকোচিত করে, এবং এমনকি এলোমেলোভাবে অর্ডার করা বি-ট্রিতে নির্মিত কলামস্টোরটি কেবল 40MB। সুতরাং এটি একটি বিশাল সংকোচনের সুবিধা দেখায়, এমনকি সেরা বি-ট্রি সংকোচনের চেয়েও এসকিউএলকে দিতে হবে এবং এমনকি আপনি যদি সর্বোত্তম অংশটি নির্মূলের জন্য আপনার ডেটা সারিবদ্ধ করতে বিরক্ত না করেন (যা আপনি প্রথমে একটি বি-ট্রি তৈরি করে করতেন এবং MAXDOP1) দিয়ে আপনার কলাম স্টোর তৈরি করা ।

এখানে চিত্র বর্ণনা লিখুন

আপনি চারপাশে খেলতে চান এমন ক্ষেত্রে আমি এখানে পুরো স্ক্রিপ্টটি ব্যবহার করেছি:

-- Confirm SQL version
SELECT @@version
--Microsoft SQL Server 2012 - 11.0.5613.0 (X64) 
--  May  4 2015 19:05:02 
--  Copyright (c) Microsoft Corporation
--  Enterprise Edition: Core-based Licensing (64-bit) on Windows NT 6.3 <X64> (Build 9600: )


-- Create a columnstore table with identity column that is the primary key
-- This will yield 10 columnstore segments @ 1048576 rows each
SELECT i = IDENTITY(int, 1, 1), ROW_NUMBER() OVER (ORDER BY randGuid) as randCol
INTO #testIdentityCompression_sortedColumnstore
FROM (
    SELECT TOP 10485760 ROW_NUMBER() OVER (ORDER BY (SELECT NULL)) AS randI, NEWID() AS randGuid
    FROM master..spt_values v1
    CROSS JOIN master..spt_values v2
    CROSS JOIN master..spt_values v3
) r
ORDER BY r.randI
GO
ALTER TABLE #testIdentityCompression_sortedColumnstore
ADD PRIMARY KEY (i)
GO
-- Load using a pre-ordered b-tree and one thread for optimal segment elimination
-- See http://www.nikoport.com/2014/04/16/clustered-columnstore-indexes-part-29-data-loading-for-better-segment-elimination/
CREATE NONCLUSTERED COLUMNSTORE INDEX cs_#testIdentityCompression_sortedColumnstore ON #testIdentityCompression_sortedColumnstore (i) WITH (MAXDOP = 1)
GO

-- Create another table with the same data, but randomly ordered
SELECT *
INTO #testIdentityCompression_randomOrderColumnstore
FROM #testIdentityCompression_sortedColumnstore
GO
ALTER TABLE #testIdentityCompression_randomOrderColumnstore
ADD UNIQUE CLUSTERED (randCol)
GO
CREATE NONCLUSTERED COLUMNSTORE INDEX cs_#testIdentityCompression_randomOrderColumnstore ON #testIdentityCompression_randomOrderColumnstore (i) WITH (MAXDOP = 1)
GO

-- Create a b-tree with the identity column data and no compression
-- Note that we copy over only the identity column since we'll be looking at the total size of the b-tree index
-- If anything, this gives an unfair "advantage" to the rowstore-page-compressed version since more
-- rows fit on a page and page compression rates should be better without the "randCol" column.
SELECT i
INTO #testIdentityCompression_uncompressedRowstore
FROM #testIdentityCompression_sortedColumnstore
GO
ALTER TABLE #testIdentityCompression_uncompressedRowstore
ADD PRIMARY KEY (i)
GO

-- Create a b-tree with the identity column and page compression
SELECT i
INTO #testIdentityCompression_compressedRowstore
FROM #testIdentityCompression_sortedColumnstore
GO
ALTER TABLE #testIdentityCompression_compressedRowstore
ADD PRIMARY KEY (i)
WITH (DATA_COMPRESSION = PAGE)
GO

-- Compare all the sizes!
SELECT OBJECT_NAME(p.object_id, 2) AS tableName, COUNT(*) AS num_segments, SUM(on_disk_size / (1024.*1024.)) as size_mb
FROM tempdb.sys.partitions p
JOIN tempdb.sys.column_store_segments s
    ON s.partition_id = p.partition_id
    AND s.column_id = 1
WHERE p.object_id IN (OBJECT_ID('tempdb..#testIdentityCompression_sortedColumnstore'),OBJECT_ID('tempdb..#testIdentityCompression_randomOrderColumnstore'))
GROUP BY p.object_id
UNION ALL
SELECT OBJECT_NAME(p.object_id, 2) AS tableName
    , NULL AS num_segments
    , (a.total_pages*8.0) / (1024.0) as size_mb
FROM tempdb.sys.partitions p
JOIN tempdb.sys.allocation_units a
    ON a.container_id = p.partition_id
WHERE p.object_id IN (OBJECT_ID('tempdb..#testIdentityCompression_compressedRowstore'),OBJECT_ID('tempdb..#testIdentityCompression_uncompressedRowstore'))
ORDER BY 3 ASC
GO

সমস্ত দুর্দান্ত উত্তরের জন্য আপনাকে ধন্যবাদ, এই মুহুর্তে আমি কমপক্ষে এসকিএল সার্ভার ২০১৪ না পাওয়া পর্যন্ত বন্ধ করার সিদ্ধান্ত নিয়েছি। আমরা আমাদের আপগ্রেডগুলি এগিয়ে নিয়ে যাচ্ছি যাতে আমি পরের বছরে আশা করছি বা আমরা এটি করতে পারি।
ডোন
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.