বিরল ম্যাট্রিক্স গুণায় ওভারহেড কী

10

ম্যাট্রিক্সের গুণ (উভয় মাদুর * মাদুর এবং মাদুর * ভেক) নন-জিরো সংখ্যার সাথে ম্যাট্রিক্সের আকারের সাথে মাপবে? বা দুজনের কিছু সমন্বয়।

আকৃতি দিয়ে কি।

উদাহরণস্বরূপ, আমার এটিতে 100 টি মান সহ 100 x 100 ম্যাট্রিক্স বা এটিতে 100 টি মান সহ 1000 x 1000 ম্যাট্রিক্স রয়েছে।

এই ম্যাট্রিকগুলিকে স্কোয়ার করার সময় (বা একই ধরণের সাথে একই ম্যাট্রিক দিয়ে গুণিত করা) প্রথমটি (100x100) দ্বিতীয় (1000x1000) এর চেয়ে দ্রুততর হতে চলেছে? এটি কোথায় মূল্যবোধের উপর নির্ভর করে?

যদি এটি বাস্তবায়ন নির্ভর হয় তবে আমি পিইটিএসসি-র উত্তরে আগ্রহী।

linear-algebra performance sparse-matrix

— অ্যান্ড্রু স্পট
সূত্র

11

স্পারস ম্যাট্রিক্স-ভেক্টর গুনটির ব্যয়টি ননজারো এন্ট্রিগুলির সাথে সামঞ্জস্যভাবে স্কেল করে, কারণ প্রতিটি এন্ট্রি একবার ভেক্টরটিতে কিছু প্রবেশের মাধ্যমে বহুগুণ হয়।

বিরল ম্যাট্রিক্স-ম্যাট্রিক্স গুণনের ব্যয়টি নানজারোসের কাঠামোর উপর নির্ভর করে। উদাহরণস্বরূপ, একটি বিচ্ছিন্ন ম্যাট্রিক্স স্কোয়ারিং বিবেচনা করুন যা একটি তীরের কাঠামোর কাঠামোযুক্ত: $A$

A = (\begin{array}{ccccc} δ_{1} & β_{1} \\ δ_{2} & β_{2} \\ ⋱ & ⋮ \\ δ_{n - 1} & β_{n - 1} \\ γ_{1} & γ_{2} & \dots & γ_{n - 1} & δ_{n} \end{array}),

$A = \left(\begin{array}{ccccc} \delta_1 & & & & \beta_1 \\ & \delta_2 & & & \beta_2 \\ & & \ddots & & \vdots \\ & & & \delta_{n-1} & \beta_{n-1} \\ \gamma_1 & \gamma_2 & \cdots & \gamma_{n-1} & \delta_n \end{array}\right),$

তারপরে এর ননজারোস রয়েছে তবে ঘন। এই ঘটনাটি একটি সুপরিচিত গ্রাফ ব্যাখ্যা হল: এর গ্রাফে দৈর্ঘ্য 1 বা 2 প্রতিটি পাথ গ্রাফ একটি প্রান্ত হয়ে (অর্থাত, একটি অশূন্য এন্ট্রি )। $A$ $O(n)$ $A^2$ $A$ $A^2$ $A^2$

— জ্যাক পলসন
সূত্র

4

প্রথমত, এটি বাস্তবায়ন নির্ভর। আপনি যদি ঘন ম্যাট্রিক্স হিসাবে একটি স্পারস ম্যাট্রিক্স প্রয়োগ করেন এবং নন-জিরোগুলি পূরণ করেন তবে এটি ম্যাট্রিক্সের সামগ্রিক আকারের সাথে মাপবে। যদি এটি ননজারো হিসাবে সঞ্চয় করা থাকে তবে এটি ম্যাট্রিক্স আকারের অ্যাক্সেস টাইম স্কেল হিসাবে মাপবে।

পিইটিএসসি ডকুমেন্টেশনে এটি ব্যাখ্যা করেছে যে স্পার্স ম্যাট্রিক্সের জন্য ডিফল্ট স্টোরেজটি সংকুচিত সারি স্টোরেজ, যা সারি সংখ্যার এবং প্রতিটি সারি-শূন্য- অমূল্যের সংখ্যার সাথে স্কেল করে। সুতরাং আমি আশা করব যে একটি ম্যাটম্যাট এই পরিমাপের বর্গক্ষেত্রের সাথে ব্যাপকভাবে স্কেল করবে; অর্থাৎ । $O(r^2 n^2)$

তবে একটি বিষয় লক্ষণীয়, যেটি নেই সেখানে সংরক্ষণ করার কোনও অর্থ নেই; আপনি যদি এই পারফরম্যান্স সম্পর্কে যত্নশীল হন তবে আপনি কেন 1000x1000 ম্যাট্রিক্সের জন্য 100 মান সংরক্ষণ করছেন? এর অর্থ হ'ল কমপক্ষে 90% সারি / কলামগুলির কোনও ননজারো মান নেই, এবং ম্যাট্রিক্স থেকে সম্পূর্ণভাবে মুছে ফেলা হতে পারে। যদি শূন্য-না-থাকা মানগুলির প্যাটার্নটি পরিবর্তন না হয়, তবে এটি এবং লক্ষ্য ম্যাট্রিক্স উভয় থেকে সর্বদা শূন্য সারিগুলি সরিয়ে ফেলার কথা বিবেচনা করুন; এটি দুটি ম্যাট্রিকের (100 ² , 1000 ² ) পারফরম্যান্সকে বিস্তৃত সমতুল্য রেখে প্রায় 90% প্রচেষ্টা সরিয়ে ফেলবে ।

— ফিল এইচ
সূত্র

খালি সারি এবং কলামগুলি প্রায়শই সমস্যার ক্ষেত্রে কাজ করে (উদাহরণস্বরূপ কোনও চিত্রের মধ্যে অবস্থানের সাথে সারি সংখ্যার মধ্যে অভিন্ন ম্যাপিং রাখার ক্ষেত্রে) তবে এগুলি থেকে মুক্তি না পেয়ে কোনও বাণিজ্য থাকবে।

— meawoppl

ঠিক; আপনার রানটাইম পারফরম্যান্সকে 10x এর কাছাকাছি তৈরি করা কেবল এমন ম্যাপিং বজায় রাখার জন্য যা আপনি 100 ইন্টের একক অ্যারেতে রাখতে পারেন তা কোনও সাধারণ ট্রেডঅফ নয়। প্রশ্নটি যেহেতু ম্যাট্রিক্স স্কেলগুলির ফাঁকা আকার হিসাবে পারফরম্যান্সের বিষয়ে ছিল, তাই পিইটিএসসি-র জন্য এটি বিশেষভাবে গুরুত্বপূর্ণ বিষয়, তিনি যেমন জিজ্ঞাসা করেছিলেন তেমন।

— ফিল এইচ

3

এই কাগজে এসএমএম পারফরম্যান্সের একটি সম্পূর্ণ মডেল দেওয়া হয়েছে । এটি স্পষ্টভাবে দেখায় যে প্রধান সীমাবদ্ধটি ব্যান্ডউইথ, যদিও আপনি একাধিক ভেক্টর ব্যবহার করে বোঝা হ্রাস করতে পারেন। এর পরে আপনি নির্দেশের ইস্যু সীমাবদ্ধতা এবং অসামান্য লেখার নির্দেশের একটি সীমাতে অন্তর্ভুক্ত যা আমি বিশ্বাস করি।

— ম্যাট নিপলি
সূত্র