ঘন লিনিয়ার বীজগণিত জন্য রানটাইম পূর্বাভাস

Question

আমি একটি নির্দিষ্ট গ্রন্থাগার ব্যবহার করে একটি নির্দিষ্ট আর্কিটেকচারে ঘন লিনিয়ার বীজগণিত ক্রিয়াকলাপগুলির রানটাইমগুলির পূর্বাভাস দিতে চাই। আমি এমন একটি মডেল শিখতে চাই যা ফাংশনটি প্রায় অনুমান করে

$F_{op} \;::\;$ইনপুট আকার$\rightarrow$রানটাইম

ম্যাট্রিক্স-গুণিতকরণ, উপাদান-যুক্ত অ্যাড, ত্রিভুজুলার সমাধান ইত্যাদির মতো ক্রিয়াকলাপগুলির জন্য for

আমি সন্দেহ করি যে একবার আপনি ক্যাশে আরামদায়ক সমস্যার আকারের বাইরে গিয়ে সমস্যার আকারগুলি ছাড়িয়ে যাওয়ার পরে অপারেশনগুলির নিয়মিততার কারণে এই রানটাইমগুলি বেশিরভাগই অনুমানযোগ্য।

প্রশ্নাবলী:

1. এই অনুমান কি বাস্তববাদী? রানটাইম ফাংশনটি কি প্রায় নিয়ন্ত্রক হওয়ার সম্ভাবনা রয়েছে?
2. আমি কি ধরে নিতে পারি যে এই ফাংশনটি ইনপুটগুলির আকারগুলিতে বহুবচন হবে? (অর্থাত্ আমি ঘন ম্যাট্রিক্সের গুণকে এমন কিছু দেখানোর আশা করি$\alpha n\times k\times m$ জন্য $A_{nk}\times B_{km}$ এবং $\alpha$ কিছু স্কেলার সহগ)
3. এটি নিয়ে কোথাও পূর্বনির্মাণের কাজ রয়েছে?
4. আমার বর্তমান পরিকল্পনাটি হ'ল একটি দিয়ে সর্বনিম্ন স্কোয়ার রিগ্রেশন করা $L_1$regularizer। অন্য কোন পরামর্শ?

সম্পাদনা: পরিষ্কার হওয়ার জন্য আমি রানটাইমগুলি খুঁজছি, এফএলওপি বা অন্য কোনও সাধারণ পারফরম্যান্স মেট্রিক নয়। আমি নিজেকে একটি নির্দিষ্ট স্থাপত্যের মধ্যে সীমাবদ্ধ রাখতে রাজি আছি।

Answer 1

আমি সম্প্রতি ঠিক এই বিষয় নিয়ে কাজ করছি। আপনি আমাদের কাগজটি একবার দেখে নিতে পারেন: http://arxiv.org/abs/1209.2364 ।

লিনিয়ার বীজগণিতের রুটিনগুলির রানটাইম পূর্বাভাসে আপনি কেন আগ্রহী? আপনি কি কোনও নির্দিষ্ট উদ্দেশ্যে মডেলটি ব্যবহার করবেন?

Comments

লিঙ্কের জন্য ধন্যবাদ। আমি একবার দেখে নেব। আমি এতে আগ্রহী কারণ আপনি যে একই কারণে আমার সন্দেহ হয়। ম্যাট্রিক্স এক্সপ্রেশনগুলির জন্য অটোমেটেড অ্যালগরিদম নির্বাচন এবং সময়সূচী। অত্যন্ত নিয়মিত এবং অনুমানযোগ্য ডোমেনে অন্যথায় প্রচুর অসম্ভব সমস্যা হওয়া উচিত।

— এমরোকলিন

Answer 2

প্রচুর পূর্বনির্মাণের কাজ রয়েছে। বেশিরভাগ লিনিয়ার বীজগণিত গ্রন্থাগার বিকাশকারীরা ভাসমান-পয়েন্ট কর্মক্ষমতা অনুসারে পারফরম্যান্স ফলাফল প্রকাশ করে যা রান টাইমে রূপান্তরিত হতে পারে।

উদাহরণস্বরূপ "ডিজিএমএম পারফরম্যান্স" এর জন্য গুগলিং নিম্নলিখিত ফলন করে: http://math-atlas.sourceforge.net/timing/3_5_10/index.html ।

সাধারণত, আপনি উত্তরগুলি মসৃণ হওয়ার আশা করতে পারেন। নির্দিষ্ট সমস্যা আকারের (যা ক্যাশে আকারের সাথে সম্পর্কিত) এর আশেপাশে জাম্প বা স্পাইক থাকবে। আপনার রেটরেও মালভূমি আশা করা উচিত, এবং তাই সমস্যা আকারের বিস্তৃত ক্ষেত্রে লিনিয়ার-ইশ অঞ্চলগুলি। বহুবর্ষটি খুব সহায়ক হবে বলে আমি আশা করি না।

একটি বিস্তৃত ভিত্তিক বেঞ্চমার্কিং প্রচেষ্টা দেওয়া, ফলাফলগুলি ট্যাবলেট করা এবং প্রয়োজনীয়ভাবে ইন্টারপোলেট করা সহজ হতে পারে। আপনার লক্ষ্য কি?

Comments

একটি ফ্লপ / গুলি মালভূমি DGEMMএকটি ইঙ্গিত করে$n^3$অঞ্চল কারণ ফ্ল্যাটগুলি সমস্যার আকারের সাথে বাড়ছে। আমি একমত যে একক বহুবর্ষের সাথে ফিট করার চেষ্টা করার চেয়ে টুকরোয়াদিত ফিটটি আরও ভাল হওয়া উচিত।

— জেদ ব্রাউন

ফ্লপগুলিকে রানটাইমগুলিতে রূপান্তর করা আমার অভিজ্ঞতার পক্ষে, কঠিন। আমি সত্যিই কেবল আমার ক্ষেত্রে রানটাইম সম্পর্কে যত্নশীল। আমি স্থির তফসিলের সম্ভাব্যতা পরীক্ষা করছি।

— এমরোকলিন

আমার অভিজ্ঞতায় স্পাইক / প্লেটাস কেবল ছোট সমস্যা আকারের জন্যই ঘটে। একবার আপনি ক্যাশে ছাড়িয়ে গেলে জিনিসগুলি বেশ মসৃণ হয়। আমি সম্মত হই যে টুকরোড়া ফাংশনগুলি যুক্ত করা সম্ভবত ফিটের উন্নতি করবে।

— এমরোকলিন