সংকুচিত সংবেদন সমস্যা সম্পর্কে বিভ্রান্তি

Question

আমি অন্তর্গত কিছু রেফারেন্স পড়া এই ।

সংক্ষিপ্ত সংবেদনের ফলে কী অপ্টিমাইজেশান সমস্যা তৈরি হয় এবং সমাধান করার চেষ্টা করে আমি একধরণের বিভ্রান্ত হয়ে পড়েছি। তাই কি

$$\begin{array}{ll} \text{minimize} & \|x\|_1\\ \text{subject to} & Ax=b\end{array}$$

অথবা এবং

$$\begin{array}{ll} \text{minimize} & \|x\|_0\\ \text{subject to} & Ax=b\end{array}$$

বা / এবং অন্য কিছু?

Answer 1

ব্রায়ান স্পট অন। তবে আমি মনে করি কিছু সংবেদনশীল সংবেদন প্রসঙ্গে যুক্ত করা সহায়ক।

প্রথমত, নোট যে তথাকথিত 0 আদর্শ যে সময়টাতে cardinality ফাংশন, অথবা অশূন্য মান রয়েছে তা গণনা -is একটি আদর্শ না । সর্বাধিক নৈমিত্তিক প্রসঙ্গ ব্যতীত এর মতো কিছু হিসাবে লেখা ভাল । আমাকে ভুল করবেন না, আপনি যখন শর্টহ্যান্ড ব্যবহার করেন তখন আপনি ভাল সংস্থায় , তবে আমার মনে হয় এটি বিভ্রান্তির জন্ম দেয়।$\|x\|_0$$x$$\mathop{\textbf{card}}(x)$$\|x\|_0$

মানুষ একটি দীর্ঘ সময় যে কমানোর জন্য পরিচিত আছে আদর্শ বিক্ষিপ্ত সমাধান উত্পাদন করতে থাকে। এর জন্য কিছু তাত্ত্বিক কারণ রয়েছে যা লিনিয়ার পরিপূরকতার সাথে করতে হবে। তবে সবচেয়ে আকর্ষণীয় বিষয়টি ছিল না যে সমাধানগুলি খুব কম ছিল, তবে তারা প্রায়শই খুব কমই সম্ভব ছিল । এটি হ'ল, হ্রাস করা সত্যই আপনাকে কিছু দরকারী ক্ষেত্রে ন্যূনতম কার্ডিনালিটি সমাধান দেয়। (যখন তারা ন্যূনতম কার্ডিনালিটির সমস্যাটি এনপি-হার্ড হয় তখন তারা কীভাবে তা আবিষ্কার করলেন? জ্ঞাত বিচ্ছুরণ সমাধান সহ কৃত্রিম সমস্যাগুলি তৈরি করে।) লিনিয়ার পরিপূরক তত্ত্বটি ভবিষ্যদ্বাণী করতে পারে এমন এটি ছিল না।$\ell_1$$\|x\|_1$$\|x\|_1$

সংক্ষিপ্ত ক্ষেত্রটি যখন জন্মগ্রহণ করেছিল তখন গবেষকরা ম্যাট্রিক্স পরিস্থিতি সনাক্ত করতে শুরু করেছিলেন যা তাদের আগে থেকেই গ্যারান্টি দেওয়ার অনুমতি দেয় যে সমাধানটিও খুব বিরল। উদাহরণস্বরূপ দেখুন ক্যান্ডস, রোমবার্গ এবং টাওয়ের প্রথমতম কাগজপত্র এবং সীমাবদ্ধ আইসোমেট্রি সম্পত্তি বা আরআইপি সম্পর্কিত অন্যান্য আলোচনা । আপনি যদি কিছু তত্ত্বের সত্যই ডাইভ করতে চান তবে আর একটি দরকারী ওয়েব সাইট হ'ল টেরেন্স টাও-র সংবেদনশীল পৃষ্ঠা ।$A$$\ell_1$

Answer 2

আমরা সমাধান করতে সক্ষম হতে চাই

$\min \| x \|_{0}$

St

$Ax=b$

তবে এই সমস্যাটি একটি এনপি-হার্ড কম্বিনেটরিয়াল অপ্টিমাইজেশন সমস্যা যা অনুশীলনে সমাধান করা অযৌক্তিক যখন , , এবং সংক্ষিপ্ত সংবেদনের ক্ষেত্রে সাধারণত আকারের হয়। দক্ষতার সাথে সমাধান করা সম্ভব$A$$x$$b$

$\min \| x \|_{1}$

St

$Ax=b$

উভয় তত্ত্ব (এটি বহুপক্ষীয় সময়ে করা যেতে পারে) এবং সংক্ষিপ্ত সংবেদনশীল যে উত্পন্ন মোটামুটি বড় সমস্যার জন্য গণ্য অনুশীলনে। আমরা use ব্যবহার করি জন্য "সারোগেট" হিসাবে। । এর কিছু স্বজ্ঞাত যুক্তিসঙ্গততা রয়েছে (এক-ন্যূনতম ক্ষুদ্রতর মধ্যে কম ননজারো প্রবেশের সাথে সমাধানগুলি অগ্রাধিকার দেয় ), পাশাপাশি আরও পরিশীলিত তাত্ত্বিক ন্যায়সঙ্গততা (ফর্মের উপপাদাগুলি "যদি এর কে-স্পার সমাধান থাকে তবে ন্যূনতম high উচ্চ সম্ভাব্যতার সাথে সমাধানটি সন্ধান করবে "" $\| x \|_{1}$$\| x \|_{0}$$x$$Ax=b$$\| x \|_{1}$

অনুশীলনে, যেহেতু ডেটা প্রায়শই কোলাহলপূর্ণ হয় তাই সঠিক সীমাবদ্ধতা প্রায়শই ফর্মের সীমাবদ্ধতার সাথে প্রতিস্থাপিত হয় । $Ax=b$$\| Ax - b \|_{2} \leq \delta$

সীমাবদ্ধ সমস্যার পরিবর্তিত রূপ নিয়ে কাজ করাও খুব সাধারণ বিষয়, যেখানে উদাহরণস্বরূপ আমরা im হ্রাস করতে পারি ।$\min \| Ax - b\|_{2}^{2} + \lambda \| x \|_{1}$

Answer 3

বনাম সম্পর্কে ব্রায়ানস এবং মাইকেলস ব্যাখ্যাগুলিতে আমার যোগ করার মতো কিছুই নেই । কিন্তু যেহেতু প্রশ্ন সম্পর্কে সঙ্কুচিত সেনসিং আমি আমার দৃষ্টিকোণ যোগ করতে চান বলে মনে হয়: সঙ্কুচিত সেনসিং হয় তন্ন তন্ন সম্পর্কে সমাধানে কিংবা সম্পর্কে কমপ্রেসড সেন্সিং আরও একটি দৃষ্টান্ত , যা মোটামুটি হিসাবে বলা যেতে পারে$\ell^1$$\ell^0$

$$\min\|x\|_0\quad\text{s.t}\quad Ax=b$$ $$\min\|x\|_1\quad\text{s.t.}\quad Ax=b.$$

কয়েকটি পরিমাপ থেকে বিরল সংকেত সনাক্ত করা সম্ভব।

সংক্ষিপ্ত সংবেদনের মাধ্যমে নির্দিষ্ট শ্রেণির সিগন্যালে সংকেত সনাক্ত করতে যতটা সম্ভব পরিমাপ করা সম্ভব।

একটি আকর্ষণীয় বাক্যাংশটি হ'ল:

আপনার 5 মেগাপিক্সেলের ক্যামেরাটি কেন 15 মিলিয়ন মানগুলি (প্রতিটি পিক্সেলের জন্য তিনটি) পরিমাপ করা উচিত যা যখন কেবল 2 মেগাবাইট (সংকোচনের পরে) সঞ্চিত হয় তখন আপনার 15 মেগাবাইট ডেটা লাগে?
এখনই কি 2 মেগাবাইট পরিমাপ করা সম্ভব?

এখানে বেশ কিছু আলাদা ফ্রেমওয়ার্ক সম্ভব:

• রৈখিক পরিমাপ
• অ-রৈখিক (যেমন "ধাপবিহীন" এক)
• ভেক্টর ডেটা, ম্যাট্রিক্স / টেনসর ডেটা
• অ-শূন্যের সংখ্যা হিসাবে স্পারসিটি
• "নিম্ন-র‌্যাঙ্ক" বা এমনকি "নিম্ন জটিলতা" হিসাবে স্পারসিটি।

সেখানে মত বিক্ষিপ্ত সমাধান গনা আরো পদ্ধতি ম্যাচিং অর্জনের (লম্ব ম্যাচিং সাধনা (OMP মত রূপ), নিয়মিত লম্ব ম্যাচিং সাধনা (দৌড়ঝাঁপ), CoSaMP) অথবা আরো সাম্প্রতিক ভিত্তিক পদ্ধতিসমূহ বার্তা ক্ষণস্থায়ী আলগোরিদিম।

যদি কেউ কেবল - বা ইল মিনিমাইজেশন সহ কমপ্রেসড সেন্সিং সনাক্ত করে , ব্যবহারিক ডেটা অর্জনের সমস্যার সাথে মোকাবিলা করার সময় কেউ প্রচুর স্বাচ্ছন্দ্য বোধ করে।$\ell^1$$\ell^0$

তবে, যদি কেউ কেবল রৈখিক সিস্টেমগুলির জন্য বিরল সমাধানগুলি পেতে আগ্রহী হন, তবে কেউ এমন কিছু করেন যা আমি বিরল পুনর্গঠন বলব ।

Comments

ধন্যবাদ! আপনি কি গণিত গঠনের জন্য নিম্নলিখিতগুলি পুনরায় ব্যাখ্যা করতে পারেন: "কয়েকটি পরিমাপ থেকে স্পারস সিগন্যাল সনাক্ত করা সম্ভব sign সংকেতগুলির একটি নির্দিষ্ট শ্রেণিতে সংকেত সনাক্ত করতে সংক্ষেপিত সংবেদনটি যথাসম্ভব কম পরিমাপের বিষয়ে about"

— টিম

না, আমি পারছি না, কারণ কমপ্রেসড সেন্সিং কোনও গাণিতিক তত্ত্ব নয় বরং একটি প্রকৌশল ধারণা।

— ডিস্ক

আমি মনে করি এই উত্তরটি একটি ভাল অবদান, এবং আমি এটি দিয়েছি। আকর্ষণীয় বাক্যাংশ হিসাবে, যদিও, আমি এটির সাথে সর্বদা সমস্যা ছিল। এটি সুপারিশ করে যে সিএস এত শক্তিশালী যে আপনি কেবল 13 মিলিয়ন পিক্সেল ফেলে দিতে এবং চিত্রটি পুনরুদ্ধার করতে পারেন। তবে না, আপনার কখনও ডেটা এলোমেলোভাবে ফেলে দেওয়া উচিত নয় , এমনকি কোনও সিএস সিস্টেমে --- একটি ভাল পুনরুদ্ধারের অ্যালগরিদম সর্বদা আরও ডেটা ব্যবহার করতে পারে। সিএসের প্রতিশ্রুতি হ'ল সেন্সরগুলি বিকাশের সম্ভাবনা যা কিছু গুরুত্বপূর্ণ ব্যবহারিক সঞ্চয়: বিদ্যুতের সঞ্চয়, দ্রুত সংগ্রহ ইত্যাদির বিনিময়ে প্রথম স্থানে কম ডেটা সংগ্রহ করে

— মাইকেল গ্রান্ট

@ মিশেলগ্র্যান্ট আমি সম্মত: আপনি ইতিমধ্যে পরিমাপকৃত ডেটা ফেলে দেবেন না এবং যে তারিখটি আপনি ন্যূনতম প্রচেষ্টা দিয়ে পরিমাপ করতে পারবেন তা ব্যবহার করবেন না।

— শির্ক