লগসামে সর্বনাশা বাতিল

Question

আমি নিম্ন আপেক্ষিক ত্রুটি সহ ডাবল-স্পষ্টতা ভাসমান পয়েন্টে নিম্নলিখিত ফাংশনটি বাস্তবায়নের চেষ্টা করছি :

$$\mathrm{logsum}(x,y) = \log(\exp(x) + \exp(y))$$

লগ স্পেসে প্রতিনিধিত্ব করা সম্ভাবনা বা সম্ভাবনা ঘনত্ব যুক্ত করতে এটি পরিসংখ্যান প্রয়োগগুলিতে ব্যাপকভাবে ব্যবহৃত হয় ly অবশ্যই $\exp(x)$ বা $\exp(y)$ সহজেই উপচে পড়া বা আন্ডারফ্লো হতে পারে, যা খারাপ হবে কারণ লগ স্পেসটি প্রথম স্থানে আন্ডারফ্লো এড়াতে ব্যবহৃত হয়। এটি সাধারণ সমাধান:

$$\mathrm{logsum}(x,y) = x + \mathrm{log1p}(\exp(y - x))$$

থেকে বাতিলকরণ $y-x$ঘটে, তবে তা দ্বারা প্রশমিত হয় $\exp$। দ্বারা পর্যন্ত খারাপ যখন $x$ এবং $\mathrm{log1p}(\exp(y - x))$ কাছাকাছি। এখানে একটি আপেক্ষিক ত্রুটির প্লট রয়েছে:

প্লটটি এ কেটে দেওয়া হয়েছে বক্ররেখার আকারের উপর জোর দেওয়ার জন্য l o g s u m ( x , y ) = 0 , যা বাতিল হয়। আমি 10 - 11 পর্যন্ত ত্রুটি দেখেছি এবং সন্দেহ হয় যে এটি আরও খারাপ হয়ে যায়। (এফডাব্লুআইডাব্লু, "গ্রাউন্ড ট্রুথ" ফাংশনটি এমপিএফআর-এর স্বেচ্ছাসেবী-নির্ভুলতা 128-বিট যথার্থতার সাথে ভাসমান প্রয়োগ করে প্রয়োগ করা হয়)$10^{-14}$$\mathrm{logsum}(x,y) = 0$$10^{-11}$

আমি অন্যান্য সংস্কার চেষ্টা করেছি, সব একই ফলাফল সহ। বাহ্যিক অভিব্যক্তি হিসাবে সাথে , 1 টির কাছাকাছি কিছু লগ নিলে একই ত্রুটি ঘটে থাকে l l o g 1 p বহিরাগত এক্সপ্রেশন হিসাবে, অভ্যন্তরীণ প্রকাশে বাতিল হয় lation$\log$$\mathrm{log1p}$

এখন, পরম ত্রুটি খুব ছোট, সুতরাং এর খুব ছোট আপেক্ষিক ত্রুটি রয়েছে (একটি এপসিলনের মধ্যে)। যে কেউ তর্ক করতে পারে, যেহেতু l o g s u m এর ব্যবহারকারী সম্ভবত সম্ভাবনার ক্ষেত্রে আগ্রহী (লগ সম্ভাব্যতা নেই), এই ভয়ঙ্কর আপেক্ষিক ত্রুটি কোনও সমস্যা নয়। এটি সম্ভবত এটি নয় তবে আমি একটি লাইব্রেরি ফাংশন লিখছি এবং আমি চাইব যে এর ক্লায়েন্টরা গোলাকার ত্রুটির চেয়ে তুলনামূলক বেশি খারাপ না হয়ে আপেক্ষিক ত্রুটির উপর নির্ভর করতে সক্ষম হয়।$\exp(\mathrm{logsum}(x,y))$$\mathrm{logsum}$

মনে হচ্ছে আমার একটি নতুন পদ্ধতির দরকার। এটা কি হতে পারে?

Comments

আমি আপনার শেষ অনুচ্ছেদ বুঝতে পারি না। "একটি এপসিলনের মধ্যে" আমার কাছে কিছু বোঝায় না। আপনি শেষ স্থানের একটি ইউনিট বোঝাতে চান ? ব্যবহারকারীরা সম্ভাব্যতায় আগ্রহী হিসাবে, একটি ছোট লগ সম্ভাব্যতা ত্রুটির ফলে বড় সম্ভাবনার ত্রুটি দেখা দেয়, সুতরাং এটি ক্ষেত্রে নয় is

— অরন আহমদিয়া

কৌতূহলের বাইরে, আপনি কি আপনার দুটি পদ্ধতির "সেরা" গ্রহণ এবং এর ত্রুটিটি ষড়যন্ত্র করার চেষ্টা করেছেন? তারপরে আপনি যে ক্ষেত্রে রয়েছেন তা সনাক্ত করার জন্য আপনার প্রয়োজনীয় সঠিক যুক্তি (আশা করি কম ব্যয়বহুল বা যাইহোক অ্যালগরিদমের প্রয়োজনীয় ব্যয়ের অংশ), তারপরে উপযুক্ত পদ্ধতিতে স্যুইচ করা।

— অরন আহমদিয়া

@ অ্যারোনআহমাদিয়া: "একটি এপসিলনের অভ্যন্তরে" এর অর্থ আপেক্ষিক ত্রুটি দ্বৈত-নির্ভুলতা ভাসমান-পয়েন্ট অ্যাপসিলনের চেয়ে কম, যা প্রায় 2.22e-16। স্বাভাবিকের জন্য (অর্থাত্ সর্বনিম্ন নয়) ভাসমানগুলির জন্য, এটি একটি উল্টোর সাথে সম্পর্কিত। এছাড়াও, যদি পরম ত্রুটি এক্স , তারপর আপেক্ষিক ত্রুটি Exp ( এক্স ) হয় Exp ( একটি ) - 1 , যা শূন্য কাছাকাছি প্রায় পরিচয় ফাংশন। আইওডাব্লু, এক্স এর জন্য ছোট পরিপূর্ণ ত্রুটি এক্সপ ( এক্স ) এর জন্য ছোট আপেক্ষিক ত্রুটি বোঝায় । $a$$x$$\exp(x)$$\exp(a)-1$$x$$\exp(x)$

— নীল টরন্টো

সংযোজন: যখন পরম ত্রুটি শূন্য কাছে। যখন একটি > 1 , উদাহরণস্বরূপ, আপনি ঠিক: আপেক্ষিক বিস্ফোরিত হয়। $a$$a > 1$

— নীল টরন্টো

Answer 1

সূত্র । হওয়া উচিত সংখ্যাসূচকভাবে স্থিতিশীল এটা একটি সংখ্যাসূচকভাবে স্থিতিশীল গণনার জন্য সাধারণীকরণ লগ ∑ আমি ই x আমি = ξ + লগ ∑ আমি ই এক্স আমি

$$\mathrm{logsum}(x,y)=\max(x,y)+\mathrm{log1p}(\exp(-\operatorname{abs}(x-y))$$ $$\log \sum_i e^{x_i} = \xi+ \log\sum_i e^{x_i-\xi},~~~\xi=\max_i x_i$$

লগসাম শূন্যের খুব কাছাকাছি থাকলে এবং আপনি উচ্চ আপেক্ষিক নির্ভুলতা চান, আপনি সম্ভবত ব্যবহার করতে পারেন l e x p ( z ) : = লগ ( 1 + ই - | জেড | ) এর সঠিক (অর্থাত্ দ্বিগুণ নির্ভুলতার চেয়ে বেশি) বাস্তবায়ন

$$\mathrm{logsum}(x,y)=\max(x,y)+\mathrm{lexp}(x-y)$$ $$\mathrm{lexp}(z):=\log(1+e^{-|z|})$$ যা প্রায় ছোট জন্য লিনিয়ার ।$z$

Comments

নিরঙ্কুশ ত্রুটির বিচারে এটি হয়। আপেক্ষিক ত্রুটির ক্ষেত্রে, আউটপুট শূন্যের কাছাকাছি এলে তা ভয়াবহ।

— নীল টরন্টো

$x$$y$

X = -0.775 এবং y = -0.6175 এর জন্য আমি 62271 টি ইউলপিএস ত্রুটি এবং 1.007e-11 আপেক্ষিক ত্রুটি পেয়েছি।

— নীল টরন্টো

আগ্রহের সীমাতে অত্যন্ত নির্ভুল ডেটা পয়েন্ট গণনা করুন - অ্যাসিপোটোটিক আচরণের কারণে কমপক্ষে ttwo বিভিন্ন স্তরের প্রয়োজন। কেউ শূন্যের কাছাকাছি না হয়ে z এর জন্য সংজ্ঞায়িত ভাবটি ব্যবহার করতে পারে। ব্যতিক্রমী পরিসীমাটির জন্য কাঙ্ক্ষিত নির্ভুলতা পেতে পর্যাপ্ত উচ্চ ডিগ্রির একটি যৌক্তিক ফাংশন ফিট করে। সংখ্যাগত স্থিতিশীলতার জন্য, আগ্রহের ব্যবধানের সাথে অভিযোজিত সংখ্যক এবং ডিনোমিনেটরে বার্নস্টাইন পলিনোমিয়ালস বা টেচেবিচেভ বহুবচন ব্যবহার করুন। শেষে, একটি অবিচ্ছিন্ন ভগ্নাংশে প্রসারিত করুন এবং নির্ভুলতার ইমেজিং না করে কেউ কতগুলি সহগকে কাটাতে পারে তা সন্ধান করুন।

— আর্নল্ড নিউমায়ার

$l=l(z)$$m$