প্রশ্ন ট্যাগ «floating-accuracy»

Over этот вопрос есть ответы на স্ট্যাক ওভারফ্লো на русском : численияычисления на числах с плавающей точкой не работают работают নিম্নলিখিত কোড বিবেচনা করুন: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 কেন এই অনর্থক ঘটনা ঘটে?

2977 math  language-agnostic  floating-point  floating-accuracy 

রেজোলিউশনের স্বতন্ত্র সমন্বিত সিস্টেমের কারণে আমি UIKitব্যবহারগুলি জানি CGFloat। কিন্তু প্রত্যেক বার আমি চেক করতে যদি উদাহরণস্বরূপ চান frame.origin.xহয় 0এটা আমার অসুস্থ বোধ করে তোলে: if (theView.frame.origin.x == 0) { // do important operation } নন CGFloatমিথ্যা positives প্রবন যখন তুলনা ==, <=, >=, <, >? এটি একটি ভাসমান বিন্দু …

391 objective-c  ios  c  floating-point  floating-accuracy 

নিম্নলিখিত কোডটি অবশ্যই স্পষ্টতই ভুল। সমস্যা কি? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

এই জাভা.সুন পৃষ্ঠা অনুসারে ==জাভাতে ভাসমান পয়েন্ট সংখ্যাগুলির জন্য সমতা তুলনা অপারেটর। তবে, আমি এই কোডটি টাইপ করার সময়: if(sectionID == currentSectionID) আমার সম্পাদক হিসাবে এবং স্থিতিশীল বিশ্লেষণ চালানো, আমি পেতে: "JAVA0078 ভাসমান পয়েন্ট মান ==" তুলনায় ==ভাসমান পয়েন্টের মানগুলির তুলনা করতে কী ভুল ? এটি করার সঠিক উপায় কী?

177 java  equality  floating-accuracy 

আমি জানি যে বেশিরভাগ দশমিকের সঠিক ভাসমান পয়েন্ট উপস্থাপনা থাকে না ( ভাসমান পয়েন্ট গণিতটি কি ভাঙা? )। কিন্তু আমি দেখতে পাচ্ছি না কেন 4*0.1চমত্কারভাবে হিসাবে ছাপা হয় 0.4, কিন্তু 3*0.1যখন উভয় মান আসলে কুশ্রী দশমিক উপস্থাপনা নেই, হল: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

নিম্নলিখিত উদাহরণে 0 (বা অনন্ত) দ্বারা ভাগ পাওয়া সম্ভব? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } সাধারণ ক্ষেত্রে অবশ্যই তা হবে না। কিন্তু কি যদি aএবং bখুব ঘনিষ্ঠ পারেন হয় (a-b)হচ্ছে ফলে …

131 floating-point  double  floating-accuracy  ieee-754 

আমি দশমিক জায়গায় দশমিক সংখ্যা ছাঁটাই করার চেষ্টা করছি। এটার মতো কিছু: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)ঠিক সঠিক জিনিসটি সম্পর্কে করে তবে এটি মানটিকে ছাড়িয়ে যায়। আমার মানটি গোল করা বন্ধ হবে না। আশা করি জাভাস্ক্রিপ্টে এটি সম্ভব।

93 javascript  floating-point  floating-accuracy 

প্রোগ্রামালমেটিকভাবে ডাবল পাওয়ার কোনও উপায় কি 1.0 এর নিকটতম, তবে আসলে 1.0 নয়? এটি করার একটি হ্যাকি উপায় হ'ল ডাবলটিকে একই আকারের পূর্ণসংখ্যার সাথে স্মরণ করা এবং তার পরে একটিকে বিয়োগ করা। আইইইই 7575৫ ফ্লোটিং-পয়েন্ট ফর্ম্যাটগুলি যেভাবে কাজ করে, এটি সমস্ত জিরো (1.00000000000000) থেকে সমস্তকে (1.11111111111111) ভগ্নাংশের অংশ পরিবর্তন করার …

89 c++  floating-point  floating-accuracy