প্রশ্ন ট্যাগ «precision»

আমি 13.95 এa বৃত্তাকার হতে চাই । >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 roundফাংশন উপায় আমি আশা কাজ করে না।

1689 python  floating-point  rounding  precision 

আমি ডাবল নির্ভুলতা এবং একক নির্ভুলতার মধ্যে পার্থক্য সম্পর্কে পড়েছি। তবে বেশিরভাগ ক্ষেত্রে, floatএবং doubleবিনিময়যোগ্য বলে মনে হয়, অর্থাত একটি বা অন্যটি ব্যবহার করা ফলাফলকে প্রভাবিত করে না বলে মনে হয়। আসলেই কি এই ঘটনা? কখন ভাসমান এবং ডাবলগুলি বিনিময়যোগ্য হয়? তাদের মধ্যে পার্থক্য কি কি?

420 c++  c  floating-point  precision 

সুতরাং আমি আমার শেষ প্রশ্নের উত্তর পেয়েছি (কেন আমি এটি ভেবে দেখিনি)। আমি যখন এমন প্রত্যাশা করছিলাম না তখন এমন একটি doubleব্যবহার মুদ্রণ করছিলাম coutযা বৃত্তাকার হয়ে গেল। আমি কীভাবে পুরো নির্ভুলতা ব্যবহার করে coutমুদ্রণ তৈরি করতে পারি double?

331 c++  floating-point  precision  iostream  cout 

আমি 2 টি দশমিক স্থানে একটি সংখ্যা প্রদর্শন করতে চেয়েছিলাম। আমি ভেবেছিলাম আমি toPrecision(2)জাভাস্ক্রিপ্ট ব্যবহার করতে পারি । তবে নম্বরটি থাকলে 0.05আমি পাই 0.0500। আমি বরং এটি একই থাকতাম এটি জেএসবিনে দেখুন । এই কাজ করতে সবচেয়ে ভালো উপায় কি? আমি কয়েকটি সমাধান কোডিংয়ের কথা ভাবতে পারি, তবে আমি কল্পনা …

315 javascript  floating-point  precision 

আমি একটি ডাটাবেসে নিম্নলিখিত কলামটি নির্দিষ্ট করেছি: দশমিক (5,2) কীভাবে কেউ এটি ব্যাখ্যা করে? এসকিউএল সার্ভার ম্যানেজমেন্ট স্টুডিওতে দেখা হিসাবে কলামে থাকা বৈশিষ্ট্য অনুসারে আমি দেখতে পাচ্ছি যে এর অর্থ: দশমিক (সংখ্যাসম্য নির্ভুলতা, সংখ্যা স্কেল)। নির্ভুলতা এবং স্কেল বাস্তব পদে অর্থ কি? 5 অঙ্ক এবং দুটি দশমিক স্থান ... অর্থাত …

245 sql  database  decimal  scale  precision 

মিলিসেকেন্ড যথার্থতার সাথে আমি কীভাবে প্রকৃত সময়ের একটি স্ট্যাম্প তৈরি করতে পারি? আমার 16.4.2013 9: 48: 00: 123 এর মতো কিছু দরকার। এটা কি সম্ভব? আমার একটি অ্যাপ্লিকেশন রয়েছে, যেখানে আমি প্রতি সেকেন্ডে 10 বারের নমুনা পাই এবং আমাকে সেগুলি গ্রাফে প্রদর্শিত করতে হবে।

231 c#  datetime  precision  milliseconds 

ভাসমান পয়েন্ট সংখ্যা হিসাবে সংরক্ষণ করা হলে কেন কিছু নম্বর নির্ভুলতা হারাবে? উদাহরণস্বরূপ, দশমিক সংখ্যাটি 9.2হ'ল দুটি দশমিক পূর্ণসংখ্যার ( 92/10) এর অনুপাত হিসাবে প্রকাশ করা যেতে পারে , উভয়ই বাইনারি ( 0b1011100/0b1010) এ ঠিক প্রকাশ করা যেতে পারে । যাইহোক, ভাসমান পয়েন্ট সংখ্যা হিসাবে সঞ্চিত একই অনুপাত কখনই ঠিক …

198 floating-point  language-agnostic  precision 

আমি যোগফল পেতে চেষ্টা 1 + 2 + ... + 1000000000করছি, কিন্তু আমি পিএইচপি এবং নোড.জেএস এ মজার ফলাফল পাচ্ছি । পিএইচপি $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 node.js var sum = 0; …

192 php  node.js  precision  integer-overflow  integer-arithmetic 

সম্প্রতি আমাকে পাঠ্যে একটি ডাবল সিরিয়ালিয়াস করতে হয়েছিল এবং তারপরে এটি ফিরে পেতে। মানটি সমতুল্য বলে মনে হচ্ছে না: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False তবে এমএসডিএন: স্ট্যান্ডার্ড সংখ্যাসূচক ফর্ম্যাট স্ট্রিংস অনুসারে , …

185 c#  double  tostring  precision 

একক নির্ভুলতা ফ্লোটিং পয়েন্ট অপারেশন এবং ডাবল নির্ভুলতা ভাসমান অপারেশন মধ্যে পার্থক্য কি? আমি ভিডিও গেম কনসোলগুলির ক্ষেত্রে ব্যবহারিক পদগুলিতে বিশেষত আগ্রহী। উদাহরণস্বরূপ, নিন্টেন্ডো ৪ এর কি একটি bit৪ বিট প্রসেসর রয়েছে এবং এরপরে যদি এর অর্থ হয় তবে এটি ডাবল নির্ভুলতা ভাসমান পয়েন্ট অপারেশনে সক্ষম ছিল? PS3 এবং Xbox …

168 floating-point  precision  processor  operations 

না, এটি অন্য কোনও "কেন (1 / 3.0) * 3! = 1" প্রশ্ন নয়। আমি ইদানীং অনেকটা ভাসমান-পয়েন্ট সম্পর্কে পড়ছি; বিশেষত, কীভাবে একই গণনা বিভিন্ন আর্কিটেকচার বা অপ্টিমাইজেশন সেটিংসে বিভিন্ন ফলাফল দিতে পারে । ভিডিও গেমগুলির ক্ষেত্রে এটি একটি সমস্যা যা পির -টু-পিয়ার নেটওয়র্ক (সার্ভার-ক্লায়েন্টের বিপরীতে) হয়, যা সমস্ত ক্লায়েন্টরা …

155 c#  .net  floating-point  precision  ieee-754 

আমি জানি 0.1দশমিক সংখ্যাটি সীমাবদ্ধ বাইনারি সংখ্যার ( ব্যাখ্যা ) দিয়ে সঠিকভাবে উপস্থাপন করা যায় না , সুতরাং double n = 0.1কিছু নির্ভুলতা হারাবে এবং ঠিক হবে না 0.1। অন্যদিকে 0.5ঠিক তাই প্রতিনিধিত্ব করা যেতে পারে কারণ এটি 0.5 = 1/2 = 0.1b। এই বলে যে এটি বোধগম্য যে 0.1 …

152 java  floating-point  double  precision 

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } উপরের কোড মুদ্রণ: 11.399999999999 আমি কীভাবে এটি কেবল মুদ্রণ করতে (বা এটি হিসাবে ব্যবহার করতে সক্ষম হব) 11.4?

149 java  floating-point  double  precision 

আমি জাভাস্ক্রিপ্টে নতুন এবং সন্ধান করেছি toFixed()এবং toPrecision()সংখ্যাসমূহে এসেছি । তবে দুজনের মধ্যে পার্থক্য কী তা আমি বুঝতে পারি না। মধ্যে পার্থক্য কি number.toFixed()এবং number.toPrecision()?

124 javascript  rounding  precision 

একটি দ্বিগুণ দেওয়া, আমি এটি পিএইচপি এর বৃত্তাকার () ফাংশনের অনুরূপ দশমিক পয়েন্টের পরে প্রদত্ত সংক্ষিপ্ত পয়েন্টের সাথে গোল করতে চাই । ডার্ট ডক্সে আমি সবচেয়ে কাছের জিনিসটি ডাবল টু স্ট্রিংএএসপ্রেসিশন () খুঁজে পাই, তবে এটি আমার প্রয়োজন ঠিক নয় কারণ এটিতে যথাযথতার মোট পয়েন্টগুলির দশমিক বিন্দুর আগে অঙ্কগুলি অন্তর্ভুক্ত …

111 dart  precision  double-precision