প্রশ্ন ট্যাগ «precision»

ডিজিটের ডিসপ্লেতে নিয়ন্ত্রণ পেতে আরে একটি বিকল্প রয়েছে। উদাহরণ স্বরূপ: options(digits=10) আর সেশন শেষে 10 অঙ্কে গণনার ফলাফল দেওয়ার কথা। আর-এর সহায়তা ফাইলে, অঙ্কগুলির পরামিতিগুলির সংজ্ঞা নিম্নরূপ: অঙ্কগুলি: সংখ্যার মান প্রিন্ট করার সময় মুদ্রণের জন্য সংখ্যাগুলির সংখ্যা নিয়ন্ত্রণ করে। এটি শুধুমাত্র একটি পরামর্শ। বৈধ মানগুলি ডিফল্ট 7 সহ 1 ... …

110 r  precision  digits  r-faq  output-formatting 

এটি আমার সাম্প্রতিক সাক্ষাত্কারে আমাকে জিজ্ঞাসা করা হয়েছিল এবং আমি জানতে চাই (আমি সংখ্যার বিশ্লেষণের তত্ত্বটি আসলে মনে করি না, তাই দয়া করে আমাকে সহায়তা করুন :) আমাদের যদি কিছু ফাংশন থাকে যা ভাসমান-পয়েন্ট সংখ্যাগুলি জমে: std::accumulate(v.begin(), v.end(), 0.0); vএকটি হল std::vector<float>উদাহরণস্বরূপ,। এই সংখ্যাগুলি সঞ্চারের আগে এগুলি বাছাই করা ভাল? …

105 c++  floating-point  precision 

আমি জানি আপনি সাধারণত ডাবল বা দশমিক ধরণের মানগুলির মধ্যে সমতার উপর নির্ভর করতে পারবেন না তবে আমি ভাবছি 0 যদি একটি বিশেষ ক্ষেত্রে হয়। আমি যখন 0.00000000000000001 এবং 0.000000000000022 এর মধ্যে ছদ্মবেশগুলি বুঝতে পারি, 0 এটি নিজেই খুব খারাপ বলে মনে হচ্ছে কারণ এটি ঠিক কিছুই নয় nothing যদি …

100 c#  .net  floating-point  precision  zero 

আমি ডেটটাইম.উইটকিউ এর সাথে কিছু ইউনিট পরীক্ষা করার সময় কিছু অপ্রত্যাশিত আচরণে চলে এসেছি। এটি প্রদর্শিত হয় যে আপনি যখন ডেটটাইম.নিউ / আউটসিউকে দ্রুত ধারাবাহিকতায় কল করেন, তখন মনে হয় আপনি আরও সুনির্দিষ্ট মিলিসেকেন্ড ইনক্রিমেন্ট ক্যাপচার না করে বরং দীর্ঘ প্রত্যাশিত প্রত্যাশিত ব্যবধানের জন্য একই মানটি ফিরিয়ে দিবেন। আমি জানি …

97 c#  .net  datetime  precision  time-precision 

এটি এমন কিছু যা আমার মনে বছরের পর বছর ধরে ছিল তবে আমি আগে জিজ্ঞাসা করার জন্য কখনই সময় নিই নি। অনেকগুলি (সিউডো) এলোমেলো সংখ্যা জেনারেটর 0.0 এবং 1.0 এর মধ্যে একটি এলোমেলো সংখ্যা তৈরি করে। গাণিতিকভাবে এই ব্যাপ্তিতে অসীম সংখ্যা রয়েছে তবে doubleএটি একটি ভাসমান পয়েন্ট সংখ্যা এবং তাই …

95 random  floating-point  double  precision 

এটি সচেতন হওয়ার বেশি হওয়ায় এটি কোনও প্রশ্ন নয়। আমি একটি অ্যাপ্লিকেশন আপডেট করেছি যা json_encode()পিএইচপি 7.1.1 ব্যবহার করে এবং আমি কখনও কখনও 17 ডিজিটের প্রসারিত করতে ভাসা পরিবর্তন করা একটি সমস্যা দেখছিলাম। ডকুমেন্টেশন অনুসারে, পিএইচপি 7.1.x serialize_precisionডাবল মানগুলিকে এনকোড করার সময় নির্ভুলতার পরিবর্তে ব্যবহার শুরু করেছে । আমি অনুমান …

93 php  json  precision  php-7.1 

আমার কাছে কিছু ক্লায়েন্টের অদ্ভুত বিল হচ্ছে। আমি মূল সমস্যাটি আলাদা করতে সক্ষম হয়েছি: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT 199.96 - (0.0 * …

84 sql-server  tsql  precision  sql-server-2016  sqldatatypes 

আমি প্রায়শই এমন পরিস্থিতিতে পড়েছি যেখানে প্রাপ্ত পার্থক্যটি মেশিনের নির্ভুলতার চেয়ে উপরে কিনা তা পরীক্ষা করা দরকার। এই উদ্দেশ্য আর একটি সহজ পরিবর্তনশীল হয়েছে মত মনে হয়: .Machine$double.eps। তবে আমি যখন এই মানটি ব্যবহারের দিকনির্দেশগুলির জন্য আর উত্স কোডটিতে ফিরে যাই তখন আমি একাধিক বিভিন্ন নিদর্শন দেখতে পাই। উদাহরণ এখানে …

36 r  floating-point  rounding  precision 

ধরুন আমরা np.dotদুটি 'float32'2 ডি অ্যারে গ্রহণ করি: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] নাম্বার। বাদে তারা পরিবর্তন করতে পারে: ক্যাসি 1 : টুকরাa np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i in …

15 python  c  arrays  numpy  precision 

আমার কাছে ভাসমান পয়েন্ট পজিটিভ সংখ্যাগুলির একটি দীর্ঘ দীর্ঘ তালিকা ( std::vector<float>আকার ~ 1000)। সংখ্যা হ্রাস ক্রম অনুসারে বাছাই করা হয়। যদি আমি তাদের অর্ডার অনুসরণ করে যোগ করি: for (auto v : vec) { sum += v; } আমার ধারণা, আমার কিছু সংখ্যক স্থায়িত্বের সমস্যা হতে পারে, যেহেতু ভেক্টরের …

12 c++  floating-point  precision