關於js浮點數計算精度不準確問題的解決辦法
* ** method ** * add / subtract / multiply /divide * * ** explame ** * 0.1 + 0.2 == 0.30000000000000004 (多了 0.00000000000004) * 0.2 + 0.4 == 0.6000000000000001 (多了 0.0000000000001) * 19.9 * 100 == 1989.9999999999998 (少了 0.0000000000002) * * floatObj.add(0.1, 0.2) >> 0.3 * floatObj.multiply(19.9, 100) >> 1990 * */ var floatObj = function() { /* * 判斷obj是否為一個整數 */ function isInteger(obj) { return Math.floor(obj) === obj } /* * 將一個浮點數轉成整數,返回整數和倍數。如 3.14 >> 314,倍數是 100 * @param floatNum {number} 小數 * @return {object} * {times:100, num: 314} */ function toInteger(floatNum) { var ret = {times: 1, num: 0} if (isInteger(floatNum)) { ret.num = floatNum return ret } var strfi = floatNum + '' var dotPos = strfi.indexOf('.') var len = strfi.substr(dotPos+1).length var times = Math.pow(10, len) var intNum = parseInt(floatNum * times + 0.5, 10) ret.times = times ret.num = intNum return ret } /* * 核心方法,實現加減乘除運算,確保不丟失精度 * 思路:把小數放大為整數(乘),進行算術運算,再縮小為小數(除) * * @param a {number} 運算數1 * @param b {number} 運算數2 * @param digits {number} 精度,保留的小數點數,比如 2, 即保留為兩位小數 * @param op {string} 運算型別,有加減乘除(add/subtract/multiply/divide) * */ function operation(a, b, digits, op) { var o1 = toInteger(a) var o2 = toInteger(b) var n1 = o1.num var n2 = o2.num var t1 = o1.times var t2 = o2.times var max = t1 > t2 ? t1 : t2 var result = null switch (op) { case 'add': if (t1 === t2) { // 兩個小數位數相同 result = n1 + n2 } else if (t1 > t2) { // o1 小數位 大於 o2 result = n1 + n2 * (t1 / t2) } else { // o1 小數位 小於 o2 result = n1 * (t2 / t1) + n2 } return result / max case 'subtract': if (t1 === t2) { result = n1 - n2 } else if (t1 > t2) { result = n1 - n2 * (t1 / t2) } else { result = n1 * (t2 / t1) - n2 } return result / max case 'multiply': result = (n1 * n2) / (t1 * t2) return result case 'divide': result = (n1 / n2) * (t2 / t1) return result } } // 加減乘除的四個介面 function add(a, b, digits) { return operation(a, b, digits, 'add') } function subtract(a, b, digits) { return operation(a, b, digits, 'subtract') } function multiply(a, b, digits) { return operation(a, b, digits, 'multiply') } function divide(a, b, digits) { return operation(a, b, digits, 'divide') } // exports return { add: add, subtract: subtract, multiply: multiply, divide: divide } }(); toFixed的修復如下 // toFixed 修復 function toFixed(num, s) { var times = Math.pow(10, s) var des = num * times + 0.5 des = parseInt(des, 10) / times return des + '' }
相關推薦
【JS】關於js浮點數計算精度不準確問題的解決辦法
在專案中計算商品價格的時候再次遇到js浮點數計算出現誤差的問題,以前一碰到這個問題就用tofixed方法進行處理一下,這對於一個程式設計師來說是及其不嚴謹的。 1、發現問題: 在測試js浮點數進行加減乘除計算時,都可能出現問題,如下: console.log(0.1
關於js浮點數計算精度不準確問題的解決辦法
* ** method ** * add / subtract / multiply /divide * * ** explame ** * 0.1 + 0.2 == 0.30000000000000004 (多了 0.00000000000004) * 0.2 + 0.4 ==
學以致用:手把手教你擼一個工具庫並打包釋出,順便解決JS浮點數計算精度問題
本文講解的是怎麼實現一個工具庫並打包釋出到npm給大家使用。本文實現的工具是一個分數計算器,大家考慮如下情況: $$ \sqrt{(((\frac{1}{3}+3.5)*\frac{2}{9}-\frac{27}{109})/\frac{889}{654})^4} $$ 這是一個分數計算式,使用JS原生也是可
JS浮點計算精度問題分析與解決
href 動態控制 hub 截斷 max fix math floating 方案 問題描述 在JS計算四則運算時會遇到精度丟失的問題,會引起諸多問題,看看以下例子: 例如:在chrome控制臺輸入 0.1 + 0.7 輸出結果是 0.7999999999999999 例如
js 浮點數計算誤差解決方法
eg:一個整數*一個小數出現的結果是 計算機程式語言裡浮點數計算會存在精度丟失問題(或稱舍入誤差),其根本原因是二進位制和實現位數限制有些數無法有限表示 * 以下是十進位制小數對應的二進位制表示 * 0.1 >> 0.0001 1001 100
java中解決double計算精度不準確問題
現象: 因需要對比投資成功前與投資成功後前後的剩餘金額的斷言,在斷言的時候發現針對double型別計算時會出現精度計算問題: 例如使用程式碼如下: 如上圖會因精度導致斷言失敗。 最後使用 DecimalFormat 類將數字進行格式化,程式碼如下: Decimal
Javascript優化後的加減乘除(解決js浮點數計算bug)
說明 眾所周知,js在計算浮點數時候,結果可能會不準確。比如:(在chrome中的運算結果) 2.2 + 2.1 = 4.300000000000001 2.2 - 1.9 = 0.30000000000000027 2.2 * 2.2 = 4.84
親歷浮點數計算精度導致錯誤
v0->v1是一條朝右下的線段,用下面程式碼計算點v3在直線上方還是下方 v0x = -254.923599 v0z = 365.348907 v1x = -249.52359 v1z =
js浮點數運算精度問題
大多數語言在處理浮點數的時候都會遇到精度問題,但是在JS裡似乎特別嚴重,來看一個例子 alert(45.6*13); 結果居然是592.800000000001,當然加法之類的也會有這個問題 那這是js的錯誤嗎? 當然不是,你的電腦做著正確的二進位制
浮點數計算精度丟失問題#W01
前幾日電話面試,被問到一個問題: “浮點數計算精度丟失的原因是什麼?”啊,啥? 我一臉懵逼,“就是在irb中,0.2+0.4不等於0.6,為什麼?“,面試官又補了一句。我沒有真正get到問題是什麼,胡說了一通。顯然,這是問到了我的知識盲區了,我從來沒有遇到過這個問題。於是我開
浮點數計算精度控制
進一步除錯我發現,浮點數計算錯誤發生在一個函式(InitEngine)呼叫後,在此函式呼叫前就不會出這個問題。這個函式是一個引擎的初時化函式,無法知道他的具體實現,是什麼原因造成了浮點計算錯誤呢? 編譯選項設定不當?應該不會吧,因為生成的彙編程式碼是正確的呀。在彙編程式碼正確的情況下,浮點計算精度太小,唯一
解決JS浮點數(小數)計算加減乘除的BUG
java 長度 誤差 spl function urn tofixed ccm catch 加法函數 /** ** 加法函數,用來得到精確的加法結果 ** 說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。
解決JS浮點數(小數)計算加減乘除的BUG-https://www.cnblogs.com/cynthia-wuqian/p/6432754.html
/****************************************解決JS浮點數(小數)計算加減乘除的BUG Start****************************************/ /** ** 加法函式,用來得到精確的加法
js浮點數精度問題(js計算中遇到的坑)
大多數語言在處理浮點數的時候都會遇到精度問題,但是在JS裡似乎特別嚴重,來看一個例子 alert(45.6*13); 結果居然是592.800000000001,當然加法之類的也會有這個問題 那這是js的錯誤嗎? 當然不是,你的電腦做著正確的二進位制浮點運算,
解決javascript中的浮點數計算不精確問題
在javascript中的浮點數計算不準確。javascript的兩個浮點數演算法結果會有誤差。 加減法 原理:取小數位多的一個(Math.max(r1,r2))將加數都乘以10的m次方(變成整
js浮點數的計算總結
src .cn () log urn fun number lac 分開 在js浮點值的計算中,很多時候會出現不準確的情況,如下面的情況 console.log(2.2 + 2.1) // 4.300000000000001 console.log(2
js處理浮點數計算誤差
眾所周知,浮點計算會產生舍入誤差的問題,比如,0.1+0.2,結果應該是0.3,但是計算的結果並不是如此,而是0.30000000000000004,這是使用基於IEEE754數值的浮點計算的通病,js並非獨此一家,今天我們就來看看js怎麼解決這個誤差的。 以下是針對加減乘除的解決方法: 加法: functi
JS浮點數精度運算
一般來講,我們在專案中必不可少的需要進行各種數值的計算,但是這種計算全部放在服務端會給伺服器帶來很大的壓力,所以勢必要客戶端來 分擔一些計算的壓力。 從客戶端來說,JavaScript是一門弱型別語言,對浮點數的精度並沒有做很好的限制,所以就會產生浮點數的誤差。 浮點數誤差產生
h5頁面切換到後臺再返回 js 定時器時間不準確解決方法
這兩天做迭代任務遇到了一個難題,現在找到了解決方法,為了避免忘記,在這裡記錄下來。 專案描述:一個基於vue寫的 h5頁面,根據後端返回的當前伺服器時間做一個倒計時(我是用setInterval 做的)。該h5頁面分別巢狀到微信公眾號、和原生app中。 ---------
JS浮點數精度缺失問題
先看一個例子 alert(0.7+0.1);//輸出0.7999999999999999 alert(0.6+0.2);//輸出0.8 第二個正確,但第一個是什麼鬼,那這是js的錯誤嗎?當然不是。減法乘法之類的也會有這個問題。 你的電腦做著正確的二進位制浮點運算,但問題是你輸入的是十進位