1. 程式人生 > >關於js浮點數計算精度不準確問題的解決辦法

關於js浮點數計算精度不準確問題的解決辦法

* ** method **
 *  add / subtract / multiply /divide
 *
 * ** explame **
 *  0.1 + 0.2 == 0.30000000000000004 (多了 0.00000000000004)
 *  0.2 + 0.4 == 0.6000000000000001  (多了 0.0000000000001)
 *  19.9 * 100 == 1989.9999999999998 (少了 0.0000000000002)
 *
 * floatObj.add(0.1, 0.2) >> 0.3
 * floatObj.multiply(19.9, 100) >> 1990
 *
 */
var floatObj = function() {

    /*
     * 判斷obj是否為一個整數
     */
    function isInteger(obj) {
        return Math.floor(obj) === obj
    }

    /*
     * 將一個浮點數轉成整數,返回整數和倍數。如 3.14 >> 314,倍數是 100
     * @param floatNum {number} 小數
     * @return {object}
     *   {times:100, num: 314}
     */
    function toInteger(floatNum) {
        var ret = {times: 1, num: 0}
        if (isInteger(floatNum)) {
            ret.num = floatNum
            return ret
        }
        var strfi  = floatNum + ''
        var dotPos = strfi.indexOf('.')
        var len    = strfi.substr(dotPos+1).length
        var times  = Math.pow(10, len)
        var intNum = parseInt(floatNum * times + 0.5, 10)
        ret.times  = times
        ret.num    = intNum
        return ret
    }

    /*
     * 核心方法,實現加減乘除運算,確保不丟失精度
     * 思路:把小數放大為整數(乘),進行算術運算,再縮小為小數(除)
     *
     * @param a {number} 運算數1
     * @param b {number} 運算數2
     * @param digits {number} 精度,保留的小數點數,比如 2, 即保留為兩位小數
     * @param op {string} 運算型別,有加減乘除(add/subtract/multiply/divide)
     *
     */
    function operation(a, b, digits, op) {
        var o1 = toInteger(a)
        var o2 = toInteger(b)
        var n1 = o1.num
        var n2 = o2.num
        var t1 = o1.times
        var t2 = o2.times
        var max = t1 > t2 ? t1 : t2
        var result = null
        switch (op) {
            case 'add':
                if (t1 === t2) { // 兩個小數位數相同
                    result = n1 + n2
                } else if (t1 > t2) { // o1 小數位 大於 o2
                    result = n1 + n2 * (t1 / t2)
                } else { // o1 小數位 小於 o2
                    result = n1 * (t2 / t1) + n2
                }
                return result / max
            case 'subtract':
                if (t1 === t2) {
                    result = n1 - n2
                } else if (t1 > t2) {
                    result = n1 - n2 * (t1 / t2)
                } else {
                    result = n1 * (t2 / t1) - n2
                }
                return result / max
            case 'multiply':
                result = (n1 * n2) / (t1 * t2)
                return result
            case 'divide':
                result = (n1 / n2) * (t2 / t1)
                return result
        }
    }

    // 加減乘除的四個介面
    function add(a, b, digits) {
        return operation(a, b, digits, 'add')
    }
    function subtract(a, b, digits) {
        return operation(a, b, digits, 'subtract')
    }
    function multiply(a, b, digits) {
        return operation(a, b, digits, 'multiply')
    }
    function divide(a, b, digits) {
        return operation(a, b, digits, 'divide')
    }

    // exports
    return {
        add: add,
        subtract: subtract,
        multiply: multiply,
        divide: divide
    }
}();
toFixed的修復如下


// toFixed 修復
function toFixed(num, s) {
    var times = Math.pow(10, s)
    var des = num * times + 0.5
    des = parseInt(des, 10) / times
    return des + ''
}

相關推薦

JS】關於js點數計算精度準確問題的解決辦法

在專案中計算商品價格的時候再次遇到js浮點數計算出現誤差的問題,以前一碰到這個問題就用tofixed方法進行處理一下,這對於一個程式設計師來說是及其不嚴謹的。 1、發現問題: 在測試js浮點數進行加減乘除計算時,都可能出現問題,如下: console.log(0.1

關於js點數計算精度準確問題的解決辦法

* ** method ** * add / subtract / multiply /divide * * ** explame ** * 0.1 + 0.2 == 0.30000000000000004 (多了 0.00000000000004) * 0.2 + 0.4 ==

學以致用:手把手教你擼一個工具庫並打包釋出,順便解決JS點數計算精度問題

本文講解的是怎麼實現一個工具庫並打包釋出到npm給大家使用。本文實現的工具是一個分數計算器,大家考慮如下情況: $$ \sqrt{(((\frac{1}{3}+3.5)*\frac{2}{9}-\frac{27}{109})/\frac{889}{654})^4} $$ 這是一個分數計算式,使用JS原生也是可

JS計算精度問題分析與解決

href 動態控制 hub 截斷 max fix math floating 方案 問題描述 在JS計算四則運算時會遇到精度丟失的問題,會引起諸多問題,看看以下例子: 例如:在chrome控制臺輸入 0.1 + 0.7 輸出結果是 0.7999999999999999 例如

js 點數計算誤差解決方法

eg:一個整數*一個小數出現的結果是 計算機程式語言裡浮點數計算會存在精度丟失問題(或稱舍入誤差),其根本原因是二進位制和實現位數限制有些數無法有限表示 * 以下是十進位制小數對應的二進位制表示 * 0.1 >> 0.0001 1001 100

java中解決double計算精度準確問題

現象: 因需要對比投資成功前與投資成功後前後的剩餘金額的斷言,在斷言的時候發現針對double型別計算時會出現精度計算問題: 例如使用程式碼如下: 如上圖會因精度導致斷言失敗。 最後使用 DecimalFormat 類將數字進行格式化,程式碼如下: Decimal

Javascript優化後的加減乘除(解決js點數計算bug)

說明 眾所周知,js在計算浮點數時候,結果可能會不準確。比如:(在chrome中的運算結果) 2.2 + 2.1 = 4.300000000000001 2.2 - 1.9 = 0.30000000000000027 2.2 * 2.2 = 4.84

親歷點數計算精度導致錯誤

v0->v1是一條朝右下的線段,用下面程式碼計算點v3在直線上方還是下方 v0x = -254.923599 v0z = 365.348907 v1x = -249.52359 v1z =

js點數運算精度問題

大多數語言在處理浮點數的時候都會遇到精度問題,但是在JS裡似乎特別嚴重,來看一個例子 alert(45.6*13); 結果居然是592.800000000001,當然加法之類的也會有這個問題 那這是js的錯誤嗎? 當然不是,你的電腦做著正確的二進位制

點數計算精度丟失問題#W01

前幾日電話面試,被問到一個問題: “浮點數計算精度丟失的原因是什麼?”啊,啥? 我一臉懵逼,“就是在irb中,0.2+0.4不等於0.6,為什麼?“,面試官又補了一句。我沒有真正get到問題是什麼,胡說了一通。顯然,這是問到了我的知識盲區了,我從來沒有遇到過這個問題。於是我開

點數計算精度控制

進一步除錯我發現,浮點數計算錯誤發生在一個函式(InitEngine)呼叫後,在此函式呼叫前就不會出這個問題。這個函式是一個引擎的初時化函式,無法知道他的具體實現,是什麼原因造成了浮點計算錯誤呢? 編譯選項設定不當?應該不會吧,因為生成的彙編程式碼是正確的呀。在彙編程式碼正確的情況下,浮點計算精度太小,唯一

解決JS點數(小數)計算加減乘除的BUG

java 長度 誤差 spl function urn tofixed ccm catch 加法函數 /** ** 加法函數,用來得到精確的加法結果 ** 說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。

解決JS點數(小數)計算加減乘除的BUG-https://www.cnblogs.com/cynthia-wuqian/p/6432754.html

/****************************************解決JS浮點數(小數)計算加減乘除的BUG    Start****************************************/ /** ** 加法函式,用來得到精確的加法

js點數精度問題(js計算中遇到的坑)

大多數語言在處理浮點數的時候都會遇到精度問題,但是在JS裡似乎特別嚴重,來看一個例子 alert(45.6*13); 結果居然是592.800000000001,當然加法之類的也會有這個問題 那這是js的錯誤嗎? 當然不是,你的電腦做著正確的二進位制浮點運算,

解決javascript中的點數計算精確問題

在javascript中的浮點數計算不準確。javascript的兩個浮點數演算法結果會有誤差。 加減法 原理:取小數位多的一個(Math.max(r1,r2))將加數都乘以10的m次方(變成整

js點數計算總結

src .cn () log urn fun number lac 分開 在js浮點值的計算中,很多時候會出現不準確的情況,如下面的情況 console.log(2.2 + 2.1) // 4.300000000000001 console.log(2

js處理點數計算誤差

眾所周知,浮點計算會產生舍入誤差的問題,比如,0.1+0.2,結果應該是0.3,但是計算的結果並不是如此,而是0.30000000000000004,這是使用基於IEEE754數值的浮點計算的通病,js並非獨此一家,今天我們就來看看js怎麼解決這個誤差的。 以下是針對加減乘除的解決方法: 加法: functi

JS點數精度運算

     一般來講,我們在專案中必不可少的需要進行各種數值的計算,但是這種計算全部放在服務端會給伺服器帶來很大的壓力,所以勢必要客戶端來 分擔一些計算的壓力。     從客戶端來說,JavaScript是一門弱型別語言,對浮點數的精度並沒有做很好的限制,所以就會產生浮點數的誤差。     浮點數誤差產生

h5頁面切換到後臺再返回 js 定時器時間準確解決方法

這兩天做迭代任務遇到了一個難題,現在找到了解決方法,為了避免忘記,在這裡記錄下來。 專案描述:一個基於vue寫的 h5頁面,根據後端返回的當前伺服器時間做一個倒計時(我是用setInterval 做的)。該h5頁面分別巢狀到微信公眾號、和原生app中。 ---------

JS點數精度缺失問題

先看一個例子 alert(0.7+0.1);//輸出0.7999999999999999 alert(0.6+0.2);//輸出0.8 第二個正確,但第一個是什麼鬼,那這是js的錯誤嗎?當然不是。減法乘法之類的也會有這個問題。 你的電腦做著正確的二進位制浮點運算,但問題是你輸入的是十進位