2. 程式人生 > >關於數據精度的一些事

關於數據精度的一些事

阿新 • • 發佈：2018-07-01
發現 精度問題 分享 In 拆分 inf bsp ima 怎麽

  1. 基礎數據類型

大家都知道，Java中表示小數的基本類型有float, double， 如果你想計算0.3 - 0.1，很遺憾答案並不是0.2，有些人會說，用BigDecimal就可以啦，float和double就是會存在精度問題的。本文想探究一下，為什麽， 為什麽會無法得到正確答案。

先講一些題外話，十進制和二進制。

計算機的世界是二進制，0和1組成，

二進制轉十進制不在贅述，高中就學過的；

十進制轉二進制，看下這個圖， 應該也比較清楚了：

技術分享圖片

主要來看一下，十進制小數怎麽轉化為二進制（如果是3.45這類的小數拆分為3 和0.45,3按照上面的轉換方式，0.45按照如下方式）。

技術分享圖片

這裏，底是2。舉例十進制0.1轉為二進制：

　結果： 0.0

1. 0.1 * 2 = 0.2 整數0為二進制結果的第一位，即0.0；小數0.2作為源，繼續執行

2. 0.2 * 2 = 0.4 整數0為二進制結果的第二位，即0.00；小數0.4作為源，繼續執行

3. 0.4 * 2 = 0.8 整數0為二進制結果的第三位，即0.000；小數0.8作為源，繼續執行

4. 0.8 * 2 = 1.6 整數1為二進制結果的第四位，即0.0001；小數0.6作為源，繼續執行

5. 0.6 * 2 = 1.2 整數1為二進制結果的第四位，即0.00011；小數0.2作為源，繼續執行

......

最後執行下去，發現0.1轉換為二進制為（0.00011001100110011...）2

所以，十進制的0.1計算機無法精確表示。因此，0.3 - 0.1得到的就不是精確值了。不過如果你用0.5 - 0.125是可以得到0.375的，為什麽呢？因為，2-1

,2-2,2-3這些是可以精確表示的。

關於數據精度的一些事

相關推薦

關於數據精度的一些事

發現 精度問題 分享 In 拆分 inf bsp ima 怎麽 基礎數據類型 大家都知道，Java中表示小數的基本類型有float, double， 如果你想計算0.3 - 0.1，很遺憾答案並不是0.2，有些人會說，用BigDecimal就可以啦，fl

Java學習筆記--double類型數據精度

java學習 double 在一次面試中被問到，有兩個double類型的數相減，會出現精度丟失，應該怎麽辦，有什麽解決方法。今天特地去搜了下，解決方法就是用BigDecimal類對數據進行處理。 了解詳細參考：http://blog.csdn.net/u011328015/article

數據庫一些小知識

tex 排序 指定 order 表名 查詢 表示 工作 des 剛參加工作不久 記錄一些小知識 ordere by 默認升序排序 asc是指定列按升序排列　　從小到大排序 desc則是指定列按降序排列　　從大到小排序 select * from awhere

解決float型數據精度損失問題

line 部分 image 開始 計算機 src 浮點數 強制 單步調試 問題：浮點型數據存儲方式會導致數據精度損失，增大計算誤差。 float fval = 0.45;　　// 單步調試發現其真實值為：0.449999988 double dval = 0.45;　//

時間序列預測（一）數據的一些處理方法

sub pycha 預測 ria rom pla char day png 一、滑動平均 公式（窗口為7）： 也就是說7個數做一次平均 二、指數平均 公式： 其中 因此 也就是說離本點越近，考慮的權重也越大。 python cod

數據結構與算法系列研究九——排序算法的一些探討

停止 不同 位置 集合 完全 設置 img com 去除 四種排序 一．實驗內容 輸入20個整數，分別用希爾排序、快速排序、堆排序和歸並排序實現由小到大排序並輸出排序結果。二．關鍵數據結構與核心算法 關鍵數據結構：由於是排序為了簡單起見，選用線性表中的數組作為存

thinkphp3.2.3 數據庫寫入add 方法的一些問題。

src 論壇 cnblogs -1 打開 技術分享 alt 個數 原因 最近在做項目中遇到的一個數據操作add()方法，在不開啟debug的模式下會漏掉一些字段沒寫入數據庫。 當時並不知道是這個原因，明明在開發的時候都是沒問題的，怎麽突然出現這個問題，找了好久都沒有頭緒，實

Mysql數據庫的一些基本操作

-h 知識 刪除mysql init rst 建表 自動刪除 fault order 今天，終於把MySQL數據庫的知識系統的過了一遍，下面整理出一些常用的基本操作。 一、MySQL服務器的啟動與關閉 1、啟動MySQL服務器 開始 -> 運行 輸入“cmd”，然

數據庫中的一些連接

ros localhost password url clas 數據 初始 初始密碼 sqlserver mysql： 3306 driver_class: com.mysql.jdbc.Driver url:　　

數據會有一些波動和噪點采用卡爾曼濾波算法進行

如何查找Linux中一些特殊數據類型定義，比如pid_t和uid_t（轉）

分享 文件 技術分享 定義 log 相關 uid linux源碼 pid 1. 查看man手冊，找到pid_t，可以通過getpid函數來看 2. 打開sys/types.h 3. 打開bits/types.h 4.

關於做一些隨機文章評論的紀錄（假數據）

頭像 閱讀 文件 pat nbc 列表 lin for 文件內容 事情是這樣的，近期我們有這麽個需求，因為網站訪問量一般，所以他們要求發文章之後，要自動隨機時間（5分鐘內）、隨機用戶、給文章評論，點贊、增高閱讀數，來顯得有人氣。 我們的想法是，讓運營給我們一些準備好的用戶頭

MapReduce 2 中一些基礎數據類型

數據類型 com 浮點 ava key 接口 apr int java 數據類型 1. LongWritable, IntWritable, Text 均是 Hadoop 中實現的用於封裝 Java 數據類型的類，這些類實現了WritableComparable接口，都能夠

產品經理最花時間的2件事：異常邏輯梳理與數據處理

處理 新的 att files 漏鬥 流程 計時 現實 需要 冰山：異常邏輯梳理 也許你用了九牛二虎之力，終於把產品的主流程梳理清楚了，但是你看到的只是產品冰山海面上的那10%，剩下的90%是海面下各種情況的異常邏輯。 ? 10%的冰山和90%的冰山 任何一個產品功能邏輯

oralce數據庫常用到的一些sql命令（加字段註釋，修改數據之類）

一個 png 找到 sql命令 sub 字段名 tab date font 最近開始接觸oralce，整理了一下最近使用 pl/sql 常用到的一些sql命令 1.修改表中的數據 編寫查詢語句及條件，然後加上"FOR UPDATE"，"FOR UPDATE"是獲得OACLE

python爬蟲——對爬到的數據進行清洗的一些姿勢（5）

weibo 英雄 mina ret term creators 刪除 動畫 任務 　　做爬蟲，當然就要用數據。想拿數據進行分析，首先清洗數據。這個清洗數據包括清除無用數據列和維度，刪除相同數據，對數據進行勘誤之類的。 　　從各大不同新聞網站可以爬到重復新聞。。。這個可以有。

數據文件offline 時oracle 幹了那些事？

那些事 cef 都是 dbf oct 原因 div post sync SQL> oradebug setmypid Statement processed. SQL> oradebug unlimit Statement processed.

【java】對數據庫操作的那些事（包含數據庫中的預處理）

exception main exc 獲取 bat dba else .class 可維護 一、連接問題 前面剛介紹了怎麽連接數據庫，也寫了對應的模板。可是它的可維護性很差。那麽怎麽解決問題呢？ 首先寫一個配置文件jdbc.properties <s

求助下如何現在實時監控網頁一些數據

lln rmi gbk vol cdh auc veh vds dom3 %E8%B6%85%E6%96%87%E6%9C%AC%E6%B5%8F%E8%A7%88%E6%A1%86%E9%97%AE%E9%A2%98 http://music.hao123.com/son

我收集的一些目標檢測、跟蹤、識別標準測試視頻集和圖像數據庫

ima detail track 分離 urb images data mic hang 一個網友收集的運動目標檢測，陰影檢測的標準測試視頻 http://blog.csdn.net/sunbaigui/article/details/6363390 很權威的c