国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

python執行精確的小數計算方法

2020-02-16 00:45:45
字體:
來源:轉載
供稿:網友

在進行浮點數計算時它們無法精確表達出所有的十進制小數位。

a = 4.1b = 5.329print(a+b) 9.428999999999998

這些誤差實際上是底層CPU的浮點運算單元和IEEE754浮點數算數標準的一種“特性”。python的浮點數類型保存的數據采用的是原始表示形式,因此使用float實例時就不能避免這樣的誤差。

我們可以使用decimal模塊避免這種操作(如果不介意犧牲下性能):

from decimal import Decimala = Decimal('4.1')b = Decimal('5.329')print(a+b) 9.429

注意Decimal的參數必須是字符串,不能是浮點型,否則誤差依舊存在。

decimal模塊的主要功能是允許控制計算過程中的各個方面,包括數字的尾數和四舍五入。

from decimal import Decimalfrom decimal import localcontexta = Decimal(4.1)b = Decimal(5.329)print(a/b)print('================')with localcontext() as ctx:  ctx.prec = 3  print(a/b) 0.7693751172827922400071261708================0.769

getcontext也可以實現和localcontext一樣的功能

from decimal import Decimal, getcontexta = Decimal(4.1)b = Decimal(5.329)getcontext().prec = 3print(a/b) 0.769

誤差我們不能完全消除,我們只能盡力優化算法,使得誤差盡可能小。在大數和小數相加時要格外注意。

nums = [3.21e+18, 1, -3.21e+18]print(sum(nums))print('=========================')import mathres = math.fsum(nums)print(res) 0.0=========================1.0

以上這篇python執行精確的小數計算方法就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持武林站長站。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 凭祥市| 仁布县| 繁昌县| 工布江达县| 东乌珠穆沁旗| 应用必备| 云南省| 台安县| 桦川县| 安陆市| 翼城县| 定远县| 扬中市| 布拖县| 海南省| 自贡市| 汾西县| 甘洛县| 龙井市| 明溪县| 镇原县| 镇平县| 奉化市| 奎屯市| 嘉鱼县| 通城县| 廉江市| 望城县| 深圳市| 沂源县| 荥阳市| 兴和县| 武安市| 肃宁县| 会宁县| 合肥市| 铅山县| 龙山县| 炉霍县| 永登县| 阜平县|