8月 16, 2018

Python | 數值計算

紀錄 Python 中數值計算相關資訊

1. 浮點數計算仍受2進制影響, 不要直接拿來比大小
下圖是一個範例,其中 0.1*3 不等於 0.3 !!
主要是2進制計算時, 0.1是無窮逼近的數值, 故計算後並不等於0.3

沒有留言:

張貼留言