自由気ままな猫
顯示具有
程式設計-General
標籤的文章。
顯示所有文章
顯示具有
程式設計-General
標籤的文章。
顯示所有文章
2014-06-21
浮點數精確度所造成的嚴重問題
在
浮點數與精確度
這篇文章中,
有提到浮點數運算可能會造成的錯誤結果,
而這誤差雖然看似很小,卻可能造成嚴重的後果,
甚至有可能會毀了一家銀行。
閱讀更多 »
Floating Point Standard
目前工程運算上的浮點數標準由
IEEE 754-1985
定義,
接下來要介紹此定義下的single precision(32-bit)、與double precision(64-bit),
以及相關的運算。
閱讀更多 »
2014-06-20
浮點數的精確度問題
首先我們先由一段C++程式碼來看浮點數的精確度問題。
(Round-Off Erros in Floating Point Numbers)
閱讀更多 »
較舊的文章
首頁
訂閱:
文章 (Atom)