2017-01-14から1日間の記事一覧
自分用の覚書。浮動小数点の有効桁数が気になったので調べて表にしてみた。 Subject は C++Builder と書いているけど、Delphi も基本的に同じ。なお、比較のために Linux gcc の内容も記入している。結果はこちらの表の通り。 有効桁数は log10(2^2進数桁数)…
自分用の覚書。浮動小数点の有効桁数が気になったので調べて表にしてみた。 Subject は C++Builder と書いているけど、Delphi も基本的に同じ。なお、比較のために Linux gcc の内容も記入している。結果はこちらの表の通り。 有効桁数は log10(2^2進数桁数)…