[PHP-users 5199] Re: 少数の指数表記について

tekkyo php-users@php.gr.jp
Mon, 4 Feb 2002 09:10:51 +0900 (JST)


tekkyoです。

>出典は定かではありませんが、浮動小数点数の精度は
>   float   6桁
>   double 15桁
>だったはず。
># %fの出力が6桁で切られるのはこの為かも?

そうだったのですか・・。無恥でした。

>実行結果を見ていただければ、一目瞭然で、%.15fであれば
>問題なさそうです。
># 因みに %.16f では誤差があらわれます。

入力値が、数値+倍率(Tテラ〜pピコくらい)で、いろいろ計算や
倍率変換等を行いたかったので、桁指定があるとどうも・・・。
結局、少数の「文字列」を表示したいので、
PHPで計算後、指数表記を少数の文字列に変換するスクリプトを書いて
対処しようと思ってます。

ありがとうございました。


#返信がツリーにならなくすみません。