Next:
1 丸めモードの制御法
IEEE754 準拠マシンでの丸めモード制御
桂田祐史
2000年12月26日
1 丸めモードの制御法
1.1
round.h
2 実験
2.1 丸めモードを up にするとアンダーフローしない!
2.2 計算を繰り返すと丸め誤差が蓄積される
2.3 計算機イプシロンを求める定跡手順をやってみると
この文書について...
Next:
1 丸めモードの制御法
Masashi Katsurada
平成14年11月11日