次方程式
は根の公式
がある。高校数学では係数 , , は実数であるが、
複素数にしてもこの式のままで大丈夫である (なお、複素数の平方根は、
実数の平方根を使って計算できる -- 自力でやっても難しくないが、
Ahlfors の有名な複素解析の教科書に説明がある)。
この根の公式のまま、浮動小数点演算を用いて計算しようとすると、
の場合に桁落ち (cancellation) が起きてしまい、
精度が低下してしまう。
例えば の場合、
の計算で桁落ちが起こるので、
のように分子の有理化を行うか、桁落ちの起こらない方の根
を先に計算してから、根と係数の関係
から
と計算する (この式の右辺を整理すると上と同じになる)。
桂田 祐史