パイの値をエクセル（正確にはExcelではなくOO-Calc）でオイラー展開法で求めてみた

数学的には左記の表の行を無限に増やせば、円周率も無限桁まで求まります。しかし実際は50行目に至る前に誤差が生じそれ以上の桁を求めることができておりません。

当たり前の事ですがコンピュータの数値表現には有効桁数があるのです。

64bitパソコンだろうが、128bitCPUだろが、256bit変数だろうが、円周率の計算を数学的に考えてしまうと、直ぐに精度問題が生じます。

この問題の回避は、数学ではできません。情報工学の領域になります。

ならば、加減算しかできない８bitの手作りコンピュータでも、情報工学とやらを駆使すればエクセルよりも効率よく円周率を求められるのではないか？

というのが、ハードの試験と平行して現在考えている問題です。

2011-7-4