2009-12-07から1日間の記事一覧

解析計算のプロットにおける有効数字

厳密解と摂動論の比較をした。収束が良いようで、6次か8次くらいの時点でグラフを見る限りは厳密である。しかし、有効数字を気にせずにやると16次くらいから大幅にずれてしまう。大きな値を足し引きした結果として小さな値になるというのは数値的には凄くや…