問題解決のための対策1
計算公式変更と計算アルゴリズム開発
DRM (Divide and Rationalize Method)考案
AGM(算術幾何平均法)から級数展開へ変更
メモリ削減した多数桁乗算方式の開発
2段階(上位は整数FFT,下位は実FFT)FFT
(高速フーリエ変換)の開発
1兆桁の乗除算は1回だけの方式を開発
1兆桁の乗除算はDiskを利用して計算
前のスライド
次のスライド
最初のスライドに戻る
グラフィックスの表示