5. 世界記録6倍更新の工夫点
1兆桁計算の問題点
従来計算公式では計算不可能
1兆桁は保持するだけで0.5兆バイト必要
C=A・Bの乗算はA,B,Cの保持だけで1.5兆バイト
---> 級数での高速計算アルゴリズム
とメモリの削減対策が必須
1兆桁の乗算はメモリ上で不可能
--->可能な限りメモリを削減した超多数桁
高速乗算アルゴリズム開発が必須
--->1兆桁の乗除算回数は大幅に削減要
前のスライド
次のスライド
最初のスライドに戻る
グラフィックスの表示