多数桁乗算のメモリ使用量比較
入力A,Bは0.5兆桁で出力Cが1兆桁(10進換算)となる
3種類の多数桁乗算の使用メモリ量を比較
2段階FFT (整数8バイトに2進60桁詰めが可能)
合計使用メモリ量: 1.3兆バイト
実FFT (実数8バイトに2進9桁詰めが限度)
合計使用メモリ量: 9.0兆バイト
実FFT+Karatsuba法 (Karatsuba法適用回数で異なる)
1回適用 : メモリ量: 5.5兆バイト、演算量比:1.5倍
2回適用 : メモリ量: 3.8兆バイト、演算量比:2.3倍
3回適用 : メモリ量: 2.9兆バイト、演算量比:3.4倍
4回適用 : メモリ量: 2.4兆バイト、演算量比:5.1倍
前のスライド
次のスライド
最初のスライドに戻る
グラフィックスの表示