(´・ω・`)倍精度浮動小数点
■ このスレッドは過去ログ倉庫に格納されています
多倍長浮動小数点数を扱えるライブラリか言語を検討しては 多倍長浮動小数点数を扱えるライブラリか言語を検討しては (´・ω・`)浮動小数点やめてどうする?それが問題だだ (´・ω・`)COBOLは10進演算できるから誤差生まれないよ >>14
じゃあ分割して演算してあとでくっつけるライブラリ自作しろ (´・ω・`)なんか詳しいやり方かいてる文献あるけ >>19
精度をめちゃくちゃ高めて乗算を効率化するなら必要だけど10^-100くらいの計算をしたいだけならいらないよ 普通に小数点にして16bitずつ区切って演算するとかそんな感じでいくか
floatなら指数虚数で区切ってとかかね >>26
別に折りたたまなくてもいいなら単純な實相でいいのか (´・ω・`)多倍つかえる言語に書き換えるか自作ライブラリ作るかの二択っぽいな ■ このスレッドは過去ログ倉庫に格納されています