X



(´・ω・`)倍精度浮動小数点
■ このスレッドは過去ログ倉庫に格納されています
0001以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:44:13.083ID:qwPHSafR0
(´・ω・`)つらい
0002以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:44:34.146ID:6cuYgYIZ0
(´・ω・`)
0003以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:46:59.634ID:qwPHSafR0
(´・ω・`)10の-100乗ぐらいの計算したい
0004以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:48:22.666ID:iMeEweXI0
自作しなさい
0005以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:49:52.987ID:qwPHSafR0
(´・ω・`)そこをなんとか
0006以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:49:56.732ID:9NNsxgVsM
多倍長浮動小数点数を扱えるライブラリか言語を検討しては
0007以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:51:38.100ID:qwPHSafR0
(´・ω・`)できたらいいんだけどむずかしい
0008以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:51:58.686ID:9NNsxgVsM
多倍長浮動小数点数を扱えるライブラリか言語を検討しては
0009以下、無断転載禁止でVIPがお送りします
垢版 |
2023/08/19(土) 22:52:43.586ID:Qv+isLDF0
(´・ω・`)浮動小数点やめよ
0011以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:53:09.963ID:qwPHSafR0
(´・ω・`)なんでにかいゆった
0012以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:53:55.596ID:qwPHSafR0
(´・ω・`)浮動小数点やめてどうする?それが問題だだ
0013以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:54:11.637ID:9NNsxgVsM
COBOLとかCOBOLとか
0014以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:54:36.042ID:qwPHSafR0
>>10
(´・ω・`)世界のために必要なんだ
0015以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:56:27.939ID:qwPHSafR0
(´・ω・`)Pythonならなんとかやれる
0016以下、無断転載禁止でVIPがお送りします
垢版 |
2023/08/19(土) 22:56:34.433ID:Qv+isLDF0
(´・ω・`)COBOLは10進演算できるから誤差生まれないよ
0018以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:57:32.341ID:qwPHSafR0
(´・ω・`)分割してくっつけるしかないか
0019以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:58:21.620ID:9NNsxgVsM
自作するにはフーリエ変換が必要
0020以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:58:53.013ID:qwPHSafR0
(´・ω・`)ところで分割ってなにに分割するん
0021以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:58:55.504ID:9NNsxgVsM
高速フーリエ変換
0022以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 22:59:14.530ID:qwPHSafR0
(´・ω・`)くこでフーリエ!?
0023以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:00:36.368ID:qwPHSafR0
(´・ω・`)なんか詳しいやり方かいてる文献あるけ
0024以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:01:00.622ID:cTzHHA6aa
ほぼソフトでの実装しかないから遅い(´・ω・`)
0025以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:01:37.651ID:qwPHSafR0
(´・ω・`)この際早さは求めない
0026以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:02:15.638ID:iMeEweXI0
>>19
精度をめちゃくちゃ高めて乗算を効率化するなら必要だけど10^-100くらいの計算をしたいだけならいらないよ
0028以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:03:51.611ID:qwPHSafR0
(´・ω・`)16ビットづつ区切るってことか
0029以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:05:05.205ID:9NNsxgVsM
>>26
別に折りたたまなくてもいいなら単純な實相でいいのか
0030以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:05:41.485ID:qwPHSafR0
(´・ω・`)多倍つかえる言語に書き換えるか自作ライブラリ作るかの二択っぽいな
0031以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:06:08.163ID:qwPHSafR0
(´・ω・`)文献あったらおしえろください
0032以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:06:53.912ID:iMeEweXI0
このくらい自分で考えて実装しなさい!!
0033以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:07:09.502ID:qwPHSafR0
(´・ω・`)そんなー
0034以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:23:13.314ID:XOYfIWGr0
double!
0035以下、5ちゃんねるからVIPがお送りします
垢版 |
2023/08/19(土) 23:23:43.062ID:qwPHSafR0
(´・ω・`)ダブルじゃ足りないってはなしですよ
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況