NTTコミュニケーション科学基礎研究所の作品一覧
「NTTコミュニケーション科学基礎研究所」の新着作品・人気作品や、最新のユーザーレビューをお届けします！
- 作者をフォローする
- フォローするとこの作者の新刊が配信された際に、お知らせします。
作品一覧
2013/11/29更新
ユーザーレビュー
-
コンピュータでの計算は、多くの誤差を生み出す。例えば、 y = 1/3*x-1という簡単な式においても、浮動小数点演算を前提とすれば、x=3の場合、y=0.000…1となってしまい、実際の数学的回答であるy=0とは誤差を生み出す。誤差がこの程度の場合ならば、たいしたことにならないだろうが yが０...続きを読むPosted by ブクログ
