NTTコミュニケーション科学基礎研究所の作品一覧

「NTTコミュニケーション科学基礎研究所」の「コンピュータのカオスをおさえる : 新しい「安定」計算術」ほか、ユーザーレビューをお届けします！

作者をフォローする

フォローすると、この作者の新刊が配信された際に、お知らせします。

• 

  コンピュータのカオスをおさえる : 新しい「安定」計算術

  IT・コンピュータ / 情報科学

  4.0

  (1)

  • カート
  • 試し読み

  Posted by ブクログ

  コンピュータでの計算は、多くの誤差を生み出す。例えば、　　y = 1/3*x-1という簡単な式においても、浮動小数点演算を前提とすれば、x=3の場合、y=0.000…1となってしまい、実際の数学的回答であるy=0とは誤差を生み出す。誤差がこの程度の場合ならば、たいしたことにならないだろうが　　yが０ならば"OK"、そうでないならば、"ERROR"という式では非常に重要な問題を引き起こす。やはり、x=3としてみると、数学的にはこの式は"OK"と表示されなければならないが、コンピュータでは"ERROR"（y=0.000...続きを読む…1となりyが０ではないから)となってしまうからだ。これは非常に具合が悪い。これをコンピュータでどのように扱えば、数学的結果と合致するのか、という方法論が本書のテーマである。数字を点ではなく、エリアで捉えるという考えはなかなか面白いが、この程度の話であれば、コンピュータに小数でなく分数を扱わせればいいじゃないかと思う読者は私だけではないはず。

  0

  2018年10月23日