あらすじ
■AIについての最も重要な命題=人類はAIを制御できるか、という「AIコントロール問題」と真正面から格闘した本命本。
■近未来に、汎用的な能力においても思考能力においても、そして、専門的な知識・能力においても、人類の叡智を結集した知力よりもはるかに優れた超絶知能(スーパーインテリジェンス)が出現した場合、人類は滅亡するリスクに直面する可能性がありうる。そのリスクを回避するためには、スーパーインテリジェンスを人類がコントロールできるかどうかが鍵を握る。果たして、そのようなことは本当にできるのか?
■オックスフォード大学の若き俊英、ニック・ボストロム教授が、スーパーインテリジェンスはどのようにして出現するのか、どのようなパワーを持つのか、いずれ人類がぶち当たる可能性のある最大の難問、「AIのコントロール問題」とは何か、解決策はあるのかなどについて、大胆にして、きわめて緻密に論じる。2014年秋に原著が出版されるや、瞬く間にニューヨーク・タイムズ紙ベストセラーとなり、イーロン・マスク、ビル・ゲイツ、S・ホーキング博士およびその他多数の学者や研究者に影響を与え、AIの開発研究は安全性の確保が至上命題であることを広く認識させるきっかけとなった。
■近未来においてスーパーインテリジェンスは実現する可能性はあるのか? どのようなプロセスで実現されるのか?スーパーインテリジェンスはどのような種類の能力をもち、人類に対してどのような戦略的優位性をもつのか? その能力が獲得される要因は何か? 人類が滅亡する危機に直面するリスク、人類との共存の可能性についてどう考えるべきか? これらAIをめぐる真に根源的な問題について著者は、類書をはるかに超えた科学的、論理的な考察を徹底して慎重に積み重ね、検証する。
感情タグBEST3
このページにはネタバレを含むレビューが表示されています
Posted by ブクログ
スーパーインテリジェンス
超絶AIと人類の命運
「AIによって人類は滅ぼされる」というターミネーターのような衝撃的な未来感に関して、学術的に丁寧に様々なシナリオを検討しています。
人類がAIをうまく使いこなすために必要なコントロール問題に関してまず論考していますが、その先にある哲学的な価値観に基づいた目標設定に関しても様々なリスクが存在することも論じられています。（マッチ棒を大量に作るという目標を設定すると、宇宙の全ての資源を使ってマッチ棒を作り続けるというリスクがあるなど）
そして、１つでもスーパーインテリジェンスが戦略的な優位を確立したとたんに、指数関数的な進歩を起こし、競合するものを全て無力化するため、複数のスーパーインテリジェンスや人類がバランスするという状況はあり得ないだろうという結論となり、またコントロール問題に戻ります。
そこでも、スーパーインテリジェンスは人類の裏をかいて、自由を手にする可能性が指摘され、結局スーパーインテリジェンスが誕生すること自体が非常に高いリスクであるという結論に行きつきます。
では、スーパーインテリジェンスの開発を規制するしかないということになりますが、それも、一人のマットサイエンティストや覇権を握りたい国の極秘研究開発などによって規制することが難しいという話。
著者の論考自体に間違いや抜けがあることを信じて、この先も気楽にAIの進歩を追っていきたい竹蔵です。
ですが、700ページに及ぶ猜疑に満ちた論考を読んで、とても疲れ果ててしまいました。
竹蔵
