AIは人間を憎まない

トム・チヴァース / 樋口武志

AI開発のカギを握る（＝人類の未来を左右する）「合理主義者」と
呼ばれる人たちに初めてスポットライトをあてた貴重な記録


●「子供たちの世代が老化で死ぬことはない」と本気で語る人たち
●AI界のスターたちが勢ぞろいしていた「伝説のメーリングリスト」とは？
●「人間レベルのAI」とは、「人間の姿をしたAI」ではない
●50年後に人間レベルのAIが出現する可能性は90パーセント！
●人間とコンピュータの「思考」の違いを徹底的に解説！


AIは人類の敵か味方か！？
気鋭の英国人ジャーナリストが、
人工知能の可能性と
暴走リスクを徹底検証！

• カテゴリ: ビジネス・実用
• ジャンル: IT・コンピュータ / IT・Eビジネス
• 出版社: 飛鳥新社
• ページ数: 320ページ
• 電子版発売日: 2021年06月04日
• コンテンツ形式: EPUB
• サイズ(目安): 2MB

[ブクログ · ★★★★☆]

AIは人間の能力を超えられるか？その議論の前に、実はその定義自体が曖昧なことに気が付いてない人が多い。
「人間の能力」がそもそもどういうものか明確に解明されていない。
その状態で、「超える」議論をする点で無理があるのだ。
能力といっても幅は相当に広いと思うが、まずは「脳」で考えてみたらどうなるだろうか。
人間の脳は様々な仕事（タスク）を行う。
「感じる」というのは、生物として本能のような根源的な機能かもしれない。
思考もする。
もちろん記憶に関することもあるし、計算することもある。
想像することだってある訳だから「人間の脳」と一言で言っても、その指し示す先は様々なことがあるのだ。
果たして、その人間の脳に対し、AIをどういう風に比較させるか。
おそらく、記憶と計算についてはAIの方が人間の能力を遥かに超えてしまっていそうだ。
しかし本当にそうなのだろうか？
単純に「計算」と言ったところで、計算は正確性を求めるだけのものではない。
「大体これぐらい」というのだって、立派な計算だ。
例えばAIが人間の脳のように進化すれば、「大体これぐらい」という計算が出来たりするのだろうか。
計算という中にも、想像力も含まれていたりする。
かつて、星の軌道が解明されていない時に、ニュートンは落ちるリンゴを見て、万有引力の法則を見つけたという逸話がある。
果たしてAIが進化したら、同じように万有引力の法則を発見するのだろうか。
微分積分は？相対性理論は？
AIがこれらを「思い付く」ことが出来るだろうか？
「思い付く」のだから、それらは「思考」ではないか？とも言える訳であるが、どうもこの辺が人間の脳みその複雑なところらしい。
つまり、計算と思考と想像を同時に処理しているのが人間の最大の特長なのだ。
こう考えると、人間の脳が今後正確に解明がされていくかは疑わしいと思ってしまう。
現時点でも解明されている部分は数％ではないか、という意見もあったりする。
この状態で「汎用的に人間の能力を超える」のは相当に無理があると思うのだ。
一方で、AIが全くの役立たずかというと、決してそういう訳ではないはずだ。
現に正しい解を導く計算であれば、どんな桁数であっても、AIの方が人間よりも早く答えを出すだろう。
どの能力がAIの方が得意で、どの能力が人間の方が得意なのか。
そういう事をきちんと理解してAIを上手く使いこなすことがこれからは大切なのだろう。
しかしながら、この加速度的な進化を伴うAIに対し、人間は一体どうやって正しく取扱いをすればよいのか。
その方針をいまだに決められないでいる。
世界中のAI識者がそのリスクについて検証中ではあるが、これといった解答が無いのも現実だ。
AIというテクノロジーを楽観的に見るか、悲観的に見るか。
そもそも初手のアプローチの仕方を変えるだけで、その景色は大きく違って見えてしまう。
本書ではその事例を、思考実験という形で明確に示してくれている。
確かに「囲碁で相手を負かせ」とAIに対して命令した時に、「囲碁の勝敗」だけで答えてくれるとは限らない。
AIが暴走して「囲碁板を凶器にして相手を叩き殺す」ことも「囲碁で相手を負かす」ことになるのかもしれない。
AIがそういう解釈をしないとも限らないということなのだ。
ここはAIに対する解釈として、重要な点を示していると思う。
今のままではAIの暴走は止められない。
それはAIがどういう思考回路でその解答を導き出したのかがブラックボックスになっていて、全く分からないからだ。
自動運転AIに対して「世界中から交通事故をゼロにしろ」と命令をした時に、AIは車も人間も全くいない世界を作り上げようと邁進し出すかもしれない。
AIが世界中の車を破壊し、世界中の人間を殺戮していく。
AIは決して人間を憎まないが、逆に大切にしようとも思わない。
そういう倫理観は持ち合わせないのがAIなのだ。
人間は加速度的に進化していくAIとどういう距離感で付き合っていくべきなのだろうか。
SF世界ではよく出てくる話であるが、もしかしたら我々世代が人間の形をした生物としては最後となるかもしれない。
AIというシステムとデータが暴走し、巨大化し、宇宙に飛び出し、永遠と彷徨っていくのかもしれない。
ある意味でAIの現実を見つつ、未来への視座を高めてくれる良書であった。
現代の一般の人々に本書がもっと読まれてほしいと思う。
（2022/7/23）

[ブクログ · ★★★☆☆]

AIの研究開発に関与する合理主義者と呼ばれる集団へのインタビューを通じ、AIの知能が人類を超えた未来を考察している一冊。
そもそも合理主義者がどのような存在なのかよくわからなかったのですが、説明によるとコミュニティでの集団生活を営み、人類の他恒星系への到達を目的とした組織のようです。
そんな彼らが危惧していること、それがAIによる人類滅亡です。
始まりからなかなか濃いので読者を選ぶと思いますが、AIや人工知能に興味があれば楽しめるでしょう。

[ブクログ · ★★★☆☆]

AIについて考える合理主義者コミュニティを取材して、彼らの考え方を紹介する本。
AIなど新しい技術を熱望しつつも、汎用人工知能の暴走を心配する合理主義者たちの思考や知的運動などについて描く。ＡＩがどうなるかの哲学的＆思想的な問題やテーマをそれなりに読みやすく描いたエッセー風読み物。一応筋立てて話が進んでいく。

コンピュータ、AIの加速度的＆指数関数的進化によって未来は全く予測できないものになる。これからの数十年、百年後の未来はどうなっているのか。今の世界の延長線上にはない。

効率よくAI雑学を仕入れたい！的なあくせくした人にはやや不向きかも。とはいえ人工知能を語りたいなら押さえておかないといけない部分。

著者自身が独自にＡＩについて調べて考えた本というわけではないのでＡＩに関する雑学や具体的知識が散りばめられているわけではない。著者が調べたのは合理主義者たち。合理主義者たちはヒューマンインタフェースや身体拡張や脳をクラウドにアップロードなどに関心を持ちつつ、ＡＩの危険性についても考えている人々で、そういう人々の思考や懸念や行動などを本書は紹介している。

合理主義者たちは合理的思考の結果として複数恋愛を楽しむ人が多い。合理主義者コミュニティでは各パートナーが相互に複数恋愛していたりする。日本における「恋愛工学」は本場米国の合理主義的複数恋愛の翻案みたいなもんだろう。

哲学者ボストロムの著書「スーパーインテリジェンス 超絶AIと人類の命運」の存在が大前提になっている。「汎用人工知能が誕生すると暴走して人類は滅亡する！」という衝撃的主張をしている本。この本は人工知能研究に大きな影響を与えたターニングポイントのような本。こういう意見を妄想などではなくロジカルな思考の結果として持つに至った合理主義者たちは、ＡＩの暴走に警鐘を鳴らす提言をしたり暴走を抑止する研究や活動を行っている。

合理的な思考＝ベイズ的思考。とか、ＡＩの思考法、汎用人工知能の登場はいつ頃になりそうか、それを合理的にどう予測するのか、実際に暴走する確率はどんなものか、、などを合理主義者コミュニティを取材する中で探っていく的な。