人類滅亡２つのシナリオ AIと遺伝子操作が悪用された未来

小川和也

急速に進化する、AIとゲノム編集技術。画期的な技術ゆえ、制度設計の不備に“悪意” が付け込めば、人類の未来は大きく暗転する。最悪の場合、【遺伝子操作で生まれたポストヒューマンによる、ホモサピエンスの淘汰】といったSF的ディストピアも。未来学者が「人類最悪のシナリオ」と回避策を示す。

• カテゴリ: ビジネス・実用
• ジャンル: 社会・政治 / 社会学
• 出版社: 朝日新聞出版
• 掲載誌・レーベル: 朝日新書
• ページ数: 224ページ
• 電子版発売日: 2023年09月13日
• コンテンツ形式: EPUB
• サイズ(目安): 1MB

[ブクログ · ★★★★☆]

確かにゲノムの編集は進み、デザイナーベビーが誕生したことも記憶に新しい。また、AIの進化は甚だしく、このまま進化が続けば著者が言うようなこともあり得ない話ではないと思う。また人類は技術の進化を必ず負の方向にも利用するのは歴史が証明している。

[ブクログ · ★★★☆☆]

だいぶ挑戦的なタイトル

汎用性人工知能はついに意思決定、マネジメント業務もできるようになった記載されていたが、どれのことだろう。
他のAIに関する本には人間に残されてた仕事へ決めること、責任を取ることとかかれていたけど少し違った。

[ブクログ · ★★★☆☆]

AIとゲノム編集技術は、それぞれ人類滅亡のリスクを孕んでいると大真面目に語る。
AIが人間には制御不可能な超知能となることが人類滅亡につながる危険性を持つことは十分に同感。一方、ゲノム編集技術は少なくとも建前上は各個体が等しく尊重される存在であるはずの人類社会の前提を崩壊させる可能性がある意味で注視し続けなければならない技術だが、人類の滅亡ではなく、エンハンスされたポストヒューマンに置き換わるという話。
滅亡リスクは同感しつつも、その回避策として、ゲノム編集については国際的規範の確立を、AIについては汎用型の超知能を生むような開発をせず機能特化型に留めておくことが提示されていたが、どこかの誰かが抜け穴を抜ければ圧倒的優位性を確立できるような技術領域において、それを禁止し続けることがどこまで有効なのかは疑問であり、解決策については薄さを感じた。

[ブクログ · ★★★☆☆]

人類滅亡二つのシナリオ　小川和也　朝日新聞

一つは人工知能AIであり
もう一つはゲノム編集技術だと言う
確かに人間自体を制御する遺伝子操作は
人間のエゴや恐怖心によって
確実に歪んだ結果をもたらすだろうが
AIが人間の手を離れて
自己増殖する段階になると
アラジンのランプの聖とは別物になる
常に俯瞰した全体観をとらえて判断した
前向きな選択をすることになるのではないか
つまりパニクルこともなく
俯瞰の度合による誤差はあっても
精一杯の制度を出しながら決断していくだろう
しかし問題なのは人間が依存心から脱皮できずに精神的な進化を怠った場合である
そうした人間は感情や物欲から逃れられずに
ランプの聖を駆使して超越型の冷静なAIに戦いを挑もうとするだろうことである

楽観的私見はさておいて
この著者は冷静に紐解いていき
最終章で
この世の終末を避けるために何ができるかを考察しているが
善悪や損得が何を根拠とするのかを
語ることはない
そこで最も危険なのは
恐怖による悪意を持った
人間の手の内にある段階の
ランプの聖同士による代理戦争だろう
敵対する人間同士がそれぞれに操る
ランプの聖を開発して戦わせる戦争である