あらすじ
“超知能AIで人類は絶滅する”のではない。
文明を〈再設計〉するべき時が到来したのだ！
もはや、ＡＩの存在は私たちの日常の前提となった。
そしていま、人間と同等に広範な知的能力（論文読解、動画制作、経営戦略策定、数学の証明、翻訳、物語の執筆など）を持つ「汎用人工知能 Artificial General Intelligence」すなわちAGIの出現が、目前に迫っている。
「次のトークン（単語）を予測する」だけにすぎないものが、なぜ人間を凌駕しうるのか？
それは本当に実現可能なのか？
実現後に、科学は、社会は、そして文明はいかに変容するのか？
すでにサイエンスの現場では、「研究の自動化」が現実的なものになりつつある。
そうした事態をはやくから予見し、「ＡＩ駆動科学」を長年追究してきた研究者が、
悲観論にも楽観論にも与せず、透徹した現状認識のもと、知能の制御と文明の再設計という課題に、明快に答え、深く問う。
人間の知能のみを想定した科学、社会、経済、政治はすでに成り立たないことが明白となったいま、
基礎知識から、人類文明の未来像、日本の戦略と政策実装まで、いま考えるべきことを一望し、AGIと人間が共存するための「原理」を真摯に構想する。
あらゆる分野の意思決定者、そして明日を展望するすべての人に向けた一冊。
［「まえがき」より］
本書は、AGIが人間を超えるかどうかだけを問う本ではない。AGIによって何がなお人間に残るのか、そして何を守るべきなのかを問う本である。
［本書で示される問いの例］
なぜいまAIが飛躍したのか
予測はなぜ理解に近づくのか
知能爆発は起きるのか
なぜAGIは制御を要するか/なぜ制御は構造的に困難か
制度設計は間に合うのか
意識の問題は迂回できるのか
近代の価値はなぜ揺らぐのか
政治哲学はAGIに応えられるか
民主主義と人権はAGI時代にも必要か
なぜ第三極として「日本」が必要なのか
次世代に何を残すか
［本書の内容］
はじめに
第1章 まえがき
第2章 ＡＧＩとは何か
第3章 ＡＧＩはなぜ可能か
第4章 知能に限界はあるのか
第5章 ＡＧＩはなぜ危険か
第6章 知能爆発はどこへ向かうのか
第7章 知るとは何か──ＡＧＩと科学
第8章 ＡＩ駆動科学
第9章 ＡＧＩは知をどう変えるか
第10章 ＡＧＩで社会はどう変わるか
第11章 ＡＧＩ時代に人間であるということ――構成的多元主義へ
第12章 ＡＧＩ時代にどう備えるか
あとがき
感情タグBEST3
Posted by ブクログ
AGIとは、決まった作業だけをこなすAIではなく、人間と同じか、それ以上に幅広く物事をこなせるAIのことです。著者はAIと生命科学の研究者で、その実現時期を2029年±3年と予想しています。数年のうちに来るかもしれない、という話です。私は「そんなものが来たら人間はどうなるのか」という漠然とした不安を持って読み始めました。読み終えて気づいたのは、私の問いの立て方そのものがずれていた、ということでした。順に書きます。
まず、AIの賢さには物理的な上限があることを知りました。前提の話をします。コンピュータが考えるというのは、記憶の中身を書き換え続けることです。新しく書き込むには、古い内容を消さなければいけない。そして情報を消すときには、必ず熱が出ます。ランダウアーの原理という物理法則で、1ジュールの電気で消せるのは室温で最大約3.3垓ビットまでだそうです。つまり「考える」ことには燃費があり、無限には賢くなれないということです。
もっと驚いたのは、その物理の限界にいちばん近いところで動いているのが、人間の脳だという話でした。素子ひとつで比べると、脳は限界まであと2〜3桁のところにいる。いまのAIは3〜4桁手前で、データセンター全体で見ればさらに遠い。効率という一点だけを見れば、伸びしろがあるのは人間ではなく機械の側です。裏返せば、私たちの頭は、約五億年かけて仕上がった相当な省エネ装置だということになります。
では安心していいのか。そうではありませんでした。物理が止めるのは「一体のAIが際限なく賢くなる」道だけだからです。AIはソフトウェアなので、複製できます。人間の研究者は年に4%しか増えませんが、AI研究者は年25倍以上のペースで増えうる。だから危険は消えるのではなく、形を変える。「無限に賢い一体の何か」ではなく、「そこそこ賢いものが無数に増え、その力が一部の国や企業に集中すること」が問題になる。私が思い浮かべていた映画のような絵は、心配する場所が違っていました。
仕事の見分け方も変わりました。私は「難しい仕事ほどAIに取られにくい」と思っていました。本書の基準は、難しさではなく時間です。著者はこう書きます。種蒔きから収穫まで9ヵ月かかるとき、九つの苗を集めても1ヵ月にはならない。細胞が育つ時間、免疫が反応する時間、焼けた森が元に戻る時間、社会の制度が変わる時間。これらは計算をどれだけ速くしても縮みません。だから「最後まで残るのは『難しい』問題ではなく『時間がかかる』問題である」。何をして生きていくかを考えるとき、頭の良さではなく「その仕事はどんな時間に付き合っているのか」で見る。そういう物差しを持ち帰りました。
いちばん考えさせられたのは、人間の値打ちの話です。ここも前置きが要ります。私たちの権利は、立派な理念だけで手に入ったわけではありませんでした。英国では1832年、1867年、1884年と選挙権が広がりましたが、その原動力は「我々がいなければ工場が動かない」「我々がいなければ戦争に勝てない」という交渉力だった、と本書は指摘します。AGIは、この「人間がいないと回らない」という土台のほうを外していく。すると、学歴も、資格も、専門知識も、そして創造性さえも、個人の中にある能力として測るかぎり、値打ちが下がっていきます。著者の提案は、価値の置き場所を「個の中」から「個と個の間」へ移すことでした。
その具体策のひとつが、異なる文脈の評価を一つの総合スコアにまとめない、という原則です。福祉、信用、治安、教育という別々の場面で集めた記録を、一本の点数に統合しない。教育でいえば、生徒を単一のスコアに還元せず、複数の成長軸を残すことにあたります。便利さの側にはいつも推進力がありますが、まとめない側には言葉がありませんでした。その言葉を受け取りました。
最後にひとつ。著者はこの本の執筆にAIを使ったことを本文で明かしています。そのうえで、その執筆に使ったAIは、目的と文脈を与えられ、続けろと指示されなければ、書き始めることも書き続けることもない、と書いています。何を望むのか、なぜ望むのかを最初に言い出すのは、いまのところ人間の側です。
「AIはどこまで賢くなるのか」を知りたくて開いた本で、私は「自分は何を望むのか」を先に問われることになりました。
