AGIとは、決まった作業だけをこなすAIではなく、人間と同じか、それ以上に幅広く物事をこなせるAIのことです。著者はAIと生命科学の研究者で、その実現時期を2029年±3年と予想しています。数年のうちに来るかもしれない、という話です。私は「そんなものが来たら人間はどうなるのか」という漠然とした不安を持って読み始めました。読み終えて気づいたのは、私の問いの立て方そのものがずれていた、ということでした。順に書きます。
まず、AIの賢さには物理的な上限があることを知りました。前提の話をします。コンピュータが考えるというのは、記憶の中身を書き換え続けることです。新しく書き込むには、古い内容を消さなければいけない。そして情報を消すときには、必ず熱が出ます。ランダウアーの原理という物理法則で、1ジュールの電気で消せるのは室温で最大約3.3垓ビットまでだそうです。つまり「考える」ことには燃費があり、無限には賢くなれないということです。
もっと驚いたのは、その物理の限界にいちばん近いところで動いているのが、人間の脳だという話でした。素子ひとつで比べると、脳は限界まであと2〜3桁のところにいる。いまのAIは3〜4桁手前で、データセンター全体で見ればさらに遠い。効率という一点だけを見れば、伸びしろがあるのは人間ではなく機械の側です。裏返せば、私たちの頭は、約五億年かけて仕上がった相当な省エネ装置だということになります。
では安心していいのか。そうではありませんでした。物理が止めるのは「一体のAIが際限なく賢くなる」道だけだからです。AIはソフトウェアなので、複製できます。人間の研究者は年に4%しか増えませんが、AI研究者は年25倍以上のペースで増えうる。だから危険は消えるのではなく、形を変える。「無限に賢い一体の何か」ではなく、「そこそこ賢いものが無数に増え、その力が一部の国や企業に集中すること」が問題になる。私が思い浮かべていた映画のような絵は、心配する場所が違っていました。
仕事の見分け方も変わりました。私は「難しい仕事ほどAIに取られにくい」と思っていました。本書の基準は、難しさではなく時間です。著者はこう書きます。種蒔きから収穫まで9ヵ月かかるとき、九つの苗を集めても1ヵ月にはならない。細胞が育つ時間、免疫が反応する時間、焼けた森が元に戻る時間、社会の制度が変わる時間。これらは計算をどれだけ速くしても縮みません。だから「最後まで残るのは『難しい』問題ではなく『時間がかかる』問題である」。何をして生きていくかを考えるとき、頭の良さではなく「その仕事はどんな時間に付き合っているのか」で見る。そういう物差しを持ち帰りました。
いちばん考えさせられたのは、人間の値打ちの話です。ここも前置きが要ります。私たちの権利は、立派な理念だけで手に入ったわけではありませんでした。英国では1832年、1867年、1884年と選挙権が広がりましたが、その原動力は「我々がいなければ工場が動かない」「我々がいなければ戦争に勝てない」という交渉力だった、と本書は指摘します。AGIは、この「人間がいないと回らない」という土台のほうを外していく。すると、学歴も、資格も、専門知識も、そして創造性さえも、個人の中にある能力として測るかぎり、値打ちが下がっていきます。著者の提案は、価値の置き場所を「個の中」から「個と個の間」へ移すことでした。
その具体策のひとつが、異なる文脈の評価を一つの総合スコアにまとめない、という原則です。福祉、信用、治安、教育という別々の場面で集めた記録を、一本の点数に統合しない。教育でいえば、生徒を単一のスコアに還元せず、複数の成長軸を残すことにあたります。便利さの側にはいつも推進力がありますが、まとめない側には言葉がありませんでした。その言葉を受け取りました。
最後にひとつ。著者はこの本の執筆にAIを使ったことを本文で明かしています。そのうえで、その執筆に使ったAIは、目的と文脈を与えられ、続けろと指示されなければ、書き始めることも書き続けることもない、と書いています。何を望むのか、なぜ望むのかを最初に言い出すのは、いまのところ人間の側です。
「AIはどこまで賢くなるのか」を知りたくて開いた本で、私は「自分は何を望むのか」を先に問われることになりました。
