人生の晩年期、脳の経年劣化に空しく抗う毎日、
突然、「種の存続・人類の存否」にかかわる衝撃的な話に遭遇した。この本はテクノロジー(AI)の進化が人間の脳を超える現実と人類の発展か破滅かの未来を予見して生成AI暴走の「封じ込め(Containment)」を訴える警醒の書である。
著者のムスタファ・スレイマンは共同創業したDeep Mind社(英)をGooglに売却し同社でAI開発を担い、現在はMicrosoft AIのCEOを務める合成生物学の専門家である。豊富な経験にもとずいてAI進化の潮流と人にとっての本質的な意味を探り、よくあるシンギュラリティの話をさらに深く論究する。
ビル・ゲイツ、ユバル・ノア・ハラリ他多くの著名人が必読の書とする意味がよくわかる。
2016年DM社のAlpha GOが韓国のチャンピオンを破りAI新時代の到来を告げた。アルゴリズムが自ら新しいことを学習するさま、AIエージェントが自ら新しい知識を発見できることを実証した画期的ブレイクスルーであった。これは岸辺に寄せる穏やかな波の第一報であり、ChatGPTと大規模言語モデルの出現は私たちに現実の波がぶつかり始めた第一報であった。
1996年インターネット(IN)利用者は3600万人で今50億人超、このツール(AI)も同じ道を辿るがスピードははるかに速く数年内にINと同じくいつでもどこでも使え、INよりはるかに重要な結果をもたらす。スケーリング仮説(データー量・パラメーター量・計算量を拡大すれば性能が上がるのでとにかく拡大すればいい)はしばらく続く。
それに比べて、人間の知性そのものはどんなに規模が大きく多面的でもほぼ不変であり、人類の脳は年々劇的に変化することはないので「いずれ」その差は埋まり超えられる。
テクノロジー技術が加速度を増して進化する時、それを利用するために開発した人間の能力を超えて、その人間をもコントロールしたり害したり支配するようになる危険性がある。当初まだまだ先のこととタカを括っていたが、足下の技術の進化スピードを見ると2027年とか30年のことになりつつある。何が何でもそれを「封じ込める」(Containment : 監視・制限・制御し必要に応じて永遠に利用させない能力)ことが必要であるとスレイマンは警告する。
筆者の論理展開は極めて合理的で説得力がある。
各論の内容はキャリアがなす現実感覚で正確なデータを駆使してわかりやすく組み立られている。
テクノロジーやイノベーションの大波への深い洞察が素人の読者に理解させ、納得させ快感すらもたらす。
これを読んでいる時、2024年度のノーベル賞の発表があった。物理学賞に人工知能の基盤となるニューラルネットワークを考案したジョン・ホップフィールド(プリンストン大名誉教授)とさらにディープラーニングを発展させたシェフリー・ヒントン(トロント大名誉教授)であり、衝撃を与えた。ノーベル物理学賞の対象分野は宇宙・物性・素粒子・量子光学などの分野に持ち回りで与えられるのが常で、人工知能などの情報系はおよそ対象外であった。
翌日のノーベル化学賞ではタンパク質の構造を予測するAIモデル「AlphaFold2」の開発でDeepMind社共同創業者のデミス・ハサビス(GoogleのVP)が受賞した。三人ともAIの研究者であった。
物理学賞の二人が自らの研究分野に対する深刻な懸念を相次いで表明した。ポップフィールドは受賞の会見で「物理学者として私は非常に不安を覚えているのは、制御できないもの、その技術を駆使する際に限界がどこにあるのかよくわからないものだ。まさにそれこそがAIが突きつけている問題だ」と指摘した。
ChatGPTの基礎技術となる深層学習の生みの親であり「AIの父」と呼ばれるヒントンも同様の懸念を示した。「さまざまな悪影響が制御不能に陥るという脅威も心配しなくてはならない。人間より賢いシステムが生まれ(私たちを)支配するのではないか」と。
ヒントンは人間以上のAIが誕生する可能性がありいずれ人間の存在を脅かす(人間を支配しようとする)可能性もあるという考えを常に表明している。
汎用性を獲得した基盤モデル登場後のAIに対するものだ。限定された基盤モデルはタスクが限定されていたのでAIが陰謀を考えるなど荒唐無稽の話だった。
しかし目的を限定しない学習基盤モデルが登場したことでこうした懸念を絵空事と片付けられなくなっている。ヒントンは将来的にAIに意識や感覚が宿る可能性があると考えているようだ。
「私は50年もの間AIを人間の脳に近づけようとして開発に携わってきた。脳のほうが機能的に優れていると信じていたからだ。だが2023年に考えを改めた。現在の対話型AIは人間の脳の100分の1の規模でも数千倍の知識がある。おそらく大規模言語モデルはAIよりも効率的に学習できる。主観的な経験という観点から説明するとAIは人間と同じような感覚を持てると考えている。」
1/27-28にかけて中国のDeep seek社がChatGPTよりも大幅にコストが安いオープンAIを開発したとして、Nasdaq市場やNvideaの株価が20パーセント(76兆円減)近く暴落した。
今、世界は生成AIの帰趨と人類の未来を凝視している。
