ドワルケシュ・パテルのレビュー一覧
-
Posted by ブクログ
ドワルケシュ・パテルという著者なAIポッドキャスターが司会と編集をして、下記のような技術者・学者・経営者たちがAIやAGIの技術進化について会話をするという本だ。
因みに彼は2024年TIME誌で「AIで影響力のある100人」に選ばれた実力者である。
書店の店頭で見た時、リモートとはいえ本当にこんなメンバーの意見が読めるのかとびっくりした。
司会の進行や質問も上手く、知りたいことを的確に聞き出す会話になっている。流石に各人の応えも正確で迫力がある。発言も慎重でその分リアル感が伝わってくる。
東大教授の松尾豊の「AI革命の本質を見る必読の書」の帯書きも読む気になった理由の一つだ。
読む程に朧げながら今足元で起こっているAIによる社会進化のうねりが伝わってくる。
さらに最も気になる、「何が、何時、どこまで変わるのか」について最先端で競争している人たちから直接聞けるのが何ともいえない。
今年6月に出たばかりの本だ。
参加者は
ダリオ・アモイ(Anthoropic共同創業者CEO)
デミス・ハサビス(Google Deepmind共同創業者
CEO)
イリア・サツケバー(元オープンAIチーフサイエンテ
ティスト)
エリーザキ・ユドコウスキー(AI安全研究機関MIRI共
同創業者)
マーク・ザッカバーク(Meta会長兼CEO)
ジョルト・ダグラス(Anthoropic強化学習インストラ
クチャード)
ジャリッド・カプラン(Anthoropicの共同創業者)
シェーン・レッグ(Google Deepmind共同創業者
AGIサイエンティスト)
・・・・
現在米ビックテックをはじめ、台湾・韓国・日欧、さらに中国企業が馬乗りになってAIやデータセンター関連の巨額投資を競っている。そのことが連日日経で報道されている。2026年の投資額は1兆3千億$(約200兆円)になるという。
LLM(Large Language Model 大規模言語モデル)が肝だ。テキストデータで訓練し単語(トークン)を確率分布で予測するニューラルネットワークで15兆回の試行錯誤で作り上げたもの。音声・画像・アミノ酸配列などあらゆるものに対応できる、フィジカルAIもAGIにも。
意味を問わない単なるデータ処理で会話を実現する。データの量、スケールが大きければそれだけ正確になる。アルゴリズムでなくスケールなのだ。
・開発者が「私たちは神を想像している」という
・LLMのさらなる進歩に必要なのが、チップ、電力
データだけだ。それらは十分に存在するのか
・計算量を増やせば予測ミスが減る
・知能の正体とは単にチューリングマシンにわたる探
索である
・知能とは私たちが学習し脳のなかに符号化している
膨大な数の特例の集積に過ぎない
・GPT-4をGPT-4たらしめているのはそのアーキテ
クチャの細部というよりも、産業的な発想とそれに
伴い投入される歴史的に前例のない規模の計算リソ
ースとデータである
・これらのモデルをスケーリングすればするほど、
少なくとも極限では、アーキテクチャやアルゴリズ
ムは重要ではなくなる
・画像生成進歩の大半はアーキテクチャによるもので
なく、すべてスケーリングによるものだ
・スケールこそがすべてである
・AIモデルをスケーリングさせるとは、突き詰めれ
ばその入力を拡大すること。まずは資金、次に大量
のチップ、膨大な電力、そして気が遠くなるような
データである
・AGIへの投資は「経済全体」を投じる価値がある。
現在世界経済は100兆ドルの規模で、年間50〜70
兆ドルの賃金が払われている、AGIが実現すれば
それがすべて自動化し、その先まで拡大する
・AGI超知能クラスタの必要性、人々は「GPT用の凄
い設備だ」くらいにしか思っていない
・知能爆発、AIがAIを改良し知能が指数関数的に向
上すること、機会学習研究の10年分の進歩を1年で
達成できる---AIはいかなるテクノロジーとも異質
・・・・・
AGI社会の到来について、時期・リスク・効用などあらゆる面からの会話には引き込まれる。読めば読むほど言っていることがイメージできて、心が凍る。
人類が発生以来経験してきたことが一変する。
技術的根拠にもとずいた彼らの議論は面白い。