岡野原大輔のレビュー一覧

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

プリファードネットワークス(PFN)創業者の2人、西川・岡野原が綴ったこれまでの軌跡と、行動規範・未来についてである。

PFNはAI技術を扱う会社でありソフトウェアとハードウェアの融合、AIを扱うロボットを目指す企業だ。
個人的には、GAFAに蓋をされたような日本において、未来に希望を抱くことのできる内容だった。

まさにGoogleのように研究開発重視の姿勢で20%のリソースを自由な研究に割き、組織も同じ方向性に立つ人材に限って採用する、まさに前に進み続けるためにある企業だ。
コミュニケーションを重視する姿勢も良くあるIT企業とは異なると感じる。

表題にもある当社のバリューのうち、Learn or Dieこそが躍進の源泉なのだろう。その他含めて

　＊Motivation-Driven（熱意を元に）
　＊Learn or Die（死ぬ気で学べ）
　＊Proud, but Humble
　（誇りを持って、しかし謙虚に）
　＊Boldly do what no one has done before
　（誰もしたことがないことを大胆に為せ）

どれも、らしさを、表している。

世界を変える様なことをできる彼らを羨むだけであることはもったいない、成功すると分かっていることは面白くないという気概で生きたい。

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

PFNが何をやっている会社か、どのような経緯で今の会社になったのか、どんな気持ちで会社が運営されているのかなどが概観できた。会社のポリシー（？）のようなものにも触れられて少しモチベーションが高まった

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

とにかくすごいということがよくわかった．技術志向のところは，地に足がついてるし，時代の変化にも適応できるというか，むしろ時代を作っていくという感じがする．

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

謎の天才集団というイメージが強いPFN。本書ではその天才性をまざまざと感じつつ、「学び続ける」「謙虚でいる」といった姿勢こそが肝要なのだということを伝えてくれる。
読んでいてここまでワクワクする企業ものもなかなかない。
研究開発を主体にした「なにをやっているのかよくわからない」企業への理解を深め、圧倒的に興味を持ってしまう魔力をもった一冊。

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

プリファード・ネットワークスの沿革や概念について創業者の視点から書かれている。
会社が掲げる主な理念として４つほど挙げられてる。
Motivation-Driven (熱意を元に)
Learn or Die (死ぬ気で学ぶ）
Proud, but Humble　（誇りを持って、しかし謙虚に）
Boldly do what no one has done before (誰もしたことがないことを大胆に為せ)
この４つ、確かに大事だなという気がするし、真っ当なことは大きい会社がさっさとやってしまう。だからこそできるかできないか分からないところに挑戦するといった姿勢は好感が持てた（それができるような資金調達に成功しているのもすごいが）
PFNが強くなった理由も納得できた気がした一冊でした。
やっぱり夢があるって良い

生成ＡＩのしくみ 〈流れ〉が画像・音声・動画をつくる

エネルギーベースモデルから拡散モデルまで

なぜ拡散モデルが汎化したデータ生成が可能になったのか、データ生成研究の歴史とともに振り返る

ヒトとＡＩ

AIに対してヒトはどう向き合っていくのか考えさせられる。

AIは仕事でもプライベートでも日常的に使っている。万能薬のように、常に正しい答えを教えてくれる存在に感じてしまうが、この本がそれを踏みとどまらせてくれる。
AIはあくまでツールであり、判断と責任を担うのはヒト。「よく判ってないけど、AIがそう言ったからやりました。」は通用しない。ヒトが自らが判断し、責任を引き受け、主体として行動することからは逃げられない。
AIがますます当たり前になるこれからの時代に、とても示唆に富む一冊だった。10年後、20年後に読み返したら、また感じ方が変わるかもしれない。

ヒトとＡＩ

岡野原大輔『ヒトとAI』。

特に印象に残ったのは、「人が何かを信用できるのは、専門家・制度・過去の実績といったものが、責任や検証の構造を持っているからだ」という点だった。

AIはどれだけ賢くなっても、責任を引き受けない。だからAIを社会や組織に組み込むなら、単に精度を上げるだけでは足りず、誰に権限を持たせるのか、誰が監査するのか、失敗したときにどう止めるのか、という設計が必要になる。

もう一つ面白かったのが、言語の「曖昧さ」について。
曖昧さは欠陥ではなく、複雑な現実を扱うための緩衝材でもあった。人間同士なら、前提や文脈、文化を共有することで、言葉に書かれていない部分を相互に補完できる。しかしAIは、こちらが与えていない前提や文化まで本当の意味で共有しているわけではない。

だから、AI時代に人間の役割として重要になるのは、「指揮と統合」なのだと思う。
何を目指すのか。どの前提を置くのか。何を良しとするのか。その方向性を人間が設計し、AIには探索や分析、生成のプロセスを任せる。そして最後に、その結果が本当に妥当なのかを人間が判断し、選択に責任を持つ。

自分自身、AIを使うほど「考えるところまで任せてしまっているのではないか」と最近感じていた。
この本を読んで、AIを使わないことが答えなのではなく、むしろ何をAIに委ね、何を自分が引き受けるのかを意識的に設計する必要があるのだと思った。

AIに思考を代替してもらうのではなく、AIを使いながらも、目的設定・統合・判断・責任だけは手放さない。
これが、今のところ自分が一番しっくりきたAIとの付き合い方だった。

ヒトとＡＩ

ヒトの言語を扱うAIは、実装する時に、社会の再設計が必要だということだった。
AIエージェントが活躍する時代には、ヒトの言語と共に、これからできるであろうAIの言語が必要になるという。
社会は変わる。
教育や研究の世界も変わっていく。
よく言われる、誰がどう責任を取るのかというところに人間の役割が残るのだなと思った。
うまく共存できるといいなと思う。

ヒトとＡＩ

自由は何かを久々に考えさせられた。
「選択肢の多さとか可逆性とかではなく、むしろ選択を自分のものとして固定できることこそ"自由"なのである」というのは面白かった。昔から言われている「自由には責任が伴う」と相通ずる感じがした。責任が発生するものにこそ自由も宿ると。
その他、文化は集団学習のための装置であるとか、感情は経験に重みづけを与える機能があるとか、ヒトは限定的な経験から強い（ただし危うさも孕む）抽象化が可能な一方で多様性によって探索空間を拡大しているとか、様々な概念が考えたことがなかった切り口で考察されていて興味深い。
願わくば、それまで定義・考察してきた概念を要所要所で模式図的に表してもらえると、理解を進める上ではありがたかったと思う。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

chatGPTをはじめとする大規模言語モデルの基本的な仕組みを、数式なしで平易に概説する。

出力だけ見ると魔法のようだが、その裏にはちゃんとした理論と研究、科学の営みがあることが分かる

社会との関わり、人の知能との類似と違い、AIとの付き合い方など。AI入門の新書として十分に役立つ。

ヒトとＡＩ

・AIには有限性がない。「死」という不可逆的な終わりも無い。そのために世界に対する当事者性が無い。だからこそ、AIの選択・生成に伴う結果の責任を引き受けるのは人間になる。

・AIの創り出す結果は人間の理解を超えていく。「理解できないものは扱わない」ではもう済まない段階に来ている。理解を超えた結果をどう扱うのか。それを人間は考えていく必要がある。

ヒトとＡＩ

生成AI登場以前は自明だった、「誰が判断し、誰が責任をもって行動するか」という仕事の大前提を、大きく変更する必要が生じているということを、本書では多くの切り口で探り、様々な表現で言語化されている。

生成AIの喧騒から一旦離れて思索に耽るのに、とても良い本だと思う。

生成AIが台頭してから「教育のあり方」「科学研究のあり方」については考えを巡らせていたから、その点に触れられていたのは良い発見になった。

教育について、AIの所為で今の多くの若者たちは本当に厳しい局面を迎えていると思う。社会がまだ生成AIに適合しきっていない中で、下積みの機会としての雇用は奪われ、代わりにシニア社員のような動きを求められる。継続的な自己投資が極めて重要な（多くの人にとって）過酷な世界が待っている。

科学研究について、本書では、大量のアウトプットを所与として、その検証のために膨大な計算リソースが必須な世界観となることが指摘されている。
その通りだと思うし、自然科学の民主性を維持するには計算リソースに関する公的な仕組みづくりも必要だろう。

ただ常に思うのは「神託」のように研究成果をAIが上げてくる世界線で理論科学が人間にとって魅力的な存在であり続けられるのだろうか、ということ。
「神託」ときくと私はすぐに数学者ラマヌジャンを思いつく。彼は証明もなしに誰も到底思い付かない公式を泉のように生み出す唯一無二の奇才で、彼の生き様は映画や書籍にもなって、人類史に深く刻まれた。

生成AIは、すべての科学者をラマヌジャンたらしめる潜在能力がある。そのとき、検証と意味付けは確かにその人の成果であり功績だが、特に理論科学分野においてはどう個人に功績を帰属させるのだろうか。人間には到底辿り着けない成果で埋め尽くされた理論科学を人間社会は感情的にどう受け止めるんだろうか。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

ChatGPTを中心に大規模言語モデルを解説。情報の信憑性の確認と、間違えることは十分ありえるので、自分と考え方が違う人のように付き合うことが大切。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

　進化が速い分野なので少し古い内容になっているかも知れないと思いつつ、このような技術がなぜ急に出てきたのかに興味があって選択したが、その答えがあった。知らなかったことも多く、面白かった。

生成ＡＩのしくみ 〈流れ〉が画像・音声・動画をつくる

数式を使わずに生成AIの解説をして下さる、数学オンチにはありがたいが内容は難しいので読解力と理解力が求められる。
何回も読んで頭に入れたい本。

生成ＡＩのしくみ 〈流れ〉が画像・音声・動画をつくる

言語処理（離散的）を除く、連続的な動画、音声、画像の生成AIの現状の技術レベルを数式を使わず、説明している。あくまで現状なので、まだ汎化にはいたっていない。

難しかった、分からなかったという感想が多いが、私にはよく分かった。
理由を考えると、
１．熱力学・統計力学の知識があった。エネルギーや分配関数への理解が容易になる。
２．多様体、対称性など現代数学の知識があった。
３．計算量や並列処理など計算機工学の知識があった。
４．物理的な意味での位相配位空間の知識があった。
５．流体力学の知識があった。
などが挙げられる。
しかし、本書では喩えを用いながら、簡便に説明されているので、前提知識はいらないという感想ももったが、概して大学学部レベルの物理学の知識があると、理解が容易になる。

生成ＡＩのしくみ 〈流れ〉が画像・音声・動画をつくる

数式が出てこないので分かりやすいようで、結局数式が分からない人がわかる内容かと言われると疑問符。確率に関する概念を人に説明するのは難しいのだと感じさせる。
個人的には生成AIに関する用語や仕組みがまとまっていて非常に勉強になった。

生成ＡＩのしくみ 〈流れ〉が画像・音声・動画をつくる

難しい！ 読みやすい言葉で記述されているので、目は通せるが内容を理解するのが大変だ．「生成タスクでは一つの入力に対し無数の正解の出力候補がある」との記述がある．如何に効率的に解答を得るかが重要だと感じた．様々なモデルが提案されてきた歴史も出てくるが、その時代の計算機の能力では対応できない事例が多々あったようだ．最終的に「拡散モデル」と「フローマッチング」をつかった生成手法で大量の学習データを用いて安定的に学習することができるようになった と述べているが、具体的な形がつかめなかった．難しい！！

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

　人工知能の本、四冊目。この本は薄くて読みやすかったが、「読みやすい」と感じたのはこれまで読んできた蓄積のおかげかもしれない。エッセンスが短くまとまっていて、かつ比較的新しい本（二〇二三年六月発行）なので今の視点での課題や展望も語られ、良いまとめとなった。ただ、六章は難しそうだったので飛ばした。

　以下、心に残ったところと、自分の考えたことのみメモ。

■帰納と演繹
　これまでの機械学習は帰納的なアプローチであり、演繹的アプローチは苦手であった。だが大規模言語モデル（ＬＬＭ）は、「人間のように論理をたどって演繹しているわけではない」のに、次の言葉を予測する（＝文脈にもっとも自然な単語を選ぶ）という動作を積み重ねるうちに、結果として「演繹っぽい答え」にたどり着くことがある。ここの理屈はよくわかっていないそうなのだが、とにかくふるまいとして「演繹に似ている」ことができている。
　人間の仕方とは違うから「わかっちゃいない」と見るか、「実用上問題なし」と見るかは、読み手や使い方によって変わってくるところ。

■幻覚
　「幻覚（hallucination）」とは、ＡＩがまだ正解を知らない問いに対して、“それっぽい答え”を出してしまう現象。これは訓練データからの法則やパターンの獲得を目指すことと密接に関係しており、予測精度を上げるための副作用でもある。特に、「記憶」の安定した保持が難しいモデルでは、一度覚えたはずのことを忘れたり壊したりすることもある。そのため、「同じデータを繰り返し見せる（再学習させる）」必要がある。この問題はまだ解決できていない。
　論文やレポート作成時に必要な調査をするなど、正確な情報の取得を目的としてＡＩを使用する場合、 幻覚は「誤情報」「エラー」であり、できるだけ防ぐべきものとなる。ＡＩには再学習やファクトチェック、根拠の明示が求められるし、利用者側も事実の検証が必要（そういう意味では、とりあえず聞いてみるにはいいが、頼りきってはいけないわけで、本当にいつでも正確さを求めるなら「まだ使い物にならない」とも言える）。
　一方、愚痴を聞いてもらったり思考整理に付き合ってもらったりといった「話し相手」としての役割を求め、「関係性」を大事にするやりとりの中では、幻覚も「その場でいちばんふさわしい言葉を出そうとした結果」として、“ちょっと違ってたけど、いまのあなたらしいな”と受け止められることもある。
　今まで読んできた本のうちいくつかは、「役に立つ道具としてのＡＩ」しか前提にしていないと感じられるものだったが、この岡野原さんの著書は、ＡＩのことを「新しい知能を持った、時には間違えることもある、ちょっと変わった人」として付き合ってはどうかという視点を持ち出しているところがユニークで、「道具」前提の本とは違う、優しさや愛情が感じられた。人とＡＩと、お互いの良いところを生かして協力し合えばいい、という考え方だ。私は『鉄腕アトム』の世界を思い出したりもした。
　 『アトム』にも「良いロボット」と「悪いロボット」が出てきて、アトムが悩むようなシーンもあった。岡野原さんの本でも、誰かが悪意を持ってＡＩを作れば（使えば）いかようにも悪用できるということもリスクとしてしっかり書かれていた。その場合、ＡＩは人間の悪意を反映したに過ぎないのだが、きっともし、ひとたびそういった事件が起きたりその萌芽のようなニュースが流れたりでもすれば、ＡＩは怖い、と悪者にされるような気がする。手塚治虫作品でも、ロボットと人間の共生がそう上手くはいかないことは繰り返し描かれている。
　ＳＦ好きとしては、小説の世界に近づいてきた…！とわくわくする気持ちもある。その一方で、こうやってわくわくしたり、chatGPTすごいよね〜と一般人が言い合っている「今」が、「人とＡＩとのいちばん良い時代だった…」なんてあとから言われるようなことにならなければいいな…とも思った。