岡野原大輔のレビュー一覧
-
-
-
-
Posted by ブクログ
プリファード・ネットワークスの沿革や概念について創業者の視点から書かれている。
会社が掲げる主な理念として４つほど挙げられてる。
Motivation-Driven (熱意を元に)
Learn or Die (死ぬ気で学ぶ）
Proud, but Humble （誇りを持って、しかし謙虚に）
Boldly do what no one has done before (誰もしたことがないことを大胆に為せ)
この４つ、確かに大事だなという気がするし、真っ当なことは大きい会社がさっさとやってしまう。だからこそできるかできないか分からないところに挑戦するといった姿勢は好感が持てた（それができるような資金調達に成功しているのもすごいが）
PFNが強くなった理由も納得できた気がした一冊でした。
やっぱり夢があるって良い -
-
-
-
-
Posted by ブクログ
技術的なことはわからないけど、人文的にAIの登場により仕事や社会がどのように変わるかを知りたい人にオススメ。
極論や陰謀論はなく、理論的にこうなるということが書かれていて、単純になるほどと思う。
例えば、AIによって人間には理解できない答えだけが先に出てしまう。実証的科学的な説明は後からできるかもしれないが、心情的に納得するというナラティブの部分の理解が追いつかない。そのような状況で誰がどのような判断をするか、そしてその責任を誰が取るのか。
本書では人間しか責任を取ることができない、自分の選択した結果の責任を引き受ける主体となることこそが人間とAIの最大の違いということが強調される。
責任をどのように分配するかの制度設計が必要とか、AIの計算結果を検証するには国家的な規模のAIによる必要があるところ、どのように国民的理解を得るかとか、AIの監査、停止などをどのように確保するかとか、スケールが大きすぎて一読者が読んでどうこうできるレベルではない話も多い。 -
-
-
Posted by ブクログ
◯AIが関与する場面で特徴的なのは、判断を行う存在と、その結果を引き受ける存在が一致しないことである。(112p)
◯ 人間の役割は、作業から、目的と制約の定義、統合、監査、停止判断へと重心を移す。(125p)
◯ 解決に時間の猶予がない課題に対して、我々は理解の完了を待たずに、AIという神託を実装するか否かの判断を迫られる。(174p)
★AIとどのように共生すればよいかを考えるために、ヒトの知能の構造について分析しているのが興味深かった。例えば、感情があることで、個人によって興味関心の対象が異なり、多様性が生まれる、など。
★AIエージェントによる自動化が目の前に来ている。誰が責任を負うのか、暴走をどう止めるのか、という制度設計が急務だ。
★教育はどう変わるのか。試験で何を問うのか。考えなければならないだろう。 -
Posted by ブクログ
【全体像】
・AI時代にヒトの知能の何が変わり何が変わらないかを、AIとの対比で整理し、仕事・教育・経済・文化の再設計の見取り図を示す新書である。
・中心の主張は、理解を伴わずに高い成果を出すAIが普及しても、不可逆な選択を引き受ける責任は人間に残る、という点にある。
【第Ⅰ部 ヒト以外の知能(1〜8章)】
・AIは断片的なデータから次を予測する学習を大量に反復する。この方式は強力だが、連続性や世界の厚みを欠き、継続学習が苦手で、破滅的忘却を起こす。
・ヒトは少ない経験からその場で学び、抽象化・因果推論・言語によって圧縮し、個人を超えて共有する。一方で抽象化は偏見や迷信も生む。
・「理解」を五つの観点に分け、AIはその多くをすでに高い水準で実現していると論じる。
【第Ⅱ部 ヒトの知能(9〜14章)】
・個別性と多様性、文化による集団学習、死と有限性、感情、自由と責任、意識と自己を、AIとの対比で論じる。
・共通軸は不可逆性である。やり直せない選択を引き受ける有限な存在だから、ヒトは主体となり責任を負う。評価軸が固定され、何度でもやり直せるAIは、この意味での主体ではない。
【第Ⅲ部 ポストAIの社会(15〜28章)】
・責任:AIが主体のように見えること自体が危うい。責任を個人に還元せず、制度としてどこに置くかを設計すべきだとする。
・仕事:自動化は業務の内部から部分的に進み、実行は分散し判断は集約される。人間の役割は、指揮と統合、そして監査・変更・停止に移る。
・コミュニケーション:交渉は並列化し、代理交渉や委譲が制度化する。自然言語を補う第二の言語層も必要になる。
・教育:地図を持たない者にナビは使いこなせない。個別最適化の功罪を踏まえ、問いを立てる力と学びの主体性が重要になる。
・研究:理解なき発見が常態化し、AIは神託に近づく。理解から検証へ軸足を移す必要がある。
・経済・安全:数十億のエージェントが担う市場は新たな不安定性を生む。契約は自動化できても責任は自動化できない。社会実装には三つの設計原理が要り、権利は感情でなく制度として与えられる。
【実務への含意】
・実行はAIに委ね、人間は統合の判断、停止の判断、責任の所在の設計に注力する。 -
Posted by ブクログ
AIが、単におもちゃや話し相手や便利な道具としてではなく、判断し行動する主体（？）として社会を構成する要素になりそうないま、主に「責任の所在」という観点から、新しい制度設計をしていかないといけない、という話だった。岡野原さんの著書は去年、2023年刊行の『大規模言語モデルは新たな知能か』を読んでいて、そのころ読んだ何冊かのAI関連書籍のなかではいちばん好きだった。どう使いこなすかではなく、どう一緒にやっていくか、という共生のアプローチが、他とは違って感じられたからだ。そのころは、AIとの共生といっても、アトムやドラえもんと友だちになれるみたいな牧歌的SFのイメージを思い浮かべていた。しかし、岡野原さんの本書でのトーンはもっと実務的で、かつ哲学的だ。哲学的という言葉では、現実離れした頭でっかちな思索家みたいな想像をされてしまうかもしれないが、もっとこう、生き方を問われている感じ、ひとりの人間として胸を張って生きられますかと迫る感じ、そういう真剣さのことを言いたかった。
「AIが関与する場面で特徴的なのは、判断を行う存在と、その結果を引き受ける存在とが一致しないことである」
「AIが広く使われる世界とは、判断が消える世界というより、判断過程が不可視になるなかで人間が判断結果を引き受ける世界」
これを読んで、わたしが思い起こしたことのひとつめは、会社の上司が、現場の内実を詳細に把握しているわけではないけれど、部下の報告を信じて（妥当性を見極めて）、「それでいけ、責任はおれがとる」というしくみだ。
もうひとつは、柞刈湯葉のどれかの小説、たぶん『未来職安』だったと思うのだが、すべての業務はAIがするようになったので人間の仕事は「責任をとること」のみとなり、役所の交通課かどこかの一職員だった主人公は、自動運転の車の起こした交通事故の責任を取って辞職する、というシーンがあったこと。そういう仕事だから仕方ないが、理不尽だなあという気持ちも拭えない主人公の気持ちが描かれていた（と思う、『牛球』にも似た短編あり）。
現在のビジネスシーンで、どれくらいAIの判断が活用されているのかわたしは知らないけれど、たしかに「AIがこう言ったから、ああそうなんだと思って従ったら間違ってた」ということは、ことの大小を問わず起こる。今度から気をつけよう、で済むものはいいけれど、社会的影響が大きい場面ではそうもいかない。
湯葉さんの主人公は、AIの責任をとらされて釈然としない思いを抱いている。そんな社会設計ではだめなのだ！ 部下の言うことの妥当性を確認するときのように、AIの判断の根拠や経緯をきちんと追えるのか。チェックポイントがどこなのかがわかるくらいの実務経験やそれに相当する知識が上司（＝AIを使う人間）の側にもあるのか。万が一、実効的には部下（＝AI）が率いているプロジェクトがおかしな方向に進んでいたら、悪影響が出る前にそれに気づき、方向修正や場合によっては停止を命じることができるのか。そういうことをちゃんと社会制度として設計しておかないといけない。
ということは、いま人間の上司と部下からなる組織運営と大枠は変わらないはずだが、人間同士なら不文律になっていることもあるから、同じようにはいかないこともある。また、プレイヤーとしては優秀だがマネジメントは苦手、というタイプの人がいるように、本当にこれから、複数のAIエージェントをストラテジーゲームのように配置して方針を与え監視し調整し導くことが、ある業種や職種における人間の主な仕事になったら、それが得意な人と不得意な人、楽しめる人と楽しめない人がいるだろう。職選び、気をつけないと。
「振る舞いが一貫し、内省的報告がなされ、時間をまたいで同一の存在としてあり続けるならば、社会はそれを主体として扱う。」
「主体として扱われたとき、その判断の帰結をだれがひきうけるのか。結果に責任を持つのが誰かは、社会が決める。」
「判断があり、影響があり、不可逆な結果が生じるならば、そこには社会的に責任を割り当てざるを得ない状況が生まれる。」
この箇所については、本書での主張は「責任の所在を予め設計せよ」という話につながるので前半の感想と被るのだが、本書の話とは関係なく………振る舞いが一貫せず、内省的報告がなされず、時間をまたいで同一の存在としてあり続けないなら、それは社会における主体ではないってことだよね？ どこの政治家、どこの大臣の話？ と思った。 -
-
-
-
Posted by ブクログ
生成AIの学習・進化の仕方を通して、人間の在り方や、これからの社会をどう設計するべきかを問う本。
生成AI、AIエージェントは、確かに便利なツールであるが、進化のスピードが早く、出来てしまうことも指数関数的に増大していく。ただ、生命を持たず、人間のような痛みを感じる身体も持ち合わせておらず、不可逆的な判断も一つの情報・記号として扱ってしまうことのリスクが存在する。原発に似た、ポジ・ネガの両面が存在し得る。
あらためて判断や責任の主体が人間に属するのかの理解を促してくれたし、生成AIとの共存を望むのであれば社会の構造を設計し直す必要性も示してもくれた。
生成AIが導きだす回答を正確に理解することはできず、その回答を後追いする人間が今後どのように立ち振る舞うべきか、そのようなことを概観できる本である。 -
-
