岡野原大輔のレビュー一覧
-
Posted by ブクログ
「定義の書き換え」という大テーマで、これからの「AIがある社会と、ヒトの働き方、生き方」を読み解いてみせた傑作。注目すべきは、AIが活躍するようになって、僕らにとって何気なく使っている概念が書き換えられること。
でもそれは突飛な議論では決してなくて、そもそも「自由である」「創造性がある」といった状態や、「理解する」「仕事する」といった動詞が、どういうことを定義していたのか？ということを言語学者のように観察して、丁寧にとりあげている。だから過剰な煽りはない。でも深淵に触れているからゾクゾクする。これぞ新書！という素晴らしい気付きに溢れている。
個人的には、「創造性」の項目が、頷きまくるとともに、納得できない点もあり、はてさてどう仕事に活かしていくか？と深い問いに誘われてしまった。 -
-
-
-
Posted by ブクログ
ネタバレAIについて語るとき、話は二つに分かれがちです。「仕事も暮らしも楽になる」という期待と、「人間の仕事が奪われる」という不安です。しかし本書が投げかけるのは、もう一段深い問いです。AIが何をできるかではなく、AIが出した答えを使った結果を、最後に誰が引き受けるのか。本書はこの問いを軸に、機械学習の仕組みから、人間の感情や自由、仕事、教育、研究、経済までを一本の線でつないでいきます。
中心にある考えは明快です。AIに判断を任せることはできても、責任まで消してしまうことはできない、ということです。たとえば、カーナビが道を示しても、それを選んで走るのは運転者で、そこで起きたことも運転者の現実になります。買い物の推薦なら選び直せるかもしれません。けれども、契約、採用、医療、投資のように、一度の決定が人や組織の将来を変える場面では、「AIがそう言ったから」だけでは済みません。便利さが増すほど、人間は判断から解放されるのではなく、どこまで任せるかを決める責任を負うのです。
第1部は、AIの仕組みを数式なしで説明します。従来のコンピュータは、人間が書いた手順どおりに動く「規則を実行する機械」でした。機械学習によって、それが大量の例から規則そのものを見つける「規則を獲得する機械」へ変わった。この説明を押さえると、内部の判断過程を人間が完全には説明できなくても、AIが多くの場合に有用な答えを出せる理由が見えてきます。結果が先に出て、人間の理解が後から追いかける。これが、生成AIの登場によって広がった新しい順序なのだと本書は説きます。
とくにわかりやすいのが、AIと人間の学び方の違いです。AIは、人生を最初から最後まで生きるように学ぶのではなく、切り取られた文章や画像を大量に見て学びます。無数の短い動画を次々に見るようなものです。だからこそ、分野をまたいで共通点を探すことに強い。一方で、失敗の痛みや後悔を、自分の人生の出来事として蓄えるわけではありません。また、新しいことを覚えると以前の能力が崩れる「破滅的忘却」も起こり得る。本書はこれを、算数を学んだら自転車に乗れなくなるようなものだと説明します。難しい技術用語が、すっと頭に入るたとえです。また、人間が少ない経験から学べる理由を、身体や感情を伴う「世界の厚み」と、経験を抽象化して言語で共有する力から説明します。
ただし、本書はAIを「何も理解していない機械」と片づけません。理解を、未知の問題への対応、原因と結果の把握、もし別の選択をしたらどうなるかという想像、環境変化への適応、理由の説明という複数の能力に分ければ、現在のAIはすでに多くを高い水準で実現していると認めます。重要なのは、知的な能力と、結果を背負う当事者であることを分けて考える点です。AIが賢いかどうかと、AIに責任を負わせられるかどうかは、同じ問題ではありません。
第2部では、AIを鏡にして人間の特徴を、個別性、文化、有限性、感情、自由と責任、自己という六つの角度から捉え直します。人は同じ出来事を経験しても、好奇心、恐怖、誇り、後悔などによって、そこから学ぶことが違います。感情は理性を邪魔するだけのものではなく、何を覚え、何を避け、何を大切にするかを決める「心の採点表」でもある。そして人間には寿命があり、時間も選択肢も有限です。すべてを試せないから、一つを選び、ほかを捨てなければならない。この取り返しのつかなさが、判断に重みを与えるという説明には強い説得力があります。
ここから、本書は自由の意味も捉え直します。自由とは、選択肢が多いことでも、何度でもやり直せることでもない。自分が選んだ結果を、自分の履歴として引き受け続けることだというのです。AIは多数の候補を比較し、有力な案を示せます。しかし現在のAIは、その案の帰結を、人間のように自分の生の履歴として背負うわけではありません。人間はAIより常に賢いから最後に決めるのではなく、結果が残る世界の当事者だから決めなければならない。この整理は、AI時代の人間らしさを精神論ではなく、選択と責任の構造として示しています。
第3部になると、議論は仕事や制度の設計へ下りてきます。ここが本書の実務的な強みです。責任を、仕組みをどう作ったかという「設計」、どの目的と条件で使ったかという「運用」、異常の兆しに気づいたとき変更または停止できたかという「介入」の三つに分けます。事故が起きてから担当者を探すのではなく、誰が何を承認し、どこで止められるのかを先に決める。AIに与える目的、制約、権限、記録、停止条件を、安全帯や手綱に当たる「ハーネス」として用意する。この考え方は、AI導入を検討する企業が、そのまま会議の論点に使えるほど具体的です。
仕事についても、「AIで職業が消えるか」という単純な予測はしません。仕事を、探す、判断する、実行する、確認するという工程に分けると、AIは大量の探索や実行を並行して進められます。そのぶん人間の役割は、目的を示す「指揮」、多くの候補から一つを選ぶ「統合」、経緯を追えるようにする「監査」、進路を直す「変更」、危険なときに終わらせる「停止」へ移る。実行にかかる作業量の制約が緩む一方で、選択の重みはむしろ増すという指摘は、実際にAIを仕事で使う人ほど実感できるはずです。
教育、研究、創造性についての考察も印象に残ります。AIが答えを出せるからこそ、人間には、その答えの前提や誤りを見抜く基礎知識が必要になる。教育では、暗記した知識を再現するだけの比重が下がり、自分で問いを立て、AIの答えを検証し、自分の名で提出できるかを訓練する意味が増す。研究では、AIによる発見が人間の理解より先に進み、研究者は候補の意味と安全性を判断する役割を強める。創造性も、案をたくさん出す力から、無数の案を打ち切って一つを完成させる力へ移る。外国語学習も、翻訳文を作るためではなく、その言葉が持つ距離感や含意を自分で確かめるために残る。別々に見えるテーマが、最後には「選び、確かめ、引き受ける」という同じ問題へ戻ってきます。
全3部28章と射程は広いのですが、説明は身近です。火やゲームなどの身近な例も交え、難しい哲学用語や技術用語を、日常の判断へ置き換えてくれます。また、AI礼賛にも人間礼賛にも寄りません。AIの強さを正面から認める一方、人間の思い込みや偏見も抽象化の副作用として扱います。AIを過度に恐れず、かといって無条件に信じないという距離感が、本書全体を落ち着いたものにしています。
もっとも、注意して読みたい点もあります。AIの継続学習が進み、有限性を持たせる設計が採られれば、人間との境界は動く可能性があります。著者自身も、その可能性をあとがきで認めています。したがって、AIは永遠に主体になれないという断定ではなく、現在のAIと制度を考えるための有力な見取り図として受け取るのがよいでしょう。また、AIがどう判断し、誰が責任を引き受けたかを後から確かめられる形で残す「第二の言語層」や、研究者が共同で使える公的な計算基盤など、重要な構想は示されますが、組織にどう導入するかという手順までは書かれていません。すぐ使える製品操作やプロンプト集を求める人には、別の本が必要です。
それでも本書の価値は大きいと思います。AIを使う経営者や管理職、プロダクト担当者、法務・リスク管理の担当者には、権限と責任を設計するための共通言語になります。教育者や研究者、学生には、学ぶことや理解することの意味を問い直す材料になります。そして一般の読者にとっても、AIを「人間の代わり」ではなく、人間とは何かを映す鏡として考える入口になります。AIが答えを作る時代に、人間に残るのは、答えを選び、必要なら止め、その結果を引き受ける仕事です。その重さを恐れるためではなく、よりよく使うために理解させてくれる一冊でした。 -
Posted by ブクログ
ＡＩの進歩を「後戻りのできない変化」と捉え、これまでの判断・意思決定・責任などに関する捉え方が揺らぎ始めていると説いています。
例えば、「第Ⅲ部 ポストAIの社会――制度・経済・責任」の「第15章 責任は誰のものか」において、Ａｉが関与するシステムでは「設計責任」「運用責任」「介入責任」の複数の層に責任が分配されると説明しており、まさに企業においてＡＩを導入し活用していく際の課題が具体的に指摘されていると思いました。
また、「第17章 ポストAI時代の業務(1)――指揮と統合」では「指揮」「統合」が、「第18章 ポストAI時代の業務(2)――監査・変更・停止」では「監査」「変更」「停止」についても言及されており、ＡＩが社会に取り入れられるにおいては、これまでの業務や体制についてこれまでにない新たな考え方で臨まなければならないことが分かりました。
個人的には教育に関心があるので、「第21章 教育の更新」において、「地図を持たぬ者に、ナビは使いこなせない」では「教育において知識はもはや「答えを出すための道具」ではなく「足場」となること、「学習の個別最適化の功罪」では「共通体験の喪失」が起こり分断リスクの副作用があること、「教師・学校・学びの場の役割の変化」・「コラム 試験はどうなるのか？」では教師の役割や試験の変化（本書でご確認ください）がどう起こるか書かれており、とても興味深く、いろいろと考えてみよう（考えなければならない）と思いました。
知能について、「ヒト以外」「ヒト」から説き起こされているので知識の整理にもなりますし、これからは「後戻りができない」のだという自覚をもたらしてくれる本です。
生成ＡＩを利用するための基礎知識として、また、議論の現状をとらえて必要な個別分野を検討するための足掛かりの本としてもオススメいたします♡
・蛇足ですが、
8月15日（土）の毎日新聞の「人生相談」に面白い相談と回答が載っていました。
まず、相談はこうでした。
「文学賞が欲しいのでＡＩに書いてもらおうと思うが、最短の方法は？」
そして、回答者の作家 高橋源一郎さんの回答をかいつまんで書くとこうでした。
「ＡＩにどんどん書いてもらえば良いですが、どれを応募しようか判断するのは読解力で、読解力がつく一番の方法は「自分で書くこと」なんですよ。」
どうですか？ イイね♪を押したくなるでしょ？
さらに極めつけの最後の言葉はこうでした。
「小説を書くうちに、何かを生み出す以上に面白く楽しく刺激的なものなんてないことがわかるでしょう。こんな素晴らしいことをＡＩにやらせておくなんてもったいないじゃありませんか。」
♪♪♡♡♡！！
〔作品紹介〕
AIと共に生きるなかで、私たちは自己の再定義と社会の再設計を迫られている。AIが知の領域に組み込まれるなかで、仕事や教育のあり方はどのように変化し、経済や文化の枠組みはいかに再編されるのか。そしてヒトという存在の何が変わり、何が変わらないのか。AIが前提となる時代の見取り図を第一人者が提示する。
（目次）
はじめに
第Ⅰ部 ヒト以外の知能
第１章 学習する計算機
学習する計算機と、説明できなくなった人間
理解する前に答えがある世界へ
第２章 学習とは何か
模倣する学習から、試行錯誤する学習へ
なぜ人は「理解していないもの」に従うのか
わからないものに判断を委ねるとはどういうことか
理解を前提とした判断の限界
コラム 学習の三つの基本形
第３章 AIは断片的な世界で学習する
断片的な学習がもたらす強さ
連続性を持たない学習の限界
AIは表面的にしかわかっていない
世界の厚みを持った人の学習
コラム 大規模言語モデルの学習
第４章 AIは継続学習が苦手
分散表現が生む「記憶の干渉」
破滅的忘却
AIは忘れながら覚え直している
反復によって成立する学習
第５章 なぜヒトは少ない経験から学べるのか
生存戦略としての「その場学習」
多次元的で高密度な学習
記憶の固定化と干渉の回避
抽象化という圧縮装置
第６章 抽象化の力と副作用
カテゴリ化
因果を見出したいという欲求
抽象化や因果推論が生む誤りと迷信
抽象化と偏見
人とAIの抽象化の違い
抽象化は知能の加速装置であり、不安定化要因でもある
第７章 究極の抽象化である言語
個人を超える学習
曖昧さの強さ
離散化とコピー可能性
無限の表現力
AIが言語を扱うということ
さまざまな情報をつなぐハブとしての言語
第８章 AIは理解しているか
言語の理解と世界の理解
理解を構成する五つの観点
AIは五つの理解をすでに高い水準で実現している
コラム 文脈内学習
第Ⅱ部 ヒトの知能――AIとの対比からみる特徴
第９章 個別性と多様性――同じ世界でも、異なる世界にいる
評価軸の違いからの個別性
多様性は探索のための設計原理である
AIとの対比――評価軸の固定という制約
第10章 文化――個人を超えて学ぶ仕組み
文化がもたらす集団学習
評価軸の外部化
文化を持たないAIとの対比
第11章 死と有限性――不可逆な有限性が知能を形づくる
不可逆性が選択を生む
死と集団の学習
AIとの構造的な違い
第12章 感情――学習を駆動する内的報酬
感情の起源――身体状態のモニタリングから社会的評価へ
感情は経験に重みを与える
内的報酬としての感情
感情と個別性
AIは感情を持ちうるか
第13章 自由と責任――選択を引き受ける主体
主体なき選択は自由ではない
不可逆性としての自由と責任
AIはなぜ自由ではないのか
自由と責任の再定義
第14章 意識と自己――「私」はどこに宿るのか
自己モデル――行動を「自分のもの」にする短期記憶
目標――行動に方向を与える軸
内省能力と主観経験
AIはどこまで主体か
社会的主体と責任の所在
第Ⅲ部 ポストAIの社会――制度・経済・責任
第15章 責任は誰のものか
責任が生じる三つの条件
「主体があるように見える」ことの危うさ
AIにおける責任のズレ
責任はどこに置かれるのか
責任を個人に還元しないために
第16章 仕事の再設計――AIが業務に溶け込んでいく
変化は連続的に、まず仕事の内部から起きる
エージェントとハーネス
文化という巨大なハーネス
仕事は部分的に、構造から自動化される
実行は分散し、判断は集約される
監査可能性と責任の所在
新規事業に見る人間の役割
第17章 ポストAI時代の業務(1)――指揮と統合
指揮という仕事
統合という仕事
統合と経営判断の関係
第18章 ポストAI時代の業務(2)――監査・変更・停止
監査とは何か
変更という介入
変更に伴う責任
停止という不可逆な境界を引く判断
設計として引き受けられる責任
第19章 コミュニケーションの再設計――交渉が並列化し、委譲が制度になる
会話の高速化から、合意形成の構造化へ
代理交渉と専門性の外部化
委譲が制度になるということ
日常生活へ浸透するエージェント交渉
注意と責任の再配分としてのコミュニケーション
第20章 言語の再発明
自然言語が前提としてきた人間同士の了解
自然言語の第一の制約――一次元の流れ
曖昧さという緩衝材の限界
第二の言語層
自然言語を補ってきた人工言語の延長として
AIにとって自然言語は特別ではない
第21章 教育の更新
地図を持たぬ者に、ナビは使いこなせない
学習の個別最適化の功罪
問いを立てる力と学びの主体性
教師・学校・学びの場の役割の変化
コラム 試験はどうなるのか？
第22章 研究開発の逆転
理解なき発見の常態化
整理する者から意味づける者へ
神託への接近
第23章 神託としてのAIと科学研究
納得と制御の分離
神託としてのAI
理解から検証へ――神託の飼いならし方
制度としての責任
第24章 エージェント社会とRTS
エージェント社会とは何か
RTSゲーム
人間は「司令部」という位置に現れる
エージェント社会の構造
拡張するエージェント社会
第25章 引き返せない選択としての創造性
「終わらせる」という特権
責任という名の創造性
第26章 なぜ外国語を学ぶのか
翻訳できることと、外国語がわかることは違う
言語を学ぶとは、生成規則を覚えることではない
内面化された生成空間としての言語
生成を手放したあとに残るもの
第27章 数十億のAIエージェントが経済活動を担うとき――主体・契約・市場の再編
法人とAIエージェントは何が違うのか
契約は自動化できても、責任は自動化できない
エージェント市場が生む新しい不安定性
人間に残る役割――主体を設計するという仕事
第28章 AIを社会に組み込むための設計原理
内部からの逸脱――制御不能のリスク
外部からの武器化――悪用のリスク
社会実装のための三つの設計原理
権利は感情ではなく制度である
おわりに――AIと共に変わるヒト
参考図書
あとがき -
Posted by ブクログ
Preferred Networks、Matlantis CEOの岡野原大輔さんが、これからのヒトとAIの関係性について語る本。
本書で一貫するのは、AIには当事者性がなく、判断を委ねることはできても責任を委ねることはできない、という立場である。ただ、「主体」「有限性」「自分のものとして引き受ける」とは一体何なのか。身体を持つロボットが体感的に世界を学習したら主体になれるのか。読みながらいろんな疑問が浮かんだ。
特に面白かったのは、引き返せない時間の中で無数の選択肢から一つを選び続け、その履歴によって人間がそれぞれ違う「尖り方」をしていくことが、社会全体の安定性につながるという話。人間の集団免疫にも似ていて、めちゃくちゃ同意した。
AIエージェント時代には、暗黙知を過剰なくらい言語化する必要がある、という指摘も、自分の研究経験とかなり重なった。AIについての本でありながら、「人間とは何か」をかなり考えさせられる本だった。 -
Posted by ブクログ
整理された議論が展開され、とても読みやすい一冊でした。夏休みに読む本としてお勧めしたいです。
AIについてある程度ご存じの方は「第Ⅲ部 ポストAIの社会」から読まれてもよいでしょうが、そうでない私は「第Ⅰ部 ヒト以外の知能」「第Ⅱ部 ヒトの知能」も興味深く読みました。むしろこれらがあったからこそ、本書を最後まで読み進められたと思います。
「第Ⅲ部 ポストAIの社会」では、「第15章 責任は誰のものか」「第18章 ポストAI時代の業務（２）ー監査・変更・停止」が、責任の設計という避けられない課題を強く意識させてくれました。一方、「第17章 ポストAI時代の業務（１）ー指揮と統合」は、ものづくりの世界では従来から意識されている視点だな、という印象です。
次に「第20章 言語の再発明」は、文脈依存性が高いとされる日本語話者として、意識的である必要を感じました。
そして「第21章 教育の更新」における「共通体験の喪失」による社会分断のリスクは、個人的には最も深く危機感を抱いた箇所です。
「第28章 AIを社会に組み込むための設計原理」は、これまでの議論のまとめです。ここだけ読めば「それはそうでしょう」と思う方もいるかもしれませんが、全体を読んだ私としては、この章がアンカーの役割を果たしてくれ、構成としてとてもありがたかったです。 -
-
Posted by ブクログ
ネタバレ『ヒトとAI』添付箇所のまとめ・結論・示唆
以下は、岡野原大輔『ヒトとAI』の添付箇所と、ご提示いただいた文章を統合して整理したものです。
1. 全体要旨
本章が提示している中心命題は、AI時代の創造性とは、無数の可能性を生み出す能力ではなく、可能性を切り捨て、一つを選び、その結果を引き受ける能力であるということです。
生成AIは、文章、画像、コード、設計案、研究仮説などを高速かつ大量に提示できます。従来は「何も思いつかないこと」が創造のボトルネックでしたが、AI時代には逆に、候補が多すぎて決められないことがボトルネックになります。
したがって、創造性の重心は、
生み出すこと
から
選び、終わらせ、責任を負うこと
へと移動します。
AIは技術的には案を順位づけし、一案を選ぶこともできます。しかし、その選択を「社会的に正当な決定」として確定し、失われた可能性や不可逆的な結果を引き受ける主体にはなれません。最終的な選択は、依然として人間と制度の側に残ります。
⸻
2. 主要論点
2-1. 創造性は「無から有を生む力」ではなくなる
従来、創造性は、独創的なアイデアや前例のない表現を生み出す能力として理解されてきました。
しかしAIは、既存の人間には思いつかなかった組み合わせや表現を大量に生成できます。そのため、「新しい案を生み出すこと」だけでは、人間固有の創造性を説明できなくなります。
AI時代の創造性は、むしろ次の行為に現れます。
* 無数の可能性の流れを止める
* 評価基準を設定する
* 一つを選び、他を捨てる
* 作品や意思決定を完了させる
* 選択の結果を自分のものとして引き受ける
つまり、創造とは可能性を増やす行為であると同時に、可能性を切断し、現実を一つに固定する行為でもあります。
⸻
2-2. AIには「終わらせる」という責任主体性がない
AIは「もっと良い案」を際限なく生成できます。ある案を改善し、別案をつくり、さらに比較することもできます。
一方、人間はどこかで、
十分に検討した。これを採用する
と判断しなければなりません。
作品を完成させることは、単なる生成停止ではありません。生成可能だった別の作品、別の解釈、別の未来を意図的に捨てる行為です。
ここに、人間とAIの決定的な違いがあります。
AIは計算上の最適解を提示できても、なぜ今この時点で探索を終えるのか、その選択によって何を失うのか、結果に対して誰が責任を負うのかを、自らの社会的立場として引き受けることはできません。
したがって、AI時代の人間に残るのは、単なる「最終確認」ではなく、探索を終わらせる権限と義務です。
⸻
2-3. 創造性の民主化は、責任の民主化でもある
生成AIによって、専門的な技能を持たない人でも、文章、画像、音楽、映像、プログラムなどを制作できるようになります。
これは「誰でもクリエイターになれる」という創造性の民主化です。
しかし、創造できる人が増えるということは、同時に、
* 何を生成するか
* どの案を採用するか
* 何を公開するか
* どのような影響を生むか
について判断を求められる人も増えるということです。
AIが数千の案を提示しても、その中から一つを選んだ瞬間、AIが選んだという説明だけでは責任は消えません。採用し、利用し、公開した人間の判断が残ります。
したがって、創造性の民主化とは、能力の民主化だけではなく、不可逆的な結果を引き受ける責任の民主化でもあります。
⸻
3. 「AIによる発見が先にあり、理解が後から追いかける」
ご提示いただいた文章は、本書全体の重要な問題意識を端的に表しています。
従来の研究や意思決定では、おおむね次の順序が想定されていました。
理解する
→ 仮説を立てる
→ 探索・実験する
→ 答えを得る
しかしAIによる探索では、順序が反転します。
AIが有望な答えを発見する
→ 人間が結果を検証する
→ 後から原理や意味を理解する
AIは、特定の学問分野や専門家共同体の常識に強く拘束されず、膨大な変数や異分野の情報を同時に探索できます。
人間が一つの専門分野というレンズを通じて世界を見るのに対し、AIは、無数のレンズを重ね合わせた探索を行います。そのため、既存の専門分野の境界や分類の隙間に埋もれていた、いわば「谷間の解答」を発見できる可能性があります。
ここで重要なのは、AIの答えが直ちに「理解」になるわけではないことです。
AIが相関や有効な構造を見つけても、
* なぜ成立するのか
* どの条件で再現するのか
* どこまで一般化できるのか
* どのような副作用があるのか
* 社会的に利用してよいのか
という問いは残ります。
したがって研究者の役割は、情報を整理して答えを導く者から、AIが発見したものを検証し、説明し、意味づけ、知識体系の中に位置づける者へと変化します。
⸻
4. 翻訳できることと、外国語がわかることは違う
添付箇所では、AI翻訳を例として、「結果を得ること」と「能力を内面化すること」の違いが論じられています。
AI翻訳は、実用上十分な文章を即座に生成できます。しかし、翻訳結果を読めることと、外国語を理解できることは同じではありません。
外国語を学ぶことで得られるのは、単語や文法の知識だけではありません。
学習者の内側には、
* どの表現が自然なのか
* どの言い回しが丁寧なのか
* どこまで踏み込んだ表現なのか
* 文脈にどのような含意があるのか
* 別の表現なら何が変わるのか
という「可能性空間」が形成されます。
そのため、外国語を学んだ人は、AIの翻訳結果に対して違和感を持ち、評価し、修正できます。学んでいない人は、AIの結果を受け取れても、その良し悪しを十分に判断できません。
ここから得られる重要な示唆は、AIが生成できるようになったからといって、人間が学ぶ必要がなくなるわけではないということです。
むしろ学習の目的が変化します。
従来は「自分で正解を生成するため」に学んでいました。AI時代には、それに加えて、
AIの生成結果を評価し、文脈に適合させ、最終判断を行うため
に学ぶ必要があります。
学習とは、正解を記憶することではなく、生成可能性と評価基準を自分の内側に持つことなのです。
⸻
5. 権利は感情ではなく制度である
AIが人間に近い会話や振る舞いをするほど、人はAIに主体性や感情を感じるようになります。
しかし本書は、権利を「感情があるように見えるから与えるもの」とは捉えていません。権利とは、社会がどの主体にどのような責任と保護を与えるかを定めた、制度設計の結果です。
権利を与えるなら、同時に、
* 誰が責任を負うのか
* 損害をどのように補償するのか
* 契約や財産をどう扱うのか
* 判断を誰に帰属させるのか
* 有限責任を認めるのか
という枠組みを設計しなければなりません。
AIに権利や責任を認める議論は、AIが人間らしいかどうかという感情論ではなく、社会制度としてどのような主体をつくるのかという問題です。
現時点では、AIの判断過程が不透明であったとしても、AIを採用し、利用し、結果を社会に実装した人間や組織が責任を負います。
AIによって責任が消えるのではなく、むしろ責任の帰属を明示する制度の重要性が高まります。
⸻
6. 統合的な結論
結論1：AI時代のボトルネックは、生成から選択へ移る
AI以前は、アイデア、仮説、文章、設計案を生み出すこと自体に時間と専門性が必要でした。
AI時代には、案の生成コストは急速に低下します。その結果、希少になるのは案ではなく、
* 何を問うか
* 何を基準に評価するか
* どの案を採用するか
* どこで探索を終えるか
* 誰が結果を引き受けるか
です。
競争力の源泉は「たくさん生成できること」から、正しく絞り込み、早く決め、結果を引き受けられることへ移ります。
⸻
結論2：理解は遅れてもよいが、責任まで遅らせることはできない
AIが先に有効な答えを見つけ、人間の理解が後から追いかける状況は、研究、医療、事業、行政などで増えていくと考えられます。
完全な理解を待っていては、AIの成果を利用できません。しかし、理解が不十分だからといって、無条件に利用してよいわけでもありません。
必要なのは、
* 理解できている範囲
* 理解できていない範囲
* 利用可能な条件
* 想定されるリスク
* 中止・再検討の条件
を明示したうえで、限定的に利用し、その責任を引き受けることです。
つまり、AI時代の基本姿勢は、
完全な理解を待つことではなく、不完全な理解のまま利用する条件と責任を設計すること
になります。
⸻
結論3：人間の固有性は「答えを出すこと」より「意味を与えること」に残る
AIは答えの候補を生成し、比較し、最適化できます。
一方、人間と社会には、その答えを、
* どの問題に対する答えとして扱うのか
* 何のために使うのか
* 誰にとって望ましいのか
* どの価値を優先するのか
* どの結果まで受け入れるのか
と意味づける役割が残ります。
AIが「何ができるか」を拡張するほど、人間には「何をすべきか」を決める責任が強く求められます。
⸻
7. 実務への示唆
7-1. 研究開発：研究者は「探索者」から「意味づけと正当化の責任者」へ
AIは、分野横断的な探索、候補生成、パターン発見を担います。
研究者には、次の役割がより重要になります。
1. AIに探索させる問題と探索空間を定義する
2. 発見の再現性や因果関係を検証する
3. 既存理論との関係を整理する
4. 利用条件と限界を明らかにする
5. 社会的・倫理的な意味を説明する
研究成果の価値は、「AIが何かを発見したこと」だけではなく、その発見を人間が理解可能な知識として成立させたことに置かれるようになります。
⸻
7-2. 事業開発：アイデア創出よりも、選定基準と停止条件が重要になる
生成AIを使えば、事業アイデアや施策案は大量に生み出せます。
しかし、案が増えるほど、組織は決められなくなる可能性があります。したがって事業開発では、生成プロンプトより先に、次を設計する必要があります。
* 誰のどの課題を解決するのか
* 採用条件は何か
* 何をもって有望とするのか
* いつまで探索するのか
* どの条件なら中止するのか
* 最終決定者は誰か
AI時代の事業開発力とは、アイデアの数ではなく、可能性を事業判断へ変換するゲート設計力です。
⸻
7-3. 組織経営：「生成プロセス」ではなく「決定プロセス」を再設計する
AI導入において、多くの組織は生成速度や業務効率に注目します。
しかし本質的な課題は、その後です。
AIが出した案を誰が評価し、誰が承認し、誰が責任を負うのかが曖昧なままでは、生成物が増えるだけで意思決定は前に進みません。
必要になるのは、次のような責任アーキテクチャです。
* AIが担う範囲
* 人間が判断する範囲
* 承認権限
* 判断根拠の記録
* 不確実性の表示
* 再検討条件
* 問題発生時の責任帰属
AI活用の成熟度は、モデルの性能だけではなく、生成された結果を誰がどのように現実へ接続するかで決まります。
⸻
7-4. 教育：正解をつくる力から、生成物を評価する力へ
教育においても、AIに答えを出させることを禁止するだけでは不十分です。
今後必要なのは、AIが出した複数案を比較し、
* 前提は妥当か
* 根拠は十分か
* 反例はあるか
* 文脈に適しているか
* 何が欠けているか
* 自分ならどれを選ぶか
を説明する訓練です。
評価、選択、修正、説明を行うには、その分野の知識が必要です。したがって、基礎学習の意味は失われません。
学習は「AIなしで生成するため」だけでなく、AIと共同で判断するための内的基準を形成する行為になります。
⸻
8. 本書から導ける追加的な示唆
8-1. AI時代には「説明負債」が蓄積する
AIが発見した結果を、人間が十分に理解しないまま利用する場面が増えると、社会には「なぜ機能するのかわからないが使われている仕組み」が増えていきます。
これは技術的負債と同様に、説明負債・認識負債として蓄積します。
短期的には成果を出せても、環境が変化した際に、
* なぜ性能が落ちたのか
* どの条件が崩れたのか
* どこを修正すべきか
* 誰が判断すべきか
がわからなくなります。
したがって、AIによる発見を活用する組織には、利用と並行して理解を追いつかせる仕組みが必要です。
⸻
8-2. 希少資源は「答え」から「正当性」へ移る
答えが大量生成される社会では、「何が正しいか」だけでなく、
なぜその案を採用してよいのか
を説明できることが重要になります。
AIによる提案の性能が同程度であれば、最終的な差は、
* 判断過程の透明性
* 当事者の納得
* 社会的な受容性
* 責任主体の明確さ
* 検証可能性
によって生まれます。
AI時代には、正解の希少性よりも、決定を正当化し、信頼を形成する能力の希少性が高まります。
⸻
8-3. 組織の競争力は「意思決定スループット」で決まる
生成AIを導入すると、案の供給量は急増します。ところが、承認者の時間、判断基準、責任分担が変わらなければ、意思決定の待ち行列が長くなります。
このため、AI時代の生産性を測る際には、生成件数ではなく、
* 案が生成されてから決定されるまでの時間
* 決定後に実行へ移るまでの時間
* 判断の手戻り率
* 責任者不在による停滞件数
* 不採用理由の再利用率
を見る必要があります。
AI導入の本当の成果は、アウトプット量ではなく、組織が責任ある決定を処理できる速度に現れます。
⸻
最終結論
『ヒトとAI』の添付箇所が伝えているのは、AIによって人間の役割が消えるという単純な話ではありません。
AIは、発見し、生成し、比較し、最適化する領域を急速に拡大します。人間はその結果、作業から解放される一方で、より重い役割を担うことになります。
それは、
問いを定め、
評価基準をつくり、
無数の可能性から一つを選び、
探索を終わらせ、
不完全な理解のままでも結果を引き受けること
です。
AI時代に人間へ残るのは、単なる「最後のボタンを押す仕事」ではありません。
AIが開いた可能性空間に境界を引き、現実を一つに定め、その意味と責任を担う仕事です。
したがって、AI時代に最も重要になる能力は、生成能力そのものではなく、
選択する力、終わらせる力、説明する力、責任を負う力
であると結論づけられます。 -
Posted by ブクログ
2026年7月22日発行の新しい本です。
「本書は、発展著しいAIが、今後、社会や生活にどのような影響を与えるのか、そして人間である私たちがAIと共に生きるうえで、何が変わり、何が変わらないかを、自分自身でも整理したいと思って書いたものである。」とあとがきにありました。
AIがあっても、そのAIが出したたくさんのアウトプットの中から、どれを採用するかを判断したり、どんなAIを使うかを判断するのは、人間がしなくていけないこと、そして、その結果生じる出来事に対しての責任は人間が負わなくてはいけないことを筆者は主張しています。
AIは、火や電気、自動車のように、人間社会のあり様を変えて、それがない社会には戻れないと言っています。
私たちひとりひとりがAIとどのように暮していくべきか、常に考えないといけない時代かなと思いました。
短い章でブロックを積むようにちょっとずつ話を進めているので、とても読みやすかったです。 -
Posted by ブクログ
普段からお世話になっているチャッピーことチャットGPTについて、使っているけども実際どういう原理で動いているのか気になり読みました。
内容、大規模言語モデルを図式で表記しされていたり、難しい計算式もなく専門用語も初登場の際には丁寧な説明がありとてもわかりやすい本でした。
なぜ、GAFAが争って開発費をかけている理由もわかりました。
自分で使うものは、ある程度原理を理解して扱わないと、大きなトラブルが起きると思います。
大規模言語では、ハルシネーションを理解しなければチャットGPTを使うことはさけるべきであると思います。
ハルシネーションを理解し、足りないところを補いながら上手にチャットGPTと付き合っていきたいです。
-
-
-
-
Posted by ブクログ
大規模言語モデル（LLM）について、またいわゆる（人口）知能とは、どのような理屈で動作しているのか？、について、その大まかな歴史、また正確な理論の解説と、わかりやすい（ただ決して万人向けではないが…）、技術的な興味を惹かれる記述を含む形で書かれた、優れた技術書であると思う。
私はかつて、学卒後約8年、いわゆるIT業界に身を置き、またその後業界こそ異なれどITに関わる仕事に長年従事してきた。ただ数年前にセミリタイアのような形でかの業界からは身を引き、ちょうど時を同じくしてChatGPTに代表されるような人工知能（AI）（LLM）が世間の耳目を集める時代になったように思う。そのような「自分の仕事とは関わりのない」「仕事を通じて触れる事のできない」LLMという概念をその基礎から知ることができず、ずっともやもやとした気分でいた。余談だが1995年のいわゆるウィンドウズショック、インターネット元年、その後の一連のIT革命（と勝手に私が呼んでいる）をまさに公私に渡って体験してきた身ではある。
そのようなLLM、について、学ぶ資料、書籍、になかなか出会うことが出来なかった。尤も、いわゆる親切な絵柄や過剰な色彩、それこそ「万人向け」の「ムック本」ならば、いくらでも書店に並んでいるだろう。ただ私は決してそのような形で（AIについて）学びたいとは思わなかった。実際、もしそのような形で触れていれば、下記のような発見はなかっただろう。
私が本書を通じて得た「発見」とは、「AIについてその技術を進化させようとする研究、行為、開発作業、は、人間の脳について、より深くその動作原理を知ろうとすることではないか？」という事である。私が冒頭で、「（人口）知能」とあえてカッコで括った事はそれを意味している。当たり前の事だが、私たちは常に考え、行動し、反省し、よりよく行動しようと、という日常を意識する事なく繰り返しているはずである。それは全く文字通り「無意識」の行動であり、その「命令」は殆ど「脳」がやはり無意識に「発信」していると思う。ではその無意識な行動は具体的にどうやって、どういう理屈で、どういう経験則に従って命令が発せられたのか？、もっとわかりやすい（と私が勝手に考えだした）例を挙げれば、テレビ番組に出てくるお笑い漫才師の演芸、その間合いとセリフが、なぜ我々はまさにその瞬間に面白いと感じるのか？、そこにAI、或いは人間の脳、というものの動作を理解するヒントがあるのではないかと、本書を読むことを通じて、私は発見させられたように思う。すなわち、AIの研究とは人間の脳の研究では無いかと。
最後に、本書の終末あたりの一文をそのまま引用する。まさにこの事がAIと人間の未来を表しているのでは無いかとも思う。
「結局のところ、人は異なる知能をもった存在によって、初めて自分たち自身を理解できるのかもしれない。人工知能が人間の自己理解に貢献していくと考えられる。」
-
-
-
Posted by ブクログ
※ 出版社さんよりいただきました，また，著者と面識がありますことご承知おきください．
シリーズ1巻目の『「正解」を導くメカニズム』に続く，岡野原さんによる深層学習の解説本．1巻目よりも発展的な内容を，ギュッっと圧縮して説明した本．1巻目より高度なので，機械学習を初見の読者を対象とはしていないようだ．教科書で機械学習を一通り学んだ人が深層学習の情報を得るにはとても便利な本．新しい拡散モデルまで紹介されていていることに驚かされる．
第1章：第1巻で紹介しきれなかった，学習の改良手法を一通り紹介している
第2章：深層学習が，データを一般的な状況にうまく汎化できる理由は，理論上の大きな問題として残っている．この問題について，現状での有力な仮説をまとめている．
第3章：代表的な生成モデルを超圧縮で紹介した本．機械学習のバックグラウンドがある人向けに，うまくかいつまんで紹介している．しかも，VAE，敵対的生成ネット，自己回帰モデル，そして新たな拡散モデルまで網羅している．
第4章：まず，強化学習についての基本的な内容を一通り復習．そして，深層学習と結び付いた DQN と Alpha GO について紹介だが，何が難しく，それをどうやって克服していったかが紹介されている．
第5章：最初の節だけは，取りこぼした自己教師あり学習．その後は，今後の展望について Sutton さんや Bengio さんの講演を基にした議論を紹介する．最後に，まだ解かれていない課題についてまとめているが，これを見ると一番難しいところは50年間変わらないなと感慨にふけってしまった． -
Posted by ブクログ
※ 出版社さんよりいただきました，また，著者と面識がありますことご承知おきください．
深層学習に関する多くの技術的知見を少ないページ数に凝縮している．非常に多くの情報が取り上げられているが，それぞれは概要の説明になっている．
深層学習についてこれから知りたい人には，全体を俯瞰するための本で，さらに理解を深めたい話題を見つけて，他の資料にたどり付ける．ある程度知っている人には，思い返すときの辞書となると思う．
詰め込んであるので雑多になりやすいが，各章の始めに図で，最後にまとめの章を設けていて，主張したいことが明確にするといった工夫がなされている．
各技術要素について，それがどうしてうまく働くのかの知見についても述べているのは特徴的．例えば，正規化が，表現力や学習のし易さを向上させる効果があり，その理由についても簡潔に取り上げている．
第1章：論理のような明示的な処理と，視覚処理のような暗黙的な知識処理との統合という人工知能実現の難関を最初に示している．人工知能史を紹介してから，深層学習の概念的な説明と応用事例を示している．大規模なデータと計算量については1節をさいてその重要性を力説しているのは，この本のポイントの一つだと思う．
第2章：1990年代までに確立した機械学習の代表的な概念を超圧縮で紹介．この後の章を読むのに必要な用語を，簡単な数式を交えて概念的に説明したもの．
第3章：深層学習以前のニュールネットの説明をやはり超圧縮で紹介．画像を扱うための畳み込みネットや，系列を扱う RNN や LSTM まで一気に進める．活性化関数のところが，だいぶ力を入れて執筆されている．
第4章：深層学習以降に，深層ニュールネットをうまく扱えるように開発されたバッチ正規化，スキップ機構，注意機構の紹介．スキップ機構は個人的にはそれほど重視していなかったが，知らなかった利点があることが分かった．
第5章：画像認識モデルの進展を，各モデルの主なアイデアと共にまとめている．音声認識は基本をまとめた内容．自然言語処理のBERTの成功理由の考察は興味深かった．