山本龍彦のレビュー一覧

おそろしいビッグデータ 超類型化AI社会のリスク

山本龍彦

最後の方で憲法との関わりに言及しているが、全体としては憲法の説明ではなく、AIの基礎となっているビッグデータが人間のプライバシーにどう関わるのかという説明である。
　非常にわかりやすいので、学生が読むとビッグデータの問題を考えるよすべになるであろう。

アテンション・エコノミーのジレンマ 〈関心〉を奪い合う世界に未来はあるか

山本龍彦

ネット社会以降人間の注意持続時間は、
短いことで有名な金魚を下回る
という大変キャッチーな言葉から始まり、
エコーチェンバーの話、広告と法の見通し、広告業界のクリエイティブ、認知心理学の観点からetc非常に幅広く網羅的に語られていて
大変面白かった。はー面白かった。

アテンション・エコノミーのジレンマ 〈関心〉を奪い合う世界に未来はあるか

山本龍彦

トランプ大統領、兵庫県知事など「なぜ？」と思うことのひとつの答え、問題の分析をしてくれたと思う。スマホへの粘着性を生むアルゴリズムはビビる。意識してスマホから遠ざかってみた。

アテンション・エコノミーのジレンマ 〈関心〉を奪い合う世界に未来はあるか

山本龍彦

アメリカ大統領選挙や兵庫県知事選で話題のSNSによって作り出される世論。
対談形式でそれぞれの専門分野から歴史も踏まえて解説してくれる。
人の本能的な所にまで食い込んでいるアテンションエコノミーを前提にした社会システムを考える必要がある。

ＡＩと憲法

山本龍彦

AI技術を憲法の中でどのように解釈し、あるいはAIという人工物から人間個々人を保護しているか、あるいはAIそのものも権利の対象となるかなど非常にスリリングで、興味深いトピックが書かれている。

アテンション・エコノミーのジレンマ 〈関心〉を奪い合う世界に未来はあるか

山本龍彦

アテンションエコノミーという言葉をはじめて聞いたので衝撃となるほどがありました。
関心が取引されている、関心を得るためのアルゴリズムによって、人々の思考がコントロールされている、この点は納得できるものです。今に始まったことではないが、その量とアルゴリズムとsnsとが合わさりより深刻になっているのもその通りだと思いました。
一番衝撃だったのは、フェイクニュースに代表される情動的な情報は、後でデマだとわかっても効果が潜在意識に残ること、そして人は顕在意識よりも潜在意識に左右される傾向があるとことです。ファクトチェックを公開すれば改善できると思っていたのですが、これだけでは不十分だとわかりました。
後半の対談はよく理解できないところもありましたが、理性的な民主主義を目指すのか、国単位の支配を過去のものとして退出自由なクラスターを目指すのか、考えさせられる内容でした。

アテンション・エコノミーのジレンマ 〈関心〉を奪い合う世界に未来はあるか

山本龍彦

日常生活の中で意識せずに使用しているインターネット世界で起きている事象のうち、その仕組みを提供しているプラットフォーム企業の位置付けを明確にする試みが、著者とIT関連の学者や事業者との対話であからさまになってくる経験を与えてくれた．知らないうちに特定のサイトに誘導されたことは頻繁に経験しているが、アテンション・エコノミーとして改めて議論されていることを知り、このような事象を真剣に考察している人たちがいることに何故か安心感を得たのはなぜだろう．表現の自由の価値を再認識する機会を得た感じがしている．事実錯覚効果、匿名表現、プロミネンス政策、情報的健康、デジタル立憲主義、自由放任、適切関与、情動的共感、認知的共感、ハイブリッド型の政治システム などなど目新しい言葉が頻出だった．個人データ保護の観点で、「まずはやっぱり同意説」と「特に同意はいらんよね説」に分けた議論が面白かった．

アテンション・エコノミーのジレンマ 〈関心〉を奪い合う世界に未来はあるか

山本龍彦

人間の判断や感情は操作できるものである。人間は常に深く考えることはできない。そのような新しい人間像を私たちは持って、それに基づいて民主主義をアップデートする必要があるし、市場原理にもなにかしら歯止めをかける仕組みが必要というのが基本的なメッセージ。法にはそもそもそういう考え方が全然なかったわけではなくて、あらかじめルールを作って人間の行動を制限しておくとか、フェイルセーフの仕組みを作っておくというものである。市場競争の中でそれをどうルール化するかが難しいところ。

教育によって、あらかじめ人間に免疫をつけさせていおく、ということもひとつの方法として提案されている。確かに教育は、ビジネスの影響を直接受けにくいところだから、そのような教育の実現は可能かもしれず、実現すれば政治に対しても広告に対しても効果があるかもしれない。そのためには教科書をちゃんと作る必要がある。

４章「生成AIがもたらすもの」の章は若干話が繰り返し、浅いという印象があった。そこで言っているのは、生成AIは格差や分断を悪化させる一方で、問題を改善するために、ドラえもんがのび太にするように、人間をしつけてくれるAIの実現も可能なのではないか、という話。これはいかにも大学の工学者と思わせられるような、ある種の夢のある話ではあるが、ユーザーに短期的な利益を放棄させるようなAIは実装することは難しくないにしても、広く使われることになるとは考えがたく、社会を良い方向に変えたり悪化のブレーキをかけたりするような社会的インパクトは期待できないと思った。

面白く読めはしたが全体的な印象としては、対談形式で書かれた本というものは、話が横に広がりはするけど、同じことが繰り返されがちになり、効率的に前には進みはしないものなのだなと思った。

デジタル空間とどう向き合うか 情報的健康の実現をめざして

鳥海不二夫 / 山本龍彦

インターネットをはじめとするITの隆盛により、全ての人間が自由に様々な情報にアクセスできるようになり、言論の自由が確保され、自主的な意思決定が可能となる民主主義にとって望ましい世界が実現する…とかいう牧歌的な理想論を信じる人間は既に存在せず、現実はアテンションエコノミーに支配され、フィルターバブルとエコーチェンバーにより、一方的で偏った情報に認知空間が支配され、行動が誘導される、そういったディストピアが実現してしまった。

そういったディストピアに対し、プラットフォーマーに対する法的な規制により対処していくことも当然考えられるが、著者らは情報的健康という概念を提唱し、健康診断と予防といったより穏健な手法により、ディストピアを緩和していくべきという考えである。

体の健康と同等な、情報的健康を測る尺度の導出とそのためのデータの蓄積が課題であると思われるが、主張に対して異論はない。

技術の進展に対応して、民主主義（あるいはそれに代わる考えでもよいが）を防御・維持していくための技術的な仕組みが必要であり、現在はその過渡期なのだと思われる。

国や、あるいは著者らのような有識者がそういった仕組みを考えるべきなのかもしれないが、民主主義として、主（ぬし）たる国民一人一人が、民主主義としてあるべき情報空間について考えていかないといけない時代なのかもしれない。

話は変わるが、本書を読んでいると、アルゴリズムによりフィルターバブルを作り上げる巨大ITプラットフォームが悪で、テレビや新聞のような従来型メディアの方が良いみたいな風に読めてしまうが、それは本当にそうかなと思う。

私は野球が大嫌いであるが、テレビを見ると、見たくもないのに大谷大谷、プロ野球プロ野球と、見たくない情報を強制的に見せられる、逆フィルターバブルが発生している。

従来型メディアも、一方的に見せたい情報を強制的に見せるという点で、巨大ITプラットフォームと何ら変わっていない。

どちらかが善か悪かという話ではなく、お互いの良さを組み合わせて、人間社会として望ましい情報空間を作り上げていくべきなのかもしれない。

アテンション・エコノミーのジレンマ 〈関心〉を奪い合う世界に未来はあるか

山本龍彦

「アテンション・エコノミー」とは、GAFAに代表されるプラットフォーム企業が提供するSNSやコンテンツ産業を中心とした経済のことを指す。「アテンション・エコノミー」において我々は、サービスを利用するためにプラットフォーム企業に対して金銭を支払う代わりに、コンテンツの視聴を通して文字通り「アテンション(関心)」を提供している。プラットフォーム企業は、提供された「アテンション」を、ページビューやインプレッション、滞在時間などといった定量化されたデータとして広告主に売ることによってビジネスを成立させているわけだ。本書は、「アテンション・エコノミー」が抱える諸問題について、筆者である山本龍彦氏が行った、6人の産業界や学会からのゲストとの対談をベースに議論が進んでいくという体裁をとっている。
個人的に最も面白いと感じたのは、第4章「生成AIがもたらすもの」での議論だ。対談相手の栗原聡氏(慶應大学理工学部教授)は、生成AIがフィルターバブルを助長する可能性があると指摘する。(フィルターバブルとは、インターネット上でユーザーの検索履歴やクリック履歴などの行動に基づいて、ユーザーの好みに合った情報が優先的に表示されることで、異なる意見や視点に触れる機会が減少する現象をいう。)そこで、フィルターバブルによる情報の偏りを防ぐ１つの手段として栗原氏が提案するのが、「自分の情報摂取傾向を可視化できるアバター」である。非常にユニークなアイデアであると共に、絶妙なキャッチーさが面白い。人々が無意識のうちに運動不足を解消することに貢献したポケモンGOのように、自分のアバターを健康に保つというゲーム感覚を味わいつつ、自分の情報摂取傾向を客観的に把握する習慣が定着すれば、「アテンション・エコノミー」が抱える問題の１つであるフィルターバブルを解消できるかもしれない。

アテンション・エコノミーのジレンマ 〈関心〉を奪い合う世界に未来はあるか

山本龍彦

アリスが落ちたラビット・ホール　底なし沼

p6 アテンションエコノミー　このビジネスモデルの下では、ユーザのクリック＝反射を得られるかどうかが至上命題になるため、内容のクオリティや信頼性はどうでもよい。そこでは当然ながら、丹念な取材をもとに書かれた退屈な真実よりも、「クリックを得られる刺激的で魅惑的な偽情報のほうが経済的な利益を生むのである

p7 人間は認知バイアスとして、繰り返し同じ情報に接触することでその情報を正しいと感じるようになるという、真実錯誤効果 illusory truth effectをもつ

p9 マイクロソフトの研究では、デジタル化の影響で、人間の注意持続時間が、集中力がないことで知られる金魚の平均的な注意持続時間（９秒）を下回ったと報告されている

p37 ヤフーは、ヤフコメの順位付けにすでにAIを導入していて、建設的なコメントが上位に行くようになっている。　またコメント多様化モデルを導入して、AIが同じ意見ばかり並べないようになっている

p45 プロパブリカ　NPO 調査報道のみ
フランス　メディアパルト

p70 SNS パーフェクトスロットマシン、デジタルクラック・コカイン

p78 アテンショナルコモンズ

p77 衆議院　任期４年だが実質１−２年で解散　アジャイル　参議院　任期６年で３年毎に半数が入れ替わる　実はスロー

p81 テクノロジーは中立ではない　多くの人は人間より機械のほうが中立公平だと思っている節がある

p136 ケンブリッジ・アナリティカの事件

p187 いまや広告コンテンツは、ユーザのアテンションやコンバージョンを示す詳細なデータをもとによって、逆算してつくられる。


創造的に作るのではなく、データがあるいはAIが作るようになる
クリエータはコンテンツをクリエイトする存在でなく、データの手先であり、奴隷ということになるだろう

p194 下條信輔　サブリミナルインパクト　ちくま新書

p198 だれもが鉄板の真実として共有できるものがなくなったことに私は危機感をもっている

p203 よく子どもは、あんなにゲームばかりしていて大丈夫なのですかといった質問を受けることがあるのですが、初期の論文でhあ、むしろ頭がよくなるという知見のほうが多いんですね。何がよくなるかといえば、注意の集中力が高まるという皮肉な結論なのですが。つまりそれは下手をすると、アテンション・エコノミーに引っ狩りやすくなるということにもなるのでしょうか。

p206 フロイト（心理学）とチューリング（情報科学）の強力なタッグに、カント（啓蒙哲学）はもう太刀打ちできません。
規範を内面化させるような道徳的倫理的な規制をしても、心理学や認知科学を応用した現在のテクノロジーには対抗できない

p208 心理学的介入には心理学的対抗を　予防接種李理論
心理学的に徹底的に基づいたリテラシー教育などを行い、誤情報などに対して事前に免疫を作り、将来の心理操作に対する抵抗力を鍛える

p225 認知的共感(合理的な判断に基づく共感）は政治には必要だが、情動的共感は害のほうが多い

アテンション・エコノミーでは、刺激的な情報を用意して、注意をトリガーすると、それに連動して情動的な反応が喚起されます。ディープフェイクについても、それがあとで否定されたとき、論理的な認知の部分では完全に消えたとしても、情動的な反応は抑制されないでのこるという図式で、よく理解できます。

p229 共感についてはバイアスが悪いというよりは、注意がなにかに引き付けられ、それを記憶、ないし情動に固定化する認知メカニズムが本来生物学的に人間に沿わなっており、元来は適応的だったが、現代のテクノロジー環境の中で不適応をきたした

p237 現代のアテンション・エコノミーが恐ろしいのは、私たちの注意を、経験や勘ではなく、認知科学の知見を踏まえた情報テクノロジーによって、意図的かつ自覚的に操作できるようになったということである。AIの時代とは、認知科学が急速に発展し、その知見が生活の至るところに配備される、認知科学の時代ということもできる。かつて消費者保護の文脈では、事業者消費者間の情報の非対称性が説かれていたが、今後私たちが気にしなければならないのは、認知の非対称だろう

p240 自由のためには、私たちが認知的に脆弱な弱い存在であることを自覚し、他者からの認知的介入に対して抵抗力をもっておく必要がある。

p248 生成AIのしつけが大事
ChatGPTと同じくらいの大きさの大規模言語モデルは、googleもfacebookも開発していて、openAIより前に公開したのですが、半社会的なことを言ったり間違いだらけだたっため、公開をすぐ止める事態にとなったのです。
それから一年ほどしてopenAIが公開したのがchatGPTなのです。では、１年間、彼らが何をしていたかというと、開発ではなく、chatGPTのトレーニングです。１年間かけてひたすら、反社会的なことや倫理に反することを言わないようにトレーニングをした

どういう手ほどきをしたか今のところ見えてこない。手ほどきに部分はやはり透明化すべきと思います。

p249 逆に危険なのは、アライメントが施されていないAIがどんどん開発され、野に解き放たれているということです。

p251 AIを使いこなすためには、人工知能にどう入力するか、プロンプトが重要です。
つまり、生成AIを使うためにはちゃんとした文章を書かないといけない

生成AIが登場してきたいま、なんと蓋をあけたら、最新型の人工知能を使うには超アナログな能力が必要だったということです。

p284 プラトン、ソクラテス以来、先人たちはずっと民意、大衆に意思決定権を与えることへのリスクを説いてきました。結果的に、君主制、共和制など様々な政体がためされ、現在の代議制民主主義が発展してきたわけですが、結局ほとんどの先人がおそれたような大衆迎合的な民主主義に対してよき対策をまだ人類は出せていません。

p286 今までは、積極的に望んでいないものを目にする機会が、いわば強制的に与えられてきた

今は一人にデバイス一台
AIがこのユーザはこういった動画に反応がいいなということで似たような動画を流してくる。
でもそれは、ユーザが本当に見たいと思っているものなのかは不明。望んでいる求めているものなのか。
反射的で無意識な認知システムを刺激されて、見させられているという部分もあるのではないか？

p295 駒村圭吾　主権者を疑う　ちくま新書

アルゴリズムを神とみなし、また人間が主権を神に委ねてしまう世界が遠くない将来に来るのではないかと思っています。

p296 JAPAN CHOICE

p296 それらを見続けた結果、徐々に自らの投票先が自然に決まっていくのです。有権者の投票に関する意思決定が間接的にアルゴリズムに支配される状況があちこちで現出していたわけです。

p297 人間が思考を処理するとき、システム1（自動的で速い処理）とシステム２（意識的で遅い処理）の２つのモードがあるという考え方があります。人間がシステム２を常に駆動させて民主的な意思決定を下し続けるのは困難ですが、選挙期間のように、熟慮、理性を働かせて意思決定しなければいけないタイミングだけは、システム２を駆動できる情報空間を設計しておきたい

p302 　アテンション・エコノミーの文脈において民主主義が維持されうるとすれば、それは他者の認知、他者の共感がキーになる

いかにシステム２を働かせるか　いかに共感を駆動維持させるか

p304 アメリカは地方紙が１週間に２紙ずつ廃刊

p305 smartnews アメリカ版　news from all sides ユーザがあるトピックについて、保守寄りの意見を見たい、リベラルよりの意見をみたい、中道の意見を見たいと思えば、それぞれの基準に分類された記事を左から右に調整しながら選択できる。フィルターバブルに閉じない

p307 ボストンの歴史学者　無料のニュースレター　letters from an american　コメントが有料

p304 民主主義の統治とアルゴリズムによる統治とをミックスさせたハイブリッド型の政治システム　わたしたちの情動的な要素と、AIの数理的統計的な要素をかけ合わせたもの

p316 カーネマンの二重過程論　人間の思考モードにはシステム１（反射系）とシステム２（熟慮系）のふたつがある

p321 ニック・ランド　暗黒の啓蒙書

p328 スワイプするという行為によって、自分で決定しているという感覚を作り出している　tinder,tiktok

p332 現在のアテンション・エコノミーでは、システム１の世界が異様に拡大してきている

人間には自他を傷つけようという私心人心と道徳的な道心が同居してる　二宮尊徳

p334 システム２を使って反省的に熟慮するというのはどても面倒くさくてコストがかかる。だから人はこれを回避したいという欲望がある

p342 AI規制では、常に透明性が説かれる
AIは結局、人間の過去の歴史をデータとして学んでいるので、AIによる差別は、人間による差別の一つの表現でしかない

p352 インドネシアの大統領選挙では、TikTokにダンス動画を投稿した踊るプラボウォ・スビアントが（かつでは民主化運動を弾圧した強面であったのにかかわらず）若者からかわいいなどと形容され、勝利を収めた
これは私たち人間が、選挙時でさえもアテンション・エコノミーの広告的リズムの中で反射的に思考行動しつつあること、市民としての公共的理性を失いつつあることを象徴的に示しているように思われる

p353 生まれたときからアテンション・エコノミーの世界にいるアテンション・エコノミーネイティブにとって、見たいものを見る、言いたいことを言う、投稿がバスれば承認だけでなく、収入も得られるという文化こそが彼らの唯一の文化なのかもしれない

p355 アテンション・エコノミーを可能にしているのは、個人データを用いて個々のユーザの属性等とAIに分析させるための技術、プロファイリングである。DMA(EUのデジタル市場法）は、この技術にメスをいれることで、アテンション・エコノミーの行き過ぎに対処しているように思える

p356 2024/3に欧州議会で可決したAI法は、人間の意識を超えたサブリミナル的技法や、操作的欺瞞的な技法を意図的に繰り出して人間の自律的で熟慮的な意思決定能力を奪い、個人や社会に重大な損害を与えるようなAIシステムを禁止している

デジタル空間とどう向き合うか 情報的健康の実現をめざして

鳥海不二夫 / 山本龍彦

鳥海と山本の共著である。本文の部分はどこかで聞いたことがありそう珍しくもないような印象であるが、巻末付録の共同宣言がこの本で主要になる気がする。

おそろしいビッグデータ 超類型化AI社会のリスク

山本龍彦

著者が講師の研修に参加予定なので予習のつもりで読んでみる

ビックデータに基づく個別化マーケティングが消費行動に影響を与えたりすることや民主主義を崩壊させる危険があることは別の本やNetflixのプログラムで知らされていたが、日本国憲法と絡めて議論するのは野暮ったいと思いながら読み進めていた。
しかし、最終章でその「野暮ったい」という自分の感覚も憲法を軽視する空気に染められた感覚であることを自覚する。

３年前の本なので技術的にも法制度的にもアップデートする必要はあるが、研修直前にでも再読しよう。

ＡＩと憲法

山本龍彦

本書を読んで、仮面ライダーゼロワンの映画を思った。その映画にヒューマギアというのが出てくるが、このヒューマギアがヒトを支配する社会が描かれていた。人間の技術が生み出した光と闇の分野は多くあるが、このＡＩも使い方次第では闇の部分が多くなるのかもしれない。そうならないためにも、今から、他者になりかねないＡＩを見据え、権利・義務の主体である人格、人権享有主体である個人の位置づけ、統治構造について思考をめぐらせておくことが必要なのではないかと思った。論者により、読みやすさが異なったが、全般的に面白く読み通せた。

ＡＩと憲法

山本龍彦

最近気になるテーマのひとつ。AIによって精緻に最適化されると、人の不確かさに理由を付けていた諸々が色々困る。プライバシーとかレコメンドとか選挙とか。だがもっと難しいのは人権とは？というところ。サイボーグ、脳のアップロードとか今後できるとどうなるの？もうロボットにも人権認める社会になることしか想像できない。価値観が揺さぶられる

ＡＩと憲法

山本龍彦

AIを筆頭とした技術革新は本来は指数関数的な進歩ができるポテンシャルを持つはずなんだけど、法や規制が追いつかないからそこまで急速な革新はおきない、のだろうか。
法そのものを書き換えるAIは想定してないけど、本当にその対策はあるんだろうか。
シンギュラリティを考えさせられる一冊でした。

おそろしいビッグデータ 超類型化AI社会のリスク

山本龍彦

AIとビッグデータ、これはひとの仕事を置き換えるものと言う危機感程度しか持ち得なかったけど、憲法との対比は考えもしませんでした。

特にAIによるプロファイリングが就職や銀行ローンの審査だけでなく思想信条の様な個人の内面にも関わってくるのであれば、憲法もまた危機的な側面を持ってくるかもしれない。

個人情報における海外と日本の認識の違い。それが民主主義の根幹に関わると考えるアメリカ、西洋は憲法を第一に考えるが、日本は憲法9条を改変しようとするように、その時々の都合で動こうとするように見受けられる。

憲法13条の個人の尊重や14条の法の下の平等。久しぶりに憲法を考える機会になりました。

デジタル空間とどう向き合うか 情報的健康の実現をめざして

鳥海不二夫 / 山本龍彦

エコーチェンバー現象などにより視野が狭くなり、自己の信条が強化され、フェイクニュースなどへの耐性が弱くなる世界。完全な自由報道、アテンションエコノミーに対する適切な規制などが提言されているが、政治的な視点が強く見えたので、効果があるのか疑問。情報に振り回される人がこの世界に疲れて、適度に情報から隔離されることの利点を再認識できるようにならないと難しいかも。ネットは無くても生きていける。ネット社会といい、AIの発達といい、放っておくとモノを考えない人間が増殖する。

デジタル空間とどう向き合うか 情報的健康の実現をめざして

鳥海不二夫 / 山本龍彦

これ↓実現したら面白いですね。

「情報の出所や誰がどういう目的でその情報を流しているかを示すことができれば、真意を理解する手がかりになります。例えば『ポジショントーク度』といった数値を表示できれば、その情報に対して一定の距離を置いてみることができる」

まあ、たいていの人は何らかのバイアスがかかっているし、ポジショントークになっていると思うんだけど。。。

ＡＩと憲法

山本龍彦

カナダのロースクールではすでに「AIと法」をテーマにしたカリキュラムとメソッドが確立しているらしい。曰く、法学徒だろうがとにかくまずは「R(統計に特化したプログラミング言語)」を勉強せよ、というところから始まるのだとか。

例えば。
自動運転自動車の事故責任を検証するには自動車の人工知能がどういう判断を下したのか。製造者責任該当性があるのかどうか。バグであるならそれは品質保証の範囲内か、外か。
そういうプログラムの挙動を把握しなければ法的問題を解決できないような、法学者もプログラミングをやんないとお話にならない時代がもうすでに来ている。