アテンション・エコノミーのジレンマ 〈関心〉を奪い合う世界に未来はあるか

山本龍彦

人々の「関心」が価値をもち取引される世界――アテンション・エコノミー。
この情報空間が私たちの自己決定から民主主義の行方までを左右する。
デジタル社会の法秩序論（憲法学）の第一人者がその突破口を探る。

【目次】
第１章 変容する言論空間
対談――メディアに与える影響 新谷学（株式会社文藝春秋取締役・総局長）
対談を終えて ナビゲーションを受ける自由と、ナビゲーションからの自由

対談――コミュニケーションの変容と法（code） 水谷瑛嗣郎（関西大学社会学部准教授）
対談を終えて 情報空間に対する国家の“現れ”という難問

第２章 個人情報と広告
対談――アテンション・エコノミーとプライバシー・個人データ保護 森亮二（弁護士）
対談を終えて 個人データに対する主体性は必要か？

対談――広告ビジネスの行方 馬籠太郎（株式会社電通デジタル）
対談を終えて 「クリエイティブ」は本当にクリエイティブなのか？

第３章 認知の仕組みと自己決定
対談――認知神経科学から見た認知と自由 下條信輔（カリフォルニア工科大学 ボルティモア冠教授）
対談を終えて 「やわらかいクッション」による対抗と「自由」

第４章 生成ＡＩがもたらすもの
対談――生成ＡＩが人に与える影響 栗原聡（慶應義塾大学理工学部教授）
対談を終えて 憲法ＡＩと民主主義

第５章 民主主義の再考
対談――これからの民主主義 結城東輝（弁護士／スマートニュース株式会社）
対談を終えて 「民主主義」の均衡（バランス）を再定義する

第６章 ネット空間の行く末
対談――インターネット文化と思想 木澤佐登志（文筆家・ブロガー）
対談を終えて 私たちが向かう場所、そして憲法――あとがきに代えて

• カテゴリ: 小説・文芸
• ジャンル: ノンフィクション / ノンフィクション・ドキュメンタリー
• 出版社: KADOKAWA
• 電子版発売日: 2024年08月26日
• コンテンツ形式: EPUB
• サイズ(目安): 3MB

[ブクログ · ★★★★★]

ネット社会以降人間の注意持続時間は、
短いことで有名な金魚を下回る
という大変キャッチーな言葉から始まり、
エコーチェンバーの話、広告と法の見通し、広告業界のクリエイティブ、認知心理学の観点からetc非常に幅広く網羅的に語られていて
大変面白かった。はー面白かった。

[ブクログ · ★★★★★]

トランプ大統領、兵庫県知事など「なぜ？」と思うことのひとつの答え、問題の分析をしてくれたと思う。スマホへの粘着性を生むアルゴリズムはビビる。意識してスマホから遠ざかってみた。

[ブクログ · ★★★★★]

アメリカ大統領選挙や兵庫県知事選で話題のSNSによって作り出される世論。
対談形式でそれぞれの専門分野から歴史も踏まえて解説してくれる。
人の本能的な所にまで食い込んでいるアテンションエコノミーを前提にした社会システムを考える必要がある。

[ブクログ · ★★★★☆]

人間の判断や感情は操作できるものである。人間は常に深く考えることはできない。そのような新しい人間像を私たちは持って、それに基づいて民主主義をアップデートする必要があるし、市場原理にもなにかしら歯止めをかける仕組みが必要というのが基本的なメッセージ。法にはそもそもそういう考え方が全然なかったわけではなくて、あらかじめルールを作って人間の行動を制限しておくとか、フェイルセーフの仕組みを作っておくというものである。市場競争の中でそれをどうルール化するかが難しいところ。

教育によって、あらかじめ人間に免疫をつけさせていおく、ということもひとつの方法として提案されている。確かに教育は、ビジネスの影響を直接受けにくいところだから、そのような教育の実現は可能かもしれず、実現すれば政治に対しても広告に対しても効果があるかもしれない。そのためには教科書をちゃんと作る必要がある。

４章「生成AIがもたらすもの」の章は若干話が繰り返し、浅いという印象があった。そこで言っているのは、生成AIは格差や分断を悪化させる一方で、問題を改善するために、ドラえもんがのび太にするように、人間をしつけてくれるAIの実現も可能なのではないか、という話。これはいかにも大学の工学者と思わせられるような、ある種の夢のある話ではあるが、ユーザーに短期的な利益を放棄させるようなAIは実装することは難しくないにしても、広く使われることになるとは考えがたく、社会を良い方向に変えたり悪化のブレーキをかけたりするような社会的インパクトは期待できないと思った。

面白く読めはしたが全体的な印象としては、対談形式で書かれた本というものは、話が横に広がりはするけど、同じことが繰り返されがちになり、効率的に前には進みはしないものなのだなと思った。

[ブクログ · ★★★★☆]

アリスが落ちたラビット・ホール　底なし沼

p6 アテンションエコノミー　このビジネスモデルの下では、ユーザのクリック＝反射を得られるかどうかが至上命題になるため、内容のクオリティや信頼性はどうでもよい。そこでは当然ながら、丹念な取材をもとに書かれた退屈な真実よりも、「クリックを得られる刺激的で魅惑的な偽情報のほうが経済的な利益を生むのである

p7 人間は認知バイアスとして、繰り返し同じ情報に接触することでその情報を正しいと感じるようになるという、真実錯誤効果 illusory truth effectをもつ

p9 マイクロソフトの研究では、デジタル化の影響で、人間の注意持続時間が、集中力がないことで知られる金魚の平均的な注意持続時間（９秒）を下回ったと報告されている

p37 ヤフーは、ヤフコメの順位付けにすでにAIを導入していて、建設的なコメントが上位に行くようになっている。　またコメント多様化モデルを導入して、AIが同じ意見ばかり並べないようになっている

p45 プロパブリカ　NPO 調査報道のみ
フランス　メディアパルト

p70 SNS パーフェクトスロットマシン、デジタルクラック・コカイン

p78 アテンショナルコモンズ

p77 衆議院　任期４年だが実質１−２年で解散　アジャイル　参議院　任期６年で３年毎に半数が入れ替わる　実はスロー

p81 テクノロジーは中立ではない　多くの人は人間より機械のほうが中立公平だと思っている節がある

p136 ケンブリッジ・アナリティカの事件

p187 いまや広告コンテンツは、ユーザのアテンションやコンバージョンを示す詳細なデータをもとによって、逆算してつくられる。


創造的に作るのではなく、データがあるいはAIが作るようになる
クリエータはコンテンツをクリエイトする存在でなく、データの手先であり、奴隷ということになるだろう

p194 下條信輔　サブリミナルインパクト　ちくま新書

p198 だれもが鉄板の真実として共有できるものがなくなったことに私は危機感をもっている

p203 よく子どもは、あんなにゲームばかりしていて大丈夫なのですかといった質問を受けることがあるのですが、初期の論文でhあ、むしろ頭がよくなるという知見のほうが多いんですね。何がよくなるかといえば、注意の集中力が高まるという皮肉な結論なのですが。つまりそれは下手をすると、アテンション・エコノミーに引っ狩りやすくなるということにもなるのでしょうか。

p206 フロイト（心理学）とチューリング（情報科学）の強力なタッグに、カント（啓蒙哲学）はもう太刀打ちできません。
規範を内面化させるような道徳的倫理的な規制をしても、心理学や認知科学を応用した現在のテクノロジーには対抗できない

p208 心理学的介入には心理学的対抗を　予防接種李理論
心理学的に徹底的に基づいたリテラシー教育などを行い、誤情報などに対して事前に免疫を作り、将来の心理操作に対する抵抗力を鍛える

p225 認知的共感(合理的な判断に基づく共感）は政治には必要だが、情動的共感は害のほうが多い

アテンション・エコノミーでは、刺激的な情報を用意して、注意をトリガーすると、それに連動して情動的な反応が喚起されます。ディープフェイクについても、それがあとで否定されたとき、論理的な認知の部分では完全に消えたとしても、情動的な反応は抑制されないでのこるという図式で、よく理解できます。

p229 共感についてはバイアスが悪いというよりは、注意がなにかに引き付けられ、それを記憶、ないし情動に固定化する認知メカニズムが本来生物学的に人間に沿わなっており、元来は適応的だったが、現代のテクノロジー環境の中で不適応をきたした

p237 現代のアテンション・エコノミーが恐ろしいのは、私たちの注意を、経験や勘ではなく、認知科学の知見を踏まえた情報テクノロジーによって、意図的かつ自覚的に操作できるようになったということである。AIの時代とは、認知科学が急速に発展し、その知見が生活の至るところに配備される、認知科学の時代ということもできる。かつて消費者保護の文脈では、事業者消費者間の情報の非対称性が説かれていたが、今後私たちが気にしなければならないのは、認知の非対称だろう

p240 自由のためには、私たちが認知的に脆弱な弱い存在であることを自覚し、他者からの認知的介入に対して抵抗力をもっておく必要がある。

p248 生成AIのしつけが大事
ChatGPTと同じくらいの大きさの大規模言語モデルは、googleもfacebookも開発していて、openAIより前に公開したのですが、半社会的なことを言ったり間違いだらけだたっため、公開をすぐ止める事態にとなったのです。
それから一年ほどしてopenAIが公開したのがchatGPTなのです。では、１年間、彼らが何をしていたかというと、開発ではなく、chatGPTのトレーニングです。１年間かけてひたすら、反社会的なことや倫理に反することを言わないようにトレーニングをした

どういう手ほどきをしたか今のところ見えてこない。手ほどきに部分はやはり透明化すべきと思います。

p249 逆に危険なのは、アライメントが施されていないAIがどんどん開発され、野に解き放たれているということです。

p251 AIを使いこなすためには、人工知能にどう入力するか、プロンプトが重要です。
つまり、生成AIを使うためにはちゃんとした文章を書かないといけない

生成AIが登場してきたいま、なんと蓋をあけたら、最新型の人工知能を使うには超アナログな能力が必要だったということです。

p284 プラトン、ソクラテス以来、先人たちはずっと民意、大衆に意思決定権を与えることへのリスクを説いてきました。結果的に、君主制、共和制など様々な政体がためされ、現在の代議制民主主義が発展してきたわけですが、結局ほとんどの先人がおそれたような大衆迎合的な民主主義に対してよき対策をまだ人類は出せていません。

p286 今までは、積極的に望んでいないものを目にする機会が、いわば強制的に与えられてきた

今は一人にデバイス一台
AIがこのユーザはこういった動画に反応がいいなということで似たような動画を流してくる。
でもそれは、ユーザが本当に見たいと思っているものなのかは不明。望んでいる求めているものなのか。
反射的で無意識な認知システムを刺激されて、見させられているという部分もあるのではないか？

p295 駒村圭吾　主権者を疑う　ちくま新書

アルゴリズムを神とみなし、また人間が主権を神に委ねてしまう世界が遠くない将来に来るのではないかと思っています。

p296 JAPAN CHOICE

p296 それらを見続けた結果、徐々に自らの投票先が自然に決まっていくのです。有権者の投票に関する意思決定が間接的にアルゴリズムに支配される状況があちこちで現出していたわけです。

p297 人間が思考を処理するとき、システム1（自動的で速い処理）とシステム２（意識的で遅い処理）の２つのモードがあるという考え方があります。人間がシステム２を常に駆動させて民主的な意思決定を下し続けるのは困難ですが、選挙期間のように、熟慮、理性を働かせて意思決定しなければいけないタイミングだけは、システム２を駆動できる情報空間を設計しておきたい

p302 　アテンション・エコノミーの文脈において民主主義が維持されうるとすれば、それは他者の認知、他者の共感がキーになる

いかにシステム２を働かせるか　いかに共感を駆動維持させるか

p304 アメリカは地方紙が１週間に２紙ずつ廃刊

p305 smartnews アメリカ版　news from all sides ユーザがあるトピックについて、保守寄りの意見を見たい、リベラルよりの意見をみたい、中道の意見を見たいと思えば、それぞれの基準に分類された記事を左から右に調整しながら選択できる。フィルターバブルに閉じない

p307 ボストンの歴史学者　無料のニュースレター　letters from an american　コメントが有料

p304 民主主義の統治とアルゴリズムによる統治とをミックスさせたハイブリッド型の政治システム　わたしたちの情動的な要素と、AIの数理的統計的な要素をかけ合わせたもの

p316 カーネマンの二重過程論　人間の思考モードにはシステム１（反射系）とシステム２（熟慮系）のふたつがある

p321 ニック・ランド　暗黒の啓蒙書

p328 スワイプするという行為によって、自分で決定しているという感覚を作り出している　tinder,tiktok

p332 現在のアテンション・エコノミーでは、システム１の世界が異様に拡大してきている

人間には自他を傷つけようという私心人心と道徳的な道心が同居してる　二宮尊徳

p334 システム２を使って反省的に熟慮するというのはどても面倒くさくてコストがかかる。だから人はこれを回避したいという欲望がある

p342 AI規制では、常に透明性が説かれる
AIは結局、人間の過去の歴史をデータとして学んでいるので、AIによる差別は、人間による差別の一つの表現でしかない

p352 インドネシアの大統領選挙では、TikTokにダンス動画を投稿した踊るプラボウォ・スビアントが（かつでは民主化運動を弾圧した強面であったのにかかわらず）若者からかわいいなどと形容され、勝利を収めた
これは私たち人間が、選挙時でさえもアテンション・エコノミーの広告的リズムの中で反射的に思考行動しつつあること、市民としての公共的理性を失いつつあることを象徴的に示しているように思われる

p353 生まれたときからアテンション・エコノミーの世界にいるアテンション・エコノミーネイティブにとって、見たいものを見る、言いたいことを言う、投稿がバスれば承認だけでなく、収入も得られるという文化こそが彼らの唯一の文化なのかもしれない

p355 アテンション・エコノミーを可能にしているのは、個人データを用いて個々のユーザの属性等とAIに分析させるための技術、プロファイリングである。DMA(EUのデジタル市場法）は、この技術にメスをいれることで、アテンション・エコノミーの行き過ぎに対処しているように思える

p356 2024/3に欧州議会で可決したAI法は、人間の意識を超えたサブリミナル的技法や、操作的欺瞞的な技法を意図的に繰り出して人間の自律的で熟慮的な意思決定能力を奪い、個人や社会に重大な損害を与えるようなAIシステムを禁止している

[ブクログ · ★★★★☆]

「アテンション・エコノミー」とは、GAFAに代表されるプラットフォーム企業が提供するSNSやコンテンツ産業を中心とした経済のことを指す。「アテンション・エコノミー」において我々は、サービスを利用するためにプラットフォーム企業に対して金銭を支払う代わりに、コンテンツの視聴を通して文字通り「アテンション(関心)」を提供している。プラットフォーム企業は、提供された「アテンション」を、ページビューやインプレッション、滞在時間などといった定量化されたデータとして広告主に売ることによってビジネスを成立させているわけだ。本書は、「アテンション・エコノミー」が抱える諸問題について、筆者である山本龍彦氏が行った、6人の産業界や学会からのゲストとの対談をベースに議論が進んでいくという体裁をとっている。
個人的に最も面白いと感じたのは、第4章「生成AIがもたらすもの」での議論だ。対談相手の栗原聡氏(慶應大学理工学部教授)は、生成AIがフィルターバブルを助長する可能性があると指摘する。(フィルターバブルとは、インターネット上でユーザーの検索履歴やクリック履歴などの行動に基づいて、ユーザーの好みに合った情報が優先的に表示されることで、異なる意見や視点に触れる機会が減少する現象をいう。)そこで、フィルターバブルによる情報の偏りを防ぐ１つの手段として栗原氏が提案するのが、「自分の情報摂取傾向を可視化できるアバター」である。非常にユニークなアイデアであると共に、絶妙なキャッチーさが面白い。人々が無意識のうちに運動不足を解消することに貢献したポケモンGOのように、自分のアバターを健康に保つというゲーム感覚を味わいつつ、自分の情報摂取傾向を客観的に把握する習慣が定着すれば、「アテンション・エコノミー」が抱える問題の１つであるフィルターバブルを解消できるかもしれない。