宇田川敦史のレビュー一覧

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

インターネットをアルゴリズムから明らかにするという趣旨ので一貫している本である。非常にわかりやすく書いている。生成AIについてはそれほど詳細に説明しているわけではないので不満に思われるかもしれないが、ここでのアルゴリズムの考えを応用して考えることができるであろう。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

アルゴリズムの危険性を単純にSNSから離れましょうと警告するのではなく、複雑な生態系の実態から目をそらし、単純化した図式で物事を理解しないようにするため複雑な図式のまま理解する、そのこと自体に限られている認知資源を割く覚悟を持つことの大切さを説いている本です説得力があった。
情報過多で、限られている接触できるコンテンツのなかから、アルゴリズムにしたがって選択していくのではなく、フィルタリングされている選択肢であると自覚して使うようにしたい。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

情報オーバーロード時代に、
効率を重視した結果生まれた、エコーチェンバーやフィルターバブル、アテンションエコノミーへの向き合い方を考えさせる良書。といっても、リソースや意識を向ける覚悟も持つという、取り組みにくい解決策しかないが。遊具から道具という発展のとらえ方は面白い。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

職場の人全員に読んでほしい。
検索結果やタイムラインなど、自然の結果のように誤認しがち。
実際には、あるアルゴリズムによって生成されている。
聞くと当たり前と言うかもしれないが、理解している人がどのくらいいるか。理解していても、自分のSNSのタイムラインを前にすると、それが世界の大半だあると錯覚しはしないか。
認知負荷を自然に避けるという性質上、それが当然でもある。
常々感じているのが、プログラミング教育が必須なのではなく、アルゴリズム教育こそ必須であり、プログラミングはそれを職業にするのでなければ、アルゴリズムとは何かを理解するための手段でしかないということ。(あくまでも、現時点での学校教育においては)
また、AIのブラックボックスは、従来のブラックボックスと異なり閉じている、という話は興味深い。これも、今後AIを使いこなしていくに際し、不可欠な概念。また、情報リテラシーからメディアリテラシーへ、メタな視点を持つこともとても重要と感じた。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

実際にはAIもアルゴリズムも人間の「偏り」や「誤り」を勝手に是正してくれることはなく、むしろその「偏り」や「誤り」を再現・再生産してしまう。アルゴリズムは「誰がやっても同じアウトプット」になるように誘導するための手段。「オブジェクト指向」とは、プログラミングの操作の対象を、数値や文字のようなデータそのものから「オブジェクト（物体）」という抽象的な次元へと拡張した体系のこと。この「オブジェクト」とは、現実社会にある既存のメディアの機能（例えば、「ファイル」）を仮想的に模倣したものであり、オブジェクト指向プログラミングでは、その「オブジェクト」を入出力可能なモジュールとして扱うことでシミュレーションを実現する。アルゴリズムは同一の組み合わせの定型パラメーターに対しては、常に同じ出力になることが保証されており、ルールに基づく決定論モデルが前提。他方、AIは、不定型の入力の組み合わせに対してこの出力が求められている確率が高い、という判断を大量のデータの学習によって実現する、確率論モデルで動作している。よって、学習によって出力が変化し続ける。つまり、人間的な「曖昧さ」がある。検索エンジンは、クローリング→インデクシング（収取したテキストを単語に分解してインデックス（索引）をつける）→ランキングの３機能の組み合わせ。ページランクの基本的なパラメーターは、それぞれのウェブページの「バックリンク（他のページからのリンク）」の数。リンクの数が多ければ多いほど、かつ、リンク元の評価が高ければ高いほど、そのページのスコアが高くなる。「ステマ（ステルス・マーケティング）」とは、他のユーザーに気づかれないようなやり方でスコアなどを評価し、自社や商品の評判を吊り上げる手法を指す。認知資源の獲得競争。様々なプラットフォームのアルゴリズムが、情報の信頼性や正確性ではなく、アクセス数やCTR（クリック率）、コンバージョン・レート（取引成立の確度）などのアテンションの獲得と直結したKPIに対して最適化されている。直感や経験則にもとづいてすばやい判断を行うような、認知資源の節約につながる情報処理のことを「ヒューリスティック」という。アルゴリズムやAIが、情報の意味論的な「正確性」や「信頼性」を直接判別できないという原理的な問題は、社会におけるアテンションの偏り、すなわちヒューリスティックやステレオタイプといった人間の心理的バイアスに基づく判断の偏りがそのままスコアやランキングに反映される要因となる。虚偽の投稿は、真実の投稿に比べて、より目新しく驚きを与えやすいためにアテンションを得やすいという「新奇性仮説」。行動ターゲティング広告は「アドネットワーク」という表面上のインターネットサービスとは別のプラットフォームによって可能になるが、このサービスを提供しているのもグーグルやメタなどのプラットフォーム企業。EUのGDPRは氏名や住所などの個人情報のみならず、クッキーやIDなどのオンライン識別子、位置情報、IPアドレスなどのような同一性を特定できるデータを「パーソナルデータ」と定め、その管理や保護の厳格な運用が定めている。AIは学習したデータにある意味「忠実に」判別を行うものであり、ルールに基づく条件分岐ではないため、一度偏ったデータを学習して偏見や差別を伴うような判断をしてしまうと修正が容易でない。ブラックボックスを開いて中身を直接変更することが原理的にできないことから、学習するデータによって「補正」を行わなければならない。「ベタ」な水準で信じる地平から離れて、「メタ」な水準で相対化する視点の獲得へ。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

楽天でアルゴリズムを扱う仕事をし、ブラックボックス化するシステムによって利用者を誘導していく仕組みに疑問を持ったという筆者。社会インフラとなり、ますますブラックボックス化が加速するネット環境にどう対峙すべきかを説く。

ネットに限らず、電気ガス水道、自動車など、出来上がったモノを使用する際にその技術は従事者以外には全く分からなくなっているものは数多くある。ネット環境もその進化の過程でハッキングを防ぐためのセキュリティ対策や、「情報の洪水の中から効率よく必要な情報を検索する」ニーズから、宿命的に仕組みがブラックボックス化されていった。それは「自らの情報を預ける」ことや自分の意見に近い情報だけにしか注意が向かなくなるリスクと表裏一体であり、そこに溺れないために「なぜこの情報が出てくるのかを想像する」注意力が必要だと繰り返し説いている。

世間でもこのような偏向・分断の傾向はよく見聞きする。自分はそれに溺れないようにとなるべく多くの角度からモノを見られるように心がけてはいるが、「読みやすい本」ばかり選んでいないか今一度注意してみたい。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

アルゴリズムの概念の説明からスタートし、インターネット上での検索の仕組みや経緯を解説しながら、技術の「ブラックボックス」化や「インフラ」化などの抽象的な概念を事例を交えて少しずつ判りやすく解説し、筆者の専門のメディア論の観点を中心としてインターネットやAIと俯瞰して向き合う視点へ誘ってくれる。
文中で「科学技術社会論」を引用されてるように、同様の俯瞰した視点は世の中の科学技術全般に対しても求められるとも気付かさせてくれる。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

76世代こそ、遊具→道具→インフラ化の流れを見てきたという指摘に、確かにな、と感じました。

仕組みを完全にではなくても、理解しようとする素養を生むことは、最初から当たり前にあった世代にはかえって難しいのかもな、と思うと、76世代が得てきた知見こそが、道具に「使われる」のではなく、「使う」側に立つために必要であり、遊具としての楽しさを見出し続けることが次のイノベーションのきっかけにもなるんだろうな、と感じました。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

アルゴリズムを作るテックはもともとはオープンソースから始まっているが、今は商業主義がドライバーであるためユーザーを囲い込む方向に向かっている。メディアリテラシーとは仕組みを詳細に理解することではなく、テック特に王らっとフォーマーの行動原理を想像し、それに基づいて情報を解釈することを行う能力、方向性を持つことである。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

SNSのタイムラインは、ユーザの関心や操作履歴をもとに表示される情報が自動的に取捨選択されている。その選別はアルゴリズム（一定の計算手順）によって行われており、ユーザの注目（アテンション）を最大化することを目的としている。このような仕組みはアテンションエコノミー（人々の注意や関心を価値として扱う経済）と呼ばれ、SNSの収益構造と密接に結びついている。その結果として、ユーザが「信じたい」と感じる情報や感情を刺激する投稿ばかりが目に入りやすくなる。情報の選別が収益を目的とした計算によって行われ、さらに認知バイアス（思い込みや先入観）やエコーチェンバー（同じ意見ばかりが表示される現象）と結びつくことで、誤情報と正確な情報を見分ける力が鈍り、社会的な出来事や他者の意見を冷静かつ客観的に判断する力が失われる。
それを踏まえ、一般ユーザは自分がどのような情報を受け取っているのか、その詳細を意識しなくて済む社会を望みながら構築してきたという事実に気づくべきである。そしてそのうえで、エコーチェンバーがもたらす情報の偏りや分断の弊害を共有認識する必要がある。難しいけど面白かった。能登地震の時のインプレゾンビも酷かった。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

この分野に対して、あまり知識はなかったが、かなり勉強になった。
アルゴリズムやAIの利活用について、ブラックボックス化する前に、そのプロセスについて把握する意識は大事。
「複雑なものを複雑なまま理解する」という姿勢は現代に欠かせないなと思った。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

お店の口コミや、ブラウザの検索結果、ランキング等、その仕組みを知らずに当たり前に使っている。しかし、仕組みの設計段階では設計者の思惑が働いていることは理解しておかないといけないと思った。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

ブラックボックス化は、悪意があるないに関わらず必然的に起こっていると感じた。
スマホで買い物する時に、自分の選択を疑うことはした方がいいと勉強になった。

アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

アルゴリズムの本質は誰がやっても同じ答えにたどりつくこと

アテンションエコノミー

社会的ブラックボックス
→AIは技術的にもブラックボックス

インフラ的反転

情報的健康

インターネットメディアを作ってきた身からすると、身近な内容ではあるが、改めてわかりやすくよく整理されていた