アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

宇田川敦史

生成ＡＩを筆頭に新しい技術の進歩は増すばかりの昨今。ＳＮＳや検索エンジンなどの情報は「アルゴリズム」によって選別されている。しかし私たちはそのしくみを知らないままで利用していることも多い。アルゴリズムを紐解くことは、偏った情報摂取に気づき、主体的にメディアを利用する第一歩なのである。本書は、GoogleやAmazon、X、食べログなどを例に、デジタル・メディアやＡＩのしくみを解説。ブラックボックス化している内部構造への想像力を高めることを通じて、アルゴリズム・ＡＩを疑うための視点をわかりやすく解説、提示する。メディア・リテラシーのアップデートを図る書。

• カテゴリ: 小説・文芸
• ジャンル: ノンフィクション / ノンフィクション・ドキュメンタリー
• 出版社: 集英社
• 掲載誌・レーベル: 集英社新書
• タイトル: アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか
• タイトルID: 20129755
• 電子版発売日: 2025年05月16日
• コンテンツ形式: EPUB
• サイズ(目安): 3MB

[ブクログ · ★★★★★]

インターネットをアルゴリズムから明らかにするという趣旨ので一貫している本である。非常にわかりやすく書いている。生成AIについてはそれほど詳細に説明しているわけではないので不満に思われるかもしれないが、ここでのアルゴリズムの考えを応用して考えることができるであろう。

[ブクログ · ★★★★★]

情報オーバーロード時代に、
効率を重視した結果生まれた、エコーチェンバーやフィルターバブル、アテンションエコノミーへの向き合い方を考えさせる良書。といっても、リソースや意識を向ける覚悟も持つという、取り組みにくい解決策しかないが。遊具から道具という発展のとらえ方は面白い。

[ブクログ · ★★★★★]

職場の人全員に読んでほしい。
検索結果やタイムラインなど、自然の結果のように誤認しがち。
実際には、あるアルゴリズムによって生成されている。
聞くと当たり前と言うかもしれないが、理解している人がどのくらいいるか。理解していても、自分のSNSのタイムラインを前にすると、それが世界の大半だあると錯覚しはしないか。
認知負荷を自然に避けるという性質上、それが当然でもある。
常々感じているのが、プログラミング教育が必須なのではなく、アルゴリズム教育こそ必須であり、プログラミングはそれを職業にするのでなければ、アルゴリズムとは何かを理解するための手段でしかないということ。(あくまでも、現時点での学校教育においては)
また、AIのブラックボックスは、従来のブラックボックスと異なり閉じている、という話は興味深い。これも、今後AIを使いこなしていくに際し、不可欠な概念。また、情報リテラシーからメディアリテラシーへ、メタな視点を持つこともとても重要と感じた。

[ブクログ · ★★★★☆]

ネットで買い物をすると、買い物をしたサイト以外でも同じような商品の広告が出てきたり、Facebookでずっと音信不通だった人が「友達かも」で表示されたり…。こういう経験をすると「どこでその情報(あるいは自分の素性)が伝わったのだろう」となんか気持ち悪くなった経験は誰もがあるはず。

本書はネット上のそういうしくみについて、プログラミングとかの技術ではなく、「アルゴリズム」という概念の解説をしています。詳しい内容については割愛しますが、要点は下記のとおりです。
1)googleなどの検索ランキングサイトでは、ネット上の全ての情報が公平に表示されているわけではなく、サイト設計者の思惑がランキングに反映されている
2)ランキングはサイトの「正確さ」、「信頼度」に関係なく、より注目されクリックされやすいサイトが上位に表示される傾向がある
3)ネット上の情報を整理するための検索結果で下位に表示される情報はもはやネット上に存在しないと思われてしまう
4)偽情報・誤情報は注目されやすいため、より拡散されやすい
5)人間の認知処理の容量には上限があるのに、ネット上の情報量は一方的に増大するため、情報選別の手段として検索エンジンに頼りがちになる
上記などは特に目新しい視点ではないですが、これを裏付ける説明が非常に分かりやすく腑に落ちるものでした。

著者は情報の摂取を栄養の摂取に例えています。食べ物を選ぶ時、「○○が不足してるから野菜を多めに」、「この食品の産地はどこだろう?」等々、食品の栄養や素性を意識して摂取している人は多いです。一方、情報について「この情報は誰が発信している?」など情報の素性に思いをはせる事を意識することが、情報リテラシーの向上に不可欠との事。

これからネットを利用する事が多くなる若い人は勿論、年齢を重ねて思い込みが激しくなりがちな50代以上の人にも是非お勧めしたい1冊です。

[ブクログ · ★★★★☆]

楽天でアルゴリズムを扱う仕事をし、ブラックボックス化するシステムによって利用者を誘導していく仕組みに疑問を持ったという筆者。社会インフラとなり、ますますブラックボックス化が加速するネット環境にどう対峙すべきかを説く。

ネットに限らず、電気ガス水道、自動車など、出来上がったモノを使用する際にその技術は従事者以外には全く分からなくなっているものは数多くある。ネット環境もその進化の過程でハッキングを防ぐためのセキュリティ対策や、「情報の洪水の中から効率よく必要な情報を検索する」ニーズから、宿命的に仕組みがブラックボックス化されていった。それは「自らの情報を預ける」ことや自分の意見に近い情報だけにしか注意が向かなくなるリスクと表裏一体であり、そこに溺れないために「なぜこの情報が出てくるのかを想像する」注意力が必要だと繰り返し説いている。

世間でもこのような偏向・分断の傾向はよく見聞きする。自分はそれに溺れないようにとなるべく多くの角度からモノを見られるように心がけてはいるが、「読みやすい本」ばかり選んでいないか今一度注意してみたい。

[ブクログ · ★★★★☆]

アルゴリズムの概念の説明からスタートし、インターネット上での検索の仕組みや経緯を解説しながら、技術の「ブラックボックス」化や「インフラ」化などの抽象的な概念を事例を交えて少しずつ判りやすく解説し、筆者の専門のメディア論の観点を中心としてインターネットやAIと俯瞰して向き合う視点へ誘ってくれる。
文中で「科学技術社会論」を引用されてるように、同様の俯瞰した視点は世の中の科学技術全般に対しても求められるとも気付かさせてくれる。

[ブクログ · ★★★★☆]

76世代こそ、遊具→道具→インフラ化の流れを見てきたという指摘に、確かにな、と感じました。

仕組みを完全にではなくても、理解しようとする素養を生むことは、最初から当たり前にあった世代にはかえって難しいのかもな、と思うと、76世代が得てきた知見こそが、道具に「使われる」のではなく、「使う」側に立つために必要であり、遊具としての楽しさを見出し続けることが次のイノベーションのきっかけにもなるんだろうな、と感じました。

[ブクログ · ★★★★☆]

アルゴリズムを作るテックはもともとはオープンソースから始まっているが、今は商業主義がドライバーであるためユーザーを囲い込む方向に向かっている。メディアリテラシーとは仕組みを詳細に理解することではなく、テック特に王らっとフォーマーの行動原理を想像し、それに基づいて情報を解釈することを行う能力、方向性を持つことである。

[ブクログ · ★★★★☆]

この分野に対して、あまり知識はなかったが、かなり勉強になった。
アルゴリズムやAIの利活用について、ブラックボックス化する前に、そのプロセスについて把握する意識は大事。
「複雑なものを複雑なまま理解する」という姿勢は現代に欠かせないなと思った。

[ブクログ · ★★★☆☆]

お店の口コミや、ブラウザの検索結果、ランキング等、その仕組みを知らずに当たり前に使っている。しかし、仕組みの設計段階では設計者の思惑が働いていることは理解しておかないといけないと思った。