アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのか

宇田川敦史

生成ＡＩを筆頭に新しい技術の進歩は増すばかりの昨今。ＳＮＳや検索エンジンなどの情報は「アルゴリズム」によって選別されている。しかし私たちはそのしくみを知らないままで利用していることも多い。アルゴリズムを紐解くことは、偏った情報摂取に気づき、主体的にメディアを利用する第一歩なのである。本書は、GoogleやAmazon、X、食べログなどを例に、デジタル・メディアやＡＩのしくみを解説。ブラックボックス化している内部構造への想像力を高めることを通じて、アルゴリズム・ＡＩを疑うための視点をわかりやすく解説、提示する。メディア・リテラシーのアップデートを図る書。

• カテゴリ: 小説・文芸
• ジャンル: ノンフィクション / ノンフィクション・ドキュメンタリー
• 出版社: 集英社
• 掲載誌・レーベル: 集英社新書
• 電子版発売日: 2025年05月16日
• コンテンツ形式: EPUB
• サイズ(目安): 3MB

[ブクログ · ★★★★★]

情報オーバーロード時代に、
効率を重視した結果生まれた、エコーチェンバーやフィルターバブル、アテンションエコノミーへの向き合い方を考えさせる良書。といっても、リソースや意識を向ける覚悟も持つという、取り組みにくい解決策しかないが。遊具から道具という発展のとらえ方は面白い。

[ブクログ · ★★★★★]

職場の人全員に読んでほしい。
検索結果やタイムラインなど、自然の結果のように誤認しがち。
実際には、あるアルゴリズムによって生成されている。
聞くと当たり前と言うかもしれないが、理解している人がどのくらいいるか。理解していても、自分のSNSのタイムラインを前にすると、それが世界の大半だあると錯覚しはしないか。
認知負荷を自然に避けるという性質上、それが当然でもある。
常々感じているのが、プログラミング教育が必須なのではなく、アルゴリズム教育こそ必須であり、プログラミングはそれを職業にするのでなければ、アルゴリズムとは何かを理解するための手段でしかないということ。(あくまでも、現時点での学校教育においては)
また、AIのブラックボックスは、従来のブラックボックスと異なり閉じている、という話は興味深い。これも、今後AIを使いこなしていくに際し、不可欠な概念。また、情報リテラシーからメディアリテラシーへ、メタな視点を持つこともとても重要と感じた。

[ブクログ · ★★★★☆]

アルゴリズムの概念の説明からスタートし、インターネット上での検索の仕組みや経緯を解説しながら、技術の「ブラックボックス」化や「インフラ」化などの抽象的な概念を事例を交えて少しずつ判りやすく解説し、筆者の専門のメディア論の観点を中心としてインターネットやAIと俯瞰して向き合う視点へ誘ってくれる。
文中で「科学技術社会論」を引用されてるように、同様の俯瞰した視点は世の中の科学技術全般に対しても求められるとも気付かさせてくれる。

[ブクログ · ★★★★☆]

76世代こそ、遊具→道具→インフラ化の流れを見てきたという指摘に、確かにな、と感じました。

仕組みを完全にではなくても、理解しようとする素養を生むことは、最初から当たり前にあった世代にはかえって難しいのかもな、と思うと、76世代が得てきた知見こそが、道具に「使われる」のではなく、「使う」側に立つために必要であり、遊具としての楽しさを見出し続けることが次のイノベーションのきっかけにもなるんだろうな、と感じました。

[ブクログ · ★★★★☆]

アルゴリズムを作るテックはもともとはオープンソースから始まっているが、今は商業主義がドライバーであるためユーザーを囲い込む方向に向かっている。メディアリテラシーとは仕組みを詳細に理解することではなく、テック特に王らっとフォーマーの行動原理を想像し、それに基づいて情報を解釈することを行う能力、方向性を持つことである。

[ブクログ · ★★★★☆]

この分野に対して、あまり知識はなかったが、かなり勉強になった。
アルゴリズムやAIの利活用について、ブラックボックス化する前に、そのプロセスについて把握する意識は大事。
「複雑なものを複雑なまま理解する」という姿勢は現代に欠かせないなと思った。

[ブクログ · ★★★☆☆]

お店の口コミや、ブラウザの検索結果、ランキング等、その仕組みを知らずに当たり前に使っている。しかし、仕組みの設計段階では設計者の思惑が働いていることは理解しておかないといけないと思った。

[ブクログ · ★★★☆☆]

ブラックボックス化は、悪意があるないに関わらず必然的に起こっていると感じた。
スマホで買い物する時に、自分の選択を疑うことはした方がいいと勉強になった。

[ブクログ · ★★★☆☆]

アルゴリズムの本質は誰がやっても同じ答えにたどりつくこと

アテンションエコノミー

社会的ブラックボックス
→AIは技術的にもブラックボックス

インフラ的反転

情報的健康

インターネットメディアを作ってきた身からすると、身近な内容ではあるが、改めてわかりやすくよく整理されていた

[ブクログ · ★★★★★]

アルゴリズムの危険性を単純にSNSから離れましょうと警告するのではなく、複雑な生態系の実態から目をそらし、単純化した図式で物事を理解しないようにするため複雑な図式のまま理解する、そのこと自体に限られている認知資源を割く覚悟を持つことの大切さを説いている本です説得力があった。
情報過多で、限られている接触できるコンテンツのなかから、アルゴリズムにしたがって選択していくのではなく、フィルタリングされている選択肢であると自覚して使うようにしたい。