【感想・ネタバレ】アルゴリズム・ＡＩを疑う 誰がブラックボックスをつくるのかのレビュー

宇田川敦史

生成ＡＩを筆頭に新しい技術の進歩は増すばかりの昨今。ＳＮＳや検索エンジンなどの情報は「アルゴリズム」によって選別されている。しかし私たちはそのしくみを知らないままで利用していることも多い。アルゴリズムを紐解くことは、偏った情報摂取に気づき、主体的にメディアを利用する第一歩なのである。本書は、GoogleやAmazon、X、食べログなどを例に、デジタル・メディアやＡＩのしくみを解説。ブラックボックス化している内部構造への想像力を高めることを通じて、アルゴリズム・ＡＩを疑うための視点をわかりやすく解説、提示する。メディア・リテラシーのアップデートを図る書。

[ブクログ · ★★★★★]

アルゴリズムの危険性を単純にSNSから離れましょうと警告するのではなく、複雑な生態系の実態から目をそらし、単純化した図式で物事を理解しないようにするため複雑な図式のまま理解する、そのこと自体に限られている認知資源を割く覚悟を持つことの大切さを説いている本です説得力があった。
情報過多で、限られている接触できるコンテンツのなかから、アルゴリズムにしたがって選択していくのではなく、フィルタリングされている選択肢であると自覚して使うようにしたい。

[ブクログ · ★★★★★]

情報オーバーロード時代に、
効率を重視した結果生まれた、エコーチェンバーやフィルターバブル、アテンションエコノミーへの向き合い方を考えさせる良書。といっても、リソースや意識を向ける覚悟も持つという、取り組みにくい解決策しかないが。遊具から道具という発展のとらえ方は面白い。

[ブクログ · ★★★★★]

職場の人全員に読んでほしい。
検索結果やタイムラインなど、自然の結果のように誤認しがち。
実際には、あるアルゴリズムによって生成されている。
聞くと当たり前と言うかもしれないが、理解している人がどのくらいいるか。理解していても、自分のSNSのタイムラインを前にすると、それが世界の大半だあると錯覚しはしないか。
認知負荷を自然に避けるという性質上、それが当然でもある。
常々感じているのが、プログラミング教育が必須なのではなく、アルゴリズム教育こそ必須であり、プログラミングはそれを職業にするのでなければ、アルゴリズムとは何かを理解するための手段でしかないということ。(あくまでも、現時点での学校教育においては)
また、AIのブラックボックスは、従来のブラックボックスと異なり閉じている、という話は興味深い。これも、今後AIを使いこなしていくに際し、不可欠な概念。また、情報リテラシーからメディアリテラシーへ、メタな視点を持つこともとても重要と感じた。

[ブクログ · ★★★★☆]

76世代こそ、遊具→道具→インフラ化の流れを見てきたという指摘に、確かにな、と感じました。

仕組みを完全にではなくても、理解しようとする素養を生むことは、最初から当たり前にあった世代にはかえって難しいのかもな、と思うと、76世代が得てきた知見こそが、道具に「使われる」のではなく、「使う」側に立つために必要であり、遊具としての楽しさを見出し続けることが次のイノベーションのきっかけにもなるんだろうな、と感じました。

[ブクログ · ★★★★☆]

アルゴリズムを作るテックはもともとはオープンソースから始まっているが、今は商業主義がドライバーであるためユーザーを囲い込む方向に向かっている。メディアリテラシーとは仕組みを詳細に理解することではなく、テック特に王らっとフォーマーの行動原理を想像し、それに基づいて情報を解釈することを行う能力、方向性を持つことである。

[ブクログ · ★★★★☆]

SNSのタイムラインは、ユーザの関心や操作履歴をもとに表示される情報が自動的に取捨選択されている。その選別はアルゴリズム（一定の計算手順）によって行われており、ユーザの注目（アテンション）を最大化することを目的としている。このような仕組みはアテンションエコノミー（人々の注意や関心を価値として扱う経済）と呼ばれ、SNSの収益構造と密接に結びついている。その結果として、ユーザが「信じたい」と感じる情報や感情を刺激する投稿ばかりが目に入りやすくなる。情報の選別が収益を目的とした計算によって行われ、さらに認知バイアス（思い込みや先入観）やエコーチェンバー（同じ意見ばかりが表示される現象）と結びつくことで、誤情報と正確な情報を見分ける力が鈍り、社会的な出来事や他者の意見を冷静かつ客観的に判断する力が失われる。
それを踏まえ、一般ユーザは自分がどのような情報を受け取っているのか、その詳細を意識しなくて済む社会を望みながら構築してきたという事実に気づくべきである。そしてそのうえで、エコーチェンバーがもたらす情報の偏りや分断の弊害を共有認識する必要がある。難しいけど面白かった。能登地震の時のインプレゾンビも酷かった。

[ブクログ · ★★★★☆]

この分野に対して、あまり知識はなかったが、かなり勉強になった。
アルゴリズムやAIの利活用について、ブラックボックス化する前に、そのプロセスについて把握する意識は大事。
「複雑なものを複雑なまま理解する」という姿勢は現代に欠かせないなと思った。

[ブクログ · ★★★☆☆]

お店の口コミや、ブラウザの検索結果、ランキング等、その仕組みを知らずに当たり前に使っている。しかし、仕組みの設計段階では設計者の思惑が働いていることは理解しておかないといけないと思った。

[ブクログ · ★★★☆☆]

ブラックボックス化は、悪意があるないに関わらず必然的に起こっていると感じた。
スマホで買い物する時に、自分の選択を疑うことはした方がいいと勉強になった。

[ブクログ · ★★★☆☆]

アルゴリズムの本質は誰がやっても同じ答えにたどりつくこと

アテンションエコノミー

社会的ブラックボックス
→AIは技術的にもブラックボックス

インフラ的反転

情報的健康

インターネットメディアを作ってきた身からすると、身近な内容ではあるが、改めてわかりやすくよく整理されていた