あらすじ
生成ＡＩを筆頭に新しい技術の進歩は増すばかりの昨今。ＳＮＳや検索エンジンなどの情報は「アルゴリズム」によって選別されている。しかし私たちはそのしくみを知らないままで利用していることも多い。アルゴリズムを紐解くことは、偏った情報摂取に気づき、主体的にメディアを利用する第一歩なのである。本書は、GoogleやAmazon、X、食べログなどを例に、デジタル・メディアやＡＩのしくみを解説。ブラックボックス化している内部構造への想像力を高めることを通じて、アルゴリズム・ＡＩを疑うための視点をわかりやすく解説、提示する。メディア・リテラシーのアップデートを図る書。
...続きを読む感情タグBEST3
このページにはネタバレを含むレビューが表示されています
Posted by ブクログ
アルゴリズムの危険性を単純にSNSから離れましょうと警告するのではなく、複雑な生態系の実態から目をそらし、単純化した図式で物事を理解しないようにするため複雑な図式のまま理解する、そのこと自体に限られている認知資源を割く覚悟を持つことの大切さを説いている本です説得力があった。
情報過多で、限られている接触できるコンテンツのなかから、アルゴリズムにしたがって選択していくのではなく、フィルタリングされている選択肢であると自覚して使うようにしたい。
Posted by ブクログ
実際にはAIもアルゴリズムも人間の「偏り」や「誤り」を勝手に是正してくれることはなく、むしろその「偏り」や「誤り」を再現・再生産してしまう。アルゴリズムは「誰がやっても同じアウトプット」になるように誘導するための手段。「オブジェクト指向」とは、プログラミングの操作の対象を、数値や文字のようなデータそのものから「オブジェクト（物体）」という抽象的な次元へと拡張した体系のこと。この「オブジェクト」とは、現実社会にある既存のメディアの機能（例えば、「ファイル」）を仮想的に模倣したものであり、オブジェクト指向プログラミングでは、その「オブジェクト」を入出力可能なモジュールとして扱うことでシミュレーションを実現する。アルゴリズムは同一の組み合わせの定型パラメーターに対しては、常に同じ出力になることが保証されており、ルールに基づく決定論モデルが前提。他方、AIは、不定型の入力の組み合わせに対してこの出力が求められている確率が高い、という判断を大量のデータの学習によって実現する、確率論モデルで動作している。よって、学習によって出力が変化し続ける。つまり、人間的な「曖昧さ」がある。検索エンジンは、クローリング→インデクシング（収取したテキストを単語に分解してインデックス（索引）をつける）→ランキングの３機能の組み合わせ。ページランクの基本的なパラメーターは、それぞれのウェブページの「バックリンク（他のページからのリンク）」の数。リンクの数が多ければ多いほど、かつ、リンク元の評価が高ければ高いほど、そのページのスコアが高くなる。「ステマ（ステルス・マーケティング）」とは、他のユーザーに気づかれないようなやり方でスコアなどを評価し、自社や商品の評判を吊り上げる手法を指す。認知資源の獲得競争。様々なプラットフォームのアルゴリズムが、情報の信頼性や正確性ではなく、アクセス数やCTR（クリック率）、コンバージョン・レート（取引成立の確度）などのアテンションの獲得と直結したKPIに対して最適化されている。直感や経験則にもとづいてすばやい判断を行うような、認知資源の節約につながる情報処理のことを「ヒューリスティック」という。アルゴリズムやAIが、情報の意味論的な「正確性」や「信頼性」を直接判別できないという原理的な問題は、社会におけるアテンションの偏り、すなわちヒューリスティックやステレオタイプといった人間の心理的バイアスに基づく判断の偏りがそのままスコアやランキングに反映される要因となる。虚偽の投稿は、真実の投稿に比べて、より目新しく驚きを与えやすいためにアテンションを得やすいという「新奇性仮説」。行動ターゲティング広告は「アドネットワーク」という表面上のインターネットサービスとは別のプラットフォームによって可能になるが、このサービスを提供しているのもグーグルやメタなどのプラットフォーム企業。EUのGDPRは氏名や住所などの個人情報のみならず、クッキーやIDなどのオンライン識別子、位置情報、IPアドレスなどのような同一性を特定できるデータを「パーソナルデータ」と定め、その管理や保護の厳格な運用が定めている。AIは学習したデータにある意味「忠実に」判別を行うものであり、ルールに基づく条件分岐ではないため、一度偏ったデータを学習して偏見や差別を伴うような判断をしてしまうと修正が容易でない。ブラックボックスを開いて中身を直接変更することが原理的にできないことから、学習するデータによって「補正」を行わなければならない。「ベタ」な水準で信じる地平から離れて、「メタ」な水準で相対化する視点の獲得へ。
Posted by ブクログ
SNSのタイムラインは、ユーザの関心や操作履歴をもとに表示される情報が自動的に取捨選択されている。その選別はアルゴリズム（一定の計算手順）によって行われており、ユーザの注目（アテンション）を最大化することを目的としている。このような仕組みはアテンションエコノミー（人々の注意や関心を価値として扱う経済）と呼ばれ、SNSの収益構造と密接に結びついている。その結果として、ユーザが「信じたい」と感じる情報や感情を刺激する投稿ばかりが目に入りやすくなる。情報の選別が収益を目的とした計算によって行われ、さらに認知バイアス（思い込みや先入観）やエコーチェンバー（同じ意見ばかりが表示される現象）と結びつくことで、誤情報と正確な情報を見分ける力が鈍り、社会的な出来事や他者の意見を冷静かつ客観的に判断する力が失われる。
それを踏まえ、一般ユーザは自分がどのような情報を受け取っているのか、その詳細を意識しなくて済む社会を望みながら構築してきたという事実に気づくべきである。そしてそのうえで、エコーチェンバーがもたらす情報の偏りや分断の弊害を共有認識する必要がある。難しいけど面白かった。能登地震の時のインプレゾンビも酷かった。
