笹原和俊のレビュー一覧

フェイクニュースの免疫学――信じたくなる心理と虚偽の構造

フェイクニュースは病気のウイルスのように感染するが、ワクチンを作ることもできる。
フェイクニュースがどういったもので、どのような手口で広まるのかの解説のみならず、ワクチンを作るにはどうしたらいいかも書いてある。一度は必ず読むべき本

フェイクニュースの免疫学――信じたくなる心理と虚偽の構造

フェイクニュースの分析ではなく、対処法がやっとあらわれたというかんじである。フェイクニュースに感染するDEPICTの操作の６次元をあらわにし、さらにバッドニュースのゲームで予防接種をする。このゲームが日本語化されないのはどうしてだろうか。２０２３年の原著発行で2026年の日本語版印刷なのでまだゲームの日本語化はされていないのかもしれない。

ネット世論操作とデジタル影響工作 「見えざる手」を可視化する

認知戦について掘り下げたく、本書を手に取った。
最も鋭いなと思ったのは、国民に更なるデジタル影響工作などに対するリテラシーを求めてはいけない、という主張だ。

一田樹氏と藤代裕之氏の二人が共通して主張している。

一般的には、リテラシーを高めることが重要だと言われる。
本書内にもリテラシー向上を推す人も居る。私も、少なくとも「情報リテラシー」に関しては非常に重要だと考えている。

しかし一田氏、藤代氏の言う通り、リテラシー向上より先に出来ること、すべきことは充分にある。

国家でもコミュニティでも企業でも、構成員が一丸になると強い力を発揮する。
それを裏返すと、構成員同士を仲違いさせ、分断させられれば、相対的に優位を勝ち取れるということだ。

この手法は今に始まったことではなく、例えば帝国主義の時代に列強国がアフリカ、中東などあらゆる国で仕掛けてきた古典的な方法である。
デジタル影響工作や認知戦などによる目標の一つが、敵対国の分断だ。

分断させる攻撃の恐ろしい部分は、いくつかある。
例えば、物理的攻撃で打ち負かすよりはるかに低コストで行えるので難易度が低いこと。
また、相手に、自分が操作されていることを気付かせずに攻撃を成し遂げることが可能なのも嫌らしい。
さらに言えば、仮に介入が判明したとしても、実際に分断するような行動を起こしたのは分断した国・組織の構成員自身であるから、攻撃者は否定しやすいのも悩みの種になる。
そして行動を起こした人たちは認知的不協和によって、自分たちが操作されたことを認めたがらない。あくまで悪いのは相手であって、自分は主体的な意志で以て正しいことをしていると思いたがる傾向があるのも、厄介さに輪をかける。

資本主義はその構造上、格差を生む。必ず資本の多寡によって上下の区別がついてしまう。
そこから自己責任という号令から生まれるメリトクラシー、優越感、見下す気持ちと、卑下、僻み、劣等感、などが生まれる。
攻撃者はほんの1本のマッチを投げ入れればよいだけだ。分断の野火が広がっていく。
だからこそ、リテラシーを声高に歌うのは諸刃の剣なのである。

ではどうしたらよいか、と思考を馳せると、見通しの良い道筋は、幾分エリート主義的な手法になる。

即ち、有識者、責任者、為政者など、力(権力、暴力、技術力など)を持つ担当者が代表して敵対行為に対する対処をし、それ以外の大衆は政治など余計なことを考えず、目の前の仕事に集中する、という道だ。

要はポピュリズム、衆愚政治などに陥らないようにする方法と同じ。リテラシーを持たない人たちを分相応の立ち位置に据え置き、世を二分するような大波を生まないような構造にする。

歴史はこのエリート主義とポピュリズムの往還という流れをグルグルと繰り返しているが、対デジタル影響工作という意味では、再度この方向にもっていくのは試す価値がありそうだ。

ただ、グローバル化、SNSなどが大衆個々人と敵対国の間の攻撃面となり、草の根が見えないところで根腐れさせられている可能性を考えると、リテラシー向上は、それはそれとして必要なのではと思う。
敵の攻撃にこんなものがある、ということを知っておくだけでも、メタに立てる免疫となる。いわば認知戦に対するワクチンだ。

リテラシー向上を求めない、というのは、放任ではなく、リテラシーを伝えた上で、望む閾値に届かない者を見下さないという愛の問題に置き換えられよう。
この構図はほぼ教育と同じなので、応用が利く手法でもある。

人生100年時代なのだから、生涯学習として、認知戦やデジタル影響工作という攻撃についての事実と対処法を、皆が触れられる形で備えたいところだ。

フェイクニュースを科学する: 拡散するデマ、陰謀論、プロパガンダのしくみ (DOJIN文庫)

フェイクニュースは、人間の認知特性と、SNSプラットホームの仕組みやパーソナライズ技術が、負のシナジー効果を発揮して、想像以上の社会問題を巻き起こしていることを改めて実感できた良書でした。

Twitterみてるの馬鹿馬鹿しくなっちゃうな(((^_^;)

この社会問題への対策がメディアリテラシーの向上とファクトチェック団体というのが、すこし心もとない気分でした。実は前に立岩陽一郎氏の『ファクトチェック最前線』を読んでいて、ひとくちにファクトチェックと言っても…なかなか。

フェイクニュースを科学する: 拡散するデマ、陰謀論、プロパガンダのしくみ (DOJIN文庫)

フェイクニュースの生まれる仕組み/生まれやすい環境についてとてもよくまとまっている。最新の研究までカバーされているので、現状このテーマについての最良書だと思う。海外ではネットリテラシーのための教育がもう始められているというのに、日本ではまったくの手つかずというのがもどかしい。どうして日本はこういう重要なことがぶっちぎりの周回遅れになってしまうのか…

フェイクニュースを科学する: 拡散するデマ、陰謀論、プロパガンダのしくみ (DOJIN文庫)

この本の刊行は2018年初版。
そして同著者による『ディープフェイクの衝撃
AI技術がもたらす破壊と創造　　PHP新書』は、2023年初版。
この2冊を立て続けに読んだ結果、ほんの5年でフェイクニュースの質が大幅に向上しちゃってる事がよく分かる。
フェイク画像まで捏造され、もはや目に見える事すら真実なのか疑って見なくてはならない時代到来…

フェイクニュースを科学する: 拡散するデマ、陰謀論、プロパガンダのしくみ (DOJIN文庫)

SNSのネットワークについて計算社会科学をもとに解説。特にフェイクニュースについて数理モデルや認知バイアスの知見から説明している。

もともと計算社会科学に関心があり本書を手にした。SNSを模倣した数理モデルのシミュレーションで思想の分断が生じること、フェイクニュースが拡散される要因を検証したことは計算社会科学の威力が十分に発揮された。
また、分析だけでは終わらず、SNSネットワークのシミュレーションを模倣できるサイトの紹介をしたり、フェイクニュースの対抗策についても解説している。
ただし、SNS業界は動きが非常に速いので、数年経つと情報が古くなっている。最近の情報は自身で随時取り入れていく必要があるだろう。

計算社会科学の実例を学ぶことができ、非常にためになった。ネットワークという複雑なものをモデルにして分析し、わかりやすく可視化していることは感銘を受けた。
フェイクニュースへの対抗策としてE.S.C.A.P.Eが紹介されていた。簡単かつ効果的なので、私も今後SNSを利用するときは常に意識し、我が子にも啓蒙していきたい。

ディープフェイクの衝撃 ＡＩ技術がもたらす破壊と創造

これだけ高度に科学技術が発達した社会ではデジタルがアナログ並みに精緻になり、何が真実で何がフェイクなのか識別できなくなる。どれだけ対策を練っていたとしても、危険はゼロにならない。
この本で紹介されていたのはAI技術でどのようなフェイクを作ることができるのか技術的な解説もされていてとても勉強になった。

AIなどここまで科学が進化してくると、人間らしさとは何なのか？改めて考えるきっかけになった。

ネット世論操作とデジタル影響工作 「見えざる手」を可視化する

虚偽の情報はもっと増える
テクノロジーで検知するのと、コンテンツは削除することが必要。

世界の3極化　ってのだと、人口比では、きれいに3分割されるってのが、興味深い。
西側諸国で36%
中立のインド、ブラジル、南アフリカ等で32%
支持側の中国、イランで32%

一般的なことみたいですね。

フェイクニュースを科学する: 拡散するデマ、陰謀論、プロパガンダのしくみ (DOJIN文庫)

フェイクニュースの科学についての入門書。わかりやすく、データや研究に基づいた記述で信頼できる内容です。
文庫版で追加された補講では、2020年の新型コロナやトランプ落選を例にインフォデミックの時代を解説しています。

フェイクニュースを拡散するSNSは非難の対象にされていますが、SNSに残された「電子的痕跡」（ビッグデータ）によって情報生態系における人々の行動を定量的に調べることができるようになりました。つまりフェイクニュースを科学することも可能になった。

驚いたのはSNS上のいいねやシェアの内容で、個人の属性の特定がかなりの精度でできるということ。
アテンション・エコノミーという概念も始めて知り、ニュース産業について考える見通しがよくなった。

フェイクニュースの免疫学――信じたくなる心理と虚偽の構造

フェイクニュースに強くなるための方法を学ばせてくれる一冊。SNSなどが普及していく中で、感情に訴えてきたり、ストーリーを描きやすいフェイクニュースは短時間で広範囲に広がっていく。今はそこまでの影響力はないとされているが、選挙結果を大きく左右しかねない問題に発展する可能性をはらんでいる。頭では嘘だと分かっていても、感情的に信じてしまう仕組みになってしまっており、とても恐ろしいものである。筆者はフェイクニュースに対抗するために、免疫を獲得するべきだと主張する。ある一定数がフェイクニュースの耐性を取得することで、その広まりは大きく抑制される。また免疫を得るために、訓練をしたり毒性の低いフェイクニュースをあえて摂取することを推奨している。フェイクニュースが問題になりつつある現代で読むべき一冊なのかもしれない。

フェイクニュースの免疫学――信じたくなる心理と虚偽の構造

フェイクニュースの拡散はパンデミックに似ている。「5G電波でコロナ被害が拡大する」というトンデモ論を信じた人々によって、欧米でいくつの基地局が犠牲になったか…。

​怖いのは「正しい知識」だけではデマを防げない事実。いつ自分も騙されるかわからないからこそ、騙される前に弱毒化したフェイクの手口を擬似体験し、社会に集団免疫を築く「心理的接種理論」への転換が非常に面白かった。

​ワクチン陰謀論が蔓延する中、その対策にもまた「免疫」が有効という結びには皮肉が効いている。
説教臭さがなく、シニカルなユーモアも交えられた実用書でした。

ディープフェイクの衝撃 ＡＩ技術がもたらす破壊と創造

写真、動画、音楽、絵画、文章、なんでもAI生成できる時代になった。生成AIの進歩は急速で、もはや見分けが難しいレベルにきているようだ。
機械学習全般に関する説明もあって、GAN（敵対的生成ネットワーク）が興味深かった。生成AIと識別AIを互いに競わせるような考え方で、データさえあればいくらでも賢くなりそうに思えた。
メディアフォレンジックという考え方も出てきているようで、こういうものでもないと本物と偽物の識別はますます困難になりそうだと思った。

ディープフェイクの衝撃 ＡＩ技術がもたらす破壊と創造

ディープフェイクの例と現状、またその見破り方やそういうソフトの紹介など。
オーブンソース化されているものもあるようで、どんなものかみてみたい気になる。

折しもチャットGPT 、各国がどう扱うかも議論されてきており、将来どう進んでいくのか興味が湧く。

フェイクニュースを科学する: 拡散するデマ、陰謀論、プロパガンダのしくみ (DOJIN文庫)

偶然見つけた本。

なんとなく「フェイクニュース」なるものは知っているつもり。だったけど、この本を読んで、それがどんな現象を起こしているかということを知れたように思う。

認知バイアスの話から、もっとも拡散された感情が「怒り」であることに納得する。
他者の怒りに共感する時も、反論したくなる時も、グッと自分の感情が動かされるような気がする。

また、不確かな情報の蔓延「インフォデミック」についても、考えさせられる。
いくらリテラシーと言われても、いちいち情報源を確かめるのは面倒と思ってしまうし、巧妙に作られた情報に騙されかけたこともある。

老後、情報に翻弄される可能性が高まるんじゃないかなと思うと、恐ろしい。
情報弱者であっても、自己責任にされない社会になって欲しい。

フェイクニュースを科学する: 拡散するデマ、陰謀論、プロパガンダのしくみ (DOJIN文庫)

　デマや流言についての研究と言えば、オルポート・ポストマンの『デマの心理学』、清水幾太郎『流言蜚語』といた古典が有名であったが、近年、嘘やデマ、陰謀論等の虚偽情報がソーシャルメディアを介して大規模に拡散し、人間行動や社会に影響を及ぼしてきている。
　
　本書は、こうしたフェイクニュース現象を、情報の生産者と消費者が様々な利害関係の中でデジタルテクノロジーによってつながり合った「情報生態系（Information Ecosystem）の問題として捉え、その仕組みを計算社会科学という新しい学際科学の手法を活用して解明することを試みた入門書である。
　具体的には、定量的、実証的裏付けを伴った、認知バイアスや社会的影響、エコーチェンバー、フィルターバブルといった分析概念を用いた紹介がされている。

　また、コロナパンデミック状況に伴うインフォデミック、ワクチン陰謀論といった最新の状況についても、今回の文庫化に際して増補されており、大変勉強になる。