ディープフェイク ニセ情報の拡散者たち

ニーナ・シック / 片山美佳子

人類 vs ＡＩ。バイデン、マクロン、ラスムセンら世界の要人に助言を与えてきた著者が書き下ろす、あらゆる情報が信用できなくなる未来。

AI技術の進歩により、行ったこともない場所で、やっていないことをやり、言っていないことを言っている、ニセの動画を作れるようになった。腐敗した政治家や悪質な国家、テロリスト、犯罪者が用いれば、「ディープフェイク」は民主主義と個人の自由を脅かす新たな武器となる。そして世界中の情報が、危険で信用できない「インフォカリプス」の状態になる。本書は、国際的な政治とテクノロジーに関するアドバイザーとして活躍するニーナ・シックによる、未来への鋭い警告だ。

• カテゴリ: 小説・文芸
• ジャンル: ノンフィクション / ノンフィクション・ドキュメンタリー
• 出版社: 日経ナショナル ジオグラフィック
• ページ数: 248ページ
• 電子版発売日: 2021年09月24日
• コンテンツ形式: EPUB
• サイズ(目安): 3MB

[ブクログ · ★★★★★]

インフォメーション＋アポカリプス＝インフォカリプス
という造語を習得。

良し悪しを問わず、情報が蔓延している現代において、情報戦がどのように繰り広げられているのかを本書では学ぶことができた。
SNSが主だった戦場となっていることの再認識と、家族や身内をどうやって守っていったら良いのかという課題意識を持った。
対策は最終章にいくつか載ってはいるが、それにプラスして我が家でできることは何かないのか、といった点も今後気にかけつつ色々な読書体験を積んでいきたいと思う。

[ブクログ · ★★★★☆]

日本の例は皆無であり、アメリカ中心、特にトランプのフェイクについての説明が詳しい。しかし、その対策も最後の章で書いてある。インフォカリプス(infocalypse)=information+appocalypse（世界の終焉）という新しい言葉を提出しているが、これがどれくらいはやるかが見ものである。

[ブクログ · ★★★☆☆]

まあ新しい話はそれほどなかったかなあ、、と。
それにしても日本から見たらよくわからないけど、トランプ元大統領ってアメリカで結構嫌われてるのね。
まあどちらにせよ垢ＢＡＮはやり過ぎだと思うけどね。うーん、どうなんだろ。

[ブクログ · ★★★☆☆]

　ディープフェイク関連のこれまでの事案を丁寧に記述している（おそらく翻訳の問題で意味のとりにくい箇所が何箇所かあるが）。YouTubeなどで事案を再度確認しながら読み進めると理解が深まる。本書は第７章「まだ、希望はある」がポイント。ディープフェイクを見破るための技術開発やディープフェイクに関する調査研究機関の活動。民間組織や大学が活躍していることを本書で初めて知った。日本でも議論が始まった頃、フェイク対抗の研究開発という論点を持ち出すと、そんなの無理、という反応が結構あったが、世の中、動いているのかと心強く思った。

[ブクログ · ★★★☆☆]

様々なディープフェイク事例が紹介されているが，その部分が少し冗長な印象．
ディープフェイクがなぜ危険か，今後その危険にどう立ち向かっていけばよいのかあたりをもっと技術面から深掘りしてほしかった．
フェイクニュースやポルノ以外に，新しいディープフェイクの使われ方を示してもらいたかった．

[ブクログ · ★★★☆☆]

AIを使って作ったディープフェイクと呼ばれるニセ動画。最近のものはかなり精巧になり、ホンモノと一見区別がつかない。
誤情報とニセ情報が氾濫するようになった。
騙されないようにファクトチェックが重要なのです。

…という本。

内容的にはやや冗長。

この本の中では、ロシアがニセ情報を使いこなす匠の技を持っている、と評価されてます。

トランプが勝った2016年のアメリカ大統領選でもロシアは相当暗躍していたらしいし、バイデンの勝った2020年選挙はアメリカの情報機関が巻き返した、という感じなんですかね？

ウクライナ情勢はまさしく情報戦の様相を呈しているけど、はやく終結してほしい、と心から願います。

[ブクログ · ★★★☆☆]

人類vsAI。ハリウッド映画でこすられすぎた構図。

ディープフェイクとは、AIを使用し悪意をもって偽情報や誤情報として使われる合成メディアのこと。私の記憶で残っているのは元オバマ大統領が話している動画だ。本物か偽物が分からないクオリティ。恐ろしい時代になっている。

インフォメーションとアポカリプスを組み合わせたインフォカリプスという造語。直訳すると「情報世界の終焉」。確かにネットワークのメリットは当たり前に使っているが、デメリットの方は事件を起こしているのが事実。それが国レベルになるとなんとも世界の崩壊を危惧してしまう。当時は画像だが、スターリンの時代からあったとは。

この手の技術はやはりポルノ方面から発展していく。人間のエロパワーの凄さ。興味深かったのはAIを進化させるため、従来のディープラーニングの方法ではなくAIvsAIの騙し合いをさせて無限に進化させたということ。どんな分野でも発想の転換、閃きによって革新的なことが起こるのだ。

[ブクログ · ★★★☆☆]

　現在、私たちが置かれている誤情報・ニセ情報がもたらす危機について、端的に表す言葉としてインフォカリプス（情報の終焉）と定義し、これについての現状を述べた本。
　現在は写真や動画を気軽に手に入れることができますが、私たちは、一見正しく思われる音声や画像素材を本物だと信じてしまう傾向があるそうです。これを心理学者は「処理の流暢性」と呼び、人は無意識に、脳が素早く処理できる情報を肯定的にとらえると説明しているそうです。
　写真は何度か見ていると、処理の流暢性を補正する働きがでるそうですが、動画はまだそうなっていないようで、このような中、ディープフェイクと呼ばれるAIによってつくられる本物と見分けがつかないくらいの精巧な動画が世の中に混乱をもたらすリスクについて、最終章の手前まで滔々語られるので、とても暗い気持ちになります。
　ロシアの分断作戦による米国の大統領選挙の混乱だけでなく、混乱そのものが一般市民にも危険迫ると説いていることも輪をかけて暗くなりましたが、最終章でエストニアの事例を見て、ファクトチェックの重要性を改めて認識しました。