幸福な監視国家・中国

梶谷懐 / 高口康太

習近平体制下で、人々が政府・大企業へと個人情報・行動記録を自ら提供するなど、AI・アルゴリズムを用いた統治が進む「幸福な監視国家」への道をひた走っているかに見える中国。
セサミ・クレジットから新疆ウイグル問題まで、果たしていま何が起きているのか！？
気鋭の経済学者とジャーナリストが多角的に掘り下げる！

• カテゴリ: ビジネス・実用
• ジャンル: 社会・政治 / 社会学
• 出版社: ＮＨＫ出版
• タイトル: 幸福な監視国家・中国
• タイトルID: 646113
• ページ数: 256ページ
• 電子版発売日: 2019年08月30日
• コンテンツ形式: EPUB
• サイズ(目安): 6MB

[ブクログ · ★★★★★]

終わりの部分はまさにその通りだと。気づかないから気づかれない、慣れてきたから慣れてしまった。「監視」という言葉自体の敏感度や解釈もどんどん変わっていく中で、かけがえのないもの、最後まで守り続けるレッドラインは一体どこでしょう。

[ブクログ · ★★★★★]

本書は昨年(2019年)の8月に刊行されてから、大変話題になり、かつ其の後起きたコロナ禍への中国の対応/管理手法の一つとして個人情報を国が使って監視したことから、さらに注目された本だ。

これについては否定的な視点はありつつも、実は昨今(特にコロナ禍以降)の日本においても、このような手法を肯定的に捉える風潮が強まり始めていることは、政治を司るもののみならず、国民の側にもメリットがあるわけであって、その点を、中国ではどのように捉えられているのか？ということを理解しなければ、この『幸福な監視社会・中国』というテーマを理解したことにはならない。むしろ、この点こそが『幸福な』と付く理由であり、中国に限った話ではないことを物語っており、これこそが、本書の優れて今日的な評価を高めている理由だと、私は理解している。

さて、本書の主題である"国家による個人情報の監視システム"については、正確に(中国で)何が為されているのか？を把握している人は少ない、と著者は説く。

それは、我々読者側が持っている「先入観」による視界の歪み、正確な情報の欠乏、及び、システムの実装のスピードがあまりに早くて専門家でさえ状況を追い切れていない、などがあると言う。

最初に挙げた「先入観」は、『中国の社会体制が普遍的人権や議会制民主主義、法の支配と立憲主義といったいわゆる「普遍的価値」にもとづくものとは根本的に異なるため、変化の激しいテクノロジー、特に「監視社会」に関係するそれが、一体どう使われるかわからないという「不確実性」に対する漠然とした恐れ(p.18)』が、我々に先入観を持たせてしまっており、かつ、昨今議論されている『中国のような権威主義的な国家こそ、これからのAI+ビックデータの時代で覇権を握るだろう、という言説がそれなりの説得力を持って展開それ始めていること(p.18)』もそれらを補強し、さらにコロナ禍で中国政府が見せた"鮮やかな情報管理"が、それらを確信に近いものとして多くの人に印象付けたと言えるだろう。

第6章：幸福な監視国家のゆくえ”にて「功利主義(こうりしゅぎ : utilitarianism)」というキーワードを取り上げている点に、私は非常に妙着した。

この「功利主義」、『行為や制度の社会的な望ましさは、その結果として生じる効用（功利、有用性、英: utility）によって決定されるとする考え方 (Wikipediaより引用)』とあるが、これを別の言い方をすると「最大多数の最大幸福」というベンサムの命題があるが、この考え方は、特にビジネスパーソンにとっては親和性が高く、また、本書の主題である「監視社会」とも親和性が高いということは、次の一節の引用で十二分にご理解頂けると思う。

---
つまり、個人の属性や行動パターンによって反社会的行動を取りそうな人たちに対しては、あらかじめ行動の自由を奪っておくことが、違法行為を犯して刑務所に入れられる可能性を減らすので、むしろその人たちのためになる、というわけです。（p.172)
---

そして”第7章：道具的合理性が暴走するとき”において、この仕組を最大限生かしている事例として、現在も中国政府が世界各国から非難を浴びている、新疆ウイグル自治区における再教育キャンプの実態について取り上げている。

これは、ウイグル族住民の個人情報のみならず、生体情報(DNAや虹彩のデータ、話し声や歩き方)まで収集して監視網を強化し、かつ、再教育キャンプにて思想矯正を行うという、「現代の民族浄化」とでもいうべき実態について挙げた上で、これら監視システムの道具としての合理性を突き詰めていくと、こういう”暴走”ともいうべき人権無視の状態が生じることに警鐘を鳴らす。

このように否定的な視点はありつつも、実は昨今(特にコロナ禍以降)の日本においても、このような「功利主義」と「監視社会」を肯定的に捉える風潮が強まり始めていることこそが、本書の書名に『幸福な』と付く理由である、と、私は解釈している。

本書には、結論は無く、以下のまとめの言葉がある。

---
これらを踏まえた上で、私達はどのようにすればよいのでしょうか。月並みかもしれませんが、やはり重要なのは、テクノロジーの導入による社会の変化の方向性が望ましいことなのかどうかを、絶えず問い続ける姿勢をいかに維持するかということに尽きると思います。(p.239)
---

本書を読んで語りたいことは多々あるが、この中国の監視システムを「気持ちが悪い」と言いながらも、その基盤があって生ずる便益を羨望(せんぼう)する私達自身が、果たしてどのような社会を望むのか？という問いを投げかけられているのだ、と私は理解する。

そして、このようなテクノロジーの発展というものについては、『確かにテクノロジーを敵視して、その導入を拒むのは「ラッダイト運動」(産業革命期のイギリスで起こった機械の破壊運動)の頃から繰り返されてきたことであり、同じことは監視技術の導入についても言えるでしょう。(p.239)』と喝破している。

そうなのだ、我々は、いずれこれらを、喜んで受け入れていくのだ。今持っているこれら社会システムへの嫌悪感を忘却した上で。

[ブクログ · ★★★★★]

中国の監視社会について、外部のイメージと実態との解離を分かり訳す解説している良書。監視社会は日本を含む民主主義国家と異質なものではなく、その延長上にあるものもしれない…ということがよく理解できた。

作中でも言及された「1984」と「すばらしい新世界」に加え、PAYCHO-PASSを観ると更に楽しめると思う。

[ブクログ · ★★★★☆]

本書はジャーナリストと中国経済の学者がタッグを組んで書いた本です。そのため現地での具体的な取材に基づいた記載と、学術的な抽象的なフレームワークに当てはめた議論の両方が盛り込まれていて、私は大変満足しました（どちらか片方よりも示唆が多い）。

印象に残った点は、本のタイトルにもあるように、中国では功利主義的な価値観から、監視されることがむしろ大多数の人々にとっては功利主義的な幸福の向上につながっているということでしょう。信用スコアの上下に伴って生活の利便性の向上／低下が起き、それが犯罪の抑止だけでなく、マナーの改善につながるなど「お行儀のよい国民」へと変化が進んでいるということです。

もちろん負の側面もあります。それは少数民族に対する「過度の」抑圧で、新彊ウイグルでの知識人の「再教育キャンプ」への連行など、漢民族に対しては起こらないであろう過度の抑圧が行われていることです。これを著者は「道具的合理性の暴走」と呼びます。近視眼的、功利主義的な合理性です（その上位概念的なものが「メタ合理性」）。またネット上にポジティブな情報を意識的に増やそうという「正能量」という概念については、その意図は理解できるけれども、長期的には国民の批判的思考力をかなり弱体化させるのではないかと思いました。批判的思考力が弱くなってしまうと、今後ますますAIのいうことに従うようになるでしょう。

今後のAIの発展の影響という意味では、本書で取り上げられている心の二重過程理論との絡みが興味深かったです。心の二重過程理論では、人間の思考はシステム１（速い思考）、システム２（遅い思考）の２つがあることを示し、システム１が直観的かつ道徳的な思考（オートマチックモード）をさし、システム２が功利主義的で合理的な思考（マニュアルモード）に該当します。そして今後AIが進化すると、人間は負荷の大きいシステム２についてもAIに任せることがあるかもしれない、しかしそれは本書が呼ぶところの「アルゴリズム的公共性」を肥大化させるとともに、「市民的公共性」をやせ細らせることになるだろうということです。これが現在の中国で起こっていることになるわけですが、本書が指摘するように、中国における公共性が欧米的な「市民的公共性」ではなく、儒教的な「天理」に適っていることを意味するとすれば、道徳や倫理が埋め込まれた「アルゴリズム的公共性」が、好き嫌いにかかわらずAIの進化とともに世界中で浸透していくのかもしれないです。いろいろと考えさせられる良書でした。

[ブクログ · ★★★★☆]

大多数の中国人は、監視カメラによる監視社会に怯えることなく幸福を享受して安穏と暮らしている！？

批判されがちなギグエコノミー（悲熟練労働者の超短期労働）も、中国ではもともとそういう働き方が普及していたという前提があると全然違うよね。やっぱりお国柄を踏まえた上でないと何事も批判できない。

人間を道徳的にスコア評価するというシステムは、たとえ紙の上でしかなくても恐ろしいディストピアだと思うんだけど…。

後半は難しくて理解しきれなかったのでまた読みたい。参考文献も多く、勉強になりそう。

[ブクログ · ★★★★☆]

　伊藤計劃『ハーモニー』を読みながら思い出したので、改めて手に取る。中国におけるテクノロジーを用いた「監視社会化」の進展は、『１９８４』的な権威主義的全体性というよりは、ハックスリーの『すばらしき新世界』のイメージで捉える方が適切であり、主にデータを譲渡することと利便性の向上とのバーターが意識されているという意味で、データ資本主義とAI／ITを用いた統治をめぐる世界史的な同時性の文脈で理解すべき、という議論が展開されている。中国の事例を理解する上では、市民的公共性という問題意識の稀薄さという論点だけでなく、統治者に「徳」を求める儒教的な価値観の回帰という契機が重要だという記述も。

[ブクログ · ★★★★☆]

中国のインターネットによる監視の状態と生活を描いたものである。最後のウイグルについての記載はインターネットによる監視の説明が弱いような感じを受けた。
　ただ、中国のネット監視の現状を考えるにはいいのかもしれない。

[ブクログ · ★★★★☆]

冒頭の中国の監視システムの実情（出版から2年くらい経ってるので現在は進んでるだろうが）にズッコケるものの読み進めるとそれは逆に社会実装の速さの証左であり、中国の市民社会のルールの成り立ち方に裏付けされた現象であることだと分かる。

[ブクログ · ★★★★☆]

この本に手を伸ばしたきっかけであり、読書前に抱いていた疑問でもある「中国国民は一体どのような価値観でもって、この監視社会化を受け入れているのか」という問いに対する答えが納得のいく形で得られた。

・儒教的価値観（一部の教養があり、徳を積んだ者のみが天理に従って統治する資格をもつ）

・市民公共性が土台や受皿が無いこと（公権力や大企業によるデータの収集や活用方法に対して開示を求めたり、監視する力が働きにくい）

以上が印象に残ったのと、キーワードなのかなと思った。

[ブクログ · ★★★★☆]

梶谷懐（1970年～／現代中国経済論を専門とする経済学者／神戸大学大学院経済学研究科教授）と、高口康太（1976年～／中国の社会、ネット事情などに精通するライター、翻訳者、リサーチャー）による共著。
私は仕事柄、何人かの中国人の友人を持っているが、彼らとの連絡にはLINEは使えず、Wechatを使用しているし、中国に出張した際に（専用のアプリがなければ）GoogleもFacebookも使えないことは経験しており、中国の情報・通信統制には以前より関心を持っていたが、今般の新型コロナウイルス感染が中国・武漢で確認された当初、街頭でTVのインタビューを受けた若い中国人女性が「中国では、人びとの行動を監視してくれているから安心だ」とコメントしていたことに改めて衝撃を受け、本書を手に取った。
本書では、冒頭で、中国においては、現実世界でもインターネット上でもすべてが政府に筒抜けであるにもかかわらず、ほとんどの中国人がそれに不満を抱いていないどころか、現状を肯定的に見ていると書かれているのだが、実は、それは必ずしも、共産党独裁によって洗脳されているという理由だけではないとして、実際に中国で起こっている監視社会の実態が明らかにされ、更に、その監視社会は、今後日本を含む民主主義の国々でも直面する問題であると警鐘を鳴らしている。
主旨は概ね以下である。
◆中国の人びとは、企業や政府に個人情報を提供し、それと引き換えに便利なサービスを得てきた。
◆統治のための様々なテクノロジー（監視カメラなど）や、社会的に望ましい行いに対する動機付けを提供する「信用スコア」システムなどの浸透により、近年の中国社会は「お行儀がよくて予測可能な社会」なりつつある。
◆現在中国では、政府や企業がビッグデータに基づいて、「このように振る舞えば幸福になりますよ」というナッジやアーキテクチャ（人間の行為を制約したりある方向へ誘導したりするようなウェブなどの構造）を提供し、その言論統制は不可視化され、多くの人びとはそれに気付かなくなり、また、一般市民が自発的に反政府的な発言を控えるような形のものに進化しつつある。
◆監視社会を受容する背景が、利便性・安全性と個人のプライバシーとのトレードオフにおいて、前者を後者より優先させるという姿勢にあるとすれば、それは「功利主義」にほかならず、中国と西欧諸国の間に明確に線を引くことはできない。
◆今後、功利主義に基づいて道徳的判断の根拠が人間によるものからAIによるものに置き換わっていくとすると、アルゴリズムによる統治（人間の支配）が進む可能性があり極めて危険である。人間による「市民社会」が、それらを監視・チェックしなくてはならない。
◆現代の監視社会について考えることは、進化を止めることなないAIなどの新しいテクノロジーを、私たちの社会においてどう使いこなすかを考えることにほかならない。テクノロジーに意味を与えるのは人間であり、社会なのである。
中国の監視社会の現状分析を通して、進化するテクノロジーに対して我々はどう向き合うべきなのかを示唆する力作と思う。
（2020年3月了）