ジャン=ガブリエル ガナシアのレビュー一覧

虚妄のAI神話 「シンギュラリティ」を葬り去る

ジャン=ガブリエル ガナシア / 伊藤 直子・他

SFで題材にされることの多いAIの反乱。映画でも「ターミネーター」などで使われてきた。その中ではAIが人類を超える時、特異点・シンギュラリティが必ず語られており、ホーキング博士もAIが人類を超える日を恐れていた。
本書ではAIとシンギュラリティの可能性について検証している。
ムーアの法則などを検証してていく過程などが非常に面白い。専門的な話が多いが概要は理解出来たと思う。
何故シンギュラリティがこんなに語られるようになったかの視点は無かったのでその検証は興味深かった。

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

目次は以下のとおり。
・状況は切迫している（らしい）
・シンギュラリティ
・指数関数的な爆発
・コンピュータは自律できるか？
・現代のグノーシス
・来たるべき未来
・シンギュラリティと終末論
・偽りの人類愛

原題のフランス語をグーグル翻訳にかけると、「特異性の神話 人工知能を恐れるべきか？」なので、邦題とはおもむきが異なるイメージ。

読んでみると、この本には、マシンラーニングやディープラーニングなどの技術的、学術的、事例の類は書かれていないので、邦題からのイメージだけで買った人はなんじゃこりゃ？と思うかもしれない。

本の流れとしては、シンギュラリティブームの火付け役のレイカーツァイルが言ってることって信用に足るものなのか？という点を論破していきながら、このブームに乗ってる米国企業は、悲観論を前面に出しつつ、自分達は悪くないという防御線をはり、更に、国が持つ特権を密かに侵害しとるという警告の書。

これまでいくつかの人工知能本を読んでいたので、この本の仕立てについて、自分は好意的な印象。

著者が哲学者って言うのもいいし、フランス人って言うのも良い。個人的には、フランスって過去の人工知能ブームで先導していたイメージがあるので、その国からこういう警鐘が出つつも、自国ではいろいろやってるんだろうなぁと思わせる感じは好き。

「トーマス・クーンが「パラダイムシフト」と称した既成概念の変化は、既存の概念が確立されるよりも、はるかにゆっくりと偶発的に進むものである。ひるがえって、今日の機械学習の手法は、既知のデータから経験的法則を求めることは得意だが、新たな概念を創造するまでには至っていない。教師なし学習では、期待されるものの、新たな概念を創造創造するどころか、概念装置すら想像できていないのが現状。」

ジョン・サールが、1980年代に「中国語の部屋」論文の前書きで、強い人工知能と弱い人工知能という言葉を作ったのは知らなかった。 この強い人工知能、弱い人工知能というのも、弱いイコール専門機能、強いイコール汎用機能という整理になって、今でも使われたりするので、認識の整理という点では、使い勝手が良さそう。

グノーシス主義との関連性については、ちと難しかった。

シンギュラリティと終末論の章では、「円環としての時間」と「無限の直線」という、人類のもつ概念から、特に一神教がもつ終末論的発想からシンギュラリティが導き出されていると論じ、更に、これはヒューマニズムの名の下に進歩を限りなく続けていこうという理想を持つ啓蒙主義とも違うと。

この本を翻訳したチームは凄い。だって、この一般受けしなさそうな骨のある本を翻訳してくれたんだもの。日本語で読める事に感謝。そして、後書きには、東大名誉教授の西垣通先生の気合の入った論説。

この本は、かみごたえがあり、前提のいくつかの本を読んでおくとより楽しめるのではないかと思う。自分は、レイ・カーツァイルの『シンギュラリティはちかい』はもちろんのこと、佐藤優氏の『牙をとげ』の第2章あたりを読んでいたので、この本が楽しく読めました。

じっくり読んで考えて楽しむという本。

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

著者の伝えたい事は第八章に見事に要約されていると分かった。
最初は専門用語も多く、少し難解だと感じたが読み進めるにつれて、著者の哲学的思考とデータを生かして過去の偉人の意見を引用したりとか、GAFAの政治的な進入について警告を出したりとかしてるところが割りと読んでいて面白いと感じました。
そして、この本を読んで、今後の科学や政治といった情報を鵜呑みではなく背景にシンギュラリティの仮説があるんだろうなという前提で判断できるいいきっかけになったと思いました。

虚妄のAI神話 「シンギュラリティ」を葬り去る

ジャン=ガブリエル ガナシア / 伊藤 直子・他

シビュラシステムの様な世界がすぐそこまでという印象は確かに強く不可避なイメージがある。
そういうSF的、大企業、既得権益層的発信に疑義を挟む。前提がそもそも過大に語られていることへの警鐘として受け取れたかな。
可能かもしれないがかなり難しいのでは？
という冷静な感じがする。

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

シンギュラリティとは神話であり、説得性に欠ける代物。

GAFAMにより喧伝されているが、裏には巨大IT企業の陰謀を見ざるを得ない、との主張。

技術論より主に哲学の視点から述べており、邦題はミスリーディングかもしれない。

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

AI技術そのものではなく、「シンギュラリティ」という言葉の構造が露わにされている本です。
著者は哲学者でありながらCS教授としてフランスの人工知能研究チームのトップを務めている人のようで、表紙の雰囲気の割にはポピュラーサイエンス本のような内容では無く、哲学の知識を幾分か持ち合わせていないと難しい内容かもしれません。

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

AIによるシンギュラリティ
グノーシス主義が興味深い
言葉ではなく物語が世界を創り出すがたしかに今の世界かもしれない
理性ではなく空想に惹かれる時代

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

レイ・カーツワイルを筆頭にビル・ジョイやスティーブ・ホーキンスなどが主張するシンギュラリティをその源流となったＳＦなどを振り返るともにその成り立ちを考察、ムーアの法則には斉一性が無い、汎用人工知能は実証的アプローチが無いまま仮像と化しているなど、論理的な批判を展開し、更にはキリスト教・ユダヤ教などの一神教の宗教観にも言及し、現代のグノーシス（現世の否定、二元論）と看破する。世界のトップＩＴ企業がその支配力を強めるための隠れ蓑としてシンギュラリティを利用しているというのが著者の主張です。アングロサクソン（最近腰砕けですがｗ）が主導するグローバル資本主義に否定的なフランス人らしい思想がとても興味深く読めました。日本人的にはシンギュラリティは面白いからネタにするけど誰も本気にしていないと思うのですが、こんな本がわざわざ書かれるという事は、一神教の人たちは本気で心配している人が多いのでしょうか、とても気になります。

虚妄のAI神話 「シンギュラリティ」を葬り去る

ジャン=ガブリエル ガナシア / 伊藤 直子・他

著者はフランス人なのだが、そもそも一般的なふわっとした日本人の考えるシンギュラリティが、西欧のそれとかけ離れているのではないかと思った。
それは置いておいて、内容はシンギュラリティがなぜ来ないのかという事を科学的な理屈と、人間の心理の問題として説明する。また、なぜグーグルを筆頭とした巨大企業がシンギュラリティの到来を喧伝するかという考察もあり、納得できる内容だった。

虚妄のAI神話 「シンギュラリティ」を葬り去る

ジャン=ガブリエル ガナシア / 伊藤 直子・他

シンギュラリティ仮説に対して疑問を呈するものであるが、そもそも人間の知能を超えるかどうかという論題は、技術的な問題に加え哲学的な考え方が必要になるということになろうか。

虚妄のAI神話 「シンギュラリティ」を葬り去る

ジャン=ガブリエル ガナシア / 伊藤 直子・他

フランス人哲学者による、巷で騒がれるシンギュラリティに対して疑問を呈する著作。
シンギュラリティという言葉はもはやバズワードとなりつつありますが、筆者はその背景にハイテク企業による傲慢、不安、そして目くらましがあると説きます。
ムーアの法則が永遠のものではないことは少し考えれば分かりそうですが、それをもってシンギュラリティは幻想だと言えるのか。個人的にはシンギュラリティはSFの題材としては面白いと思っているので、色々とニュースなどを追ってはいるのですが、なかなか先行き不透明感が強いようです。ただ、GAFAなどのハイテク企業は利益追求のために、シンギュラリティに至る技術を開発、それを独占しようとする動機はありそうです。
人文系の教養の高さが時折伺える筆運びです。日本ではそれほど多くないタイプの知識人で、フランス人らしさを感じました。

虚妄のAI神話 「シンギュラリティ」を葬り去る

ジャン=ガブリエル ガナシア / 伊藤 直子・他

シンギュラリティとかあり得ないよね！シンギュラリティが来るっていってる著名人の主張、「著名」に欺されないで良く効くと変だよねって。

ただ、最終章の「何故、シンギュラリティが来ると主張しているのか？」についての問いは、メチャクチャだったね。だからフランス人はダメなんだよって感じで（偏見

虚妄のAI神話 「シンギュラリティ」を葬り去る

ジャン=ガブリエル ガナシア / 伊藤 直子・他

ムーアの法則の行き着く先にシンギュラリティ（技術的特異点）があるという仮説が巷間喧しい。本書は副題が「シンギュラリティを葬り去る」となっているから、その「化像」を各方面から分析し、その帰結に疑問を呈する警告の書である。かといって、著者はシンギュラリティそのものを否定している訳ではなく、現今の超大企業群がそれに託けて技術的、政治経済的な支配を指向しつつある兆候に警告を与えているのだ。シンギュラリティ仮説をグノーシス主義に例えるなど、いかにも西欧の論者らしい。

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

１．この本を一言で表すと？
・シンギュラリティという概念を否定した本
２．よかった点を 3〜5 つ
・シンギュラリティがムーアの法則に依存しているのは確かにおかしいと感じる (p20)
２．参考にならなかった所（つっこみ所）
・現在の技術レベルが低いことを理由に、自律するコンピュータが起こりえないとするのは論理に無理がある(p68)
・第五章 現代のグノーシス は主張がよくわからない。シンギュラリティとグノーシスが似ているから…どうなの？
・第八章 ネット企業のシンギュラリティに対する姿勢を批判しても、シンギュラリティは起こらないとは言えない
し、シンギュラリティそのものを否定することには論理的につながらないのではないか？
4．全体の感想・その他
・シンギュラリティを否定するのには全体的に根拠が弱い。
・技術的な側面については、あまり得るものはない。

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

・コンピューターは、結局人間が与えたルールの中でしか学習することができないた、自律して動き出すことはない。
・企業がシンギュラリティについて盛んに広告している背景は、以下の理由による。
└今後はITがPublicな一面も担っていくことになる。つまりはインフラ化する。そのため、政府に対して影響力を持つようになってくる。
└そのために、まずは公共的なイメージを世間に与えるため。

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

最近読んだ本に、３Dプリンター・AI・ドローン技術等により、人間の仕事が奪われマシーン（非人間）の世の中となる「シンギュラリティ」がやってくる等、不安が高まってきた中、心のどこかにそれを打ち消してくれる本が無いかなと期待していました。

私にとっては、これが待望の一冊目となります。ただし、私がこの本から私が受け取ったメッセージは、以前、誰もが宇宙旅行に行けるようになる、便利な機器に囲まれて仕事をする時間が大幅に減る、と言われてきて現在を迎えているように、機械が人間にとってかわることはなくとも、最近読んだ本にあったように、近未来になくなる仕事（機械に取って代わられる仕事）が増えていくのは事実だと思いました。

これからは私の両親が仕事をしてきた、そして引退後に年金ももらって生活している状況は、そのまま引き継げないのだろうと思います。価値を生み出す仕事はどうあるべきか、自分の問題に置き換えて、自分を見つめなおす良い機会を与えてくれたこの本に感謝しました。

以下は気になったポイントです。

・技術的特異点（シンギュラリティ）とは、ごく自然に日々確実に数を増やす機械によってもたらされる、事態はだんだんと加速して、ある時突然、暴走が起こる。世が変わり、人間が変わる、全くの別ものになることをいう（ｐ１８）

・近年の様々な兆候を見ていると、増加速度は停滞する傾向をみせている、そうなればムーアの法則はまもなく有効性を失うことになる（ｐ２２）

・シンギュラリティが訪れる時期は、異なる原則に基づいて時期を推定する、1993年の時点では2023年であったが、2010になり、さらに30年ほどの猶予を申し出たが、具体的な年を明言を避けた。中世に黙示録の実現が先延ばしされたように（ｐ２６）

・シンギュラリティとは、加速化の到達tンを説明するために数学の分野で用いられた概念であった（ｐ２７）

・地球の壮大な歴史を６つの時代に分類した場合、１）ビックバンに始まり、数億年かけて有機物が作られるまで、２）生命の誕生、DNA、細胞、組織を有する生物の出現、３）高度な脳と知能を有する生物誕生、人類の誕生含む、４）人類が生み出したテクノロジーが驚くべき規模と速度で完成、現代はこの末期、５）人間の生み出したテクノロジーが自立性を持ち、自ら進化する、６）精神性が開花、テクノロジーに基づく知性によって宇宙が満たされる（ｐ３８）

・2016年にインテルは、プロセッサの小型化については開発を抑制すると発表した、この結果、ムーアの法則から外れることとなった（ｐ４６）

・進化はいつも偶発的、複雑化に向けて連続的に進んでいるわけでもない、種の進化と、生物がその発展の過程で潜在能力を徐々に発揮していくことを関連付けようとしても無駄（ｐ５１）

・コンピュータの演算能力と、コンピュータが知能を再現する能力には直接的な関係はない、従って、仮にムーアの法則が通用するとしても（通用しないことは明らかとなったが）、それによりスーパーインテリジェントマシンが誕生すると論ずることはできない（ｐ５３）

・機械学習のアルゴリズムは３つのタイプしかない、１）教師あり学習、２）教師なし学習、３）強化学習：機械の一連の行動に対して、一定の報酬や罰を与えて最適な行動を学習させる、この場合、人間が最適な選択を行う基準を設定し、機械はこれを変更できないようになっている（ｐ６４、６６）

・現在の人工知能開発における技術レベルを見る限りは、コンピュータが人間の力を借りずに際限なく進化し続け、ついに暴走し、自律し、我々を支配することは考えられない（ｐ６８）

・未来予測が難しい理由は、複数の要因が絡み合っているためだが、その最も大きな理由は、我々が予測しようとしている自然現象や社会現象が複雑だから（ｐ１０５）

・未来はもう人間を必要としなくなるかもしれないという予言は、時間は根源的には不均質であるという仮定から出発している（ｐ１１２）

・AI技術自体を否定しているのではなく、本来のAI技術が、シンギュラリティという怪しげな神話によって変質してしまうことを批判している（ｐ１７３）

2017年9月3日作成

そろそろ、人工知能の真実を話そう

ジャン=ガブリエル ガナシア

人工知能によるシンギュラリティは訪れるのかと企業などが躍起になって危険性を喧伝する動機について迫った書物。人工知能とは何かや人工知能を考察する上で必要な文化的知識を得るにはお勧め。

本文の考察は難しいが、訳者のあとがきが大変わかりやすいので、こちらを一読して、読むかを判断されると良いと思う。