ＡＩ原論 神の支配と人間の自由

西垣通

第三次ブームを迎えたAIの進化は、われわれの生活を避けようもなく変えつつある。自動運転、投資相談、医療診断など、以前では想像もできなかった領域にAIが入り込んでいく中で、30年以内にAIの知性が人間を超越する、という｢シンギュラリティ(技術特異点)｣仮説を唱える専門家さえいる。われわれを待っているのは｢薔薇色の未来｣なのか? 半世紀にわたってAIを間近で見てきた第一人者が投げかける大切な問い。

• カテゴリ: ビジネス・実用
• ジャンル: 学術・語学 / 理工
• 出版社: 講談社
• 掲載誌・レーベル: 講談社選書メチエ
• 電子版発売日: 2018年04月10日
• コンテンツ形式: EPUB
• サイズ(目安): 3MB

[ブクログ · ★★★★★]

表題からはよくあるAI進化論の類かと思っていたが
シンギュラリティ論から真っ向に対立するような骨太の議論が繰り広げられており、宗教や近代哲学の領野にも踏み入れながら斯様に人文的な見地からAIを解釈し直すと筆者の力量もあってやはり面白い。再読。

[ブクログ · ★★★★★]

AIについては全くの素人なのですが、著者の本は何冊か読んだことがあり本書も手に取りました。結論から言うと非常に面白かったです。独特な視点からAIに切り込んだ書籍だと言えます。本書はAIの技術的な解説書ではありません。そのような本は巷にあふれています。著者がこの本で指摘するのは、日本でAIを研究している専門家ですら、AIの背後にある哲学的思想や宗教的思想について理解しておらず、それは非常に危ういという点です。

本書は、これまでのAIブーム（1950年代の第1次、80年代の第2次、そして2010年代からの第3次ブーム）について概観し、第3次ブームに火をつけたと言ってもよいカーツワイルの「シンギュラリティ仮説」について紹介します。そしてこのシンギュラリティ仮説を中心に、それらがどのような思想のもと生まれたか、それがいかに「ありえない」かについて哲学や宗教の視点から解説しています。

本書は重要なキーワードが多数ちりばめられていたと思います。まず科学者が持ちがちな「素朴実在論」。それに対抗する、カントからはじまる「相関主義」（世の中の事象はすべて人間という主観的主体を通してしか理解できない）、そしてそれを突き詰めていくことで生まれたメイヤスーの「思弁的実在論」。また相関主義と似た思想としての「オートポイエーシス」理論で、人間や生命体だけが真の意味で「閉鎖・自律的」な存在であり、AIは「開放・他律的」存在でしかないことを示します（ただし本書で示されているように、深層学習しているAIは疑似的な意味で自律的存在として人間の目には映る）。

私が興味深かったのは、メイヤスーが提唱している２つの種類の不確定性と、それを用いた著者による人間・AIの違いについての説明でした。１つめは確率分布で表示できるもの（潜勢力と訳されている）、もう１つは確率分布で表示できないもの（潜在性と訳されている）があって、AIは前者にしか対応できないが、人間は前者だけでなく、後者の不確定性にも柔軟に対応できること（対応できない固体が死ぬ）、つまり言い換えれば行動ルール自体が時々刻々変化する存在だということです。AIはメタルールを自分で変えられません。それに対して人間はいざとなればメタルールすらリライトできるからです。

ちなみにこの２つの不確定性については、フランク・ナイトという経済学者もだいぶ前に区別をしています。彼は、確率分布で表示できるものを「リスク（risk）」、そうでないもの、たとえば世界大恐慌を引き起こすような株価下落については「不確実性（uncertainty）」と区分しています。ナイトは逆に、人間がすべての事象をリスクとして扱おうとする態度が世界大恐慌のような不確実性を見過ごすという警告をしています。ナイトもメイヤスーも後者の不確定性の存在を強調しているわけです。

なお本書の後半では、ギリシャ哲学（ヘレニズム）とユダヤ教（ヘブライニズム）の混交した西洋文化がAIの背後にあることを解説します。私としては、仏教の思想とAIがどのような関係にありそうか、という点に興味が湧いてきましたので、もしそのような本があれば手に取りたいなと感じました。繰り返しになりますが、本書はAIを通じて様々な哲学思想と宗教思想が学べる本になっていて、知的好奇心を満たしてくれる良書でした。個人的にはとても満足しています。

[ブクログ · ★★★★☆]

昨今のAIブームを哲学的に考察していそうだと思い購入。
著者は哲学の専門家ではなく、基礎情報学を専門とし、民間企業もアカデミックも経験している筋金入りの理系であるところも興味をそそられた。

著者が情報系の専門家といっても、いわゆるIT用語はほとんど用いず、また哲学用語も最低限に抑えて書かれているため、専門知識がなくても読み進められるところも好感が持てる。

深層学習（ディープラーニング）、ChatGPT、生成AI等のいわゆる第3次AIブームにより、人類社会の未来に対する楽観論と悲観論が様々なメディアを通して交錯しているが、著者も昨今のAIに対するヒートアップした論調に警鐘を鳴らすべく、持論を展開している。

AIに対する楽観論は、生成AIやChatGPTを活用した新規ビジネスの創出、業務効率化、生産性向上など仕事関連のテーマがほとんどである。
対して悲観論は、カーツワイルのシンギュラリティ仮説をネガティブに捉え、人間の仕事がAIに奪われるとか、人類はAIの奴隷になるなど”近未来の悪夢"的な論調が多い。

しかしながら本書は、楽観でも悲観でもなく、人類とAIとの関係性を哲学と宗教の視点から中立的に考察し、今後のAIとの付き合い方を指し示してくれる。
哲学面では、カンタン・メイヤスーが提唱する「思弁的実在論」に、宗教面ではキリスト教における「三位一体論」に立脚しているが、この展開は哲学的思考や一神教にあまり馴染まない日本人には理解しにくいかもしれない。
ただ、AIに限らず、新しいテクノロジーやパラダイムが人類社会に与えるインパクトを考察する際、哲学的・宗教的視点がその本質に迫る手助けをしてくれることを改めて本書は教えてくれる。

本書が書かれた時期は2017年末で、まだコロナ禍やChatGPTブームの前であるが、2020年代半ばに差し掛かった現在においても、また今後新たなAIサービスが普及したとしても、原点回帰できる著作といえる。
加えて、最終章において論点を総括してくれているところも、学術的な書きぶりで理解の助けとなった。
とかく専門的になりがちなAIの本質論を、分かりやすくかつ200ページ足らずで書き上げた著者に敬意を表したい。

[ブクログ · ★★★★☆]

最終章にこの本の内容を簡潔にまとめているので、そっちから読んでも良いかも

以下は、読んだ感想
・AI関する哲学関係の用語、本を一通りは網羅できる
・思弁的実在論
・AIのあり方(絶対知を求めるのか、人間の手助けなのか)をしっかり区別したほうがいいよね

[ブクログ · ★★★★☆]

AIと人間の思考原理の根本的違いとして、AIは「他律的」、生き物は「自律的」として原理的にAI（ここでは汎用AI）は生き物になることはできないということを解説した書籍。
生き物だということは他者からは「不可知的」であるとし、その生き物の行動原理（人間の思考原理も含む）を哲学者メイヤスー「思弁的実在論」の「偶然性」の概念を参照しつつ「自律的」とは「偶然性が必然」であるという考え方から解説。
そもそも西洋人が汎用AIを人智を超えた存在として位置付けたがるのはキリスト教の三位一体の考え方が染み付いているのではないか、とその西洋人の思考原理も紹介。一方でAIはいずれ人間を知能を超える賢い機械になる可能性が高いという点は一般的なAI論者に賛同。

[ブクログ · ★★★★☆]

AIに関して哲学的な議論を展開しているが、難しい。第6章に総括があるが、気になった言葉を列挙してみる．疑似的自律性、不可知性、ニューラルネット・モデル、深層学習、フレーム問題、記号接地問題、オートポイエーシス理論、シンギュラリティ仮説、クラウドAIネット、暫定的閉鎖系、IA(Intelligence Amplifier)、などなど．一神教からきている「創造神／ロゴス中心主義／選民思想」という独断的な思想に対して、反省の意味で文化的多元(相対)主義が生まれてきた由．"AIの宗教的背景を知っておれば、「やがてAIロボットが人間のように自律的に、主体として賢い判断を下せるようになる」などといったお伽噺に惑わされることはなくなる．" と強調しているが、分かるような気がしてきた．

[ブクログ · ★★★★☆]

ギブアップしました。
先日同一の著者の「ビッグデータと人工知能」を読んで、大変に面白かったので選んでみたのですが、こちらはハードルが高すぎました。
「ビッグデータ・・」と同内容でかなりかぶるのですが、すべてが専門的でテクニカルタームが多く、いちいち理解できません。
もう少し勉強したらわかるようになるのだろうか。
理解できないものを無理して読んでいても時間の無駄なので、ひとまずおきます。

[ブクログ · ★★★★☆]

人工知能とは？をこの厚さでよくまとまってます。
なので、もう少しツッコミたいひととか、バックグランドの知識がないとちょっとわかりにくかも。

[ブクログ · ★★★☆☆]

シンギュラリティ仮説への批判。
最終章にすべてのエッセンス。

素朴実在論に立脚し得ない点は既に決着済。フレーム問題や記号接地問題は解決し得ない。相関主義哲学に基づけばシンギュラリティーはありえない。唯一の可能性は思弁的実在論によるものであろうが、その場合、現在喧伝されているような楽観的なシンギュラリティー後の社会は描き得ない。
シンギュラリティー仮説の背後にある、創造神、ロゴス中心主義、選民思想、この3つがセットとなった一神教的世界観。
過去の蓄積に準拠する機械と、創発性のある生命体との相違。
AIよりもIA Intelligence Amplifierと捉えるべき。