「人工超知能」 －生命と機械の間にあるもの－

井上智洋

人工知能（AI）の進化は目覚しく、高度な自立性を持つAIやロボットが登場する日も間近に迫っています。その時、AIは人間の知性を超え、反乱を起こす日が来るのでしょうか。本書は、文系の学生やビジネスマンでも簡単に理解できるように、哲学的議論をからめてAIの基礎知識や未来像を具体的にわかりやすく解説しました。「知性とは何か」「意識とは何か」という哲学的議論を通して、AIを科学的に正しく理解できるようになります。

• カテゴリ: ビジネス・実用
• ジャンル: IT・コンピュータ / 全般
• 出版社: 秀和システム
• 電子版発売日: 2017年10月27日
• コンテンツ形式: EPUB
• サイズ(目安): 3MB

[ブクログ · ★★★★☆]

副題を注視すれば分かるように
技術的側面にも触れながら、より主題として取り上げているのは我々の知能や思考の問題である。
科学万能の謳われる現代の、その先鋭であるAI技術においてこそ
人文学や哲学の思考は活かされるべきだという意見を散見するが
本書ではそういった思考のあり方を「私見を交えたもの」と前置きし断定的に答えることはせず、近未来の人々のあり方について（それは過去現在にも相通ずる）思索する足場になる。

[ブクログ · ★★★★☆]

AIに対するこれまでの発展の事実と、これからの発展の期待と想像がまとまった一冊。

前半部は、AIの歩みがわかりやすく書かれている。AIにできること、得意なこと(論理的思考、記号的アプローチのように、デジタルで表せることとか。何か一つ(囲碁とか)に特化して鍛錬を積んでスペシャリストになることとか。※鍛錬は人間ぽい言葉だけど、要は膨大な情報を勉強して最適解を導くこと)とか。
ディープラーニングを、「機械が眼を持つようになった」と表現されていたのは秀逸だなと。素直にすごい表現だと感じた。確かにその通りだと。眼があることによる汎用性は計り知れないと思う。画像の識別とか、センサーとか。
眼の獲得からの生命の爆発的な増加になぞらえたこれからのAIの発展には、ワクワクする。
最初は教師あり学習しかできなかったのが、報酬(このスコアを上げよ、とか)を与えるだけで放っておけばメキメキ上達するようになってきて。人がゲームをやり込んでいろんなパターンとか経験とかを積むと、技に気づいて使えるようになって上達するみたいな直観のようなことができるようになったり。
ちなみに僕は、人間とAIの融合は賛成派なので、どんどん融合して便利になってほしいと思う。

後半は未来の話になっていくこともあり、だんだん哲学的になっていった。
まだ人間の脳や思考が完全に解明されていないので、今ある技術から予測するしかないので仕方ないが、なかなか難解だった。

AIは人間の知性を超えられるか？AIは反乱を起こすか？AIに感情は芽生えるか？AIは欲望を持つのか？AIは意識や意思を持つのか？
もはや誰の意見が正しいとかないと思うけど、僕個人としては、全部Yesな気がしている。
人が想像しうるものはすべて実現する、といったら大袈裟だけど、そんな感じ。
「一人の人間が一つのAIを作ってその人間を超えること」はなかなか難しい気がするけど、多数の人間を学習してその人間たちより少し優れた存在になることはできる気がする。(AIだけじゃなく、人間にも言えることだから)
反乱は、そういう報酬系をインプットする人間が一人でもいれば起きるだろうし、いつか世界のどこかでは起こりうると思う。その時は・・・どうするんだろうなぁ。笑
感情、欲望、意識、意思は、環境と生育によって芽生えていくものだと思っている。そういう(人間的な)報酬系をインプットした上で、しばらく人間生活に近いことしてれば、学習する気がする。人間の中にも喜怒哀楽表現が下手な人もいるし、後天的に身につける人もいるし、それと似たようなイメージ。
ただし、"人間的な報酬系"をインプットしないといけないとは思っていて、さすがに人間の遺伝子情報がインプットされてない状態で感情に目覚めろというのは難しいのかもなぁとは思う。赤ちゃんでも笑ったり泣いたりできるから、そういうのは遺伝子にインプットされてるのかなぁと。
倫理的にやれるかどうかはあるけど、技術的にはできるようになるんだろうなぁと思っている。もはやクローンみたいなものだし。笑

[ブクログ · ★★★★☆]

文字通り、AIが世の中を支配することになる近未来のことを想定して書いた本。

当然希望と驚異の両方があるわけだが、どちらかに偏ることなく中立的な立場で描いてた。

[ブクログ · ★★★☆☆]

AIが進化したらどうなるかということが丁寧に記載されていた。初見では分かりにくいところが多かったが、ターミネーターまでいかずともAIの存在が脅威になる時代の到来は避けられないのだろうなと思った。人がAIをどう使うか、使いようによっては簡単に人を殺めることができる殺戮マシーンになり得る。人は簡単に人を殺すので、核兵器同様の脅威になるのだろうなと思う。

[ブクログ · ★★★☆☆]

AIと人間の関係性について。語り尽くされたテーマにも見えるが、本著は、やや散逸しながらも、あらゆる角度から本テーマを再確認する。

「メタ思考」というキーワードが用いられる。少し使い方は異なるかも知れないが、AIを制作する、よりメタな立場である人間をAIが超えられるかと問いかける。人間が神を超えられないように、AIは人間を超えられない。しかし、人間の親子関係を見れば「トンビがタカを産む」事は十分にあり得るし、ここで言うAIとの関係性は、あくまでも競争種目で語られるべきなのだろう。言語生成のみならば万能型だとしても、自律自走、アームを付けたロボットには、用途以上の機能を持たせると高コストになるからだ。

種目別に見た時、既にAIに代替された労働、人間が優位な分野というのが、まだ疎らにある事が分かる。例えば以下の内容だ。

ー　ホワイトカラーの仕事は、情報の流れを制御することであり、端的に言うと情報処理。帳簿や契約、株価、法律等の情報。コンピューターというのは情報処理する機械であるから、AIの進化による代替可能性が高い。またAIブームが起きるずっと前から航空チケットやホテルの予約、決済といった手続きは単純な情報処理であるため、既にネット上の旅行サイトにとって代わられていた。

ー　トレーディングロボットは、高頻度取引と言って、0.001秒単位で戦略を変えながら取引を行えるので、超短期的なトレードでは、人間はほとんどこうしたロボットに勝てなくなっている。東京証券取引所では、取引の40%以上がトレーディングロボットによって行われている。

ー　一方、会計業界では4大監査法人によって寡占されていて、4社が横並びの状態にあるため、4社が大々的にITを導入し、価格破壊をしようなどと目論むようなことがなければ、劇的な変化は起きない。そしてそれは今のところ動きがない。なぜなら、企業に売掛金がある場合、相手企業に対する買掛金があることを確認するための作業は、会計システムどころか未だに郵便で行われている。

ー　マイケル・ポランニーは暗黙知と名付けた。暗黙知の有名な例は、人の顔の認識。私たちは、人の顔を1000人、100万人の中からでも見分けることができるが、どのようにして自分が知っているかを見分けるのかわからない。

ー　人を殺害する軍事用ロボットは既に実戦配備され始めている。例えばサムスンのグループ会社が開発した監視用ロボットで、韓国軍によって北朝鮮との国境沿いの非武装地帯に配備されているロボットは、韓国軍の指揮センターから命令があったら、敵を感知してマシンガンをブッ放すことができる。

人間の余暇が増えるのであれば、AIによる労働の代替そのものは忌避する問題ではなく、寧ろ、特定の人間や、よもやその人間にすら統制できぬ暴走状態が危険だと認識しなければならない。あるいは、逆にAIにより人間が統制される状態だ。人間とは、子供に爆弾を持たせたテロを行うような生き物でもあり、悪意に操作されるAIの誕生もリスクとして避けられない。既にドローンも兵器化している。願わくば、人道的な法整備が後追いにならぬよう。

[ブクログ · ★★★☆☆]

人工知能を中核にして、その隣接領域であるコンピュータ科学、脳科学、哲学などを程よくブレンドしてわかり易い読み物に仕立ててあります。よくまとまっている印象ですが、目新しい知見を見出すことはできなかった。

[ブクログ · ★★★☆☆]

ＡＩの進歩がますます加速していく現在、私たちの社会はどのような影響を被るのだろうか？
ＡＩは人間の知性を越えられるか？というテーマを中心に、技術面のみならず哲学的見地から考える。

軽いノリで手に取ってみたら、しっかりとした内容の本で前半は流し読み。
コンピューターが意思を持ち人類を滅ぼす、ＳＦなどではもはやお馴染みの設定であり、ターミネーターなどが代表的な作品でしょうか。
確かに『Siri』などを利用していると、時々「怖！」と思えるような返事が返ってくることがあります。ただ今のところは、Siriにしろペッパー君にしても、「らしく」振る舞っているだけで感情や意思を持っているわけではありません。では何を持って感情を持っているといえるのか？となるとやはり哲学的な話になるのでしょうし、判断するというのも無理な話なのでしょう。
ただ私は、ＡＩが本当の意味で心を手に入れることが出来たのなら、人間を管理することはあっても殲滅しようとは思わないのではないかと考えています。それより怖いのが、心を持たないまま自立してしまった場合、地球にとって人類が有害だと判断され排除されるのではないかと危惧しています。

[ブクログ · ★★★☆☆]

現在のAIは、囲碁の対局や自動運転など、特定の分野で力を発揮する特化型AIとのこと。
そうではなく、人間と同様、様々な分野を横断的に処理・判断できる汎用AIの開発競争が今、始まっています。

本書は、前半で人間の脳のメカニズムを紐解きながら、汎用AIがつくられたら、その汎用AIがより賢い汎用AI（人間を超えるAI）をつくるのではないか？
単に人間の仕事を奪うだけでなく、自我を持って人間を攻撃する可能性はないか？といったテーマについて語っています。

著者としては、人間はAIのメカニズムを知る一方で、AIは人間のメカニズムを知らない以上、汎用AIの可能性は低いとしつつも、人間が悪用して殺戮専門ロボットをつくる懸念には言及しています。

AIは、テクノロジー問題と思いきや、深彫りすればするほど人間とは何か？といった哲学的な問いになることがよくわかります。

第一線級の研究者は、技術を追いながら、そういった文系領域にも思いを馳せている点、リスペクトです。

[ブクログ · ★★★★★]

AIの概要を知るにはとても良い本。あとはあまり消化できていないのだけど、知能というのを考えるのにはとても良かった。全体の構成がしっかりしているのと、各章の扉にその章のサマリーというか論点がまとめてある。大学の先生らしいスッキリとしたまとめ方。それにとても広い範囲で扱っているけどそれなりの深さまで言及されているような気がする。雑誌や入門書では物足りない部分をしっかり補ってくれている内容。もう一歩進めるとかなり専門的な領域まで入るような気がする。全体の構成は第1章AIは未来をどう変えるか？、第2章AIの歴史をたどり、AIの正体を明らかにする、第3章機械学習とディープラーニング：人間の直感を再現できるか？、第4章汎用AI：人間レベルのAIは実現可能か？、第5章AIは人間の知性を超えられるか？、第6章ターミネーターは現実化するか？、第7章AIに知識は宿るか？とう流れ。自分のマーキングを見てみると、1章、2章は導入部だったせいかハイライトはほとんどない。第3章からハイライト個所があり、この第3章は機械学習を直感的に理解するのには有用性を感じた。教師あり学習と教師なし学習は多変量解析の予測モデルと記述モデルの違いというような理解を今までしていたけど、それは概ね合っているようでした。ただ、機械学習を多変量解析の一種と考えるとイメージがついてこない。拡張です。ここから先は、本を読んで自分でイメージしたことなので正しいかはわからない。まず、ディープラーニングの多層構造をしっかりとらえきれていなかったのだけど、これって、ある意味交互作用なんだなと思うと少し理解がすすむ。記述モデルの代表モデルである主成分分析の各主成分は数学的に直交しているので、あくまで主成分という特徴量は独立。n次元ということでいくら拡張しても特徴量間の交互作用は表現できない。単純な線形モデル。ただ、多層にすることで特徴量×特徴量で新しい特徴量を作り出しているので新しい特徴量は交互作用項に当たる。しかもモデルの構造上多因子交互作用になっているのでより複雑な特徴量を抽出できるということかな。じゃあ、そういうモデルの構造が持てるようになった時に、重要なのは重みづけ。で、先生は「強化学習」が重要だと言っている。まあ、誤解を恐れずに言えば強化学習のポイントはデータの数。この本では報酬系のモデル化といっていたけど、結局、どういう判断をしていくと報酬が得られるかという成功確率を最大化していくので、試行回数と成功体験が多いほど精度は上がる。こういうモデルへの気づきを与えてくれただけでこの本の3章の価値は十分にあった。第4章は人間の知的能力を考える。キーワードは汎用性と自律性かな。それと脳の知的能力を実現するアプローチ方法。全脳エミュレーションと全脳アーキテクチャというアプローチがあるらしい。前者はイメージコピー、後者は部分部分をリバースエンジニアリングして全脳に展開したものと理解した。後者のアプローチの方がイメージしやすいし、実際にやるイメージも持てるけどいずれにしても大変そう。それに部分再現の合成が全体再現になるのかという疑問も残る。やはりそこには統合の枠組みの問題というのが残るらしい。第5章では知性を考える。ゲーデルの不完全性定理が出てくる。否定的な自己言及は不可能であること。新約聖書の「エピメデニスのパラドックス」が判り易い。「クレタ人は嘘つきであるとクレタ人のエピメデニスは言った」というもの。人間なら、この文章も適当に理解できるけど、確かにコンピュータはこの矛盾を吸収できないかもしれない。そしてこの章では先生の造語であるらしい「メタ思考力」という言葉が出てくる。これは「思考について思考する能力」らしい。AIが人間のように思考するにはこのメタ思考力が必要ということ。AIは人間が作った。故に人間はAIよりメタな位置づけにある。よりメタな位置づけにないと人間の知性は越えられないという議論。つまり将棋で勝てるようになっても、囲碁で勝てるようになっても総合的な知性では人間にかなわないということかな。

残りの二章はより難しかった。人間が賢くなることと意識を持つことの違い。これは前に読んだ哲学を教えたらと同じような問い。やっぱりトロッコ問題が出てきた。考えなければならない問題だけど、自分の中では答えは出ていない。結局、結びにあるように人間の脳と心の問題が解明しなければ、人間を超えられるかという議論はできないということなのでしょう。感情や欲望には機能面と現象面があって、いずれも機能面ではAIはどんどん人間に近づいているようだ。それでも、渇望感のようなクオリアはAIに持たせることはできないという。この辺は自分の理解がもう一歩進まないと消化できない。