【感想・ネタバレ】AI倫理 人工知能は「責任」をとれるのかのレビュー

西垣通 / 河島茂生

[ブクログ · ★★★★★]

AIが最近では大きな話題になり、人間はAIをどう使うのか、いやAIに人間は使われる時代がくるのではとの予想もありうるという時代になってきた。
本書では、AIはあくまでも人間が作りだしたものであり、人間の作るプログラムやアルゴリズムの元でのみ作動する機械であり「自律型機械」には決してなりえないと説く。納得のいく詳細な解説がある。
しかし、人間とAIがコラボするときそこに今まではあり得なかった新しい切り口の創造物が産まれてくる可能性も現実のものとしてありうると説かれている。
AIが自律型機械的に扱われて、人間にマイナスの効用をもたらすシーンは多様に予想が付く。そのとき、人間はだれに責任を取らせるのかも大きな課題。
最終章では、AIと人間がコラボして芸術活動をなすことが近い将来に想定されることを書いている。その最後の文章が示唆に富む。
「AIは近代芸術の息の根をとめる強烈な毒を孕んでいる。だが一方でそれは、近代芸術を一挙に革新するツールともなりうるのだ。＿

[ブクログ · ★★★★☆]

私が初めて筆者西垣通氏の名前を知ったのは、2004年朝日新聞に掲載された「情報伝達という神話」というコラムだった。西垣氏は、東京大学名誉教授であり、また日立でコンピュータソフトの研究開発に関わってこられたバリバリの”専門家”であるが、そのコラムは専門的なうんちくではなく、意外な内容だった。情報が伝わるとはどういうことか、そもそも情報って、本当に伝わるものなのかという反論から展開されていた。「人工知能は責任をとれるのか」と題された本書のタイトルと西垣氏の名前を見て、即買い。特に第６章監視選別社会が印象に残った。AIによって便利な社会になることは言わずもがなであるが、それにより我々が選別される社会になること、そのことに対する警鐘を忘れてはならない。

[ブクログ · ★★★★☆]

タイトルの意味するところを、非常に的確に答えてくれている。責任がとれるとれないというより、ロボットと生物の認知の違いを明らかにし、人工知能と生物との境界線はどこにあるのかというところに、論の主眼があると思う。

１）〈ロボットの設計者には、ロボットにどういう入力をあたえればどういう出力が現れるか、つまりロボットがいかに行動するか、基本的にはわかっている。たとえ細部で不明確なところがあるにせよ、まったく予想外の出力が出現することは原則として無い。もしそうなれば、ロボットは壊れており、廃品ということになる。〉

２）〈出力（行為）を予測できる以上、機械には原理的にいかなる自律性も自由意志もなく、責任を問うことなどできない。〉

非常に説得的である。以下生物との対比で、さらにわかりやすい。

３）〈生物は、意識するかしないかは別として、自分が所与の環境条件のもとでいかなる行為を実行するかの内部ルールをもっている。内部ルールそのものを自分でつくりあげるのだ。〉→だから生物は原理的に「予測不可能」

４）〈生物は環境との相互作用のなかで、自ら周囲を観察し、内部的に世界を構築しつつ、行動を続けていく。誤りが生じたら自らの観察の仕方を反省して、世界のイメージを修正しつつ生きていくわけだ。〉

５）〈つまり生物は「情報をうけとって客観的世界を認知している」のではなく「（生存をつづけられるように）情報を解釈して主観的世界を構成している」のである。〉

６）〈コンピュータのような機械は外部から情報をそっくり入力できる開放系だが、人間をふくめ生物は外部から情報を直接入力できず、主観的な意味解釈を経由せざるをえない閉鎖系なのである。〉

[ブクログ · ★★★☆☆]

2019年 中公新書ラクレ
AIと倫理を考えるにあたり、それぞれを定義する必要がある。例えばAIであれば、推論プログラムを用いるもの、膨大な情報から瞬間的に抽出するもの、深層学習を行うもの、対話型プログラムを行うもの等々が存在する。
倫理は、功利主義、自由平等主義、自由至上主義、共同体主義等の観点がある。(優位性は無い)
しかしAIと倫理の諸問題を考える際、それぞれを十分に整理された状況ではなく、論じることが出来ない。そもそもAIは他律型機械(プログラミングによって答えを出す）為、客観的責任を撮ることが出来ない。
その為自動運転、監視選別社会、AIによる創作物等は、官民学の連携が必要である。(例えば、自動運転で誤作動による事故の責任は、プログラミングした人ではなく、国が補償する)

感想
AIや倫理には様々な段階、種類があり、一概にAI責任論について論じる事は出来ないというのは確かにその通りだと思った。ただ、人工知能が「責任」を取れないからと言って国が補償するのは、極論では無いか？と思った。シンギュラリティやデータ至上主義、AIが人間社会よりも優位性を持つ事は、ユダヤ教やキリスト教に基づくSFであるという著者の意見
が興味深いと思った。

ハラリ
人間の代わりにAIが意思決定をする。
人間至上主義から機械的なデータが信頼されるデータ至上主義に変更する。

フロリディ
ハイパーヒストリー時代
コペルニクス革命、ダーウィン革命、フロイト革命、情報革命