河島茂生のレビュー一覧

AI倫理 人工知能は「責任」をとれるのか

AIが最近では大きな話題になり、人間はAIをどう使うのか、いやAIに人間は使われる時代がくるのではとの予想もありうるという時代になってきた。
本書では、AIはあくまでも人間が作りだしたものであり、人間の作るプログラムやアルゴリズムの元でのみ作動する機械であり「自律型機械」には決してなりえないと説く。納得のいく詳細な解説がある。
しかし、人間とAIがコラボするときそこに今まではあり得なかった新しい切り口の創造物が産まれてくる可能性も現実のものとしてありうると説かれている。
AIが自律型機械的に扱われて、人間にマイナスの効用をもたらすシーンは多様に予想が付く。そのとき、人間はだれに責任を取らせるのかも大きな課題。
最終章では、AIと人間がコラボして芸術活動をなすことが近い将来に想定されることを書いている。その最後の文章が示唆に富む。
「AIは近代芸術の息の根をとめる強烈な毒を孕んでいる。だが一方でそれは、近代芸術を一挙に革新するツールともなりうるのだ。＿

AI倫理 人工知能は「責任」をとれるのか

私が初めて筆者西垣通氏の名前を知ったのは、2004年朝日新聞に掲載された「情報伝達という神話」というコラムだった。西垣氏は、東京大学名誉教授であり、また日立でコンピュータソフトの研究開発に関わってこられたバリバリの”専門家”であるが、そのコラムは専門的なうんちくではなく、意外な内容だった。情報が伝わるとはどういうことか、そもそも情報って、本当に伝わるものなのかという反論から展開されていた。「人工知能は責任をとれるのか」と題された本書のタイトルと西垣氏の名前を見て、即買い。特に第６章監視選別社会が印象に残った。AIによって便利な社会になることは言わずもがなであるが、それにより我々が選別される社会になること、そのことに対する警鐘を忘れてはならない。

AI倫理 人工知能は「責任」をとれるのか

タイトルの意味するところを、非常に的確に答えてくれている。責任がとれるとれないというより、ロボットと生物の認知の違いを明らかにし、人工知能と生物との境界線はどこにあるのかというところに、論の主眼があると思う。

１）〈ロボットの設計者には、ロボットにどういう入力をあたえればどういう出力が現れるか、つまりロボットがいかに行動するか、基本的にはわかっている。たとえ細部で不明確なところがあるにせよ、まったく予想外の出力が出現することは原則として無い。もしそうなれば、ロボットは壊れており、廃品ということになる。〉

２）〈出力（行為）を予測できる以上、機械には原理的にいかなる自律性も自由意志もなく、責任を問うことなどできない。〉

非常に説得的である。以下生物との対比で、さらにわかりやすい。

３）〈生物は、意識するかしないかは別として、自分が所与の環境条件のもとでいかなる行為を実行するかの内部ルールをもっている。内部ルールそのものを自分でつくりあげるのだ。〉→だから生物は原理的に「予測不可能」

４）〈生物は環境との相互作用のなかで、自ら周囲を観察し、内部的に世界を構築しつつ、行動を続けていく。誤りが生じたら自らの観察の仕方を反省して、世界のイメージを修正しつつ生きていくわけだ。〉

５）〈つまり生物は「情報をうけとって客観的世界を認知している」のではなく「（生存をつづけられるように）情報を解釈して主観的世界を構成している」のである。〉

６）〈コンピュータのような機械は外部から情報をそっくり入力できる開放系だが、人間をふくめ生物は外部から情報を直接入力できず、主観的な意味解釈を経由せざるをえない閉鎖系なのである。〉

生成AI社会 無秩序な創造性から倫理的創造性へ

自社でもai倫理の観点で、社内aiの活用についてどのように使うことが正しいか考えることがよくある。
人ありきのaiってことを再認識し、人主導でどのように社会を良い方向へ持っていくかを考え、正しいインプットアウトプットを心がけようとおもった。

生成AI社会 無秩序な創造性から倫理的創造性へ

生成AIのメリット
・薬の開発、不正口座の検知など
・AIのトラブルやインシデントは消費者庁、システムのトラブルはIPA（独立行政法人情報処理推進機構）が担当している。

生成AIのデメリット
・大量の電力が必要
・ハルシネーション（幻覚）を起こす
・精巧な偽情報を生成して政治に利用される
・生成AIで作成された創作物には著作権が与えられていない

生成AIは薬の開発など生活の向上に役立つ一方で、偽情報が選挙に利用されるなど規制が必要な分野がある。

生成AI社会 無秩序な創造性から倫理的創造性へ

タイトルは「生成ＡＩ社会」ですが、書かれている内容は、生成ＡＩ時代における創造性、倫理、という内容に絞られていました。前半では創造性とは何かということや、人間と機械の違いについて議論がなされていますが、人間と機械の違いについては、西垣通氏の主張をなぞっている印象を受けたのと、創造性についてもマーガレット・ボーデンの３分類など、どこかで聞いたことがある話でした。

後半はＡＩと倫理という話ですが、生成ＡＩがうみだす倫理的な問題と、それへの対処としてのＡＩガイドラインなど国内外での取り組みの紹介が中心と感じました。これはこれで現在地を理解するには役立ちましたが、正直議論が浅い印象はうけました。創造性とは本質的に倫理と緊張関係を持つものではないでしょうか。歴史を振り返ると、創造的なアイデアは、当時の価値観や規範を揺さぶるものも多かったと思います。そして倫理を変えていったと。つまり、（足元の）倫理の範疇で創造性を発揮せよ、という話ではなく、創造性が倫理を変えるという可能性も十分あり得ると思うのですが、本書はどちらかというと現在の倫理観の範疇で創造性を発揮させることを重視しているように見受けられました。ということで本書はやや守り的な印象を持ちました。

例えば、イーロン・マスクのような、倫理やルールをある意味無視してしまうようなところからも、創造性が発揮されているというのは厳然たる事実でしょう。むしろルールを破壊するほうがより創造的と言えます。創造性とは（よくもわるくも）破壊的な力を持っているのだ、ということです。そのあたりの緊張感について論じてもらいたかったです。

AI倫理 人工知能は「責任」をとれるのか

2019年 中公新書ラクレ
AIと倫理を考えるにあたり、それぞれを定義する必要がある。例えばAIであれば、推論プログラムを用いるもの、膨大な情報から瞬間的に抽出するもの、深層学習を行うもの、対話型プログラムを行うもの等々が存在する。
倫理は、功利主義、自由平等主義、自由至上主義、共同体主義等の観点がある。(優位性は無い)
しかしAIと倫理の諸問題を考える際、それぞれを十分に整理された状況ではなく、論じることが出来ない。そもそもAIは他律型機械(プログラミングによって答えを出す）為、客観的責任を撮ることが出来ない。
その為自動運転、監視選別社会、AIによる創作物等は、官民学の連携が必要である。(例えば、自動運転で誤作動による事故の責任は、プログラミングした人ではなく、国が補償する)

感想
AIや倫理には様々な段階、種類があり、一概にAI責任論について論じる事は出来ないというのは確かにその通りだと思った。ただ、人工知能が「責任」を取れないからと言って国が補償するのは、極論では無いか？と思った。シンギュラリティやデータ至上主義、AIが人間社会よりも優位性を持つ事は、ユダヤ教やキリスト教に基づくSFであるという著者の意見
が興味深いと思った。

ハラリ
人間の代わりにAIが意思決定をする。
人間至上主義から機械的なデータが信頼されるデータ至上主義に変更する。

フロリディ
ハイパーヒストリー時代
コペルニクス革命、ダーウィン革命、フロイト革命、情報革命