西垣通のレビュー一覧

AI倫理 人工知能は「責任」をとれるのか

私が初めて筆者西垣通氏の名前を知ったのは、2004年朝日新聞に掲載された「情報伝達という神話」というコラムだった。西垣氏は、東京大学名誉教授であり、また日立でコンピュータソフトの研究開発に関わってこられたバリバリの”専門家”であるが、そのコラムは専門的なうんちくではなく、意外な内容だった。情報が伝わるとはどういうことか、そもそも情報って、本当に伝わるものなのかという反論から展開されていた。「人工知能は責任をとれるのか」と題された本書のタイトルと西垣氏の名前を見て、即買い。特に第６章監視選別社会が印象に残った。AIによって便利な社会になることは言わずもがなであるが、それにより我々が選別される社会になること、そのことに対する警鐘を忘れてはならない。

ネット社会の「正義」とは何か 集合知と新しい民主主義

公共哲学(功利主義、自由主義、共同体主義)の考え方をもとにして、どのように評価基準をさだめれば、民主的な意思決定ができるのか？について考察した本。

まず、専門知識の分野の細分化がすすんだ社会では、個々の専門家は限られた分野に精通するのみで、社会の中で総合的に判断する様な(たとえば再生医療、教育制度、など)問題の意思決定を担うことは難しい。そこで、インターネットを介して一般の人々の集合知を利用できないかと考察がすすみます。

筆者の提案としては、意思決定しようとする集団の規模に応じて３つの考え方をそれぞれ参考に(小規模集団では功利主義、大きい集団では特に自由主義を気にする。実際の選択肢をえらぶとき共同体主義がはたらく？と理解した)し、幸福と財貨と安全の指標で評価ということのようでした。

それから、功利主義のように幸福を数値化しようという時、人数だけでなく質の問題もあるとか、かわりに損する人も考慮の必要ありとかも言われていて、たしかにと思いました。似たような話ですが、誰が何に対してどれくらいの発言権があるんだろう、ということもポイントかなあと思いました。

説明の過程で、それぞれの主義の考え方とか、オイトポイエーシスとか、一般意志2.0という東浩紀さんの提案とか、いろんなことが説明されてて面白かったです。

あと最後には意思決定のいろんなケーススタディがあるのですが、例も、出てきそうな意見も具体的で、いろんな意見がでてくることとそれをどう集約するかをわかりやすく考えることができました。

AI倫理 人工知能は「責任」をとれるのか

タイトルの意味するところを、非常に的確に答えてくれている。責任がとれるとれないというより、ロボットと生物の認知の違いを明らかにし、人工知能と生物との境界線はどこにあるのかというところに、論の主眼があると思う。

１）〈ロボットの設計者には、ロボットにどういう入力をあたえればどういう出力が現れるか、つまりロボットがいかに行動するか、基本的にはわかっている。たとえ細部で不明確なところがあるにせよ、まったく予想外の出力が出現することは原則として無い。もしそうなれば、ロボットは壊れており、廃品ということになる。〉

２）〈出力（行為）を予測できる以上、機械には原理的にいかなる自律性も自由意志もなく、責任を問うことなどできない。〉

非常に説得的である。以下生物との対比で、さらにわかりやすい。

３）〈生物は、意識するかしないかは別として、自分が所与の環境条件のもとでいかなる行為を実行するかの内部ルールをもっている。内部ルールそのものを自分でつくりあげるのだ。〉→だから生物は原理的に「予測不可能」

４）〈生物は環境との相互作用のなかで、自ら周囲を観察し、内部的に世界を構築しつつ、行動を続けていく。誤りが生じたら自らの観察の仕方を反省して、世界のイメージを修正しつつ生きていくわけだ。〉

５）〈つまり生物は「情報をうけとって客観的世界を認知している」のではなく「（生存をつづけられるように）情報を解釈して主観的世界を構成している」のである。〉

６）〈コンピュータのような機械は外部から情報をそっくり入力できる開放系だが、人間をふくめ生物は外部から情報を直接入力できず、主観的な意味解釈を経由せざるをえない閉鎖系なのである。〉

ビッグデータと人工知能 可能性と罠を見極める

これからの日本が迎えるであろうAI社会がどのようなものなのか、人間にどのような影響を与えるのかが分かった。映画で見るように人間の力を超越したAIが世界を支配するなどと人間に悪影響を与えることはないのかなと感じた。

ＡＩ原論 神の支配と人間の自由

AIと人間の思考原理の根本的違いとして、AIは「他律的」、生き物は「自律的」として原理的にAI（ここでは汎用AI）は生き物になることはできないということを解説した書籍。
生き物だということは他者からは「不可知的」であるとし、その生き物の行動原理（人間の思考原理も含む）を哲学者メイヤスー「思弁的実在論」の「偶然性」の概念を参照しつつ「自律的」とは「偶然性が必然」であるという考え方から解説。
そもそも西洋人が汎用AIを人智を超えた存在として位置付けたがるのはキリスト教の三位一体の考え方が染み付いているのではないか、とその西洋人の思考原理も紹介。一方でAIはいずれ人間を知能を超える賢い機械になる可能性が高いという点は一般的なAI論者に賛同。

ＡＩ原論 神の支配と人間の自由

AIに関して哲学的な議論を展開しているが、難しい。第6章に総括があるが、気になった言葉を列挙してみる．疑似的自律性、不可知性、ニューラルネット・モデル、深層学習、フレーム問題、記号接地問題、オートポイエーシス理論、シンギュラリティ仮説、クラウドAIネット、暫定的閉鎖系、IA(Intelligence Amplifier)、などなど．一神教からきている「創造神／ロゴス中心主義／選民思想」という独断的な思想に対して、反省の意味で文化的多元(相対)主義が生まれてきた由．"AIの宗教的背景を知っておれば、「やがてAIロボットが人間のように自律的に、主体として賢い判断を下せるようになる」などといったお伽噺に惑わされることはなくなる．" と強調しているが、分かるような気がしてきた．

ＡＩ原論 神の支配と人間の自由

ギブアップしました。
先日同一の著者の「ビッグデータと人工知能」を読んで、大変に面白かったので選んでみたのですが、こちらはハードルが高すぎました。
「ビッグデータ・・」と同内容でかなりかぶるのですが、すべてが専門的でテクニカルタームが多く、いちいち理解できません。
もう少し勉強したらわかるようになるのだろうか。
理解できないものを無理して読んでいても時間の無駄なので、ひとまずおきます。

ネットとリアルのあいだ――生きるための情報学

現代にあるのは物理的な貧しさより、心理的貧しさがある。
脳だけでなく体の反応も大切である。
体の反応無くして感情もあり得ない。
そう考えると体には何も無駄が無いように思える。
難解な部分もあるが情報社会の現代に警鐘を鳴らす良書。人間を機械部品化するITではなく、人間の身体や心をやさしくつつんでくれるようなITが必要なのだ。

集合知とは何か ネット時代の「知」のゆくえ

専門知・客観知への疑念が持たれるようになった原発事故以降、ネット上の集合知が見直される風潮があるが、それに対して警笛を鳴らしているのが本書。
興味深いのは、本書の著者がコンピュータやソフトの開発に携わったこともあり、現在は情報学の第一人者とも言える人物であるということ。IT礼賛に傾いているかと思いきや、著者の主張はその反対。安易なIT化は人間に不安定をもたらす、と指摘する。「知とは本来、主観的で一人称的なもののはず」で、「客観知の方がむしろ人為的なツクリモノなのである」という指摘は、ネット上の集合知への向き合い方に重要なヒントを与えてくれる。IT礼賛・ネット礼賛どころか、人間礼賛だ。
正直、想像していたよりハードルの高い本で、脳みその中の普段あまり使わない部分を使わざるを得なかった。脳みそ錆び防止効果は予想外。

ビッグデータと人工知能 可能性と罠を見極める

情報工学の専門家によるビッグデータと人工知能に関する本。主として人工知能について、どういうものかが説明されている。今後どうなっていくかについては、人間の脳に並ぶとか超えることは考えられないというのが結論。人間の脳と同じような仕組みを目指すというような研究開発は失敗する可能性が高く、安易に乗らないことを警告している。説得力があった。ただ、自らが関与した研究や哲学的な論述など、回り道が多いようにも感じた。
「ビッグデータ分析の最大の魅力は、当初の使用目的とは異なるさまざまな角度からデータを眺めることで、思いがけない発見が得られることに他ならない」p30
「（人工知能キーワード「論理」→「知識」）人間は問題を解決し意思決定をおこなうとき、筋道を立てて論理的に考えようとする。だが、それは積み重ねられてきた社会的体験に基づく知識を踏まえたものなのである。難しいパズルに挑戦するときのように、論理だけで判断するわけではない」p59
「人間は日常、常識に基づいてフレキシブルに行動している。だが、この常識というのがクセモノで、いわば矛盾や誤りだらけのしろものなのである」p64
「軍需産業の支援の下で、人工知能技術が進歩発展していく可能性は高い。そして、その詳細は一般には決して公開されないだろう」p103
「ロボットに搭載された人工知能は、基本的に、論理処理を行う機械である。そして、ロボットの「体」は、多細胞生物である動物とはちがって、あくまで人工知能の指令に従って動く忠実な物体である」p131
「科学技術分野は多かれ少なかれそうだが、日本のＩＴ業界は原則として、徹底した欧米追従である」p163

こころの情報学

新書だったが、ちょうどいま気にしているイシュー、例えば人工知能や生命についての哲学事項、が整理されていて、意図せずとても参考になった。

デカルトの二元論の否定から始まり、生命システムの定義や、「言葉」の心的システムに対する意味や、社会体制に対する意味など、大いに参考になった。

特にアフォーダンスとオートポイエーシスの理論の補完的結合は自分としては新しい知見だった。
また、「中心と周縁／詩人と異化」の論についてはよくかみ砕きたい。


未来に対する考察としては次の2点をよく考えたい。

１）言語性について、王の身体性(声)から新聞のような言葉への変化が社会の変化とリンクしていたとして(情報の独立性が増したとして)、技術の時代にはどうなるだろう

２）経済の時代には権力の源泉が「論理性」であったとして次の時代には何になる？
　→情緒性が復活する？(エコーチャンバーでは復活しつつある)
　→つまり言語に変わるコミュニケーション手段が現れたとき、言語が持つ形式性はその権力を失う

ビッグデータと人工知能 可能性と罠を見極める

単なるバズワードの解説本ではない。
シンギュラリティに騒ぐ世間を批判し、AIではなく、IA (Intelligence Amplifier)こそ来たるべき未来だと説く。地に足をつけて、自分もこの時代のエンジニアとしてコンピュータの可能性を広げていきたい。

ＡＩ原論 神の支配と人間の自由

人工知能とは？をこの厚さでよくまとまってます。
なので、もう少しツッコミたいひととか、バックグランドの知識がないとちょっとわかりにくかも。

ビッグデータと人工知能 可能性と罠を見極める

シンギュラリティ。最近よく聞くこの言葉を真っ向から否定する、わかりやすい論考だった。
フレーム問題の記述では、某厚労大臣のごはん論法を思い出した。そうか、あの違和感は人と話している感じがしないことからくる違和感なのかと変に納得した。

ビッグデータと人工知能 可能性と罠を見極める

最近、何冊か人工知能関連の本を読んだが、本書が一番納得感があった。ディープラーニングはビッグデータを統計的に処理する手法の一つに過ぎず、今の技術の延長に汎用人工知能はない。その論拠を、機械と人間の違いから説明していく。
人工知能という言葉は何かと誤解を招きがちなので、本書のような主張は、メディア等でもっと周知すべきだと思う。

集合知とは何か ネット時代の「知」のゆくえ

軽い気持ちで読み始めたらかなり哲学的で大変だった…。集合知どうこうと言うよりも、今後の情報化社会やAIが活躍(？)する社会に不安を感じる人が安心できるような本かもしれない。生命体と機械って何が違うの？ということに対する記述箇所が面白かったと思う。(なるほどと思った)ただ今後、その違いすら埋められていくかもしれないけどね、とも思った。

ビッグデータと人工知能 可能性と罠を見極める

情報を専門とする学生にぜひ読ませるべき本である。ただし、これをそのまま卒論の資料にはできないので、あくまでもどう考えるかの本とするべきである。

ビッグデータと人工知能 可能性と罠を見極める

2045年 人工知能が人類を越えるーーシンギュラリティ(技術的特異点)仮説。

中公新書にしてはやけに感情的な文章。
著者の主張を端的に言うと、人間と機械はどこまでいっても違うのでシンギュラリティなんて来ないよ、といったところか。

1956年 米国ダートマス会議から人工知能ははじまった。
以降、厳密な論理であったコンピュータは、曖昧な知識との矛盾に苦しんだ。2010年代に入って、それを克服させつつあるのが「深層学習(Deep Learning)である。
深層学習とは、(本来コンピュータが苦手としていた)パターン認識のための機械学習の一種。その特徴は「ニューラルネット(神経細胞網)」と「特徴量設計の自動化」。これが脳の仕組みに似ている、という印象を与える。

シンギュラリティに対する悲観論。「人間はそれを支配できない」「人類の終焉」。
しかし著者の考えでは、人工知能が人類を超えてしまったが故に人間に理解できなくなる、ということはつまり、人間にとってはメチャクチャな結果を出力する廃品と判断されるだけである。

どうやら人工知能の進化は、曖昧さに対応するために厳密性を捨てた、つまり正確性を犠牲にしているようである。「間違えても学習していけばいいじゃないか」と。
それゆえ、人工知能を過信してはいけない、機械の誤判断を正せるのは人間(の暗黙知)だけだ、という著者の主張には説得力を感じる。
しかし、人工知能が高度になるにつれ、コンピュータの出した結論に対して「これは誤りだ」という判断を下すこと、それ自体が難しくなっていくのではないか。それこそがシンギュラリティの本質なのではないか。
というわけで私はシンギュラリティ悲観論に一票。

ビッグデータと人工知能 可能性と罠を見極める

自分が大学生の頃に携わった人工知能研究は、第2世代のブームだったようだ。
当時は、素直にプログラムを書いて、コンピュータに処理させれば良いことを、自然言語処理をさせて、プログラムを書かなくてもコンピュータが人間の意図を理解して、処理するという状況を目指していたと思う。
第3世代のブームである現在は、ビッグデータ、集合知と統計処理の活用。気をつけなければならないのは、相変わらず^、コンピュータには、プログラム(予め、書いたもの)が、必要だということ。自己学習すると言っても、その自己学習の仕方は、予めプログラムされている。そのことを忘れては、ならない。

ビッグデータと人工知能 可能性と罠を見極める

AIを技術的側面からではなく、社会科学的な側面から捉えたいと考えている人に最適。
生物と機械の違いが本書の基本テーマ。感銘を受けた。
しかし、「AIは仕事を奪わない」という主張は、現実の労働市場を知らない学者さんの意見という印象で、同意できない。