西垣通のレビュー一覧

ＡＩ人類学 生成ＡＩ時代の超倫理

副題が生成AI時代の倫理学である。倫理学そのものをせつめいしているわけではないが、ネオ・サイバネティクスやオートポイエシスを手がかりにして、倫理の議論をすすめている。直接の倫理的問題は、河島の本の引用として、有害コンテンツ。ハルシネーション、偽情報、クリエーターとの関係、をあげているがこれらのことの詳細なせつめいではない。最初の方は、日本がなぜデジタルに遅れをとったか、ということで、なかなか生成AIの話まではいかなかった。情報専攻以外の教員養成系大学生も読んでおく基本書となるであろう。

ビッグデータと人工知能 可能性と罠を見極める

副題を意識しないままに読みはじめた。人工知能を完成させるためのビッグデータ……そんな誤解があった。しかし、本書を読み進めるうちに、人工知能に対する誤解や、SFに出てくる「意思」を持った機械、人類に君臨するコンピュータが出現することの困難さを理解できた。p.147「そういう疑問をふまえて、近未来のコンピュータ文明のあり方をさぐるのが本書の目的」が腑に落ちるのだ。基礎情報学をもっと知りたい。

ＡＩ原論 神の支配と人間の自由

表題からはよくあるAI進化論の類かと思っていたが
シンギュラリティ論から真っ向に対立するような骨太の議論が繰り広げられており、宗教や近代哲学の領野にも踏み入れながら斯様に人文的な見地からAIを解釈し直すと筆者の力量もあってやはり面白い。再読。

ＡＩ原論 神の支配と人間の自由

AIについては全くの素人なのですが、著者の本は何冊か読んだことがあり本書も手に取りました。結論から言うと非常に面白かったです。独特な視点からAIに切り込んだ書籍だと言えます。本書はAIの技術的な解説書ではありません。そのような本は巷にあふれています。著者がこの本で指摘するのは、日本でAIを研究している専門家ですら、AIの背後にある哲学的思想や宗教的思想について理解しておらず、それは非常に危ういという点です。

本書は、これまでのAIブーム（1950年代の第1次、80年代の第2次、そして2010年代からの第3次ブーム）について概観し、第3次ブームに火をつけたと言ってもよいカーツワイルの「シンギュラリティ仮説」について紹介します。そしてこのシンギュラリティ仮説を中心に、それらがどのような思想のもと生まれたか、それがいかに「ありえない」かについて哲学や宗教の視点から解説しています。

本書は重要なキーワードが多数ちりばめられていたと思います。まず科学者が持ちがちな「素朴実在論」。それに対抗する、カントからはじまる「相関主義」（世の中の事象はすべて人間という主観的主体を通してしか理解できない）、そしてそれを突き詰めていくことで生まれたメイヤスーの「思弁的実在論」。また相関主義と似た思想としての「オートポイエーシス」理論で、人間や生命体だけが真の意味で「閉鎖・自律的」な存在であり、AIは「開放・他律的」存在でしかないことを示します（ただし本書で示されているように、深層学習しているAIは疑似的な意味で自律的存在として人間の目には映る）。

私が興味深かったのは、メイヤスーが提唱している２つの種類の不確定性と、それを用いた著者による人間・AIの違いについての説明でした。１つめは確率分布で表示できるもの（潜勢力と訳されている）、もう１つは確率分布で表示できないもの（潜在性と訳されている）があって、AIは前者にしか対応できないが、人間は前者だけでなく、後者の不確定性にも柔軟に対応できること（対応できない固体が死ぬ）、つまり言い換えれば行動ルール自体が時々刻々変化する存在だということです。AIはメタルールを自分で変えられません。それに対して人間はいざとなればメタルールすらリライトできるからです。

ちなみにこの２つの不確定性については、フランク・ナイトという経済学者もだいぶ前に区別をしています。彼は、確率分布で表示できるものを「リスク（risk）」、そうでないもの、たとえば世界大恐慌を引き起こすような株価下落については「不確実性（uncertainty）」と区分しています。ナイトは逆に、人間がすべての事象をリスクとして扱おうとする態度が世界大恐慌のような不確実性を見過ごすという警告をしています。ナイトもメイヤスーも後者の不確定性の存在を強調しているわけです。

なお本書の後半では、ギリシャ哲学（ヘレニズム）とユダヤ教（ヘブライニズム）の混交した西洋文化がAIの背後にあることを解説します。私としては、仏教の思想とAIがどのような関係にありそうか、という点に興味が湧いてきましたので、もしそのような本があれば手に取りたいなと感じました。繰り返しになりますが、本書はAIを通じて様々な哲学思想と宗教思想が学べる本になっていて、知的好奇心を満たしてくれる良書でした。個人的にはとても満足しています。

集合知とは何か ネット時代の「知」のゆくえ

西垣さんの本は「ビッグデータと人工知能」（2016年）を読み、とても面白かったので、少し昔に書かれている本書を手に取りました。個人的には集合知とは何で、ネット時代にどういう意義があるのかを知りたいと言うことで購入しましたが、読み終えた感想は、集合知以外のところというか、知のそもそものあり方についてとても勉強になり面白かったです。

　また経営学の重鎮である野中郁次郎さんの「知識創造企業」との関連性をすごく感じました。野中さんは日本企業がいかに各従業員の暗黙知を吸い上げてイノベーションにつなげているかを分析されていますが、知は人間個々人に暗黙知として宿ること、そして暗黙知と暗黙知がぶつかりあってグループ内で共有化されるプロセスや、その暗黙知が形式知に「表出化」されるプロセスを分析されていますが、西垣さんの思想との親和性を強く感じました。そして西垣さんの呼び名を借りれば「主観知」こそが出発地点であって、客観世界とは仮象であること、そしてこれからのデジタル技術は、人間の暗黙知を表出化するところにこそ使われれるべきだと述べていて、とても共感できました。産業資本主義が、世界の客観化にあったとすれば、デジタル技術は逆説的に聞こえるかもしれませんが人間の主観知へと焦点を当て直すことになるのかもしれないと思い、非常に興味深く拝読しました。西垣説は正しい気がしましたし、日本はこの領域は得意なのでは？と感じた次第です。

超デジタル世界 DX，メタバースのゆくえ

情報について、もっとも新しく述べている本である。政府の提唱するDXとメタバーズについて批判的分析をおこなっている。最後では情報Iで重視されたプログラミング教育について、非常に狭いシャノンの情報概念としてユダヤ＝キリスト概念にそったものであることを看破している。
　情報メディア論として大学初年度の学生に推薦できる本である。

超デジタル世界 DX，メタバースのゆくえ

2024/03/02　西垣通　「超デジタル世界」
デジタル基本書として類書にない傑作。「技術論＋哲学」の構成。
デジタル技術の本は数多あるが、人類古来の社会哲学を踏まえた「デジタル文明論」は初めて。そもそも情報系の学者さんで、著者ほど古今東西の哲学に造詣の深い方は少なくとも日本には居ないと思う。
戦前の旧制高校にあった「教養主義・知性主義」は、戦後米国風のプラグマティズム＝SKILL重視の拝金主義に駆逐された感じ。
著者は言う、デジタル革命のインパクトの大きさを踏まえると、社会の在り方まで踏み込んだ「本質論の議論」がなければ、日本はデジタル社会への変革は成し遂げられない。多分、枝葉末節の個別システム・サービスで一喜一憂exマイナンバー保険証。
Ⅰ．ＤＸの本質「オープン」
日本は立ち後れ「デジタル敗戦」　
①オープンソース②オープンデータ③クラウドサービス→コスト削減もあるが
　「ヒエラルキーの破壊」を日本は受け入れられない
Ⅱ．第三次ＡＩブーム
「統計statistic」統計誤差を許容　深層学習　ベイズ推定
レイ・カーツワイル　2045年「シンギュラリティ」
　ＡＩの知能＞人間の知能
ハラリ「ホモ・デウス」黙示録　
人間至上主義→データ至上主義＝アルゴリズム
Ⅲ．ＡＩ倫理　ＥＵ　2018年GDPR 2021年ＡＩ規制案
①政府管理(中国)
②民間大手(メタ)
③限定的(透明性)
④最小限(工場)

ビッグデータと人工知能 可能性と罠を見極める

近い将来AIに人間が振り回されるという状況にならないように、新設されるデジタル庁の方々にぜひ読んでいただきたいものだ。

AI倫理 人工知能は「責任」をとれるのか

AIが最近では大きな話題になり、人間はAIをどう使うのか、いやAIに人間は使われる時代がくるのではとの予想もありうるという時代になってきた。
本書では、AIはあくまでも人間が作りだしたものであり、人間の作るプログラムやアルゴリズムの元でのみ作動する機械であり「自律型機械」には決してなりえないと説く。納得のいく詳細な解説がある。
しかし、人間とAIがコラボするときそこに今まではあり得なかった新しい切り口の創造物が産まれてくる可能性も現実のものとしてありうると説かれている。
AIが自律型機械的に扱われて、人間にマイナスの効用をもたらすシーンは多様に予想が付く。そのとき、人間はだれに責任を取らせるのかも大きな課題。
最終章では、AIと人間がコラボして芸術活動をなすことが近い将来に想定されることを書いている。その最後の文章が示唆に富む。
「AIは近代芸術の息の根をとめる強烈な毒を孕んでいる。だが一方でそれは、近代芸術を一挙に革新するツールともなりうるのだ。＿

ビッグデータと人工知能 可能性と罠を見極める

著者の作品は記憶にあるだけで、過去に2冊読んでいた。
「マルチメディア」「マルチメディア」
多分そのときにはそれほど印象に残らなかったのだが、今回は非常に感銘を受けた。

80年代からAIをタイトルにした著作があり、コンピュータの専門家である。
本作は比較的平易に書かれわかりやすい。

最も興味深かったのが、シンギュラリティを含め、AI・ロボットの可能性をほぼ否定しているところだ。

一般的には近い将来AIに人間が取って代わられる、所謂「シンギュラリティ」が問題としてメディアを賑わせている。
どちらかというと、それは決定事項として語られる。
しかし、著者はそんな心配はしなくても良いと説く。
AIと人間には決定的な違いがあり、それは理論的に超える事ができないのだと。
マインドアップローディングやシンギュラリティなどSFの世界のおとぎ話であると。

思えば「2001年宇宙の旅」でHAL9000に宇宙飛行士は殺される。
鉄腕アトムは人間の指示を無視して太陽に突っ込んでいった。
両者はAIについて逆の可能性を見ているが、早くからシンギュラリティを夢見ていたということか。

角川インターネット講座６ ユーザーがつくる知のかたち 集合知の深化

AIかIA（知能増幅）か？全自動と人の補助ツール
集合知は知は個人に宿ると考えている欧米人には新鮮だった。
牛の体重当てのような一般人の投票の平均が正解にほぼ近くなるのは、その中に見識者もいてそれが、平均を是正しているかも。なので母集団が完全ランダム（無知）だったり、偏見・迷信があれば集合知は正しくならないことも。
政策をネットで電子投票させる直接民主制も、ある程度みんな熟慮させてからでないとだめなのではないか。

ビッグデータと人工知能 可能性と罠を見極める

昨今のIT産業の背後にある文化的な思い込みというのが非常によくわかる。技術は中立であるが、その運用やそれを取り巻く言説は、中立ではありえない。
つい先日読み終えた「ダーウィンの思想」と同様、科学の成果の背景にある考え方を強く意識する必要がある。

ビッグデータと人工知能 可能性と罠を見極める

ずっと日本のコンピュータの進歩に携わってきた著者のAIに対する俯瞰した冷静な視点を知りたくて開いた新書でした。が、熱い熱いアンチ・シンギュラリティ論でした。その熱さは著者も関わった1980年代の日本の第五世代コンピュータプロジェクトの失敗体験から来ているのかもしれません。シンギュラリティを礼賛するカーツワイルの楽観主義をもともとコンピュータ開発の根本にあるユダヤ系普遍主義者たちの理想主義や宇宙観にあるとし、それを相対的文明論で批判していきます。そう、AIを理系の技術ではなく文系も巻き込んだ大きなテーマとしてみんなで考えることを提唱しています。AIと共生する時代のリベラルアーツの必要性を語る本でした。予想を超えた読後感。

ビッグデータと人工知能 可能性と罠を見極める

今のIT業界のホットトピックである「AI」と「ビッグデータ」（ついでに「IoT」も）について、客観的かつ分かりやすく説明している本。一般人向けに丁寧に書かれており、非常に読みやすい。でも、AIに関して奇天烈な夢や妄想、あるいは情熱に取りつかれている業界人こそ、本書をしっかり読んでいただきたいものだと思う。
個人的に本書が優れていると思うのは、計算機（コンピュータ）は出現した時点で本質的に人工知能を志向していたという解釈と、その考え方を遡及するとヒルベルトに辿り着くとしているところ。だから、第１次AIブームの人工知能が、巨大な演繹マシンとして構想されたのは極めて自然なことなのである。
確率・統計と帰納・アブダクションから実用的なAIを実現しようする今の風潮は、私の価値観と真逆なので困っているんだよね。とはいえ、そのおかげで利権のおこぼれにありつけるのも事実だし、しばらくは隅っこで大人しくしているつもり。

ビッグデータと人工知能 可能性と罠を見極める

・ビックデータとプライバシー
ビックデータと個人情報保護の問題について。これはよく問題になりますが個人的には便利であれば人は自分の個人情報さらけ出すことに対して嫌悪感がそれほどないのではないかと思います。例えばスマートフォンをみんな所持してますよね。GPSがついているので、いつどこにいたっていうこと情報が世に流れており、それを追跡すれば誰がどの会社が働いてるなどいった情報はすぐにわかります。またfacebookやラインといったサービスなんて誰と誰がどのような繋がりがあるかということを簡単に提供しているわけですけれども便利さに魅了されてそんなこと気にしてない人のほうが多いと思います。それが何故かニュースではある企業から個人情報が漏れたと大騒ぎしていますが、少しセンシティブになりすぎなんじゃないかなと個人的には思います。といった当たり前の問題には触れられてなくて、問題なのは企業が顧客に対して行う告知が難しくなることだと言っている。企業は顧客から集められる情報をこんな風に使いますと告知を行うのですが、ビックデータを分析できるようになってからはその告知をとる時点でどのようなデータと組み合わせでどのような分析をするかってとういところまで言いきれないということが問題だと提言しています。また、ビックデータ分析によって人の行動パターンを予測しすぎて人の人権を侵害してしまうのではないかというよくある問題についても触れられています。例えば幼児を対象とした性犯罪を犯す人物はこういった身体的特徴や性格を持っているだから監視しようとなってしまっていいのか、ということです。これは、もともと人間は他者を評価するときにある一定のステレオタイプを介して判断しているのと同じだと思いますし、むしろ、ひとの偏ったステレオタイプよりもデータを分析してわかった結果のほうが完璧とはいいませんけどまだマシなんじゃないないでしょうか。という一般的な議論はやはり通り越していて、筆者としての問題提起はデータ分析をして出てきた結果のせいで誤認逮捕してしまったとなったときに責任の所在がプログラマになるのかそれともそのデータを活用した人になるのかそれが曖昧なるということです。






・機械と生物の違い
機械と人間が大きな違いは「臨機応変さ」と「優先順位の変更能力」です。例えば機械のプログラミングするときはプログラマーがプロブラムを起動させる際に起こりうることをあらかじめ想定してプログラムを書きます。その起こりうることからもれた事象が発生するとエラーとなってしまいます。例えば最近やったことでいえば、エクセルである列に入っている月の三ヶ月前のその右に表示するという簡単なプログラムを作ったのですか、単純に考えてマイナス3すればいいだけですけれども1月2月3月をただ単にマイナス3してしまうと-2月-1月0月となってしまいます。人間の場合そこは臨機応変に判断できるというのが違いです。優先順位の変更能力ですが、例えば今話題の自動運転だと、目的地を設定すれば渋滞などスルスル避けて最短の時間で目的を達成する能力をすごく高いのですが、その過程で家族が倒れていたりしても素通りしてしまいます。人間だったらすぐさまに目的地を変更して助けよう気持ちが普通は働きます。つまり、人工知能はある目標に向かって効率的に進むことは大得意なのですが、途中で別の優先すべき問題がおこった時対処するのが難しいのです。

・文系と理系の融合が必要だ。
ITの改革がそれほど進んでいない理由はやはり文系と理系がきっぱり別れすぎていることだと考えています。一昔前までは理系の人はとりわけITに関する人はコンピュータの前だけで作業していればよく文系の人もそれをマネジメントするだけでよかったのですがITの発達によって、スマートフォンやIoTのようにありとあらゆるものにITが介在するようになり、IT抜きにもう企業戦略や政治や経済を考えることができなくなりました。それにも関わらず文系と理系の融合がなかなか進まないのは文系の人にも理系の人の意識に問題があると思います。文系の人は理系の人をただの技術屋だと思っていて必要なときにただ請負として利用している、ある意味で見下しているケースがあると思います。また、理系なんて全くわからないと考えることを放棄してしまっているとい人もいるでしょう。また理系のひとで自分の趣味だけにもっとして会社の未来なんてどうでもいいや社会なんてどうでもいいやと考えて文系の分野に全く関心持たない人が多いことが文系と理系がなかなか繋がらない大きな理由です。この問題を解決する方法はコテコテの文系の人の中でもある程度理系に理解がある人一方でコテコテの理系の中でも文系にある程度興味を示している人をいかに見つけるかが大事。また、それを繋げれるような人材も大事だと思います。要するに相手の立場に立って物事を考えられる人が必要になってきます。

・スペシャリストとジャネラリストの関係
これは凄く面白い。著者的にはインターネットの発達によって情報量が増えすぎ人がスペシャリストになることさえも大変な時代になっていると感じている。より、専門家が知り得る領域がどんどんどんどん狭くなっているという問題提起をしています。そうなってしまうと他人への理解がまったくなくなってしまって、もともとかいきにくい世の中になるじゃないかとおっしゃっています。しかし、これを解決するのもインターネットで、うまく活用すればたくさんの人の意見をすぐに集約することができ、ある意味でゼネラリストの意見をスペシャリスト受け取れる状況になっており、スペシャリストは自分の分野外の新たな知見を取り入れつつ自分の専門領域をさらに込めることができ、より一層よくなるのではないかと考えている。

ビッグデータと人工知能 可能性と罠を見極める

著者の見解にはおおむね同意です。
ただ，読み終わって少し経ってから，一つの疑問がふと頭に浮かびました。
「人間はミドリムシ一つ作れないのだから，より複雑な脳と同じ働きをするAIを作ることなどできない。」というアナロジィについてです。
ここで比較すべきは，「脳と同じ働きをするAI」（＝脳の動きをシミュレーションするプログラム）と，「ミドリムシの動きを完璧にシミュレーションできるプログラム」ではないでしょうか。

続 基礎情報学 : 「生命的組織」のために

Sun, 28 Dec 2008

5年前に出た前著，「基礎情報学」はちょうど博士過程２回生くらいの時で
かなり，影響を受けた本だった．
現代思想的である，オートポイエーシスや生命記号論，ルーマンなどを
上手く，つなぎ合わせ，情報・意味の基盤を作ろうという野心的企み．
この前著を読んで，僕の博論は西垣先生に読んでもらう為のものとなった．


そんな，僕の人生にも強い影響を与えた前著に引き続く続編．
前著を読んだときの自分の状態に比べると，かなり自分自身の成長があるためか，ギャップはほとんど無く，素直に読める．
思想的距離が非常に近いので，僕は日本でもっともこの本をハイスピードで読める人間の一人だと思う．


前著ではオートポイエティックシステムからルーマンの社会システム論を経て，
階層的オートポイエティックシステムという概念を提唱したところで終わった感があったが，この本ではそれをさらに深めようとしている．

コミュニケーションの産出による組織形成がルーマンの描いた社会システムに制限されることなく，
生命的な組織に本質的なものであるとの見方を出す．


また，5年前からのブログ，SNS，セカンドライフなどの興りによるメディアの変化をとらえ，
マスメディア主体の社会システムからいかなる変化が見えてくるかを考える．
これは，時代を映し出す論点だろう．


しかし，前著を消化した上で読む本著としては，期待していたほどは"差分"が大きいとは感じなかった．
（期待が大きすぎるだけだが・・・）

しかし，このような本をコンスタントなペースで出し続けられる先生方は凄いなあと最近は正直おもう．

集合知とは何か ネット時代の「知」のゆくえ

集合知とは何か？
共同体知、コミュニケーションにおける暗黙知。
自己の深層の活性化。

知識とは「主観的」なものである。
専門家の知識は、あてにならないことが、近年示されている。
「客観知」二人称の知として蓄積することが必要？

集合知とは何か ネット時代の「知」のゆくえ

内容が薄くない。それだけに予備知識なしに読み続けるのは苦痛になるかもしれない。
筆者の知に対する考察の深さには恐れいる。読む価値のある本であり、集合知に興味があれば買うべし。

集合知とは何か ネット時代の「知」のゆくえ

集合知のうちおもにインターネット上で構成されるものについて扱った本。難しそうな印象の本だが、個々の人間の主観世界がいかに集合知を形成していくかを平易に書かれた良書である。