【感想・ネタバレ】クオリアと人工意識のレビュー

茂木健一郎

「意識」は「コピー」できるか？
人工知能に「意識」は生まれるか？
茂木健一郎が、自身のメインテーマである「意識」と「クオリア」について、
16年の沈黙を破って書き下ろした、新たな代表作にして問題作！

人工知能の研究の進展が目覚ましい。
だが、人間は、なぜ人工知能を生み出すのだろうか？
その根底にあるのは、自分の「似姿」をつくろうとする本能である気がしてならない。
人間は、その知性を通して、「万物の霊長」たる地位を確立してきた。
そのような人間の知性の一つの究極の応用として、人工知能の研究、開発がある。人工知能の研究には、もちろん、実用的な意義も大きいが、それに加えて人間が自分自身の成り立ちを理解するという意義もある。
人工知能は、私たちの「鏡」なのだ。
その「鏡」の中には、果たして、「クオリア」に満ちた私たちの「意識」もまた、映っているのだろうか？
人工知能をつくることは、「人工意識」を生み出すことにつながっていくのだろうか。
＜本文より＞

☆本書で考察するテーマの一部
〇眠る前の「私」と、目覚めた後の「私」はなぜ同じなのか？
〇私たちは、「ホモサピエンス」（知性を持つ人間）である以上に「ホモコンシャス」（意識を持つ人間）である。
〇物質に過ぎない脳から、「意識」や「クオリア」が生まれてくる不思議。
〇「意識」は「コピー」できるか？
〇「人工意識」をつくることは可能か？
〇人工知能が生成した文章は、「どこにもたどり着かない」？
〇統計的アプローチでは、「意識の謎」の解明はできない。
〇人工知能をめぐる議論に、ときに驚くほど終末感が漂うのはどうしてなのか？
〇記憶を「外套」だとすると、脳は、その外套を引っ掛けておくための壁に打たれた「釘」に過ぎないという考え方。
〇「私」という「意識」は、この宇宙の全歴史の中で一回だけのものであり、一度死んでしまえば二度と戻らないという「セントラルドグマ」は正しいのか？

[satoumc · ★★★★★]

脳科学者として名前が売れて以来、脳がらみの雑多な本を出しまくっている著者だが、これは読む価値のあるまともな一冊。意識と知性の関係をクオリアを橋渡しにしてあれこれ検討して切り込んでいこうとしている。人工知能は意識を持ちうるのか、クオリアを持ちうるのか。勿論この短い一冊の中で結論など出ないけれど、この難問にとりかかる知的なきっかけを著者は数多く持っている。
ところでわずか3年前に書かれた本書では、OpenAIのGPT-2の進捗が語られていたが、今ではGPT-4(ChatGPT)が世界をゆるがしている。意識のハードプロブレムが近い将来に工学的に解明されてしまうのではないかという状況になり、本書の議論がますます興味深くなってきている。

＃タメになる

[ブクログ · ★★★★★]

とても面白かった。人工知能研究の現在。研究者達の考えていること。意識とは。知性とは。生命とは。自己意識とは。自由意思とは。身体性について。人工意識について。興味深い議論満載でエキサイティングな一書。人工知能、馬鹿にしたものでもないし、また恐れることもない、ということが良く分かった。

[ブクログ · ★★★★★]

脳科学の教科書。
情報工学、生物学、文学、哲学などの多面的な知識を交えながら「（自己）意識」を考察する。
クオリアというのは知覚の仕組みのようなものだと思った。
脳は脳でもハードウェアなのか、VHDLなのか、ソフトウェアなのかといったところなのだと思う。

[ブクログ · ★★★★★]

人間性とは何で、私たちは何をもって人間とするべきで、将来的に私たちの手元に残るものは何なのか。

茂木健一郎先生の著書を読む際は、いつもそういう根源的なことを考えさせられる、それがとても心地いい時間だと感じる。

やはり私が読んでも内容の一割も理解できなかったと思うけど、それでもすごく面白かった。

これから生活に人工知能が馴染んでいく様子を想像すると恐ろしくもあり、けれども何がどう変わるのだろうという単純な好奇心も湧く。

茂木先生はよく「日本語の情報だけでなく、英語の情報もインプットして」ということを言っているように思う、本当にそれが大切なのだと思う…結局私はまだ英語には着手してないけど。

この人の知的好奇心を見習いたい。

[ブクログ · ★★★★★]

最新の人工知能の研究を題材にその理論と人間の脳と対比しつつ「意識」についての考察を深めます。やや難解ながらも人工知能の理論と脳科学による考察を合わせた説明によりとても興味深く読み進めることができた。人間の「意識」のコピーあるいはアップロードに関して、以前からモヤモヤしていたところがとてもスッキリした。

[ブクログ · ★★★★★]

著者の16年振りの書下ろし。人工知能、意識、知性、人工意識、身体性、クオリア、自由意志。それぞれの関連を議論する。人工意識には身体性が不可欠となる。身体性とはクオリアか？でも、意識を捉えようとすると、いつまでたってもその実体は掴めないのではないだろうか？

[ブクログ · ★★★★☆]

茂木健一郎の本書での主張は「人工知能の今の研究アプローチでは意識の謎は明らかにならないのでないか？」ということかと思う。

この本の良いところは、人工知能でどこか浮ついた人々を、もう一度、人間の王道に引き戻そうとしているところ。そのために彼は、先人たちを何人も召喚している。彼らが言っていたこと、誤ってしまったこと、まだ続いていること、今見れば真実なこと、何度も代わる代わる呼び出しては語る。

その姿勢に、グッとくる。

[ブクログ · ★★★★☆]

意識とは何なのかということと
命とは何なのかということは
ずっとずっと解決できないでいる気がかりなこと

意識という現象を読み解いたものであるとか
（脳のここがこういう物理的な反応をしているときに意識ではこういう知覚ないし感情が起きているとか、そういう意識と物質の対応関係みたいなもの）、
命という現象を読み解いたものはあるけれど、

意識とはそもそも何なん？
命ってそもそも何なん？
ということについては皆目わからない。

それがわからないことには、
死んだらこのわたしの意識がどうなるか
全くわかれへんやん意味ないやん。

この辺の感覚はどうやら茂木さんと共通するらしく、ペンローズの『皇帝の新しい心』が至る所に顔を出す。この題名を見て若かったわたしは「わたしの知りたいことはきっとこの中に書いてある」と確信を持ちその重い本を買った。だけど、茂木さんのようにその本を読みこなせるだけの頭の出来がわたしにはなかったことから、この本は未だに本棚に死蔵されたままになっている。

余談だけど、本の中で話題になっていた小ネタでわたしが思ったことを幾つか書いておく。
☆AIが意識を持つのはいつなのか？意識を持つようになるのか？
処理する情報量が閾値を超えたら持つんじゃないか、とはわたしも思うが、なんつーか腑に落ちなさが半端ない。意識とはそういうものなのか？という疑念が払拭できない。
しかし一方で、人間に意識があるかどうかは実は外からはわからない（怖い）ということを示した本をつい最近読んだこともあって、機械に意識があるかどうかは実は外からわからないのでは？とも思う（怖い）。
☆脳をAIにコピーすることで永遠の命を得る、ということを考えている科学者がいるそうだが、茂木さんと同じく「それは全く違う！」と声を大にして言いたい。だってDNAが全く同じな一卵性の双子が同じように育たず双子はお互いに相手を別人だと思っているように、わたしの脳をコピーしたAIが出現したとしても、わたしと同じように同じことを考える別人が出現したとしか思えないだろう。それが「わたしという意識」の本質だろう。
☆そういう頭のいい茂木さんが、雑談的にではあるものの、神秘主義的な解決法を持ち出していたのには衝撃を受けた。頭よくても頭のあまりよくないわたしみたいに、そういう考え方をすることあるねんな〜。神秘主義いいよね〜。結局仏教の密教って神秘主義的な行為の行き着いた果を力業でもたらそうというものじゃないん？とわたしは思っている。

[ブクログ · ★★★★☆]

テーマは面白い(興味深い)。
賛同できるかどうかは別にして。特に人口意識は必要か？は意見がわかれるところだろう。暗いところで落とした鍵を明るいところで探す。理由は「明かりがあるから」は、このテーマに限らずあるある。

[ブクログ · ★★★★☆]

人工知能という言葉は聞き馴染んでいたけれど、意識という概念はあんまり深く考えたことがなかった。
意識なくして、知能、知性は扱えないとする考えもあり、それもよく理解できた。
小説を書くAIがあっても、最初の1文を与えないと、続きが書けないなど、答えのないものに対して意思決定をして進めていくことは意識によるものなのだろう。
そう考えるとAIがいくら発達しても、カーツワイルの言うシンギュラリティに達する日が来るとは思えなくなってきた。

ガブリエルさんの言っていた、意識に関しては科学で証明することが極めて困難というのも、茂木先生のこの本を読んで理解できた。

意識はまだまだ未知の領域があり、それこそ人間らしさなのかもしれない。

[ブクログ · ★★★★☆]

論理の組み立てや説明順序に改善の余地が多々ある構成ではあったが、中々に読み応えのある内容だった。
現在のAI研究について、その有用性は疑わないものの、一方で統計的アプローチ万歳の傾向に警鐘を鳴らす。意識やクオリアは統計的アプローチでは解析できず、「今ここ」の身体性に立脚した新たな数学的アプローチの開発を待つべきと主張するが、本書ではその数学的アプローチの概略の提示もないのが残念ではあった。
人間は倫理を敢えて突き詰めずに身体性を前提とする直感で判断することにより自我の崩壊を防いでいるという説や、覚醒時は心理的な「今」がオーバーラップすることで意識の連続性が担保されているのに対して睡眠前後では連続性が途切れるために状況や記憶の同一性から統計的に同一の「私」であることを推定しているだけに過ぎないという考え方、コンピュータへの精神のアップロードは自然現象たる意識を情報の同一性だけを頼りに本来的には写像に過ぎないコンピュータ素子の特定の状態によって再現できるとする粗雑な議論であるという考え方などが斬新であった。
最大の物足りなさは、「意識」や「クオリア」が果たして本当に存在するのかどうかの徹底的な探求をせずに、これらが「ある」という前提で議論が展開されていたこと。

[ブクログ · ★★★★☆]

難解な内容だったが、なんとか読破。

人工知能が発達しても
人間の脳になるととは限らないと、基本的なことやっと理解。

「脳とクオリア」も読んでみたい。

[ブクログ · ★★★★☆]

人工知能と意識の関係性をテーマにした筆者十数年振りの著書となり、読みごたえのあるボリューム。身体性を軽視し、ビックデータに基づく統計的な学習で知性を高めて行こうとする現在の人工知能研究の方向性に、危うさと警鐘を鳴らしている。
幻想である意識や自由意思の産み出し方を解明できないと人工意識は作れず人工知能に心を宿すことはできないという主張は納得。人工知能分野における最先端の課題と認識が理解できた。そのメカニズムも含め意識とは何なのか、この未解明の謎に答えが出るのが待ち遠しい。

[ブクログ · ★★★★☆]

茂木さんの研究ど真ん中の話だけあって、人工知能の話とクオリアの話が重なり合って、重厚な文章になっている。
人工知能研究の動向については読みやすいが、肝心のクオリアや意識のパートは一度読んだだけではわからなかった。
繰り返し読んで理解を深めたいと思わせてくれる本。

[ブクログ · ★★★☆☆]

P.107
…外界の事物を直接表現する「感覚的クオリア」と、志向性を内包した「志向的クオリア」がある。

…認識のメカニズムは、感覚的クオリアによって外界の基本的な様子が表現されて、それに対して志向的クオリアで「解釈」や「意味づけ」が行われていくというかたちで成立している。

感覚的クオリア　ボトムアップ
志向的クオリア　トップダウン

空間的志向性

signifié signifiant

意識は生命の「随伴現象」である

コンファビュレーション
口からでまかせの嘘、フィクションを発話するプロセス

[ブクログ · ★★★☆☆]

意識とクオリアについて、人工知能を切り口に説明がされています。クオリアって何かよく分からなかったのですが、現在のAIの抱える問題と対比しながら全編にわたり記述されており、だいぶわかってきたような気がします。クオリアを理解したい人の助けになるのではと思います。

[ブクログ · ★★★☆☆]

漠然としたAIへのイメージでしたが、人工知能を考えるには、人間探求に他ならないとのこと。
確かに、今、この瞬間を感じている意識は自分しかないのだから。

[ブクログ · ★★★☆☆]

ウィノグラード-スキーマ-チャレンジはビッグデータには不得手だけれども、人間は常識でわかってしまう問題文である。これは人工知能と人間では学習法が違うことを表している。

Gpt-2は短文を入力すると、続きを書くことができる人工知能。しかし、入力がないと、何も書けない。これも人工知能と人間の違いをうまく言っている。

独我論者として永井均さんが登場。
いきいき　=　ライプニッツ原理
ベイズ推定　=　カント原理
永井均さんの『私　今　そして神』
に対応している。

永井均さんがベルクソンに興味を持っていた記憶がある。マクダガートの時間論からの入口として。

パーフィットの火星旅行についても、『転校生とブラックジャック』で永井均さんが扱っていた。

興味のある方は永井均さんの本を読むことをオススメする。

[ブクログ · ★★★☆☆]

読みづらい…。思考の過程が丁寧にかかれているのだが、いろんな例を引き合いに出しつつ、話があっちへいったりこっちへいったりしており、「結局なにが言いたいんだろ？」と感じた。

[ブクログ · ★★★☆☆]

難しかった。結局よくわからなかった。
AIについては言葉を知っている人は多いと思うが、その実態について知っている人はどのぐらいいるのだろうか？
クオリアは尚更である。
トロッコ問題、人工意識が生まれて自動制御の場合どうなるのだろうか。命の重さ5対1で？そもそも人間は両方を瞬時に識別することができないような気がするし、車についも最初に視覚にとらえたものを避けようとするのではないだろうか？人工意識は自己学習でどう判断するのであろう。42かな
記憶はシナプスの配列
毎日シナプスが増えているのだろうか？死んでも繋げるモニターが開発されれば再現されるのだろうか