クオリアと人工意識

茂木健一郎

「意識」は「コピー」できるか？
人工知能に「意識」は生まれるか？
茂木健一郎が、自身のメインテーマである「意識」と「クオリア」について、
16年の沈黙を破って書き下ろした、新たな代表作にして問題作！

人工知能の研究の進展が目覚ましい。
だが、人間は、なぜ人工知能を生み出すのだろうか？
その根底にあるのは、自分の「似姿」をつくろうとする本能である気がしてならない。
人間は、その知性を通して、「万物の霊長」たる地位を確立してきた。
そのような人間の知性の一つの究極の応用として、人工知能の研究、開発がある。人工知能の研究には、もちろん、実用的な意義も大きいが、それに加えて人間が自分自身の成り立ちを理解するという意義もある。
人工知能は、私たちの「鏡」なのだ。
その「鏡」の中には、果たして、「クオリア」に満ちた私たちの「意識」もまた、映っているのだろうか？
人工知能をつくることは、「人工意識」を生み出すことにつながっていくのだろうか。
＜本文より＞

☆本書で考察するテーマの一部
〇眠る前の「私」と、目覚めた後の「私」はなぜ同じなのか？
〇私たちは、「ホモサピエンス」（知性を持つ人間）である以上に「ホモコンシャス」（意識を持つ人間）である。
〇物質に過ぎない脳から、「意識」や「クオリア」が生まれてくる不思議。
〇「意識」は「コピー」できるか？
〇「人工意識」をつくることは可能か？
〇人工知能が生成した文章は、「どこにもたどり着かない」？
〇統計的アプローチでは、「意識の謎」の解明はできない。
〇人工知能をめぐる議論に、ときに驚くほど終末感が漂うのはどうしてなのか？
〇記憶を「外套」だとすると、脳は、その外套を引っ掛けておくための壁に打たれた「釘」に過ぎないという考え方。
〇「私」という「意識」は、この宇宙の全歴史の中で一回だけのものであり、一度死んでしまえば二度と戻らないという「セントラルドグマ」は正しいのか？

• カテゴリ: ビジネス・実用
• ジャンル: 学術・語学 / 理工
• 出版社: 講談社
• 掲載誌・レーベル: 講談社現代新書
• タイトル: クオリアと人工意識
• タイトルID: 820053
• ページ数: 384ページ
• 電子版発売日: 2020年07月15日
• コンテンツ形式: EPUB
• サイズ(目安): 3MB

[satoumc · ★★★★★]

脳科学者として名前が売れて以来、脳がらみの雑多な本を出しまくっている著者だが、これは読む価値のあるまともな一冊。意識と知性の関係をクオリアを橋渡しにしてあれこれ検討して切り込んでいこうとしている。人工知能は意識を持ちうるのか、クオリアを持ちうるのか。勿論この短い一冊の中で結論など出ないけれど、この難問にとりかかる知的なきっかけを著者は数多く持っている。
ところでわずか3年前に書かれた本書では、OpenAIのGPT-2の進捗が語られていたが、今ではGPT-4(ChatGPT)が世界をゆるがしている。意識のハードプロブレムが近い将来に工学的に解明されてしまうのではないかという状況になり、本書の議論がますます興味深くなってきている。

＃タメになる

[ブクログ · ★★★★★]

　パスカル曰く、人間は考える葦である。葦のように弱い存在でも、知性を持つから偉大なのだ、という意味である。
　だが、それは人間の勝手な言い分だ。葦からすると、人間はイカれた存在に見えているはずだ。ただ黙々と生きていればいいのに、言葉を持ち、論理を紡ぎ、世界を記述し尽くそうとしてきた。近年は自ら発明したAIに記述能力を追い越されようとしている。自分と同様にイカれた存在であるAIにおびえ、自らの存在価値を見失いかけている。もう一度、葦と同様に持っている身体というAIにない特性を見つめ、自分の価値を考えてみろよーー。
　本書のメッセージを、そんな風に読んだ。
　本書の題にも用いられている「クオリア」という言葉を説明するのは難しい。著者の茂木健一郎氏は「赤の赤らしさ、水の冷たさなど、私たちの意識的感覚を特徴づける質感である」と述べている。「生々しさ」「生き生き」とも言えるものである。
　これが意識の中でどう立ち上がってくるか。私の読書経験からすると、心理学者リサ・フェルドマン・バレットの著書「バレット博士の脳科学教室 7 1/2章」「情動はこうしてつくられる──脳の隠れた働きと構成主義的情動理論」が理解の助けになると思っている。バレット氏によると、人間はまず世界を予測し、感覚器から入ってきた現実のデータでその予測世界を修正している。そうして身体を管理しないと致命的な事態に陥るからだ。そう、パスカルの言うように弱い存在なのだ。
　クオリアは、その予測世界の構築に深く関係していると言っていいだろう。ノイズだらけの外部世界に対して記憶を基に意味を与えるのが「志向的クオリア」で、予測世界を構成する定番パーツが「感覚的クオリア」だ。われわれ人間は、クオリアが立ち上がる強力な圧力を受け続けている。その圧力は、形は違えどおそらく葦にもある。AIには、ない。だから、複雑な計算処理をいくら重ねても、それだけでは意識が生じないはずだ、ということだ。
　AIは、世界を記述する強力な武器だ。そんなものまで人間に発明させて世界を記述させようとする力とは何なのか。それを秩序への力と言うのか。本書の読後に湧いた関心だ。

[ブクログ · ★★★★★]

とても面白かった。人工知能研究の現在。研究者達の考えていること。意識とは。知性とは。生命とは。自己意識とは。自由意思とは。身体性について。人工意識について。興味深い議論満載でエキサイティングな一書。人工知能、馬鹿にしたものでもないし、また恐れることもない、ということが良く分かった。

[ブクログ · ★★★★★]

脳科学の教科書。
情報工学、生物学、文学、哲学などの多面的な知識を交えながら「（自己）意識」を考察する。
クオリアというのは知覚の仕組みのようなものだと思った。
脳は脳でもハードウェアなのか、VHDLなのか、ソフトウェアなのかといったところなのだと思う。

[ブクログ · ★★★★★]

人間性とは何で、私たちは何をもって人間とするべきで、将来的に私たちの手元に残るものは何なのか。

茂木健一郎先生の著書を読む際は、いつもそういう根源的なことを考えさせられる、それがとても心地いい時間だと感じる。

やはり私が読んでも内容の一割も理解できなかったと思うけど、それでもすごく面白かった。

これから生活に人工知能が馴染んでいく様子を想像すると恐ろしくもあり、けれども何がどう変わるのだろうという単純な好奇心も湧く。

茂木先生はよく「日本語の情報だけでなく、英語の情報もインプットして」ということを言っているように思う、本当にそれが大切なのだと思う…結局私はまだ英語には着手してないけど。

この人の知的好奇心を見習いたい。

[ブクログ · ★★★★★]

最新の人工知能の研究を題材にその理論と人間の脳と対比しつつ「意識」についての考察を深めます。やや難解ながらも人工知能の理論と脳科学による考察を合わせた説明によりとても興味深く読み進めることができた。人間の「意識」のコピーあるいはアップロードに関して、以前からモヤモヤしていたところがとてもスッキリした。

[ブクログ · ★★★★★]

著者の16年振りの書下ろし。人工知能、意識、知性、人工意識、身体性、クオリア、自由意志。それぞれの関連を議論する。人工意識には身体性が不可欠となる。身体性とはクオリアか？でも、意識を捉えようとすると、いつまでたってもその実体は掴めないのではないだろうか？

[ブクログ · ★★★★☆]

茂木健一郎の本書での主張は「人工知能の今の研究アプローチでは意識の謎は明らかにならないのでないか？」ということかと思う。

この本の良いところは、人工知能でどこか浮ついた人々を、もう一度、人間の王道に引き戻そうとしているところ。そのために彼は、先人たちを何人も召喚している。彼らが言っていたこと、誤ってしまったこと、まだ続いていること、今見れば真実なこと、何度も代わる代わる呼び出しては語る。

その姿勢に、グッとくる。

[ブクログ · ★★★★☆]

意識とは何なのかということと
命とは何なのかということは
ずっとずっと解決できないでいる気がかりなこと

意識という現象を読み解いたものであるとか
（脳のここがこういう物理的な反応をしているときに意識ではこういう知覚ないし感情が起きているとか、そういう意識と物質の対応関係みたいなもの）、
命という現象を読み解いたものはあるけれど、

意識とはそもそも何なん？
命ってそもそも何なん？
ということについては皆目わからない。

それがわからないことには、
死んだらこのわたしの意識がどうなるか
全くわかれへんやん意味ないやん。

この辺の感覚はどうやら茂木さんと共通するらしく、ペンローズの『皇帝の新しい心』が至る所に顔を出す。この題名を見て若かったわたしは「わたしの知りたいことはきっとこの中に書いてある」と確信を持ちその重い本を買った。だけど、茂木さんのようにその本を読みこなせるだけの頭の出来がわたしにはなかったことから、この本は未だに本棚に死蔵されたままになっている。

余談だけど、本の中で話題になっていた小ネタでわたしが思ったことを幾つか書いておく。
☆AIが意識を持つのはいつなのか？意識を持つようになるのか？
処理する情報量が閾値を超えたら持つんじゃないか、とはわたしも思うが、なんつーか腑に落ちなさが半端ない。意識とはそういうものなのか？という疑念が払拭できない。
しかし一方で、人間に意識があるかどうかは実は外からはわからない（怖い）ということを示した本をつい最近読んだこともあって、機械に意識があるかどうかは実は外からわからないのでは？とも思う（怖い）。
☆脳をAIにコピーすることで永遠の命を得る、ということを考えている科学者がいるそうだが、茂木さんと同じく「それは全く違う！」と声を大にして言いたい。だってDNAが全く同じな一卵性の双子が同じように育たず双子はお互いに相手を別人だと思っているように、わたしの脳をコピーしたAIが出現したとしても、わたしと同じように同じことを考える別人が出現したとしか思えないだろう。それが「わたしという意識」の本質だろう。
☆そういう頭のいい茂木さんが、雑談的にではあるものの、神秘主義的な解決法を持ち出していたのには衝撃を受けた。頭よくても頭のあまりよくないわたしみたいに、そういう考え方をすることあるねんな〜。神秘主義いいよね〜。結局仏教の密教って神秘主義的な行為の行き着いた果を力業でもたらそうというものじゃないん？とわたしは思っている。

[ブクログ · ★★★★☆]

テーマは面白い(興味深い)。
賛同できるかどうかは別にして。特に人口意識は必要か？は意見がわかれるところだろう。暗いところで落とした鍵を明るいところで探す。理由は「明かりがあるから」は、このテーマに限らずあるある。