クオリアと人工意識

茂木健一郎

「意識」は「コピー」できるか？
人工知能に「意識」は生まれるか？
茂木健一郎が、自身のメインテーマである「意識」と「クオリア」について、
16年の沈黙を破って書き下ろした、新たな代表作にして問題作！

人工知能の研究の進展が目覚ましい。
だが、人間は、なぜ人工知能を生み出すのだろうか？
その根底にあるのは、自分の「似姿」をつくろうとする本能である気がしてならない。
人間は、その知性を通して、「万物の霊長」たる地位を確立してきた。
そのような人間の知性の一つの究極の応用として、人工知能の研究、開発がある。人工知能の研究には、もちろん、実用的な意義も大きいが、それに加えて人間が自分自身の成り立ちを理解するという意義もある。
人工知能は、私たちの「鏡」なのだ。
その「鏡」の中には、果たして、「クオリア」に満ちた私たちの「意識」もまた、映っているのだろうか？
人工知能をつくることは、「人工意識」を生み出すことにつながっていくのだろうか。
＜本文より＞

☆本書で考察するテーマの一部
〇眠る前の「私」と、目覚めた後の「私」はなぜ同じなのか？
〇私たちは、「ホモサピエンス」（知性を持つ人間）である以上に「ホモコンシャス」（意識を持つ人間）である。
〇物質に過ぎない脳から、「意識」や「クオリア」が生まれてくる不思議。
〇「意識」は「コピー」できるか？
〇「人工意識」をつくることは可能か？
〇人工知能が生成した文章は、「どこにもたどり着かない」？
〇統計的アプローチでは、「意識の謎」の解明はできない。
〇人工知能をめぐる議論に、ときに驚くほど終末感が漂うのはどうしてなのか？
〇記憶を「外套」だとすると、脳は、その外套を引っ掛けておくための壁に打たれた「釘」に過ぎないという考え方。
〇「私」という「意識」は、この宇宙の全歴史の中で一回だけのものであり、一度死んでしまえば二度と戻らないという「セントラルドグマ」は正しいのか？

• カテゴリ: ビジネス・実用
• ジャンル: 学術・語学 / 理工
• 出版社: 講談社
• 掲載誌・レーベル: 講談社現代新書
• ページ数: 384ページ
• 電子版発売日: 2020年07月15日
• コンテンツ形式: EPUB
• サイズ(目安): 3MB

[satoumc · ★★★★★]

脳科学者として名前が売れて以来、脳がらみの雑多な本を出しまくっている著者だが、これは読む価値のあるまともな一冊。意識と知性の関係をクオリアを橋渡しにしてあれこれ検討して切り込んでいこうとしている。人工知能は意識を持ちうるのか、クオリアを持ちうるのか。勿論この短い一冊の中で結論など出ないけれど、この難問にとりかかる知的なきっかけを著者は数多く持っている。
ところでわずか3年前に書かれた本書では、OpenAIのGPT-2の進捗が語られていたが、今ではGPT-4(ChatGPT)が世界をゆるがしている。意識のハードプロブレムが近い将来に工学的に解明されてしまうのではないかという状況になり、本書の議論がますます興味深くなってきている。

＃タメになる

[ブクログ · ★★★★★]

とても面白かった。人工知能研究の現在。研究者達の考えていること。意識とは。知性とは。生命とは。自己意識とは。自由意思とは。身体性について。人工意識について。興味深い議論満載でエキサイティングな一書。人工知能、馬鹿にしたものでもないし、また恐れることもない、ということが良く分かった。

[ブクログ · ★★★★★]

脳科学の教科書。
情報工学、生物学、文学、哲学などの多面的な知識を交えながら「（自己）意識」を考察する。
クオリアというのは知覚の仕組みのようなものだと思った。
脳は脳でもハードウェアなのか、VHDLなのか、ソフトウェアなのかといったところなのだと思う。

[ブクログ · ★★★★★]

人間性とは何で、私たちは何をもって人間とするべきで、将来的に私たちの手元に残るものは何なのか。

茂木健一郎先生の著書を読む際は、いつもそういう根源的なことを考えさせられる、それがとても心地いい時間だと感じる。

やはり私が読んでも内容の一割も理解できなかったと思うけど、それでもすごく面白かった。

これから生活に人工知能が馴染んでいく様子を想像すると恐ろしくもあり、けれども何がどう変わるのだろうという単純な好奇心も湧く。

茂木先生はよく「日本語の情報だけでなく、英語の情報もインプットして」ということを言っているように思う、本当にそれが大切なのだと思う…結局私はまだ英語には着手してないけど。

この人の知的好奇心を見習いたい。

[ブクログ · ★★★★★]

最新の人工知能の研究を題材にその理論と人間の脳と対比しつつ「意識」についての考察を深めます。やや難解ながらも人工知能の理論と脳科学による考察を合わせた説明によりとても興味深く読み進めることができた。人間の「意識」のコピーあるいはアップロードに関して、以前からモヤモヤしていたところがとてもスッキリした。

[ブクログ · ★★★★★]

著者の16年振りの書下ろし。人工知能、意識、知性、人工意識、身体性、クオリア、自由意志。それぞれの関連を議論する。人工意識には身体性が不可欠となる。身体性とはクオリアか？でも、意識を捉えようとすると、いつまでたってもその実体は掴めないのではないだろうか？

[ブクログ · ★★★★☆]

意識とは何なのかということと
命とは何なのかということは
ずっとずっと解決できないでいる気がかりなこと

意識という現象を読み解いたものであるとか
（脳のここがこういう物理的な反応をしているときに意識ではこういう知覚ないし感情が起きているとか、そういう意識と物質の対応関係みたいなもの）、
命という現象を読み解いたものはあるけれど、

意識とはそもそも何なん？
命ってそもそも何なん？
ということについては皆目わからない。

それがわからないことには、
死んだらこのわたしの意識がどうなるか
全くわかれへんやん意味ないやん。

この辺の感覚はどうやら茂木さんと共通するらしく、ペンローズの『皇帝の新しい心』が至る所に顔を出す。この題名を見て若かったわたしは「わたしの知りたいことはきっとこの中に書いてある」と確信を持ちその重い本を買った。だけど、茂木さんのようにその本を読みこなせるだけの頭の出来がわたしにはなかったことから、この本は未だに本棚に死蔵されたままになっている。

余談だけど、本の中で話題になっていた小ネタでわたしが思ったことを幾つか書いておく。
☆AIが意識を持つのはいつなのか？意識を持つようになるのか？
処理する情報量が閾値を超えたら持つんじゃないか、とはわたしも思うが、なんつーか腑に落ちなさが半端ない。意識とはそういうものなのか？という疑念が払拭できない。
しかし一方で、人間に意識があるかどうかは実は外からはわからない（怖い）ということを示した本をつい最近読んだこともあって、機械に意識があるかどうかは実は外からわからないのでは？とも思う（怖い）。
☆脳をAIにコピーすることで永遠の命を得る、ということを考えている科学者がいるそうだが、茂木さんと同じく「それは全く違う！」と声を大にして言いたい。だってDNAが全く同じな一卵性の双子が同じように育たず双子はお互いに相手を別人だと思っているように、わたしの脳をコピーしたAIが出現したとしても、わたしと同じように同じことを考える別人が出現したとしか思えないだろう。それが「わたしという意識」の本質だろう。
☆そういう頭のいい茂木さんが、雑談的にではあるものの、神秘主義的な解決法を持ち出していたのには衝撃を受けた。頭よくても頭のあまりよくないわたしみたいに、そういう考え方をすることあるねんな〜。神秘主義いいよね〜。結局仏教の密教って神秘主義的な行為の行き着いた果を力業でもたらそうというものじゃないん？とわたしは思っている。

[ブクログ · ★★★★☆]

テーマは面白い(興味深い)。
賛同できるかどうかは別にして。特に人口意識は必要か？は意見がわかれるところだろう。暗いところで落とした鍵を明るいところで探す。理由は「明かりがあるから」は、このテーマに限らずあるある。

[ブクログ · ★★★★☆]

人工知能という言葉は聞き馴染んでいたけれど、意識という概念はあんまり深く考えたことがなかった。
意識なくして、知能、知性は扱えないとする考えもあり、それもよく理解できた。
小説を書くAIがあっても、最初の1文を与えないと、続きが書けないなど、答えのないものに対して意思決定をして進めていくことは意識によるものなのだろう。
そう考えるとAIがいくら発達しても、カーツワイルの言うシンギュラリティに達する日が来るとは思えなくなってきた。

ガブリエルさんの言っていた、意識に関しては科学で証明することが極めて困難というのも、茂木先生のこの本を読んで理解できた。

意識はまだまだ未知の領域があり、それこそ人間らしさなのかもしれない。

[ブクログ · ★★★★☆]

論理の組み立てや説明順序に改善の余地が多々ある構成ではあったが、中々に読み応えのある内容だった。
現在のAI研究について、その有用性は疑わないものの、一方で統計的アプローチ万歳の傾向に警鐘を鳴らす。意識やクオリアは統計的アプローチでは解析できず、「今ここ」の身体性に立脚した新たな数学的アプローチの開発を待つべきと主張するが、本書ではその数学的アプローチの概略の提示もないのが残念ではあった。
人間は倫理を敢えて突き詰めずに身体性を前提とする直感で判断することにより自我の崩壊を防いでいるという説や、覚醒時は心理的な「今」がオーバーラップすることで意識の連続性が担保されているのに対して睡眠前後では連続性が途切れるために状況や記憶の同一性から統計的に同一の「私」であることを推定しているだけに過ぎないという考え方、コンピュータへの精神のアップロードは自然現象たる意識を情報の同一性だけを頼りに本来的には写像に過ぎないコンピュータ素子の特定の状態によって再現できるとする粗雑な議論であるという考え方などが斬新であった。
最大の物足りなさは、「意識」や「クオリア」が果たして本当に存在するのかどうかの徹底的な探求をせずに、これらが「ある」という前提で議論が展開されていたこと。