AIは人間の能力を超えられるか?その議論の前に、実はその定義自体が曖昧なことに気が付いてない人が多い。
「人間の能力」がそもそもどういうものか明確に解明されていない。
その状態で、「超える」議論をする点で無理があるのだ。
能力といっても幅は相当に広いと思うが、まずは「脳」で考えてみたらどうなるだろう
...続きを読むか。
人間の脳は様々な仕事(タスク)を行う。
「感じる」というのは、生物として本能のような根源的な機能かもしれない。
思考もする。
もちろん記憶に関することもあるし、計算することもある。
想像することだってある訳だから「人間の脳」と一言で言っても、その指し示す先は様々なことがあるのだ。
果たして、その人間の脳に対し、AIをどういう風に比較させるか。
おそらく、記憶と計算についてはAIの方が人間の能力を遥かに超えてしまっていそうだ。
しかし本当にそうなのだろうか?
単純に「計算」と言ったところで、計算は正確性を求めるだけのものではない。
「大体これぐらい」というのだって、立派な計算だ。
例えばAIが人間の脳のように進化すれば、「大体これぐらい」という計算が出来たりするのだろうか。
計算という中にも、想像力も含まれていたりする。
かつて、星の軌道が解明されていない時に、ニュートンは落ちるリンゴを見て、万有引力の法則を見つけたという逸話がある。
果たしてAIが進化したら、同じように万有引力の法則を発見するのだろうか。
微分積分は?相対性理論は?
AIがこれらを「思い付く」ことが出来るだろうか?
「思い付く」のだから、それらは「思考」ではないか?とも言える訳であるが、どうもこの辺が人間の脳みその複雑なところらしい。
つまり、計算と思考と想像を同時に処理しているのが人間の最大の特長なのだ。
こう考えると、人間の脳が今後正確に解明がされていくかは疑わしいと思ってしまう。
現時点でも解明されている部分は数%ではないか、という意見もあったりする。
この状態で「汎用的に人間の能力を超える」のは相当に無理があると思うのだ。
一方で、AIが全くの役立たずかというと、決してそういう訳ではないはずだ。
現に正しい解を導く計算であれば、どんな桁数であっても、AIの方が人間よりも早く答えを出すだろう。
どの能力がAIの方が得意で、どの能力が人間の方が得意なのか。
そういう事をきちんと理解してAIを上手く使いこなすことがこれからは大切なのだろう。
しかしながら、この加速度的な進化を伴うAIに対し、人間は一体どうやって正しく取扱いをすればよいのか。
その方針をいまだに決められないでいる。
世界中のAI識者がそのリスクについて検証中ではあるが、これといった解答が無いのも現実だ。
AIというテクノロジーを楽観的に見るか、悲観的に見るか。
そもそも初手のアプローチの仕方を変えるだけで、その景色は大きく違って見えてしまう。
本書ではその事例を、思考実験という形で明確に示してくれている。
確かに「囲碁で相手を負かせ」とAIに対して命令した時に、「囲碁の勝敗」だけで答えてくれるとは限らない。
AIが暴走して「囲碁板を凶器にして相手を叩き殺す」ことも「囲碁で相手を負かす」ことになるのかもしれない。
AIがそういう解釈をしないとも限らないということなのだ。
ここはAIに対する解釈として、重要な点を示していると思う。
今のままではAIの暴走は止められない。
それはAIがどういう思考回路でその解答を導き出したのかがブラックボックスになっていて、全く分からないからだ。
自動運転AIに対して「世界中から交通事故をゼロにしろ」と命令をした時に、AIは車も人間も全くいない世界を作り上げようと邁進し出すかもしれない。
AIが世界中の車を破壊し、世界中の人間を殺戮していく。
AIは決して人間を憎まないが、逆に大切にしようとも思わない。
そういう倫理観は持ち合わせないのがAIなのだ。
人間は加速度的に進化していくAIとどういう距離感で付き合っていくべきなのだろうか。
SF世界ではよく出てくる話であるが、もしかしたら我々世代が人間の形をした生物としては最後となるかもしれない。
AIというシステムとデータが暴走し、巨大化し、宇宙に飛び出し、永遠と彷徨っていくのかもしれない。
ある意味でAIの現実を見つつ、未来への視座を高めてくれる良書であった。
現代の一般の人々に本書がもっと読まれてほしいと思う。
(2022/7/23)