少なくとも以下の点で、説明不足に感じた。シンギュラリティーに至るには大きな問題として残っており、大要として受け入れられない。以下不明点①〜③と反論を挙げる。
①意識がコンピュータで実現できるとしているところ。
②ニューラルネットワークの延長では、汎用AIは不可能だが、それに変わる技術。またはその要
...続きを読む件。
①、②:東ロボくんの東大合格未達成のまま終了インプットする単語数、文章数の増加とそれに見合うスペックの環境制約の理由に帰させている。
新井紀子さんのプロジェクト総括で述べた、どうしても越えられないAIの壁的問題の中に、意味のマッピング問題があった。
そもそも各状況を文(各説明変数やその重み付けで出来上がる個々の式、も同義)に落とさねばならないが、状況を画像化できる文(例えば「リンゴが机の上にある」)以外、特に心的描写が関わるものなどは、マッピングできる空間が定義できないとのことだった。
言い換えると相関関係は言えても、意味は分かり得ない。意味がわからない(分かり切れない)ので、統一的な意識、としては定義できない。意識としてカバーできる範囲として、少なくとも汎用AIと言えるだけの分野は、カバー不可能だと言っていた。
ニューラルネットワークに代わる判断に使うネットワークのことも、その萌芽としての例すら、どこにも挙げていなかった。
(7/30 追記)新井さんは、自然言語処理ではマッピングできる理論が無いと明確に述べていたが、汎用的に関数に置き換え定式化する時に、文など言語で置き換えられなければ数式表現も同様に不可能というのは、論を俟たない前提であろう。従って、状況を文に置き換えられることは必須要件とし、それをマッピングする空間がない、理論が無ければ汎用的には意味を捉えられない、といえる。もちろん現在のニューラルネットワークなり、マッピングできる理論を持つネットワークが存在すれば、話は別である。
③様々な社会課題が、コンピュータだからこそ解決可能としているところ。
③:例えばゲーム理論ですべての決定問題が解決可能と謳っているように聞こえた。かなり一般化した民主主義要件を満たしている意思集計メカニズムでも、独裁者の存在を防ぎきれるメカニズムは存在しないと証明されている、アローの一般可能性定理もご存知ないのか、全く触れられていなかった。
好むと好まざるとにかかわらず、アローの定理に従うと個別の評価問題だってどこかで、評価基準間の選択問題に行き当たる。立場が強い人の評価基準が採用されるなど、評価基準が民主的に定まり切らない問題は、大雑把に無視している。