「問題はずばりAIの基本定義にある。機械はその行動がその目的を達成すると見込める限りにおいて知能を備えている、と私たちは言うが、その目的が私たちの目的と同じだと確かめるための信頼に足る方法がない…ならば、こんな定義はどうか。《機械は、その行動が私たちの目的を達成すると見込める限りにおいて、有益である》…こうした機械にとって、私たちの目的が不確実になることは避けられない…目的に不確実性があると、機械は意思決定を人間に委ねざるをえなくなる。修正を受け入れ、スイッチを切られることを厭わなくなる。機械は決まった目的をもつべきという前提を取り払うなら、私たちが試みている基本定義を、すなわち人工知能の土台を、一部取り払って置き換えなければならない。ということは、AIを実現するためのアイデアや方式の蓄積という母屋の大半をつくりなおすことにもなる。すると人類と機械とのあいだに新たな関係が生まれるだろう。私はこの新たな関係が、これから数十年の人類を成功へ導いてくれると願っている」(本文より)全世界で使われるAIの標準的教科書の著者が、安易な脅威論を超え、ヒトとAIの新たな関係を提案する。