ジョエル・リーマンのレビュー一覧

目標という幻想 未知なる成果をもたらす、〈オープンエンド〉なアプローチ

目標は、本当に探索を導くのか

本書が問うているのは、目標を持つことの是非ではない。むしろ、現在設定している目標や評価基準が、未来においても価値を測る正しい物差しであり続けるという前提こそが「幻想」なのではないか、と読める。

目標を設定すると、探索は効率的になる。しかし同時に、その目標から外れたものを「失敗」「無駄」として捨ててしまう。ところが、未知の価値は、現在の評価関数では価値がないように見える場所から現れることがある。

「進化する」と「良くなる」は同じではない

本書の自然進化に関する議論を読みながら、「進化」という言葉そのものにも注意が必要だと感じた。進化には、あらかじめ定められた「より良い状態」があるわけではない。環境との相互作用の中で、ある形が残り、別の形が消えていく。

つまり、進化したことと、良くなったことは同義ではない。「良い」という評価には、必ず何らかの観点が入り込む。観点が変われば、同じ現象の意味も評価も変わる。

発見とは、既存のものに新しい意味を与えることかもしれない

本書で扱われる発明や創造の事例を考えると、まったく何もないところから新しいものを作るというより、既に存在していたものを別の文脈に置き直すことで価値が発見される場合がある。

電子レンジも、付箋も、既存の現象や技術そのものが突然変わったわけではない。変わったのは、それを見る観点と、それを結びつける文脈だった。

同じ現象でも、ある文脈では事故になり、別の文脈では発明になる。ここに「意味」の生成がある。

「試してみることに失敗はない」の意味

この考え方は、以前読んだ『仕事は楽しいかね？』の「試してみることに失敗はない」という言葉ともつながった。

もちろん、現実には損失も事故も失敗もある。ただ、当初の目標と一致しなかった結果を、その時点で「失敗」と確定してしまう必要はない。

結果を観察し、「これは何なのか」「この結果から何が見えるのか」と問い直せば、それは次の探索への足場になる。失敗を成功に読み替えるという精神論ではなく、評価のタイミングを後ろにずらす発想である。

AIは何を探索しているのか

本書をAIの観点から読むと、さらに興味深い。執筆当時のAI研究には、与えられた目的関数に対して、より良いアルゴリズムや解を探索するという発想が強くあった。本書は、そこに「そもそも目的関数を固定してよいのか」という問いを突きつける。

現在の生成AIやAIエージェントは当時とは大きく異なる。しかし、「何を探索するのか」「何を良いと評価するのか」「何を捨てるのか」という問題は残っている。

AIは評価関数を与えられれば、それを使って驚くほど高度な探索ができる。一方で、その評価関数そのものを誰が、どのような観点から生み出すのかという問題は別に残る。

オープンエンドネスとは、目標がないことではない

ここまで考えると、オープンエンドネスを「目標を持たないこと」と理解するのは少し違うと思う。

局所的な目標は持ってよい。目の前の問題を解いてもよい。ただ、その結果によって問題そのものの見え方が変わり、新しい問いが生まれる余地を閉じない。

問題を解く。
結果を見る。
解釈を変える。
新しい問題を発見する。
そして、また探索する。

この循環そのものがオープンエンドな探索なのだろう。

「目標という幻想」が残したもの

本書を読み終えて、目標を捨てようとは思わなかった。むしろ、目標を「暫定的な評価軸」として扱う必要があると感じた。

私たちは、現在の目標を未来の価値を測る物差しだと思い込みやすい。しかし未知のものを探索するなら、その物差し自体が変わる可能性を残しておかなければならない。

目標が幻想なのではない。現在の目標が、未来の価値まで正しく表現していると思い込むことが幻想なのだ。

そしてこの視点に立つと、「考える」とは答えを出すことだけではなく、何を問題とし、何を価値あるものとして見るのか、その観点そのものを更新し続けることなのだと思う。

目標という幻想 未知なる成果をもたらす、〈オープンエンド〉なアプローチ

野心的な課題を解決するためには目標は不要だということを主張する本。
しかしながら短期的な実現可能性が高い目標については持つことはの有用性は説いており若干矛盾を感じる。

私としてはスティーブ・ジョブズの言うコネクティング・ドットの考え方の方がしっくりくる。
目標という概念にとらわれず、いろいろなものを試してそれを後から拾い上げてつなげる。それがこの本でも述べようとしていることではないだろうかと思った。

より遠くへ歩こうと試みたロボットよりも、新規性のある行動をただ繰り返して試みたロボットのほうが、より効果的に歩行を習得できたとか、迷路を攻略するのも、出口に近づこうとするよりも、新規性のある行動を繰り返す方が、迷路への出口を偶然発見する確率が高まったというのも興味深かった。

また、第11章の目標とAIの探究は興味深く読んだが、今から1年前のAIの状況を前提にした考察は、やはり現時点でAstralやFableが来ている世の中ではちょっと議論が追いついていない感じがする。
この著者による、今現時点でAGIとも呼ばれているAIを前提とした、議論を読みたいと思った。

目標という幻想 未知なる成果をもたらす、〈オープンエンド〉なアプローチ

目標は定めない方が大きな成果をあげられる、という考え方は面白いと思った。
仕事でもプライベートでもある程度の目標を作るけど、その逆の視点もあった方が上手く行くこともあるんだろうな〜