高橋聡のレビュー一覧
-
Posted by ブクログ
理論物理学者が現在のチャッピーの元祖であるChatGPTの仕組みについて述べた本。著者は、この世の全てが何らかの規則やプログラムで説明できるという説を打ち出し、それに基づいた「ウルフラム・アルファ」システムモデルを開発・運用しているが、その視点から語ったものである。
第1部ではChatGPTの歴史や仕組みそのものを解説し、第2部で著者の「ウルフラム・アルファ」との比較や、両者を使ってうまく使うことを提案している。
ウルフラム・アルファは様々な理論や数式に基づき、正確に回答することに長けているのに対し、ChatGPTは内容の正確性よりも自然な文章になるように特化している。確かにChatGPTっ -
-
Posted by ブクログ
ChatGPTのストラクチャーと作用機構は何となく理解できたが、細かい所になると何が何だか全くわからない。難しいと言うより説明が全く足りてない。
曰く、生成AIとはニューラルネットがヒトの脳細胞と同じように、過去に蓄積した膨大な記憶(LLM)に基づいてニューロンからニューロンへ逐次的に重み付けした情報を渡していき、『次の1語』を順次付け加えているだけ。基本的に『次の1語』は『距離の近さ(=ベクトルの短さ)』で選ばれ、自ら生成した文章が世の中の膨大な文章群に最も近くなるようにしているが、なぜAIがそれを選ぶのかを人間が明示的に理解することはできない。ごく簡単に言ってしまえばこんなところか。
でも -
-
Posted by ブクログ
内容が難解であまり理解できなかったけど、面白かった。
・chatGPTはディープラーニング(人間の脳細胞を参考にしたニューラルネットによる学習方法)でネット上の膨大な情報を学習し作られた生成AI。
・生成されるテキスト文は、シンプルに、インプット(プロンプト)テキストの次に来る確率が最上位のテキストを段階的に割り出して、それを次々と並べているだけ。
・ただし、常に確率が最上位のテキストを並べるのではなく、時折確率が やや高め に留まるテキストを織り交ぜることにより、全体的に単調ではなく創造的なアウトプットになる。(これについては、なぜそうなるのかは解明されておらず、経験的にそうなることがわか -
Posted by ブクログ
正直、言っていることを正確に理解できているのかが、そもそも分からなかった。
もともと馴染みのないフィールドなので、名称や説明内容を、頭の中でイメージ出来ないのが問題だ。
ただこのようなことだろう。
・ChatGPTの思考システムは、人の頭の中のニューロンのようなもの。
・基本的な概念は、ウェブや書籍などから、人が作った文章の膨大なサンプルを集めるところから始まる。次に、「それと似た」文章を生成するようにニューラルネットを訓練する。具体的には、「プロンプト(指令・命令)」から始めて、「訓練に使われたのと同じような」文章を続けられるようにする。
・ChatGPTの内部にはウェブページや書籍など