ChatGPTは神か悪魔か

落合陽一 / 山口周 / 野口悠紀雄 / 井上智洋 / 深津貴之 / 和田秀樹 / 池田清彦

真のＡＩ革命が到来――
識者たちが予測する未来予想図

落合陽一「人類の知的産業が機械に取って代わられる日まで、あと２年くらいかもしれない」

山口周「ＡＩの価格破壊で『優秀さ』の定義は変わる。高収入の仕事からＡＩに代替される」

まるで人と話しているかのような自然な対応をする対話型ＡＩ「ＣｈａｔＧＰＴ」が話題だ。これまでの人工知能（ＡＩ）とは異なり、学習しながらコンテンツを作成する「生成ＡＩ」の衝撃。教育、ビジネスから医療、恋愛、芸術まで、私たちの生活を劇的に変え得る驚異のテクノロジーの「メリット」と「怖さ」を、論客たちが語り尽くす。生成ＡＩは人類にとって神なのか、悪魔なのか――。

• カテゴリ: ビジネス・実用
• ジャンル: IT・コンピュータ / IT・Eビジネス
• 出版社: 宝島社
• 掲載誌・レーベル: 宝島社新書
• ページ数: 256ページ
• 電子版発売日: 2023年09月27日
• コンテンツ形式: EPUB
• サイズ(目安): 1MB

[ブクログ · ★★★★★]

総じるならば、この本と対話できる人は面白いと思う。
7名の著者がおり、それぞれの見解を論じているわけだが、その見解に同意、非同意、一部同意がでてくると思う。
その対話をすること、すなわち自分の頭で考えることが大事なのではないかと思う。

ただ本のタイトルがChatGPTは、になっているのに幅広に捉えて論じてたりしていてそれはそれで趣深い。
個人的にはAIと包括的に論じるのはいささか軽薄に感じる。その意味では大局的にも局所的にも論じる落合陽一さんは面白い。ただ、デジタルネイチャー読んでからのほうが良いだろう。

[ブクログ · ★★★★★]

チャットＧＰＴは、道具。どう活用して、自分たちを豊かにしていくか。チャットＧＰＴでできそうなことは学べた。あとは、使い方、手の動かし方を学ぶ必要があると思う。

[ブクログ · ★★★★☆]

ChatGPTについて多くの有識者が、その功罪を説いた一冊。

毒にも薬にもなることがよくわかった。

[ブクログ · ★★★★☆]

タイトルが象徴するように、未知なモノに対しては、どうしても「敵か味方か」を分けたくなる。その後、敵でも味方でも自分と比較して能力を識別する。それは、社会性生物が個の生命を守るための本能みたいなものだろう。ChatGPTに関してもこれ。だからよくある議論は、ChatGPTが仕事を奪う（悪玉説）、でも新規性は無いしハルシネーションもある（悪の弱点）、故に最終判断や更に創造的な活動は人間が担う（正義は勝つ）みたいなパターン化したもの。そういう話でも良いのだが。

何冊か読んできて、そこに書かれている内容では無いが、私の思考は次の通り。今のAIの弱点は、ある段階の哲学や価値観によるものである事と、個人や集団固有の情報がデータベースに含まれない事による限界がある事。そこで導く回答には普遍性はあるが、先鋭性には上限がある。それでは、という事で企業情報を組み込んでオリジナルなAIを育てるには、データベース量が足りない。だから、企業オリジナルな活用では、未だあまり使い物にならない。

具体的には、あるマーケットの最適解を求めるには競合A社と競合B社の情報が格納されて初めて、ある程度、正確な回答ができる。しかし、相互に秘匿情報であるために現実にはそんな事は起こり得ない。あくまでA社はA社の少ないデータベース＋ノーマルAI、B社はB社の範囲でしか考えようが無いのだ。いつかAIが全能になっても、しかし、この構図である限り全知にはなり得ない。

加えて「悪用を制限する」ためには、悪を規定する必要がある。これは、ChatGPTよりもdeepseekだと分かりやすいが、共産主義批判は悪なのである。つまり、私にとっての悪が、あなたの正義である可能性だってあるのだ。

そうなると、使い手の価値観や企業秘密により、AI自体が個性をもち多様化はしていくが、それが融合しなければ、AIは全知全能になり得ない可能性があり、それが唯一可能なのはAIを統制するものだけだ、という事になる。それってヤバいじゃん、みたいな話だ。

しかし、100年後の未来を考えて、10年後に犠牲が必要だ、みたいな最適解がAIに導けるか。悪用の制限機能はリスクを伴う判断においてはフリーズする。彼らはあくまで優等生だ。逆に、制限の解除方法こそ人間側のトリアージ次第だから、それは全知全能じゃなくても出来る話にしかならない。例えば世界平和にはやはり妥協する国や人間を選択する必要があるが、その選択にAIは機能しないという話。ある国を悪にするか、しないか。その際ある国の情報は、企業秘密と同じ状態だ。AIを統制するものは、ソレと分かりやすいので、訴えられるか予測可能行動となって機能しない。怖いのは国だ。国の暴走をどう制御するかは、AIに限らず常に課題ではある。

そういう世界でのAIは、果たして悪魔だろうか、神だろうか。〝あなたにとっての片手落ちの神は、私にとってあなた同様の悪魔である“としかならない。

落合陽一の論説は面白かった（上述とは無関係）。他は、若干、冒頭に言ったパターンに寄っていたような。

[ブクログ · ★★★★☆]

流し読み。AIによって脅かされるのはブルーカラーではなくホワイトカラーなのは視点が欠けてた。
GPTといい付き合いができたら生産性の良いこと、時間かけて考えたいことに回せられることは非常に大事。

[ブクログ · ★★★★☆]

落合陽一氏をはじめ、他の著名で学識の高い人たちがChatGPTについて論じている一冊だが、落合陽一氏が圧倒的に先を行っていて他を周回遅れに引き離しているというか、他の御仁達と次元が違い過ぎて面喰った。

落合氏の研究・活用実績の充実度、現在進行形のアプローチの深度、そして大局的見地からの抽象度の高さが群を抜いていてインパクトが非常に強いだけに、2章以降が補足や前置きのような形になってしまっている。ただ僕は率直にそれぞれの意見に興味深い点や参考になる点があったので、総合的に見ても面白い本だった。

微分可能オントロジーとしてのポテンシャルを活用したり、共感覚が如くマルチモーダリティを活用したアウトプットを生み出そうとすると、ChatGPT単体として使うのでは足りなくて、LangChainやLlamaIndexやプラグインを活用したり、組み合わせたり、エンベディングのチューニングなどが必要となるため専門家でないとまだ厳しい。

とはいえ日々新しいサービスが生まれているため、自分なりの目的を持って新しいサービスを常に探し続ければ自分の生活を飛躍させるような出会いがきっと見つかるだろう。

「論文を書いているうちに新しい論文が生まれる」ほどのスピードなのだから、もはや全体像を把握できなくなっている。個人的にこれはもう充分シンギュラリティと呼んでいいと思う。

本書のタイトルに立ち戻ると、「ChatGPTは神か悪魔か」というものだが、本書で皆さんがいうようにChatGPTは使う人によって神にも悪魔にもなる、というのが結論だ。
見る人、活用する意思、自分で考える力の有無。こういったものによってChatGPTが素晴らしい相棒や先生になることもあれば、それを使う者に振り回されて職を追われたり恐怖を抱いたり支配されてしまう人からは悪魔と見える。

二極化が進むのはかなり確度が高く思われる。

少なくとも「何が起きているか分からない」では遅いし、文句すらいえない。使ったことがない人、知らない人は、少なくともこれ一冊くらいは読んでおく方が、実用面でも心理面でも有益だろう。

[ブクログ · ★★★★☆]

土岩さんが貸してくれたやつ
4時間くらいで読める

落合陽一はマジで何言ってるのか分からなかった。
山口周は毎度面白い

職業って、271種類くらいなんだな。
ここ50年で亡くなった職業はエレベーターガールだけ。

無意味な命題について「正しいか正しくないか」議論するのは時間の無駄

月野探査船に人間を載せるべきではないに対し、
「人間は非線形処理のできる最も安価なジェネラティブ・コンピューターシステムであり、その重量は70kg程度と非常に軽い」と返した
ジェネラティブ＝生成力のある
つまり、「情報処理システムとして非常に軽くてしかも安い」

今の優秀な人って→ようは「正解を出すのが得意な人」
量販店で売られるとなれば高くても50万円。
偏差値の高い人を雇おうとすると500万円。
１日に8時間で週５
AIは365日24時間
40：168でしかもコストは1/10つまり生産性は40倍。

逆にAIが苦手なのは「フレーム問題」
いま、この状況で、この企業にしか通用しない という側面を持つような問題
人間が得意なヤツ。

中央値が好きな日本人。
中央値＜＞外れ値
日本軍、欧州で一般的な戦略論の模範的な意図である。
でもこれではマズい。
「相手が予想もしない、驚くべき、想定と全く異なるような発想でいて、大局的に見た時に合理性がある」戦略を取ることが望ましい
日本人にとってはつらい時代に突入することになるのかもしれない。
日本人は中央値が好きで、中央値で戦うことに安心するところがあるからです。
chatgptの登場によって、「中央値の戦略」がコモディティ化する。サウスウェストが実践したような「外れ値の戦略」が競争優位を生み出す。
思考の粘り強さと精神的タフネスが求められる。
「戦略には意外性が必要。意外性の無い戦略は先着とは言わない。」「他者から見て大胆と思えるような行動こそ未来を切り開く」
「あたしにはその勇気が～とか胆力が～」などと弱音を吐く人が少なくないが、
「勇気の話」「胆力の話」に逃げるような話じゃない。
胆力があるように見える人は、考え抜いた結果としてこうすれば必ずうまくいくはずだという信念をもち行動している。実際には彼らなりの勝算があって動いている。
そこでリベラルアーツなぜならリベラルアーツとはまさに「思考を束縛するものからの自由＝リベラルになるための技術＝アート」だからです。
人間に残された最後の仕事は「飾ること」byウィリアムモリス
極論、もり１すいわく「生きることは飾ることだ」

生産性と言う意味ではCHATGPTの活用は不可避
事業部の経営にどう活用していくか
情報のサイロ化
企業の情報をデータベース化を急ぐべき
原理的にはどんな企業でもデータドリブン経営が可能となった。それを活用できる企業は業績をどんどんｎ上げていく一方で、変化に対応できない企業の末路は悲惨なことになりかねない。
現在、生成AIの利用法はもっぱら文章作成の効率化に重点が置かれているが、生成AIの持つ可能性はそれよりずっと大きい。
API連携を行って独自の仕組みを作れば用途は大きく非ウロがるはずである。
APIの利用契約を結び、自治体向けビジネスCHATサービスを導入して職員が利用できるようにした。
CHATGPTをより広い範囲で活用するには、「自社のデータベースとGPT-4をWPI接続する」


AIブームによって、文系的な仕事としては
AIソリューションプランナーのような仕事が有望視される
開発者と企業の橋渡しをするような役割を担う人材です。
こういうアイディアは現場の仕事が分からなければ出てきません。こうした現場の声をまとめてアイデア西、開発者に提案していくAIソリューションプランナーのような仕事は重要になっていくはずです。
※人減らしのできないAIに価値はありません。

また、今のところAIには意思のようなものがありません。


chatgptは手前の分に、確率的にありそうな続きの文字を繋げているだけでり、真の意味での知性は持っていない

横須賀市のchatgpt活用の取り組みがアツい、らしい。
（世界を驚かせた行政らしからぬスピード感）


誰も高齢者を消費者としてみていない。金持ってるのに。

最後の二人厳しいｗｗｗ

池田清彦、おもしろいな。
他人に迷惑をかけない限り何をやってもよいと説く生物学者の池田清彦さん（72）は、最も過激なリバタリアン（完全自由主義者）を自任する。
道徳の押しつけを嫌い個人の自由を尊重するリバタリアニズムに傾斜
「なぜ虫を採るのか」とよく聞かれます。「物事にはすべて意味がある」という考え方をする人が多くて困ります。意味を考えるのはホモサピエンスがかかる最も重い病気です。無意味な存在を許せなくなり、排除したくなることもあるからやっかいです。誰の役に立たなくても、人にはしたいことをひたすらする自由があります。
同調圧力から外れた少数派をたたく空気が強まっています。多数派の立場から「自粛しないヤツはけしからん」と同調を強要することに喜びを感じる「自粛警察」は、震災後の空気によく似ています。多数派に身を置いて「絆を大切に」とか誰も反対できない正義を声高に言う人は信用できないんです。

「相手のことを理解しましょう」というのも反対しにくい言葉ですが、これは、理解できなければ排除しても構わないという考え方と紙一重です。理解できなくても人それぞれでいいではないですか。ルールを守りさえすればうまくいくというコンプライアンス至上主義は、基本的に生物学とは相いれません。
ルールやマニュアルがないことにどう向き合い、同値会書していくか、それが人間の大きな価値だよね。

読んでてワクワクしてきた。
outlookに眠る大量の文章・メール・添付資料は
データになるよなぁ。それを全部学習させちゃいたいよな。

[ブクログ · ★★★★☆]

一冊を手にし、心がざわつく感覚。AIの未来に関する識者たちの深遠な議論に完全に引き込まれた。特に和田氏の“政治家よりAI”という斬新な提言には目からウロコ。生成AIの持つ可能性とリスク、私たちが直面する未来は神の恩寵なのか、それとも悪魔の誘惑なのか。読んで、自問自答を繰り返した。

[ブクログ · ★★★☆☆]

2023年末に出た、ChatGPTのこれからを論じた本。
1年経ってみると、日常的に使う人とほとんど使わない人に別れてしまったなと言う感じ。ハルシネーションや知識が不足している話については、1年経った今も状況はあまり変わらない。というかこの時点でGPT-4まで出ており、2024年末現在ではo1 Proなので想定できる範囲の進化だなあと感じる。
内容は、ベーシックインカムと絡めて論じている人が複数人いるのが今となっては懐かしい。初期は仕事が奪われるというところからこう考える人が多かったイメージ。初期の粗削りな議論を見て理解できる今にこそ読むのがおすすめです。

[ブクログ · ★★★☆☆]

同じ題材に対して、やはりその人の個性というのが、それぞれの文章に出ていて面白かったです。
上から目線で言えば、示唆深いと思えるようなものあれば、浅いなと思ってしまうようなものもありました。