チャットＧＰＴvs.人類

平和博

「人間」と「機械」を区別できなくなる？
子供（教育）から大人（ビジネス）まで、我々の日常生活を根底から変えるテクノロジーの「すごさ」と「危険性」を知るための必読書。

はじめに──「人間」と「機械」が見分けられなくなる
1 愛を告白する
2 チャットＧＰＴとは何か？
3 学校が戸惑う
4 「もっともらしいデタラメ」が広がる
5 メディアがＡＩに頼る
6 6割が見分けられない
7 ＡＩがメディアを評価する
8 「犯罪者」を捏造する
9 備えるべき5大リスク
10 「悪の凡庸さ」と「知性」
11 「頭脳」をつくるデータの正体
12 ＡＩは「意識」を持つのか
13 日本と世界、社会とＡＩ
終章 100年後からの視線

• カテゴリ: 小説・文芸
• ジャンル: ノンフィクション / ノンフィクション・ドキュメンタリー
• 出版社: 文藝春秋
• 掲載誌・レーベル: 文春新書
• ページ数: 224ページ
• 電子版発売日: 2023年06月20日
• コンテンツ形式: EPUB
• サイズ(目安): 1MB

[ブクログ · ★★★★★]

AI使ってると「この子、またこっちが提示している条件忘れて、人じゃないんだから覚えておいてよー」と感じることがあったけど、それが一般的認識だと別の本で知ったが、その名前が「破滅的忘却（catastrophic forgetting)」というカッコいい名前だと知ってテンション上がった。
他にも幻覚でできて実際に人に影響があった例（いいことしたのに、逆に悪いことしたことになっているとか）
開発者すら、AIに心があると空寒くなった事例
などなど非常に興味深かった。

[ブクログ · ★★★☆☆]

生成AIをいかに使いこなすか

つい先日まで仕事やプライベートで使っているイメージはありませんでした。しかし、その便利さを知れば活用しない手はないといまは思っています

いろいろな恐怖や問題点が書かれていますが、現時点では自分がリテラシーを持ってどのように使いこなすのかが大事なのではないかと改めて思いました

[ブクログ · ★★★☆☆]

AIがハルシネーションを起こすのは前からの事だし精度が上がっても起こる事ではあろう。各分野についての影響が書いてあり分かりやすい。ワザとだろうが極力難しい内容には触れない様にされている。
プライバシー辺りについては懸念すべき事項でそのうちクレジットカードをAIに解析される事案が出て来る様な気がする。

[ブクログ · ★★★☆☆]

チャットGPTとは何か、何ができるのか？
大量の情報収集や整理が出来るが、道徳がないためフェイクニュースなどの情報も取り込んでしまい、自らもっともらしいフェイクニュースを作り出してしまう恐れがある。
参考文献も実在しないものも回答するようだ。
とはいえ、今後ますますチャットGPTの精度が向上し、頼らざるを得ない状況になると思われるが、最終的には自らが様々な情報から正しい判断をする事が大事だと認識した。

[ブクログ · ★★★☆☆]

多くのAI解説本やニュース記事で読んだ情報のうち、AIの脅威についての言説を一冊にまとめたような一冊。多くの知識人の発言や数値が紹介されているが、著者による新しい発想や興味深い発言は見当たらない。
主張としては、AIの恐ろしさをこれでもかと集めたことに表れているが、それ以上に受け取るものは残念ながらなかった。
AIの開発や進展の速さは、こういった本ですら置いてけぼりにするほどのスピードということだろう。

[ブクログ · ★★★☆☆]

AIについて勉強するとか、チャットGPTを使って何かやってみようという内容ではありませんでした。

生成系AIの登場で世の中にどんなことが起きているのかを知り、これからどんなことが起こるのかを考えてみようって内容でした。

[ブクログ · ★★★☆☆]

chat GPTが世の中に出てきて約半年、広まり方のスピードは驚異的。仕事でも活用方法を検討しており、勉強のために読んだ。機能的な事よりも、各業界での受け入れられ方、影響について俯瞰的に知る事ができた。あと半年もすれば更に広がりが出てくると思うので、またバージョンアップしないといけないとも思った。

[ブクログ · ★★★☆☆]

想像の範囲は超えなかったかな…
結局のところ、日本は、世界はAIに対してどう振る舞うべきなのか？の肝心なところが、一般論と変わらない。正しい正しくないではなく、筆者の主張が聞きたいところ。

[ブクログ · ★★★☆☆]

生成AIのしくみとリスクについて概説されている。
印象的だったのは、これまでのIT技術はキュレーションとレコメンドが軸だったが、生成AIによって自動生成とパーソナル化が主軸になり、フィルターバブルがさらに先鋭化し、真空パックのように自分の望む情報だけに包まれる社会になるのではないかという予想。
大規模言語モデルは、結局は大量のテキストデータを学習して次の単語を予測するモデルであるため、個人情報や機密情報が学習データに含まれるとこれが回答として出力されてしまうリスクや、誤った情報の回答を生成するリスクが常に存在するという顕在化している問題がある一方で、ニックボストロムが言うように、既にある種の部分的な意識が生じている可能性がある（そもそも意識とはオール・オア・ナッシングのものではない）との指摘も留意する必要があると感じた。