【感想・ネタバレ】言語学者、生成AIを危ぶむ 子どもにとって毒か薬かのレビュー

川原繁人

生成AIと人間の言語システムには、決定的な違いがある─それにもかかわらず、今、言語習得過程にある子どもたちに「おしゃべりする生成AI」が手渡されようとしている。2児の父でもある言語学者が、切実な危機感を込めて警鐘を鳴らす。

[ブクログ · ★★★★★]

AIに身体がなく、感覚、感情がないことは知られているが、そのことが、おしゃべりアプリを使ったときに、（特に幼児に）どのようなリスクがあるかを論じている。

ChatGPT3を開発するのに、要した電力が排出するCO2量は、人間1人が一年に排出するCO2量（5.5t)の約91倍。

グラフを見て，すごく驚いたが、人口が100人増えたのと同じ効果だとすると、そんなに騒ぐほどのことでもないような気もする。

ジブリ風の絵を生成するアプリ。1回使うごとに、スマホのフル充電分の電力を使う。

→ 生成AIアプリ開発で消費される電力よりも、ユーザがそのアプリを使って消費する電力の方が、無自覚なだけに青天井になりやすいかも。

岡野原大輔　「大規模言語モデルは新たな知能かーChatGPT が変えた世界」　2023 岩波科学ライブラリー

おしゃべりアプリの問題
AIには身体感覚がない。人間はで五感すべてで相手を感知してコミュニケーションを進める。赤ちゃんの発達段階では、五感を全て使うことは特に重要。（発達不全を引き起こす危険性がある）。
「生きるとは手をのばすこと幼な子の指がプーさんの鼻をつかめり」　by 俵万智。ぬいぐるみの鼻の感触、手の動かし方を学ぶ。

AIのハルシネーション（幻覚）
ありもしない論文や判例をでっち上げ、それを元に、質問に回答する。AIが知識ベースではなく予測ベースで動いていることの副作用。

おしゃべりアプリCotonoのハルシネーション
さまぁずのYouTube 動画で紹介されている。10分間にハルシネーション3回。

AI は文章の「意味」は分かっても「意図」は読み取れない。
人間の意図をAIに読み取らせる難しさについて
→ 川添愛「言語学　バーリ・トゥード」東京大学出版会　に詳しい。

意図を類推できないということは、
たとえば主語を省略したような文章を正しく理解できない
ことにもつながる。

ChatGPT40 (有料版)で、会話を試した結果(2025/4-5月)
・いったん会話が終わると、その記憶はリセットされる（覚えていない）。
・突然、使用するモデルが切り替わったりする
→人格が変わったように見えるので、AIと信頼関係を築けない。

リセットされないよう、また同じモデルを使い続けるようにできないのか？メモリーを食いすぎなので現実的でなく、個人情報保護の観点からも、リセットが安全。

言語の本質は、話し言葉（音声）である。
人における話し言葉の起源は，5〜200万年前、一方、書き言葉は5,000年前（ヒエロクリフ）。
現代でも、書き言葉のない言語はいくつもある。
赤ちゃんも、言葉は音で覚える。

声は文字以上に意味を持つ。
文字で伝えられないもの：気持ち、その文章の中のどこを強調したいのか。
(顔写真から読み取れないものと似ている、人と話すとき、相手の表情や声の調子からその時の気持ちを読み取る)

アクセント：単語レベルでの強弱、高低
イントネーション：文章レベルの強弱、高低

声優は、AIに取って代わられる心配はないのか？
NHKドキュメントで紹介されていたユーミンの挑戦、荒井由美と松任谷由実のデュエットはどうやったのだったか？荒井由美の歌声をAIに学習させ、松任谷由実の曲を歌わせる話だったと思う。その方法で、歌に込められた感情を表現できたのか？

[ブクログ · ★★★★★]

生成AIと消費電力の問題は知らなかった。
それが知れただけでも大きい。

自分自身も子育て中である。
さらに、教師でもあるから、
やはり子どもたちと生成AIのかかわりについては注視していこうという意識が高まった。

もっとAIについて学ぼう。

[ブクログ · ★★★★★]

最初から最後まで著者の主張に一貫性があり、ブレずにいてくれるので非常にわかりやすい。
タイトルを読んだだけでも著者が生成AIを子ども(特に乳幼児)に使わせることには反対しているのが伝わるが、それをいろんな視点から考察しているのが非常に興味深く自分も賛成する点ばかりでした。
今後生成AIがどれほど人間に近づくのか未知数ではありますが、今のところ生成AIは不確実な情報を自信を持って伝えてくるというのは自分も実感しているのでその点においてだけでも子どもに使わせるのは違うかなあと思います。
また子どもに対してという点からは少しずれますが、言葉だけでの共感は示してくれるけれどそこには対人間間での共感ならば生じるであろうあたたかさは生成AIからは読み取れないと実感しています。
ロボットなんだから自分の思い通りに応えて欲しいと思ってしまうのも怖いところで、少しでも自分の思ってたのと違う回答が来るとそういうことじゃないんだよと思ってしまう自分がいることがもはや怖い。本当の対人間との会話では相手の回答にたとえ納得がいかなくても、そういう考えもあるんだなと思えるのに。
良くも悪くもAIには期待しすぎてしまい、する必要のないところで失望したり不信感を抱いてしまうのがまた怖いところだと思います。
大人の自分でさえそうなので、まだ感情抑制も知識も未発達で不足している子どもにとっては、非常に不安定な存在なのではないかとも思います。
とにかくいろんなことを考えさせられるし、なるほどなあという視点もたくさんあり、とても勉強になりました。

[ブクログ · ★★★★★]

生成AIとおしゃべりアプリそしてスマホについて。気鋭の言語学者が子供の言語取得の害がないかを考察する。
驚くべき速度で進化する生成AIは人間の代わりになるのか、直感的な疑問について筆者は真摯に検証している。
新たな技術は新薬と同様、思わぬ副作用もあるかもしれない。
既にスマホ、生成AIなしでは生きられない我々、便利さと裏腹な害について、もっと考える必要があることだけは間違いない。

[ブクログ · ★★★★★]

僕には子供がいない。だから子育ての大変さはわからない。けど、そういうときになったら、子供に対して安易にスマホを与えないようにするためにも読み返すべきだと感じた。(あるいは子育て中の方には読んでもらいたい内容だと思った)

本書でも論じられていたけれど、AI自体というよりかはスマホ自体が子供(乳幼児レベルから)に与える影響について誰もわからないという点がこわいなと思う。

スマホを子供に与えることを『臨床試験を経ていない新薬を小児に投与する』と例えている点は、まさにその異常さを表していて、世界レベルで人体実験を行なっているという強めの表現になるのも納得できる。

スマホなしで生活するのが難しいからこそ、付き合い方をしっかり考えないといけない。スマホに依存しすぎないように個人レベルで工夫していきたいところ。

[ブクログ · ★★★★☆]

前著の評価が読まれたかのように、打って変わって大真面目な本となった。
それはさておき、AIと子育てに関する危機感を、強く、でも論理的にまとめた内容となっていた。これはともに子育てをする人（パートナーだけでなく、同じ世代の人）とも議論をして、考えていかなければならない。
言いたいことが溢れていて、AIだけでなくSNSやスマホの話にもなっているけれど。

[ブクログ · ★★★★☆]

生成ＡＩに興味があるので読んでみた。

前に同じ著者の本を読んだことがある。
その著者が、ＡＩに批判的な点をどうとらえているのか気になった。

音声学者というだけあって、文字情報よりも音声の言語を重視している。
「文字がない言語はあるけど、音声がない言語はない（手話は音声とみなす）」には納得。

そのうえで、ＡＩおしゃべりアプリの問題点を「感情的な抑揚」「他の感覚を含めた随伴性」「養育者との愛着」という点で否定的な立場をとっている。

「専門家アクセント」は初めて知った。面白い。
マイクのマを低く発音するような。
確かに、その業界感があふれて来て楽しい。

ＳＮＳの広がりの時期と、精神疾患増加の時期が重なっているというのはとても怖い。
他人と比較するのが容易になる「いいね」数という基準が出てきしまったのも恐ろしい。

[ブクログ · ★★★★☆]

子ども向けのおしゃべり生成AIというものが開発されているらしい。それへの危機感から書かれた本書だが、それ以外にも生成AIと人間の言葉の処理の仕方の違いなど、周辺のことがよくわかり、自分なりにどう向き合えばいいのかを考えるための材料が得られたと思う。
学者なので、著者個人的には否定的な意見を持ちつつ、できるだけ公平に議論を進めようとする書き方にも好感を持った。

生成AIとおしゃべりを続けた子どもが、生成AI言語と人間の言語のキメラのようなものを作り上げてしまう可能性、
生成AIの即応性や、何を言っても決して傷つかない感情のなさに慣れてしまい、人間とのコミュニケーションに支障をきたす可能性、
生成AIとの付き合いが多いニアリーイコールスマホの使用が多い、ということで、子供とスマホの関係など、
心配な論点がいくつも提示された。
最後の方に、車だったら国が品質や使い方のガイドラインを設けているのに、スマホは保護者が全て責任を持って管理しないといけないいうのがフェアじゃない、という話、全くその通りだと思う。

子供の脳はまだ発達途中であるということを考えても、スマホや生成AIへの曝露は慎重にならなければならない。。わかってはいるけれど、子育てしていたらなかなか難しい。。

[ブクログ · ★★★★☆]

ものすごく平たく言えば、言葉はコミュニケーションツールなのだから、人間同士のコミュニケーション現場でしか獲得し得ないでしょう、ということですね。それはその通りだと思うので、本書に賛同します。
日頃ぼんやりと感じていたことが、研究者の情報提供（研究結果）で裏付けられたことが有り難い。

[ブクログ · ★★★★☆]

AI関連の技術書だと、技術者視点で論じた内容になるので、本書の用に別の専門家視点で論じられているのは面白い。新書ならでは。

[ブクログ · ★★★☆☆]

生成AIおしゃべりアプリを、無造作にまだ幼い子どもに与えていいのかという素朴な疑問を、切々と訴えていた。
私も、まだ未知数で扱いきれないものを、簡単に成長途上の子どもに与えてしまうことには不安がつきまとう。
スマホ育児をしてしまったかなという私自身の反省とともに、自分の子どもにスマホを買い与えるのはもう少し先にしようと思った。