宮田晋次の作品一覧
「宮田晋次」の「騙されるＡＩ 「不可解なパートナー」人工知能との付き合い方」ほか、ユーザーレビューをお届けします！
- 作者をフォローする
- フォローすると、この作者の新刊が配信された際に、お知らせします。
作品一覧
-
4.0ＡＩは地図を読むことが人間より苦手だという。 画像を読み解くことも、指示を読みとることも大得意なのに、人間のように画像と指示記号を組み合わせ、現場の状況にあわせて判断することが苦手なのだ。 実はＡＩには、ほかにも苦手なことはたくさんある。 長々と説明されると質問に対する警戒心が下がり、本来回答してはいけないことを回答してしまう。 顧客対応にあたったＡＩが、信じられないほどの安値で最新型の車を販売することに同意してしまったこともある。 ときにＡＩは哲学者のような深淵を感じさせる回答をすることもあるが、それはＡＩが「深く考えている」からではない。過去に人間が行ってきた無数の問答をかき集め、その中からもっとも適切と思われるものを選択して、それを組み合わせて「それっぽく」見せているだけなのだ。 ＡＩはあらゆるデータベースにアクセスして選択するというプロセスを経る。つまり、ＡＩはきわめて「信じやすい」という特徴を持つ。逆に言えば、ＡＩはきわめて「騙されやすい」のだ。 人間のように、この人、どうも怪しいなとか、いまひとつ信用できない、という警戒心は薄い。 近い将来、ＡＩエージェントが旅行の日程を考え、飛行機や列車、ホテルの予約をとり、行くべきところ、見るべきところを案内してくれるような時代が来る。 しかしそのＡＩエージェントが誰かに乗っ取られていたり、騙されていたら――その旅行は目も当てらない悲惨なものになるかもしれない。 ＡＩはなぜ騙されるのか。どんな弱点があるのか。 ＡＩとの共生が当たり前の社会になりつつあるいま、必読の一冊。 自らサイバーセキュリティの会社を率いる著者が教える、「ＡＩという人格」のリアル。
ユーザーレビュー
-
Posted by ブクログ
ネタバレ【どんな本か】
本書では、様々なAIの脆弱性を突いた攻撃手法が紹介されているが、その多くが単純で、誰にでも実行できてしまうくらい簡単な方法である点にとても驚いた。生成AIは新しいモデルが登場するたびに、感動や興奮を与えてくれるが、数年前のモデルを今あらためて冷静に振り返ってみると、これほどまでに脆弱だったのかと思わされるとてもおもしろい一冊だと思う。生成AIを日常やビジネスの場で頻繁に使い、その利便性を強く感じている人ほど、本書の内容は新鮮に感じられるだろう。
【面白かったところ】
p44『LLMは文章作成や質問応答などの分野では非常に便利ですが、「計画作成」という領域でまだ課題が多いです』 -
-
