宮田晋次のレビュー一覧

騙されるＡＩ 「不可解なパートナー」人工知能との付き合い方

宮田晋次

リアル本にて。
コーチャンフォー若葉台店にて購入。
脆弱性診断を生業とする著者が、生成AIのリスクを多角的に紹介しており、とても勉強になった。
生成AIのリスク・つきあい方において重要なのは、自然言語コミュニケーションに対する柔軟な想像力と、特定の何かだけで安易に対策完了とすべきではない（原理的にできない）ことを念頭におくことだと、本書を通じて考えた。LLMは自然言語を介して処理を行う。そのため、そのリスク・つきあい方は、自ずとソーシャルエンジニアリングや詐欺のそれに近いものになる。
一つ一つのトピックは数ページにまとめられていて軽く読める一方で、そのトピックのベースとした論文のQRコードが記載されていて、リアル本であっても簡単に原典にあたれるように配慮されていることにも、好感がもてた。

騙されるＡＩ 「不可解なパートナー」人工知能との付き合い方

宮田晋次

アプリや業務システムの脆弱性診断の仕事をしている人が書いた本。
AIが通常では回答しないようにプログラムされていること（爆弾の作り方など）に対して、悪意を持って、意図的な質問を投げかけるなどして操作することで、AIは騙されて回答してしまうことがあるなど、AIの脆弱性について書かれている本。

騙されるＡＩ 「不可解なパートナー」人工知能との付き合い方

宮田晋次

AIが意図してない返信をするパターンが集められている。作る側も使う側も一読した方がいいかもしれない内容。