稲原宗能のレビュー一覧

LLMとハルシネーション ―基礎と対策―

橘秀幸 / 稲原宗能 / 髙﨑環 / 福地成彦

私自身はLLMの研究や開発をしていませんが、興味があり手に取りました。不真面目な読者です。

前半の道具立ての説明は、ふむふむと興味深く読みました。後半のハルネーションの基礎と抑制はざっと読みましたが、アカデミア？でも試行錯誤の段階で、まだまだ新しいものが今後出てきくるのではにないか、と感じました。良く言えば現在進行形の検討を紹介、悪く言えば未整理で細かすぎる記述になっていると思いました。専門家には良いのだと思います。

Transformer、位置符号化が紹介されていました。定義は分かるのですが、ニューラルネットワークの中でどのように使われるのか、もう少し知りたいと思いました。拡散モデルにつても、フォッカープランク方程式、ランジェバン方程式の数式を出していました。その心については触れられていませんが、それぞれ学ぶきっかけをもらえて良かったです。

実世界では、意図的にLLMを誤解させて情報操作する情報戦は、今、実際に行われているのではないかと思います。研究者、技術者の視点で書かれているので、LLMの悪用という視点は無かったと思います。セキュリティの視点でのトピックや技術を入れ込むと、今風になるのではないかと思いました。