【感想・ネタバレ】ＡＩガバナンス入門 リスクマネジメントから社会設計までのレビュー

羽深宏樹

ChatGPTをはじめとする現在のAIは、巨大な便益とリスクを持ち合わせている。有効に活用するために何を心がけ、どのような社会を設計すべきか。京大「人工知能と法」ユニット特任教授を務める気鋭の弁護士が、「AIガバナンス」の現状と未来を語る。

[ブクログ · ★★★★★]

タイトルに「入門」とあるように誰にとってもとっつきやすいよう分かりやすく書いてくれているため、情報工学など理系分野に疎い自分でも読み進めることができた。
初版は2023年。それから3年近く経過しているため、今この本を読むのは有用なのだろうか？と思ったが、読んでよかったと感じている。著者自身がAI進化のスピードが速いことを認識しているため、長い歴史の中で人類が大切にしてきたことを根底に置きながら話を進めてくれているからだ。AIを活用して最終的に目指すのは人類の幸福。その幸福の基盤となるのは、基本的人権、民主主義、経済成長、サステナビリティなどの基本的価値。長い歴史の中で築き上げてきた基本的人権という当たり前を守るためにAIを活用するという発想に今まで思い至ることができていなかった。この考えを知れたことが本書を読んでよかったと感じる一番のポイント。さらに知りたいと思うこともできたため、AIに関してどんどん勉強していきたい。

[ブクログ · ★★★★☆]

>「AIガバナンス」とは何を意味するのか。...本書では、これを以下のように定義しよう。
>
> AIによるリスクをステークホルダーの受容可能な水準に維持しつつ、AIがもたらす価値を最大化することを目的として（①） 、社会の様々な階層においてステークホルダーが行う（②）、規範的、技術的および組織的システムの設計および運用（③）（本書でのガバナンスの定義）

AI のガバナンスについて、企業の観点、国際的な観点、社会的な観点など複数のスケールの課題感が書かれている。さまざまなスケール、立場の組織が連携をしながら環境を整えるアジャイル・ガバナンスの必要性については、共感する。

> 常に今ある制度を疑い、見直しアップデートしていく社会に移行しなければならない。...このアジャイル開発の発想をガバナンスに応用した「アジャイル・ガバナンス」という考え方が、日本を含む世界各国で受け入れられている。（アジャイル・ガバナンスという考え方）

AI のガバナンスではどういった点が論点となるのかがわかる一方、技術的な知識を抜きにしては概念論になりがちな部分もあり、両軸を学ぶ必要性を感じた。

[ブクログ · ★★★★☆]

ソフトローの考え方や、AIリスクの捉え方（AIがもたらすリスクは人間が行う場合も同様であり、AIのリスクを最小限にしてAIがもたらす便益を最大化する）が勉強になった。「入門」とあるように、AIのリスクを体系的に学べるのと同時に、教科書的ではなく社会学的・実践的にまとめられていて面白かったし、退屈しなかった。

[ブクログ · ★★★☆☆]

AIのリスクは、技術的リスク(完璧なAIは作りえない)、社会実装上のリスク(プライバシーや権利上の社会的問題)がある。学習データが偏ると結果も誤ったり不適切な応答をする。AIが出てきて確かに世界は変わったが、AIのリスクを抑えるためのルールメイキングや使う人たちのマインドセットの在り方など、技術だけでなくより広くガバナンス観点で日々考え続けなければならない。