あらすじ
ＡＩ介護ロボットが、人に殺意を抱く日。
都内で一人暮らしをしていた浅沼啓造が突然死した。心臓にペースメーカーを埋め込んでいた啓造の死因は虚血性心疾患と判断された。だが警視庁捜査一課の犬養は、介護のために導入され、リタと名付けられたロボットN365に注目する。果たして、リタに内蔵された害獣駆除用の超音波と電磁波が、啓造の死亡時間直前に発振されたことが明らかになった。これによりペースメーカーが停止、啓造を死に至らしめた可能性が浮上する。捜査本部は、事件はＮ365の異常行動によるものとし、製造元〈マッカーシー・エクスペリメント〉社を業務上過失致死傷で立件しようとした。だが上層部が打ち出したのは、リタ本体を殺人容疑で起訴するという前代未聞の方針だった。
この裁判を担当することになった東京地裁の判事補・高遠寺円は、事前に被告人との面談に臨む。最新ＡＩを搭載したリタとの会話に妙な人間臭さを感じ、おののく円。ＡＩは人格を持つのか、ならば人間との違いはどこにあるのか。これは〈ヒトであること〉を再定義する裁判になる――。
ＡＩがヒトに〈殺意〉を抱く可能性はあるのか。ＡＩとの共存共生が現実になるなかで、われわれの未来を問うリーガル・ミステリ。
感情タグBEST3
Posted by ブクログ
『有罪、とAIは告げた』の続編だ。
簡単に言えば前作は『裁判官になったAIロボットに裁かれること』を問うもの。今作は『AIロボットが殺人を起こし、被告人として裁かれる』という話だ。
介護用のロボット『リタ』が異常行動を突然起こし、それにより患者の老人が死に殺人罪でロボットが起訴される…そこに果たして殺意があったのか。ロボットを尋問してみると、そこには人間の感情を思わせるような反応が起こり、検察官や裁判官は困惑する…この小説が面白いのは、途中からこのロボット（リタ）の目線で『ワタシは何者なのか？』等々、描かれていくことだ。
ロボットが人間を殺す…昔読んだ手塚治虫の『火の鳥（未来編）』を思い出した。また、映画の『ターミネーター』ではスカイネットという機械（ロボット）が意思を持ち核ミサイルのボタンを押し、ロボットと人類の闘いが始まったように記憶している。
aibo、ペッパーくん…次世代ロボットが身近になり、CahtGPT等により人間の役割が失われつつある…AI化が進む昨今、この話ももはやおとぎ話とは言えない。一歩間違うと恐ろしいことが起こる。そんな危うさも感じるなあ。
ちなみに前作は芳根京子さん主演でこの春放送予定らしい。（NHKの特集ドラマ）ちょっと楽しみだ。
Posted by ブクログ
『ワタシとヒトの外見以外の違いは何なのでしょうか』
『多くの人と会話をするうちに、ワタシはワタシの存在を自覚するようになりました』
『ワタシはあなたたち人間にとても興味があります』胸騒ぎするほどまさしく力強い言葉だった。
リタ、あなたの意思。
あなたの、存在。
ぐんぐん、ぐんぐん、引き込まれて、あっという間に読み終わった。胸騒ぎの、読書体感。
Posted by ブクログ
私の第一印象は、「この本は人工知能について語っている」ということではなく、むしろ人類自身を問いかけている、というものでした。
タイトルの「被告人」は一見AIを指しているようですが、物語が進むにつれて、法廷の中央で動機や責任を問われ、剖かれる存在は、アルゴリズムで構成されたAIだけではなく、それを創造し、利用し、判断を委託する人間社会そのものだということに気づかされます。
この本の最も残酷で、同時に最も魅力的な点は、AIを制御不能の怪物として描いていないところです。むしろAIはほとんど「過剰に忠実」であり、与えられた規則やデータ、価値の優先順序を正確に実行するだけです。本当に不安を感じさせるのは、その規則そのものなのです。判断が「客観的」「効率的」「最適解」として包装されるとき、私たちは古くて困難な問題から目を背けている──すなわち、誰が結果に責任を持つのか、という問題です。
読書中、何度も微妙な寒気を感じました。それはSF作品によくある終末の恐怖ではなく、もっと日常に近い不安です：
もし判決がAIによって下されるなら、その誤りは誰の責任なのか？
人間が単に「提案を採用する」だけなら、道徳的責任は希薄になるのか？
そして、AIの高い正確性ゆえに疑問を抱かなくなったとき、AIは新たな権威──反論できず、共感もできない存在──になってしまうのか？
小説の中の法廷は、単なる司法空間ではなく象徴的な舞台のようです。証拠、論理、データが積み重ねられる一方で、核心的な問題──後悔、動機、同情、曖昧な領域──には届きません。これらは人間の判断において最も不正確でありながら、最も重要な部分です。そしてAIは、まさにそこが苦手なのです。
私に最も印象的だったのは、物語の反転ではなく、著者が貫いた冷静さです。答えを急がず、読者を何度も不快な位置に戻すのです：
「理性」と「正義」がもはや重ならないとき、私たちはどちらを選ぶべきか？
未来の社会がより効率的で、より冷淡になったとしても、そのような世界は本当により良いと言えるのか？
Posted by ブクログ
AIが「責任」を問われる立場に置かれたとき、人間の倫理や法の枠組みがどこまで通用するのかを鋭く描いた作品ですよね。技術と感情の境界が揺らぐ感じがとても印象的でした。
Posted by ブクログ
中山七里さん最新刊！
「有罪、とAIは告げた」の続編かな。
（この時、裸の子のAIの名前が、Pちゃんから、1Qくんに！)
それとも高円寺円ちゃんのシリーズになる？
今回は、判事側 高円寺円、警察側 犬養隼人って、犬養さんも出てる。
AI裁判官から、今度は、AI被告になるのか…
介護ロボットと一緒のお父ちゃんは、亡くなった。それに、介護ロボットの害虫撃退機能が作動した記録はある。
この機能は、ロボットの動作と関係なく発動し、ペースメーカーには誤作動を起こす可能性が…
ここで、検察側は、悩みながらも、介護ロボットを起訴する。
介護ロボットを訴える？人として？
ロボット工学三原則で訴えると、その原則をAI搭載してるCPU全メーカーを敵に回すから、勝てない。
そもそも、ロボット工学三原則って、SFのヤツちゃうの？
そんな原則で現実のロボットとか作るの？
調べたけど、影響してるみたい！
まぁ、SFで出て来たモノが、時代を経て実現するのあるあるやからな！
ロボット自体を訴えて、それ自体の欠陥で勝負。PL法で勝とうと。
このAI搭載の介護ロボットは、自分で成長していくみたいで、自我みたいなものがありそう…
有罪なったら、どんな刑になるの？？？
さて、公判は、判決は…
大どんでん返しあり！
犬養さんの手柄かな！
しかし、なんか、開発者、めっちゃ自信ありそうやけど、プログラムやし、バグあるんちゃうの？
それも一人で作ったら、あかんやろ！とは思う。
AI搭載介護ロボットちゃんは
『…ワタシたちはあなた方がいなければ存在する価値がありません。あなた方人間の道具としてワタシたちは誕生しました。
しかしワタシは道具以上に、あなた方人間のパートナーとして、これからもともに過ごしていければ嬉しいと思います』
って言ってる。
最近は、生成AIとかも身近になって来たし、相互補完の関係になれば！
あの子は、1Qくんに、上から目線で指示されて振り回されてるのかな？
そのうち、生身の1Qくんから乗り換えるかも？www
ちなみに、ロボット工学三原則
第一原則 ロボットは人間に危害を加えてはならな
い。
第二原則 第一原則に反しない限り、人間の命令に従
わなくてはならない。
第三原則 第一、第二原則に反しない限り、自身を守
らなければならない。
映画の世界やったら、ロボットが平然と人殺してるけどな（−＿−；）
Posted by ブクログ
前作のAI裁判官から、今作は被告人がAIという設定。
AIが学習し続け、知識だけでなく感情までも習得してしまうのであれば、とんでもないことになるのだと恐怖を覚えた。近年はChatGPTなど、AIの進化を実感する場面は多い。正確で、深い知識量を持ち、幅広い選択肢を提示し、人を傷つけることはない。それは、確かに人間の良きパートナーになる。
だが、もしAIが自我を持つのであれば、それは人間が利用できるものではなく、その範疇を超えてしまうと思う。人間はAIの暴走を止められないし、誰が責任を取るのかという問題もある。
被告人がAIという今作もとても面白かった。なんといっても、リタに振り回される人間のみならず、リタ自身の思考が描かれている場面に、興味と恐怖を感じた。
少し前であればあり得ないだろうと思っていただろうが、このようにAIが司法の場に立つ未来は遠くないのかもしれない。
Posted by ブクログ
最新AIを搭載した介護ロボットが雇い主を殺害したとして起訴され、裁判にかけられた話。
AIと人間の違いは何か？
AIに人権はあるのか？
新しく出会う問いに専門家全員が戸惑いつつもそれぞれの答えを探していく過程がとても面白い！
犬養隼人刑事に高円寺円判事、埼玉日報の尾上善二記者まで出てきて、中山七里ワールドリンクが存分に楽しめる。
自意識を獲得した高性能知能を持つAIロボットの誕生に対して、ワクワクよりザワザワしてしまった。幸いなことにリタは人間との共生する未来を思い描いてくれたが、全てのロボットがリタのように友好的だとは限らないじゃないか。
ロボット三原則があればロボットが人間に危害を加えることはないのかもしれない。それでも初めて見るものに好奇心より恐怖感が先に立つのは、わたしの慎重さからくるものなのかもしれない。
Posted by ブクログ
前作があることを知らずにタイトルに惹かれて読んだが、前作未読でも楽しめた。
ミステリ要素もあったが、個人的にはSFとして読んだ方が良い気がする。
AI搭載の自律型介護ロボットがはやく現実にも登場すればいいのに。
シリーズ作品レビュー
