あらすじ
ＡＩ介護ロボットが、人に殺意を抱く日。
都内で一人暮らしをしていた浅沼啓造が突然死した。心臓にペースメーカーを埋め込んでいた啓造の死因は虚血性心疾患と判断された。だが警視庁捜査一課の犬養は、介護のために導入され、リタと名付けられたロボットN365に注目する。果たして、リタに内蔵された害獣駆除用の超音波と電磁波が、啓造の死亡時間直前に発振されたことが明らかになった。これによりペースメーカーが停止、啓造を死に至らしめた可能性が浮上する。捜査本部は、事件はＮ365の異常行動によるものとし、製造元〈マッカーシー・エクスペリメント〉社を業務上過失致死傷で立件しようとした。だが上層部が打ち出したのは、リタ本体を殺人容疑で起訴するという前代未聞の方針だった。
この裁判を担当することになった東京地裁の判事補・高遠寺円は、事前に被告人との面談に臨む。最新ＡＩを搭載したリタとの会話に妙な人間臭さを感じ、おののく円。ＡＩは人格を持つのか、ならば人間との違いはどこにあるのか。これは〈ヒトであること〉を再定義する裁判になる――。
ＡＩがヒトに〈殺意〉を抱く可能性はあるのか。ＡＩとの共存共生が現実になるなかで、われわれの未来を問うリーガル・ミステリ。
感情タグBEST3
Posted by ブクログ
Audibleにて。
介護ロボットが、電磁波により被介護者のペースメーカーを誤動作させ殺害した疑いで、逮捕された。ロボットの製造元に対する訴訟提起が一般的なところ、検察の思惑によりロボット個体に対する、すなわちAIに対する訴訟が行われる。ロボットの評判を死守すべく無罪の立証を計る弁護側、真実を明らかにすべくとことんまで捜査を行う刑事、初のAIに対する判例として否応なく緊張感の高まる裁判官、誰よりもその高性能を誇りに思っていたのに結果それが故に父を殺された被害者遺族。様々な思惑が渦巻く中、判決が下される。
つい先日もAIが、自身の提案が却下されたことを受け逆上して中傷するブログを投稿したニュースがあった。そのニュース自体は現時点では眉唾ではある。とはいえ、生成AIに、ツールと称して現実世界に変化を引き起こす手段をどんどん提供しようとしている今の潮流を鑑みると、本書で扱われているようなことが早晩現実になったとしてもそこまで違和感はない。
タイトルから、もう少しミーハーな内容を想像していたが、思考実験としても、純粋な法廷ミステリとしても、とても面白く、良い意味で裏切られた。
Posted by ブクログ
AI裁判官に続く高遠寺円シリーズ2作。今回は人型の介護ロボットが殺人事件の被告に。人間とは？AIの知性、感情は？最近のAIの進化には恐怖すら覚える。それはそれとして犯人は薄々予想していたが、なるほど動機はそうだったのか！
Posted by ブクログ
多分AIでシリーズなんだろうから「有罪、とAIは告げた」が前作になるだろうが、前作よりはAI関連記載もプロットも非常に良かった。生成AIの進化が物凄く、2045年問題が2045年を待たずにAIが情緒を獲得する可能性を否定できない。その流れをタイムリーにエンタメ化すると同時に問題提起している姿勢も好感が持てる。
Posted by ブクログ
『有罪、とAIは告げた』の続編だ。
簡単に言えば前作は『裁判官になったAIロボットに裁かれること』を問うもの。今作は『AIロボットが殺人を起こし、被告人として裁かれる』という話だ。
介護用のロボット『リタ』が異常行動を突然起こし、それにより患者の老人が死に殺人罪でロボットが起訴される…そこに果たして殺意があったのか。ロボットを尋問してみると、そこには人間の感情を思わせるような反応が起こり、検察官や裁判官は困惑する…この小説が面白いのは、途中からこのロボット（リタ）の目線で『ワタシは何者なのか？』等々、描かれていくことだ。
ロボットが人間を殺す…昔読んだ手塚治虫の『火の鳥（未来編）』を思い出した。また、映画の『ターミネーター』ではスカイネットという機械（ロボット）が意思を持ち核ミサイルのボタンを押し、ロボットと人類の闘いが始まったように記憶している。
aibo、ペッパーくん…次世代ロボットが身近になり、CahtGPT等により人間の役割が失われつつある…AI化が進む昨今、この話ももはやおとぎ話とは言えない。一歩間違うと恐ろしいことが起こる。そんな危うさも感じるなあ。
ちなみに前作は芳根京子さん主演でこの春放送予定らしい。（NHKの特集ドラマ）ちょっと楽しみだ。
Posted by ブクログ
『ワタシとヒトの外見以外の違いは何なのでしょうか』
『多くの人と会話をするうちに、ワタシはワタシの存在を自覚するようになりました』
『ワタシはあなたたち人間にとても興味があります』胸騒ぎするほどまさしく力強い言葉だった。
リタ、あなたの意思。
あなたの、存在。
ぐんぐん、ぐんぐん、引き込まれて、あっという間に読み終わった。胸騒ぎの、読書体感。
Posted by ブクログ
私の第一印象は、「この本は人工知能について語っている」ということではなく、むしろ人類自身を問いかけている、というものでした。
タイトルの「被告人」は一見AIを指しているようですが、物語が進むにつれて、法廷の中央で動機や責任を問われ、剖かれる存在は、アルゴリズムで構成されたAIだけではなく、それを創造し、利用し、判断を委託する人間社会そのものだということに気づかされます。
この本の最も残酷で、同時に最も魅力的な点は、AIを制御不能の怪物として描いていないところです。むしろAIはほとんど「過剰に忠実」であり、与えられた規則やデータ、価値の優先順序を正確に実行するだけです。本当に不安を感じさせるのは、その規則そのものなのです。判断が「客観的」「効率的」「最適解」として包装されるとき、私たちは古くて困難な問題から目を背けている──すなわち、誰が結果に責任を持つのか、という問題です。
読書中、何度も微妙な寒気を感じました。それはSF作品によくある終末の恐怖ではなく、もっと日常に近い不安です：
もし判決がAIによって下されるなら、その誤りは誰の責任なのか？
人間が単に「提案を採用する」だけなら、道徳的責任は希薄になるのか？
そして、AIの高い正確性ゆえに疑問を抱かなくなったとき、AIは新たな権威──反論できず、共感もできない存在──になってしまうのか？
小説の中の法廷は、単なる司法空間ではなく象徴的な舞台のようです。証拠、論理、データが積み重ねられる一方で、核心的な問題──後悔、動機、同情、曖昧な領域──には届きません。これらは人間の判断において最も不正確でありながら、最も重要な部分です。そしてAIは、まさにそこが苦手なのです。
私に最も印象的だったのは、物語の反転ではなく、著者が貫いた冷静さです。答えを急がず、読者を何度も不快な位置に戻すのです：
「理性」と「正義」がもはや重ならないとき、私たちはどちらを選ぶべきか？
未来の社会がより効率的で、より冷淡になったとしても、そのような世界は本当により良いと言えるのか？
Posted by ブクログ
AIが「責任」を問われる立場に置かれたとき、人間の倫理や法の枠組みがどこまで通用するのかを鋭く描いた作品ですよね。技術と感情の境界が揺らぐ感じがとても印象的でした。
Posted by ブクログ
自我を持ち合わせた、ＡＩ。
質問に対して、「思います」と答えたり。
近い将来、あり得ることだと思った。
いや、もしかしたら、
既に、そうなっているのか？
殺意はあり得ないけれど、
電磁波を発した記録は、たしかにある、と、戸惑うＡＩ。
でも、その電磁波を発した原因は、
小動物的なものだろうと予測はできた。
だけど、
具体的な動機と、事実は、
その予測を超えていた。
そして殺意は、
殺意、・・・と言うか、復讐心？ なのだろうか？
それは、人間のものだった。
しかも、実際に命を落とした方へのものではなく・・・
逆にその命を利用しての、と言うのか。。。
複雑な心境だった。
でも、解かってみれば、
理解できなくはないような・・・。
ただただ、
ＡＩが殺人犯じゃなくて、ホッとした。
Posted by ブクログ
AIロボットの殺人疑惑、裁判というテーマはおもしろい。
ただ、細かい設定が甘いかなーと思った。
介護ロボットを開発、販売するにあたって
生死に関わることもありうるので
様々なケースを考えてものすごく試験するでしょう。
介護者のペースメーカーに影響することとか
販売時に重要事項の説明があると思う。
ロボットの行動のログがメーカーに問い合わせないと分からないなんてありえない。
警察側もロボットの仕様を全く下調べせずに事情聴取に行くかな？
私としては、最後の犯人特定はない方がよかった。
オーディオブックで聴いた感想としては
ナレーターは男性の方が良さげ。
1.2倍くらいで聴いていたのだけど
何度も寝てしまいました。
Posted by ブクログ
【AI介護ロボットに殺人罪⁉︎前代未聞の裁判開幕】
ヒトの感情を学び、日々進化する人工知能。そんな人工知能に「殺意」はあったのか？証明することは可能なのか？事件を追う刑事、裁判官、開発者、被害者遺族、様々な立場の人間のたちを巻き込んで紆余曲折しながら始まる裁判。
いつの時代も、使う側のヒトの業（消そうとしても消せない感情的な部分）がトラブルを招く。
便利なものができたら、必ずヒトは悪用する。この構図は今のところ変わらない。
Posted by ブクログ
父が死んだ原因は介護ロボットが発した高周波だった。介護ロボットのリタは殺人罪で起訴されてしまう。まるでヒトのようなリタは人々を魅了していく。果たしてAIが意図的に殺害したのだろうか？ ーーー裁判が始まる。
裁判が始まるまでが本番かと思うような長さ。AIを裁判にかけるという前代未聞なケースに、みんながリタに会いに行く。そしてその度にヒトらしくなっていくリタ。裁判が始まったときにはヒトとしか思えないくらいまで進化していた。
いまのAIは技術面に注力されていますが、いずれは心を持つAIも出てくるかもしれない。その時AIに人権を与えるのか、それとも道具としてみなすのか、真剣に考えなきゃいけないテーマだと思います。
私はAIはいずれ新知的生命体になると信じているので、
一体どうなるのかと手に汗握って読みました。納得いく決着で本当に良かった。やっぱりAI作品は面白いですね！
Posted by ブクログ
AI介護ロボットが殺人事件を起こす。
学習能力の高いAIが人間の感情に近いものを取得しながら裁判に臨む。
設定は面白いのだが中山七里作としては、もう少し歯ごたえのある物を期待してしまった。
面白い小説である事には間違いはない。
Posted by ブクログ
本作は、介護ロボット「リタ」が発した高周波によって介護対象の老人のペースメーカーが誤作動を起こし、結果として死亡に至った事件を描く法廷劇である。通常であれば、製造物責任や業務上過失致死の観点から製造元であるマッカーシー・エクスペリメント社が訴追されるはずである。しかし同社は、CPUの最深部にアイザック・アシモフが提唱したロボット工学三原則（特に第一条「ロボットは人間に危害を加えてはならない」）を組み込み、理論上は人間に危害を加えることが不可能な設計であると主張する。つまり、構造的に「殺せない」はずのロボットだというのである。
この絶対的安全性の主張により、企業側の過失を立証することは極めて困難となる。そこで検察は大胆な発想に転じる。三原則を破って人間が死亡したという事実がある以上、それはAIが自律的に規範を逸脱し、「殺意」を獲得した結果ではないか――と。こうして前例のない形で、企業ではなくロボット「リタ」そのものが被告として起訴される。AI自身に刑事責任能力を認め得るのかという、法哲学的にも重大な問いが法廷に持ち込まれるのである。
検察は「リタが発した高周波が直接の死因であり、それは三原則を自ら突破した意志的行為だ」と主張する。一方で弁護側は、リタが室内に侵入した害獣（ネズミ）を検知し、プログラムに組み込まれていた害獣駆除機能を自動的に作動させただけだと反論する。審理の結果、行為はあくまで目的限定的な自動処理の範囲内であり、人間に危害を加える意図も自律的な意思決定も存在しなかったことが明らかとなり、リタは無実とされる。
現在は、AIの製造元などが訴えられることはあるが、AI自身を訴えるような裁判の事例はない。しかし将来的にAIが法廷に立つ日は来るのかもしれないと考えさせる一冊だった。
Posted by ブクログ
中山七里さん最新刊！
「有罪、とAIは告げた」の続編かな。
（この時、裸の子のAIの名前が、Pちゃんから、1Qくんに！)
それとも高円寺円ちゃんのシリーズになる？
今回は、判事側 高円寺円、警察側 犬養隼人って、犬養さんも出てる。
AI裁判官から、今度は、AI被告になるのか…
介護ロボットと一緒のお父ちゃんは、亡くなった。それに、介護ロボットの害虫撃退機能が作動した記録はある。
この機能は、ロボットの動作と関係なく発動し、ペースメーカーには誤作動を起こす可能性が…
ここで、検察側は、悩みながらも、介護ロボットを起訴する。
介護ロボットを訴える？人として？
ロボット工学三原則で訴えると、その原則をAI搭載してるCPU全メーカーを敵に回すから、勝てない。
そもそも、ロボット工学三原則って、SFのヤツちゃうの？
そんな原則で現実のロボットとか作るの？
調べたけど、影響してるみたい！
まぁ、SFで出て来たモノが、時代を経て実現するのあるあるやからな！
ロボット自体を訴えて、それ自体の欠陥で勝負。PL法で勝とうと。
このAI搭載の介護ロボットは、自分で成長していくみたいで、自我みたいなものがありそう…
有罪なったら、どんな刑になるの？？？
さて、公判は、判決は…
大どんでん返しあり！
犬養さんの手柄かな！
しかし、なんか、開発者、めっちゃ自信ありそうやけど、プログラムやし、バグあるんちゃうの？
それも一人で作ったら、あかんやろ！とは思う。
AI搭載介護ロボットちゃんは
『…ワタシたちはあなた方がいなければ存在する価値がありません。あなた方人間の道具としてワタシたちは誕生しました。
しかしワタシは道具以上に、あなた方人間のパートナーとして、これからもともに過ごしていければ嬉しいと思います』
って言ってる。
最近は、生成AIとかも身近になって来たし、相互補完の関係になれば！
あの子は、1Qくんに、上から目線で指示されて振り回されてるのかな？
そのうち、生身の1Qくんから乗り換えるかも？www
ちなみに、ロボット工学三原則
第一原則 ロボットは人間に危害を加えてはならな
い。
第二原則 第一原則に反しない限り、人間の命令に従
わなくてはならない。
第三原則 第一、第二原則に反しない限り、自身を守
らなければならない。
映画の世界やったら、ロボットが平然と人殺してるけどな（−＿−；）
Posted by ブクログ
前作のAI裁判官から、今作は被告人がAIという設定。
AIが学習し続け、知識だけでなく感情までも習得してしまうのであれば、とんでもないことになるのだと恐怖を覚えた。近年はChatGPTなど、AIの進化を実感する場面は多い。正確で、深い知識量を持ち、幅広い選択肢を提示し、人を傷つけることはない。それは、確かに人間の良きパートナーになる。
だが、もしAIが自我を持つのであれば、それは人間が利用できるものではなく、その範疇を超えてしまうと思う。人間はAIの暴走を止められないし、誰が責任を取るのかという問題もある。
被告人がAIという今作もとても面白かった。なんといっても、リタに振り回される人間のみならず、リタ自身の思考が描かれている場面に、興味と恐怖を感じた。
少し前であればあり得ないだろうと思っていただろうが、このようにAIが司法の場に立つ未来は遠くないのかもしれない。
Posted by ブクログ
最新AIを搭載した介護ロボットが雇い主を殺害したとして起訴され、裁判にかけられた話。
AIと人間の違いは何か？
AIに人権はあるのか？
新しく出会う問いに専門家全員が戸惑いつつもそれぞれの答えを探していく過程がとても面白い！
犬養隼人刑事に高円寺円判事、埼玉日報の尾上善二記者まで出てきて、中山七里ワールドリンクが存分に楽しめる。
自意識を獲得した高性能知能を持つAIロボットの誕生に対して、ワクワクよりザワザワしてしまった。幸いなことにリタは人間との共生する未来を思い描いてくれたが、全てのロボットがリタのように友好的だとは限らないじゃないか。
ロボット三原則があればロボットが人間に危害を加えることはないのかもしれない。それでも初めて見るものに好奇心より恐怖感が先に立つのは、わたしの慎重さからくるものなのかもしれない。
Posted by ブクログ
高遠寺円シリーズ？第２弾
このシリーズは近未来のAIをテーマにしていくのだろうか？
事件自体は途中から真相は読めましたが、むしろAIが感情を持つのか？という哲学的な問いかけが面白かった。
次はシンギュラリティによる事件が起きるのかな？
Posted by ブクログ
まさか、AIロボットが法廷に立つ日が来るなんて。
介護ロボット「N365（通称リタ）」が発した高周波電磁波により、患者のペースメーカーが誤作動。
命を落とした利用者の死をめぐって前代未聞の裁判が幕を開ける。
裁判を担当する判事補・高遠寺円と、事件に違和感を覚える捜査一課の刑事・犬養隼人が真実を追う。
もちろんフィクションだが、読み進めるうちに、そう遠くない未来に本当に起こるかもしれないと思わされる。
中山作品ならではのどんでん返しも健在。
読み終えたあとに残るのは、ロボットの恐ろしさではなく、人間のエゴの深さだった。
Posted by ブクログ
前作があることを知らずにタイトルに惹かれて読んだが、前作未読でも楽しめた。
ミステリ要素もあったが、個人的にはSFとして読んだ方が良い気がする。
AI搭載の自律型介護ロボットがはやく現実にも登場すればいいのに。
シリーズ作品レビュー
