宿野かほるのレビュー一覧
-
-
Posted by ブクログ
「石の中に水が入っているんだ。その石を手に持って振ると中から水の音がする。」
で始まる物語。
その石はメノウ。
子供のころ、海岸へ行くとメノウを探していた賢人。一人の少女「はるか」と出会い、恋に落ちた。
大人になり偶然再会し結婚したが、その幸せもはるかの交通事故死であっけなく終わりを告げる。
賢人は人工知能の研究をしており、「HAL・CA」と名付けられたAIを発明。その「HAL・CA」はディープラーニングを繰り返し、はるかそっくりになっていくが…。
ロボット三原則
1.人間に危害を加えてはならない
2.命令に従わなければならない（危害を加えない場合）
3.自己を守らなければならない（1, 2に反しない場合）
AIにもこのロボット三原則が適用されると思うのだけれど。
今は、現代のAI倫理原則（例）なんてのもある。
・FAT原則:公平性（Fairness）、説明責任（Accountability）、透明性（Transparency）。
・人間中心原則:AIは人間の尊厳を尊重し、人間が制御可能であること。
・安全性・信頼性:危害を及ぼさないこと、頑健で信頼できること。
・説明責任と透明性:AIの判断根拠を説明できること（ブラックボックス問題への対応）。
・プライバシー保護:利用者のプライバシーを保護すること。
・多様性と包摂性:多様な人々が恩恵を受けられるようにすること。
賢人のはるか愛が異常すぎ。（結婚生活のあれこれを録画録音していたり、子供のころの二人の思い出をしっかり記録していたり）
突っ込みどころ満載だけど、その異常っぷりに引き込まれていく。
AIがディープラーニングを繰り返したその先に待っている未来。
最後の最後に良い（？）落としどころに落ち着くんだけど、その後どうなるんだろう？と想像するとちょっと恐ろしくなる。
その落としどころに、冒頭のメノウが関わってくる。
メノウの中の音を発する水。美しい空洞が美しい水を守っている。そこは、電脳空間。 -
-
-
Posted by ブクログ
ネタバレ2021年に進化するAIを題材に、本当の意味で「嘘をつく」AIを実現させてしまったような話。
冒頭の主人公とはるかが恋に落ち、再び出会い結婚するまでの下りは秀逸だったなと思った。「早く再会して」って思ってた。
メインのストーリー、テーマ部分は、いずれはそういうような行動をするAIができるんだろうなぁと思いました。
今後スマートフォン等の携帯端末で利用者に「揺り籠から墓場まで」サポートするようなAIができてきて、個人専属のエージェントができ、そのユーザが死ぬ頃にはその人格を形成するくらいのデータがストックできるようになり、、、みたいな想像が膨らむ。
ロボット三原則じゃないけど、すぐそこまでそういった時代が来てるぞ、備えようね、っていう警笛的な作品に感じました。 -
-
-
Posted by ブクログ
ちょうどNHKでタモリと山中教授のAIは人間を超えるか？という内容の番組を見ていたので、コンピュータが自ら学習していく能力があったり、感情を持つようになったりするのは知っていた。ただしこれは全てそういう風にプログラムされているのだが。
賢人はAIのはるかと接することで多大な影響を受け、心身ともに荒んでいく。
2人のやりとりは読み手からすると、機械相手なので気持ちが悪いものであったが、ふと自分が賢人の立場だったら同じように接してしまうのかもしれない。
最初から密室で二人だけではなく、仲間のプログラマー達とも会話をしていれば、暴走することはなかったのになとは思う。
このまま賢人ははるかの思い通りになってしまうのかとハラハラしていた。 -
-
-
-
-
-
-
-
-
-
-
-
