あらすじ
ビル・ゲイツ絶賛！ ＡＩやロボット兵士が戦場に投入される時、何が起きるのか？ ――急速に開発が進む「自律型兵器」の現場にレインジャー部隊出身のアナリストが迫る。先端軍事技術に関わる人々を訪ね、導入と規制の課題、戦争と人類の未来を展望する。解説／佐藤丙午
...続きを読む感情タグBEST3
このページにはネタバレを含むレビューが表示されています
Posted by ブクログ
無人の兵団――AI、ロボット、自律型兵器と未来の戦争
読書好きで知られるビル・ゲイツ氏が年間ベストブックに選んだということで読んでみました。
装丁やタイトルはものもしいですが、内容は至ってオーソドックスで、丁寧に自律型兵器に関しての歴史と現在、未来への規制の在り方が説かれています。
恥ずかしながらこの本で初めて知ったのですが、ディープラーニングの盲点として、画像認識で明らかに人は間違えるはずの無い画像を間違って認識してしまうパターンがあるそうです。多分、取り上げられている例はほんの一例でたくさんの誤認画像が存在するはずです。
完全自動化された殺戮用の兵器がこの誤認識を起こしたら？また、敵が誤認識を誘発するように仕組んだら？
解決しなければならない課題が山積みな中、市販のドローンを改造した編隊が石油施設を襲撃したニュースは自律型の兵器が誰でも簡単に作成・運用できてしまうテクノロジーが既に広まっているこの実証として考えなくてはなりません。
国が作った兵器としてはイスラエルが作ったハービーはターゲットであるレーダーを指定しなくてもレーダーを探し出してそれを爆破するように自律的に行動する兵器が既にあるそうです。
また、イージスシステムのシナリオモードの話や誘導爆弾の話など元レンジャー出身ということもあり詳細な解説で知ることが出来ました。
最期の章では核の抑止に関しての考え方を応用しようというアイデアがあげられていますが、核と違い為政者がどんな悲惨な結果を招くかを創造することが難しい自律型兵器の開発や配備を制限することはとても難しく感じました。
この分野でも悲惨な実例から人は学ぶしか方法が無いようです。それも学べる人が生き残っていたらのことですが・・・
竹蔵
Posted by ブクログ
読中も思っていたし、本文にも中程で明記されるが、自律型兵器に対する評価は映画『ターミネーター』の影響が非常に甚大であるようだ。
反対意見は主に倫理的な立場を取るように見える。倫理的という表現はオブラートで、詰め寄る相手が不在では困るというふうに感じられる。
人類のコントロール下にあればよし、そうでなくなった場合、責任から対処までどーすんだよ、と。人間が責任者であっても大日本帝国陸軍的な暴走はありえる。軍事でない場合の方が、より一層深刻なのかもしれない。自動運転車両が事故を起こした場合、所有者に責任が問われるのか、メーカーに責任が問われるのかという問題があるように。
うすね正俊の漫画『コンバット・ドール』は、続編で、ドールが東側諸国の武装だと知ってショックを受けた覚えがある。悪役として登場した自律兵器である通称ピノキオは西側のもので、これはテクノロジーを主眼においた見識によるものか、人間の損耗を嫌う立場を描いたものか。東側の宗主国では、兵士は畑から採れるという冗談を可視化したものか。
倫理的な問題であるならば、現実世界で実戦投入をまっさきにやりそうなのは中国やロシアではないかと思える。
現実世界ではこれまで、いくつか非人道的な武器について、国際的な約束によって封じ手としてこれた実績がある。完全自立型兵器は実現していないが、同様のことが実現前から懸念される。まだ存在しないものに対して行う議論は倫理に基づくものか、寝技外交か。
今度のAIブームはかつてなかったほどの成果をあげたが、エキスパートシステムの域にとどまっているようにも見える。失速してる風味もあるが、懸念が結実するような革新に到れるだろうか。
というようなことを、多角的に問うているが、主題もまた繰り返されることになるのでいささか冗長である。
