伏見威蕃のレビュー一覧
-
-
-
-
-
-
-
-
Posted by ブクログ
【無人の兵団―AI、ロボット、自律型兵器と未来の戦争】
来るべき未来に出現するであろう、汎用人工知能を持つ兵器の展望と、人との関わりのお話。
【スーパーインテリジェンス】での人間を越える汎用能力を持つAI出現や、【誰のためのデザイン？】での人とシステムのインターフェース設計を思い出しながら読んだ。
自律型兵器が一線を越える前に決めておくべきルールのいくつかは顕在化できてるものの、残念ながら全く定まっていないところで開発が進んでる。そもそも何をもって自律した兵器と言うのかってところから。
過去のエピソードや、物理的な領域に限定されない自律型兵器の戦場についても広く紹介があった。兵器の話に止まらない、AIの活用と未来を考える本。
#読書 #AI #兵器 #早川書房 -
Posted by ブクログ
自律型兵器の使用について、特に賛成でも反対でもなく、どちらの立場であってもよく検討しておかなければならいない事項を、具体的な内容とともに説明しており、非常に参考になった。
自律型兵器の問題は、結局のところ攻撃目標選択をAIという名のアルゴリズムに委ねている点であり、その（プログラムした人間の意図どおりという意味での）正確性と倫理的妥当性である（と私は考える）。
正確性はプログラムである以上限界があり、そのため現状は人間が自律型兵器のループ内に挟まる形となっているが、しかし人間が間に挟まろうが、意図をしないミスは発生するものであり、結局は自律型兵器の問題ではなく、例外事項発生時の対処を如何にするかの問題である。
後者の倫理的妥当性、つまり人を殺すという意思決定を、人間が下さずコンピュータが下すという行為の残酷さ、生命の扱いの軽さの問題については、そもそも人を殺すという行為そのものが残酷であり、アルゴリズムが決定したから残酷で、人間が決定した残酷ではないというのもおかしな話である。そもそもの判定プログラムのコーディングの時点で、どういった対象を殺害するという人間の意志は反映されており、直接の決定の部分をコンピュータが行ったから倫理的に妥当でないというのもナンセンスである。
ここまで考えると、自律型兵器の何が問題なのかよくわからなくなるが、しかし本書には倫理的妥当性に関して、その先のことが書いてあった。
人を殺すという意思決定は、人間が下そうが自律型兵器が下そうが残酷でおぞましいものであり、それが戦争というものであるが、そのおぞましい行為を自律型兵器に委ねてしまえば、人を殺すことにより生じる道徳的負荷を消滅または軽減してしまうことになる。
これは殺人という行為を悪いと感じなくさせてしまうことを意味し、確かにこういった意味で自律型兵器の問題は大きいと感じた。
遠距離精密兵器の登場により、殺人の道徳的負荷はどんどん軽減されっていっており、それを自律型兵器はより一歩進める可能性がある。
将来の戦争は、このまま殺人を前提としつつ、その道徳的負荷を軽減しながら実行していく形となるのか、それともサイバー戦のように、殺人は前提とせず、相手の国への意図の強要だけが行える形となっていくのか。
自律型兵器は、戦争のやり方という（従来戦の中での）作戦・戦術面の影響だけではなく、戦争のありよう・戦争への人間の関わり方を変えるという、より大きな影響を持つ重要な兵器なのだということに気づかされた。 -
-
-
-
-
-
Posted by ブクログ
実は、上巻の評価は３つ星にしていた。しかし、下巻に移ってからは、俄然面白くなった。上巻では登場人物のイメージが固まらず、プロットもどことなく漠然としていて分かりずらかった。下巻になると、それらが自分の中でも次第に定着してきて、正に読むのを止められないほどの面白さとなる。それには少人数・大人数の戦闘の描写の迫力が、目に見えるかのように活写されていることも大きな要因となっているだろう。主人公は一匹狼の諜報員で、敵に何度も痛めつけられるが、左手首を骨折しても戦いをやめない。超人的とは言え、現実にはあり得ないだろう。サブメインに女性が２人登場しているが、それぞれ主人公との関係が複雑だ。詳細はネタバレとなるので、これ以上は記さないが、結末はやや衝撃的、特に上司である女性の心理とその行動が・・・。
-
-
-
-
Posted by ブクログ
長い。かなり長い。
兵器や軍事に興味が強い人でないと読めないだろう（まあ、そうじゃない人は読まないか）。
自律型兵器の定義そのものから、実際の兵器の運用や過去の誤爆事例なども含めて、詳細に丁寧に述べられている。
最近はやっている株取引の高速取引、いわゆるアルゴリズム取引にて、コンマ何秒の世界で勝負する世界になり、結果、フラッシュクラッシュという原因不明の暴落を例に説明していた点においては、とても納得がいった。
判断が人間の手を離れ、機械が自動的に判定すると、いきつくところまで行ってしまうということ。株ならまだなんとかなる（まあ、これはこれで大変なことだけど）が、戦争で行きつくところまで、勝手に行ってしまう、リスクがあることを知った。
無人兵器システムは人間の監督下に置かれるべき、というコンセンサスについては、まったくその通りだと感じるが、人間がどこまで責任を負うべきか、というのはとても難しい問題だ。 -
Posted by ブクログ
科学技術の発展をドライブさせる因子には様々なものがあるが、最も重要な因子の一つが”軍事”であるのは間違いがない。では、現代を代表する科学技術の一分野であるAIは”軍事”の中でどのように用いられ、発展していくのか？
本書は実際にアメリカのレンジャー部隊に所属し、イラクとアフガニスタンにて危険な任務に従事した後、軍事兵器のアナリストとして活躍している著者が、AIがどう”軍事”の中で用いられており、どのような論争が起こっているのかという全体像を非常にわかりやすく示してくれる。
軍事兵器にAIを用いることで得られる究極の姿は、人間の判断を経ることなく、自律的な軍事行動の遂行である。それはつまり、敵を自ら探索し、自ら攻撃を仕掛けて殲滅させる、という行動を意味する。しかし、民間人がほぼ存在しない水中や宇宙空間などの特殊な場所ならまだしも、大多数の陸上においては、その敵と民間人の区別を付けるのはAIであっても極めて困難である。そして、仮に画像認識等の技術によりそれが可能になったとしても、人間の生命を奪うという行為を、人間の判断を経ることなくAIが行うという点についても、倫理的な問題が立ちはだかっている。
とはいえ、超小型ドローンなど、AIを搭載して、一定の範囲内で制限付きの自律行動を取る軍事兵器は既に存在している。AIの倫理を考える上で、人を殺すという軍事において、我々がどのように対処していくべきなのかが極めて深刻な問題であるということを本書は教えてくれる。