ポールシャーレの作品一覧

副題に「AI、ロボット、自立型兵器と未来の戦争」とあるが、これらについて、「そもそもなんぞや」から始め、人の関与の度合いのありようの違いから
・オートメーション
・半自律
・監督付自律
・完全自律
の定義の違いを説明し、なぜ、人が判断に関与しない汎用AI自立型兵器が好ましくないのかを説明するためには、このくらいのページ数が必要になる。（そしてまた、民間の株取引では既に完全自律システムによる実害が発生していることも）

いわゆる「サイバー戦」に於いては、速度を考えればAIの助力を人間が受けるケンタウロス方式でさえ不十分で有り、部分的に完全AI自律に頼らざるを得ない可能性を考えると、そこに心配は残...続きを読むる。

また、おそらく「キルスイッチの無い完全自律無人兵器」は軍事用途よりも、中国のような国家が自国内の反体制派を弾圧するために使用されそうな気もする。

しかし、対AI欺瞞画像が既に発見されているとは驚きである。

本書は、現代の自律型兵器に関する情報や考え方を網羅した、この分野におけるバイブルのような本だが、発行からわずか数年で、兵器がさらに進化し実用化が進んでいる。

ウクライナ戦争においても、トルコ製無人攻撃機のバイラクタルTB2や自爆型の「神風ドローン」が活躍し、自律型兵器は戦争の帰趨を決するような存在にまで成長してきた。

著者は軍人出身であることから、AIによる判断よりも軍人による判断を信用している。しかし、アフガニスタンの米軍撤退戦でも、米軍による民間人への誤爆があった。実際にはどちらの方が判断ミスが少なくなるのだろうか。

人間の判断とAIの判断のどちらが正しいのか。プーチンのような独裁者...続きを読むの存在まで考えると、どちらが信用できるのか分からなくなってきた。

【無人の兵団―AI、ロボット、自律型兵器と未来の戦争】
来るべき未来に出現するであろう、汎用人工知能を持つ兵器の展望と、人との関わりのお話。
【スーパーインテリジェンス】での人間を越える汎用能力を持つAI出現や、【誰のためのデザイン？】での人とシステムのインターフェース設計を思い出しながら読んだ。
自律型兵器が一線を越える前に決めておくべきルールのいくつかは顕在化できてるものの、残念ながら全く定まっていないところで開発が進んでる。そもそも何をもって自律した兵器と言うのかってところから。
過去のエピソードや、物理的な領域に限定されない自律型兵器の戦場についても広く紹介があった。兵器の話に止まらな...続きを読むい、AIの活用と未来を考える本。
#読書 #AI #兵器 #早川書房

自律型兵器の使用について、特に賛成でも反対でもなく、どちらの立場であってもよく検討しておかなければならいない事項を、具体的な内容とともに説明しており、非常に参考になった。

自律型兵器の問題は、結局のところ攻撃目標選択をAIという名のアルゴリズムに委ねている点であり、その（プログラムした人間の意図どおりという意味での）正確性と倫理的妥当性である（と私は考える）。

正確性はプログラムである以上限界があり、そのため現状は人間が自律型兵器のループ内に挟まる形となっているが、しかし人間が間に挟まろうが、意図をしないミスは発生するものであり、結局は自律型兵器の問題ではなく、例外事項発生時の対処を如何に...続きを読むするかの問題である。

後者の倫理的妥当性、つまり人を殺すという意思決定を、人間が下さずコンピュータが下すという行為の残酷さ、生命の扱いの軽さの問題については、そもそも人を殺すという行為そのものが残酷であり、アルゴリズムが決定したから残酷で、人間が決定した残酷ではないというのもおかしな話である。そもそもの判定プログラムのコーディングの時点で、どういった対象を殺害するという人間の意志は反映されており、直接の決定の部分をコンピュータが行ったから倫理的に妥当でないというのもナンセンスである。

ここまで考えると、自律型兵器の何が問題なのかよくわからなくなるが、しかし本書には倫理的妥当性に関して、その先のことが書いてあった。

人を殺すという意思決定は、人間が下そうが自律型兵器が下そうが残酷でおぞましいものであり、それが戦争というものであるが、そのおぞましい行為を自律型兵器に委ねてしまえば、人を殺すことにより生じる道徳的負荷を消滅または軽減してしまうことになる。
これは殺人という行為を悪いと感じなくさせてしまうことを意味し、確かにこういった意味で自律型兵器の問題は大きいと感じた。

遠距離精密兵器の登場により、殺人の道徳的負荷はどんどん軽減されっていっており、それを自律型兵器はより一歩進める可能性がある。

将来の戦争は、このまま殺人を前提としつつ、その道徳的負荷を軽減しながら実行していく形となるのか、それともサイバー戦のように、殺人は前提とせず、相手の国への意図の強要だけが行える形となっていくのか。

自律型兵器は、戦争のやり方という（従来戦の中での）作戦・戦術面の影響だけではなく、戦争のありよう・戦争への人間の関わり方を変えるという、より大きな影響を持つ重要な兵器なのだということに気づかされた。

自らの判断で戦う、人を殺すロボットは誕生するのか。著者が元兵士らしく、戦場経験に照らして書いてくれてるのは良し。深層学習云々はコッチが知識無さすぎてちょっとついていけてないのが残念。