ポールシャーレのレビュー一覧
-
-
Posted by ブクログ
副題に「AI、ロボット、自立型兵器と未来の戦争」とあるが、これらについて、「そもそもなんぞや」から始め、人の関与の度合いのありようの違いから
・オートメーション
・半自律
・監督付自律
・完全自律
の定義の違いを説明し、なぜ、人が判断に関与しない汎用AI自立型兵器が好ましくないのかを説明するためには、このくらいのページ数が必要になる。（そしてまた、民間の株取引では既に完全自律システムによる実害が発生していることも）
いわゆる「サイバー戦」に於いては、速度を考えればAIの助力を人間が受けるケンタウロス方式でさえ不十分で有り、部分的に完全AI自律に頼らざるを得ない可能性を考えると、そこに心配は残 -
Posted by ブクログ
本書は、現代の自律型兵器に関する情報や考え方を網羅した、この分野におけるバイブルのような本だが、発行からわずか数年で、兵器がさらに進化し実用化が進んでいる。
ウクライナ戦争においても、トルコ製無人攻撃機のバイラクタルTB2や自爆型の「神風ドローン」が活躍し、自律型兵器は戦争の帰趨を決するような存在にまで成長してきた。
著者は軍人出身であることから、AIによる判断よりも軍人による判断を信用している。しかし、アフガニスタンの米軍撤退戦でも、米軍による民間人への誤爆があった。実際にはどちらの方が判断ミスが少なくなるのだろうか。
人間の判断とAIの判断のどちらが正しいのか。プーチンのような独裁者 -
Posted by ブクログ
【無人の兵団―AI、ロボット、自律型兵器と未来の戦争】
来るべき未来に出現するであろう、汎用人工知能を持つ兵器の展望と、人との関わりのお話。
【スーパーインテリジェンス】での人間を越える汎用能力を持つAI出現や、【誰のためのデザイン？】での人とシステムのインターフェース設計を思い出しながら読んだ。
自律型兵器が一線を越える前に決めておくべきルールのいくつかは顕在化できてるものの、残念ながら全く定まっていないところで開発が進んでる。そもそも何をもって自律した兵器と言うのかってところから。
過去のエピソードや、物理的な領域に限定されない自律型兵器の戦場についても広く紹介があった。兵器の話に止まらな -
Posted by ブクログ
自律型兵器の使用について、特に賛成でも反対でもなく、どちらの立場であってもよく検討しておかなければならいない事項を、具体的な内容とともに説明しており、非常に参考になった。
自律型兵器の問題は、結局のところ攻撃目標選択をAIという名のアルゴリズムに委ねている点であり、その（プログラムした人間の意図どおりという意味での）正確性と倫理的妥当性である（と私は考える）。
正確性はプログラムである以上限界があり、そのため現状は人間が自律型兵器のループ内に挟まる形となっているが、しかし人間が間に挟まろうが、意図をしないミスは発生するものであり、結局は自律型兵器の問題ではなく、例外事項発生時の対処を如何に -
-
Posted by ブクログ
長い。かなり長い。
兵器や軍事に興味が強い人でないと読めないだろう（まあ、そうじゃない人は読まないか）。
自律型兵器の定義そのものから、実際の兵器の運用や過去の誤爆事例なども含めて、詳細に丁寧に述べられている。
最近はやっている株取引の高速取引、いわゆるアルゴリズム取引にて、コンマ何秒の世界で勝負する世界になり、結果、フラッシュクラッシュという原因不明の暴落を例に説明していた点においては、とても納得がいった。
判断が人間の手を離れ、機械が自動的に判定すると、いきつくところまで行ってしまうということ。株ならまだなんとかなる（まあ、これはこれで大変なことだけど）が、戦争で行きつくところまで、勝 -
Posted by ブクログ
科学技術の発展をドライブさせる因子には様々なものがあるが、最も重要な因子の一つが”軍事”であるのは間違いがない。では、現代を代表する科学技術の一分野であるAIは”軍事”の中でどのように用いられ、発展していくのか？
本書は実際にアメリカのレンジャー部隊に所属し、イラクとアフガニスタンにて危険な任務に従事した後、軍事兵器のアナリストとして活躍している著者が、AIがどう”軍事”の中で用いられており、どのような論争が起こっているのかという全体像を非常にわかりやすく示してくれる。
軍事兵器にAIを用いることで得られる究極の姿は、人間の判断を経ることなく、自律的な軍事行動の遂行である。それはつまり、敵 -
Posted by ブクログ
21世紀は半導体の覇権を握る国が覇権を獲得すると「半導体戦争」と言う本を読み思っていたが、覇権を取るにはどうやらAIも先頭を走らないと獲得出来ない。
その21世紀の覇を狙うのは二大超大国アメリカと中国。この本が出版されたのが去年5月、この本では将来的にAIの発展速度及びAIが人を超えるシンギュラリティーの予測はまだ出来ないと記していた。
出版後に中国の企業が発表した格安高性能AIディープシークは、まさに衝撃だった。最先端半導体チップを使わず型落ちのチップでオープンAIとNVIDIAにとんでもないショックを与えた。アメリカ政府も衝撃を受けただろう、なぜならこの本の後半を締めたAIを軍事にも利用 -
-
Posted by ブクログ
ネタバレ読中も思っていたし、本文にも中程で明記されるが、自律型兵器に対する評価は映画『ターミネーター』の影響が非常に甚大であるようだ。
反対意見は主に倫理的な立場を取るように見える。倫理的という表現はオブラートで、詰め寄る相手が不在では困るというふうに感じられる。
人類のコントロール下にあればよし、そうでなくなった場合、責任から対処までどーすんだよ、と。人間が責任者であっても大日本帝国陸軍的な暴走はありえる。軍事でない場合の方が、より一層深刻なのかもしれない。自動運転車両が事故を起こした場合、所有者に責任が問われるのか、メーカーに責任が問われるのかという問題があるように。
うすね正俊の漫画『コンバ -
Posted by ブクログ
自律（オートノマス）の技術の発展により、兵器においても人が関与する部分は徐々に少なくなり、ロボットや兵器が自律的に動作するようになっている。
今後もプロセスの中に人間は介在し続けるのか、あるいは完全自立型の兵器が稼働する未来が来るのか。
自律型兵器は汎用AIではなく、あくまでナローAI。ターミネーターのようなことが起こることを真剣に心配する必要はないが、ドローンとAIは民間でも手に入るテクノロジー。
第一部：ドローン登場のインパクト。自動化と自律。自律型兵器とはなにか。
第二部：米DARPAや世界各国における自律型兵器の研究開発について。
第三部：ペトリオットの友軍相撃事件と、ミサイル巡洋艦 -
-
Posted by ブクログ
無人の兵団というこれから来るであろう戦争の一形態について、
まさに2019年の今、周りに普通に存在するテクノロジーから、古くは機関銃が自動化として発明されたころまで遡って、その進化の歴史と、映画のターミネーターのスカイネットが出来るのか？をテクノロジーのみならず戦争の歴史と法の形成まで含めて述べられています。
前半は、近年注目が集まるAIと絡めたストーリーで、特に自律型兵器についての考察があり、「人間がループの中枢にいる。」事が重要という指摘。
この本を読んで、戦争は長い歴史を通じて、一応、法律が存在していて、民間人を巻き込まないとか毒ガスは使わないなど、どこまで効力があるのか分からない -
Posted by ブクログ
軍事面のＡＩの現状と将来を考察した、謂わば研究書だ。期待していたシンギュラリティ（ロボットが人間を超越する）の話ではない。だが、全く関係がないわけではなく、戦争で人間が使用するＡＩを搭載した兵器の将来は、何の規制もなければ（人間の何らかの関与がなければ）、ロボット兵器が勝手に攻撃対象を探索し、勝手に攻撃することになる。場合によっては、例えば、敵の工作などにより、敵・味方の区別なく攻撃することになる。国際的な調整の動きはあるが、いざとなれば、そんな調整は無視されるのがこれまでの歴史である。だが、我々は既に数百の都市を壊滅させられるほどの核兵器搭載ミサイルを、たった一隻の原潜に積み込んでいるのだ。