本棚登録 : 
感想 : 
- Amazon.co.jp ・本 (576ページ)
- / ISBN・EAN: 9784152098757
作品紹介・あらすじ
ＡＩやロボットに生殺与奪の権利を与えるとき、何が起きるのか？――急速に開発が進む「自律型兵器」の実態に元レインジャー部隊員のアナリストが迫る。30カ国以上で導入されている先端軍事技術の現場を取材し、開発と規制の課題、戦争と人類の未来を展望する。
感想・レビュー・書評
-
【無人の兵団―AI、ロボット、自律型兵器と未来の戦争】
来るべき未来に出現するであろう、汎用人工知能を持つ兵器の展望と、人との関わりのお話。
【スーパーインテリジェンス】での人間を越える汎用能力を持つAI出現や、【誰のためのデザイン？】での人とシステムのインターフェース設計を思い出しながら読んだ。
自律型兵器が一線を越える前に決めておくべきルールのいくつかは顕在化できてるものの、残念ながら全く定まっていないところで開発が進んでる。そもそも何をもって自律した兵器と言うのかってところから。
過去のエピソードや、物理的な領域に限定されない自律型兵器の戦場についても広く紹介があった。兵器の話に止まらない、AIの活用と未来を考える本。
#読書 #AI #兵器 #早川書房
2
詳細をみるコメント0件をすべて表示 -
無人の兵団というこれから来るであろう戦争の一形態について、
まさに2019年の今、周りに普通に存在するテクノロジーから、古くは機関銃が自動化として発明されたころまで遡って、その進化の歴史と、映画のターミネーターのスカイネットが出来るのか？をテクノロジーのみならず戦争の歴史と法の形成まで含めて述べられています。
前半は、近年注目が集まるAIと絡めたストーリーで、特に自律型兵器についての考察があり、「人間がループの中枢にいる。」事が重要という指摘。
この本を読んで、戦争は長い歴史を通じて、一応、法律が存在していて、民間人を巻き込まないとか毒ガスは使わないなど、どこまで効力があるのか分からない法が有るらしい事がわかった。
そして、出来る限り戦争という形を取りたくないと言いつつも、自分たちが自律型兵器を作らなくても、誰かが作って使うかもしれないというジレンマ。
「人間がループの中枢にいる。」事で過去の大惨事を防いで来た例を挙げつつも、株式市場では、機械同士のマイクロ秒のアルゴリズムの戦いが既に起きている事実も挙げている。
過去の兵器は、精度が低い為に、被害の規模を大きくしてしまうが、画像認識のテクノロジーでターゲットを精確に判定する事で最小限の被害で済む可能性にも言及しつつ、それでも「人間がループの中枢にいる。」事を筆者は支持している。
この本では、ドローンをはじめとして、アルゴリズムすら簡単に手に入る現状も紹介しており、混沌とした状況に頭が疲れる。
読後感としては、日本は、安価になり続けるテクノロジーを自己の力を誇示する為に人を殺すところに使うのではなく、災害救助や介護など、人を助ける為の活動に世界で一番投資して欲しいなと思った。
目次
第一部 地獄のロボット黙示録
1 スウォーム襲来 軍事ロボット工学革命
2 ターミネーターと〈ルンバ〉 自律とはなにか？
3 人を殺す機械 自律型兵器とはなにか？
第二部 ターミネーター建造
4 未来はいま造られている 自律ミサイル・ドローン・ロボットの群れ
5 パズル・パレスの内部 国防総省は自律型兵器を建造しているのか？
6 境界線を越える 自律型兵器の承認
7 世界ロボット戦争 世界のロボット兵器
8 ガレージ・ロボット DIY殺人ロボット
第三部 ランアウェイ・ガン
9 暴れ狂うロボット 自律システムの故障
10 指揮および意思決定 自律型兵器は安全に使えるのか？
11 ブラックボックス 深層ニューラル・ネットワークの摩訶不思議で異質な世界
12 死をもたらす故障 自律型兵器のリスク
第四部 フラッシュ・ウォー
13 ロボット対ロボット 速度の軍拡競争
14 見えない戦争 サイバースペースの自律
15 “悪魔を呼び出す” 知能を備えた機械の勃興
第五部 自律型兵器禁止の戦い
16 審理にかけられるロボット 自律型兵器と戦時国際法
17 非常な殺し屋 自律型兵器の殺傷力
18 火遊び 自律型兵器と安定性
第六部 世界の終末を回避する 政策兵器
19 ケンタウロス戦士 人間+機械
20 教皇とクロスボウ 軍備管理の雑多な歴史
21 自律型兵器はどうしても必要なのか？ ロボット工学の地誌原則の探究
結論 運命などなく、私たちが作るものがある
1
-
軍事面のＡＩの現状と将来を考察した、謂わば研究書だ。期待していたシンギュラリティ（ロボットが人間を超越する）の話ではない。だが、全く関係がないわけではなく、戦争で人間が使用するＡＩを搭載した兵器の将来は、何の規制もなければ（人間の何らかの関与がなければ）、ロボット兵器が勝手に攻撃対象を探索し、勝手に攻撃することになる。場合によっては、例えば、敵の工作などにより、敵・味方の区別なく攻撃することになる。国際的な調整の動きはあるが、いざとなれば、そんな調整は無視されるのがこれまでの歴史である。だが、我々は既に数百の都市を壊滅させられるほどの核兵器搭載ミサイルを、たった一隻の原潜に積み込んでいるのだ。射撃手のミス、あるいは機器の誤作動によって、地球は壊滅する。これをいかに防ぐか、著者にも確たる対策は見えていない。
５００ページにも及ぶ大著だが、例が豊富に引用されているので、やや専門的ながら、また、議論が空回りする部分があるが、それほど苦労せずに読み進められる。
1
-
長い。かなり長い。
兵器や軍事に興味が強い人でないと読めないだろう（まあ、そうじゃない人は読まないか）。
自律型兵器の定義そのものから、実際の兵器の運用や過去の誤爆事例なども含めて、詳細に丁寧に述べられている。
最近はやっている株取引の高速取引、いわゆるアルゴリズム取引にて、コンマ何秒の世界で勝負する世界になり、結果、フラッシュクラッシュという原因不明の暴落を例に説明していた点においては、とても納得がいった。
判断が人間の手を離れ、機械が自動的に判定すると、いきつくところまで行ってしまうということ。株ならまだなんとかなる（まあ、これはこれで大変なことだけど）が、戦争で行きつくところまで、勝手に行ってしまう、リスクがあることを知った。
無人兵器システムは人間の監督下に置かれるべき、というコンセンサスについては、まったくその通りだと感じるが、人間がどこまで責任を負うべきか、というのはとても難しい問題だ。
1
-
科学技術の発展をドライブさせる因子には様々なものがあるが、最も重要な因子の一つが”軍事”であるのは間違いがない。では、現代を代表する科学技術の一分野であるAIは”軍事”の中でどのように用いられ、発展していくのか？
本書は実際にアメリカのレンジャー部隊に所属し、イラクとアフガニスタンにて危険な任務に従事した後、軍事兵器のアナリストとして活躍している著者が、AIがどう”軍事”の中で用いられており、どのような論争が起こっているのかという全体像を非常にわかりやすく示してくれる。
軍事兵器にAIを用いることで得られる究極の姿は、人間の判断を経ることなく、自律的な軍事行動の遂行である。それはつまり、敵を自ら探索し、自ら攻撃を仕掛けて殲滅させる、という行動を意味する。しかし、民間人がほぼ存在しない水中や宇宙空間などの特殊な場所ならまだしも、大多数の陸上においては、その敵と民間人の区別を付けるのはAIであっても極めて困難である。そして、仮に画像認識等の技術によりそれが可能になったとしても、人間の生命を奪うという行為を、人間の判断を経ることなくAIが行うという点についても、倫理的な問題が立ちはだかっている。
とはいえ、超小型ドローンなど、AIを搭載して、一定の範囲内で制限付きの自律行動を取る軍事兵器は既に存在している。AIの倫理を考える上で、人を殺すという軍事において、我々がどのように対処していくべきなのかが極めて深刻な問題であるということを本書は教えてくれる。
1
-
ロボットの「自律」性、そして人間が"彼ら"に与える権限即ち「自由」度を重要な鍵と捉え、半自律型兵器（装置）による事故の教訓を交えつつ、自律型兵器使用時に想定される課題や問題点を洗い出している。映画「ファンタジア」の"機械"の暴走シーンや、キューバ危機でもし人間の判断が介在出来ないシステムが運用されていたら、という仮想などは特に分かりやすかった。歴史を紐解くと、必ずしも兵器の製造能力→兵器の使用となるわけではない。禁止に成功した（非人道的）兵器もあるし、使われたことのない（大量破壊）兵器が今日抑止力として機能もしている。ロボット兵器もその範疇に入ると思われる。そこには外交・法律・道徳・政治といった要素も密接に絡んでくるし、自立型ロボットの問題は、自動運転車など一般生活に関わるオートメーション全般の運用とも共通する。「無人の兵団」は戦争に限らず、未来の我々の生活の話でもある。
1
-
自律型兵器の使用について、特に賛成でも反対でもなく、どちらの立場であってもよく検討しておかなければならいない事項を、具体的な内容とともに説明しており、非常に参考になった。
自律型兵器の問題は、結局のところ攻撃目標選択をAIという名のアルゴリズムに委ねている点であり、その（プログラムした人間の意図どおりという意味での）正確性と倫理的妥当性である（と私は考える）。
正確性はプログラムである以上限界があり、そのため現状は人間が自律型兵器のループ内に挟まる形となっているが、しかし人間が間に挟まろうが、意図をしないミスは発生するものであり、結局は自律型兵器の問題ではなく、例外事項発生時の対処を如何にするかの問題である。
後者の倫理的妥当性、つまり人を殺すという意思決定を、人間が下さずコンピュータが下すという行為の残酷さ、生命の扱いの軽さの問題については、そもそも人を殺すという行為そのものが残酷であり、アルゴリズムが決定したから残酷で、人間が決定した残酷ではないというのもおかしな話である。そもそもの判定プログラムのコーディングの時点で、どういった対象を殺害するという人間の意志は反映されており、直接の決定の部分をコンピュータが行ったから倫理的に妥当でないというのもナンセンスである。
ここまで考えると、自律型兵器の何が問題なのかよくわからなくなるが、しかし本書には倫理的妥当性に関して、その先のことが書いてあった。
人を殺すという意思決定は、人間が下そうが自律型兵器が下そうが残酷でおぞましいものであり、それが戦争というものであるが、そのおぞましい行為を自律型兵器に委ねてしまえば、人を殺すことにより生じる道徳的負荷を消滅または軽減してしまうことになる。
これは殺人という行為を悪いと感じなくさせてしまうことを意味し、確かにこういった意味で自律型兵器の問題は大きいと感じた。
遠距離精密兵器の登場により、殺人の道徳的負荷はどんどん軽減されっていっており、それを自律型兵器はより一歩進める可能性がある。
将来の戦争は、このまま殺人を前提としつつ、その道徳的負荷を軽減しながら実行していく形となるのか、それともサイバー戦のように、殺人は前提とせず、相手の国への意図の強要だけが行える形となっていくのか。
自律型兵器は、戦争のやり方という（従来戦の中での）作戦・戦術面の影響だけではなく、戦争のありよう・戦争への人間の関わり方を変えるという、より大きな影響を持つ重要な兵器なのだということに気づかされた。
1
-
#日本SF読者クラブ 「無人の兵団」というと、真っ先に思い浮かぶのは新造人間キャシャーンのアンドロ軍団。あとは、ターミネーターとバーサーカー。本書は、端的に言うと自律型兵器の解説書だが読みづらい（厚いし）。軍事テクノロジー物にありがちであるが、文章の構成と訳に難があるように思える。
1
ポール・シャーレの作品
この本を読んでいる人は、こんな本も本棚に登録しています。
