自律兵器

　SF小説などの世界では随分昔より当たり前のように実現している自動車等交通手段の自動運転ではあるが、ほんの少し前までは遠い夢の技術でもあった。元々、自動的に運転させるというメカニカルな部分は既存技術と大きな差異はないためさほどの障害ではなかったが、一方でセンサ技術や状況認識技術に関しては近年の急速な技術発展が寄与している。一時期は、高速道路等にセンサを埋め込むことで特定の限定された道路のみを自動運転させようという案も提示されていたが、最近ではそれを凌駕する汎用性が既に実証実験のレベルにまで来ている(http://www.nikkei.com/article/DGXNASFS0900Z_Z01C13A1PE8000/)。

　先日は、自動停止システムの不具合により試乗車がフェンスに激突して怪我人を出した事件があった(http://toyokeizai.net/articles/-/24018)。原因として、想定していた以上の速度を出したこととか、フェンスは認識しにくいことなど様々な想定が為されているが、ソフトウエアのバグ取りがまだ完全ではないという事に近い感じがする。こうした技術も自動運転のおそらく基幹の部分を担うであろう事から、今後は不具合による責任問題が大きくクローズアップされるであろうことは既に各方面から指摘されている。現状では、自動運転機能の切り売りを始めていると捉えた方がわかりやすい。
　今のところ自動ブレーキはあくまで運転補助システムという位置づけであり、機能しない可能性を考えて運転責任は運転手が保有するように謳っているが、これがその先の自動運転を視野に捉えるとそう簡単にはいかないだろう。言い方は悪いが、現状では自動運転用の停止機能の劣化版が市場テストされているという感じではないか。

　さて自動運転とは方向性が異なるが、ロボット兵器などの自律型兵器が現在世界的に問題とされ始めている(http://mainichi.jp/select/news/20131115k0000m030065000c.html)。いろいろと定義はあろうが、映画ターミネイターの世界のように殺戮兵器が自律的に人を殺すというのは大問題だという議論である。もっと突き詰めれば、ロボットであろうが人間であろうが殺戮行為は認められないというのが建前ではあるが、実際には世界は紛争に満ちあふれておりこの議論は理想論としては良くても現実的な意味を持つことができない。そこで、倫理的な意味で自律的なロボットを抑止しようという方向に動いている。
　アイザック・アシモフがロボット工学三原則(http://ja.wikipedia.org/wiki/%E3%83%AD%E3%83%9C%E3%83%83%E3%83%88%E5%B7%A5%E5%AD%A6%E4%B8%89%E5%8E%9F%E5%89%87)を提示したのは1963年であるが、この枠組みがいよいよリアリティを持ち始めてきた。
　ところが実際には、こうした自律型兵器が人間を正確に把握し傷つけないという保証は存在しない。三原則は理念としては非常に大きな意味を持つが、それを実現させしめる明確な処方箋は今のところ何処にもないのである。仮にこうしたルーチンが義務づけられたとしても悪意をもって扱えばそれを取り除くことなど容易にできるだろう。有効な方法が見つからない限り、結果的には最後は使用する人の倫理に依存する。

　そもそもロボット兵器が生み出された根本的な理由は、先進諸国の場合効率的な大量殺戮を目指すと言うよりは兵士の命の価値が高くなったため、ロボットの方がコストパフォーマンスが上がったというのが現実ではないかと感じている。逆に言えば人間であろうがロボットであろうが、戦争を仕掛けるという意味では違いはなくロボットを使用したからより悪いというものでもない。むしろ、一般人を利用したりするゲリラ的な戦術やテロの方がずっとタチが悪い。
　そこにあるのは、戦争が仮に生じたとしてもそれを一般的な生活と切り離すことができるのかという問題ではないか。だからと言って戦争を承諾するつもりも肯定するつもりも一切無いが、人命を失わず消耗による決着がつけばそれに越したことはない。
　現実にはこうしたルールを持つこと自体が弱点になるため、ルールを無視するものが常に強いというのが問題なのだが。