昨日、国連の専門家は「致死的自律ロボット」、平たく言えば「殺人ロボット」の開発の停止と一時停止を求めた。
彼の主張は、殺人ロボットが一度戦争に参加すれば、後戻りはできないということだ。国連の超法規的処刑、即決処刑、恣意的処刑に関する特別報告者であるクリストフ・ヘインズ氏は、人権理事会に対し、今こそ殺人ロボットを規制し、阻止すべき時だと述べ、「武力紛争における生死に関わる決定には、思いやりと直感が必要となる場合がある」と主張した。また、現行の国際法が殺人ロボットの使用に適切に対処しているかどうかを調査する委員会を設置するよう人権理事会に求めた。
問題は、殺人ロボットが既に存在していることだ。そして、それらは私たちが想像し得る限り最も思いやりのない機械だ。
私が言っているのは地雷のことです。踏むと爆発する、あの悪名高い爆発物です。地雷は特定の条件が満たされると人を殺すようにプログラムされています。これは殺人ロボットの原理と同じです。
しかし、いくつか重要な違いがあります。殺人ロボットは、アルゴリズムと入力、内部コード、そして事前にプログラムされた戦闘行動に基づいて判断を下すかもしれません。戦争法を理解するようにプログラムされているかもしれませんし、監視技術を用いて非武装の民間人と武装戦闘員を区別するかもしれません。顔認識ソフトウェアの原理と同じ原理が、ロボットが他の武器に照準を合わせる際にも応用できるかもしれません。つまり、ロボットは銃を無力化するために発砲し、人を殺すために発砲するわけではないのです。
一方、地雷は民間人と兵士、異なる国籍の兵士、動物と大きな子供と小さな兵士を区別できません。地雷の起爆装置は簡単に停止させることができず、知能ではなく耐久性を重視して設計されています。最悪の場合、殺人ロボットは地雷と同じくらい致命的で無差別になる可能性があります。しかし、おそらく地雷よりもはるかに高度なものになるでしょう。
立法者が担うべき課題は、恐怖心から技術を禁止することではなく、技術が出現した暁には、それに合わせて法律を適応させることです。新しい技術に関する立法上の決定は容易ではありません。アメリカ合衆国では、電子通信は電子メールが生活に当たり前のものとなるずっと前に制定された法律によって規制されています。1986年当時、電子メールを想像しようとしていた議員にとっては理解しやすい規定が、プライバシーと個人の安全にとって大きな弱点となりました。これはすべて、法律が制定された当時、この技術が理解されていなかったためです。電子通信を規制することのリスクは、ロボットに殺人を許可することのリスクよりもはるかに低いのです。
殺人ロボットの到来が迫っている。その導入を阻止したり開発を禁止したりする努力は、失敗する可能性が高いだけでなく、その技術を最も安全に導入する方法に関する正当な懸念を、ラッダイト的な恐怖煽動によってかき消してしまうだろう。
