ロボット工学に関する主要な神話と、それらの創造と拡散におけるSFの役割について考察するシリーズ第1弾。その他のトピック：ロボットは賢い（AIは避けられないという神話）、そしてロボットは邪悪（殺人マシンという神話）。
先週、私はそれほど単純ではない質問でインターネット上でちょっとした騒動を引き起こしました。ロボットカーは、見知らぬ人2人を救うために、所有者の命を犠牲にすべきでしょうか？
これは決して修辞的な質問として意図されたものではなかった。倫理的な乗り物という話題をWiredの論説で初めて提起したカリフォルニア工科州立大学のロボット倫理学者、パトリック・リン氏と話し、またブルックリン法科大学院の法学教授兼副学部長と法的影響について話し合った後、私は確信した。人類の利益のために、答えは顔をしかめるが、心からの肯定である。自動運転車が多数を救うために少数に衝突するかを選択しなければならない場合、そうした倫理的判断は事前に検討され、アルゴリズムに組み込まれている必要がある。私にとって、他のすべての選択肢は、訴訟の混乱、または機械が支援する恐ろしいバトルロワイヤルを意味する。なぜなら、自動車であろうとなかろうと、誰もが所有するロボットが所有者の安全を何よりも優先し、自然淘汰されて公道へと向かうからである。
この物語に対する反応は、複雑な思考実験であるがゆえに当然のことながら、多岐にわたりました。しかし、いくつかの傾向が浮かび上がりました。
まず、いつものようにコメント欄にロボット恐怖症の人たちがいました。彼らは私の見出し以降、あるいはGizmodoやSlateの反応記事で紹介された要約まで読んだかどうかは定かではありません。Facebookで最も「いいね！」されたコメントは、「ロボットや自動運転車を絶対に作らない理由を十分に説明できる。倫理的・道徳的な判断は人間が行うべきであり、その創造物ではない」というものです。同様に、スカイネットについても話題になりました。ターミネーターへの言及は、映画に登場する架空のロボット暗殺者と同じくらい不死身であり、ユーモアがなく、現実世界で起こったことに基づいていないにもかかわらず、不死身だからです。
しかし、より興味深かったのは、否定的な意見に対する反応でした。それは2種類ありました。一つは、すべてのロボットカーが伝説的なSF作家アイザック・アシモフのロボット工学第一法則（ロボットは、行動または不作為によって人間に危害を加えてはならない）に従うべきだというアドバイス、もう一つは、ロボットカーが絶対に間違いを犯さないようになるため、致命的な衝突は時代遅れになるだろうという予測です。「これは問題にならないと思います」とRedditユーザーのiamnotmagritteは書いています。「車はおそらく互いに通信し、そのような状況を完全に回避するでしょう。それでも不十分な場合は、衝突を回避するための経路を互いに知らせ合うでしょう。」関連するSlateの記事を執筆し、現在の自動運転車が技術的にも法的にも「誰を殺すのか？」というトロッコ問題を解決することができないという優れた点を指摘したタイラー・ロペスとのTwitterでの議論の中で、ロペスも同じ意見でした。車両と道路インフラがネットワーク化されることで、「道徳アルゴリズムに関連する危険性は、代わりにネットワークアルゴリズムによって解決されるだろう」と彼は提案しました。
言い換えれば、ロボットは、ただ「誰も殺さないで、ましてや二人を殺さないで」と命令するだけで、機械的な正確さでその任務を遂行するのです。
これは本当に残念なことだ。私にとってこれは、長年疑っていたものの、うまく言葉にできなかった、あるいは少なくとも、さらに我慢ならないスノッブに思われずに口に出せなかった事実の証拠だ。とにかく、人間は概して、ロボットの仕組みを理解していないのだ。
これはそれほど驚くべきことではない。ロボット工学は非常に複雑な研究分野であり、ロボット工学の訓練を受けたり、ロボット工学者として雇用されているのは人類全体のごく一部に過ぎない。物理学についても同じことが言えるのに、一般の人は重力レンズ効果の仕組みや、私たちの決断によって別の宇宙が分岐していくという不気味な可能性について、気軽に意見を述べる資格があるとは思っていないのだ。
では、ロボットが人間に理解できると思わせる要因は何でしょうか?
これも修辞的な質問ではありません。答えはアイザック・アシモフです。あるいは、もっと一般的に言えば、SFです。SF作家たちは、ロボットを実際に作れるようになるずっと前から、ロボットを発明していました。自動化された機械が現代の生活に不可欠なものになった今でも、SFのロボットは登場し続けています。そして、概して、それは嘘をつき続けています。私たちは、キャンプファイヤーで、実際には存在しないロボットについての伝説を聞いているため、ロボットの仕組みを知っていると思い込んでいるのです。
ロボット工学に関するその他の大きな誤解については、今後の投稿で取り上げる予定ですが、まずはロボットカーに最も関連のある誤解と、私たちの周囲で動作するあらゆる自律マシンのための倫理的枠組みを開発する必要性についてお話ししましょう。
ロボットの能力に関する神話について話しましょう。
* * *
「信じろ」とビショップは言い、ナイフが動き出す。名シーン満載のこの映画の中でも屈指の名シーン。アンドロイド（ランス・ヘンリクセン演じる）が、広げた指の間と、押さえつけているスペースマリーンの指の間をテーブルに突き刺す。彼は他の隙間にも刺し、その速度は増し、刃はかすかな音を立て、スタッカートの狂乱でテーブルをえぐり出す。彼が刺し終えると、ビショップが軽い切り傷を負っているのが見える。しかし、かわいそうなスペースマリーンは無傷だった。これは、人造人間であることの副次的な効果に過ぎない、華麗な演技と言えるだろう。
『エイリアン2』では、このロボットとその非人間的な能力がこうして紹介される。驚異的なナイフスキルと手と目の協調性に加え、ビショップはひるむことなく勇敢で、非人間的なほど閉所恐怖症に強く、戦闘用宇宙船を巧みに操縦できる（これは医療従事者にとって標準的な訓練とは言えない）。そして、体を真っ二つに引き裂かれてもほとんど動じない。本当に、あの忌々しい虫狩りに人間を送り込む理由などなかった。武装した合成人間たちの乗組員――ビショップのように、害を及ぼすことが許されていたわけではない――は、LV-426から白血球を一滴も流さずに楽々と立ち去ることができたはずだ。
では、一体なぜビショップはこれほどまでに特筆すべき存在なのでしょうか？それは、 『エイリアン』が私たちの未来を覗き込み、現代のロボット工学者たちが未だ解明していないロボットの効率性の秘密を解き明かしたからではありません。多くのSF作品と同様に、この映画は冒険小説だからです。そして、物語の主目的がスリルを味わうことにあるなら、ロボットもスリル満点でなければなりません。
『エイリアン』は、文学史上初の非公式アンドロイド、フランケンシュタインの怪物にまで遡る伝統を継承しているに過ぎない。怪物は組み立てられた存在であり、その超人的な肉体的、精神的能力は原材料の質に左右されない――オリンピック選手やノーベル賞受賞者から縫い合わされたわけではない――。怪物の完璧さは、ビショップの完璧さや、 『スタートレック』のデータから『オールモスト・ヒューマン』のドリアンに至るまで、他の無数の架空の自動人形の完璧さと同様、説明のつかないものだ。もちろん、その理由は推測できるだろう。人間は遺伝的特徴の寄せ集めで、価値のあるものもあれば、不適応なものもあるが、ロボットは丹念に最適化されている。機械は疲れることも、気力を失うこともない。プログラミングが破られたり、不都合な生存本能が突然芽生えたりすることはあっても、タスクを遂行する能力は確実だ。ロボットは、その祖先であるスイス製の時計と同様、絶対に間違いを犯さないのだ。
ロボットの能力に関する神話は、ある勘に基づいています。そして、その勘は、現実のロボットによって、そのほとんどが完全に間違っていることが証明されています。
実際のロボットは、価値と能力が極めて限定されたデバイスです。1つか2つの作業はうまくこなしますが、それ以外の作業はひどく、あるいは全くこなせません。自動組立ロボットは、人間の作業員が行うよりもはるかに短い時間で車両の塗装やスポット溶接を行うことができ、健康への懸念もありません。それが彼らのナイフ技です。しかし、彼らに内装の取り付けを頼めば、おそらく車両を粉々に壊してしまうでしょう。
ロボットカーは今のところ、同様にサヴァン症候群のような幅広い専門知識を持っている。アトランティック誌が最近報じたように、グーグルの自動運転車が機能するには、詳細なLIDARマップ（道路の輪郭をレーザーでスキャンして作成した3Dモデル）が必要だ。自動運転車は、周囲の車との接近を検知したり、交差点で優先権を判断したりするなど、高度な技術が求められる。しかし、ロボットはレーザーで照らされた道路にアルゴリズム的にロックオンされる。センサーが生成したパンくずの跡をたどりながら、定められたコースを走り続ける。人間が対処しなければならない状況と比べると、これらのロボットは最も安全で安心な常駐の運転教習生と言えるだろう。歩行者や飲酒運転者を進路に飛び出させてロボットの運転技術を試したり、地図のない雪に覆われた田舎道に誘導したりするようなことはしない。致命的な衝突を回避できるかどうかは未検証だ。
もちろん、ロボットはより良くなるでしょう。センサーは進化し、数も増え、制御アルゴリズムはより堅牢になり、もしかしたらロボット同士が会話を始め、差し迫った危険を互いに警告し合うようになるかもしれません。しかし、衝突が減った世界から完全に衝突のない世界への飛躍は仮定であり、特にロボット工学、そして機械装置全般の厳しい現実によって十分に裏付けられているわけではありません。機械は壊れ、ソフトウェアは不具合を起こします。自動車の環境は、エンジニアリングの中でも最も過酷で困難な分野の一つであり、部品は激しい温度変化、危険な路面状況、そして複雑に連動するシステム内の他の部品の予期せぬ故障に耐える必要があります。ロボットがタイヤがパンクしそうになっていることを常に把握したり、近くの車すべてに緊急事態をブロードキャストしたりできると仮定するしか方法はありません。そして、各車はハリウッドのスタントドライバーのように瞬時に、奇跡的なパフォーマンスで反応するでしょう。そのためには、ロボット工学者、コンピューターが不可解にクラッシュした経験のある人、Wi-Fiがダウンした経験のある人、ストリーミング動画が一瞬途切れた経験のある人ではダメです。ロボットの能力、いや、正確には超能力という神話を信じるには、SFがそう言っているからという理由で、ロボットは完璧だと信じなければなりません。
* * *
アイザック・アシモフの『ロボット工学の原則』を引用する人は、無意識のうちに助けを求めている。つまり、ロボットを現代のおとぎ話、つまりユダヤ神話に登場するバグだらけのゴーレムの後継者、Googleが作ったものとみなしているのだ。
しかし、アシモフの法則は、生死を分ける力を持つロボットに関する未来のジレンマを解決するために設計されたものではありません。それは物語の装置であり、整然として過度に単純化された指示は、説得力のある物語につながる抜け穴、矛盾、論理的欠陥を許容しています。もしあなたがこれらの法則のいずれかを引用するなら、あなたは二重の罠に陥っています。アシモフのロボットの製作者や運用者（彼らは間違っているはずなのに）と同じ、危険なほど狭い論理に陥っているのです。さらに悪いことに、現実についての思考を空想に頼っているのです。たとえすべてのロボットに人を傷つけないように命令することができたとしても、ロボットが突然物理法則を克服したり、ブルースクリーンの変遷を全て消し去ったりしない限り、大型の自動機械は転がったり、つまずいたり、人にぶつかったりするでしょう。これは稀なケースかもしれませんが、一部の哀れな人々にとっては避けられない事態となるでしょう。さらに、ロボット工学の研究開発資金の最大の提供者である軍は、第一法則がそのような機械すべてに適用されることに何か言うかもしれない。
だからといって、SFがロボット工学について私たちを誤解させようとしているとか、無視すべきだと言っているのではない。私は、 2001年のHAL9000からターミネーターのT-800まで、超有能な怪物にインスピレーションを受けた多くのロボット工学者や人工知能研究者と話してきた。ロボットの力への夢は人を酔わせるものだ。こうした科学者が作るシステムが、たいてい人間の能力の薄っぺらな影に過ぎないというのは、ロボット工学においては単なる事実だ。結局のところ、ほとんどの場合、自動化の目的は超人的な能力を作り出すことではない。それは、人間を方程式から外し、お金を節約し、命を救い、退屈なことをする時間と手間を省くことにある。プレデター無人機は、ロボットだからといって有人のF-16戦闘機よりも優れた航空機ではない。実際、全く優れた航空機ではない。無人機は、例外なく、空を飛ぶ軍用車両の中で最も印象に残らないものだ。しかし、それらは小型で、本格的な空中殺戮兵器よりも購入と配備が安価です。防空技術が身を隠すための逃げ場に過ぎない地域で地上目標を暗殺するという任務であれば、「十分に使える」技術です。しかし、従来の攻撃機や、侵入する航空機を撃墜するために設計されたシステムと対峙すると、武装ドローンは煙を上げる廃墟と化すだけで精彩を欠くでしょう。
非常に限定的で限定された用途においては、ロボットは強力です。しかし、ほとんどの場合、ロボットは弱点を露呈します。費用対効果の高い代替品に過ぎません。あるいは、DARPAロボティクス・チャレンジに出場するぎこちなく不器用なヒューマノイドロボットのように、信じられないほど質素な装置でもあり、健常者ならはるかに短い時間でこなせるようなタスク（車両の運転、瓦礫の上を歩く、電動工具を使うなど）を、徐々に苦戦しながらこなしていく姿が称賛されています。ジャーナリストはしばしば、こうした神話作りに加担しています。彼らは自動化能力を誇張し、ロボットがタスクに取り組む際の意思決定を美化したり、障害者用外骨格や高度な義肢に関するあらゆる議論を、アイアンマンのような能力が将来登場するという輝かしい予言に変えたりします。ジャーナリストは、SFに由来するロボット技術に関する誤った先入観を覆すべきなのに、代わりにそうした勇敢な行動を描いた物語に言及し、SFがずっと正しかったという感覚を強化しています。空想の世界であれ、メディア報道の歪んだ舞台設定であれ、ロボットは強力だ。そうでなければ面白くないからだ。
ということで、私はみんなのロボット党を本気で批判する男になった。しかし、別の見方もあると思う。ロボットは誇張しなくても印象的になり得る。ロボットの手足は、切断者の自立を回復させるという点で驚くべき成果であり、 Almost Humanがバイオニックレッグで人を部屋の向こう側に蹴り飛ばせると想像したからではない。SFの思考実験や漠然とした予測を愛することは可能だが、SFにとって厳密に正確であることが最善であるとは限らないことを認識している。ロボットは、大学教授とその絶望的な状況を描いた陰鬱な文学に迷い込む傾向はない。架空の機械は、人間の本性をより良く、アップグレードした天使であり、並外れた知性と身体能力で製作者を守っている。多くの場合、ロボットは完璧で一方的なクーデターで主人に反旗を翻すが、それはゾンビの発生と同じくらい実現可能であり（そしてポップカルチャーから排除することは不可能である）。ロボットは、最も楽しいバージョンのロボットなので最適です。
現実のロボットについて、そのような考え方や話し方は愚かです。ロボットは必ず故障し、期待に応えられなくなります。自動化は、私たちの社会を不安と興奮の両方をもたらす形で変容させています。ロボットがあれば（場所によっては）暗殺も容易になります。衝突もいつかはロボットによって減少するかもしれません。機械の自律性は、職業そのものを消滅させ、新たな職業を生み出したり強化したりするでしょう。ロボットは人間の生活を再構築し始めたばかりです。ですから、SFの人工的なヒーローや悪役、そして技術的理解の隙間を埋める安易で根拠のない空想については、しばらく口をつぐんでください。現実世界で、失敗を犯すロボットについて語るべきことは山ほどあります。そして、私たちの短く、残酷な、肉体的な人生の中で、それらをどうするかを議論する時間は限られています。
