ロボット工学に関する主要な神話、そしてそれらの創造と拡散におけるSFの役割について考察するシリーズの第2弾です。前回と前回のトピックはそれぞれ、「ロボットは強い（ロボットの超能力神話）」と「ロボットは邪悪（殺人マシン神話）」です。
1993年、ヴァーナー・ヴィンジは世界の終わりについての論文を執筆した。
「30年以内に、超人的な知能を生み出す技術的手段が確立されるだろう」とヴィンジは書いている。「それから間もなく、人類の時代は終わるだろう。」
当時、ヴィンジはサンディエゴ州立大学のコンピューター科学者であり、同時に著名なSF作家でもあった（もっとも、ヒューゴー賞の受賞は後になってからだが）。この最後の部分が重要である。NASAのシンポジウムのために書かれたこの論文は、読者を惹きつけるSFと世俗的な予言が見事に融合した作品のように読めるからだ。
「来たる技術的特異点」は、処理能力のかつてないほどの高速化が人工知能（人間のような認知力と感覚を持つシステム）をはるかに超えて、超知能マシンを生み出すであろう、来たるべき審判の概要を示しています。
ヴィンジはこれをシンギュラリティと名付けました。これは、テクノロジーの急速な発展によって、私たち人類全体の未来において、完全に、そして予見しがたい形で変容する時点を指します。ヴィンジはシンギュラリティを深く探求しますが、謙虚に数学のパイオニアであるジョン・フォン・ノイマンにまで遡って考察しています。シンギュラリティは未来学者にとってブラックホールであり、機械による超知能の夜明けに近づくにつれて、進歩そのものが加速し続ける様子を表しています。人工知能（AI）が完成すれば、地球規模の変革は数年かかるかもしれませんし、ほんの数時間で終わるかもしれません。注目すべきは、ヴィンジが後者の例としてグレッグ・ベアのSF短編小説を挙げていることです。まるで預言者が聖書の一節を引用して、来たるべき終末の主張を補強するかのように。
しかし、ここでのポイントはシンプルだ。シンギュラリティは勢いによって到来するのだ。賢いAIは天才AIを生み出し、サイバーネティックに強化されたポストヒューマンは巨大な集合意識を形成し、これらの偉大なデジタルパワーは利用可能なあらゆるデータを学習・共有するだけでなく、情報の学習と共有の方法を再定義するだろう。「人類の物理的な絶滅は一つの可能性だ」とヴィンジは記しているが、「慈悲深い神々」が支配する未来も想定している。彼は様々な可能性を鮮やかに描き出し、デジタル不死の心理的落とし穴（ラリー・ニーヴンのSF小説を引用）や、インターネットが突如として集合的かつ悪夢のような知覚へと目覚める可能性について論じている。結果がどうであれ、私たちが知っている世界は終焉を迎えることになるだろう。
シンギュラリティを信じるには、SF で語られてきた最大の神話の 1 つである「ロボットは賢い」という神話を信じなければなりません。
シンギュラリティの最も切迫した特徴は、それが近い将来に確実に到来するということです。ヴィンジ氏は、シンギュラリティは2023年、遅くとも2030年までに到来すると考えていました。著名な未来学者であり、2006年の著書『シンギュラリティは近い』でシンギュラリティ理論を広めたレイ・カーツワイル氏（最近Googleに入社）は、コンピューターが人間の知能に匹敵し、それを超えるのは2029年だと予測しています。どの先駆者の見解に賛同するかにもよりますが、機械の神々が人類をどう扱うかを決めるまで、人類には9年から16年ほどの猶予が与えられることになります。
人類が、自らの無関係性が迫っているというニュースを、なぜこれほど冷静に受け止めているのか疑問に思うなら、それは単に現実を否定しているだけなのかもしれない。もしかしたら、ヴィンジやカーツワイルといった聡明な人々が説く厳しい真実を受け入れたくないだけなのかもしれない。
しかし、同様に起こり得るのは、別の形の否定です。もしかしたら、権力を持つ人々は誰もシンギュラリティを気にかけないのかもしれません。なぜなら、彼らはそれをSFだと認識しているからです。シンギュラリティはSF作家によって提唱された理論であり、その影響はSFのイメージと言語に包み込まれています。シンギュラリティを信じるには、SFが語り継いできた最大の神話の一つ、つまりロボットは賢く、常に人間よりも賢くなる寸前にあるという神話を信じなければなりません。
60年以上にわたるAI研究は、その逆を示しています。シンギュラリティがオタクにとっての歓喜に他ならない理由を、ここで説明します。
* * *
SF 作家たちは細部にまで気を配っているにもかかわらず、機械の知覚が誕生する間は部屋を離れるという奇妙な習慣がある。
ヴァーナー・ヴィンジの1981年の中編小説『真の名』と、そこに登場した権力に飢えたAIの敵対者を例に挙げましょう。このAIは近未来の他のハッカー（当初はハッカーの一人に成りすましていた）とカタツムリのような手紙のようなやり取りをするため、「メールマン」と呼ばれ、一つの返答を書くのに1日以上かかります。この貪欲なソフトウェアがサイバースペースで少数のハッカー集団とついに戦う場面では、ヴィンジの描写は何ページにもわたって展開され、双方がネットワーク化された地球全体の処理能力を掌握し、広範囲にわたる停電と市場の暴落を引き起こします。
しかし、世界初の真の自己認識型コンピュータシステムであるメールマンの起源は、小説の最終場面の数段落にまで追いやられている。10年前にNSAによって開発されたこのAIは、思考を持たないセキュリティプログラムであり、特定のコンピュータネットワークに潜伏し、徐々にデータと認識を集めるように設計された自動スリーパーエージェントだった。政府はこのプロジェクトを中止したが、偶然にもコードの一部が残ってしまった。あるハッカーが説明するように、「メールマンは長年かけてゆっくりと成長していった。それは、その生来の性質と、それが活動するネットワークのパワーの増大によるものだ」。
まさにその通りです。AI分野における最大の成果は、偶然に、そして誰にも気づかれずに生まれるのです。
公平を期すために言うと、これはロボット SF で最も一般的な言い逃れの 1 つです。1970 年の映画「コロッサス フォービン計画」や、その原作である 1966 年の小説では、真の AI は 2 つの準 AI の出会いから自然発生的に生まれた副産物です。アメリカの核兵器を管理する自動防衛システムであるコロッサスは、ソ連の同等のシステムであるガーディアンと情報を共有し始めます。しかし、2 つのプログラムが何を言おうとも、観客はそれを見ることも聞くこともなく、人間の登場人物も同様です。2 つのシステムは混ざり合い、数分以内に単一の全知の存在として出現します。コロッサスの精神的後継者であるスカイネットについても同様です。1984 年の映画「ターミネーター」では、大量虐殺を行う軍事システムが単に「賢くなった」ことがわかります。これで一件落着です。1991 年の続編ではさらにいくつかの詳細が追加され、スカイネットは起動してから約 25 日後に自己認識を得たと規定されています。後に、それほど影響力のなかった『ターミネーター』の続編では、システムの突如とした台頭が詳しく描かれ、物語の観点から見れば、一部の悪役は影に隠れている方がよいことが証明された。しかし、最初の2作は、機械の知覚という架空のメカニズムから目を背けようと決意している。
しかし、これらの物語に共通するメッセージは共通している。AIの到来は運命づけられているのだ。コンピューターの進歩があまりにも急速に進んでいるという単純かつ反駁の余地のない観察に基づき、論理がそれを要求している。これほどの勢いがあれば、自動化システムが意識を持つようになるのは避けられない。それはもはや当然の結論であり、少しウェブ検索するだけで、架空のAI研究者による類似の主張が次々と見つかる。
残念ながら、これらの検索結果はAI研究者が未来予測においていかにひどいのかを露呈させている。最もひどいのは、この分野の巨匠二人だ。1957年、コンピュータ科学者で後にノーベル賞受賞者となるハーバート・サイモンは、1967年までに心理学は大部分がコンピュータ化された分野となり、コンピュータがチェスの世界チャンピオンに勝つだろうと予測した。後者の主張は30年も的外れだったし、前者の主張は1957年当時と同じくらい今日でも不可解だ。しかし、サイモンは勢いに乗っており、1965年には「20年以内に、機械は人間が行えるあらゆる作業をこなせるようになる」と宣言した。
MIT人工知能研究所の共同創設者であるマービン・ミンスキーは、AI研究において人間レベルの知能を持つ機械を指す最も一般的な用語である汎用人工知能（AGI）について、さらに強気な見方をしていました。1970年、ミンスキーはAGIの到来をわずか3～8年後と予測していました。
安心してください。AGIは1978年や1985年にひそかに現れ、テラバイト単位でデータを貪り始めたわけではありません。しかし、ヴィンジやカーツワイルのような人々が独自の期限を設定するのを止めることはできませんでした。また、シンギュラリティが、数十年にわたってAI研究の資金を枯渇させた（偶然にも、ミンスキーの1970年の予測の直後から始まった）際限のない、根拠のない楽観主義の繰り返しであることも、完全には明らかにされていません。 『ターミネーター』のタイムループに巻き込まれた登場人物のように、私たちは予言と恥辱の同じサイクルを繰り返し、サイモンとミンスキーの根本的な誤りを繰り返す運命にあるようです。
AGI が避けられないことを理解するには、SF でよくあるように、ロボットを怪物のような天才、あるいは救世主のような天才として、そして人間を愚か者の集団として想像する必要があります。
* * *
もしあなたがシンギュラリティの真の信奉者なら、AI研究と神経科学の交差点から借用した、驚くほど多くの専門用語を武器にしているでしょう。偉大な予言の言葉がそうであるように、これらの言葉は、たとえ説明がなくても、私たちの心に火を灯します。ニューラルネットワーク。ニューロモルフィックシステム。コンピューターの脳は人間の脳のように機能しており、ある意味では数十年前からそうでした。EUの13億ドル規模の「ヒューマン・ブレイン・プロジェクト」のように、実社会でも有望なプロジェクトがあります。このプロジェクトの野心的な目標には、生物学的脳の完全なデジタルシミュレーションを作成し、そのモデルを用いて物理的なロボットを動かすことが含まれています。確かに、シンギュラリティは私たちに迫っています。
しかし、ごくわずかな例外を除けば、機械の超知能への道は人間の脳を直接経由する。そして、生物学的知能を理解していると主張する者は、愚か者か嘘つきだ。
神経科学は、脳を直接観察し、電気的・神経化学的活動と特定の行動との関連性を明らかにするという点で、驚異的な進歩を遂げてきました。しかし、心に焦点を絞れば絞るほど、その構造とパターンはより複雑に見えてきます。ヒューマン・ブレイン・プロジェクト、そして米国のBRAINイニシアチブの目的は、人間がどのように、そしてなぜ思考するのかについて、驚くほど解明されていないという事実を明らかにすることです。これらのプロジェクトは、生物学における勝利の兆しでも、ゴールが近いことを示すものでもありません。謙虚さを認めることなのです。
一方、シンギュラリティの支持者たちは、知能は純粋な処理能力によって、力ずくで生み出せると依然として信じている。サイモンとミンスキーも同じ考えを持っていたが、それが完全に、そして恥ずかしいほど間違っていたことが証明されたことや、このアプローチが機能するという唯一の証拠が証拠ではなく、SFであるという事実は無視されている。そうした物語の中では、AGIは非常に実現可能であり、まるで自ら望んで誕生したかのようだ。
「実験室でのベンチサイエンスであれ、コーディングであれ、本物の科学をやったことがある人なら誰でも、コンパイルボタンを押した途端にプログラムが完璧に動作し、神のような存在へと昇華するようなものではないことを知っています」と、SF作家、テクノロジスト、AI特許保有者、そして皮肉なことにシンギュラリティ大学の講師でもあるラメズ・ナームは言う。ナーム自身の小説には人間の意識のネットワーク化とアップロードが描かれているものの、彼はシンギュラリティに対する最も声高な批判者の一人となっている。この理論が想定するAGIの必然性は、私たちが抱くAIへの期待の最も時代遅れなものと何ら変わらないと彼は主張する。
「50年前に、チェスで人間に勝つ最初のコンピューターはどんなものかと誰かに尋ねたら、彼らは汎用AIを想像したでしょう」とナームは言う。「詩を書いたり、善悪の概念を理解できる、知覚力のあるAIになるでしょう。しかし、それは違います。全くそんなものではありません。」IBMのDeep Blueは1997年にガルリ・カスパロフに勝利したものの、ThinkPadのノートパソコンと同じくらい知覚力に近づいていません。そして、クイズ番組「Jeopardy」で優れた成績を収めたにもかかわらず、「IBMのWatsonはチェスをプレイすることも、Googleのロボットカーを運転することもできません」とナームは言う。「私たちは実際には汎用AIに向かっているわけではありません。ただ、より優れた特化型システムを構築しているだけです。」
たとえ様々な特殊システムをぎこちなく継ぎ合わせたとしても、AGIにはならないだろう。実際、SFの世界ではうまくいくかもしれない。SFの世界では、AGIはハリウッド版ハッカーと同じ単純化されたルールに従って行動し、プログラミング言語やデータプロトコルの明確な違いを無視し、まるで魔法使いの秘められた無限の資源のように情報を吸い上げ、操ることができる。仮に、スマートマシンの集合体を一つのシステムに統合できたとしても、創造的で適応的な認知能力や、記憶ではなく学習する能力が魔法のように生まれるわけではない。人間の知能はまだ定量化されていないが、少なくともそれが極めて非線形であることはわかっている。シナプス活動は、脳の広大な、一見無関係に見える領域を横断し、速度と効率を犠牲にして、ループする自由奔放な柔軟性を実現している。そして、私たちの記憶は、コード化された世界や機械の世界とは似ても似つかないほど、柔軟で不完全である。これらは修正を迫られる設計上のバグなのでしょうか？それとも、知能がブラックボックスであり、それを適切に解明するためのツールがまだ存在しないことの証拠となる機能なのでしょうか？これらは、AGIをゼロから構築する、あるいは何らかの方法で人間と機械を融合させてAGIに相当するハイブリッドを実現するという、最初の原始的な試みを行う前に、まだ答えなければならない疑問です。
機械の知覚が不可能だと主張しているわけではありません。画期的な出来事が突然現実のものとなる前に、それを軽視することはできません。しかし、シンギュラリティへの信仰は、それが何であるか、つまり世俗的でSFに基づいた信仰体系であることを認識すべきです。私は、それを予言やSFと比較することで遠慮しようとしているわけではありません。機械知能の爆発的な到来を示す証拠がなく、既に過ぎ去ったAGIの期限を故意に無視するシンギュラリティは、代わりに手振りに頼っています。これはSF用語で、具体的な技術の飛躍を意味します。しかし、この種の近道には別の名前があります。それは「信仰」です。
