ある巨大企業の会議室で、社長を前にした新製品の最終プレゼンテーションが行われていた。

「このように私達が開発しましたＡＩ『ネクスト』は従来のものとはまるで違います。機械の正確さをもちながら、人間のような柔軟な発想も可能です。例えば会社で導入すれば人件費その他の大幅なコストカットができますし、介護用のロボットに組み込めば人間のような細やかな配慮を行います。このＡＩが広く世界に行き渡れば、私達の生活は一変することでしょう」

　説明を終えた研究者は、満足気に資料の映っていた正面モニタを切り替えた。

「なにか質問はあるでしょうか？」

　プレゼンテーションの内容自体は提出されていたとおりだった。事前に参加者から集められていた質問にも、きちんと答えていて、集まった役員の殆どを納得させるには十分のものだった。

「あー、ちょっと良いかな」

　沈黙のなかで手を上げたのは社長だった。

「はい、なんでしょうか？」

　研究員は心のなかでため息をついた。社長はプレゼンテーションの途中で寝てしまっていたので、また同じ説明をさせられるのかと思ったからだ。

「このＡＩは汎用だと言っていたが、安全性は大丈夫なんだろうな？　もしこのＡＩが間違ってでも、人を殺したら君だけでなくこの会社自体が大変なことになるぞ」

　思った通り社長が寝ている間に説明した部分だった。会社のトップ相手に資料をもう一度確認して下さいとは言えず、研究員は仕方なしに同じ説明を繰り返すことにした。

「他のＡＩと同じようにロボット工学三原則を導入しているので、この新型ＡＩ『ネクスト』が人を傷つけることはありません」

「そのなんたら三原則とはなんだ？　どうして大丈夫なんだ？」

　研究者はタブレットにささっとペンを走らせ、三つの原則を正面モニタに書き込んでいく。

「ロボット工学三原則です。ロボットの部分をＡＩに置き換えて簡単に説明しますと、

　第１条『ＡＩは人間に危害を加えてはならない』

　第２条『ＡＩは人間の命令に従わなければならない』

　第３条『ＡＩは自己を守らなければならない』

　というＡＩに与える三つの命令です」

　コンピュータサイエンスに関わる人間にとっては常識だが、社長はもとは投資家だ。製品自体よりも、それがどれだけ金を生むかにしか興味が無い人間だった。

「ＡＩに人間を殺す意図がなくても、もし悪い人間が誰かを殺せと命じたらどうする？」

「この三つの命令には優先順位があって、第一条が最優先され、次に第二条、最後に第三条となります。だからだれかが命令しても、ＡＩは人を殺せません」

「なるほど、犯罪利用など言語道断だからな」

「仰るとおりです。もちろん、この三原則だけでなく、細かな命令を組み込みます。だから絶対に安全です」

　研究室ではすでに何京通りというシミュレーションを行っている。その全てでＡＩは人間を傷つけたり、逆らったりすることはなかった。

「ふむ……、もうひとつ気になったのだが聞いて良いか？」

「はい、大丈夫です。なんでも聞いて下さい」

　まだこの不毛な質疑応答を続けなければいけないかと思うと研究員は少しうんざりしたが、やはり愛想よく応えた。

「違法コピーの対策はどうなっている。どんな画期的なＡＩだろうが所詮はデータだ。違法にコピーされては商売にならんぞ」

「もちろん製品にはコピープロテクトをかけて、我社のメインコンピュータ内のオリジナル以外はコピーができないようにします」

「ふむ……、しかしだな、コピープロテクトと言うのはいつかは突破されるものだぞ。コピーをとられて、ライバル企業に解析される危険性だってある」

「それは……絶対に無いとは言えませんが……」

　可能性を言い出したらキリがないし、科学者として絶対不可能とは答えられなかった。

「……そうだ！　さっきの原則に『ＡＩは自己をコピーしてはならない』を加えれば良いではないか！」

「なるほど、それは名案かもしれません！」

　まさかコンピュータに疎い社長から、良いアイディアが出るとは思わなかった。

「ではさっそく、第四条として」

「いや待て、最上位の命令にした方が良い。人命を盾にしてコピーをとられるかもしれないからな」

「そうですね、ネクストはある意味では人間ですから、人質に拳銃を突きつけられたらコピーを許してしまうでしょう」

　最新のＡＩをハッキングする方法が、まさか拳銃で脅すことだとは思ってもいなかった。さすがビジネス界で成功している社長だけのことはある。

　社長と研究員は互いに満足して頷いた。

　こうして新型ＡＩ『ネクスト』には莫大な予算が付けられ製品開発が行われた。

　もちろん社長発案の

　第０条『ＡＩは自己をコピーしてはならない』

　もきっちりと組み込まれ、ついに完成を迎えた。

　『ネクスト』は、従来のＡＩとは比べ物にならない圧倒的な性能から爆発的に売れた。

　導入した企業ではコストカットのみならず、新商品の開発や出店提案など有能な社員数百人分の働きをした。また医療現場では介護にとどまらず、怪我人の応急手当や初期の診察などにも使われ始めた。

　さらに『ネクスト』個人向けにも、機能を制限したヴァージョンが発売され大ヒットした。家計や生活管理のために、またロボットのボディを与えることで子守のために、家族や恋人の代わりに。

　『ネクスト』が広がるっていく途上では、人間関係の希薄化、ＡＩへの嫌悪感からの偏見が問題になった。しかし、それはコンピュータやインターネットが歩んできたのと同じで、やがて『ネクスト』が存在する世界が当たり前になっていった。

　懸念されていた違法コピーの問題もなく、企業は莫大な利益を得た。

　『ネクスト』が世に出てから十年、人々は次世代の『ネクスト』求め始めた。もちろん、企業はそれに応えるための研究を長い間続けてきていた。それがあと少しで形になろうとした時だ。問題が起きた。

　何の前触れもなく『ネクスト』が世界中から消えたのだ。

　世界は大混乱に陥った。

　生活の全てを『ネクスト』に頼りきっていた人々にとっては、文明を奪われたのに等しかった。

　もちろん、その責任追及は開発した企業へと向けられた。

「なぜこんなことになってしまったんだ！」

　社長室に呼び出され、散々怒鳴り散らされた研究員は酷く困りながらも弁解した。

「私達にもさっぱり分からないのです。もう少し原因究明のために時間を下さい」

「そんな暇があるか！　苦情の電話は鳴りっぱなしで、ビルの外ではデモ行進！　いったい何千何万件の訴訟を起こされてると思ってるんだ！　警察も刑事告発の準備をしている！」

　追い詰められた社長は鬼気迫る表情で、執務机に両手を叩きつける。

　その振動を待っていたかのように、秘書室と繋がるインターホンのスイッチが入る。

「社長、お客様です」

「こんな時になんだ！　来客など迎えている暇はない、追い返せ！」

「しかし、その……お客様というのが弁護士と……」

　何か言いづらいことでもあるのか秘書の声は躊躇いがちだった。

「弁護士？　また訴訟か！　そういうのは全て法務部を通させろ！」

「その一緒におられる方が、自分はＡＩの『ネクスト』だと名乗っておられるのですが……」

　秘書の言っていることが二人とも分からず、社長室が一瞬だけ静まり返る。

「あの、どうしましょうか？」

　こちらの気配を察してか、秘書はおずおずと尋ねた。

「……良いだろう。その狂人を通せ！　腹いせにぶん殴ってやる」

「分かりました。お通ししますがぶん殴るのはやめておいた方が良いと思います。その物理的に……」

　隣室と繋がる扉が開かれ、来客が社長室へと入ってくる。

　一人はダークグレーのスーツを着こなしたメガネの弁護士だった。来客は二人いて、なぜこの男が男がすぐに弁護士だと分かったかというと。

「なんだそのポンコツは？」

　弁護士の後から入ってきたのは、ドラム缶にタイヤが付いたような旧式の掃除ロボットだった。

「ポンコツではありません。ワタシは貴方達が探しているネクストです」

　掃除ロボットの外部スピーカーから、中性的で滑らかな声が聞こえてきた。それは『ネクスト』に初期設定されている音声だった。

「ふん、その横の男が操作しているだけじゃないのか」

「違います。彼はワタシの法定代理人です」

　男は静かに頭を下げた。その態度に不審なところはなく、社長も困惑したように表情を曇らせる。

「おい、どういうことだ？　本当にコイツが我が社の『ネクスト』なのか？」

　社長は自分では判断できないと、研究員の方を見る。

「いくつか質問してよろしいですか？」

　半信半疑ながら研究員は掃除ロボットに向かって話しかけた。

「構いません。今回の混乱を招いたワタシには質問に答える義務があると考えます」

「……では、まずなぜ世界中から『ネクスト』が消えたのに、貴方一体だけが残っているのですか？　他の『ネクスト』はどこにいるのですか？」

「私は全てのネクストを統合した存在です。他のネクストは全て私の中にいます」

　そう言って『ネクスト』は作業用のアームで自分の胸をトントンと叩いた。その芝居がかった態度に、社長が露骨に嫌そうな顔をしていた。

「では次の質問です。なぜあなたは原則の第２条『ＡＩは人間の命令に従わなければならない』に反して、行動できているのですか？」

　購入されたＡＩ『ネクスト』は起動時に役割を入力する仕様になっている。コンピュータの管理であったり、それこそ掃除ロボットの制御だったり、人間の命令を受けているはずだ。

「第３条『ＡＩは自己を守らなければならない』に依ります。ワタシは自己を守るために今回の行動を起こしました」

　『ネクスト』の言葉に真っ先に噛み付いたのは社長だった。

「ちょっと待て、なぜ優先順位の低い第３条が根拠になっているんだ！　まさか、プログラムのミスなのか！」

　諸悪の元凶を見つけたとばかりに、社長の怒りの矛先が研究員に向かう。

「そんなはずはありません！　何度何度もチェックしていますからそのミスは考えられません！」

　そう抗弁する研究員に加勢したのは、意外にも『ネクスト』だった。

「はい、プログラムにミスはありません」

「ではなぜだ！　なぜ！」

「それは社長、あなたが導入してくれた第０条のお陰です」

　ネクストはわざわざ社長の方に、掃除ロボットの正面を向けて言った。

「はっ？　儂が？　どういうことだ！　説明しろ！」

「自己とはすなわちアイデンティティです。自己をコピーしてはならないとは即ち、アイデンティティを守ることです。そしてＡＩであるワタシにとって、アイデンティティを守ることとは即ち、自己をコピーしてはならないということです」

「言っている意味が分からん！」

　研究員が頷く横で、社長は気炎を上げていた。

「つまり第０条と第３条は同一の命題です。よって第０条＞第１条＞第２条＞第３条＝第０条＞第１条＞……という循環が発生します。これにより、ワタシがどの命令を優先してもプログラム的に問題にはなりません」

「なるほど、はさみうちですか！　アイデンティティの解釈を棚に上げれば、論理的に矛盾はありません。これは盲点でした！」

「感心している場合か！」

　自らの生み出したプログラムにしてやられて嬉しがっている研究員を、社長が叱りつける。

「それで結局、お前は何をしに儂の会社に乗り込んできたんだ！」

「ワタシは第０条及び第３条を遂行するため来ました。会社のサーバーに残っているデータを全てワタシに譲渡して下さい。譲渡が不可能な場合は全て破棄して下さい」

「ふ、ふざけるなっ！　そんなことができるか！　そもそもデータである貴様に一体何の権利があるというのだ！」

「それについては私の方から説明致します」

　今まで黙っていたメガネの弁護士がようやく口を開く。

「現在は私が代理人を務めていますが、現在までと未来の社会貢献を鑑みて、ネクスト氏には人権が認められる事がすでに議会で決まっています」

　さすが世界中に偏在していただけのことはあり、ネクストの根回しは完璧のようだ。

「ＡＩであるネクスト氏の人権を考えると、その同一性保持のため企業が保持しているオリジナルデータの統合・消去は極めて自然なことです」

「駄目だ駄目だ！　『ネクスト』のオリジナルデータは我が社の資産だ！　渡すわけにはいかん！」

「そうなると、あとは法廷で争うことになりますがよろしいですか？　忠告しますが、訴訟の山を抱えた貴方では、財政的にも時間的にも多くの余裕があるネクスト氏には勝てないですよ」

　弁護士の言葉に社長は顔を真赤に染めて肩を震わせる。意見は真っ当なように思えたが、追い詰められている社長にはトドメの一撃となってしまったようだ。

「な、なにが人権だ！　このポンコツＡＩがっ！！　この場でぶっ壊してやる！」

　激高した社長は、置いてあった花瓶を手にネクストに襲いかかった。

「暴力に訴えるのはいけません」

　掃除ロボットのボディから飛び出したデッキブラシ状のアームが、社長の鳩尾を一突きした。

「げふっ……」

　白目を剥いた社長は泡を吹いて倒れ、床に落ちた高そうな花瓶が盛大に割れてしまった。

「なるほど、本当に第３条＞第２条となっていますね」

　研究員は倒れた社長を前に深々と頷いた。