ハラリ教授が考える「AIが人類から『権力』を奪いとるまでのシナリオ」

AIの台頭で恐るべきもの

人工知能（AI）革命が加速するなかで、2つの予言が飛び交っている。1つはバラ色のユートピア、もう1つは悲惨な人類滅亡だ。

AIによる脅威がいかほどのものかを正確に推し測るのは容易ではない。なぜなら、私たちは条件反射的に、誤ったシナリオを恐れるようにできているからだ。

SFの世界ではこれまで幾度となくロボットの大反乱が描かれ、そうした未来が予告されてきた。あまたのSF小説や『ターミネーター』『マトリックス』などのSF映画では、AIとロボットが世界を乗っ取るという意思の下、自らを作り上げた人類に逆らい、人類を奴隷にしたり破壊したりしようとする。

とはいえ、近いうちにそうした事態に陥る確率はきわめて低いだろう。それを可能にする技術がまだ実現していないからだ。

いまのところは、障がいをもちながら特定の分野にのみ突出した才能を発揮するサヴァン症候群のAIである。チェスをプレイしたり、たんぱく質の折り畳み構造を解明したり、文章を書いたりなど、ごく限られた領域のスキルは習得したと言えるかもしれないが、非常に複雑な行為に取り組むうえで必要な一般知能が欠けており、ロボットの軍隊を組織したり、国家を掌握したりといったことはできない。

とはいえ、ロボットの大反乱が起こりそうもないからと言って、まったく不安がないわけではない。というのも、私たちが恐れるべきは殺人ロボットなどではなく、デジタル官僚システムだからである。AIが支配するディストピアを思い描くうえで参考にするなら、『ターミネーター』よりフランツ・カフカの長編小説『審判』のほうが適当だろう。

ハラリ史上“最も手厳しい”新著に、米誌記者が感じる「ハラリ的思考の限界」

文字の誕生と官僚

人間は膨大な年月をかけた進化の過程で、『ターミネーター』で描かれるような暴力的な略奪者を恐れるよう条件づけられてきた。官僚制度の恐ろしさをなかなか理解できないのは、哺乳類どころか人類の進化において官僚制度が発達したのがごく最近のことだからだ。人間の心は、文書のせいで死ぬより、トラに襲われて死ぬことを恐れるようできている。

官僚制度が発達しはじめたのはわずか5000年ほど前、古代メソポタミアで楔形（くさびがた）文字が発明されたあとだ。官僚制度は、根本的かつ予想外の方法で人間社会を一変させた。

では、文書とその文書を書き記す官僚が所有権の意味に与えた影響を考えてみよう。文字が発明されるまで、何かを所有することは共同体の合意次第だった。

仮にあなたが土地を「所有」していたとすれば、それはつまり、その土地があなたのものだということを近隣住民が言動で示して合意していたということだった。あなたが許可しない限り、他人がその土地に家を建てたり、そこで作物を育てたりすることはなかった。

所有権が共同体の合意によるものという意味合いをもっていたため、個人の持つ財産権は制限されていた。たとえば、ある土地があり、そこを耕作する権利を持つ人はあなただけだと近隣住民が合意していた場合でも、その土地を外部の人間に売却する権利は認められていなかった。

さらに、所有権が共同体の合意によるものである限り、遠く離れた中央権力がその土地を管理することもできなかった。文字で記された証拠と精緻な官僚制度が存在しない時代には、遠く離れた村のどの土地を誰が所有しているのか、王には記録しておく手段がなかったのだ。そのために王は、税を徴収することができず、ひいては軍や警察を持つことも不可能だった。

やがて文字が発明され、それに続いて書庫と官僚制度が誕生した。このシステムは当初、非常に単純だった。

古代メソポタミアの官僚たちは小さな棒で粘土板に楔型文字を刻んでいた。粘土板は単なる土の塊だ。

しかし、官僚制度という新たな発明を背景に、そうした土の塊が所有権の持つ意味を根本から変えた。突如として、土地の所有権は、その土地を所有している旨が粘土板に書かれていることを意味するようになったのだ。

たとえ近隣住民がその土地でできる果物を昔から収穫していて、「その土地はあなたのものだ」と言った人が1人もいなかった場合でも、あなたが所有者だと記された正式な土の塊を提示さえすれば、裁判で自分の主張を押し通すことができた。

逆に言うと、地元コミュニティがその土地の持ち主はあなただと口をそろえて言っても、土地を所有している旨が記された公式な粘土板を提示できなければ、所有者だとは言えなくなったわけだ。

同じことは現代にも当てはまる。唯一の違いは、重要文書が粘土板ではなく紙かシリコンチップに記されていることである。

ユヴァル・ノア・ハラリ「人類の強みは、神話を語る能力にある」

AIが手にしようとしている力