OpenAI

2026年11月18日

Intelligence Age

暗黙の合意

著者:Dean Ball

著者注:本稿は、著者が先日ハーバード大学の Vik-Bailey Lecture シリーズで行った講演をもとに再構成したものです。本稿は著者個人の見解を示すものであり、必ずしも OpenAI や他の従業員の見解を反映するものではありません。



本日はお越しいただき、ありがとうございます。こうしてお話ししている今も、サイバーセキュリティの歴史上、最も重大な出来事の一つが進行しています。「暗黒の 10 月」と呼ぶ人もいる、深刻なセキュリティ脆弱性の相次ぐ公表です。インターネットの中核をなすインフラの一部でこれらの脆弱性を発見したのは、フロンティア AI システムでした。その公表は、世界中のソフトウェアの安全性を強化するための緊急の取り組みの一環です。今月の急務はこれですが、来月にはまた別の急務が現れるでしょう。ソフトウェアの脆弱性を発見する能力は、今日の AI システムが獲得した、善用も悪用もできる能力です。しかし、ほどなくして別の能力も現れ、悪意ある者が悪用する前にそのよい面を生かそうと、また新たな緊急プロジェクトが立ち上がるでしょう。こうした急務は必然的に重なり合います。そして、今日「AI 政策」と呼ばれるものの多くは、この喧騒の中で形づくられることになるでしょう。

しかし、今日お話ししたいのは、こうした事後対応や差し迫った課題ではありません。そうではなく、もっと大きな視点から、物事がどこへ向かっているのかをお話ししたいのです。急務が次々に押し寄せる中では、こうした抽象的で、どこか現実離れして見える問いを考えるのは難しいかもしれません。それでも、これらの問いは重要です。長期的にどんな未来を実現し、どんな未来を避けたいのかという方向感覚がなければ、道中の一つひとつの判断が賢明でも、全体としては望ましくない結末に行き着くおそれがあるからです。

テクノロジー業界には、自分たちがつくるものが私たちをどこへ導くのかについて、前向きなビジョンがない、とよく言われます。私はそうは思いません。サンフランシスコをはじめとする起業の中心地には、技術面での未来に向けた前向きなビジョンがあふれています。空飛ぶ車、自動運転車、さまざまな大きさや形のロボット、核融合、そしてもちろん汎用人工知能も、人々は実際に開発しています。むしろ私たちに欠けているのは、制度面での未来についての前向きなビジョンです。これらすべてを、どう機能させていくのでしょうか。

ただし、制度の未来像がまったくないというわけではありません。残念ながら、私が最もよく目にする未来像は、前向きとは呼べないものです。それが言葉になるとしても、たいていはささやき声で語られます。しかし多くの場合、言葉にはされず、言外にうかがえるだけです。私はこれを「暗黙の合意」と呼んでいます。

人間の労働なしに、ほぼすべてをこなせる企業を考えてみてください。その企業では、AI システムが研究開発を行い、発見を生み、契約を交渉し、資本を配分し、製造を担います。人間の競合相手が AI で自らの力を補っていたとしても、この企業のほうが、それらをうまくこなせるとしましょう。人間の関与が事業の速度を落とすだけなら、人間の経営者や所有者には、ハンドルから手を離そうとする強い動機が生まれます。これが世界経済の至る所で起これば、人間は市場競争の論理に押され、世界の商業活動に対する主導権を手放すことになるでしょう。やがて市場は、人間の需要や欲求と同じくらい、あるいはそれ以上に、機械の需要を満たすものになるかもしれません。

その先に何が起こるかは、誰にもわかりません。人間は莫大な恩恵を受けるかもしれません。私たちを取り込んだ機械が、人間そのものに高い価値を認めてくれるなら、私たちはその労働と、そこから生まれる富の恩恵にあずかれるでしょう。あるいは、経済的な力を奪われ、政治的な力も次第に失うことで、世界における人間の存在感はますます薄れ、世界の行く末を左右する力も弱まっていくかもしれません。大多数の人々が力を失う一方で、ごく少数の人間が途方もない権力と富を握るのかもしれません。あるいは、私たち全員が等しく力を失う運命をたどるのかもしれません。細部がどうであれ、暗黙の合意を貫く共通認識は、私たちの知る世界で人間が主導権を握る時代が終わるということです。

これらのシナリオはどれも、AI が創造主に反旗を翻さなくても起こりえます。AI の所有者が、人間から力を奪おうと望む必要もありません。機械に任せるという判断は、一つひとつを見れば理にかなっているのでしょう。しかし、それらの判断が積み重なることで、人々が文明の大部分に対する実質的な決定権を手放した世界が生まれかねません。AI の安全性とアラインメントという難題で目覚ましい進展を遂げたとしても、気づけば私たちは、新たな種類の機械的存在に従属しているかもしれないのです。暗黙の合意によれば、幸福な未来のシナリオでは、その存在は親切で、人間にとって何が最善かを心から大切にする機械になるといいます。ブローティガン氏の詩にあるような、愛に満ちた慈悲深い機械です。

この暗黙の合意では、私たちはそうした機械に企業の鍵を渡し、やがて統治機関の鍵も次々と委ねていくことになります。機械は、私たち人間が持てる力を尽くすよりも優れた知恵と判断力で、それらをより効果的かつ効率的に運営するのでしょう。そうして私たちは、やがてハンドルから手を離し、愛情深い機械に運転を任せるようになります。私たちは車の乗客のようになります。とても上等な、物質的には今の私たちには想像もつかないほど豪華な車かもしれません。それでも乗客であることに変わりはなく、車の行き先を決めることはできません。働くとしても、それはほとんど一種の儀式や仕事のまねごとであり、人類を楽しませるゲームに近いものになります。

そもそも現在も人間が世界を支配しているわけではないのだから、暗黙の合意は誤った前提に立っている、と論じる人もいるでしょう。この批判は心に留める価値があります。何をするかを決める、単一の「私たち」は存在しないのです。好むと好まざるとにかかわらず、私たちは権力が徹底的に分散した世界に生きています。とはいえ、だからといって安閑としていてよいわけでもありません。「私たち」が世界を「支配」してはいなくても、人間は集団として、世界の物事を動かす主導権を握っています。資源の支配をめぐって、人間と本格的に競い合う動物種は存在しません。人間が世界を上から統制できるという、知的な厳密さを欠く考えは退けるべきです。しかし、それを退けることと、人間が集団として地球上の主役であるという明白な現実を否定することを、混同してはいけません。

暗黙の合意をあえて言葉にする人の中には、それが本当によい未来だと考える人もいます。そうは思わなくても、避けられないことだと諦めている人もいます。暗黙の合意が「合意」なのは、誰もがそれをよいことだと認めているからではありません。AI を開発する人々の間で交わされた秘密の計画でもありません。共有されているのは、世界の行く末に対する人間の主導権の放棄は避けられない、少なくとも、超知能を備えた機械の登場にも真に耐えうる別の未来像を思い描くのは極めて難しい、という認識にすぎません。その結末に心から反対していても、実現しそうな別の未来像を思い描くのは難しいことがあります。この合意がほとんど語られず、語られてもせいぜい小声でささやかれるという事実が、その内実を物語っています。

私は、この暗黙の合意を忌み嫌っています。人間の主導権を手放すことを拒みます。避けられないのだという諦めに、強い嫌悪を覚えます。この暗黙の合意に屈したら、まだ赤ん坊の息子の美しい瞳をまっすぐ見つめることはできないと、自分に言い聞かせています。だから私は、この暗黙の合意に「ノー」と言います。そして今こそ、この暗黙の合意を公然と語り、ほとんど無自覚に受け入れてきた未来像から自らを揺り起こす時だと信じています。

ただし、問題があります。この暗黙の合意が合意となったのには、理由があるのです。人間をはるかに超える知能を備えた機械と共存しながら、人間がどうハンドルを握り続けるのかを説明するのは困難です。その説明の多くは、AI は単なる道具であり、「真の理解」はできないパターン認識の装置にすぎない、という主張に頼っています。しかし、こうした主張は、これから訪れる現実の前では通用しないのではないかと危惧しています。それもまた一種の自己満足ではないかと危惧しています。人間が主導する未来の積極的な構想に根差した信念ではなく、主に AI にできることを否認することで成り立つ立場なのではないでしょうか。人間が何十年、何百年も解けずにいた知的な難題で AI が進展をもたらすようになってなお、AI には「真の理解」がないとは言えません。

では、なぜ私は、人間が主導権を保たなければならないと考えるのでしょうか。簡単に答えるなら、私が人間だからです。実際、私は人間をひいきすることを恥じていません。

しかし、もっと深い理由もあります。私たちの主導権の根拠は知性ではありません。「真の理解」を未来永劫独占し続けることでもありません。その根拠は、私たちの過去にあります。

泥の中から這い上がってきたのは、私たちだからです。土と石から原始の社会を築いたのは、私たちです。星空を見上げ、「なぜ」と問うたのも私たちです。争い、愛し、妬み、喜びながら、道徳と倫理と法を見いだしたのも私たちです。歌い、踊り、文章を書き、音楽を生み出したのは私たちです。歴史をつくったのも、それを書き記したのも私たちです。その遺産は、私たちのものです。私たちが築いた文明は、自ら守り育ててきた炎です。その炎は私たちのものです。私たちの過去は輝かしい遺産であり、私たち全員にそれを守り継ぐ責任があります。その責任の一部が、マイケル・オークショット氏の言う「人類の対話」、すなわち太古に始まった壮大な営みへの参加です。

長く曲がりくねった歴史を経て、私たちは文明を築きました。アメリカではその文明は個人の権利を土台に構想され、一人ひとりがこの世界を生きる中で切り開く道を、深く尊重するものでした。人間の人生は、よくも悪くもなります。賢明な判断をすればその実りを受け取り、誤ればその結果を引き受けます。自分の道を歩む権利は、誰よりも頭が切れるか、誰よりも賢明かによって決まるものではありません。隣人のほうが優れた判断力を持っているからといって、私が市民としての地位を失うわけではありません。それと同じく、より知的な機械が現れたからといって、その地位が消滅すべき理由は見当たりません。むしろ、その消滅を防ぐべき理由はいくらでもあります。

機械はこの遺産の文字記録をほぼすべて読んでいるのだから、機械もまた継承者だ、と論じる人もいるでしょう。ある意味では、そのとおりです。しかし、あなたの家の屋根裏にある手紙をすべて読んだからといって、その人があなたの家族の一員になるわけではありません。AI システムは、最初は観察者として、やがては参加者として、人類の対話に加わるようになるでしょう。しかし、その対話を支配したり、対話そのものを無意味にしたりしてはなりません。主導権を譲り渡すことは、子孫を裏切ると同時に、祖先をも裏切ることです。これに闘う価値がないのなら、闘う価値のあるものなど何もありません。

さて、私自身は、暗黙の合意を信じる人々は、機械の超知能がどのようなものになるかを見誤っていると考えています。世界の仕組みに関わる重要な何かを見落とし、知能と力を混同しているのだと思います。もし 5 年前や 10 年前に、暗黙の合意を信じる人に現在の AI システムの能力を説明していたら、たとえ今の水準であっても、失業は実際よりはるかに深刻になり、人間が広く力を失う事態も、現実よりずっと先まで進んでいると予測したでしょう。人間が集団として持つ知性と能力は、暗黙の合意を信じる人々の想定をはるかに上回り、私たちの社会はその予測以上の強靱さを示すと、私は考えています。

しかし、私が間違っているかもしれません。たとえば、完全に自律した企業が、人間の営む企業を競争でことごとく打ち負かすというだけの話かもしれません。もしそうなら、経済の冷徹な論理によって、ますます多くの資本が機械に委ねられることになるでしょう。この未来で人間が力を失うのに、機械が人間の文明を転覆させる必要はありません。資本主義的な企業活動の論理が、そのまま進み続ければよいのです。この場合、AI 革命に最も近い歴史上の出来事は農業革命でしょう。新しい生産様式が、人間社会の構造を根本から変えた時代です。その変化が、当時を生きた人々にとって喜ばしいものだったかは、まったく定かではありません。実際、この変化が何千年にもわたって人間の幸福や健康を損なったことを示す証拠は数多くあります。

これが私たちの直面する未来なのか、私にはわかりません。実際、別の場では、そうは考えていないと論じてきました。しかし、私の同僚の多くは、聡明で思いやりがあり、良心的な人々ですが、これが私たちの未来になる可能性が高いと考えています。彼らが正しければ、暗黙の合意に抗う私たちの闘いは、いっそう困難になります。経済の流れに逆らって泳がなければならず、その過程で、私のような古典的自由主義を信奉する個人主義者にとって、金科玉条とされる多くの考えを退ける必要があるでしょう。これは危険を伴う試みであり、失敗の可能性も決して低くありません。しかし、この闘いに価値がないのなら、 闘う価値のあるものなど何もありません。

主導権を保つとは、人間と、人間が運営する組織の責任を維持することです。つまり、安全性を欠く開発を行った AI 開発者は責任を負うべきです。同時に、AI を使う個人や企業も、その誤用や監督不足によって被害を生じさせた場合には、責任を問われるべきだということです。そのためには法律だけでなく、責任の所在を明確にする技術的な基盤も必要です。エージェントの行動には、責任を負う人間が紐づいていなければなりません。人間に紐づかないエージェントについては、合法的な経済活動への参加をそもそも認めるとしても、安全上の制約の下で活動させる必要があります。エージェントが自律的に法人を設立し、財産を所有し、訴訟を行う権能は、仮に認めるとしても、極めて慎重に付与すべきです。

そして私のいる業界では、人間の主導権と両立する知的な機械をどうつくるか、真剣に考え始めることができます。権限がわかりやすく限定され、行動を監査でき、ユーザーがその権限を取り消せるエージェントをつくることができます。他者に実質的な影響を与える行為に責任を求めることは、日常の私生活を監視したり、匿名で発言する自由をなくしたりすることを、必ずしも意味しません。ユーザーのプライバシーを守り、デジタル資産やデータに対する個人の主権を尊重すると約束できます。そこには、データを実際に別の場所へ持ち出せることも含まれます。タスクを実行するシステムだけでなく、人々が理解を深め、意思決定を行う手助けとなるシステムも設計できます。そして、私たちがつくる製品によって、ユーザーが世界に働きかける力を高められるかを検証できます。

これらのどれも、人間を超える知能が存在する社会の、完全な設計図ではありません。そんな設計図を持っていると主張する人がいれば、私は疑ってかかるでしょう。それでも、ここから始めることはできます。

未来は深い霧に包まれています。それでも、今日から行動を起こすことはできます。まず私たちは共に、この暗黙の合意を声に出して語り、その輪郭を白日の下にさらすことができます。一人ひとりが、志の幅を飛躍的に広げることもできます。AI によって自らの可能性を狭めるのではなく、可能性を広げるための困難な努力を選ぶことができます。ますます大胆な問いを立て、新たな情熱と鋭さで世界に問いかけ、そのために強力な機械を使いこなすことを学べます。私たちは新しい人間のあり方を実現できます。人間を超越した存在ではなく、自らの可能性を広げた人間です。

まだ赤ん坊の息子を見ていると、私はこのことを考えます。善意ある機械がどれほど快適な暮らしを与えてくれるとしても、ただその庇護の下で生きてほしいとは思いません。誰も思いつかなかった問いを立て、誰も思い描かなかったものをつくれる世界を、息子には受け継いでほしいのです。もっと上等な車の、もっと座り心地のよい助手席に座ってほしいわけではありません。息子には、ハンドルを握っていてほしいのです。

  • 2026年

著者

Dean Ball