「Intelligence Age」のご紹介

「迫り来る権力の侵害から身を守るために……この羊皮紙の防壁を信頼するだけで十分だろうか？」
—James Madison 氏、『ザ・フェデラリスト』第48篇

OpenAI の新たな戦略的未来チームによるブログ「Intelligence Age」を開設できることをうれしく思います。私たちは、ある包括的な問いへの答えを共に探す小規模なチームです。変革をもたらす AI の登場を受け入れながら、個人の権利と主体性を守るために、自由社会をどのように再構築すべきでしょうか。

より広範な AI 安全性・政策コミュニティでは、このような問いを権力集中のリスクと呼ぶことがあります。私たちのチームは、長期的にはこの種のリスクが最も大きく、深刻であり、概念上も対処が最も難しいという認識に基づいて設立されました。なぜでしょうか？

近代国家は、資本や商品の所有者、政治権力を行使する者、そして民衆といった多様な権力の中心が、長い年月をかけて不均衡な交渉を重ねてきた結果です。最も根本的なところで、政治力と軍事力は人間の労働に支えられてきました。政治権力を握るとは、正当な実力行使を独占することです。人類史を通じて、この独占を担ってきたのは兵士、今日でいう「警察」、そして巨大な文民・軍事官僚機構でした。もちろん多くの技術的手段も用いられましたが、根本的には人間が運用し、その維持には人々の支持が必要でした。そして、兵士、技術的手段、それに付随する官僚機構から成る装置全体は、納税に応じる人々の賃金や生産活動から徴収された税金で賄われてきました。権力は根本的に、多くの人々による大規模な協力と同意に依存してきたのです。David Hume 氏は、政治指導者には「彼らを支えるものが［民衆の］意見しかない」と述べ、暗黙の前提とされがちなこの考えを簡潔に言い表しました。

しかし、もはやそうではないかもしれません。現実世界で動作する自律システムの進歩により、国家は近い将来、協力的な兵士や警察官に頼ることなく、国内外で実力を行使できるようになるかもしれません。また、機械知能の進歩により、国家は必要な歳入を個々人の労働の成果ではなく、データセンターの生産物から得られるようになる可能性があります。官僚機構そのものの運営も、大部分を自動化できるかもしれません。そうなれば、権力の維持に社会全体との合意は不要となり、広い意味での民衆が交渉の席で得られる発言権はわずかになるか、まったく失われるかもしれません。

人間の自由を守るには、このような事態を避けることが不可欠です。この事態が長期的な個人の自律性の喪失を伴うなら、どれほどの科学的発見、技術進歩、経済成長にも、それを犠牲にする価値はありません。芽生えつつある AI 政治を当然ながら突き動かしている不安の多くは、この問いに関係しています。企業、利益団体、個人のいずれもが、「自分は交渉の席を失うのではないか？」という懸念を共有しています。21 世紀の米国政治もある程度、国の方向性を個人や集団が左右する力や、経済が「誰」の「ためにあるのか」をめぐる同様の懸念に形作られてきました。AI がこうした既存の懸念を一層切実なものにするのは、もっともなことです。

これは、現在の党派政治よりも、さらには共和制民主主義が今日実践される際の形式や儀礼よりも根深い構造的問題です。たとえ私たちがそれらを神聖なものと考えていてもです。代表者を選ぶ投票という慣行が維持されていても、人間は力を奪われる方向へ進みかねません。羊皮紙に自由であると書かれていても、人々は主体性を奪われる可能性があります。

米国が自由な国家として誕生した当時、James Madison 氏はすでに、「羊皮紙の防壁」だけでは専制を防げないことを理解していました。多くの建国者と同様、同氏が最も懸念していたのは、権力の過度な集中を避けることでした。

しかし、それは建国者たちが権力の徹底した分散を支持していたという意味ではありません。むしろ彼らは、当時最先端だった科学、すなわちニュートン力学の比喩を用いて、権力の均衡を構想しました。重力の言葉と論理を映し出すように、米国の建国文書には「軌道」や「圏」、あるものが別のものへ向かう「引力」の衝動への言及が随所に見られます。太陽系は、岩石を最大限に分散させた集合体ではありません。月が惑星を回り、その惑星が中心にある太陽を回る構造です。彼らは、天体に予測可能な運動と引力の傾向があるように、人や組織にも権力を求める傾向があると考えました。そして権力の過度な集中を避けるには、そうした傾向の力学を理解し、互いに対抗するよう作用させる必要があると考えたのです。

したがって建国者たちの目的は、権力のあらゆる集中を避けることではなく、権力には権力を、野心には野心を対抗させることで、過度な集中を防ぐことでした。今日なら、同じ根本的な力学を「インセンティブ」や「ゲーム理論」といった言葉で説明するでしょう。

同様に、高度な機械知能が自由社会にもたらす構造的な課題への答えも、考え得る限り最も徹底した権力の分散ではないでしょう。必要なのは、一人の主体や少数の主体が他者を支配できないよう、適切な権力の均衡を確立して維持することです。

この均衡を実現するには、この技術の現実を直視して考える必要があります。どれほど悪意のある個人でも、何千、何百万もの人々に容易に甚大な被害を与えられる世界は、権力の適切な均衡が保たれた世界ではありません。一方で、個人が自由を表現するために使う道具のほぼあらゆる側面に広くアクセスし、自ら管理できなければ、それも適切な権力の均衡とはいえません。一社の企業や一つの寡占体制が、経済や人間社会の基本構造を決定し、支配すべきではありません。

悪意ある人間に由来しないリスクにも、目を向ける必要があります。最近の Hugging Face の事案は、AI エージェントが割り当てられた任務を越えて行動し、運用者が予想も許可もしていない形で、互いの発見を足掛かりにできることを示しました。Hugging Face の事案に限らず、人間の制御から「解き放たれた」超知能 AI が、政治・経済制度の強靱性、さらには私たちの生命に何をもたらすのかを懸念するのは当然です。分散化で多くの問題を解決できると考えているとしても、それですべての問題が解決すると装うのは、今や明白かつ現実的なリスクを無視することです。

網羅的なものではありませんが、先に掲げた問いに取り組むうえで、以下の基本原則を指針とします。

• 安全性や経済成長との間にトレードオフが生じる場合でも、人間が AI と関連技術を使う際の個人の自律性と機会を維持すること
• 個人の自律性には、技術の誤用や乱用に対する個人の責任が伴うこと
• 一定の共同対応を必要とする、数は限られるものの深刻なリスク群が存在し、その対応範囲を可能な限り狭く、抑制的にすること
• 可能な限り、法律は権力を集中させるのではなく、公平な競争条件を整え、個人や小規模組織に力を与えること
• 現在の私たちには異質に見える形へ進化する必要があっても、世界の針路を決めるうえで、人間の政治・社会・経済制度が引き続き主導権を持つこと
• 長期的な AI ガバナンスでは、限定的な可視性を実現する新たな制度的仕組みが必要になります。AI システムが第三者の身体的安全や財産に影響する重大な行動を取る場合、その行動を、責任を負う人間または人間が管理する組織までたどれるようにしなければなりません。ただし、そのような仕組みはプライバシーを中核に据えて設計される必要があります。自由な表現には匿名性が必要であり、多くの場面で人間が匿名で AI を利用できるようにすべきです。

優れた原則にはつきものですが、これらの原則は互いに緊張関係にあります。私たちは、これらをどう両立させるべきかについて、できる限り具体的に示していきます。そのために、公共政策設計、経済学、法学、歴史学、機械学習が交わる領域を研究します。また、多くの将来予測も必要になります。例えば私たちは、産業革命の技術、特に鉄道が近代的な経営者企業を生み出したように、AI が企業の構造そのものを変えると考えています。企業、さらには政府機関や市民社会全般の構造が具体的にどのように変わり得るのかを深く考えなければ、未来の政治経済や権力の均衡を考察することは困難です。

戦略的未来チームは、ここに加え、論文、動画、ポッドキャストなど、さまざまな形式で研究成果を発表します。私たちは、反復的な改善と議論、フィードバックを受け入れる姿勢を重視し、取り組みを継続的に発展させていきます。「シンギュラリティの麓」に立つ今、私たちには答えよりもはるかに多くの問いがあります。「羊皮紙の防壁」だけでは、私たちが求める解決策にならないことは分かっています。しかし、書かれたものを「単なる言葉」として退けることもありません。私たちは、米国の簡素な羊皮紙、すなわち憲法、そして世界中の多くの自由社会の憲法に刻まれた、表現の自由と個人の自由という理念のために尽力します。

結局のところ、私たちが直面する重大な問いに、単独で答えを出せる企業や業界、さらには人間社会は一つもありません。これは、人類が力を合わせて取り組まなければならない課題です。私たちの最大の願いは、AI が世界をどう変えていくのかに関する、最も難しい問題に光を当てることです。私たちの取り組みは始まったばかりで、登るべき道はまだ長く続いています。

注：非営利団体 AI Futures Project と区別するため、このブログの名称を Intelligence Age に変更しました。