永遠の補完関係

著者注：本稿は、次なる経済を論じる連載の第1回であり、新たなプラットフォームで独立した論者の声を届け、AGIのある未来を探る取り組みの一環です。本稿は私たち個人の見解であり、OpenAIや同僚の見解を示すものではありません。

人類は、時間の始まりに迫るところまで見通してきました。

私たちの方程式は、誕生直後からの宇宙の姿を、おおむね矛盾なく説明しています。望遠鏡を通じて宇宙の果てに目を向け、その初期の歴史を垣間見てきました。私たちは、恒星の誕生や銀河の形成について知っています。

それなのに、月より遠くへ旅した人間は一人もいません。

解き明かそうとする対象は宇宙全体に及ぶ一方で、私たちの身体は、故郷をほとんど離れていないのです。思考は、手の届く範囲をはるかに超えて進んでいきます。

この隔たりには、大きく異なる二つの意味が考えられます。

一つは、遠くへ行く必要はなく、一つの惑星にいながら最も深遠な真理を理解できるかもしれない、という可能性です。洗練された推論と効率的な観測装置を駆使すれば、宇宙を旅せずとも、その姿を解き明かせます。この筋書きでは、文明は広がるのではなく、深まることで進歩します。これは、ほかの知的生命体が見つからない理由の説明にもなります。私たちの銀河には、拡張する必要がないため、私たちの目に留まることもなかった優れた知性が、あふれているのかもしれません。

二つ目の可能性は、もっと厳しいものです。私たちの思考が、単に実行能力を追い越してしまったのかもしれません。次の一歩には、そのたびにより多くの時間と資源が必要です。夢は尽きませんが、それを実現する人手が足りません。

ガリレオ氏は、二枚のレンズと一本の筒で、私たちの視界を広げました。現代においてその視界をさらに広げるため、人類はジェイムズ・ウェッブ宇宙望遠鏡を建設しました。100 億ドルの観測装置を折り畳んでロケットに収め、100 万マイル先へ送り出したのです。その巨大な分割鏡 18 枚は、50 ナノメートルの精度で作られています。この観測装置は、14 か国、300 の組織の協力から生まれました。ガリレオ氏の業績には、数十人の手があれば足りました。ウェッブ望遠鏡には大勢の人員と、それを支える世界経済が必要でした。

より遠くを見るには、より優れた頭脳だけでは足りなかったのです。より大きな実務機構が必要でした。

私たちは、調べきれないほど多くの問いを立てます。実施しきれないほど多くの実験を計画します。創造的な可能性を思い描く速さに、その実現が追いつきません。そして多くの分野で、前進するほど、想像したものを作り上げることは複雑になっていきます。

Nick Bloom 氏と共著者ら⁠（新しいウィンドウで開く）は、米国経済全体の研究生産性を調べました。ムーアの法則を維持するには、今では 1970 年代初頭の 18 倍を超える数の研究者が必要です。経済全体の実効的な研究投入量は 1930 年代から 23 倍に増えた一方、測定された研究生産性は 41 分の 1 に低下しました。

技術スタッフの数は、科学者の 2 倍の速さで増えています⁠（新しいウィンドウで開く）。科学分野での専門機器の使用は、40 年間で 2 倍⁠（新しいウィンドウで開く）になりました。現在の半導体工場は、30 年前に比べてコストが 5 倍⁠（新しいウィンドウで開く）に達し、運営規模もはるかに大きくなっています。

こうした統計は、さらなる進歩にかかるコストが上昇していることを示唆しています。それでも経済が前進しているのは、研究活動の大幅な拡大によって、投入量あたりの成果の低下を補ってきたからです。

この歴史を踏まえると、天才の捉え方も変わります。周囲から切り離された存在ではなく、生産過程に投入される一つの要素として考えるべきです。どれほど優れた仮説にも、証拠、機器、そして検証するための手段が必要です。アイデアは、それを実現する設備と支援スタッフがなければ、まだ進歩とは呼べません。

経済学では、一方が増えると他方の価値が高まる二つの投入要素を、補完関係にあるといいます。フロンティアの知性と、そのアイデアを実現する能力は、この意味で補完関係にあります。より優れた望遠鏡は、天文学の良い問いの価値を高めます。より良い問いは、望遠鏡の価値を高めます。

補完する要素の中には、物理的なものもあります。理論の検証は粒子加速器を待ち、技術の設計案は、それを形にするエネルギーと設備を待ちます。

一方、目には見えにくい補完要素もあります。アイデアは、それだけでは脆いものです。そこには、あらゆる種類の制度や組織が必要です。法律、実務機構、資金調達の仕組み、サプライチェーンなど、多くの要素が組み合わさって、アイデアは実行に移されます。

優れたアイデアを実現するには、こうした制度や組織の各現場で、正しい行動を長く連ねていかなければなりません。これを制度を動かす知性と呼びましょう。実行を担う、称賛されることのない知性です。天才が記念碑を設計し、制度や組織が石を積み上げます。一方は華々しく、もう一方は退屈に見えますが、どちらも欠かせません。

私たちは時に、超知能を 10 億人のアインシュタイン氏のように想像します。しかし、10 億人のアインシュタイン氏がいる文明でも、その大半は採石場で石を切り出し、会計を管理する必要があります。フロンティアの革新は、それを取り巻く日常の世界が滞りなく動いてこそ可能になります。進歩には、あらゆる人の力が必要です。望遠鏡に使うねじを溶接する人から、天文学者を治療した看護師が通っていた小学校に保険を提供する人まで、誰もが関わっています。進歩の土台には、円滑に機能する経済があります。偉大な功績を語るとき、私たちはその存在を見落としがちです。

人間の知性と同様に、AI も、卓越した洞察を生むことと、制度や組織を機能させることの両方に向けられるでしょう。問題は、その時間の大半をどちらに費やすかです。

AI はすでに、実行能力の不足を和らげています。コードを書き、なじみのない分野の文献を調べ、スケッチを動く試作品に変えます。かつては組織全体で取り組む必要があったアイデアも、意欲ある一人の力で追求できるようになりつつあります。

映画監督を志す人の大半は、自分の作品に挑戦するための 2 億ドルを与えられることはありません。ゲームデザイナーの大半は、他人の創造的な構想を形にすることにキャリアのすべてを費やします。私たちは最も才能のある人を引き立てようとしますが、どうしても見逃す才能が出てきます。こう考えると、知性の時代は、人間の創意工夫を補完するところから始まります。より多くの人が、自分のアイデアを形にする支援スタッフを得られるのです。

その結果、個性豊かなプロジェクトが次々と生まれるかもしれません。これまで各分野で活動への門戸を握っていた組織の外でも、より多くの創作が行われるようになるでしょう。希少な要素は、実行力から審美眼へと移ります。何を作る価値があるのか、どの問いを立てる価値があるのか、数多くの有望な方向性のうち、どれを追求すべきかを見極める力です。

しかし、話はここで終わらないかもしれません。AI が独力で優れた新しい知見にたどり着けるようになると、労働力だけでなく、取り組むべき課題も提供するようになります。数学などの分野では、すでにその兆しが見えているかもしれません。人間が立てた一つの研究計画を実行するのではなく、独自の研究計画を何千も立てるのです。天才的な AI は、制作する価値のある映画の構想や、検証する価値のある仮説の数を爆発的に増やします。アイデアが増える速さに、それを支えるインフラが追いつかなくなります。

今日の AI は、待ち望んだ一息をもたらし、私たちの良いアイデアがようやく日の目を見る機会を与えています。しかし明日には、良いアイデアがあまりに多くなり、これまで以上に実行能力が不足するかもしれません。

結局、新たな知見を生産的に活用するための補完要素が、今後どれほど必要になるのかはわかりません。増えるのか、減るのか、それとも変わらないのでしょうか。考えるだけで、知はどこまで前進できるのでしょうか。卓越した頭脳には、どれほどの実務機構が必要なのでしょうか。

私たちは、その答えは、現実との新たな接点が必要になるまでに、思考だけでどこまで進めるかにかかっていると考えます。

考えられる二つの道筋を示しましょう。一つ目は深化の文明です。超知能によって、物的資本や実務上の調整を増やす必要がなくなります。二つ目は拡張の文明です。自然はあまりに複雑で、人間であれ機械であれ、どんな知性も、現実世界で大規模かつますます精緻な実験を行わずには前進できません。

これまでの人類の歴史は、知性を補完する能力への需要が高まってきたことを示唆しています。ガリレオ氏の望遠鏡は両手に収まりましたが、ウェッブ望遠鏡には文明全体の力が必要でした。ベル研究所の小さなチームは、作業台の上で最初のトランジスタを組み立てました。今、フロンティアの半導体技術の進歩は、複雑な世界規模のサプライチェーンから生まれています。より遠くへ到達しようとするたびに、文明のより多くの力を動員する必要があるのです。

ただし、その歴史が未来を決めるとは限りません。優れた頭脳は、より効率的な補完要素を発明できます。新しい粒子加速器でエネルギーがボトルネックになるなら、優れた発想によって、消費の少ない加速器や、より良いエネルギーの調達方法を考案できます。

天才的な頭脳は、自らを補完する要素の一部を代替することもできます。アインシュタイン氏は、ごく少ない実証データから、思考によって相対性理論にたどり着きました。私たちなら、はるかに多くのデータが必要でしょう。すべての予定を覚えていられる人もいますが、大半の人は Google カレンダーという事務管理の仕組みに頼っています。

また、天才的な頭脳は審美眼を極め、検証すべき最良の仮説を選び、無駄な失敗を避けることもできます。天才が一人増えるたびに計画の質が高まるなら、必要な実務機構が拡大し続けても、私たちは天才に多くを投資するでしょう。実行にかかる費用が高く、誤った対象に費やす損失が大きいからこそです。

どちらの道筋も実際の未来を完全に描くものではありませんが、文明が向かいうる二つの方向と考えることができます。

知性は、三つの方法で知識を前進させることができます。原理から推論すること。既存の証拠から新たな知見を導くこと。そして、世界を観察し、働きかけることで、新たな証拠を集めることです。

第一の方法では、思考だけで遠くまで進めます。数学は、その最も純粋な例です。証明やプロジェクトの数々の分岐点で、優れた頭脳は一貫して正しい判断を下すことができます。何年も手探りで探求する代わりに、短く、より的を絞った推論の連鎖で答えにたどり着きます。

第二の方法にも、急速な進歩を実現できる未開拓の余地があります。人類は、理解できた量をはるかに上回る証拠を集めてきました。天体画像、顕微鏡の標本、オンラインのコメント欄といったデータの研究は、人間の知性の供給が限られることで制約されてきました。科学の記録には、一つの問いに答えるために残された観測があり、その中に多くの別の問いへの答えが眠っているかもしれません。天才的な頭脳が潤沢にあれば、新しいものを集めずとも、すでにあるものを見抜くことで発見ができます。新たな光子を一つも集めずに、新しい宇宙を見いだすかもしれません。

第三の方法は、それほど簡単ではありません。物理的な世界と関わる必要があるからです。物理的な過程には時間がかかり、その速度を上げる手段はほとんどないことも多いのです。化学物質は、反応しなければなりません。生物は、成長しなければなりません。機械は、組み立てなければなりません。宇宙船は、宇宙の速度制限に従いながら、実際の距離を移動しなければなりません。完璧な頭脳であっても、まだ行われていない実験の結果を観測することはできません。

それでも、そこに近づこうとすることはできます。深化の文明でも、現実に照らして確かめる必要はなくなりません。ただし、そのための手間と資源を劇的に節約できるようになります。より優れた推論によって、本当に重要な少数の実験を見極められます。シミュレーションで大部分を解決し、現実の検証でしか決着のつかない不確実性を正確に特定します。超知能は、限られた資源を前提に設計を工夫し、それを最大限に活用することで、効率を極められます。

暗黒物質について複数の仮説を持つ、ある宇宙物理学の研究室を想像してください。まず、それらの仮説を、現実を極めて忠実に再現したコンピューターモデリングで検討します。各理論が、既存のすべてのデータと整合するかを確かめます。それらをすべて終えて初めて、最も有望な理論を検証するために、対象を絞って空の新しい画像を数枚撮影します。この文明にも天才を補完する要素は必要ですが、その一単位あたりから得られる価値は、はるかに大きくなります。

深化の文明へ向かう道のりは、ジグソーパズルに似ているかもしれません。最初と最後は進めやすく、中盤が最も難しいのです。初めは、明らかに端だとわかるピースや、簡単に組み合わせられるピースがあります。やがてそれらはなくなりますが、完成した部分がまだ少なく、残りを埋める手がかりがつかめません。終盤になると、残った空白を見れば、そこに入るものがおのずとわかるようになります。ほぼ完成した科学にとって、最後の発見は、今日の私たちが苦労して目指す発見よりも容易かもしれません。

これは科学ではおなじみのことです。メンデレーエフ氏が未発見の元素の性質を記述できたのは、周期表のほかの部分によって、欠けた部分に入るものが絞り込まれたからです。標準模型は、ヒッグス粒子が観測される何十年も前から、その存在を予測する根拠を物理学者に与えていました。実験は、見つかるはずだと予測したもの、つまり既存の理論やデータと整合するものを探すように、的を絞って行われました。

超知能は、世界のパターンを深く理解し、どんな新しいデータが必要かを正確に把握することで、深化の文明を実現するかもしれません。物理的な拡張の遅い歩みに頼らず、より深い思考によって進歩を推し進めるのです。

こうした効率化の効果が上回れば、文明は自然を理解し制御する力を急速に深められます。巨大な新しい実験設備を管理する、制度を動かす知性への需要も小さくなります。物理的な規模は小さいまま、知恵が成熟していくかもしれません。

私たち人間は、故郷を離れずに、すでに宇宙について多くのことを理解してきました。深化の文明は、その伝統の延長にあるでしょう。

しかし、新たな証拠への需要が、こうした効率化の効果を上回る可能性もあります。知性は、現実に照らして確かめる一回あたりのコストを下げる一方で、確かめるべき理由をはるかに多く見いだすかもしれません。優れた機器は、より微細な未開拓領域を切り開きます。実験が速くなれば、追加の実験にも取り組む価値が生まれます。

アインシュタイン氏がほぼ思考だけで相対性理論にたどり着いた道筋が深化の文明を象徴するなら、拡張の文明を最もよく予見させるのは、生物学かもしれません。どれほど知識を蓄え、データを活用しても、新薬の安全性と有効性を確かめるには、今も大勢の人を対象とする試験が必要です。今では機械が生体内の過程をシミュレーションできるため、生物学者は実際の実験ではなくコンピューター上で新薬を試せます。しかし、そのデジタルシミュレーションは、大規模な臨床試験を代替できるほど忠実に現実世界を再現してはいません。機械が生み出す候補が増えるほど、実証による検証が大きなボトルネックになります。

拡張の文明では、卓越した頭脳だけでは進歩を生み出せません。物的資源と、その利用を管理する実務機構への需要が、優れた頭脳による節約を上回る速さで増えていきます。

将来の AI システムが人間の知性を大幅に上回ったとしても、私たちはこの道を歩むかもしれません。超知能は、ある日の午後に 100 年分の実験を設計し、その後の 100 年を、自然と機械がそれを実行し終えるのを待って過ごすかもしれません。そのような世界では、アイデアを生むこと自体よりも、それを実行するための制度や組織の運用に知性を投入する方が、価値を持つようになります。

一歩進むたびに、それを支えるインフラがさらに多く必要になるなら、その効果は積み重なっていきます。

ここでは、考えることの比重が相対的に下がり、作ることの比重が上がります。研究室は自動化されます。工場は増えていきます。エネルギー生産量も増加します。そのすべてを実現するため、制度を動かす知性が中心的な役割を担います。物理的な拡張が知識を生む原動力となり、文明は広がっていきます。問いの広がりに、答えを得るための手段が追いつかなくなるからです。前進し続けるには、より多くの物資、より多くのエネルギー、より多くのデータが必要になります。

ダイソン球は、この未来の極端な姿です。その設計には並外れたブレークスルーが必要ですが、プロジェクトの大半を占めるのは、画期的な思考ではないでしょう。それは天文学的な規模の建設と物流になるはずです。

ダイソン球の青写真を描くには、卓越した頭脳が必要です。同時に、それはかつてないほど反復的で単調な、組織運営上も難しいプロジェクトの一つになるでしょう。

これは知性の失敗ではなく、むしろその成功がもたらす結果です。優れた頭脳は、取り組む価値のあるプロジェクトをより多く見いだします。そして複雑なプロジェクトほど、実行に多くの物的資源を必要とします。

そうだとすれば、超知能の真の強みは、その天才性ではないのかもしれません。むしろ、自ら進んで実務機構を担うことにあるのでしょう。アイデアをますます大きな規模で現実に変えるために必要な、膨大な技術や制度の仕組みを調整する役割です。

機械の知性のほぼすべてが、華々しい仕事ではなく、退屈な仕事に充てられることになります。

そうなると、物理的な拡張に自然が課す速度の限界が、その先の進歩を阻むかもしれません。恒星のエネルギーを取り出す設備の建設は、どれほど速く計画を描けても、物質を扱う事業です。その先には別の恒星や銀河があり、少なくとも私たちの知る限り、距離そのものが速度を制限します。宇宙船も、送り返す信号も、光より速く進むことはできません。拡張の文明は、ゆっくりと進む文明です。大きな変化が訪れる間隔は数千年、もしかすると数百万年になるかもしれません。次の一歩を踏み出すたびに、より長い時間がかかります。

農業革命や産業革命は、はるかに長く、進歩の速度もずっと遅い歴史の、めまぐるしい幕開けに見えるでしょう。

将来の AI システムは、フロンティアの知見を生み出す力でも、それを実用に役立てるために必要な資源を調整する力でも、人間を上回るかもしれません。しかし、その可能性が人間の好奇心の重要性を損なうことはありません。

第一に、知を求めることに機械の方が長けているように見えても、私たちには知を求め続ける責務があります。宇宙にはすでに、私たちよりはるかに賢く、私たちの理解を超えた科学的・道徳的な問いへの答えを持つ知性が存在するかもしれません。それでも私たちは、自ら世界を理解しようとしています。別の知性が現れても、たとえ自分たちで作った知性であっても、そのことは変わりません。人類にしかできない貢献がもう何も残っていないと確信できるまでは、諦めることは、私たちだけが世界にもたらせるものを無駄にすることです。問い続け、答えを探し続けることが、これからも私たちの責務です。

第二に、私たちは制度を動かす知性よりも、フロンティアの知性に比較優位を持つかもしれません。つまり、両方で機械に劣っていたとしても、相対的には前者を得意とし、それに特化するということです。人間は定型的な仕事より創造的な仕事を好みますが、ロボットにはそのような好みはありません。

第三に、多様性そのものに価値があります。機械が人間の思考の大部分を模倣できても、私たちに独自性が残るなら、創造の多様性に貢献できます。機械の知性の大半は、それ自体で持続する仕組みの中にとどまるでしょう。それでも、そのごく一部は、私たちの創造的な意図に沿って活用されるはずです。全体から見ればわずかでも、私たちの活動規模には潤沢で、今手にしている資源をはるかに上回る量です。

創意工夫は、単独で成り立つものではありません。それには周囲の世界が必要であり、天才には、その創造的な構想を実現する作り手が必要です。

今日、人間の知性の多くは、アイデアを現実に変える、脚光を浴びない仕事に向けられています。機械の知性も、同じ依存関係を受け継ぐことになります。すべてが輝かしい先駆者になるわけにはいきません。実務を担う官僚にもならなければならないのです。

これからの私たちの物語と、その進歩の速度は、優れた頭脳が世界の資源をより多く必要とするのか、それとも少ない資源でより多くを成し遂げるのかにかかっています。