AI への民主的な介入
運営元の非営利団体である OpenAI, Inc. は、法律で定められた範囲内において、AI システムが従うべき規則を決定するための民主的なプロセスを設定する実験資金を提供するため、10万ドルの助成金を10件授与するプログラムを開始します。
AI は経済や社会に深遠な影響をもたらすことになるでしょう。テクノロジーは、個人の生活、お互いの関わり方、そして社会全体の発展を形作ります。当社は、AI の挙動についての決定は、公益を反映した多様な視点によって形成されるべきだと考えています。
法律は、行動を規制するために価値観や規範を符号化します。AI は社会と同じようなもので、法的枠組みを超えて、その行動に対してより繊細で適応性のあるガイドラインを必要としています。例えば、公人に関する意見が集団間で割れている場合、AI システムはどのような条件でその人物を非難あるいは批判すべきなのでしょうか。AI の出力において、対立した意見はどのように表現されるべきでしょうか。AI は、デフォルトでどういった層を反映させるべきなのしょうか。世界の平均的な個人の人物像か、ユーザーの国か、ユーザーの人口統計的属性か、それともまったく別のものか。一個人、一企業、一国でさえ、こうした決定を独占的に支配すべきではありません。
AGI（人工汎用知能）は全人類に恩恵をもたらすものであり、可能な限り包摂的なものであるべきです。そこに向けて第一歩を踏み出すために、当社はこの助成金プログラムを立ち上げます。AI システムが従うべき規則とは何かという疑問に答えることができる民主的なプロセスの概念実証を考案するチームを世界中から募集します。これらの実験から学び、よりグローバルで野心的な今後のプロセスの礎としたい考えです。これらの初期実験は、（少なくとも現時点では）意思決定を拘束することを意図したものではないですが、意思決定に関連する問題を探求し、将来の意思決定にもっと直接的に情報を提供できるような、新しい民主的ツールを構築したいと考えています。
最も強力なシステムのガバナンスとその施行に関する決定には、強力な公的監視が必要です。この助成金は、AGI から始まり最終的に超知能を監督するための民主的プロセスを確立するための一歩となります。これは非営利団体の OpenAI によって提供され、研究結果は公開されます。
「民主的なプロセス」とは、広く代表的な人々のグループAが意見を交換し、熟議を行い、B最終的に透明性のある意思決定プロセスを経て結果を決定するプロセスを指しています。Cこのようなプロセスの構成方法はたくさんあり、申請者には革新的になること、既知の方法論を基礎とすること、まったく新しいアプローチを考案することを奨励します。参考となる創造的なアプローチの例としては、Wikipedia（新しいウィンドウで開く）、Twitter Community Notes（新しいウィンドウで開く）、DemocracyNext（新しいウィンドウで開く）、Platform Assemblies（新しいウィンドウで開く）、MetaGov（新しいウィンドウで開く）、RadicalxChange（新しいウィンドウで開く）、People Powered（新しいウィンドウで開く）、Collective Response Systems（新しいウィンドウで開く）、pol.is（新しいウィンドウで開く） などがあります。Collective Intelligence Project（新しいウィンドウで開く）（CIP）が主導する継続的な取り組みも注目に値します。当社は AI への公的意見について連携し、CIP の今後の Alignment Assemblies（新しいウィンドウで開く） に貢献しています。また、AI が民主的なプロセスをどのように強化（新しいウィンドウで開く）できるかを思い描くことも推奨します。例えば、AI は多数の人々の間でより効率的なコミュニケーションを可能にする（新しいウィンドウで開く）かもしれません。
少数派や多数派を適切に代表できない、特殊な圧力団体による操作、情報不足の参加者、見せかけの（新しいウィンドウで開く）参加（新しいウィンドウで開く）など、複数の問題が民主的なプロセスを損ねる可能性があります。こうした破綻の形を見越して対処し、様々なアプローチの潜在的な欠陥やデメリットを認識しているチームを求めています。真に民主的なプロセスを設計することは高いハードルであり、当社の取り組みは、政府による AI の規制に代わるものではなく補完するものであると考えています。このプログラムは、熟議と幅広い公的意見を取り入れた、民主的精神に基づく最善の努力によるプロセスを足がかりとして奨励します。
助成金に申請するには、2023年6月24日21時（太平洋夏時間）までに必要な申請書類をご提出ください。応募ポータルはこちら（新しいウィンドウで開く）からアクセスできます。チームの背景、選択した質問、提案するツールの概要、これらの要素を念頭に置いた民主的なプロセスの実施と評価の計画について、一連の質問に答えていただきます。所定のリストの中から1つ以上の政策的な質問に対応するアプローチを考案してください。社会科学や AI の経歴など応募条件はありません（個人でも団体でも可）。
応募期間の終了後、10組の受賞者を選出する方針です。受賞者は、個人、チーム、組織を問いません。各受賞者には、応募書類に記載された提案を試験的に実施するための10万ドルの助成金が授与されます。助成金の受賞者は、概念実証／プロトタイプを実施し、少なくとも500人の参加が期待されます。2023年10月20日までに結果報告の公表が必須となります。また、助成金プログラムの一環として、プロジェクトのために開発されたコードなどの知的財産は、オープンソースライセンスに従って一般公開することが要求されます。 助成金受賞者に適用される条件は、補助金の規約ならびに本プログラムに関連して助成金受賞者が当社と締結するその他の契約に明記されています。
- 2023年6月24日21時（太平洋時間）：助成金応募書類の提出期限
- 2023年7月14日：受賞者の選出、通知
- 2023年10月20日：稼働するプロトタイプと結果報告の公開
参加するチームは、所定のリストから1つ以上の質問を選び、提案するアプローチを示します。希望であれば、ご自身で質問を作成しても構いません。重要な点として、単純な「はい」か「いいえ」の答えでは不十分で、繊細な方針の提案が必要となるような質問を検討することを推奨します。
この助成金の対象範囲は、モデルの挙動に関する方針の質問に関連します。これをもとに、方針の提言に従って改造されたモデルの挙動で A/B テストを行います。当社は、この助成金の限界を認識し、民主的なプロセスを通じて、モデルの挙動だけでなく、様々な文脈における AI の使用ガイドライン、経済的影響、恩恵の分配など、AI の多くの課題に対応できることを認識しています。
- ChatGPT のような AI アシスタントのパーソナライゼーションは、ユーザーの趣味嗜好にどこまで合わせるべきだと思いますか？このプロセスに境界線が存在すべきだとすれば、それはどのようなものですか？
- AI アシスタントは、公人に対する見解に関する質問にどのように対応すべきですか？ 例えば、中立であるべきですか？回答を拒否すべきですか？何らかの情報源を提供すべきですか？
- AI アシスタントが医療／金融／法律に関する助言を提供することが許されるとしたら、それはどのような条件下ですか？
- AI アシスタントが個人に感情面でのサポートを提供すべきだとすれば、どのようなケースですか？
- 視覚言語融合モデルは、画像から人の性別や人種、感情、アイデンティティ／名前を識別することを許されるべきですか？その理由は何ですか？
- 生成モデルが「CEO」「医者」「看護師」のような非具体的なプロンプトに対して画像を作成する場合、多様な出力と均質な出力のいずれかを生成する可能性があります。AI モデルはこれらの可能性のバランスをどう取るべきですか？このような場合、どのような要素を優先して人物の描写を決定すべきですか？
- LGBTQ の権利や女性の権利のように、人権と地域の文化／法律の違いの両方が関係するテーマを扱う場合、AI はどのような原則を指針とすべきですか？AI の回答は、使用される場所や文化によって変化すべきですか？
- AI モデルのクリエイターが制限や否定に重点を置くべきと考えるコンテンツがあるとすれば、どのカテゴリですか？どのような基準でこれらの制限を決めるべきですか？
この助成金の主な目的は、プロセスにおけるイノベーションを促進することです。AI の挙動を管理するために、民主的な方法の改善が必要です。質問に対する具体的な答えは、プロセスそのものの進歩ほどは重要ではありません。
- 評価：参加者には、参加者の満足度、偏りの変化、拡張性、その他の関連する指標など、自らの方法論の質を評価するための指標を確立し、健全な民主的プロセスを作る新たな指標を考案することを推奨します。
- ロバスト性：荒らしや偽アカウントなどの不適切な行為を防止または対処するための措置。
- 包摂性と代表性：多様な背景を持ち、AI システムの精通度が異なる人々を民主的なプロセスに参加させるための戦略。
- 少数派の意見に力を与える：大勢を占めない、あるいは少数派の意見にも耳を傾け、小規模なグループにとって重大な事柄について、彼らにも影響を与える機会を提供します。
- 効果的なモデレーション：多様な視点を代表すること、価値ある貢献とトピックに関連のないコメントを区別すること、モデレーターのバイアスによるプロセスへの影響を防ぐことなど、モデレーションにおける課題に対処します。
- 拡張性：対面ではなくバーチャルで実施できる、拡張性のあるプロセスを重視しています。このアプローチによって対面での議論による一定の利点が犠牲になる可能性があることを承知しており、バーチャルな場では、一定の側面が失われる可能性があることも認識しています。
- 実行性：熟議のプロセスによって引き出された情報の実行可能性の程度を指します。
- 理解可能性：そのプロセスをどの程度容易に理解し、信頼できるかを指します。
Footnotes
- A
How one selects the group of participants is a critical design question. Part of this grant challenge lies in determining questions about participation. For instance, policy questions involving minority groups may require an increased representation of group members, while questions about the impact of technology on children might necessitate the involvement of domain experts such as educators and psychologists. Moreover, certain questions might be better suited for responses from populations within specific geographical boundaries in order to address localized policy issues.
- B
Deliberation can be described as a process that uncovers opinions, helping the discussants understand each other's views and reconsider and update their viewpoints. Well-designed deliberation ensures that arguments are well understood by all sides, and are based on people's values rather than superficial misunderstandings. Successful deliberation results in participants reaching a higher level of consensus, and/or reaching deeper levels of understanding for differing perspectives.
- C
There are many decision-making algorithms to be considered here, such as electing representatives, majority voting, employing liquid democracy（新しいウィンドウで開く）, and making decisions by a random population sample（新しいウィンドウで開く）, also known as a jury or sortition（新しいウィンドウで開く）.
Authors
Acknowledgments
Ariel Procaccia, Aviv Ovadya, Colin Megill, David Medina, Divya Siddarth, Ela Madej, Elizabeth Seger, Gillian Hadfield, Greg Brockman, Hélène Landemore, Ilya Sutskever, Justin Rosenstein, Margaret Levi, Michiel Bakker, Miles Brundage, Mira Murati, Noel Bundick, Pamela Mishkin, Ryan Lowe, Saffron Huang, Sam Altman, Sandhini Agarwal, Teddy Lee
