OpenAI 2024/1/16 17:00:00(JST)
AIの進化と普及に伴い、AIの振る舞いを決定する際には一般の人々を巻き込むことが重要であり、人間の価値観に合わせるためには公共の意見を取り入れる必要がある。OpenAIは、民主的な方法を用いてAIシステムのルールを決定するための助成金プログラムを発表し、1000件近い応募の中から10チームに10万ドルを授与した。これらのチームは多様な参加者を募集し、多様な視点を反映した成果物を作成するための透明性のあるプロセスを設計するなど、さまざまな課題に取り組んだ。OpenAIは、外部の関係者からの意見を収集し、それをモデルのトレーニングや振る舞いの形成に活用するためのプロセスを設計する予定であり、助成金チームのアイデアやプロトタイプと共に研究を進めることに期待している。
”
“助成金プログラムには113カ国から約1000件の応募があり、選ばれた10チームは異なるバックグラウンドとアプローチを持つ多様なメンバーで構成されている。プログラムでは、チームに対して具体的なサポートとガイダンスが提供され、プロセスの記述と文書化が奨励された。また、9月には特別なデモデーが開催され、チームは他のAI研究所や学術界の研究者に自身のコンセプトを披露する機会を得た。プロジェクトは、参加型エンゲージメントのさまざまな側面をカバーしており、AI自体がカスタマイズされたチャットインターフェースや音声からテキストへの変換などの形でプロセスの一部として有用な役割を果たしている。
”
“参加者の多様性を確保するためには、デジタルや文化的な格差を乗り越えるための取り組みが必要である。また、意見の変化や意見の多様性を適切に反映するためには、合意形成と多様な意見のプラットフォームを両立させることが重要である。さらに、AIの利用に対しては透明性が求められ、民主的なプロセスにおいてAIの力や影響力について慎重な姿勢が示されている。これらの課題に取り組むために、OpenAIは「Collective Alignment」チームを結成し、公共の意見を収集し、モデルの振る舞いに反映させるシステムの実装や助成金プロトタイプの統合に取り組む予定である。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：Democratic inputs to AI grant program: lessons learned and implementation plans.