OpenAI 2023/9/19 17:00:00(JST)
OpenAIは、OpenAI Red Teaming Networkへの参加を募集し、OpenAIのモデルの安全性向上に興味を持つドメインの専門家を招待します。私たちは、さまざまな分野の専門家と協力して、私たちのAIモデルを厳密に評価し、レッドチームを組織することを目指しています。これは、モデルの開発ライフサイクルのさまざまな段階で、リスク評価と緩和の取り組みを広げるためのものです。”
“OpenAI Red Teaming Networkは、信頼できる経験豊富な専門家のコミュニティであり、モデルと製品の開発のさまざまな段階でレッドチームを組織するために、その専門知識を活用します。ネットワークのメンバーは、個々の専門家、研究機関、市民社会の組織と協力することが重要です。このネットワークは、第三者の監査などの外部で指定されたガバナンスの実践を補完するものです。”
“OpenAI Red Teaming Networkのメンバーは、モデルと製品の開発ライフサイクルのさまざまな段階でレッドチームを組織するために、その専門知識に基づいて呼び出されます。メンバー全員がすべての新しいモデルや製品に関与するわけではなく、時間の貢献は個々のメンバーと決定されます。また、OpenAIによって委託されたレッドチームのキャンペーン以外にも、メンバー同士が一般的なレッドチームの実践や調査結果について交流する機会があります。”
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：OpenAI Red Teaming Network.