TechCrunch 2023/9/20 02:38:38(JST)
OpenAIは、AIシステムをより堅牢にするための取り組みの一環として、OpenAI Red Teaming Networkを立ち上げました。このネットワークは、AIモデルのリスク評価と軽減策に関する専門家の契約グループであり、AI技術が主流になるにつれて、特に生成技術において、赤チームの活動がAIモデル開発プロセスでますます重要なステップとなっています。OpenAIは、外部の専門家との協力を以前から行ってきましたが、Red Teaming Networkはこれらの取り組みを形式化し、科学者、研究機関、市民社会組織との協力を「深め」「広げる」ことを目指しています。
”
OpenAIは、外部の専門家との協力を以前から行ってきましたが、Red Teaming Networkはこれらの取り組みを形式化し、科学者、研究機関、市民社会組織との協力を「深め」「広げる」ことを目指しています。ネットワークのメンバーは、モデルや製品の開発ライフサイクルのさまざまな段階で赤チームの活動を支援するために、専門知識に基づいて呼び出されます。また、OpenAIは、Red Teaming Networkのメンバー同士が一般的な赤チームの実践や調査結果について交流する機会も提供します。
”
OpenAIは、言語学、バイオメトリクス、金融、医療など、幅広い専門家を参加させることを呼びかけています。AIシステムや言語モデルの事前の経験は必要ありませんが、Red Teaming Networkの機会は非開示や機密保持契約の対象となる可能性があります。OpenAIは、「AIシステムの影響を評価する方法に対するあなたの意欲」を最も重視しており、世界中の専門家からの応募を歓迎し、選考プロセスにおいて地理的および領域の多様性を優先します。
”
一部の人々は、赤チーム活動だけでは不十分だと主張しています。しかし、現時点では、OpenAIのような赤チームネットワークが最善の選択肢のようです。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：OpenAI launches a red teaming network to make its models more robust.