VentureBeat 2023/8/10 21:00:00(JST)
DEF CONの31回目の年次イベントでは、AI Villageに参加する数千人のハッカーが、世界のトップの大規模言語モデルに対して攻撃を仕掛ける予定です。これは、AIモデルのグループにとって最大のレッドチーム演習であり、ジェネレーティブレッドチーム（GRT）チャレンジとして知られています。このチャレンジは、NIST（国立標準技術研究所）によって定義されたレッドチーミングの一環であり、ホワイトハウスの科学技術政策局（OSTP）の支援を受けています。さらに、教育プログラムにも取り入れられる予定です。
”
このチャレンジでは、Anthropic、Cohere、Google、Hugging Face、Meta、NVIDIA、OpenAI、StabilityなどのモデルがScale AIが開発した評価プラットフォームでテストされます。また、GPT-4もこのチャレンジの一環として利用される予定です。レッドチーミングは、OpenAIにとって重要な展開の一環であり、モデルをより強力で安全なものにするための貴重なフィードバックを得ることができると述べられています。
”
このチャレンジでは、150台のラップトップステーションとベンダーからの複数のLLM（大規模言語モデル）へのタイムドアクセスが提供されます。また、ポイントシステムも導入され、幅広い損害のテストを促進します。最も高いポイントを獲得した個人には、高価なNVIDIA GPUが贈られます。このチャレンジは、AIモデルの所有者に安全性や倫理、特定の専門知識を提供する非営利団体Humane Intelligenceの共同創設者であるDr. Rumman Chowdhuryによって支持されています。
”
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：Legions of DEF CON hackers will attack generative AI models.