OpenAI 2023/12/14 17:00:00(JST)
10年以内に超知能が実現する可能性があると考えています。これらのAIシステムは非常に高い能力を持ち、大きな利益をもたらす一方で、大きなリスクも潜在しています。現在、AIシステムを安全にするためには、人間のフィードバックに基づいた強化学習を使用しています。しかし、将来の超人的なAIシステムを整合させることは、根本的に新しい技術的な課題を提起します。超人的なAIシステムは、人間が完全に理解できない複雑で創造的な行動が可能です。これにより、人間が安全か危険かを確実に評価することができない場合もあります。既存の整合技術は、人間の監督に依存するRLHFのような手法では十分ではなくなる可能性があります。”
”
この課題を解決するために、人間がより賢いAIシステムを導くためにはどうすればよいのか、というのは世界で最も重要な未解決の技術的問題の一つです。しかし、私たちは集中的な取り組みでこれを解決できると考えています。多くの有望なアプローチと興味深い方向性があり、低いハードルで取り組むことができます。私たちは、機械学習の研究コミュニティと個々の研究者にとって、この問題に大きな進展を遂げる絶好の機会があると考えています。”
”
私たちのSuperalignmentプロジェクトの一環として、この課題に取り組む世界の優れた研究者とエンジニアを集めたいと考えています。Eric Schmidtとのパートナーシップにより、1,000万ドルの助成金プログラムを立ち上げ、超人的なAIシステムの整合性と安全性を確保するための技術研究を支援します。学術研究所、非営利団体、個々の研究者には、10万ドルから200万ドルの助成金を提供します。また、大学院生向けには、1年間の15万ドルのOpenAI Superalignmentフェローシップをスポンサーとして提供します。応募プロセスは簡単で、応募締切から4週間以内に返答します。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：Superalignment Fast Grants.