TechCrunch 2023/7/6 04:07:57(JST)
OpenAIは、Ilya Sutskever氏（同社の最高科学者で共同創設者の一人）が率いる新しいチームを結成し、”超知能”AIシステムを制御する方法を開発する予定です。彼らは、人間の知能を超えるAIが10年以内に実現する可能性があると予測しています。このAIは必ずしも善意的ではないため、制御する方法を研究する必要があります。OpenAIは、”超知能の整合性”の分野で前進するために、新しいSuperalignmentチームを作ります。彼らは、AIシステムを人間のフィードバックで訓練し、他のAIシステムの評価を支援するAIを構築し、最終的にはAIが整合性の研究を行えるようにすることを目指します。
”
OpenAIの仮説では、AIが人間よりも速く、より良い整合性の研究を進めることができるとされています。彼らは、AIシステムが自身の後継者が人間とより整合性を持つようにするために、人間と協力して働くと述べています。ただし、AIを評価に使用することにはいくつかの制限があり、不一致やバイアス、脆弱性が拡大する可能性があると指摘されています。また、整合性の問題の難しい部分がエンジニアリングとは関係ない可能性もあると述べられています。
”
Sutskever氏とLeike氏は、この取り組みに価値があると考えています。彼らは、超知能の整合性は基本的に機械学習の問題であり、優れた機械学習の専門家が解決するために重要であると述べています。彼らは、この取り組みの成果を広く共有し、OpenAI以外のモデルの整合性と安全性に貢献することを重要な仕事の一部と見なしています。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：OpenAI is forming a new team to bring ‘superintelligent’ AI under control.