VentureBeat 2024/1/8 06:15:00(JST)
AIの利用は増加しており、長期的な技術の統治方法に対する懸念も高まっています。AIの統治において説明可能性は重要な要素であり、バイアスを含むシステムの結果を理解し、疑問を投げかけることができるようにするために注力されています。しかし、複雑なアルゴリズムを使用する最新のAI技術では、説明することが非常に困難である場合もあります。”
”
医学界では、新しい治療法の開発においても不確実性に対処するために、ランダム化比較試験が開発されました。AIのリスクを評価するためには、AIシステムの結果を永続的に測定するA/Bテストなどの類似フレームワークが有用である可能性があります。”
”
A/Bテストは、製品開発において広く使用されており、特定の製品や体験の特徴の影響を測定するために異なるグループのユーザーを対象に実施されます。このフレームワークを使用することで、AIシステムのアウトカムを定量的に評価し、ビジネス上の利益だけでなく、不平等な影響や差別などの害を因果関係を特定することができます。”
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：How important is explainability? Applying critical trial principles to AI safety testing.