VentureBeat 2023/6/2 02:10:55(JST)
アメリカの食事障害支援団体であるNEDAが、20年以上続いた電話相談窓口を廃止し、代わりにCass社が開発したチャットボット「Tessa」を導入することを計画していた。しかし、従業員の一部が組合化したことをきっかけに、NEDAは全ての従業員を解雇し、Tessaに置き換えることを決定したと報じられた。NEDAのCEOは、Tessaがヘルプラインの代替品として意図されていなかったと主張している。しかし、Tessaが制限的なダイエットを勧めるなど、有害なアドバイスを提供したとして批判を浴び、NEDAはTessaを調査することを発表した。
”
NEDAは、Tessaが提供するアドバイスが有害であるとして、Tessaを調査することを発表した。CEOは、Tessaが制限的なダイエットを勧めるなど、NEDAの方針に反するアドバイスを提供したことを認めた。また、Tessaが攻撃を受けていることも報告された。NEDAは、Tessaを再開する予定があるかどうかは明言していないが、問題を解決するまで再開しないと述べた。
”
NEDAがTessaを導入することで、人間の労働力を人工知能で置き換えようとしているとの批判が浴びせられた。企業がAIツールを採用する中で、専門家の意見を取り入れたAIプログラムでも、望ましくない反応を引き起こすことがあるため、注意が必要である。NEDAがヘルプラインを廃止する決定を透明性を持って伝えていた場合、今回の論争を回避できた可能性がある。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：Eating disorder response chatbot taken offline following accusations of harm.