GIZMODO 2023/7/11 06:30:00(JST)
AI検出ツールは、非ネイティブの英語話者の文章をしばしば誤ってAI生成と分類してしまう問題がある。大規模なデータセットで訓練された言語モデルのおかげで、人間の文章とチャットボットの自動生成文章を区別することがますます困難になっている。AI検出ツールは一部の文書を正しく分類できないだけでなく、人間の偏見を再現する可能性もある。非ネイティブの英語話者の文章に対しては特に誤検出率が高く、これは非ネイティブの英語話者にとって大きな問題となる可能性がある。
”
AI検出ツールは、文章の「予測困難度」を評価することで動作する。非ネイティブの話者は限られた語彙と予測可能な文法の範囲で言語を使用する傾向があり、その結果、予測可能な文章が多くなる。研究者たちは、TOEFLのエッセイを単語の繰り返しを減らすことでAI検出ソフトウェアの誤検出を大幅に減らすことができた。一方、8年生のエッセイの言語を簡素化すると、AI生成と誤認される割合が増えた。
”
AI検出の改善が進まない限り、非ネイティブの英語話者にとっては大きな問題となる。特に就職市場や学術環境での差別が懸念される。また、AI検出の誤検出が頻繁に起こると、既存の不平等を増幅させる可能性もある。GPT検出器が非ネイティブの作者のコンテンツをAIの盗作と誤ってフラグ付けすることで、特定の非ネイティブコミュニティへの不当な嫌がらせが引き起こされる可能性がある。AI検出の改善が進まない限り、非ネイティブの英語話者の作品を評価する際にはGPT検出器の使用を慎重にする必要がある。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：AI Detectors Discriminate Against Non-Native English Speakers.