GIZMODO 2023/6/14 13:29:00(JST)
アリゾナ州在住のジェニファー・デステファノさんは、AIディープフェイク誘拐詐欺の急速な出現傾向の中で、被害者の一人となった。彼女は、15歳の娘の声を真似たAI生成のディープフェイクによって、1,000,000ドルの身代金を要求された。警察に通報したが、実際に犯罪が行われたわけではないため、詐欺電話として扱われた。このような詐欺の増加は、AIの悪用の新たな領域を指摘し、法律の不備を浮き彫りにしている。”””
ジェニファーさんの体験は、人権に対する生成的人工知能の現実的な影響についての上院司法委員会の公聴会で話された。AI生成のコンテンツは、完全に偽物であっても、現実的で説得力があり、個人化され、スケールで展開可能であるため、詐欺の巨大な領域を作り出す。これにより、共有現実への信頼が脅かされる。”””
法改正のほか、AI詐欺者を追跡するためのAI検出能力の向上を促進するための措置を講じることができる。AI開発者は、AIモデルによってコンテンツが生成されたことを開示するための透かしシステムを開発することができる。警察機関は、ディープフェイク詐欺のような事件に対応するために、AI検出能力を備える必要がある。ジェニファーさんは、AIの良い面もあると述べ、AIの適切な統治によって人生が改善される可能性があると述べた。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：Mom Recounts ‘Terrorizing’ Deepfake Kidnapping Scam in Gripping Testimony.