TechCrunch 2023/9/8 23:48:40(JST)
2024年は世界中の民主主義にとって重要な年となる。バイデン対トランプの再戦をはじめ、イギリス、台湾、インド、欧州議会などで選挙が予定されており、多くの有権者が投票に向かう。しかし、私たちの調査によれば、人工知能（AI）が選挙プロセスの信頼性を問うリスクが非常に高いことが示されている。元Google CEOのエリック・シュミット氏は、ソーシャルメディアがAIによる虚偽情報から私たちを保護していないため、2024年の選挙は混乱するだろうと予測している。AIによる政治は既に現実のものであり、私たちが考えるべきなのは、「AIがどれほど影響力を持ち、調整されたディスインフォメーションキャンペーンで使用される可能性があるのか」ということだ。
”
AIによる政治への影響は既に現れており、選挙キャンペーンにおいて特に顕著である。ロン・デサンティス氏は、AI生成の写真を使用してトランプがファウチ博士と抱擁している様子を描いた動画を公開した。共和党はまた、バイデン大統領に対する攻撃広告をAIで生成し、民主党が再選された場合のアメリカの姿を有権者に示そうとした。そして、今年初めには、プロロシアのアカウントがAI生成の爆発画像を投稿し、株式市場が一時的に下落した。AIは既に政治と選挙と密接に結びついており、私たちが今本当に問わなければならないのは、「AIがいつ影響を与えるのか」ということではなく、「この技術がどれほど影響力を持ち、調整されたディスインフォメーションキャンペーンで使用される可能性があるのか」ということだ。
”
AIテキストから画像を生成するツールのコンテンツモデレーションの強さを評価した結果、85％以上のプロンプトが受け入れられることがわかった。これには、2020年の選挙以来広まっている「選挙が盗まれている」という物語に関連するプロンプトも含まれていた。これらのツールは、虚偽の物語に関連する画像を生成する能力を持っており、アメリカやイギリス、インドなどの国々での選挙においても同様の結果が得られた。これらのツールのアクセシビリティと低い参入障壁により、誰でも簡単に虚偽情報を作成・拡散することができる。現在のコンテンツモデレーションの政策は不十分であり、画像の品質もまだ完全に人を騙すレベルではないが、情報の混沌とした風景の中で真実を見極めることはますます困難になるだろう。
”
2024年は世界中の選挙サイクルにとって重要な年となるが、AI選挙の始まりでもある。既に政治においてこの技術が使用されているだけでなく、悪意のある外国勢力がこれらの技術をますます大規模に展開する可能性も高い。短期的には、現在のプラットフォームのコンテンツモデレーション政策は不十分であり、強化が必要である。ソーシャルメディア企業も、画像生成AIの調整されたディスインフォメーションキャンペーンへの積極的な対策を取る必要がある。長期的には、メディアリテラシーの向上やAIを活用したAI生成コンテンツへの対策など、さまざまな解決策が模索される必要がある。次年度の選挙サイクルでこれらの解決策が使用されるかどうかはまだわからないが、確かなことは、選挙における誤情報とディスインフォメーションの新たな時代が始まることに備える必要があるということだ。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：How badly will AI-generated images impact elections?.