TechCrunch 2023/6/2 20:30:37(JST)
人工知能（AI）がビジネスに急速に導入されているが、一般の人々にも簡単に利用できるようになることで、虚偽情報や憎悪の拡散が増加する可能性があるため、アメリカの84％が懸念している。企業がこの技術を導入する際には、信頼性と安全性を最優先に考える必要がある。また、AIプラットフォームには、悪意のあるユーザーによる悪用を防ぐためのガードレールが必要であり、透明性を確保することも重要である。AIは、人々の生活を改善し、オンライン上の情報処理方法を革新する可能性があるが、責任あるリーダーシップが必要である。
“信頼性と安全性を最優先に考える必要がある”
AIがビジネスに導入される際には、信頼性と安全性を最優先に考える必要がある。AIプラットフォームには、悪意のあるユーザーによる悪用を防ぐためのガードレールが必要であり、透明性を確保することも重要である。特に、医療や金融など、これまでこれらの問題に取り組んでこなかった業界にAIが導入されることにより、新たな問題が発生する可能性がある。企業は、信頼性と安全性に関する専門家を招き、これらのツールが悪用される可能性がある方法を考え、悪用に対処する責任を持つスタッフを投資する必要がある。
“透明性を確保することも重要である”
AIプラットフォームには、透明性を確保することも重要である。AIプラットフォームは、完全に防ぐことができないため、悪意のあるユーザーによる悪用を防ぐためのガードレールが必要である。AIプラットフォームを広く導入する前に、どのようなテストが行われているか、どのようなデータセットが使用されているか、オンライン上で最も標的にされているコミュニティの経験がこれらのツールの作成に統合されているかなど、重要な質問をする必要がある。プラットフォームからの透明性がなければ、バイアスや偏見の拡散を防ぐことはできない。
“責任あるリーダーシップが必要である”
AIは、人々の生活を改善し、オンライン上の情報処理方法を革新する可能性があるが、責任あるリーダーシップが必要である。AIプラットフォームは、悪意のあるユーザーによる悪用を防ぐためのガードレールを備え、人間の兵器化に対する保護策を備える必要がある。AIは、偽ニュースを作成し、深いフェイクを作成し、憎悪や嫌がらせを瞬時に拡散することができるため、AIプラットフォームは、これらのツールを使用して生成される有害なコンテンツの洪水に耐えることができる堅牢なモデレーションシステムを組み込む必要がある。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：AI-generated hate is rising: 3 things leaders should consider before adopting this new tech.