VentureBeat 2023/8/28 02:10:00(JST)
セキュリティ業界において、生成AIと大規模言語モデル（LLM）の潜在能力が注目されています。これらの新しいツールは、コードの作成やスキャン、人手不足のチームの補完、リアルタイムでの脅威分析など、セキュリティチームの正確性、効率性、生産性を向上させるために幅広い機能を提供する可能性があります。しかし、生成AIとLLMはまだ発展途上であり、適切な使用方法について組織が苦慮しています。また、セキュリティ専門家だけでなく、攻撃者も生成AIの潜在能力を認識しており、悪意のある目的で使用する方法を模索しています。”
“生成AIの能力と責任ある使用方法を理解することは、技術の進化と普及に伴って重要になります。生成AIモデルは、プログラミングやコーディングのアプローチを根本的に変える可能性があります。アイデアがあれば、生成AIがそれを実現するのに役立つことがあります。ただし、生成AIは既存のコンテンツに基づいて出力を生成するため、攻撃者にとっても利用価値があります。攻撃者は、既存の悪意のあるコードを生成AIツールに入力し、そのコードのバリエーションを作成することができます。これにより、既知の攻撃シグネチャに基づくセキュリティ防御を回避することができます。”
“攻撃者はまた、生成AIとLLMを使用してソースコードをスキャンし、脆弱性を特定することができます。これにより、ゼロデイ攻撃や危険なエクスプロイトの数が増える可能性があります。組織は、これらの新しいツールを安全かつ責任ある方法で使用するために、潜在的な脆弱性をスキャンし、修正する必要があります。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：Why generative AI is a double-edged sword for the cybersecurity sector.