TechCrunch 2023/6/27 20:30:04(JST)
企業は、生成型AIを採用することが増えていますが、既存のワークフローに組み込む際に生じる障害や課題をすべて考慮しているわけではありません。KPMGの調査によると、90％の企業が生成型AIのリスクについて「中程度から非常に重大な」懸念を抱いており、そのリスクを軽減する方法について疑問を持っています。一方、成熟したAIガバナンスプログラムを持っていると感じている企業はわずか6％にすぎません。このため、CalypsoAIは、内部開発およびサードパーティのAIアプリを展開する前にテスト、検証、および監視するソフトウェアを開発するスタートアップとして設立されました。”
CalypsoAIは、企業が大規模な言語モデル（ChatGPTなど）の使用を監視し、毒性、ユーザーのエンゲージメントなどに関連する統計を示すダッシュボードを介して形状を整えることができるツールを提供しています。CalypsoAIは、機密情報がモデルで共有されるのを防ぎ、生成型AIツールからの攻撃を特定することができます。企業は、生産性の向上を目的として生成型AIソリューションの利点を享受したいと考えていますが、従業員がプロプライエタリ情報を誤って公開することを恐れているため、内部でChatGPTのようなツールの使用を禁止または制限しています。”
CalypsoAIは、Paladin Capital GroupをリードとするシリーズA-1ラウンドで2300万ドルを調達しました。この資金調達を利用して、製品開発、採用、およびゴー・トゥ・マーケット戦略を推進する予定です。CalypsoAIは、顧客のデータを保持せず、代わりに従業員から会社が選択したモデルに情報フローを促進するだけであるため、攻撃に対して堅牢な製品を提供できると主張しています。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：CalypsoAI raises $23M to add guardrails to generative AI models.