VentureBeat 2023/7/25 02:27:26(JST)
Stability AIが開発した新しい大規模言語モデル（LLM）「FreeWilly1」と「FreeWilly2」が発表されました。これらのモデルは、MetaのLLaMAとLLaMA 2のオープンソースモデルをベースにしており、法律や数学などの専門分野に関連する複雑な質問に優れた性能を発揮します。これらのモデルは非商業利用のためにリリースされ、研究の進展とAIコミュニティでのオープンアクセスの促進を目指しています。また、環境にやさしくエネルギー消費量も少ないため、オリジナルのモデルや他の主要なLLMと比べても優れたパフォーマンスを発揮します。”
“LLMの普及に伴い、AI生成コンテンツやデータを使用してモデルを更新すると、将来のモデルにどのような影響があるのかという問題が浮上しています。しかし、Stability AIはFreeWillyのトレーニングにおいて、他のLLMを使用して50万の例と10万の合成例を生成し、それでもFreeWillyは優れたパフォーマンスを発揮したことを示しました。これにより、合成データがモデルの崩壊や著作権侵害を回避するための解決策となる可能性があることが示唆されています。”
“Stability AIは、これらのモデルが自然言語理解を強化し、複雑なタスクを可能にすることで、オープンアクセスLLMの分野で新たな基準を設定することを期待しています。研究者や開発者はFreeWilly2の重みをそのまま利用することができますが、FreeWilly1の重みは元のモデルに対する差分として公開されています。”
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：Stability AI unveils new FreeWilly language models trained using minimal — and highly synthetic — data.