メタは、より「役に立つ」テキスト生成モデルのセットであるLlama 2をリリースしました。

TechCrunch 2023/7/19 08:08:21(JST)

Metaは、Llama 2という新しいAIモデルファミリーを発表しました。これは、OpenAIのChatGPTやBing Chatなどのアプリを駆動するために設計されたもので、公開されているデータを組み合わせてトレーニングされています。Metaによれば、Llama 2の性能は以前のLlamaモデルよりも大幅に向上しています。Llama 2は、Llamaの後継モデルであり、リクエストによってのみ利用可能でしたが、Llama 2は研究や商用利用に無料で利用できるようになります。また、Microsoftとのパートナーシップを拡大し、WindowsやQualcommのSnapdragon搭載のスマートフォンやPCでも利用できるようになります。


Llama 2は、Llamaと比べていくつかの点で異なります。Llama 2は、Llama 2とLlama 2-Chatの2つのバージョンがあり、後者は双方向の会話に適したモデルです。さらに、7 billion parameter、13 billion parameter、70 billion parameterの異なる洗練度のバージョンがあります。Llama 2は、2百万のトークンでトレーニングされており、トークンの数が多いほど生成AIの性能が向上します。Metaは、トレーニングデータの具体的なソースを明らかにしていませんが、ウェブからのデータであり、主に英語の「事実」に関するテキストを強調しています。


Llama 2は、他のモデルと比較して若干劣るものの、ChatGPTと同程度に「役に立つ」と評価されています。ただし、Llama 2にはバイアスがあり、トレーニングデータの偏りにより、特定の軸において「彼」の代名詞をより多く生成する傾向があります。また、トレーニングデータの中には有害なテキストも含まれており、毒性のベンチマークでは他のモデルに劣る結果となっています。Llama 2-Chatモデルは、内部の「役に立つ」や毒性のベンチマークではLlama 2よりも優れていますが、過度に慎重な傾向があります。


Metaは、Llama 2の利用に関して安全性に配慮しており、Microsoftとの協力により、Azure AI Content Safetyを使用して有害な出力を減らす取り組みを行っています。ただし、MetaはLlama 2の利用者に対して、ライセンスや利用規約、安全な開発と展開に関するガイドラインの遵守を求めています。Metaは、Llama 2の公開が役に立ち、安全な生成AIの開発を支援すると述べており、Llama 2を利用して世界が何を構築するかを楽しみにしています。

(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事:Meta releases Llama 2, a more ‘helpful’ set of text-generating models.