Kneronは、ニューラルプロセッシングユニット(NPU)のアップデートにより、GPU不足に対処します。

VentureBeat 2023/8/15 14:00:00(JST)

エッジAIスタートアップのKneronは、AI用のGPUの世界的な不足に対する懸念から、競争力のある代替として自社のニューラルプロセッシングユニット(NPU)技術にチャンスを見出しています。Kneronは、最新のKL730 NPUを発表し、従来のモデルと比べて最大4倍のエネルギー効率を提供すると主張しています。この新しいチップは、GPTやトランスフォーマーベースのAIモデルの高速化を支援するために特別に設計されています。

“Kneronのシリコンは、主に自動車や医療・産業アプリケーションなどのエッジアプリケーションを対象としていますが、企業の展開にも潜在的な可能性を見出しています。KneronはQualcommとFoxconnの支援を受けており、Quantaとのエッジサーバーへの展開も行っています。NPUはGPUと比べてコア数が多く、効率的で微妙な接続性に焦点を当てています。GPUはAIのために特別に設計されたデバイスではなく、ゲーム用に設計されたハードウェアです。”

“NvidiaのGPU技術は市場をリードしており、現代の大規模言語モデル(LLM)や生成AIの基盤となっています。しかし、Liu氏はそれが常にそうであるとは考えておらず、AIの需要に対応する方法を求める組織が増えるにつれて、自社が市場での地位を拡大することを期待しています。Kneronのチップは、GPUとは異なるアーキテクチャを使用してAIを高速化しています。KL730では、アーキテクチャがGPTのトランスフォーマーベースのAIモデルに特化して最適化されています。”

“KL730はKneronの最初のトランスフォーマーに最適化されたチップではありません。2年前にKL530シリコンがその機能を持つことが発表されました。Kneronのシリコンでのトランスフォーマーモデルの最初の使用例は、自動車メーカーの支援でした。Liu氏は、トランスフォーマーモデルがLLMや生成AIの有効化に広く使用されるようになるとは2020年には明確ではなかったと述べています。Liu氏は、GPTスタイルのアプリケーションに対応するためにAIチップを大型化したと述べています。KL730では、NPUシリコンの性能を大幅に向上させました。KL703は従来の世代よりも優れた性能を持ち、クラスタリングも可能です。したがって、特定のユースケースに単一のチップが十分でない場合、複数のKL703をクラスタ化して大規模な展開が可能です。Kneronのシリコンは主に推論用途に使用されていますが、複数のKL730を組み合わせることで、機械学習(ML)トレーニングのための技術のより広範な利用が可能になることをLiu氏は期待しています。”

(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事:Kneron takes aim at GPU shortage with its neural processing unit (NPU) update.