VentureBeat 2023/7/21 23:00:00(JST)
最近、スタンフォード大学、UCバークレー、Samaya AIの研究者らによる研究が発表され、大規模言語モデル（LLM）は長いコンテキストウィンドウで与えられた関連情報にアクセスし、使用することができないことがわかった。コンテキストウィンドウとは、モデルが処理し、応答することができるテキストの長さを指す。LLMの性能と有用性がさまざまなアプリケーションで向上し続けるという考えは、多くの開発者やユーザーによって前提とされていた。しかし、この研究は、コンテキストウィンドウに関するいくつかの仮定が正しくないことを示している。”
“研究では、LLMのパフォーマンスが最も高いのは「関連情報が入力コンテキストの始まりや終わりにある場合であり、長いコンテキストの中で関連情報にアクセスする必要がある場合には著しく低下する。さらに、入力コンテキストが長くなるほど、明示的に長いコンテキストを扱うモデルでもパフォーマンスが大幅に低下する」と結論づけられた。”
“この研究は、ドキュメントをコンテキストウィンドウに詰め込んで検索や分析を行うことが望ましい結果をもたらさないことを示しており、ベクトルデータベースのような手法が有効であることを示唆している。また、言語モデルは関連性のあるものを見つけることには優れているが、関連性のあるものが少ない場合には多くの関連するものを区別することができないという課題もある。したがって、言語モデルとベクトルデータベースの使用は状況によって異なるため、両者を使い分けるべきであると研究者は述べている。”
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：Stanford study challenges assumptions about language models: Larger context doesn’t mean better understanding.