TechCrunch 2023/9/4 22:30:39(JST)
大規模な言語モデル（LLM）は、事実をでっち上げるという問題を抱えています。これは、OpenAIのChatGPTなどのLLMに共通しています。間違いは奇妙で無害なものから、深刻で危険なものまでさまざまです。LLMの幻覚は、悪意を持っているわけではありません。彼らは単に特定の単語やフレーズを特定の概念と関連付けて学習しているだけです。幻覚を解決するためには、モデルの予測に懐疑的な目を向けることが最善のアプローチのようです。
”
LLMは、文法的には正しいが意味のないテキストを生成することがあります。また、訓練データの不正確さにより、誤った情報を広めることもあります。LLMは、真実と偽りの概念を持っていないため、正確でない関連付けを学習してしまいます。幻覚を解決するためには、モデルの予測に懐疑的な目を向けることが重要です。
”
幻覚は完全に解決できるものではありませんが、訓練方法や展開方法によっては、幻覚を減らすことができます。高品質な知識ベースを使用してモデルを訓練し、リトリーバルのプロセスを通じて正確な回答を提供することで、幻覚を減らすことができます。また、人間のフィードバックを用いた強化学習も幻覚を減らすための有効な手法です。幻覚はクリエイティブな活用にも役立つ場合がありますが、専門家としての役割を期待される場合には問題となります。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：Are AI models doomed to always hallucinate?.