# 幻覚検出

Vectara社が開発したオープンソースプロジェクトで、大型言語モデル（LLM）が短い文書を要約する際の幻覚発生率を評価します。Vectara社のHughes幻覚評価モデル（HHEM-2.1）を用いて、モデルの出力における幻覚を検出することでランキングを算出します。より信頼性の高いLLMの研究開発に重要なツールであり、開発者はモデルの精度を理解し改善することができます。

PatronusAI/Llama-3-Patronus-Lynx-70B-Instructは、Llama-3アーキテクチャに基づく大規模言語モデルであり、RAG設定における幻覚問題の検出を目的としています。このモデルは、与えられた文書、質問、回答を分析することで、回答が文書の内容に忠実であるかどうかを評価します。主な利点としては、高精度の幻覚検出能力と強力な言語理解能力が挙げられます。Patronus AIによって開発され、金融分析や医学研究など、高精度な情報検証が必要な場面に適しています。現在無料で利用できますが、具体的な商用利用については開発者にお問い合わせください。

Llama-3-Patronus-Lynx-8B-Instructは、Patronus AIが開発したmeta-llama/Meta-Llama-3-8B-Instructモデルをファインチューニングしたバージョンです。RAG設定における幻覚検出を主な目的としています。CovidQA、PubmedQA、DROP、RAGTruthなど複数データセット（人工アノテーションデータと合成データを含む）で訓練されており、与えられた文書、質問、回答が文書内容に忠実であるか、文書外の新たな情報を含んでいないか、文書情報と矛盾していないかを評価できます。

PatronusAI/Llama-3-Patronus-Lynx-8B-v1.1-Instruct-Q8-GGUFは、Llamaモデルに基づく量子化バージョンで、対話と幻覚検出のために設計されています。このモデルはGGUF形式を使用し、8.03億のパラメータを持ち、大規模言語モデルに分類されます。その重要性は、高品質な対話生成と幻觉検出能力を提供しつつ、モデルの高効率動作を維持できる点にあります。このモデルはTransformersライブラリとGGUFテクノロジーに基づいて構築されており、高性能な対話システムとコンテンツ生成が必要なアプリケーションシナリオに適しています。