Vectara HHEM-2.3
82 modelos com valor. Líder: GPT-5.4 nano com 3,1 %.
| Ficha do benchmark | |
|---|---|
| Tarefa | Zusammenfassung - Treue zur Vorlage |
| Métrica | Anteil der Zusammenfassungen mit mindestens einer Aussage, die im Quelldokument nicht steht |
| Direção | ↓ menor é melhor |
| Limitação | Nur Englisch, und die Antwortrate gehoert zur Zahl: wer ein Drittel der Dokumente verweigert, halluziniert auf dem Rest seltener. Gemessen wird Treue zur Vorlage, nicht Nuetzlichkeit - ein Modell, das abschreibt, gewinnt. |
| Data | 11/05/2026 |
| Fonte | github.com |
| Licença | Apache-2.0 — Vectara Hallucination Leaderboard |
Classificação (82)
Nenhuma entrada corresponde ao filtro.
| Modelo | Posição | Valor | Taxa de resposta | Desenvolvedor | Processamento na UE: EntradaUE entrada | Processamento na UE: SaídaUE saída | todos os fornecedores: Entradatodos entrada | todos os fornecedores: Saídatodos saída | Pesos abertos | Memória GPU (4 bits, estimada)Memória GPU |
|---|---|---|---|---|---|---|---|---|---|---|
| GPT-5.4 nano | 1 | 3,1 % | 100 % | OpenAI | – | – | 0,09 € | 0,56 € | – não | – |
| Gemini 2.5 Flash-Lite | 2 | 3,3 % | 99,5 % | – | – | 0,045 € | 0,18 € | – não | – | |
| Phi-4 | 3 | 3,7 % | 80,7 % | Microsoft | – | – | 0,063 € | 0,13 € | ✓ sim | a partir de 13 GB |
| Llama 3.3 70B | 4 | 4,1 % | 99,5 % | Meta | 0,45 € | 0,65 € | 0,09 € | 0,29 € | ✓ sim | a partir de 43 GB |
| Gemma 3 12B | 5 | 4,4 % | 97,4 % | – | – | 0,045 € | 0,13 € | ✓ sim | a partir de 11 GB | |
| Mistral Large 2.1 | 6 | 4,5 % | 99,9 % | Mistral AI | – | – | – | – | ✓ sim | a partir de 72 GB |
| Qwen3 8B | 7 | 4,8 % | 99,9 % | Alibaba Cloud | – | – | – | – | ✓ sim | a partir de 9 GB |
| Mistral Small 3 24B | 8 | 5,1 % | 97,9 % | Mistral AI | – | – | 0,045 € | 0,072 € | ✓ sim | a partir de 17 GB |
| Nova 2 Lite | 8 | 5,1 % | 99,6 % | Amazon | 0,34 € | 2,82 € | 0,15 € | 1,23 € | – não | – |
| Nova Pro | 8 | 5,1 % | 99,3 % | Amazon | 0,82 € | 3,29 € | 0,36 € | 1,43 € | – não | – |
| Gemma 4 26B A4B | 11 | 5,2 % | 99,8 % | 0,11 € | 0,27 € | 0,063 € | 0,30 € | – | – | |
| Granite 4.0 H Small | 11 | 5,2 % | 100 % | IBM | – | – | – | – | ✓ sim | a partir de 22 GB |
| Qwen3-14B | 13 | 5,4 % | 99,9 % | Alibaba Cloud | 0,18 € | 0,90 € | 0,11 € | 0,21 € | ✓ sim | a partir de 13 GB |
| DeepSeek V3.1 | 14 | 5,5 % | 94,5 % | DeepSeek | – | – | 0,22 € | 0,85 € | ✓ sim | a partir de 374 GB |
| GPT-5.4 mini | 14 | 5,5 % | 100 % | OpenAI | 0,74 € | 4,43 € | 0,34 € | 2,02 € | – não | – |
| Nova Micro | 14 | 5,5 % | 100 % | Amazon | 0,036 € | 0,14 € | 0,031 € | 0,13 € | – não | – |
| GPT-4.1 | 17 | 5,6 % | 99,9 % | OpenAI | 1,97 € | 7,87 € | 0,90 € | 3,58 € | – não | – |
| GPT-4.1-2025-04-14 | 17 | 5,6 % | 99,9 % | OpenAI | 0,99 € | 3,94 € | 0,90 € | 3,58 € | – não | – |
| Qwen3-32B | 19 | 5,9 % | 99,9 % | qwen-alibaba | 0,28 € | 0,28 € | 0,072 € | 0,25 € | ✓ sim | a partir de 23 GB |
| DeepSeek-V3 | 20 | 6,1 % | 97,5 % | DeepSeek | – | – | 0,29 € | 0,80 € | ✓ sim | a partir de 381 GB |
| Nova Lite | 20 | 6,1 % | 99,9 % | Amazon | 0,062 € | 0,25 € | 0,054 € | 0,21 € | – não | – |
| deepseek-v3.2 | 22 | 6,3 % | 92,6 % | DeepSeek | 0,35 € | 0,58 € | 0,23 € | 0,34 € | ✓ sim | a partir de 381 GB |
| Gemma 3 4B | 23 | 6,4 % | 67,3 % | – | – | 0,018 € | 0,036 € | ✓ sim | a partir de 7 GB | |
| GPT-6 sol | 24 | 6,5 % | 100 % | OpenAI | 2,15 € | 10,75 € | 0,90 € | 4,48 € | – não | – |
| Gemini 2.5 Pro | 25 | 7 % | 99,1 % | 1,34 € | 8,94 € | 0,56 € | 4,48 € | – não | – | |
| GPT-5.4 | 25 | 7 % | 99,9 % | OpenAI | 2,60 € | 13,87 € | 1,12 € | 6,72 € | – não | – |
| Gemma 3 27B | 27 | 7,4 % | 98,8 % | 0,089 € | 0,27 € | 0,072 € | 0,14 € | ✓ sim | a partir de 20 GB | |
| Gemma 4 31B | 27 | 7,4 % | 92,6 % | 0,09 € | 0,27 € | 0,09 € | 0,27 € | ✓ sim | a partir de 22 GB | |
| Llama 4 Scout 17B-16E | 29 | 7,7 % | 99 % | Meta | – | – | 0,09 € | 0,27 € | ✓ sim | a partir de 64 GB |
| Gemini 2.5 Flash | 30 | 7,8 % | 99 % | 0,27 € | 2,24 € | 0,13 € | 1,12 € | – não | – | |
| Gemini 3.1 Flash-Lite | 31 | 8,2 % | 99,6 % | 0,24 € | 1,46 € | 0,11 € | 0,67 € | – não | – | |
| Llama 4 Maverick | 31 | 8,2 % | 100 % | Meta | – | – | 0,16 € | 0,52 € | ✓ sim | a partir de 225 GB |
| GPT-5.4 Pro | 33 | 8,3 % | 100 % | OpenAI | – | – | 13,43 € | 80,61 € | – não | – |
| DeepSeek V4 Pro | 34 | 8,6 % | 97,2 % | DeepSeek | 0,90 € | 1,79 € | 0,90 € | 1,79 € | ✓ sim | a partir de 884 GB |
| MiniMax M2.5 | 35 | 9,1 % | 98,2 % | MiniMax | 0,31 € | 1,25 € | 0,13 € | 0,54 € | ✓ sim | a partir de 130 GB |
| GLM 4.7 Flash | 36 | 9,3 % | 91,6 % | Z.ai | 0,072 € | 0,43 € | 0,031 € | 0,18 € | ✓ sim | a partir de 21 GB |
| GPT-5.5 | 36 | 9,3 % | 100 % | OpenAI | 4,93 € | 29,56 € | 2,24 € | 13,43 € | – não | – |
| Aya Expanse 8B | 38 | 9,5 % | 77,5 % | – | – | – | 0,45 € | 1,34 € | – | – |
| GLM 4.6 | 38 | 9,5 % | 94,5 % | Z.ai | – | – | 0,39 € | 1,57 € | ✓ sim | a partir de 201 GB |
| GPT-4o | 40 | 9,6 % | 93,8 % | OpenAI | 2,39 € | 9,55 € | 1,12 € | 4,48 € | – não | – |
| GPT-4o-2024-08-06 | 40 | 9,6 % | 93,8 % | OpenAI | 1,23 € | 4,93 € | 1,12 € | 4,48 € | – não | – |
| NVIDIA Nemotron 3 Nano 30B | 40 | 9,6 % | 99,6 % | NVIDIA | 0,054 € | 0,21 € | 0,027 € | 0,11 € | ✓ sim | a partir de 22 GB |
| Claude Haiku 4.5 | 43 | 9,8 % | 99,5 % | Anthropic | 0,89 € | 4,47 € | 0,45 € | 2,24 € | – não | – |
| GLM-5 | 44 | 10,1 % | 99,7 % | Z.ai | 1,15 € | 3,68 € | 0,45 € | 1,43 € | – | – |
| Claude Sonnet 4 (retired, except on Claude Models on Google Cloud (Google managed) and Bedrock) | 45 | 10,3 % | 98,6 % | Anthropic | – | – | 1,34 € | 6,72 € | – não | – |
| Gemini 3.1 Pro (Vorschau) | 46 | 10,4 % | 99,4 % | – | – | 0,90 € | 5,37 € | – não | – | |
| GPT-5 nano | 47 | 10,5 % | 100 % | OpenAI | 0,049 € | 0,39 € | 0,022 € | 0,18 € | – não | – |
| Qwen3.5-35B-A3B | 47 | 10,5 % | 99,8 % | Alibaba Cloud | – | – | 0,13 € | 0,90 € | ✓ sim | a partir de 24 GB |
| Claude Sonnet 4.6 | 49 | 10,6 % | 99,9 % | Anthropic | 2,87 € | 14,31 € | 1,34 € | 6,72 € | – não | – |
| GPT-5.2 | 50 | 10,8 % | 100 % | OpenAI | 1,72 € | 13,79 € | 0,78 € | 6,27 € | – não | – |
| Kimi K2.6 | 50 | 10,8 % | 99,7 % | Moonshot AI | 0,43 € | 2,67 € | 0,35 € | 1,61 € | ✓ sim | a partir de 569 GB |
| Aya Expanse 32B | 52 | 10,9 % | 99,8 % | – | – | – | 0,45 € | 1,34 € | – | – |
| Opus 4.5 | 52 | 10,9 % | 98,7 % | Anthropic | 4,77 € | 23,85 € | 2,24 € | 11,20 € | – não | – |
| Qwen3.5-122B-A10B | 54 | 11,2 % | 99,8 % | Alibaba Cloud | 0,22 € | 1,57 € | 0,22 € | 1,57 € | ✓ sim | a partir de 73 GB |
| GLM 4.7 | 55 | 11,7 % | 99,8 % | Z.ai | – | – | 0,27 € | 0,99 € | ✓ sim | a partir de 201 GB |
| Claude Opus 4.1 (retired, except on Claude Models on Google Cloud (Google managed) and Bedrock) | 56 | 11,8 % | 92,4 % | Anthropic | – | – | 6,72 € | 33,59 € | – não | – |
| Minimax M2.1 | 56 | 11,8 % | 98,5 % | MiniMax | 0,32 € | 1,29 € | 0,13 € | 0,54 € | ✓ sim | a partir de 130 GB |
| Claude Opus 4 (retired, except on Claude Models on Google Cloud (Google managed)) | 58 | 12 % | 91 % | Anthropic | – | – | 6,72 € | 33,59 € | – não | – |
| Opus 4.7 | 58 | 12 % | 98 % | Anthropic | 4,88 € | 24,40 € | 2,24 € | 11,20 € | – não | – |
| Sonnet 4.5 | 58 | 12 % | 95,6 % | Anthropic | 2,68 € | 13,42 € | 1,34 € | 6,72 € | – não | – |
| Gemini 4 Argon | 61 | 12,1 % | 99,1 % | 2,02 € | 10,10 € | 0,90 € | 4,48 € | – não | – | |
| gpt-5.1 | 61 | 12,1 % | 100 % | OpenAI | 1,23 € | 9,84 € | 0,56 € | 4,48 € | – não | – |
| Qwen3.5-27B | 61 | 12,1 % | 99,8 % | Alibaba Cloud | – | – | 0,23 € | 2,33 € | ✓ sim | a partir de 20 GB |
| Opus 4.6 | 64 | 12,2 % | 99,8 % | Anthropic | 4,77 € | 23,84 € | 2,24 € | 11,20 € | – não | – |
| Mercury 2 | 65 | 12,3 % | 100 % | inception | – | – | 0,28 € | 0,84 € | – não | – |
| GPT-5.6 sol | 66 | 12,4 % | 99,1 % | OpenAI | 3,94 € | 19,70 € | 1,79 € | 8,96 € | – não | – |
| GPT-5 mini | 67 | 12,9 % | 99,9 % | OpenAI | 0,25 € | 1,97 € | 0,11 € | 0,90 € | – não | – |
| MiniMax M2.7 | 67 | 12,9 % | 99,4 % | MiniMax | – | – | 0,27 € | 1,07 € | ✓ sim | a partir de 130 GB |
| Gemini 3 Flash Preview | 69 | 13,5 % | 99,8 % | – | – | 0,22 € | 1,34 € | – não | – | |
| gpt-oss-120b | 70 | 14,2 % | 99,9 % | OpenAI | 0,026 € | 0,12 € | 0,026 € | 0,12 € | ✓ sim | a partir de 69 GB |
| Kimi K2.5 (Retiring) | 70 | 14,2 % | 92,2 % | Moonshot AI | 0,58 € | 3,22 € | 0,27 € | 1,34 € | ✓ sim | a partir de 554 GB |
| Mistral Large 3 | 72 | 14,5 % | 98,8 % | Mistral AI | 0,55 € | 1,65 € | 0,22 € | 0,67 € | ✓ sim | a partir de 376 GB |
| gpt-5 | 73 | 15,1 % | 99,9 % | OpenAI | 0,62 € | 4,93 € | 0,56 € | 4,48 € | – não | – |
| GPT-5 2025-08-07 | 73 | 15,1 % | 99,9 % | OpenAI | – | – | 0,56 € | 4,48 € | – não | – |
| Grok 4.1 Fast Non-Reasoning | 75 | 17,8 % | 98,5 % | xAI | – | – | 0,18 € | 0,45 € | – não | – |
| Kimi K2 Instruct 0905 | 76 | 17,9 % | 98,6 % | Moonshot AI | – | – | 0,51 € | 2,06 € | ✓ sim | a partir de 554 GB |
| o4-mini 2025-04-16 | 77 | 18,6 % | 99,2 % | OpenAI | 0,54 € | 2,17 € | 0,49 € | 1,97 € | – não | – |
| Grok 4.1 Fast Reasoning | 78 | 19,2 % | 99,7 % | xAI | – | – | 0,18 € | 0,45 € | – não | – |
| Ministral 3 14B | 79 | 19,4 % | 99,6 % | Mistral AI | 0,21 € | 0,21 € | 0,09 € | 0,09 € | ✓ sim | a partir de 12 GB |
| Ministral 3 8B | 80 | 21,7 % | 99,1 % | Mistral AI | 0,16 € | 0,16 € | 0,063 € | 0,063 € | ✓ sim | a partir de 9 GB |
| o3-pro | 81 | 23,3 % | 100 % | OpenAI | – | – | 8,96 € | 35,83 € | – não | – |
| Ministral 3 3B | 82 | 24,2 % | 74,3 % | Mistral AI | 0,11 € | 0,11 € | 0,045 € | 0,045 € | ✓ sim | a partir de 7 GB |
Valores iguais = mesma posição. Ao filtrar, a posição continua a ser a da lista completa. A memória GPU «a partir de …» é um limite inferior (parâmetros × 0,55 GB + 4 GB). Preços: € por 1 M de tokens. Fonte: páginas de preços dos fornecedores, lidas e verificadas pela searchit. A 07/11/2026.
Preço e desempenho
Valores: Vectara HHEM-2.3, Apache-2.0 — Vectara Hallucination Leaderboard. Retirados sem alterações da fonte.