Una ricerca di VentureBeat (Pulse Research) su 101 aziende con più di 100 dipendenti mette a fuoco un problema che chi lavora con gli LLM in produzione conosce bene: gli agenti rispondono con sicurezza, ma il contesto che li alimenta viene costruito più in fretta di quanto si riesca a renderlo affidabile. È il context gap.
Il dato che dà il nome al report: il 57% delle aziende ha visto, negli ultimi sei mesi, i propri agenti produrre risposte sicure ma sbagliate, ricondotte a contesto mancante o incoerente — e più della metà di queste lo ha visto accadere più di una volta. Non è un fallimento di frangia: il RAG è la fonte primaria di contesto per il 38% delle aziende, più di ogni altro approccio, quindi quando il retrieval è sottile gli errori indossano l’autorevolezza dell’agente.
Il mercato va verso i provider, ma dice di volere l’indipendenza
Sul fronte degli strumenti, il retrieval provider-native ha già superato i vector database dedicati: OpenAI file search è al 40%, Google Vertex AI Search al 38%, davanti a ogni database vettoriale puro. Eppure una pluralità (36%) dichiara di voler mantenere strumenti best-of-breed invece di consolidare sullo stack nativo di un provider, e il 57% prevede di cambiare o aggiungere un provider entro l’anno. Uso reale e preferenza dichiarata tirano in direzioni opposte.
La cura su cui il settore sta convergendo è un semantic layer governato più retrieval ibrido (embeddings, reranking e access control): il 58% lo usa già in produzione (25%) o lo sta costruendo (34%), e un ulteriore 17% lo sta valutando. Ma per la maggioranza è ancora un cantiere: si costruisce più di quanto sia in produzione.
Il campione è modesto (101 risposte, una sola rilevazione Q2 2026, auto-selezionato) e va letto come segnale direzionale, non come misura precisa. La direzione però è chiara: il layer di contesto è il prossimo livello conteso dello stack AI, e per ora gli agenti corrono più veloci di lui.
In sintesi
- 57% delle aziende ha già avuto agenti “sicuri ma sbagliati” per colpa di contesto scadente; il RAG è la fonte primaria per il 38%.
- Retrieval provider-native (OpenAI 40%, Vertex 38%) davanti ai vector database dedicati, ma il 36% vuole restare best-of-breed.
- Il semantic layer governato è la cura emergente: 58% lo usa o lo costruisce, ma per la maggioranza non è ancora in produzione.
Fonte: The AI context gap: Enterprise AI organizations have a trust problem, not a retrieval problem — https://venturebeat.com/ai/the-ai-context-gap-enterprise-ai-organizations-have-a-trust-problem-not-a-retrieval-problem-and-most-are-still-building-the-fix
Hai qualcosa da aggiungere? Unisciti alla discussione.