Databricks ha reso generally available (15 luglio 2026) la modalità High QPS per gli endpoint standard di AI Search. È una funzionalità pensata per chi deve servire workload real-time ad alto throughput direttamente dal proprio vector search.
Cosa introduce
La novità consiste nella possibilità di impostare un target QPS (query per secondo) sugli endpoint standard di AI Search, così da alimentare casi d’uso ad alta frequenza come search bar, sistemi di raccomandazione ed entity matching. In questi scenari il collo di bottiglia non è la qualità del retrieval ma la capacità di reggere molte richieste al secondo con latenza bassa e costante, ed è esattamente il problema che il target QPS punta a risolvere.
Due dettagli operativi contano. Primo: High QPS è abilitato di default, ma gli endpoint esistenti non vengono modificati automaticamente — chi ha già endpoint attivi non subisce cambi di comportamento finché non interviene. Secondo, e collegato: la capacità aggiuntiva e il costo associato si applicano soltanto quando si configura effettivamente un target QPS per un endpoint. In altre parole, la funzione non introduce spesa a meno che non la si attivi in modo esplicito impostando il target.
Perché interessa
Per chi porta in produzione applicazioni basate su retrieval — dalla ricerca semantica dentro un prodotto ai motori di raccomandazione — questo colma la distanza tra un endpoint pensato per query sporadiche e uno capace di sostenere traffico continuo. La logica “paghi la capacità extra solo se imposti un target QPS” permette di dimensionare la spesa sul throughput realmente richiesto, tenendo separati gli endpoint sperimentali da quelli che servono utenti finali in tempo reale.
In sintesi
- High QPS è ora in GA per gli endpoint standard di AI Search: si imposta un target QPS per workload real-time ad alto throughput.
- È abilitato di default ma non tocca gli endpoint esistenti; capacità e costi aggiuntivi scattano solo configurando un target QPS.
- Utile per search bar, sistemi di raccomandazione ed entity matching che devono reggere molte query al secondo.
Fonte: AI Search High QPS is now generally available — https://docs.databricks.com/aws/en/release-notes/product/2026/july#ai-search-high-qps-is-now-generally-available
Hai qualcosa da aggiungere? Unisciti alla discussione.