Databricks ha annunciato gli AI Spend Controls in Unity AI Gateway, un’estensione della visibilità sui costi già presente nel gateway con l’aggiunta di budget alert proattivi. L’obiettivo è dare controllo sulla spesa AI di un’organizzazione, dai coding agent usati dagli sviluppatori agli agent in produzione fino ai job batch notturni.
Il punto di partenza è che i workload AI hanno un profilo di costo più difficile da gestire rispetto al cloud tradizionale. Un job batch notturno può girare bene per un mese e poi iniziare a fallire a metà, innescando una retry logic che moltiplica per dieci il costo in una notte. Oppure un engineer avvia per sbaglio un esperimento multi-agent il venerdì sera e brucia il budget mensile del team entro domenica. L’adozione dell’AI attraversa ormai decine di team, centinaia di utenti e migliaia di agent, con un mix mutevole di provider e tier di modello: i controlli di spesa devono applicarsi in modo uniforme.
Budget a ogni granularità
Gli spend controls si configurano da un unico posto e sono integrati con i budget esistenti di Databricks, su quattro livelli:
- Per utente: ad esempio 2.000 dollari per utente al mese per l’organizzazione engineering, per intercettare l’agent bloccato in loop prima che finisca a bilancio.
- Per use case: alert se la spesa in coding agent come Codex o Claude Code supera i 1.000 dollari per utente al mese.
- Per workspace: produzione a 50.000 dollari al mese, sandbox a 5.000.
- Per account: un tetto complessivo, ad esempio 200.000 dollari al mese su ogni modello, provider e workspace.
Superata una soglia, arriva una notifica via email e la pagina Budgets del console mostra l’andamento, con il dettaglio per singolo utente quando sono attive soglie per-user.
Attribuzione dei costi in dettaglio
Per l’analisi fine, Unity AI Gateway logga ogni richiesta nelle system table di Unity Catalog con il costo in DBU e non solo con il conteggio dei token: throughput provisioned, uptime, uso pay-per-token e persino i costi dei provider esterni sono calcolati automaticamente. Si può quindi segmentare la spesa per identità (utente o service principal), per workspace, endpoint e tag, per modello e provider (ad esempio Opus contro Sonnet, oppure Anthropic contro OpenAI contro open source) e per request tag.
In sintesi
- Budget alert proattivi a livello di utente, use case, workspace e account, integrati con i budget Databricks.
- Ogni richiesta è tracciata come costo DBU nelle system table di Unity Catalog, non solo come token.
- L’attribuzione della spesa è segmentabile per identità, workspace, modello, provider e tag.
Fonte: Introducing AI spend controls with Unity AI Gateway — https://www.databricks.com/blog/introducing-ai-spend-controls-unity-ai-gateway
Hai qualcosa da aggiungere? Unisciti alla discussione.