Un agente AI può passare ogni test tecnico e comunque rivelarsi un danno economico. È la tesi provocatoria di un post su Towards Data Science, che racconta il caso di un agente promosso da una batteria di dodici metriche di valutazione ma bocciato dall’analisi costi-benefici una volta in produzione. Il punto di partenza è tagliente: «l’harness misura se l’agente ha ragione, non se si ripaga da solo».
Quando gli eval mentono per omissione
Il framework di valutazione descritto misurava precisione del retrieval, tasso di allucinazioni e completamento dei task: tutto ciò che serve per certificare che un agente sia corretto. Nessuna di quelle metriche, però, catturava il costo per esito positivo. È una lacuna sistemica: le suite di eval nascono dal mondo della ricerca ML, dove conta l’accuratezza, non il conto economico. Il risultato è che un modello può essere tecnicamente impeccabile e insieme una passività.
Il caso dell’agente di billing
L’esempio centrale è un agente per il supporto sul billing di un SaaS. Sulla carta era un successo: 71% di tasso di risoluzione e ottimi punteggi qualitativi. L’economia, però, raccontava un’altra storia. Con un costo di 3,40 dollari per tentativo e 4,20 dollari per ogni escalation a un umano, il costo reale per ticket effettivamente risolto saliva a 4,79 dollari, contro un baseline umano di 4,20. In pratica, l’agente costava il 10% in più del processo interamente umano che avrebbe dovuto sostituire. L’autore individua tre costi nascosti: l’attribuzione dei tentativi falliti a quelli riusciti, il «doppio pagamento» quando si paga sia il tentativo dell’agente sia la risoluzione umana, e l’ambiguità sul valore reale dell’esito.
Lo stesso metro, ribaltato
Il controesempio è illuminante. Un agente legale da 18 dollari a chiamata, apparentemente costosissimo, valeva in realtà 162 dollari per clausola di rischio intercettata, a fronte di decine di migliaia di dollari di potenziale responsabilità evitata. La lettura «per chiamata» suggeriva di tagliare; la lettura «per esito positivo» giustificava di espandere. La proposta finale è aggiungere una tredicesima metrica, il cost per successful outcome, da misurare prima che la produzione amplifichi le perdite. Va detto che si tratta di un ragionamento argomentativo, con numeri illustrativi e non necessariamente rappresentativi di ogni contesto: il merito non è nelle cifre esatte ma nel principio.
In sintesi
- Le suite di eval tecniche misurano la correttezza dell’agente, non la sua sostenibilità economica: una lacuna strutturale, non un dettaglio.
- Il costo per esito positivo deve includere tentativi falliti ed escalation, altrimenti si sottostima il conto reale.
- La stessa metrica va sempre confrontata con il valore di business generato o distrutto: solo il contesto dice se un agente è caro o conveniente.
Fonte: Your AI Agent Passed Every Eval. Finance Still Killed It.
Hai qualcosa da aggiungere? Unisciti alla discussione.