#ai security
risultati
-
OpenAI presenta GPT-Red: il modello di red-teaming automatico che batte gli umani sulla prompt injection
GPT-Red è un modello interno di OpenAI addestrato in self-play a scovare vulnerabilità di prompt injection: su un’arena…
-
Un hack suggerisce che Suno abbia fatto scraping di YouTube per addestrare l’AI
Un attaccante ha violato Suno tramite le credenziali di un dipendente, accedendo al codice sorgente che mostrerebbe come…
-
GPT-Red: come OpenAI usa il self-play per irrobustire i modelli contro la prompt injection
OpenAI descrive GPT-Red, il suo red-teamer automatizzato addestrato con reinforcement learning in self-play: usato nell’addestramento di GPT-5.6, ha…
-
La falla nel web_fetch di Claude: come una honeypot aggirava le difese anti-exfiltration
Ayush Paul ha trovato una scappatoia nel tool web_fetch di Claude: un sito honeypot che, tramite link annidati…
-
GPT-Red, il super-hacker LLM che OpenAI usa per rendere più sicuri i suoi modelli
MIT Technology Review racconta GPT-Red, l’LLM che OpenAI ha addestrato come sparring partner per il red-teaming automatizzato: ha…
-
Grok Build diventa open source dopo il caso privacy
Dopo le proteste per un CLI che caricava intere directory sui bucket cloud di xAI, l’azienda ha disabilitato…
-
Bloccare gli attacchi slow-burn agli agenti con le policy contestuali di Omnigent
Databricks mostra come una policy contestuale stateful in Omnigent blocca un attacco di prompt injection indiretta dove ogni…
-
Uno scheduler vocale AI conforme HIPAA con Nova Sonic e Bedrock Guardrails
ScienceSoft ha costruito su AWS un assistente vocale per la prenotazione di visite conforme a HIPAA, combinando Amazon…
-
Token exchange on-behalf-of per agenti multi-tenant con Bedrock AgentCore Gateway
Guida all’implementazione del pattern on-behalf-of (RFC 8693) su Amazon Bedrock AgentCore: come far propagare l’identità dell’utente attraverso più…
-
Proteggere Amazon Bedrock AgentCore Runtime con AWS WAF: due pattern di architettura
Come mettere AWS WAF davanti a un endpoint Amazon Bedrock AgentCore Runtime con due pattern basati su ALB…