Grok 4.3 arriva su Amazon Bedrock: reasoning configurabile e contesto da 1M per gli agenti

Il modello Grok 4.3 di xAI è ora in general availability su Amazon Bedrock: con questo lancio xAI entra tra i provider di modelli della piattaforma. Grok 4.3 accetta input testuali e immagini, ha una finestra di contesto da un milione di token e gira su Mantle, il nuovo motore di inference di Bedrock. È pensato soprattutto per carichi agentici ed enterprise, dove contano il tool use affidabile, l’instruction following e l’efficienza sui token in inference ad alto volume.

Perché è adatto ai carichi di reasoning

Secondo xAI, ai propri benchmark al momento del lancio Grok 4.3 si posiziona bene: primo posto sull’Artificial Analysis Omniscience benchmark con il tasso di allucinazione più basso tra i frontier model confrontati, primo sul Tau2 Telecom per il tool calling in scenari di customer support e primo sui Vals AI Case Law e Corporate Finance per la comprensione dei documenti. xAI colloca inoltre il modello sulla frontiera di Pareto intelligenza-costo, dichiarando da 2 a 10 volte più intelligenza per dollaro rispetto ad altri frontier model. La caratteristica pratica è il controllo dell’effort di reasoning per richiesta su quattro livelli (none, low, medium, high): una classificazione può girare a none per tenere bassa la latenza, mentre l’analisi di un contratto o di un caso legale gira a high quando la profondità conta più del tempo di risposta.

Come si accede

A differenza dei modelli che usano la Bedrock Runtime API, Grok 4.3 gira su Mantle, che espone API compatibili con OpenAI. Si invoca con l’SDK OpenAI o via richieste HTTPS dirette alla Chat Completions API o alla Responses API, puntando il client all’endpoint Mantle regionale (per esempio https://bedrock-mantle.us-west-2.api.aws/openai/v1). Alcuni default si discostano dallo standard OpenAI: temperature a 0,7, top_p a 0,95 e max_completion_tokens a 131072. Per l’autenticazione, in produzione AWS consiglia bearer token a breve durata generati dalle credenziali IAM, riservando le API key a lungo termine alla sola esplorazione.

Cosa offre agli agenti

Grok 4.3 supporta il tool calling nel formato OpenAI, lo structured output con JSON Schema in strict mode e l’input di immagini per document understanding e lettura di grafici. Con la Responses API può mantenere lo stato della conversazione lato server (store=True e concatenamento via previous_response_id), riportando in avanti anche il reasoning delle chiamate precedenti. Un paio di note operative dal testing: alcune richieste restituiscono occasionalmente un errore 400 dal controllo di content safety anche su input benigni (quindi conviene prevedere un retry), e un’immagine malformata torna un errore di validazione invece di una risposta approssimata. Il modello è disponibile sui tier Standard, Priority e Flex, con inference in-Region.

• Grok 4.3 porta su Bedrock un modello reasoning-first con effort configurabile e contesto da 1M di token.
• L’accesso passa dall’endpoint Mantle compatibile con OpenAI, non dalla Runtime API standard.
• Tool calling, structured output strict e stato lato server lo rendono adatto agli agenti, ma serve gestire retry e credenziali con cura.

Fonte: Introducing Grok on Amazon Bedrock — https://aws.amazon.com/blogs/machine-learning/introducing-grok-on-amazon-bedrock/