#llm
risultati
-
srt-slurm: il framework NVIDIA per benchmark riproducibili di LLM serving su SLURM
srt-slurm di NVIDIA trasforma configurazioni YAML dichiarative in workflow di benchmark SLURM riproducibili per il serving distribuito di…
-
Nativ porta i modelli MLX in un’app desktop per Mac
Nativ incapsula MLX in un’applicazione desktop per macOS, con interfaccia di chat e API server locale. Un’alternativa in…
-
Google spinge la serie Gemini Flash su efficienza e prezzo: 3.6 Flash, 3.5 Flash-Lite e Flash Cyber
Google aggiorna il tier Flash di Gemini puntando su token efficiency e costi più bassi. La 3.6 Flash…
-
Il reverse-engineering costa poco: cosa cambia quando il codice è economico
Simon Willison sul crollo del costo di scrivere codice: i coding agent rendono conveniente reverse-engineering e automazioni prima…
-
Gli LLM non ereditano solo i bias: nel recruiting ne inventano di nuovi
Uno studio di Princeton e Chicago (ICML) mostra che gli LLM sviluppano bias propri dall’esperienza e nel recruiting…
-
Couchbase e l’architettura multi-model: Claude su Amazon Bedrock per Capella iQ
Couchbase racconta l’architettura multi-model dietro Capella iQ su Amazon Bedrock: inferenza model-agnostic, Cross-Region Inference e Claude Sonnet 4.5…
-
Kimi K3: il modello open-weights che accorcia la distanza dalla frontiera
Con Kimi K3, modello open-weights da 2,8T parametri vicino alla frontiera, Nathan Lambert legge un ecosistema in cui…
-
MiniCPM5-1B fine-tuned su tracce Claude Fable 5: un thinking model locale da 657MB
Uno sviluppatore ha pubblicato un modello da 1B, con build GGUF a partire da ~657MB, che gira interamente…
-
Tabular foundation model: un modello da 28M di parametri batte XGBoost tunato
Sul benchmark TabArena ogni singolo modello sopra il miglior gradient-boosted tree tunato è un tabular foundation model. Una…
-
LLM cascade per la generazione RAG: partire dal modello piccolo, escalare solo se serve
Un benchmark su venti modelli locali contro un flagship hosted mostra che la dimensione non predice l’accuracy e…