Prince Canuma, autore della libreria Python MLX-VLM per far girare vision-LLM con MLX su Mac, ha rilasciato Nativ, un progetto che incapsula MLX in una vera applicazione desktop per macOS. La segnalazione arriva dal link blog di Simon Willison, che si dice interessato al progetto.
Nell’impostazione, Nativ ricorda LM Studio: offre sia un’interfaccia di chat sia un API server su localhost per accedere ai modelli. Questo è il dettaglio che conta per chi lavora con data stack e AI, perché un endpoint locale compatibile permette di collegare un modello on-device agli stessi strumenti e script che si userebbero con un servizio remoto, senza mandare dati fuori dalla macchina.
Un tocco pratico segnalato: l’app riconosce i modelli MLX già presenti nella cache di Hugging Face, quindi i modelli scaricati in precedenza vengono ripresi senza doverli reimportare. Per chi sperimenta con l’inferenza locale su Apple Silicon, riduce l’attrito iniziale.
Perché guardarlo
Lo spazio dei runtime locali per LLM su Mac è affollato, ma un’app che unisce MLX, chat e server API in un pacchetto nativo abbassa la barriera per prototipare senza infrastruttura cloud. MLX è il framework di Apple ottimizzato per la memoria unificata dei chip Apple Silicon, e strumenti come Nativ lo rendono accessibile anche a chi non vuole passare dalla riga di comando. Resta un progetto giovane: vale la pena valutarlo come ambiente di sviluppo e test più che come piattaforma di produzione.
In sintesi
- Nativ è un’app desktop macOS che incapsula MLX, con chat e API server locale in stile LM Studio.
- Riconosce automaticamente i modelli MLX già presenti nella cache di Hugging Face.
- Utile soprattutto per prototipare l’inferenza locale su Apple Silicon senza dipendere dal cloud.
Hai qualcosa da aggiungere? Unisciti alla discussione.