Ollama ha annunciato un round da 65 milioni di dollari, ma per chi fa data engineering il numero interessante è un altro: quasi 8,9 milioni di sviluppatori lo usano ogni mese, con soli 14 dipendenti. Lasciamo il venture capital sullo sfondo, la parte che conta è tecnica.
Cosa fa Ollama
Lanciato nel 2023, Ollama serve a eseguire modelli open-weight direttamente sul proprio PC, portandoli operativi in pochi minuti. Il problema che risolve è concreto: i modelli open usciti nel 2023 erano pensati per ricercatori, non per programmatori, e metterli in funzione era complicato. Il paragone dei fondatori, Jeff Morgan e Michael Chiang, è con il loro passato: hanno contribuito a costruire Docker Desktop, e l’idea è la stessa, astrarre le noie di configurazione dell’hardware. Ollama fa per l’inference locale di modelli quello che Docker ha fatto per la portabilità delle applicazioni. Sul repository GitHub ha accumulato 176.000 stelle e quasi 17.000 fork.
Oltre all’esecuzione locale, Ollama permette di trovare modelli e di accedere a quelli più grandi ospitati sul proprio neocloud, con abbonamenti da gratuito fino a 100 dollari al mese. Un dettaglio operativo interessante: la fatturazione del cloud è basata sul tempo di GPU, non sui token, logica diversa da quella dei provider di modelli closed.
Perché conta per chi gira LLM
Il punto di svolta, secondo Morgan, è arrivato intorno a gennaio, quando modelli open più grandi hanno iniziato a reggere task agentici come il coding. È il segnale che interessa a chi gestisce costi di inference: gli open model diventano un’opzione praticabile per il lavoro quotidiano, tenendo i modelli closed come Anthropic per esigenze mirate. L’investitore Peter Fenton lo inquadra come “non un aut-aut”, ma sottolinea che ogni azienda con spese di inference alte ha una spinta forte verso i modelli open-weight. Ollama è anche parte di un’ondata di progetti open che diventano aziende, accanto a strumenti di inference come vLLM e SGLang.
Non tutti apprezzano la deriva commerciale: circa un anno fa diversi post hanno criticato il cloud a pagamento come esempio di “enshittification” degli strumenti per sviluppatori. La risposta del team è che il prodotto locale gratuito resta invariato e che il cloud serve solo per i modelli troppo grandi da girare sul proprio computer.
In sintesi
- Ollama semplifica l’esecuzione di modelli open-weight in locale, con quasi 8,9 milioni di sviluppatori mensili e 14 dipendenti.
- Il cloud fattura sul tempo di GPU, non sui token, e serve i modelli troppo grandi per il PC.
- Il segnale tecnico: dai primi mesi dell’anno gli open model reggono task agentici, rendendo l’inference locale un’opzione di costo concreta.
Fonte: Popular open source AI developer tool Ollama raises $65M, grows to nearly 9M users
Hai qualcosa da aggiungere? Unisciti alla discussione.