Su Interconnects, Nathan Lambert descrive quello che considera il test più serio finora sulla viabilità degli open model: possibili azioni di policy negli Stati Uniti che potrebbero renderli, di fatto, cittadini di seconda classe. Il tema conta perché, a differenza delle precedenti ondate di retorica anti open source viste dopo il lancio di ChatGPT, qui ci sono forme concrete di regolazione in fase di test e implementazione, con scarsa supervisione.
Al momento della scrittura, secondo l’autore diverse fonti citano discussioni alla Casa Bianca su come gestire gli open model tramite un nuovo executive order. Non ci sono informazioni ufficiali, e l’ipotetico impatto riguarderebbe modelli di origine cinese e usi governativi, ma Lambert lo legge come l’inizio di un effetto domino. Il problema di fondo, nota, è che gli open model non hanno un campione economico centrale che ne rappresenti gli interessi, a differenza dei modelli closed.
Distillation e capacità frontier
Lambert individua due dibattiti distinti che si intrecciano. Il primo è la distillation, che descrive come una campagna di regulatory capture: la spinta politica contro i modelli cinesi è guidata da Anthropic, che a suo avviso trarrebbe sicurezza economica se i model maker cinesi accusati venissero banditi. Il suo argomento è che, se un’azienda sostiene che la propria tecnologia è tanto potente da giustificare il ban di open model simili, allora dovrebbe essere in grado di rendere sicura la propria API. Ricorda inoltre che le API vengono comunque violate e usate in modi non previsti, il che ridimensiona la dicotomia secondo cui solo gli open model sarebbero insicuri.
Il secondo dibattito riguarda le capacità frontier. L’azione più probabile, scrive, sarebbe bandire o ritardare a tempo indefinito qualsiasi open-weights model sensibilmente sopra il livello di GPT 5.5, Claude Opus 4.8 o GLM-5.2, cosa che dato il capability gap potrebbe accadere entro sei mesi. Un modello di questo tipo verrebbe con ogni probabilità da un’azienda cinese, il che lega la questione ad altri temi.
Perché un ban non basterebbe
Lambert sostiene che un divieto netto non sia la risposta: se i modelli non fossero banditi anche in Cina, un bad actor potrebbe comunque usarli, annullando il presunto beneficio di sicurezza. Un ban unilaterale negli USA lascerebbe proseguire la community globale open source e, secondo l’autore, somiglierebbe a un caso di AI fearmongering.
- L’unico modo per porre un tetto ai progressi open sarebbe un accordo globale sulla gestione dei rischi, oggi lontano.
- Una via d’uscita nel breve: un’azienda USA come Microsoft o Meta che rilasci un open model di pari livello, spostando il discorso da “solo la Cina” a un problema comune.
- Per Lambert la sicurezza degli open model deriva da accesso e comprensione diffusi, non dal frenare i soli attori positivi.
Fonte: 6 months to live for open models — https://www.interconnects.ai/p/6-months-to-live-for-open-models
Hai qualcosa da aggiungere? Unisciti alla discussione.