Ha lasciato il laboratorio dove lavorava e ha scritto che quella tecnologia potrebbe ucciderci tutti

Ha ventisette anni, si è laureato a Cambridge e ha passato gli ultimi tre anni a lavorare dentro i due laboratori di intelligenza artificiale più potenti del mondo. Adesso Jacob Coxon se n’è andato, e ha spiegato pubblicamente perché: “Né Anthropic, né OpenAI stanno agendo responsabilmente”.

La frase che nessuno dice ai giornalisti

Il passaggio che rende questo intervento diverso dai molti allarmi che circolano da anni riguarda quello che accade dentro quegli uffici.

“Le persone che costruiscono l’IA credono sinceramente che essa potrebbe ucciderci tutti entro la fine del decennio”, scrive Coxon. E precisa che non si tratta di una trovata di marketing.

Anzi, sostiene che il linguaggio pubblico sia molto più prudente delle convinzioni private: “Molti dirigenti e ricercatori senior, quando parlano alla stampa, useranno formule che sembrano ragionevoli, ma sento le stesse persone esprimere privatamente paura”.

È su questa esperienza diretta che fonda la propria valutazione: “Nessun’altra attività umana comporta un livello di pericolo simile”.

Cosa teme esattamente

L’oggetto della preoccupazione non è l ‘intelligenza artificiale in generale, ma un passaggio preciso.

Coxon parla di sistemi che diventeranno presto sovrumani, capaci di “hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali”. Non li considera scenari teorici: “Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e il progresso non sta rallentando”.

Il punto che lo inquieta di più è la fase in cui un sistema smetta di limitarsi a eseguire compiti complessi e cominci a contribuire in modo determinante al proprio stesso miglioramento. Da lì in avanti la velocità dello sviluppo non dipenderebbe più da chi lo ha costruito.

Perché allora continuano

È la domanda che il dibattito si porta dietro da anni, e Coxon dà due risposte diverse per le due aziende.

Su OpenAI: “molti non hanno interiorizzato fino in fondo la posta in gioco a livello di civiltà”.

Su Anthropic il problema, secondo lui, è opposto: “La posta in gioco è ben compresa, ma sono intrappolati in una corsa per arrivarci per primi”.

Alla base ci sarebbe la convinzione che nessun altro laboratorio si comporterebbe responsabilmente e che quindi convenga arrivare primi. “Devono farlo loro stessi, nonostante il rischio”.

“Non dallo Slack privato di un’azienda”

Il ricercatore definisce quella logica estremamente pericolosa, e la frase con cui la respinge è la più netta di tutto il suo intervento.

Accettare la corsa e arrivare a quello che chiama endgame sarebbe “una scommessa arrogante che non dovrebbe essere lanciata dallo Slack privato di un’azienda”.

Il problema, nella sua lettura, è che la competizione economica sta trasformando una decisione dalle conseguenze potenzialmente irreversibili in una gara fra imprese private. Anche la scelta di accelerare sulla ricerca dell’allineamento, cioè sui sistemi i cui obiettivi restino compatibili con quelli umani, “dovrebbe richiedere una fiducia straordinaria nel fatto che non esistano traiettorie migliori disponibili”.

Non è contrario all’intelligenza artificiale

Qui il quadro si complica, ed è la parte che i rilanci tenderanno a tagliare.

Coxon non chiede di fermare tutto. Dice anzi di essere ottimista sul potenziale del coordinamento fra i diversi attori, e individua i segnali che potrebbero renderlo possibile.

Fra questi i cosiddetti warning shot, gli avvertimenti concreti, come l’attacco informatico subito da Hugging Face: episodi del genere, secondo lui, hanno reso più plausibile un accordo fra i laboratori statunitensi per rallentare la corsa.

Non ritiene però che il sistema sia oggi avviato in quella direzione.

Il momento in cui arriva

Le dimissioni cadono in una fase precisa per l’azienda che lascia.

Anthropic ha costruito gran parte della propria identità pubblica proprio intorno al tema della sicurezza. E si prepara a una possibile quotazione in borsa dalla valutazione potenzialmente enorme.

Coxon, prima di approdarci, aveva lavorato per OpenAI. Ha quindi visto entrambe le stanze di cui parla.