L’allarme di Jacob Coxon: l’IA minaccia la nostra civiltà

Jacob Coxon, ventisettenne ingegnere britannico che ha lavorato tra Anthropic e OpenAI e che, secondo i media, ha contribuito allo sviluppo di GPT-4o e GPT-4.5, ha lanciato su X un allarme dopo le dimissioni. Accusa le due aziende di non affrontare con sufficiente responsabilità i rischi della corsa all’intelligenza artificiale e sostiene che chi guida il settore tema che sistemi sempre più potenti possano arrivare a minacciare l’umanità entro la fine del decennio. Secondo Coxon, i modelli di nuova generazione potrebbero diventare sistemi sovrumani, capaci di sfruttare vulnerabilità informatiche, trasformare interi comparti e accumulare risorse e influenza. Il pericolo non sarebbe confinato ai laboratori: una tecnologia capace di incidere su infrastrutture, lavoro e decisioni collettive potrebbe modificare gli equilibri sociali prima che esistano strumenti adeguati per governarla. A suo giudizio OpenAI potrebbe non avere interiorizzato più la portata delle sfide, mentre Anthropic comprenderebbe questa logica a preoccuparlo: una gara per il primato rischia di trasformare la prudenza in uno svantaggio competitivo e la sicurezza in una promessa rinviata. Da qui la richiesta di coordinamento tra i progetti di IA e di misure difficili, come una sospensione temporanea dell’aumento delle capacità dei modelli. Coxon invita i ricercatori a chiedersi se sia accettabile sviluppare sistemi di apprendimento per rinforzo sempre piùù sofisticati senza comprenderne davvero i meccanismi interni. Sul piano psicologico, l’avvertimento può alimentare ansia, impotenza e sfiducia nel futuro, soprattutto quando le decisioni decisive sembrano concentrate nelle mani di pochi. Sul piano morale ed etico emerge una domanda radicale: quanto potere è legittimo affidare a sistemi che ancora non comprendiamo pienamente e chi dovrebbe rispondere delle conseguenze se qualcosa va storto?