Geoffrey Hinton, premio Nobel e tra i padri dell’intelligenza artificiale, ha detto al Guardian che per l’umanità forse sarebbe stato meglio non svilupparla e che teme un grave incidente già entro la fine di quest’anno o nel 2027.
Indice
Cosa ha detto Hinton al Guardian
Nell’intervista, Hinton ha spiegato che per l’umanità potrebbe essere stato meglio non sviluppare affatto l’intelligenza artificiale. Non si definisce un catastrofista: riconosce che questa tecnologia può portare a un futuro meraviglioso, ma teme che i rischi vengano gestiti male. Le parole esatte sono: «potrebbe darsi che, per noi, sarebbe stato meglio non svilupparla affatto».
Il ricercatore dà all’umanità circa un decennio, forse meno, per scoprire se sarà in grado di governare questi sistemi. Se non ci riuscirà, lo scenario che disegna comprende un divario enorme tra ricchi e poveri, forti tensioni culturali, disoccupazione di massa e una vera disgregazione della società.
L’incidente che Hinton teme già dal prossimo anno
La previsione più concreta riguarda i tempi. Hinton si aspetta che entro la fine di quest’anno o nel 2027 arrivi un evento «del tipo di Chernobyl», un episodio abbastanza grave da costringere governi e opinione pubblica a prestare attenzione davvero. Gli esempi che fa sono molto terreni: un attacco condotto con l’IA alla rete di produzione elettrica, capace di causare un massiccio blackout parziale, oppure un blocco del sistema finanziario che duri una settimana.
Hinton cita anche episodi già visti, come le violazioni di sicurezza informatica avviate in estate in modo autonomo da un sistema di agenti IA. Il paragone che usa è quello con Three Mile Island, l’incidente nucleare parziale del 1979 negli Stati Uniti. Il tema degli usi offensivi dei modelli è lo stesso che spinge i laboratori a limitare l’accesso ai sistemi più capaci, come nel caso di GPT-6 Cyber di OpenAI, disponibile solo su approvazione.
Le accuse ai grandi nomi del settore
Hinton non risparmia i vertici dell’industria. Per lui Mark Zuckerberg, Elon Musk e Sam Altman capiscono i rischi, ma se ne fregano altamente, perché preferiscono i soldi. Una frase dura, che arriva da uno dei ricercatori che più hanno contribuito a rendere possibile l’IA di oggi.
Chi è Geoffrey Hinton e perché le sue parole pesano
Hinton ha 78 anni e viene considerato uno dei padri fondatori dell’IA moderna. Ha vinto il Nobel per la Fisica nel 2024, condiviso con John Hopfield, per le scoperte che hanno reso possibile l’apprendimento automatico con le reti neurali artificiali. Nel 2018 aveva ricevuto anche il Turing Award, insieme a Yoshua Bengio e Yann LeCun.
Nel maggio 2023 ha lasciato Google proprio per poter parlare liberamente dei pericoli dell’IA, come ricorda anche la sua scheda su Wikipedia. Gli avvertimenti di oggi sono quindi la continuazione di una posizione pubblica che porta avanti da più di tre anni.
Resta il fatto che si tratta di previsioni, non di eventi accertati. Nessuno può dire se l’incidente arriverà e che forma avrà. Il valore del messaggio sta nel ruolo di chi lo pronuncia e nella richiesta implicita: regole e controlli prima che serva un disastro per introdurli.
Domande frequenti su Geoffrey Hinton e l’intelligenza artificiale
È un informatico e ricercatore di 78 anni, tra i padri fondatori dell’intelligenza artificiale moderna. Ha vinto il Nobel per la Fisica nel 2024 insieme a John Hopfield.
Perché teme che l’umanità non riesca a gestirne i rischi. Dice che col senno di poi potrebbe essere stato meglio non svilupparla, pur non essendo un catastrofista e riconoscendone il potenziale.
Un incidente di grande scala causato dall’IA, abbastanza grave da far prestare attenzione a tutti. Gli esempi sono un blackout parziale della rete elettrica o il blocco del sistema finanziario per una settimana.
Hinton parla della fine di quest’anno o del prossimo. Si tratta di una previsione personale, non di un fatto accertato.
