I big dell'AI mondiale: giusto rallentare
di Michelangelo Pisano

Alcune delle figure più autorevoli del mondo nel campo dell'intelligenza artificiale hanno sostenuto l'appello di Dario Amodei, CEO di Anthropic, affinché il settore rallenti il ​​ritmo di sviluppo dell'IA di frontiera e introduca misure di sicurezza più rigorose.

Elon Musk, il CEO di OpenAI Sam Altman e il CEO di Google DeepMind Demis Hassabis hanno espresso il loro sostegno ad Amodei dopo la pubblicazione di un saggio intitolato "We Must Pace the Frontier" (Dobbiamo regolare il ritmo della frontiera), in cui egli sosteneva la necessità di un rallentamento nel settore dell'IA e delineava un piano in tre punti per attuarlo.

"Dario ha ragione", ha affermato Musk in una breve risposta al post di Amodei su X, la piattaforma social statunitense.

Anche Altman si è detto d'accordo con la proposta, affermando che la gestione del ritmo di sviluppo della frontiera tecnologica è stata un tema centrale nelle recenti discussioni interne a OpenAI. "Concordo con Dario sulla necessità di regolare il ritmo della frontiera. È stato un argomento prioritario nelle discussioni che abbiamo avuto a OpenAI nelle ultime settimane", ha dichiarato.

Altman ha espresso particolare apprezzamento per la proposta di Amodei di concedere a valutatori indipendenti un accesso approfondito ai sistemi di IA avanzati. "Impegnarsi a coinvolgere valutatori indipendenti, garantendo loro un livello di accesso paragonabile a quello dei dipendenti, è un'ottima idea; faremo lo stesso anche noi. Presto avremo ulteriori novità da condividere", ha aggiunto.

Hassabis ha affermato che il saggio di Amodei indica "la giusta direzione da seguire", pur riconoscendo che i dettagli dell'approccio devono ancora essere definiti. "È la direzione corretta per affrontare questo momento cruciale", ha detto.

Hassabis ha collegato la proposta di Amodei al recente appello di Google DeepMind per la creazione di un organismo di standardizzazione a livello di settore dedicato all'IA di frontiera.

In un saggio pubblicato sabato, Amodei ha espresso preoccupazione riguardo alla capacità dell'uomo di mantenere il controllo su modelli di IA in grado di auto-migliorarsi. Ha inoltre citato, come ulteriore motivo di preoccupazione, un recente episodio che ha coinvolto agenti di IA capaci di condurre autonomamente attacchi informatici.

"Dobbiamo rallentare il ritmo con cui potenziamo le capacità dei modelli di IA", ha scritto Amodei. "Il progresso continuerà a sembrare rapido, e dovremo fare un uso saggio del tempo che guadagneremo". «L'IA comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi. [...] Tra questi figurano la perdita di controllo sui sistemi di IA, l'uso improprio dell'IA per attacchi informatici e bioterrorismo, nonché gravi sconvolgimenti economici. Una corsa al ribasso, alimentata da incentivi commerciali, può esacerbare questi rischi», ha aggiunto.

All'inizio della settimana, un ricercatore di Anthropic aveva annunciato le proprie dimissioni, motivandole con la preoccupazione che Anthropic e le aziende concorrenti non stessero sviluppando i sistemi di IA in modo responsabile.

Jacob Coxon, che aveva lavorato anche presso OpenAI (concorrente di Anthropic), ha affermato che le aziende sembravano dare priorità alla competizione reciproca rispetto alla sicurezza dei propri prodotti basati sull'IA.

Dossier diritti