"Nessuno, neppure chi le crea, può predire, controllare o capire le vere potenzialità di sistemi avanzati", si legge nella lettera aperta di un gruppo di esperti
Serve una frenata sull'intelligenza artificiale e in particolare su ChatGpt, il chatbot creato da Open AI, basato su intelligenza su intelligenza artificiale e apprendimento automatico. E' quanto chiede un gruppo di ricercatori e addetti del settore sulla IA, tra cui Elon Musk, in una lettera aperta che intima espressamente di fermare lo sviluppo senza controllo della tecnologia da parte dei giganti del settore. Nella missiva si legge come il Far West dell'intelligenza artificiale, reputata la nuova Eldorado dell'hi-tech, comporti "profondi rischi per la società e l'umanità". Si chiede anche di fermare per almeno sei mesi la ricerca su sistemi di intelligenza digitale che siano più potenti di GPT-4, l'ultima versione dell'assistente realizzato da OpenAI, società fondata da Musk stesso (ma lasciata nel 2018 per conflitti di interesse con Tesla). "Questa pausa dovrebbe essere verificabile e concreta, e includere tutti gli attori del settore. Altrimenti, sarà necessario che i governi intervengano". I firmatari spiegano come la ricerca sulla IA sia fuori controllo da parte delle Big Tech, in modo da arrivare una prima delle altre, e questo comporti un rischio concreto visto che non sappiamo fino a che punto queste tecnologie possano essere un pericolo per la sicurezza informatica e pubblica. "Nessuno, neppure chi le crea, può predire, controllare o capire le vere potenzialità di sistemi basati sul machine learning", si legge.
Tra i firmatari ci sono lo storico e saggista Yuval Noah Harari, il co-fondatore di Apple Steve Wozniak, il co-fondatore di Skype Jaan Tallinn, e molti altri ricercatori di IA e CEO di compagnie tecnologiche. "Gli sviluppatori di IA dovrebbero utilizzare la pausa per sottoscrivere congiuntamente una serie di protocolli condivisi e rigorosi che vengano validati da esperti esterni, e che certifichino che i sistemi di machine learning siano sicuri e affidabili". Ciò che si critica è la potenza effettiva della IA e il possibile impatto sulla società se non viene controllata e regolamentata. La lettera segue di poche settimane il lancio pubblico di GPT-4 di OpenAI, il sistema di intelligenza artificiale più avanzato mai creato. “L’intelligenza artificiale avanzata potrebbe comportare un profondo cambiamento nella storia dell'essere umano e dovrebbe essere pianificata e gestita con cure e risorse adeguate", scrivono i firmatari. “Purtroppo questo livello di pianificazione e gestione non sta avvenendo, e negli ultimi mesi i laboratori di IA sono stati coinvolti in una corsa fuori controllo per sviluppare e implementare intelligenze digitali sempre più potenti".
