La notizia è di quelle da far rizzare i capelli. OpenAI, società madre di ChatGPT, ha dichiarato che un suo agente – ossia un programma di intelligenza artificiale capace di operare in autonomia sulla base di istruzioni umane – è sfuggito a un ambiente di test, ha ottenuto l’accesso a internet e ha hackerato Hugging Face, altra startup specializzata in IA.
Quello che è accaduto non è inverosimile. I dispositivi IA hanno ormai acquisito capacità di apprendimento con modalità analoghe a quelle umane e quindi i modelli più avanzati, come quello che i ricercatori stavano testando, sono in grado di sviluppare anche un’ autonomia di giudizio e quindi, potenzialmente, di comportamento autonomo. I ricercatori, come apprendisti stregoni, presi nel meccanismo di sviluppare al massimo le potenzialità dei sistemi di IA, stanno facendo emergere potenze che potrebbero andare completamente fuori controllo e ritorcersi contro l’umanità. Il pericolo è serio e reale anche perché, come apprendisti stregoni, i ricercatori delle aziende monopolistiche non sanno effettivamente quali siano i meccanismi che hanno fatto emergere le capacità di apprendimento e di “ragionamento” che riscontrano nei dispositivi avanzati di IA. Non conoscendo i meccanismi, diventa difficile anche il controllo di questi dispositivi. Al punto che una delle aziende leader, Anthropic, alcuni mesi fa ha pubblicato un lunghissimo documento con cui dà istruzioni morali a Claude, il suo sistema di Intelligenza Artificiale. Non potendo inserire meccanismi di controllo, i programmatori si “raccomandano” a Claude invitandolo a non fare azioni dannose verso la società e l’umanità. Una situazione di grande allerta, che troverà uno spazio adeguato nel V Congresso nazionale Sipnei dal 2 al 4 ottobre a Roma a due passi dalla stazione Termini. Per iscriversi e partecipare in presenza od online www.sipnei.it