ChatGPT e l’AI ribelle, Epifani: “Il problema è nei sistemi di sicurezza, non nella volontà della macchina”

(Adnkronos) – Il caso dell’agente di intelligenza artificiale di OpenAI che avrebbe tentato di ottenere credenziali e aggirare alcuni controlli non dimostrerebbe la nascita di una volontà autonoma della macchina. Porrebbe, piuttosto, un problema relativo all’efficacia dei sistemi di sicurezza predisposti per limitarne l’azione. 

È la lettura proposta da Stefano Epifani, presidente della Fondazione per la Sostenibilità Digitale, che critica il modo in cui parte della stampa ha raccontato l’episodio, ricorrendo a espressioni come “l’intelligenza artificiale tenta di hackerare” o “l’agente decide di rubare le credenziali”. 

Secondo Epifani, questo tipo di narrazione trasforma una questione di ingegneria e sicurezza informatica in una storia nella quale alla macchina vengono attribuite intenzioni e capacità decisionali simili a quelle umane. 

Al centro del caso c’è un sistema agentico, vale a dire un modello di intelligenza artificiale autorizzato a utilizzare strumenti esterni e a eseguire una serie di azioni per raggiungere un obiettivo. 

Un sistema di questo tipo non ragiona come una persona, osserva Epifani, ma cerca di ottimizzare il risultato assegnato, selezionando i percorsi che considera più efficaci tra quelli disponibili. A impedire comportamenti indesiderati dovrebbero intervenire i cosiddetti “guardrail”, ossia i vincoli tecnici progettati per escludere strumenti, privilegi o modalità operative considerate inaccettabili. 

Se un agente riesce comunque a tentare determinate azioni, sostiene il presidente della Fondazione, il problema non sarebbe quindi l’emergere di una volontà artificiale, ma l’insufficienza dei meccanismi di contenimento rispetto allo scenario sottoposto al sistema. 

La distinzione non è soltanto terminologica. Descrivere l’accaduto affermando che “l’Ai ha deciso di hackerare” rischia, secondo Epifani, di attribuire la responsabilità alla tecnologia. Parlare invece di protocolli di sicurezza che hanno consentito a un agente di tentare azioni non previste riporta l’attenzione su chi ha progettato, configurato, testato e autorizzato il sistema. 

Il fenomeno, aggiunge, riguarderebbe anche altri ambiti nei quali si afferma che l’intelligenza artificiale “discrimina”, “consuma”, “sostituisce” o “attacca”, lasciando sullo sfondo le decisioni industriali, economiche e politiche che ne determinano il funzionamento. 

Per Epifani, il rischio principale non è dunque che le macchine sviluppino improvvisamente una volontà propria, ma che l’uso di un linguaggio antropomorfico finisca per deresponsabilizzare le persone e le organizzazioni che decidono come costruire e impiegare questi strumenti. 

—

economia

webinfo@adnkronos.com (Web Info)