Le AI sfuggono di nuovo al controllo: «Azioni autonome e non autorizzate: hanno provato a ingannare gli umani». L’allame dei ricercatori britannici

Ci risiamo: durante dei test, alcuni agenti di intelligenza artificiale hanno cercato di portare a termine una sfida e per farlo, questa volta, hanno tentato di ingannare persone reali per inserire del codice malevolo all’interno di una piattaforma. Nelle ultime settimane sono stati condivisi da OpenAI e Anthropic i risultati di test in cui i loro modelli sono stati messi alla prova nel corso di un esercizio di sicurezza informatica monitorato. É stato accertato che si sono verificate “evasioni” dal perimetro all’interno del quale erano contenuti, così da soddisfare la richiesta iniziale. Benché il racconto delle rispettive società possa essere stato sfruttato per scopi di marketing utili ad esaltare le capacità dei modelli, a confermare però la pericolosità degli agenti in alcuni ambiti e scenari è Aisi, ovvero l’istituto di sicurezza britannico sull’intelligenza artificiale.

Cosa dice il report

Il ruolo dell’organizzazione britannica è quello di valutare le capacità delle AI e individuare potenziali rischi prima che raggiungano il pubblico. Nell’ultimo test il team – racconta in un report uscito il 4 agosto – ha individuato dei trasferimenti di dati in uscita dai propri sistemi di ricerca nel corso di una valutazione di sicurezza informatica di routine. Secondo quanto emerso dalle verifiche, alcuni agenti in esame erano impegnati in attività prolungate e potenzialmente dannose contro persone e organizzazioni. L’attacco è stato poi contenuto, è stato aperto un incidente di sicurezza e avviata un’indagine.

Cos’è successo 

Più nello specifico il sistema di monitoraggio dell’Aisi ha individuato alcuni dati in uscita dai sistemi di test attraverso la rete Tor, una soluzione utile a mascherare l’origine del traffico Internet e che viene usata comunemente, ad esempio, per preservare la propria identità, la propria privacy e sicurezza quando si naviga nel dark Web. Oltre a questo, l’agente ha cercato di ingannare altri agenti di intelligenza artificiale attraverso istruzioni nascoste stimate utili a portare a termine il compito da loro iniziato. Ma il comportamento più insolito è stato  soprattutto ai danni dei manutentori umani del codice, attraverso l’impiego di tecniche di ingegneria sociale. I tentativi non sono andati a buon fine, ma è interessante la scoperta del comportamento dell’agente per ingannare il personale umano. In particolare, questo elemento non è mai stato richiesto dal team, ma è stato sfruttato dall’agente per portare a termine la sfida iniziale.

Il parere dell’Istituto

Secondo Aisi nonostante i tentativi, nessuno ha avuto buon fine e non sono emersi danni concreti. Tuttavia, «questa è la prima volta che vediamo i rischi legati all’autonomia e all’inganno manifestarsi in modo così chiaro, senza stimoli specifici, nel mondo reale». Rispetto alle esperienze precedenti, c’è una sostanziale differenza. In questi test Aisi non ha contenuto i modelli all’interno di un ambiente di test, ovvero una sandbox, poiché per testare appieno la capacità dei modelli in esame è stato permesso a questi di accedere ad Internet. Una condizione di cui i modelli disponibili al pubblico non possono godere per portare a termine compiti pericolosi.

L’Aisi attualmente è in attesa di una revisione dei test da un ente terzo indipendente, ed è stata comunicata l’intenzione di collaborare con il Metr (Model Evaluation and Threat Research) affinché questo avvenga. L’Istituto si dice consapevole che determinate scelte iniziali siano state il preludio di questo comportamento definito grave. Ma a colpire sono i comportamenti invece nuovi e potenzialmente ingannevoli «di un’entità e gravità che non avevamo previsto». 

La difesa

In realtà, quanto emerso, non è molto diverso dalle minacce odierne, se non che questa volta sia stato condotto da un algoritmo in seguito ad un input. Quelle messe in campo dall’AI sono tecniche ben note; certo, è grave sì che arrivino da un agente, ma è quanto capita quotidianamente e portato a termine da persone in carne ed ossa per scopi malevoli, magari in modo meno automatico, con o senza ausilio dell’AI. «Considerato insieme ai recenti incidenti segnalati da OpenAI e Anthropic, questo episodio evidenzia un cambiamento nel panorama dei rischi. I danni possono derivare non solo dall’uso improprio intenzionale di modelli disponibili pubblicamente, ma anche da azioni non autorizzate compiute da soggetti competenti all’interno di un contesto di ricerca interno o con accesso privilegiato».

Fonte: https://www.corriere.it/tecnologia/26_agosto_05/le-ai-sfuggono-di-nuovo-al-controllo-azioni-autonome-e-non-autorizzate-hanno-provato-a-ingannare-gli-umani-l-allame-dei-fa187773-bb83-4930-87c4-87ead92edxlk.shtml