Google dettagliato il suo approccio alla sicurezza per le funzionalità degli agenti all’interno del browser Chrome, che possono eseguire azioni per conto degli utenti. L’azienda aveva già presentato in anteprima queste funzionalità a settembre e nei prossimi mesi avverrà un’implementazione più ampia. L’azienda ha implementato modelli di osservazione e meccanismi di consenso degli utenti per gestire queste azioni degli agenti. Questa strategia affronta potenziali rischi per la sicurezza, che potrebbero includere la perdita di dati o implicazioni finanziarie associate a tali funzionalità. Google utilizza diversi modelli per monitorare le azioni degli agenti. Ha sviluppato un User Alignment Critic, basato su Gemini, che valuta le azioni generate da un modello di pianificazione per un compito specifico. Se il modello critico ritiene che i compiti proposti non siano allineati con l’obiettivo dell’utente, ordina al modello pianificatore di rivedere la sua strategia. Il modello critico accede solo ai metadati dell’azione proposta, non al contenuto web vero e proprio. Per impedire agli agenti di accedere a siti Web non autorizzati o non affidabili, Google utilizza Agent Origin Sets. Questi set limitano i modelli a origini designate di sola lettura e scrivibili. Le origini di sola lettura consentono a Gemini di consumare contenuti, come elenchi di prodotti su un sito di shopping, escludendo elementi irrilevanti come banner pubblicitari. Allo stesso modo, l’agente può interagire solo con iframe specifici su una pagina.
Immagine: Google“Questa delineazione impone che solo i dati provenienti da un insieme limitato di origini siano disponibili per l’agente e che questi dati possano essere trasmessi solo alle origini scrivibili”, ha affermato la società in un post sul blog. “Ciò limita il vettore di minaccia delle fughe di dati di origine incrociata. Ciò dà inoltre al browser la possibilità di imporre parte di tale separazione, ad esempio non inviando nemmeno al modello dati che sono al di fuori dell’insieme leggibile.” Google monitora anche la navigazione della pagina utilizzando un altro modello di osservatore, che esamina attentamente gli URL. Questo meccanismo mira a impedire la navigazione verso URL dannosi generati da modelli. Per attività sensibili, Google richiede l’autorizzazione dell’utente. Quando un agente tenta di accedere a siti contenenti informazioni bancarie o mediche, richiede innanzitutto il consenso dell’utente. Per i siti che richiedono l’accesso, Chrome richiede all’utente l’autorizzazione per utilizzare il gestore delle password, garantendo che il modello dell’agente non acceda ai dati delle password. L’azienda chiederà inoltre l’approvazione dell’utente prima di azioni quali effettuare un acquisto o inviare un messaggio. Inoltre, Google dispone di un classificatore di pronta iniezione per prevenire azioni indesiderate e testa continuamente le sue capacità di agente contro gli attacchi sviluppati dai ricercatori. Anche altri sviluppatori di browser AI si sono concentrati sulla sicurezza; Perplexity ha rilasciato un nuovo modello di rilevamento dei contenuti open source all’inizio di questo mese per contrastare gli attacchi di iniezione tempestiva contro gli agenti.
