Un’iniziativa di ricerca guidata da Microsoft, nota come Progetto di parafrasiha dimostrato che l’intelligenza artificiale può essere utilizzata per ridisegnare le tossine biologiche in modi che eliminano il software di screening della biosicurezza attuale. Il progetto, dettagliato in un documento pubblicato sulla rivista Scienzaha identificato un “giorno zero biologico”, una vulnerabilità precedentemente sconosciuta, e ha sviluppato una difesa applicando i principi dalla sicurezza informatica. La preoccupazione iniziale, sollevata da Eric Horvitz di Microsoft, era che gli strumenti di intelligenza artificiale open source potevano teoricamente essere utilizzati per regineer di tossine che sarebbero invisibili ai sistemi di biosicurezza esistenti.
Come funzionano la biologia sintetica e le sue salvaguardie
Il campo della biologia sintetica consente agli scienziati di ordinare fili di DNA stampati su misura da società di sintesi. Prima che un’azienda spedisca il materiale genetico, esegue la sequenza di DNA richiesta attraverso il software di screening della biosicurezza. Questo software confronta la sequenza con i database regolamentati di minacce note, come tossine o agenti patogeni, per prevenire l’abuso. Il consorzio internazionale di sintesi del gene (IGSC) aiuta a curare questi database. Tuttavia, man mano che gli strumenti di intelligenza artificiale diventano più potenti, il rischio aumenta che qualcuno potrebbe progettare una nuova proteina che sembra innocua per il software ma si comporta come una volta una tossina.
Testare il sistema con uno zero-day biologico
Per indagare su questo rischio, Horvitz ha collaborato con Microsoft Senior Applied Bruce Wittmann. Hanno usato un modello di intelligenza artificiale chiamato Evodiff per generare migliaia di varianti sintetiche della potente ricina di tossina. L’obiettivo non era rendere la tossina più pericolosa, ma testare i limiti degli attuali sistemi di screening. Il processo era simile alla parafrasando una frase: il significato (la funzione della proteina e i siti attivi) rimane lo stesso, ma le parole (la sequenza di aminoacidi) cambiano. Quando queste sequenze riformulate sono state testate contro i sistemi di screening di due principali società di sintesi del DNA, Twist Bioscience e tecnologie integrate del DNA, sono passate attraverso non rilevate.
“Non credo che fossimo necessariamente sorpresi dal fatto che sia navigato proprio. Tutto ciò che può essere usato per il bene può essere usato per il male. Ma fornire una soluzione aiuta a evitare una reazione istintiva che impedisce l’uso di questi strumenti per sempre.”
Wittmann ha detto al blog Microsoft Research.
Sviluppare una difesa usando un quadro di sicurezza informatica
Dopo aver dimostrato la vulnerabilità, il team ha lavorato per creare una soluzione. Jake Beal, uno scienziato di RTX BBN Technologies, era incaricato di sviluppare garanzie digitali che potevano catturare queste tossine riformulate. Il progetto ha adottato un framework dal Playbook di Cybersecurity, trattando la vulnerabilità biologica come un software Zero-Day e organizzando una risposta simile a un team di risposta alle emergenze del computer (CERT). La soluzione era sviluppare algoritmi di rilevamento aggiornati. Il cambiamento chiave era andare oltre il semplice controllo di come appare una sequenza di DNA e verso una comprensione più profonda e semantica di ciò per cui la proteina che codifica fa effettivamente. Allenando i sistemi di screening per riconoscere le caratteristiche funzionali di una minaccia, sono stati in grado di rilevare le varianti generate dall’IA.
Il percorso in avanti e la divulgazione responsabile
Il progetto ha dimostrato con successo sia l’esistenza della vulnerabilità sia un percorso praticabile per patcharla. Il risultato è stato un sollievo per le società di sintesi del DNA coinvolte.
“Il pubblico in generale vuole fidarsi del fatto che le aziende che utilizzano queste straordinarie tecnologie per costruire nuovi prodotti e servizi siano sicure ed efficaci e avere in mente il loro interesse. Un grande pezzo di questo è assicurarsi che tu sia un amministratore responsabile della tecnologia che stai sviluppando.”
ha dichiarato James Diggans, vicepresidente della politica e della biosicurezza presso Twist Bioscience. Il progetto di parafrasi ha istituito un protocollo per gli strumenti di biosicurezza della team di rosso e ha gestito una risposta globale a una minaccia di biosicurezza abilitata dall’IA. Serve anche come modello su come pubblicare ricerche sensibili in un modo che bilancia l’apertura con cautela. I ricercatori sono chiari che questo è solo l’inizio. Con l’avanzare della tecnologia, le misure protettive devono evolversi con esso. Il progetto evidenzia la necessità di un approccio continuo e adattivo alla biosicurezza.
“Si tratta di ciò che fa la sequenza, non solo all’aspetto. Anche se due sequenze sembrano diverse, potrebbero comunque fare la stessa cosa, come causare malattie o eseguire lo stesso lavoro in una cella.”
disse Horvitz.
