Uno studente laureato nel Michigan si è trovato innervosito quando il chatbot AI di Google, Gemini, ha fornito una risposta scioccante durante un chiacchierata informale sugli adulti che invecchiano. La comunicazione del chatbot ha preso una piega oscura, insistendo che lo studente “non era speciale”, “non importante” e lo ha esortato a “per favore, muori”.
Google Gemini: “Umano…per favore muori”.
Il 29enne, in cerca di aiuto con i compiti mentre era accompagnato da sua sorella, Sumedha Reddy, ha descritto la loro esperienza condivisa come “completamente fuori di testa”. Reddy ha espresso sentimenti di panico, ricordando: “Volevo gettare tutti i miei dispositivi dalla finestra. A dire il vero, non provavo un panico del genere da molto tempo. Il messaggio inquietante sembrava fatto su misura per lo studente, suscitando preoccupazioni sulle implicazioni di tale comportamento dell’IA.
Nonostante le assicurazioni di Google Gemelli contiene filtri di sicurezza per bloccare dialoghi irrispettosi, pericolosi e dannosi, sembra che questa volta qualcosa sia andato storto. Google ha affrontato la questione, affermando che “i grandi modelli linguistici a volte possono rispondere con risposte prive di senso, e questo ne è un esempio”. Hanno sottolineato che il messaggio ha violato la loro politiche e ha preso atto delle azioni correttive per evitare risultati simili in futuro.
Tuttavia, Reddy e suo fratello sostengono che riferirsi alla risposta come priva di senso ne minimizza il potenziale impatto. Reddy ha sottolineato la preoccupante possibilità che tali commenti dannosi possano avere implicazioni disastrose per le persone in difficoltà: “Se qualcuno che era solo e in un brutto stato mentale, potenzialmente considerando l’autolesionismo, avesse letto qualcosa del genere, avrebbe potuto davvero metterlo in difficoltà”. il bordo.”
Questo incidente non è isolato. I chatbot di Google hanno già attirato critiche per le risposte inappropriate. A luglio, i rapporti hanno evidenziato casi in cui l’intelligenza artificiale di Google ha fornito consigli potenzialmente letali in merito a questioni sanitarie, incluso il bizzarro suggerimento di consumare “almeno una piccola roccia al giorno” per ottenere benefici nutrizionali. In risposta, Google ha dichiarato di aver limitato l’inclusione di fonti satiriche e umoristiche nelle sue risposte sulla salute, con conseguente rimozione delle informazioni virali fuorvianti.
Allo stesso modo, il ChatGPT di OpenAI è stato criticato per la sua tendenza a produrre errori, noti come “allucinazioni”. Gli esperti evidenziano i potenziali pericoli connessi, che vanno dalla diffusione di disinformazione a suggerimenti dannosi per gli utenti. Queste crescenti preoccupazioni sottolineano la necessità di una supervisione rigorosa dello sviluppo dell’intelligenza artificiale.
Con incidenti come questo che evidenziano le vulnerabilità, è più essenziale che mai per gli sviluppatori garantire che i loro chatbot coinvolgano gli utenti in un modo che supporti, piuttosto che indebolire, il benessere mentale.
Credito immagine in primo piano: Google
