Basato su una storia che abbiamo letto TechBrevementeè difficile resistere all’impulso di prendere a pugni i muri con rabbia.
La famiglia di Jennifer Ann Crecente, una diciottenne assassinata quasi vent’anni fa, ha recentemente scoperto che la sua foto veniva utilizzata senza il loro consenso da una piattaforma di chatbot basata sull’intelligenza artificiale. Il nome e l’immagine di Jennifer sono stati trovati su Character.ai, un servizio che consente agli utenti di interagire con personalità generate dall’intelligenza artificiale. La famiglia non è mai stata consultata o informata sull’uso dell’identità di Jennifer, lasciandola inorridita e devastata da questo grave abuso.
Dopo la scoperta, lo zio di Jennifer si è rivolto ai social media per denunciare l’incidente e ha rilasciato una forte dichiarazione sul suo blog, Pad e pixel.
Questo è dannatamente disgustoso: @character_ai sta usando la mia nipote assassinata come volto dell’intelligenza artificiale di un videogioco senza il permesso di suo padre. È molto turbato in questo momento. Non riesco a immaginare cosa sta passando.
Per favore aiutateci a fermare questo tipo di pratica terribile. https://t.co/y3gvAYyHVY
—Brian Crecente (@crecenteb) 2 ottobre 2024
Solo dopo la protesta pubblica la piattaforma ha rimosso il bot.
Lo shock di vedere il volto e il nome di Jennifer usati senza permesso ha riaperto vecchie ferite per la famiglia. Crecente ha descritto il dolore iniziale dopo la sua morte come “un’esperienza quasi extracorporea”, aggiungendo: “La mia anima si è sentita strappata dal corpo. Per un po’ ho sperimentato la vita in uno stato di stordimento, come se lo fossi una specie di staccato dal mio corpoda il mondo.” Sebbene la famiglia avesse lavorato instancabilmente per onorare la memoria di Jennifer attraverso il lavoro e l’istruzione senza scopo di lucro, questo uso non autorizzato della sua identità sembrava una crudele violazione.
“Sembra che ci sia stata rubata di nuovo”, ha scritto Crecente, sottolineando l’impatto devastante dell’uso sconsiderato delle identità personali da parte dell’intelligenza artificiale. Nonostante i loro sforzi per rimuovere il chatbot, il danno è stato fatto. Crecente ha posto una domanda pressante: “Perché spetta a noi essere resilienti? Perché le aziende multimiliardarie non si preoccupano di creare principi guida etici e barriere funzionanti per evitare che ciò accada?
Seriamente, perché le aziende multimiliardarie non si preoccupano di creare principi guida etici e barriere funzionanti per evitare che ciò accada?
Sappiamo che ci sono persone cattive. Le persone sono, per natura, comunemente capaci di cattive azioni. Ma coloro che detengono il potere, soprattutto quelli con un’enorme influenza tecnologica, hanno anche la responsabilità di stabilire confini e creare strutture che blocchino la malvagità.
La risposta si trova nell’intersezione tra progresso tecnologico, incentivi aziendali e l’evidente assenza di normative esaustive.
Quando aziende come Character.ai possiedono la capacità di replicare le identità umane, siano esse vive o decedute, hanno l’obbligo etico di garantire che questo potere non venga utilizzato in modo improprio.
La risposta sta nel dare priorità al profitto rispetto alle persone. Nella corsa incessante all’innovazione, le aziende scelgono di muoversi velocemente e innovare senza garantire la presenza delle necessarie barriere etiche. Non è che non possano creare queste barriere; semplicemente non vedono un valore finanziario immediato nel farlo.
Questo è la dura realtà: le industrie orientate al profitto spesso vedono la moralità come una spesa opzionale, in particolare nel mondo della tecnologia.
I governi e gli organismi di regolamentazione sono rimasti indietro rispetto alla rapida evoluzione dell’intelligenza artificiale, lasciando enormi lacune nella legislazione. Esistono poche, se non nessuna, protezioni robuste per l’identità del defunto.
Parla adesso!
I media e i gruppi di difesa devono ritenere le aziende tecnologiche responsabili dell’uso non autorizzato delle sembianze di persone decedute. La pressione pubblica è fondamentale per garantire che le piattaforme di intelligenza artificiale attuino linee guida etiche e prevengano tali violazioni in futuro.
I legislatori devono essere sollecitati a promulgare leggi che proteggano esplicitamente l’identità dei defunti, garantendo che i loro nomi, immagini e lasciti non possano essere sfruttati a scopo di lucro. Abbiamo bisogno di norme che salvaguardino la dignità delle famiglie anche molto tempo dopo la morte dei loro cari.
Dobbiamo chiedere alle aziende di stabilire e applicare rigorose linee guida etiche per l’uso dell’intelligenza artificiale. Ciò include protocolli di consenso e un processo trasparente per la segnalazione delle violazioni. Non dovrebbero aspettare che le famiglie scoprano queste violazioni a posteriori.
I media devono continuare a svolgere un ruolo cruciale nelle indagini e nella denuncia degli incidenti in cui le piattaforme di intelligenza artificiale sfruttano gli individui senza consenso. La loro incessante copertura renderà queste aziende responsabili e spingerà al cambiamento, garantendo che il silenzio non consenta questo sfruttamento.
Non possiamo restare a guardare e permettere che tali violazioni continuino incontrastate.
#AIResponsabile
Porgiamo le nostre più sentite condoglianze alla famiglia Crecente durante questo periodo straziante. Nessuno dovrebbe mai dover affrontare il dolore della perdita di una persona cara, per non parlare di sopportare una tale violazione della propria memoria. La vita e l’eredità di Jennifer meritano di essere onorate e condividiamo il tuo dolore mentre affronti questo fardello inimmaginabile.
Credito immagine in primo piano: Pad e pixel
