Quindi, il tuo amichevole AI di quartiere, Chatgpt, ha deciso che ha bisogno di una memoria migliore. Non solo alcune note appiccicose sulla tua preferenza per e -mail concise o sul fatto che sei leggermente terrorizzato dai piccioni. Oh no. Stiamo parlando di richiamo totale. Ogni chat, ogni domanda, ogni mormorio digitale con cui hai mai condiviso ora può essere ricordato. Openi, gli architetti di questo elefante digitale, lo hanno annunciato con il tipo di fanfara di solito riservata a un nuovo smartphone – una caratteristica che “ami o odio molto o odi”.
Quanto meravigliosamente binario.
Questo è grande. Prima potevi curare un piccolo elenco di “fatti approvati”. Carino, controllabile. Ora? Se capovolgi l’interruttore (e si sta implementando su utenti più e professionisti, sebbene l’Europa e alcune altre regioni stiano ottenendo un respiro a causa di quei fastidiosi regolamenti sulla privacy), Chatgpt sorseggia dal fuoco di vostra storia di conversazione. La promessa? Un’intelligenza artificiale che ti “prende davvero”, che offre continuità, un amico digitale che ricorda quell’oscuro romanzo di fantascienza che hai menzionato tre mesi fa. La comodità è seducente, no? Una mente che ricorda tutto ciò che l’hai detto, senza il fallimento umano, beh, che si dimentica.
Ma ecco il kicker, il piccolo prurito nella parte posteriore della tua mente che inizia a urlare se ascolti attentamente. Questa nuova, ampia memoria di cronologia delle chat? Non puoi rivederlo. Non puoi modificarlo. Non è possibile tagliare selettivamente quella domanda imbarazzante che hai posto alle 3 del mattino. È un affare tutto o niente: o l’IA ricorda tutto, o torni a una versione più amnesiaca o vai a una “chat temporanea” completa. Sono progressi, dicono. Più utile, più personale. E, come concedono loro stessi, per alcuni, “più inquietanti”. Non dici?
Quindi, chi si preoccupa il tuo fantasma digitale nella macchina?
Mettiamo in pausa e meditiamo questa parte “inquietante”. Chatgpt ha sempre archiviato i registri delle chat sui server di Openai. Non è nuovo. La novità è il mining esplicito e attivo di questi registri completi per modellare le interazioni future in modi, l’utente, non puoi facilmente controllare o perfezionare. È una cosa per una piattaforma per contenere i tuoi dati; È un altro per costruire un modello sempre più sfumato, ma opaco di te Da questi dati, un modello che impone quindi il suo comportamento nei tuoi confronti.
E le leve per il controllo di come questa persona è costruita e utilizzata sono … limitate. È possibile disattivare l’intero sistema di memoria, certo. Ma se vuoi la comodità, apparentemente ti arrendi una fetta di controllo significativa. È questo l’inevitabile compromesso? È questo il prezzo di un’intelligenza artificiale veramente personalizzata? O è una scelta di design, che dà la priorità alla sicurezza rispetto all’agenzia di utenti granulari?
Se un’intelligenza artificiale “ti conosce” così intimamente, chi possiede veramente quella conoscenza? Tu, chi ha fornito la materia prima o la società che ospita i dati e forma gli algoritmi? Sembra meno uno strumento che maneggi e più un sistema che sta imparando costantemente per maneggiarti.
Nel frattempo, nel tentacolare bazar dell’apertura …
Passiamo a una parte diversa della foresta digitale, dove la filosofia è meno sui giardini murati e più le pianure aperte. Sto parlando del mondo dell’open source e in particolare di un’organizzazione come la Linux Foundation. Per molti, il nome “Linux” evoca immagini di tecnici hardcore e sale server. Ma la fondazione Linux di oggi? È un ombrello tentacolare, una “base di fondazioni” come alcuni lo chiamano. È molto più di semplice Linux.
Jim Zemlin, il capitano di lunga data di questa nave, parla di un “approccio di portafoglio” nella sua conversazione con TechCrunch. Si tratta di coltivare un ecosistema diversificato di progetti, dalle infrastrutture cloud e dai portafogli digitali a, sì, intelligenza artificiale. Ciò che la Linux Foundation ha realizzato in anticipo è che la tecnologia non si ferma; Si trasforma, si interseca. Per rimanere pertinenti, per fornire un valore duraturo, dovevano abbracciare questo flusso.
Cosa significa questo “approccio di portafoglio” in pratica? Significa risorse condivise. Immagina una cassa di guerra collettiva: avvocati che comprendono il copyright e i brevetti, gli specialisti della privacy dei dati e della sicurezza informatica, guru nell’organizzazione di marketing e eventi. Invece di ogni singolo progetto open source che deve reinventare la ruota o combattere le battaglie normative da sole (pensa alla legge UE AI o al Cyber Resilience Act), possono attingere a questo serbatoio centrale. Questo è cruciale: Si tratta di consentire l’innovazione rimuovendo lo sforzo duplicato e fornendo una struttura di supporto.
Questo ci porta al “fattore AI open source”. L’intelligenza artificiale, più che forse qualsiasi software prima, ha spinto il concetto di “open source” nel dibattito tradizionale, spesso avvolto in controversie. Cosa significa anche “aperto” quando parliamo di questi modelli complessi e affamati di dati? Si tratta solo dell’accesso al codice sorgente? Che dire dei vasti set di dati utilizzati per la formazione o i parametri del modello stessi?
La Linux Foundation, sede della LF AI & Data Foundation, non sta allontanando da queste spinose domande. Hanno persino pubblicato qualcosa chiamato il Framework di apertura del modello (MOF), un tentativo di portare una classificazione più sfumata e a più livelli ai modelli di intelligenza artificiale in base alla loro “completezza e apertura”. È un riconoscimento che “aperto” non è una semplice proposta sì/no in AI. Lo stesso Zemlin osserva che le persone nella comunità dell’IA, una chiesa più ampia dell’ingegneria del software tradizionale, vogliono “prevedibilità, trasparenza e comprensione di ciò che stanno effettivamente ottenendo e utilizzando”.
Sembra familiare? Non è esattamente ciò che sembra … carente … quando la nuova funzione di memoria di Chatgpt offre un approccio da asporto a o-leave a tutto il tuo passato conversazionale? L’etica open source, al massimo, si impegna per quella prevedibilità e trasparenza.
Non è sempre perfetto, non sempre pulito, ma l’impulso è lì.
Possiamo avere anche la nostra torta personalizzata e controllarla?
Il modello collaborativo, azionario delle risorse, in cerca di trasparenza del mondo open source, come esemplificato dalla Linux Foundation, può offrire qualche ispirazione per i giganti proprietari? Può spingerli verso un controllo più incentrato sull’utente, anche se i loro modelli di base rimangono segreti strettamente protetti?
Forse.
Immagina se, ispirato allo spirito dell’approccio a più livelli di MOF, i sistemi di intelligenza artificiale proprietari offrissero agli utenti una dashboard. Non solo un interruttore on/off per la memoria, ma un modo per vedere quali conversazioni passate influenzano maggiormente le risposte attuali. O strumenti per down-peso determinati argomenti o persino “dimenticare” interazioni specifiche senza sfruttare l’intera memoria. Ciò non richiederebbe open sourcing l’intero modello, ma richiederebbe un passaggio filosofico verso la concessione di utenti più approfondimenti e agenzia.
O è solo un pio desiderio?
La vera agenzia utente nell’era dell’IA si basa fondamentalmente sulla capacità di ispezionare, modificare e comprendere il sistema a un livello più profondo – qualcosa che, quasi per definizione, indica i modelli open source? Se l’IA è una scatola nerasei mai veramente in controllo, non importa quanto sia conveniente?
La Linux Foundation, nella sua espansione globale, ha istituito entità regionali come Linux Foundation Europe. Le nazioni vogliono dire, un grado di controllo, sulla critica infrastruttura digitale che sostiene le loro società. È un affascinante parallelo. Se i paesi sono preoccupati per la sovranità digitale su scala macro, gli individui non dovrebbero essere preoccupati per la propria “sovranità dei dati”, specialmente quando si tratta di un’intelligenza artificiale che sta effettivamente costruendo un secondo cervello in base ai loro pensieri ed espressioni intime?
L’approccio del “Portfolio” Zemlin Champions consente alla Fondazione Linux di soddisfare una vasta gamma di bisogni e contesti. Potremmo, gli utenti dell’IA, richiedere un simile “portafoglio” di controllo su come i nostri dati vengono utilizzati per far “conoscere” questi sistemi?
In questo momento, con funzionalità come la memoria potenziata di Chatgpt, la scelta sembra spesso netta: immensa comodità unita a processi opachi o rinuncia alla comodità di una parvenza di controllo. È uno strumento schietto, un interruttore “on o spento” per qualcosa di incredibilmente sfumato: la tua storia, i tuoi pensieri in evoluzione.
Il mondo open source, per tutte le sue complessità a volte disordinate, offre spesso più pulsanti, più quadranti, più forchette sulla strada. È radicato nell’idea che gli utenti (o almeno le comunità di utenti e sviluppatori) dovrebbero avere il potere di modellare i propri strumenti.
Vogliamo una relazione di fiducia cieca in una scatola nera utile ma imperscrutabile? Oppure ci impegniamo per uno costruito su termini più trasparenti, comprensibili e, in definitiva, più controllabili?
La conversazione, proprio come le nostre storie di chat, è appena iniziata.
