NVIDIA ha introdotto ChatRTX, un chatbot AI sperimentale che consente agli utenti di interagire con i propri dati locali su PC Windows.
Questo programma si è distinto per la sua capacità di eseguire modelli linguistici di grandi dimensioni (LLM) direttamente sul computer dell’utente, offrendo una miscela unica di privacy e potenza di elaborazione. Ora, ChatRTX sta acquisendo ancora più funzionalità con l’aggiunta del modello Gemma di Google e del supporto per le query vocali.
ChatRTX offre chat locali con ambizioni globali
Al giorno d’oggi i chatbot sono una dozzina, con assistenti virtuali come Siri e Alexa integrati in molti dispositivi. Tuttavia, questi assistenti si affidano all’elaborazione basata su cloud, il che significa che le tue query e i tuoi dati viaggiano verso server remoti. ChatRTX adotta un approccio diverso. Crea un server chatbot locale accessibile tramite il tuo browser web, permettendoti di interagire con i tuoi dati senza mai lasciare il tuo PC.
Questa elaborazione locale offre numerosi vantaggi. Innanzitutto, garantisce che la privacy dei tuoi dati rimanga sotto il tuo controllo. In secondo luogo, elimina la necessità di una connessione Internet costante, rendendo ChatRTX utilizzabile anche in scenari offline.
Esegue Gemma e ChatGLM3
Inizialmente, ChatRTX offriva agli utenti la scelta tra due LLM: Maestrale E Lama 2. Questi modelli consentivano agli utenti di analizzare documenti, generare formati di testo creativi e rispondere a domande in base alle informazioni fornite. Con l’ultimo aggiornamento, ChatRTX espande in modo significativo il suo arsenale LLM. La prima aggiunta importante è Il modello Gemma di Google. Progettata per laptop e desktop potenti, Gemma porta le funzionalità della ricerca sull’intelligenza artificiale di Google direttamente su ChatRTX. Questa integrazione semplifica il processo di utilizzo di Gemma a livello locale, offrendo agli utenti un potente strumento per attività come il recupero di informazioni e la risposta a domande dalle loro raccolte di dati personali.
Oltre a Gemma, ora supporta ChatRTX ChatGLM3, un LLM unico per le sue capacità bilingue. ChatGLM3 può comprendere e generare testo sia in inglese che in cinese, rendendolo uno strumento prezioso per gli utenti che lavorano con dati in queste lingue. Questa espansione delle opzioni LLM consente agli utenti di scegliere il modello giusto per le loro esigenze specifiche, che si tratti di analizzare documenti in inglese, comprendere pagine web cinesi o generare formati di testo creativi.
Chiacchierare con la tua macchina senza tastiera
Un’altra interessante aggiunta a ChatRTX è la sua nuova capacità di comprendere le query vocali. Questa funzionalità è alimentata da Sussurro, un avanzato sistema di riconoscimento vocale automatico. Whisper utilizza l’intelligenza artificiale per convertire la lingua parlata in testo, consentendo agli utenti di interagire con ChatRTX tramite comandi vocali. Questo approccio a mani libere apre le porte a un modo più naturale e intuitivo di interagire con i tuoi dati locali.
Immagina di chiedere a ChatRTX di riassumere un documento che hai scansionato o di richiedere informazioni da un foglio di calcolo utilizzando solo la tua voce. Con l’integrazione di Whisper, questi scenari diventano realtà all’interno dell’ambiente ChatRTX.
Come utilizzare ChatRTX
ChatRTX è progettato per PC Windows 11, ma presenta requisiti hardware specifici. Per eseguire il programma senza problemi, avrai bisogno di un computer dotato di:
- Almeno 16 GB di RAM
- Una potente scheda grafica NVIDIA GeForce RTX serie 30 o 40 con un minimo di 8 GB di VRAM
Download e configurazione
- Vai al sito web ufficiale di NVIDIA. Cerca il Scarica ChatRTX sezione.
- Scarica il programma di installazione di ChatRTX e segui le istruzioni visualizzate sullo schermo per completare il processo di configurazione.
Preparazione dei dati
ChatRTX interagisce con le informazioni archiviate sul tuo computer locale. Prima di utilizzare ChatRTX, assicurati che i dati che desideri analizzare siano organizzati e accessibili. Ciò potrebbe comportare l’archiviazione di documenti, e-mail, fogli di calcolo e altri file pertinenti in una cartella designata.
Avvio ChatRTX e scelta di un LLM
- Una volta completata la configurazione, avvia ChatRTX. Il programma crea un server locale accessibile tramite il browser web.
- ChatRTX offre più modelli linguistici di grandi dimensioni (LLM) tra cui scegliere. Inizialmente fornisce Mistral e Llama 2, ciascuno con i suoi punti di forza nell’analisi dei documenti, nella generazione di testi creativi e nella risposta alle domande. L’ultimo aggiornamento introduce il modello Gemma di Google e ChatGLM3, un modello bilingue per dati inglesi e cinesi.
Inviare i tuoi dati a ChatRTX
- ChatRTX non accede direttamente all’intero disco rigido. Dovrai invece specificare la cartella contenente i dati che desideri che LLM analizzi. Il programma caricherà quindi le informazioni nella sua libreria.
Interagire con ChatRTX
Esistono due modi principali per interagire con ChatRTX:
-
Suggerimenti testuali: Puoi digitare le tue domande o istruzioni direttamente nell’interfaccia ChatRTX. Esprimi le tue richieste in modo chiaro e conciso, specificando cosa vuoi che LLM faccia con i tuoi dati.
-
Query vocali (nuova funzionalità): L’ultimo aggiornamento introduce il supporto per le query vocali basato su Whisper, un sistema di riconoscimento vocale automatico. Fai clic sull’icona del microfono in ChatRTX e pronuncia la tua domanda o istruzione. Whisper convertirà il tuo discorso in testo, permettendoti di interagire con ChatRTX a mani libere.
Dopo aver fornito a ChatRTX i tuoi dati e fornito un suggerimento o una domanda, il LLM scelto analizzerà le informazioni e fornirà i suoi risultati all’interno dell’interfaccia ChatRTX. Il formato dei risultati dipenderà dal tipo di richiesta fornita. Potrebbe essere un documento riassuntivo, una risposta alla tua domanda o anche un formato di testo generato in modo creativo in base alle tue istruzioni.
Mentre NVIDIA continua a sviluppare ChatRTX, sarà interessante vedere come si evolverà la piattaforma.
In futuro verranno integrati LLM ancora più potenti?
ChatRTX potrebbe espandere le sue funzionalità oltre l’analisi del testo e incorporare strumenti per l’elaborazione di immagini o audio?
Solo il tempo lo dirà, ma l’attuale aggiornamento di ChatRTX dimostra l’impegno di NVIDIA nello spingere i confini dell’interazione IA locale.
Credito immagine in primo piano: NVIDIA
