Aperto è stato rilasciato GPT-OSS 12B e 20B, modelli AI open source che consentono il funzionamento locale sui personal computer. Questo sviluppo offre una maggiore privacy e controllo.
GPT-ESS 12B e GPT 20B di Openi sono modelli di ragionamento. Facilitano funzionalità AI avanzate sui sistemi locali, migliorando la privacy, la velocità e il controllo degli utenti. GPT-ESS 20B è ottimizzato per hardware di consumo di fascia alta, mentre GPT-OSS 12B è per sistemi di livello professionale con GPU più potenti. Strumenti come Olama, per l’installazione intuitiva e LM Studio, per utenti avanzati, semplificano il processo di configurazione. L’installazione locale fornisce maggiori prestazioni, controllo e affidabilità rispetto a soluzioni basate sul Web, adattando applicazioni esigenti. I modelli offrono trasparenza di ragionamento e flessibilità open source. Attualmente mancano di caricamento di file e funzionalità di ricerca Web avanzate; I miglioramenti futuri sono in fase di sviluppo.
I modelli GPT-OSS 12B e 20B si allineano all’obiettivo di Openai di diffuso accesso all’IA, fornendo strumenti per le attività di ragionamento. Questi modelli supportano l’analisi dei problemi complessi e mostrano fasi di ragionamento, offrendo trasparenza nei loro processi.
- GPT-OSS 20B: Progettato per l’uso locale su hardware di alto livello di livello consumerquesto modello bilancia l’accessibilità con le prestazioni. Si adatta agli utenti che cercano funzionalità AI avanzate senza sistemi professionali.
- GPT-OSS 12B: Questo modello più ad alta intensità di risorse mira Stazioni di lavoro di livello professionale con potenti GPU. Serve ricercatori e utenti avanzati che richiedono più capacità computazionali.
Entrambi i modelli sono open source, consentendo a sviluppatori e ricercatori di personalizzarli o di esaminare la loro architettura. Questa flessibilità li rende preziosi per diverse applicazioni, dalla ricerca accademica alla risoluzione pratica dei problemi.
L’esecuzione di questi modelli localmente richiede hardware robusto per prestazioni ottimali. Le specifiche hardware sono le seguenti:
- Per GPT-OS 20B: Un sistema ha bisogno almeno 16 GB di memoria GPU e un processore moderno. Questa configurazione è adatta per la maggior parte dei desktop di consumo o laptop di fascia alta.
- Per GPT-OSS 12B: Richiede una configurazione avanzata 24 GB o più di memoria GPUin genere presenti in workstation di livello professionale o ambienti di elaborazione specializzati.
I sistemi che soddisfano questi requisiti raggiungeranno tempi di risposta più rapidi e funzionalità migliorate rispetto alle interazioni basate sul Web. Gli utenti con hardware meno potenti possono affrontare sfide, rendendo gli aggiornamenti hardware una considerazione per massimizzare le prestazioni.
