Nonostante la sua reputazione per il ritardo nello sviluppo dell’IA, Apple ha realizzato il miglior computer per la ricerca sull’IA. Il Mac Studio con M3 Ultra Chip supporta un’allocazione di memoria unificata senza precedenti, fino a 512 GB, rendendolo il modo più semplice e conveniente per condurre ricerche AI avanzate con grandi modelli su hardware personale.
L’ultimo modello DeepSeek V3 lo dimostra con le sue prestazioni, essendo gestito interamente su un singolo Mac. I ricercatori hanno installato Apple hanno rivelato la funzionalità del modello lunedì.
Questa capacità è resa possibile dalla pura potenza di elaborazione del Mac, che è centralizzata in un’architettura unificata. DeepSeek V3 raggiunge i livelli di prestazione competitivi con leader del settore come Chatgpt. Questo software funziona in modo efficiente non solo su aziende server più voluminose, ma anche comodamente sul computer desktop di Apple.
Il nuovo modello è simile ai prezzi delle auto usate. Con un prezzo di $ 9.499, è uguale al costo di un’auto di seconda mano, ma confessante non richiede lo spazio tentacolare o i costi di un data center.
Questo non è stato previsto. L’architettura è stata progettata in modo da massimizzare i singoli componenti su un chip, creando per inciso un enorme potenziale per la memoria unificata, a beneficio sostanziale delle attività di intelligenza artificiale.
La spinta dello sviluppo per il silicio di Apple aveva lo scopo di migliorare i computer portatili, come la durata della batteria del MacBook Air. Nel corso degli anni 2010, Apple aveva sviluppato processori di silicio sequenziali. Questo progetto è iniziato con il lancio di A4 Chip nel 2010. I Mac integrati con Apple Silicon sono emersi a metà del decennio.
I modelli AI sono alimentati dalle GPU, ma la memoria è vitale. Una costosa GPU Nvidia 4090, di dimensioni di grandi dimensioni e destinata alla modellazione 3D e al rendering video, contiene 24 GB di memoria. Potenti modelli linguistici come DeepSeek R1 richiedere Memoria almeno 64 volte quella capacità.
I vantaggi dell’esecuzione di modelli superano localmente i servizi basati su cloud. La rimozione della necessità di utilizzare i server internazionali con la latenza della rete e le limitazioni di utilizzo e i costi finanziari è un vantaggio unico per l’elaborazione locale. Inoltre, i problemi di privacy e sicurezza sono mitigati con hardware e infrastrutture locali.
L’architettura unica di Apple per il suo silicio differisce anche da molti PC personalizzati. Apple Silicon integra CPU, GPU e motori neurali su un singolo chip, invece di utilizzare la memoria discreta per ciascun componente. L’accordo specializzato rende l’hardware Apple il più economico per una sostanziale capacità di memoria locale.
I materiali di marketing Apple hanno elogiato l’architettura di memoria unificata quando hanno lanciato il chip M1. Sottolineano come vari componenti del sistema che utilizzano l’accesso alla memoria condivisa aumentano la capacità di elaborazione del loro computer, ma migliora principalmente la durata della batteria del MacBook Air.
Lunedì, il ricercatore di Apple Machine Learning Awni Hannun ha rivelato gestire un modello di linguaggio di grandi dimensioni profondi su uno studio MAC. Lui condiviso Specifiche di prestazione sui suoi social media, mettendo in evidenza i centri che utilizzano 512 GB di memoria unificata.
Le prestazioni pure che le offerte Ultra Mac Studio M3 di Apple nella ricerca AI non sono un incidente, ma un sottoprodotto del suo design di chip si è concentrato sulla durata della batteria; Un beneficio impressionante, sebbene non pianificato, che i concorrenti stanno giocando a raggiungere l’emulazione.
Il vantaggio del mondo reale qui è ovvio: senza ritardi di rete latente, enormi costi di terze parti o rischi per la sicurezza del cloud dovuti al trasferimento dei dati, i ricercatori possono finalmente utilizzare grandi modelli di intelligenza artificiale sull’hardware locale. Gli alti immediati per efficienza e sicurezza sono innegabili. Notizie subpar per le aziende agricole di server.
Non era necessario che Apple progettasse una macchina dal salto appositamente per l’IA. La sua decisione di costruire chip efficiente per i prodotti di consumo ha convocato inconsapevolmente una bestia con un appetito insaziabile per schiacciare i problemi nell’apprendimento automatico. Apple dovrebbe ringraziare i team che hanno richiesto di più dai loro portatili.
