Neuchips, un fornitore di circuiti integrati specifici dell’applicazione AI (ASICS), ha annunciato una partnership con ShareGuru di Vecow e Golden Smart Home (GSH) per sviluppare una soluzione AI generativa offline per l’elaborazione dei dati proprietari. La collaborazione mira a consentire alle aziende di estrarre approfondimenti in tempo reale dai database interni utilizzando query in linguaggio naturale.
La partnership si concentra sull’affrontare le sfide dell’elaborazione complessa di dati SQL e sulla necessità di privacy dei dati. La soluzione combina la workstation di Inferenza ECX-3100 ECX-3100 di Vecow, la soluzione di SHAREGURU QA 2.0 di GSH e la Serie Viper Gen AI di Neuchips.
Gli aspetti chiave della soluzione collaborativa includono:
- Elaborazione dei dati offline: La scheda VIPER Series di Neuchips consente l’elaborazione locale della soluzione ShareGuru, migliorando la privacy e la sicurezza dei dati.
- Domande in linguaggio naturale: Il sistema consente agli utenti di generare query SQL utilizzando il linguaggio umano, semplificare l’accesso ai dati e ridurre la dipendenza dalle competenze SQL.
- Efficienza energetica: Neuchips evidenzia la capacità della serie Viper di supportare i modelli di parametri da 12 miliardi di parametri a 45 W di consumo di energia.
- LLM abilitato di Rag: La soluzione sfrutta la generazione di recupero (RAG) per fornire accesso a dati aggiornati senza richiedere la riqualificazione del modello.
- Specifiche hardware: La scheda Acceleratore della serie Viper Neuchips presenta 32 GB di capacità di memoria e supporto del modello di lingua strutturata BF16 nativo.
Neuchips sottolinea che la sua scheda Viper Series scarica una parte significativa dell’elaborazione generativa dell’IA dalla CPU. Vecow mette in evidenza il ruolo della soluzione nel soddisfare la crescente domanda di applicazioni AI generative on-premise e modelli di grandi dimensioni multimodali (LLM). La piattaforma ShareGuru di GSH fornisce la soluzione SLM che interagisce con l’hardware Neuchips.
Le compagnie mostreranno la loro soluzione collaborativa al World Embedded 2025 a Norimberga, in Germania, presso lo stand di Vecow. Neuchips ha anche annunciato piani futuri per concentrarsi su ASIC multi-modalità a bassa potenza entro il 2026.
Credito immagine in primo piano: Google DeepMind/Unsplash
