Con un notevole passo avanti nell'intelligenza artificiale conversazionale offline, l'azienda tecnologica pionieristica Useful Sensors ha introdotto la sua innovativa soluzione "AI in a Box". Questa meraviglia tecnologica sfrutta le formidabili capacità dell'unità di elaborazione neurale (NPU) del processore Rockchip RK3588S.
Per offrire un'esperienza utente simile a ChatGPT, eliminando al contempo la necessità di una connessione Internet o di qualsiasi forma di registrazione utente. Oltre alla sua attitudine alla conversazione, AI in a Box vanta diverse funzionalità, che vanno dai sottotitoli in tempo reale alla traduzione linguistica, fino a funzionalità di privacy avanzate per discussioni riservate.
Intelligenza artificiale conversazionale offline
L'introduzione di "AI in a Box" da parte di Useful Sensors segna una svolta significativa nell'intelligenza artificiale conversazionale offline. A differenza dei sistemi di intelligenza artificiale convenzionali, questa tecnologia operadentdalla connettività Internet continua. Ciò garantisce la privacy dell'utente ed evita la necessità di complesse procedure di registrazione. Basata sulla NPU del processore Rockchip RK3588S, questa AI in a Box porta in primo piano il futuro delle interazioni basate sull'intelligenza artificiale.
Funzionalità versatili che soddisfano diverse esigenze
Questa innovativa soluzione di intelligenza artificiale trascende la semplice conversazione, offrendo un set completo di funzionalità per soddisfare un'ampia gamma di requisiti:
Sottotitoli in tempo reale: l'intelligenza artificiale in una scatola è in grado di fornire sottotitoli in tempo reale e sottotitoli per non udenti durante gli eventi in diretta. Questa funzionalità si rivela preziosa in situazioni in cui le persone incontrano difficoltà di comprensione uditiva.
Traduzione in tempo reale: grazie alla possibilità di tradurre quasi in tempo reale in una moltitudine di lingue, gli utenti possono semplicemente selezionare la lingua di partenza e quella di destinazione. Il sistema presenta quindi sottotitoli a schermo diviso che mostrano l'input originale insieme all'output tradotto automaticamente.
Privacy rafforzata: gli utenti attenti alla privacy apprezzeranno il fatto che Radxa ROCK 5A, il cuore dell'AI in a Box, non sia dotato di connettività Wi-Fi o Bluetooth integrata. Inoltre, anche la porta Ethernet rimane non essenziale, poiché tutta l'elaborazione dei dati avviene localmente. Ciò garantisce la massima privacy, in particolare in contesti che coinvolgono discussioni o contenuti sensibili.
La modalità tastiera migliora la produttività
Oltre alle sue capacità conversazionali, AI in a Box è uno strumento versatile per la trascrizione e la generazione di contenuti. Collegato a un dispositivo host ausiliario, come un Raspberry Pi, può funzionare perfettamente come una tastiera USB, semplificando la trascrizione di file audio o convertendo video in formato testuale.
Useful Sensors ha sviluppato la libreria Useful Transformers per realizzare questa straordinaria impresa tecnologica. Questa libreria innovativa è specificamente progettata per condurre in modo efficiente attività di inferenza su processori a basso costo e basso consumo energetico, facilitando così il funzionamento dei modelli di intelligenza artificiale ai margini delle reti di elaborazione. L'applicazione inaugurale di questa libreria ottimizza il modello di conversione da parlato a testo Whisper di OpenAI per ottenere risultati straordinari.
Metriche di prestazioni eccezionali
Le prestazioni mostrate dalla libreria Useful Transformers testimoniano le sue eccezionali capacità. Sfruttando il modello tiny.en Whisper, raggiunge velocità di trascrizione vocale che superano di ben 30 volte le prestazioni in tempo reale. Queste prestazioni superano persino le implementazioni più illustri. La maggior parte delle inferenze viene eseguita rapidamente, generalmente in un intervallo compreso tra 500 millisecondi e 2 secondi, garantendo un'esperienza utente fluida e gratificante.
Dal prototipo alla soluzione completa
L'hardware esistente per AI in a Box è attualmente in fase di prototipo. È dotato di un processore Radxa ROCK 5A racchiuso in un alloggiamento di plastica ed è interconnesso con un display HDMI, un altoparlante USB e un microfono USB. Tuttavia, il prodotto finale è una soluzione completamente integrata che comprende un SoC Rockchip RK3588S, 8 GB di RAM, un display integrato, altoparlanti integrati e un microfono, il tutto racchiuso in un alloggiamento su misura. Basato su Ubuntu 22.04, promette di offrire un'esperienza di intelligenza artificiale senza pari.
Iniziativa di crowdfunding su Crowd Supply
Useful Sensors ha lanciato ufficialmente AI in a Box sulla piattaforma Crowd Supply, fissando un obiettivo di finanziamento di 30.000 dollari. I sostenitori potranno beneficiare di una serie di incentivi e la spedizione del prodotto finale è prevista entro il 31 gennaio 2024. Un kit prototipo AI in a Box è disponibile per i primi utilizzatori e gli appassionati di tecnologia, completo di ROCK 5A, contenitore, display e accessori assortiti. La consegna di questo kit è prevista per il 1° dicembre 2023, offrendo l'opportunità di esplorare il potenziale di LLM sul processore Rockchip RK3588S in anticipo rispetto al pubblico generale. La spedizione è disponibile al costo di 8 dollari negli Stati Uniti e di 18 dollari per le destinazioni in tutto il mondo.
L'introduzione di "AI in a Box" da parte di Useful Sensors rappresenta un momento cruciale nell'evoluzione della tecnologia AI. La perfetta combinazione di privacy, adattabilità e hardware all'avanguardia apre un nuovo mondo di possibilità per le interazioni basate sull'intelligenza artificiale. Con i suoi eccellenti parametri prestazionali e le sue applicazioni pratiche e concrete, questa soluzione getta le basi per un futuro in cui l'IA non sarà solo accessibile, ma anche profondamente rispettosa della privacy degli utenti.
La campagna di crowdfunding su Crowd Supply offre ai singoli individui l'opportunità di essere all'avanguardia di questa rivoluzione dell'intelligenza artificiale, ed èdent che AI in a Box ha il potenziale perdefiil modo in cui interagiamo con i sistemi di intelligenza artificiale nella nostra vita quotidiana.
