En un avance notable en la IA conversacional offline, la empresa tecnológica pionera Useful Sensors ha presentado su innovadora solución "IA en una caja". Esta maravilla tecnológica aprovecha las formidables capacidades de la Unidad de Procesamiento Neural (NPU) del procesador Rockchip RK3588S.
Ofrecer una experiencia de usuario similar a ChatGPT, eliminando la necesidad de conexión a internet o registro. Además de su capacidad conversacional, AI in a Box ofrece diversas funcionalidades, desde subtítulos en vivo y traducción de idiomas hasta funciones de privacidad reforzada para conversaciones discretas.
IA conversacional sin conexión
La introducción de "IA en una Caja" por parte de Useful Sensors marca un avance significativo en la IA conversacional offline. A diferencia de los sistemas de IA convencionales, esta tecnología funcionadentde la conexión a internet. Esto garantiza la privacidad del usuario y evita la necesidad de complejos procedimientos de registro. Impulsada por la NPU del procesador Rockchip RK3588S, esta IA en una Caja sitúa el futuro de las interacciones basadas en IA en un primer plano.
Características versátiles que satisfacen diversas necesidades
Esta innovadora solución de IA trasciende la mera conversación y ofrece un conjunto integral de funciones para adaptarse a un amplio espectro de requisitos:
Subtítulos en vivo: La IA en una caja está equipada para proporcionar subtítulos y subtítulos cerrados en tiempo real durante eventos en vivo. Esta capacidad resulta invaluable en situaciones donde las personas tienen dificultades de comprensión auditiva.
Traducción en vivo: Con la capacidad de generar traducciones casi en tiempo real en una gran variedad de idiomas, los usuarios pueden seleccionar fácilmente sus idiomas de origen y destino. El sistema presenta subtítulos en pantalla dividida que muestran el texto original junto con la traducción generada automáticamente.
Privacidad reforzada: Los usuarios preocupados por la privacidad apreciarán que el Radxa ROCK 5A, el núcleo de la IA en una caja, no esté equipado con conectividad Wi-Fi ni Bluetooth integrada. Además, incluso el puerto Ethernet es prescindible, ya que todo el procesamiento de datos se realiza localmente. Esto garantiza la máxima privacidad, especialmente en contextos que involucran conversaciones o contenido sensible.
El modo teclado mejora la productividad
Además de sus capacidades conversacionales, AI in a Box es una herramienta versátil de transcripción y generación de contenido. Al conectarla a un dispositivo host auxiliar, como una Raspberry Pi, puede funcionar perfectamente como un teclado USB, optimizando la transcripción de archivos de audio o la conversión de vídeos a formato de texto.
Useful Sensors desarrolló la biblioteca Useful Transformers para lograr esta impresionante hazaña tecnológica. Esta innovadora biblioteca está diseñada específicamente para realizar tareas de inferencia de forma eficiente en procesadores de bajo coste y bajo consumo energético, facilitando así el funcionamiento de modelos de IA en el borde de las redes informáticas. La aplicación inaugural de esta biblioteca optimiza el modelo de voz a texto Whisper de OpenAI para lograr resultados extraordinarios.
Métricas de rendimiento excepcionales
El rendimiento de la biblioteca Useful Transformers demuestra sus excepcionales capacidades. Aprovechando el modelo tiny.en Whisper, alcanza velocidades de transcripción de voz que superan el rendimiento en tiempo real por un asombroso factor de 30. Este rendimiento supera incluso a las implementaciones más prestigiosas. La mayoría de las inferencias se ejecutan con rapidez, generalmente en un rango de 500 milisegundos a 2 segundos, lo que garantiza una experiencia de usuario fluida y gratificante.
Del prototipo a la solución integral
El hardware existente para la IA en una Caja se encuentra actualmente en fase de prototipo. Incluye un Radxa ROCK 5A encapsulado en una carcasa de plástico y está interconectado con una pantalla HDMI, un altavoz USB y un micrófono USB. No obstante, el producto final es una solución totalmente integrada que incluye un SoC Rockchip RK3588S, 8 GB de RAM, una pantalla integrada, altavoces integrados y un micrófono, todo ello en una carcasa a medida. Con Ubuntu 22.04, promete ofrecer una experiencia de IA inigualable.
Iniciativa de financiación colectiva en Crowd Supply
Useful Sensors ha lanzado oficialmente AI in a Box en la plataforma Crowd Supply, con un objetivo de financiación de 30.000 dólares. Los patrocinadores recibirán diversos incentivos, y el producto final se enviará el 31 de enero de 2024. Hay disponible un kit de prototipo AI in a Box para usuarios pioneros y entusiastas de la tecnología, que incluye el ROCK 5A, carcasa, pantalla y diversos accesorios. La entrega de este kit está prevista para el 1 de diciembre de 2023, lo que ofrece la oportunidad de explorar el potencial de LLM en el procesador Rockchip RK3588S antes de que llegue al público general. El envío tiene un coste de 8 dólares dentro de Estados Unidos y 18 dólares a destinos internacionales.
La introducción de "IA en una caja" por parte de Useful Sensors constituye un momento crucial en la evolución de la tecnología de IA. La perfecta combinación de privacidad, adaptabilidad y hardware de vanguardia abre un nuevo abanico de posibilidades para las interacciones impulsadas por IA. Con sus excelentes métricas de rendimiento y aplicaciones prácticas en el mundo real, esta solución sienta las bases para un futuro en el que la IA no solo será accesible, sino que también respetará profundamente la privacidad del usuario.
La campaña de financiación colectiva de Crowd Supply ofrece a las personas la oportunidad de estar a la vanguardia de esta revolución de la IA, y esdent que AI in a Box tiene el potencial dedeficómo interactuamos con los sistemas de IA en nuestra vida diaria.
