Révolutionnaire « AI in a Box » : IA conversationnelle hors ligne avec confidentialité
- Useful Sensors présente « AI in a Box », un système d’IA hors ligne axé sur la confidentialité, qui parle comme un humain sans connexion Internet.
- Il offre des sous-titres en direct, une traduction linguistique et fonctionne comme un clavier. Aucune connexion Wi-Fi ou Ethernet n’est nécessaire pour garantir une confidentialité totale.
- Financement participatif sur Crowd Supply, avec un produit final prévu pour janvier 2024 à partir de 299 $, ou un kit prototype précoce disponible dès décembre 2023 pour 475 $.
Dans une avancée remarquable en matière d'IA conversationnelle hors ligne, l'entreprise technologique pionnière Useful Sensors a présenté sa solution innovante « AI in a Box ». Cette merveille technologique exploite les puissantes capacités de l'unité de traitement neuronal (NPU) du processeur Rockchip RK3588S.
Pour offrir une expérience utilisateur similaire à celle de ChatGPT, tout en éliminant la nécessité d'une connexion Internet ou de toute forme d'inscription utilisateur. Au-delà de ses aptitudes conversationnelles, l'IA in a Box possède des fonctionnalités diverses, allant de la sous-titrage en direct et la traduction de langues à des fonctionnalités de confidentialité renforcée pour des discussions discrètes.
IA conversationnelle hors ligne
L'introduction par Useful Sensors de l'« AI in a Box » marque une avancée significative dans le domaine de l'IA conversationnelle hors ligne. Contrairement aux systèmes d'IA conventionnels, cette technologie fonctionne indépendamment d'une connexion Internet continue. Cela garantit la confidentialité de l'utilisateur et évite les procédures d'inscription complexes. Alimentée par la NPU du processeur Rockchip RK3588S, cette AI in a Box place l'avenir des interactions propulsées par l'IA au premier plan.
Fonctionnalités polyvalentes répondant à des besoins divers
Cette solution d'IA innovante va au-delà de la simple conversation, offrant un ensemble complet de fonctionnalités pour répondre à un large spectre de besoins :
Sous-titrage en direct : L'AI in a Box est équipé pour fournir des sous-titres et des légères en temps réel lors d'événements en direct. Cette capacité s'avère précieuse dans les situations où les individus rencontrent des difficultés de compréhension auditive.
Traduction en direct : Avec la capacité de générer des traductions en quasi temps réel dans de nombreuses langues, les utilisateurs peuvent simplement sélectionner leurs langues source et cible. Le système présente ensuite des sous-titres en écran partagé affichant l'entrée originale ainsi que la sortie traduite générée par la machine.
Confidentialité renforcée : Les utilisateurs soucieux de leur vie privée apprécieront que le Radxa ROCK 5A, au cœur de l'AI in a Box, ne soit pas équipé de connectivité Wi-Fi ou Bluetooth intégrée. De plus, même le port Ethernet reste non essentiel, car tout le traitement des données se fait localement. Cela garantit une confidentialité maximale, en particulier dans les contextes impliquant des discussions ou du contenu sensibles.
Le mode clavier améliore la productivité
Au-delà de ses capacités conversationnelles, l'AI in a Box est un outil polyvalent de transcription et de génération de contenu. Lorsqu'il est connecté à un appareil hôte auxiliaire, tel qu'un Raspberry Pi, il peut fonctionner de manière transparente comme un clavier USB, rationalisant la transcription de fichiers audio ou la conversion de vidéos en format texte.
Useful Sensors a développé la bibliothèque Useful Transformers pour réaliser cette prouesse technologique. Cette bibliothèque innovante est spécifiquement conçue pour effectuer efficacement des tâches d'inférence sur des processeurs à faible coût et à faible consommation d'énergie, facilitant ainsi le fonctionnement des modèles d'IA au bord des réseaux informatiques. La première application de cette bibliothèque optimise le modèle de reconnaissance vocale Whisper d'OpenAI pour obtenir des résultats remarquables.
Métriques de performance exceptionnelles
La performance exhibée par la bibliothèque Useful Transformers témoigne de ses capacités exceptionnelles. En utilisant le modèle Whisper tiny.en, elle atteint des vitesses de transcription vocale qui dépassent la performance en temps réel d'un facteur stupéfiant de 30. Cette performance surpasse même les implémentations les plus illustres. La plupart des inférences sont exécutées rapidement, généralement dans la plage de 500 millisecondes à 2 secondes, garantissant une expérience utilisateur fluide et satisfaisante.
Du prototype à une solution complète
Le matériel existant pour l'AI in a Box est actuellement à la phase de prototype. Il comprend un Radxa ROCK 5A logé dans un boîtier en plastique et connecté à un écran HDMI, un haut-parleur USB et un microphone USB. Néanmoins, le produit final est une solution entièrement intégrée comprenant un SoC Rockchip RK3588S, 8 Go de RAM, un écran intégré, des haut-parleurs intégrés et un microphone, le tout enfermé dans un boîtier sur mesure. Fonctionnant sous Ubuntu 22.04, il promet de livrer une expérience IA sans précédent.
Initiative de financement participatif sur Crowd Supply
Useful Sensors a officiellement lancé l'AI in a Box sur la plateforme Crowd Supply, fixant un objectif de financement de 30 000 $. Les soutiens se voient proposer une série d'avantages, le produit final étant prévu pour expédition avant le 31 janvier 2024. Un kit prototype AI in a Box est disponible pour les premiers adoptants et les passionnés de technologie, comprenant le ROCK 5A, un boîtier, un écran et divers accessoires. Ce kit devrait être livré avant le 1er décembre 2023, offrant une opportunité d'explorer le potentiel du LLM sur le processeur Rockchip RK3588S avant le grand public. La livraison est disponible pour 8 $ aux États-Unis et 18 $ pour les destinations internationales.
L'introduction par Useful Sensors de l'« AI in a Box » constitue un moment charnière dans l'évolution de la technologie IA. En amalgamant harmonieusement confidentialité, adaptabilité et matériel de pointe, elle ouvre un nouveau realm de possibilités pour les interactions propulsées par l'IA. Avec ses métriques de performance stellar et ses applications pratiques dans le monde réel, cette solution prépare le terrain pour un avenir où l'IA est non seulement accessible, mais aussi profondément respectueuse de la vie privée des utilisateurs.
La campagne de financement participatif sur Crowd Supply offre aux individus l'opportunité d'être à l'avant-garde de cette révolution IA, et il est évident que l'AI in a Box a le potentiel de redéfinir la manière dont nous interagissons avec les systèmes IA dans notre vie quotidienne.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement : Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne décline aucune responsabilité quant aux investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d’investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
