在离线对话式人工智能领域取得显著进展之际，先锋科技公司Useful Sensors推出了其创新的“AI in a Box”解决方案。这项技术奇迹充分利用了Rockchip RK3588S处理器的神经处理单元（NPU）的强大功能。.
这款人工智能盒子旨在提供类似 ChatGPT 的用户体验，同时无需网络连接或任何形式的用户注册。除了强大的对话能力外，它还拥有 多种功能，包括实时字幕、语言翻译以及用于私密讨论的强化隐私保护功能。
离线对话式人工智能
Useful Sensors推出的“AI in a Box”标志着离线对话式人工智能领域的重大突破。与传统人工智能系统不同，这项技术dent持续的网络连接即可运行。这既保障了用户隐私，又避免了繁琐的注册流程。这款“AI in a Box”由Rockchip RK3588S处理器中的NPU驱动，将人工智能驱动的交互方式推向了未来。.
功能多样，满足各种需求
这种创新的人工智能解决方案超越了简单的对话，提供了一套全面的功能，可以满足各种各样的需求：
实时字幕：这款人工智能设备可在现场活动期间提供实时字幕和隐藏式字幕。对于听觉理解能力存在障碍的人士来说，这项功能尤为宝贵。.
实时翻译：该系统能够以近乎实时的方式翻译多种语言，用户只需选择源语言和目标语言即可。系统随后会以分屏形式显示字幕，将原始输入与机器生成的翻译结果并列显示。.
强化隐私保护：注重隐私的用户会欣喜地发现，作为“AI in a Box”核心的Radxa ROCK 5A并未配备集成Wi-Fi或蓝牙连接。此外，由于所有数据处理均在本地进行，因此以太网端口也并非必需。这确保了极致的隐私保护，尤其是在涉及敏感讨论或内容的情况下。.
键盘模式可提高工作效率
除了对话功能外，“AI in a Box”还是一款功能全面的转录和内容生成工具。连接到树莓派等辅助主机设备后，它可以无缝充当USB键盘，简化音频文件转录或将视频转换为文本格式。.
Useful Sensors 开发了 Useful Transformers 库，实现了这项令人瞩目的技术壮举。这款创新库专为在低成本、低功耗处理器上高效执行推理任务而设计，从而促进了 AI 模型在计算网络边缘的运行。该库的首个应用案例是对 OpenAI 的 Whisper 语音转文本模型进行优化，并取得了显著成果。.
出色的绩效指标
Useful Transformers 库展现出的性能充分证明了其卓越的功能。它利用 tiny.en 的 Whisper 模型，实现了比实时性能高出惊人的 30 倍的语音转录速度。这一性能甚至超越了最杰出的实现方案。大多数推理过程都能迅速完成，通常在 500 毫秒到 2 秒之间，从而确保流畅且令人满意的用户体验。
从原型到全面解决方案
目前，AI in a Box 的硬件仍处于原型阶段。它采用 Radxa ROCK 5A 芯片，封装在塑料外壳中，并连接 HDMI 显示器、USB 扬声器和 USB 麦克风。然而，最终产品将是一个完全集成的解决方案，包含 Rockchip RK3588S SoC、8GB 内存、集成显示器、内置扬声器和麦克风，所有组件都封装在一个定制外壳中。该方案运行 Ubuntu 22.04 操作系统，有望提供无与伦比的 AI 体验。.
众筹平台 Crowd Supply 上的众筹活动
上正式推出 AI in a Box 项目 众筹平台 Crowd Supply，目标筹款金额为 3 万美元。支持者可获得一系列奖励，最终产品预计将于 2024 年 1 月 31 日前发货。面向早期用户和技术爱好者，我们提供 AI in a Box 原型套件，包含 ROCK 5A 芯片、外壳、显示屏和各种配件。该套件预计将于 2023 年 12 月 1 日前发货，让用户有机会在正式产品发布前，提前体验 Rockchip RK3588S 处理器上的 LLM 技术。美国境内运费为 8 美元，全球其他地区运费为 18 美元。
Useful Sensors推出的“AI in a Box”标志着人工智能技术发展史上的一个关键时刻。它将隐私保护、适应性和尖端硬件完美融合，为人工智能驱动的交互开辟了新天地。凭借其卓越的性能指标和切实可行的应用，该解决方案为未来奠定了基础，在这个未来中，人工智能不仅触手可及，而且能够充分尊重用户隐私。.
在 Crowd Supply 上的众筹活动为个人提供了站在这场人工智能革命前沿的机会，而且很dent ，“AI in a Box”有可能重新defi我们在日常生活中与人工智能系统互动的方式。.
