在离线对话式人工智能领域取得显著进展之际,先锋科技公司Useful Sensors推出了其创新的“AI in a Box”解决方案。这项技术奇迹充分利用了Rockchip RK3588S处理器的神经处理单元(NPU)的强大功能。.
这款人工智能盒子旨在提供类似 ChatGPT 的用户体验,同时无需网络连接或任何形式的用户注册。除了强大的对话能力外,它还拥有 多种功能,包括实时字幕、语言翻译以及用于私密讨论的强化隐私保护功能。
离线对话式人工智能
Useful Sensors推出的“AI in a Box”标志着离线对话式人工智能领域的重大突破。与传统人工智能系统不同,这项技术dent持续的网络连接即可运行。这既保障了用户隐私,又避免了繁琐的注册流程。这款“AI in a Box”由Rockchip RK3588S处理器中的NPU驱动,将人工智能驱动的交互方式推向了未来。.
功能多样,满足各种需求
这种创新的人工智能解决方案超越了简单的对话,提供了一套全面的功能,可以满足各种各样的需求:
实时字幕:这款人工智能设备可在现场活动期间提供实时字幕和隐藏式字幕。对于听觉理解能力存在障碍的人士来说,这项功能尤为宝贵。.
实时翻译:该系统能够以近乎实时的方式翻译多种语言,用户只需选择源语言和目标语言即可。系统随后会以分屏形式显示字幕,将原始输入与机器生成的翻译结果并列显示。.
强化隐私保护:注重隐私的用户会欣喜地发现,作为“AI in a Box”核心的Radxa ROCK 5A并未配备集成Wi-Fi或蓝牙连接。此外,由于所有数据处理均在本地进行,因此以太网端口也并非必需。这确保了极致的隐私保护,尤其是在涉及敏感讨论或内容的情况下。.
键盘模式可提高工作效率
除了对话功能外,“AI in a Box”还是一款功能全面的转录和内容生成工具。连接到树莓派等辅助主机设备后,它可以无缝充当USB键盘,简化音频文件转录或将视频转换为文本格式。.
Useful Sensors 开发了 Useful Transformers 库,实现了这项令人瞩目的技术壮举。这款创新库专为在低成本、低功耗处理器上高效执行推理任务而设计,从而促进了 AI 模型在计算网络边缘的运行。该库的首个应用案例是对 OpenAI 的 Whisper 语音转文本模型进行优化,并取得了显著成果。.
出色的绩效指标
Useful Transformers 库展现出的性能充分证明了其卓越的功能。它利用 tiny.en 的 Whisper 模型,实现了比实时性能高出惊人的 30 倍的语音转录速度。这一性能甚至超越了最杰出的实现方案。大多数推理过程都能迅速完成,通常在 500 毫秒到 2 秒之间,从而确保流畅且令人满意的用户体验。
从原型到全面解决方案
目前,AI in a Box 的硬件仍处于原型阶段。它采用 Radxa ROCK 5A 芯片,封装在塑料外壳中,并连接 HDMI 显示器、USB 扬声器和 USB 麦克风。然而,最终产品将是一个完全集成的解决方案,包含 Rockchip RK3588S SoC、8GB 内存、集成显示器、内置扬声器和麦克风,所有组件都封装在一个定制外壳中。该方案运行 Ubuntu 22.04 操作系统,有望提供无与伦比的 AI 体验。.
众筹平台 Crowd Supply 上的众筹活动
上正式推出 AI in a Box 项目 众筹平台 Crowd Supply,目标筹款金额为 3 万美元。支持者可获得一系列奖励,最终产品预计将于 2024 年 1 月 31 日前发货。面向早期用户和技术爱好者,我们提供 AI in a Box 原型套件,包含 ROCK 5A 芯片、外壳、显示屏和各种配件。该套件预计将于 2023 年 12 月 1 日前发货,让用户有机会在正式产品发布前,提前体验 Rockchip RK3588S 处理器上的 LLM 技术。美国境内运费为 8 美元,全球其他地区运费为 18 美元。
Useful Sensors推出的“AI in a Box”标志着人工智能技术发展史上的一个关键时刻。它将隐私保护、适应性和尖端硬件完美融合,为人工智能驱动的交互开辟了新天地。凭借其卓越的性能指标和切实可行的应用,该解决方案为未来奠定了基础,在这个未来中,人工智能不仅触手可及,而且能够充分尊重用户隐私。.
在 Crowd Supply 上的众筹活动为个人提供了站在这场人工智能革命前沿的机会,而且很dent ,“AI in a Box”有可能重新defi我们在日常生活中与人工智能系统互动的方式。.

