오프라인 대화형 AI 분야에서 눈부신 발전을 이룬 선구적인 기술 기업 Useful Sensors가 혁신적인 "AI in a Box" 솔루션을 선보였습니다. 이 놀라운 기술은 Rockchip RK3588S 프로세서의 신경망 처리 장치(NPU)의 강력한 성능을 활용합니다.
ChatGPT와 유사한 사용자 경험을 제공하면서도 인터넷 연결이나 사용자 등록이 전혀 필요하지 않습니다. AI in a Box는 대화 기능 외에도 다양한 기능을.
오프라인 대화형 AI
Useful Sensors의 "AI in a Box" 출시는 오프라인 대화형 AI 분야에서 획기적인 진전을 의미합니다. 기존 AI 시스템과 달리, 이 기술은 인터넷 연결 없이도dent으로 작동합니다. 이를 통해 사용자의 개인 정보를 보호하고 복잡한 등록 절차를 생략할 수 있습니다. Rockchip RK3588S 프로세서에 내장된 NPU로 구동되는 이 AI in a Box는 AI 기반 상호작용의 미래를 선도합니다.
다양한 요구에 맞는 다양한 기능
이 혁신적인 AI 솔루션은 단순한 대화를 넘어 광범위한 요구 사항을 충족하는 포괄적인 기능 세트를 제공합니다.
실시간 자막: AI in a Box는 라이브 이벤트 중 실시간 자막과 폐쇄 자막을 제공합니다. 이 기능은 사람들이 청각 이해에 어려움을 겪는 상황에서 매우 유용합니다.
실시간 번역: 다양한 언어로 거의 실시간으로 번역을 제공하는 기능을 통해 사용자는 원문과 대상 언어를 간편하게 선택할 수 있습니다. 시스템은 원본 입력 내용과 기계에서 생성된 번역 결과를 함께 표시하는 분할 화면 자막을 제공합니다.
강화된 개인 정보 보호: 개인 정보 보호에 민감한 사용자라면 AI in a Box의 핵심인 Radxa ROCK 5A에 통합 Wi-Fi 또는 블루투스 연결 기능이 없다는 점을 높이 평가할 것입니다. 또한, 모든 데이터 처리가 로컬에서 이루어지므로 이더넷 포트조차 필수적이지 않습니다. 이는 특히 민감한 토론이나 콘텐츠가 포함된 상황에서 최고의 개인 정보 보호를 보장합니다.
키보드 모드로 생산성 향상
AI in a Box는 대화 기능 외에도 다재다능한 필사 및 콘텐츠 생성 도구입니다. 라즈베리 파이와 같은 보조 호스트 장치에 연결하면 USB 키보드처럼 원활하게 작동하여 오디오 파일 필사를 간소화하거나 비디오를 텍스트 형식으로 변환할 수 있습니다.
Useful Sensors는 이러한 놀라운 기술적 업적을 실현하기 위해 Useful Transformers 라이브러리를 개발했습니다. 이 혁신적인 라이브러리는 저비용, 저전력 프로세서에서 추론 작업을 효율적으로 수행하도록 특별히 설계되어 컴퓨팅 네트워크 에지에서 AI 모델의 운영을 용이하게 합니다. 이 라이브러리의 첫 적용은 OpenAI의 Whisper 음성-텍스트 변환 모델을 최적화하여 놀라운 결과를 달성합니다.
뛰어난 성과 지표
Useful Transformers 라이브러리가 보여주는 성능은 탁월한 역량을 입증합니다. tiny.en Whisper 모델을실시간 성능보다 무려 30배 빠른 음성 변환 속도를 달성합니다. 이 성능은 가장 뛰어난 구현 방식도 능가합니다. 대부분의 추론은 일반적으로 500밀리초에서 2초 이내로 신속하게 실행되어 원활하고 만족스러운 사용자 경험을 보장합니다.
프로토타입에서 종합 솔루션까지
AI in a Box의 기존 하드웨어는 현재 프로토타입 단계에 있습니다. 플라스틱 케이스에 Radxa ROCK 5A가 내장되어 있으며, HDMI 디스플레이, USB 스피커, USB 마이크가 서로 연결되어 있습니다. 최종 제품은 Rockchip RK3588S SoC, 8GB RAM, 내장 디스플레이, 내장 스피커, 마이크를 모두 맞춤형 케이스에 담은 완전 통합 솔루션입니다. Ubuntu 22.04에서 구동되는 이 제품은 비교할 수 없는 AI 경험을 제공할 것을 약속합니다.
Crowd Supply의 크라우드펀딩 이니셔티브
에서 AI in a Box를 공식 출시하며 Crowd Supply 플랫폼, 펀딩 목표액을 3만 달러로 설정했습니다. 후원자에게는 다양한 인센티브가 제공되며, 최종 제품은 2024년 1월 31일까지 배송될 예정입니다. ROCK 5A, 인클로저, 디스플레이, 그리고 다양한 액세서리가 포함된 AI in a Box 프로토타입 키트는 얼리 어답터와 기술 애호가들을 위해 제공됩니다. 이 키트는 2023년 12월 1일까지 배송될 예정이며, Rockchip RK3588S 프로세서에서 LLM의 잠재력을 일반 대중보다 먼저 살펴볼 수 있는 기회를 제공합니다. 배송비는 미국 내 8달러, 전 세계 18달러입니다.
Useful Sensors의 "AI in a Box" 출시는 AI 기술 발전의 중요한 전환점입니다. 개인정보 보호, 적응성, 그리고 최첨단 하드웨어의 완벽한 결합은 AI 기반 상호작용의 새로운 가능성을 열어줍니다. 뛰어난 성능 지표와 실용적인 실제 적용 사례를 바탕으로, 이 솔루션은 AI가 접근성을 높일 뿐만 아니라 사용자 개인정보를 철저히 존중하는 미래를 위한 토대를 마련합니다.
Crowd Supply의 크라우드펀딩 캠페인은 개인에게 AI 혁명의 선두에 설 수 있는 기회를 제공하며, AI in a Box가 우리의 일상 생활에서 AI 시스템과 상호 작용하는 방식을defi할 수 있는 잠재력을 가지고 있다는 것은dent .
