オフライン会話型AIにおける目覚ましい進歩として、先駆的なテクノロジー企業であるUseful Sensorsは、革新的な「AI in a Box」ソリューションを発表しました。この驚異的な技術は、Rockchip RK3588Sプロセッサのニューラル・プロセッシング・ユニット（NPU）の強力な機能を活用しています。.
ChatGPTと同様のユーザーエクスペリエンスを提供しながら、インターネット接続やユーザー登録は一切不要です。AI in a Boxは、会話機能に加え、 多様な機能ライブキャプションや翻訳から、プライバシー保護のための強化されたプライバシー機能まで、
オフライン会話型AI
Useful Sensorsによる「AI in a Box」の導入は、オフライン会話型AIにおける大きな飛躍的進歩です。従来のAIシステムとは異なり、この技術は継続的なインターネット接続とはdentして動作します。これにより、ユーザーのプライバシーが確保され、複雑な登録手続きが不要になります。Rockchip RK3588Sプロセッサに搭載されたNPUを搭載したこのAI in a Boxは、AIを活用したインタラクションの未来を最前線に導きます。.
多様なニーズに応える多彩な機能
この革新的な AI ソリューションは単なる会話の域を超え、幅広い要件に対応できる包括的な機能セットを提供します。
ライブキャプション：AI in a Boxは、ライブイベント中にリアルタイムで字幕とクローズドキャプションを提供する機能を備えています。この機能は、聴覚理解に困難を抱える方にとって非常に役立ちます。.
ライブ翻訳：複数の言語にほぼリアルタイムで翻訳できるため、ユーザーはソース言語とターゲット言語を選択するだけで済みます。システムは、元の入力内容と機械翻訳された出力を分割画面で表示します。.
強化されたプライバシー：プライバシーを重視するユーザーにとって、AI in a Boxの中核を成すRadxa ROCK 5AはWi-FiやBluetooth接続を内蔵していない点がメリットです。さらに、すべてのデータ処理はローカルで行われるため、イーサネットポートさえも不要です。これにより、特に機密性の高い議論やコンテンツを扱う際、最大限のプライバシーが保証されます。.
キーボードモードで生産性を向上
AI in a Boxは会話機能に加え、多用途の文字起こしおよびコンテンツ生成ツールとしても機能します。Raspberry Piなどの補助ホストデバイスに接続すると、USBキーボードとしてシームレスに動作し、音声ファイルの文字起こしを効率化したり、動画をテキスト形式に変換したりできます。.
Useful Sensorsは、この驚異的な技術的成果を実現するために、Useful Transformersライブラリを開発しました。この革新的なライブラリは、低コストで低消費電力のプロセッサ上で推論タスクを効率的に実行できるように特別に設計されており、コンピューティングネットワークのエッジにおけるAIモデルの運用を容易にします。このライブラリの最初のアプリケーションは、OpenAIのWhisper音声テキスト変換モデルを最適化し、驚異的な結果を達成しました。.
優れたパフォーマンス指標
Useful Transformersライブラリが示すパフォーマンスは、その卓越した能力を証明しています。tiny.en Whisperモデルを、リアルタイムパフォーマンスを30倍も上回る驚異的な音声文字変換速度を実現しています。このパフォーマンスは、最も著名な実装さえも凌駕しています。ほとんどの推論は迅速に実行され、通常500ミリ秒から2秒の範囲内で実行されるため、シームレスで満足のいくユーザーエクスペリエンスが保証されます。
プロトタイプから包括的なソリューションへ
AI in a Boxの既存ハードウェアは現在プロトタイプ段階です。プラスチック製の筐体にRadxa ROCK 5Aを搭載し、HDMIディスプレイ、USBスピーカー、USBマイクが接続されています。最終製品は、Rockchip RK3588S SoC、8GBのRAM、内蔵ディスプレイ、内蔵スピーカー、マイクを専用筐体に収めた完全統合型ソリューションです。Ubuntu 22.04上で動作し、比類のないAI体験を提供することを約束します。.
Crowd Supplyのクラウドファンディングイニシアチブ
上でAI in a Boxを正式にリリースし 、クラウドサプライプラットフォーム、3万ドルの資金調達目標を設定しました。支援者には様々な特典が提供され、最終製品は2024年1月31日までに発送予定です。早期導入者や技術愛好家向けに、ROCK 5A、筐体、ディスプレイ、各種アクセサリが揃ったAI in a Boxプロトタイプキットをご用意しています。このキットは2023年12月1日までに配送予定で、一般のお客様に先駆けてRockchip RK3588Sプロセッサ上でLLMの可能性を探求する機会を提供します。送料は米国内8ドル、海外18ドルです。
Useful Sensorsによる「AI in a Box」の導入は、AI技術の進化における重要な転換点となります。プライバシー、適応性、そして最先端のハードウェアをシームレスに融合することで、AIを活用したインタラクションの新たな可能性を切り開きます。優れたパフォーマンス指標と実用的で現実的なアプリケーションを備えたこのソリューションは、AIがアクセス可能であるだけでなく、ユーザーのプライバシーを深く尊重する未来への基盤を築きます。.
Crowd Supply のクラウドファンディング キャンペーンは、個人にこの AI 革命の最前線に立つ機会を提供しており、AI in a Box には日常生活における AI システムとの関わり方を再defiする可能性を秘めていることはdent です。.
