Die kommende Zoom-Funktion mit KI-Avataren für die Kommunikation in Meetings birgt möglicherweise auch das Risiko von Deepfakes

Zoom hat eine neue Funktion angekündigt: KI-Avatare. Nutzer können KI-Klone von sich selbst verwenden, um speziell für Zoom-Meetings aufgezeichnete Videos aufzunehmen. Die Funktion wird nächstes Jahr veröffentlicht. 

Die Ankündigung der KI-Avatar-Funktion erfolgte heute, am 9. Oktober, auf der jährlichen Entwicklerkonferenz von Zoom.

Die Nutzer müssen zunächst ein Video von sich selbst aufnehmen, um sich als Klon zu erstellen. Sobald der KI-Klon erstellt ist, können die Nutzer den gewünschten Text eingeben, zu dem die KI-Version dann den Ton in der Stimme des Nutzers generiert. Der Text wird im Video lippensynchron wiedergegeben, während der digitale Klon spricht.

Diese Funktion ist ausschließlich für Zoom Clips verfügbar, in denen Nutzer kurze Nachrichten aufnehmen und versenden. In diesem Fall wird die KI der Nutzer in die kurzen Videonachrichten integriert.

Zoom berücksichtigt die Möglichkeit von Deepfakes.

Angesichts der zunehmenden Verbreitung von Deepfake- Inhalten in sozialen Medien und der Tatsache, dass viele Apps Maßnahmen zu deren Erkennung ergreifen , hat auch Zoom diese Möglichkeit anerkannt.

„Wir werden die Sicherheitsvorkehrungen auch in Zukunft bei Bedarf überprüfen und ergänzen“, sagte Hashim. „Wir setzen unter anderem Technologie ein, um deutlich zu machen, wenn ein Clip mit einem Avatar erstellt wurde, und um die Integrität der Avatar-generierten Inhalte zu gewährleisten.“ Smita Hashim

Die Produktchefin von Zoom, Smita Hashim, erklärte in der Pressekonferenz, dass das Unternehmen das Risiko mit fortschrittlichen Authentifizierungsmethoden, strengen Nutzungsrichtlinien und Wasserzeichentechnologie sehr sorgfältig handhaben werde. Es wird jedoch erwartet, dass das Unternehmen kurz vor der Veröffentlichung genauere Angaben zu Authentifizierung und Richtlinien machen wird.

Andererseits lässt sich das Wasserzeichen, das in der Ecke erscheint, wie im Mockup der benutzerdefinierten Avatar-Funktion von Zoom zu sehen, problemlos entfernen.

Dies könnte der erste Schritt hin zur Vision eines „KI-Zwillings“ des Zoom-CEOs sein.

Diese Ankündigung deckt sich mit der Vision des Zoom-CEOs, der sein Ziel eines KI-Zwillings bereits gegenüber dem Magazin „The Verge“. Sein Bestreben ist es, dem KI-Zwilling die Teilnahme an Meetings für Zoom-Nutzer zu ermöglichen.

Zoom setzt zudem aktiv auf KI-Unterstützung , um die Produktivität seiner Nutzer zu steigern.

Die Funktion für benutzerdefinierte KI-Avatare wird bis 2025 als Zoom-Add-on „KI-Begleiter“ eingeführt. Die Funktion kostet 12 US-Dollar pro Monat. Nutzer mit einem kostenpflichtigen Zoom-Abonnement, die diese Funktion nicht abonnieren, können stattdessen auf voreingestellte Avatare und Stimmen zurückgreifen.