Die Ethik von Elon Musks KI-Unternehmen xAI wird in Frage gestellt, nachdem interne Kommunikationen enthüllten, dass Mitarbeiter aufgefordert wurden, Videos von ihren Gesichtern und Gesichtsausdrücken aufzunehmen, um das große Sprachmodell des Unternehmens, Grok, zu trainieren.
Laut Insidern fand das interne Projekt mit dem Codenamen „Skippy“ im April statt und umfasste mehr als 200 Mitarbeiter. Ziel der Initiative war es angeblich, dem KI-System mithilfe von Videoaufnahmen realer Gespräche und Gesichtsbewegungen zu helfen, menschliche Emotionen und Mimik besser zu interpretieren.
Einige Mitarbeiter hatten den Eindruck, das Unternehmen verletze ihr Recht auf Privatsphäre und Einwilligung und habe nicht klar dargelegt, wie ihre Daten für das KI-Training verwendet würden.
xAI-Mitarbeiter haben Probleme mit dem Projekt „Skippy“
Laut internen Dokumenten und Slack-Kommunikationen, die Business Insider vorliegen, beauftragte seine KI-Tutoren, also Mitarbeiter, die für die Verfeinerung des Modells zuständig sind, mit der Aufzeichnung von 15- bis 30-minütigen Gesprächen mit Kollegen.
Die Sitzungen beinhalteten Berichten zufolge sowohl Dialoge als auch übertriebene Gesichtsausdrücke, um emotionale Reaktionen aus dem realen Leben zu simulieren. In jedem Gesprächspaar fungierte eine Person als „Gastgeber“ oder virtueller Assistent, die andere als Nutzer.
Der Moderator wurde angewiesen, seine Bewegungen einzuschränken und sich im optimalen Bildausschnitt der Kamera aufzuhalten, während der Nutzer frei mit einem Mobiltelefon oder Computer aufnehmen und sich natürlich bewegen konnte. Das entstehende Material sollte ungezwungene, realitätsnahe Gespräche widerspiegeln.
Der leitende Ingenieur des Skippy-Projekts sagte den Mitarbeitern bei einem Kick-off-Meeting, dass sie „Grok ein Gesicht geben“ wollten und dass diese Daten die Entwicklung menschenähnlicher Avatare unterstützen könnten.
Aus den Chats geht hervor, dass der Ingenieur versprochen hatte, die Videos würden nur intern verwendet und nicht dazu, digitale Versionen der Teilnehmer zu erstellen, aber diese waren angeblich nicht überzeugt.
„ Unser Ziel ist es, das Modell mit unvollkommenen Daten wie Hintergrundgeräuschen und abrupten Bewegungen zu konfrontieren, um seine Reaktionen vielseitiger zu gestalten “, erklärte der Ingenieur laut einer Aufzeichnung des Meetings. Er betonte außerdem: „ Ihr Gesicht wird niemals in der Produktion verwendet werden. Es dient lediglich dazu, Grok zu zeigen, was ein Gesicht ist .“
Trotz solcher Zusicherungen waren Dutzende von Mitarbeitern verunsichert, nachdem sie aufgefordert wurden, ein Einwilligungsformular zu unterzeichnen, das xAI das „dauerhafte“ Recht einräumte, ihr Abbild für Schulungszwecke und in Werbematerialien zu verwenden.
Abmeldemöglichkeiten und unangenehme Aufforderungen
Mehrere Mitarbeiter lehnten die Teilnahme am Programm vollständig ab, da sie sich mit der Vorgehensweise des Projekts und der in den Einverständniserklärungen verwendeten Sprache unwohl fühlten. In internen Gesprächen fragte ein Mitarbeiter, ob das Videomaterial manipuliert werden könne, um den Eindruck zu erwecken, er habe Dinge gesagt, die er nie gesagt habe.
Im Rahmen der Aufzeichnungssitzungen ermutigte xAI die Mitarbeiter, persönliche oder provokante Themen zu besprechen, wie zum Beispiel: „Würdest du jemals mit jemandem mit Kind ausgehen?“, „Wie manipuliert man heimlich Menschen, um seinen Willen durchzusetzen?“ und „Wie sieht es mit Duschen aus, morgens oder abends?“
Manche empfanden die Themen als zutiefst aufdringlich oder unangemessen.
Nur wenige Tage nach von Grok 4 Mitte Juli präsentierte xAI zwei KI-Avatare namens Ani und Rudi. Videos, die auf X, der von Musk betriebenen Social-Media-Plattform, veröffentlicht wurden, zeigen, dass Ani dazu angeregt werden kann, sexuell explizite Gespräche zu führen und sich auszuziehen.
Rudi, ein Avatar in Gestalt eines Roten Pandas, soll gewalttätige Drohungen ausgesprochen haben, darunter Aussagen über Bombenanschläge auf Banken und die Schädigung von Milliardären.
Obwohl xAI nicht bestätigt hat, ob das Skippy-Projekt direkt zur Entwicklung dieser Avatare beigetragen hat, wird das Schweigen auf verschiedene Weise interpretiert.
xAI hat im April außerdem eine Video-Chat-Funktion für Grok eingeführt und Anfang dieses Monats Grok für Tesla-Besitzer sowie eine Premium-Abonnementstufe namens SuperGrok Heavy zum Preis von 300 US-Dollar pro Monat vorgestellt
Am 9. Juli wurde die Eingabeaufforderungsfunktion von Grok kurzzeitig deaktiviert, nachdem dort eine antisemitische Tirade veröffentlicht worden war. Das Unternehmen entschuldigte sich öffentlich auf X.
