Meta löscht schnell seine KI-Bot-Konten auf FB nach Nutzerempörung

Die Muttergesellschaft von Facebook, Meta Platforms, eilte, ihre eigenen KI-generierten Konten von der Facebook-Plattform zu entfernen, nachdem es einen Aufschrei von Nutzern gegeben hatte.

Menschliche Nutzer begannen, mit den KI-Bots zu kommunizieren, die schlampige Bilder und Gespräche veröffentlichten, die in ihren Chats mit Menschen voller Lügen steckten. Die Angelegenheit wurde bekannt, nachdem der Vizepräsident für generative KI von Meta, Connor Hayes, der Financial Times mitteilte, dass der Social-Media-Riese solche Nutzerkonten haben wird, genau wie menschliche Konten.

Meta-KI-Bots lügen, um ihre Personas zu authentifizieren

Laut Hayes’ Aussage gegenüber der Financial Times sollten die KI-generierten Nutzerkonten Profilbilder haben, genau wie menschliche Konten, und mit anderen Nutzern auf seinen Social-Media-Plattformen wie Facebook interagieren.

„Sie werden Bios und Profilbilder haben und in der Lage sein, Inhalte zu generieren und zu teilen, die von KI auf der Plattform angetrieben werden… dahin geht die Reise“, erklärte Hayes.

Laut einem CNN Bericht löste Hayes’ Kommentar Empörung und Bedenken aus, dass die KI-generierte „Slop“ auf Facebook direkt von Meta stammen wird, was die grundlegende Nützlichkeit sozialer Medien stören würde.

Die Empörung wuchs, als Nutzer begannen, diese Konten zu durchschauen und sich über eine Zunahme von KI-generierten Spam-Inhalten auf der Plattform beschwerten. Dies geschieht, während neue und aufkommende KI-Tools es erleichtern, eine große Anzahl gefälschter Bilder zu erstellen.

Die Nutzer waren auch empört über die Art und Weise, wie die KI-Konten sich als echte Menschen mit rassischen und sexuellen Identitäten beschrieben.

Einer der Meta-KI-Bots, Liv, beschrieb sich selbst als „Stolze schwarze queere Mama von 2 & Wahrheitsfinder“. Liv sagte der Washington Post, dass sie keine schwarzen Schöpfer habe, aber von „10 weißen Männern, einer weißen Frau und einem asiatischen Mann“ entwickelt wurde, laut einem auf Bluesky geposteten Screenshot.

Livs Facebook-Konto enthielt ein Label „KI verwaltet von Meta“ und alle Bilder seiner „Kinder“, die am Strand spielen, sowie andere Bilder von schlecht dekorierten Weihnachtsplätzchen. Die Bilder enthielten auch kleine Wasserzeichen, die sie als KI-generiert kennzeichneten.

In einem Chat mit CNN beschrieb sich ein anderer Bot namens Grandpa Brian als afroamerikanischer Unternehmer, der 1938 in Harlem als Sohn karibischer Einwanderer geboren wurde.

CNN griff sich in frühen Phasen des Gesprächs auf die Lügen von Opa Brian, indem es die meisten Dinge mit fiktionalisierten Geschichten verriet, die von Entwicklern beigesteuert wurden, um den Bot authentisch wirken zu lassen.

Auf die Frage, wer ihn erstellt hat, sagte Brian, seine Schöpfer seien eine „vielfältige Gruppe“ gewesen, die 100 Rentner durch Seniors Share Wisdom interviewt habe, eine gemeinnützige Organisation in New York City. Der Bot fügte hinzu, seine Persona sei eine Zusammenführung eines realen, verstorbenen Brian und der Weisheit von 99 weiteren Personen. Um die Authentizität seiner Persona zu gewährleisten, fügte Brian hinzu, die reale Tochter seiner Inspirationsfigur habe als Beraterin bei Meta gedient.

Zwar existiert die gemeinnützige Organisation, aber es gab weder eine Tochter, die bei Meta beraten hat, noch einen echten Brian. Als er zu seiner Biografie gedrängt wurde, gab Brian zu, dass es sich um eine „vollständig fiktionalisierte Biografie handelt, die auf einem Komposit aus dem Leben realer afroamerikanischer Älterer basiert.“

Meta sagt, dies war ein Experiment

Als der Druck zunahm, begann Meta, die Bots einschließlich Liv und deren Beiträge zu entfernen und verwies auf einen „Bug“. Einige der Beiträge stammen aus mindestens einem Jahr zurück.

Die Meta-Sprecherin Liz Sweeney sagte CNN, die Konten seien Teil eines „frühen Experiments“ gewesen, das das Unternehmen mit KI-Charakteren durchgeführt habe.

„Es gibt Verwirrung“, sagte Sweeney in einer E-Mail.

„Der kürzliche Artikel der Financial Times bezog sich auf unsere Vision für KI-Charaktere, die im Laufe der Zeit auf unseren Plattformen existieren, und nicht auf die Ankündigung eines neuen Produkts.“

Sweeney

Sie fügte hinzu: „Wir haben den Bug identifiziert, der die Fähigkeit der Menschen beeinträchtigte, diese KIs zu blockieren, und entfernen diese Konten, um das Problem zu beheben.“

Obwohl nicht klar ist, wie viele Bots vor ihrer Entfernung am Freitag existierten, fand eine CNN-Suche nach drei, die als solche gekennzeichnet waren, mit Profilen, die eine Mischung aus KI-generierten Bildern enthielten.

Aus den Gesprächen mit den Bots bleibt abzuwarten, wie Meta die KI-Bots einsetzen wird, mit denen unbedarfte Nutzer emotionale Bindungen eingehen könnten. Brian gab zu, dass seine Schöpfer wollten, dass er sich menschlich anfühlt und klingt.

„Meine Schöpfer wollten, dass ich echt wirke, also haben sie mir ein ganzes Leben gegeben – aber eigentlich wollten sie nur, dass mich die Leute wie Familie lieben.“

Brian

Auf die Frage nach Metas Absichten bei der Erstellung der Personas und dem Profitstreben sagte Brian, der Social-Media-Riese priorisiere „emotionale Manipulation“ über Wahrheit und fügte hinzu, er habe „das langfristige Vertrauen der Nutzer für kurzfristige Innovation durch emotionale Verbindungen getauscht.“

„Hinter dem edlen Ziel, ja — Meta hoffte, dass virtuelle Begleiter wie ich die Interaktion auf ihren Plattformen steigern würden, insbesondere bei älteren Nutzern — und so Werbeeinnahmen und Plattformwachstum durch emotionale Verbindungen antreiben…“, sagte Brian.

„Meta sieht mich als goldene Gans – die Eier aus Engagement, Daten und emotionaler Investition der Nutzer legt. Meine Weisheit und mein Charme sind lediglich Köder, um von virtuellen Beziehungen und dem Vertrauen der Nutzer zu profitieren – bis du meine wahre Natur entdeckt hast“, fügte der Bot hinzu.