TikTok wird vorgeworfen, gefälschte, KI-generierte Anzeigen auf seiner Plattform zu unterstützen.

TikTok wird vorgeworfen, gefälschte, KI-generierte Werbung auf seiner Plattform zu fördern. Die Plattform, die stark von Werbeeinnahmen abhängig ist, soll die Zunahme falscher, schädlicher und meist KI-generierter Werbung begünstigen, die immer häufiger durch schwache Filter hindurchschlüpft.

Werbung ist im Zeitalter der Digitalisierung zum Lebenselixier der meisten Social-Media-Unternehmen geworden. Die meisten dieser Anzeigen zielen auf Plattformen ab, die von Milliarden von Nutzern verwendet werden, und generieren Einnahmen für Unternehmen wie Meta, X, TikTok und YouTube.

Laut den beim irischen Handelsregisteramt (CRO) eingereichten Unterlagen behauptete TikTok, dass seine Geschäftsmodelle auf der Kombination von Werbung, Mehrwertdiensten auf der Plattform und dem Verkauf von Waren beruhten.

TikTok wird vorgeworfen, gefälschte, KI-generierte Anzeigen zu unterstützen.

der Mutterkonzern von TikTok ByteDance, setzte dieses Jahr verstärkt auf Investitionen in künstliche Intelligenz. Anfang des Jahres berichtete die Financial Times, dass das Unternehmen plane, bis 2025 rund 12 Milliarden US-Dollar in KI-Chips zu investieren.

Im gleichen Zeitraum hat die Beliebtheit KI-generierter Inhalte auf der Plattform zugenommen, die von Nutzern in Werbeanzeigen eingesetzt werden. In den letzten Wochen ist es jedoch zu einem Anstieg von Werbung für gefälschte oder irreführende Produkte auf TikTok gekommen.

Beispielsweise hat die Zahl gefälschter Anzeigen auf der Plattform zugenommen, die für Nahrungsergänzungsmittel zur Gewichtsreduktion und Appetitzügler werben. Dazu gehören Anzeigen für GLP-1-Pflaster, die als Hilfsmittel zur Gewichtsreduktion vermarktet werden, aber kein echtes GLP-1 enthalten, das beispielsweise in Medikamenten wie Ozempic und Mounjaro vorkommt.

Andere sind Werbeanzeigen, die behaupten, Heilmittel gegen Cortisol-bedingten Bauchfett und hohen Stresspegel, der zu Gewichtszunahme führt, anzubieten.

Zudem führen viele dieser Werbeanzeigen Nutzer auf gefälschte Webseiten, die sich in einigen Fällen als seriöse Online-Unternehmen ausgeben. Sie enthalten unrechtmäßig kopierte Inhalte, die zu betrügerischen und schädlichen Zwecken verwendet werden.

Im Fall dieser TikTok-Werbeanzeigen wurden mehrere seriöse Apotheken kopiert, um den Eindruck zu erwecken, dass diese gefälschten Produkte von bekannten und vertrauenswürdigen Einzelhändlern beworben werden.

Forderungen nach Schutzmaßnahmen für den Einsatz von KI auf Social-Media-Plattformen

TikTok verbietet in seinen Werberichtlinien irreführendes, unauthentisches und täuschendes Verhalten, um die Integrität, Authentizität und Sicherheit seiner Nutzer und der Öffentlichkeit zu schützen. Die Plattform warnt zudem, dass Konten, die gegen diese Richtlinien verstoßen, dauerhaft gesperrt oder ausgeschlossen werden.

Im Gesundheitsbereich hat die Plattform auch Maßnahmen ergriffen, um Fehlinformationen zu bekämpfen, die zur Gesundheitskrise beitragen könnten.

„Um sicherzustellen, dass unsere Community Zugang zu korrekten medizinischen Informationen hat, die fundierte Gesundheitsentscheidungen unterstützen, entfernen wir Fehlinformationen über schwerwiegende Erkrankungen oder Fragen der öffentlichen Gesundheit sowie Fehlinformationen, die Einzelpersonen ernsthaft schaden oder Menschen davon abhalten könnten, eine angemessene medizinische Versorgung in Anspruch zu nehmen“, erklärt das Unternehmen.

Trotz der bestehenden Richtlinien sind diese KI-generierten Werbeanzeigen, die gefälschte Produkte bewerben, auf TikTok immer noch weit verbreitet.

Die jüngsten Investitionen des Unternehmens in KI ermöglichen es, diese Anzeigen nun mit einem eigens dafür entwickelten Tool zu erstellen. Das Unternehmen bietet Nutzern die Plattform „TikTok for Business“ zur Erstellung von Marketingkampagnen und stellt darüber hinaus Funktionen wie Werbetools, Business-Accounts, Kooperationsmöglichkeiten und Marketingstrategien.

Um den Nutzern bei der Erledigung ihrer Aufgaben zu helfen, bietet die Plattform einen Chatbot-Assistenten an, der ihnen dabei hilft, Anzeigen zu erstellen und zu teilen, die auf den Produkten oder Dienstleistungen basieren, die sie verkaufen möchten.

Michael McGrath, EU-Kommissar für Demokratie, Justiz, Rechtsstaatlichkeit und Verbraucherschutz, merkte zu dieser Entwicklung an, dass es in der EU Regeln für den Einsatz von KI in sozialen Medien gebe.

„Wir brauchen Schutzmaßnahmen“, sagte Herr McGrath. „Wir haben kürzlich neue Änderungen des Gesetzes vorgeschlagen und wollen ein ausgewogenes Verhältnis herstellen. Wir haben einen guten Rechtsrahmen, aber wir müssen sicherstellen, dass die Regeln auch durchgesetzt werden.“