Scheitern beim Kinderschutz und KI-Täuschung untergraben das Vertrauen in TikTok

TikTok wird von der britischen Internet-Aufsichtsbehörde formell untersucht, wie Kinder die Altersfilter auf der Plattform austricksen.

Ofcom sagt, dass TikToks Ansatz zur Altersverifikation nicht ausreicht, da er „Age Inference“ verwendet, um das Alter durch das Verhalten in der App zu schätzen. Die Aufsichtsbehörde sagt, es fehle das, was das Gesetz verlangt.

Kate Davies, Gruppenleiterin für Strategie und Forschung bei Ofcom, sagte im BBC Radio 4 Today-Programm.

„Wir haben ernsthafte Zweifel an ihnen, und daher haben wir eine Untersuchung gegen TikTok eingeleitet.“ Age Inference, fügte sie hinzu, „ist in unseren Leitlinien nicht als effektive Methode zur Altersprüfung anerkannt.“

TikTok riskiert Bußgelder von bis zu 10 % des weltweiten Umsatzes

TikTok könnte mit Bußgeldern von bis zu 10 % seines weltweiten Umsatzes belegt werden, wenn festgestellt wird, dass es gegen die Vorschriften verstoßen hat. Ein Sprecher sagte, das Unternehmen sei „zuversichtlich“, dass es seine Pflichten gemäß dem Online Safety Act erfüllt, und habe in den acht Jahren seit dem Start im Vereinigten Königreich Milliarden für Sicherheit ausgegeben.

Wie kürzlich von Cryptopolitan berichtet, musste TikTok auch mehr als 4 Millionen Konten für unter 16-Jährige in Indonesien löschen.

Marken reagieren auf KI-Videos im TikTok Shop

Der TikTok Shop steht im Mittelpunkt einer Auseinandersetzung über KI-generierte Produktvideos. Die eigenen Tools der Plattform ermöglichen es Verkäufern, computergenerierte Clips mit virtuellen Modellen zu produzieren, die Produkte demonstrieren, und Provisionen daraus zu erzielen. Echte Ersteller sagen, dass dies ihr Einkommen schmälert.

„Ich erstelle Anzeigen für Produkte, die ich persönlich habe, echte Bewertungen, die das tatsächliche Produkt zeigen“, sagte Rosemarie Soma, eine Affiliate-Erstellerin. „Es ist sehr frustrierend für Affiliates, weil diese [KI]-Videos Werbekapital erhalten und Verkäufe generieren.“

SharkNinja sandte ein Memo an seine Affiliate-Verkäufer, das von der Wall Street Journal erhalten wurde, in dem es hieß, dass der TikTok AI Video Maker gemäß seiner Content-Richtlinie verboten ist und dass jeder, der ihn verwendet, seine Provisionen verliert.

Chief Commercial Officer Neil Shah sagte: „Wir wollten nicht, dass ein KI-generierter Shark-Staubsauger einen KI-generierten Boden reinigt. Wir wollen echte Verbraucher, die echte Produkte sehen, die von echten Menschen verwendet werden.“

TikTok-Shop-Umsätze in den USA werden dieses Jahr voraussichtlich 23,41 Milliarden US-Dollar erreichen, ein Anstieg von 48 %, vor Target und Costco, so eMarketer. Das Affiliate-Programm ist von 2,3 Millionen Erstellern im Jahr 2024 auf 11,3 Millionen dieses Jahr gewachsen, darunter 945.000 in den USA, so Charm.io.

Die Erstellerin Daria Simhony, die mindestens ein KI-generiertes Video pro Tag postet, sagte: „Ich kann erstellen, wer auch immer Sie von mir brauchen.“ Lauren Lyster von Go Fish Digital sagte, Marken, die die offene Affiliate-Option nutzen, übernehmen mehr Risiko. „Wenn Sie die Schleusen öffnen, müssen Sie vielleicht risikobereiter sein, aber Sie werden viel mehr Skalierung erreichen“, sagte sie.

Ein Ersteller postete KI-Videos, die Rare Beauty, die von Selena Gomez gegründete Kosmetikmarke, bewarben, ohne Verbindung zum Unternehmen. Rare Beauty sagte, es arbeite nicht mit KI-generierten Inhalten zusammen, obwohl seine Produkte im offenen Affiliate-Plan von TikTok erscheinen.

Sharks Shah räumte ein, dass sein Unternehmen wenig Macht hat, dies zu stoppen. „Unsere einzige Bitte ist, verwenden Sie das echte Produkt“, sagte er.