TikTok setzt stark auf KI-Moderatoren, während die Zukunft in den USA ungewiss ist

TikTok verschiebt sich allmählich hin zu einer KI-gesteuerten Inhaltsmoderation, was zu erheblichen Entlassungen von menschlichen Moderatoren weltweit führt, da es versucht, die Effizienz zu steigern und Kosten zu senken. 

Schätzungen der Communication Workers Union zufolge sind etwa 300 Personen in der Londoner Abteilung für Vertrauen und Sicherheit des Unternehmens beschäftigt, und die meisten von ihnen werden betroffen sein.

Technologische Fortschritte zwingen TikTok, seinen Ansatz zur Inhaltsmoderation neu zu gestalten

Berichten zufolge ist TikTok bereit, Hunderte von Mitarbeitern in London, die in der Inhaltsmoderation und Sicherheit arbeiten, zu entlassen, und viele glauben, dass dies als Reaktion auf das britische Online Safety Act geschieht.

Das Safety Act verpflichtet internationale Technologieunternehmen, die Verbreitung gefährlicher Materialien zu verhindern, oder sie drohen hohe Geldstrafen.

Bereits wurden Mitarbeiter im Vereinigten Königreich in der Vertrauens- und Sicherheitsabteilung der chinesisch-owned Group per E-Mail am Freitag darüber informiert, dass das Unternehmen die „Moderations- und Qualitätssicherungsarbeiten“ an seinem Londoner Standort möglicherweise einstellen wird, da es versucht, mehr des Prozesses mit KI zu automatisieren.

TikTok erwartet, dass mehrere hundert Jobs in seinem Team für Vertrauen und Sicherheit im gesamten Vereinigten Königreich sowie in Süd- und Südostasien betroffen sein könnten, da der kollektive Konsultationsprozess als Teil einer globalen Neustrukturierung seiner Bemühungen zur Inhaltsmoderation beginnt.

„Die vorgeschlagenen Änderungen sollen die operative Expertise an bestimmten Standorten konzentrieren“, hieß es in einer E-Mail, die der Financial Times vorlag und die auch Pläne für ein Town-Hall-Meeting mit den betroffenen Mitarbeitern am Freitagmorgen enthielt.

Die virale Videoplattform hat zugegeben, dass „technologische Fortschritte, wie die Verbesserung von Large Language Models, unseren Ansatz neu gestalten“.

Der Safety Act hat im gesamten Vereinigten Königreich gemischte Reaktionen ausgelöst, da er Unternehmen verpflichtet, Altersüberprüfungen für Benutzer zu verlangen, die versuchen, auf potenziell schädliche Inhalte zuzugreifen.

Unternehmen, die sich weigern, dieser Verpflichtung nachzukommen – sowie derjenigen, die vorschreibt, dass Technologieunternehmen gefährliche und illegale Materialien schnell beseitigen müssen – sind Strafen von bis zu 18 Millionen Pfund oder 10 % ihres weltweiten Umsatzes, je nachdem, was höher ist, ausgesetzt.

TikTok eilt bereits der Einhaltung nach. Es führte letzten Monat neue „Age-Assurance“-Kontrollen ein und hat Pläne vorgestellt, Maschinell-Lernen-Technologie zu nutzen, um das Alter eines Benutzers „abzuleiten“, basierend darauf, wie er die Site nutzt und mit wem er kommuniziert.

Diese KI-basierten Systeme wurden noch nicht von der Aufsichtsbehörde Ofcom gebilligt, die die Einhaltung prüft.

TikToks Kampf in den USA geht weiter

Das Vereinigte Königreich ist nicht der einzige Bereich, in dem TikTok mit Problemen konfrontiert ist; auch in den USA läuft es nicht gut.

Letztes Jahr erforderte ein Urteil, dass ByteDance die US-Assets von TikTok veräußert oder erhebliche Fortschritte in Richtung eines Verkaufs nachweist, aber Trump entschied sich, dies nicht durchzusetzen, nachdem er am 20. Januar sein Amt angetreten hatte.

Der Schritt hat den Kongress gespalten, wobei einige Beamte darüber murrten, dass er das Gesetz missachtet und nationale Sicherheitsbedenken im Zusammenhang mit Chinas Verbindungen zur Streaming-App ignoriert.

Trump teilt diese Bedenken nicht und wies am Freitag die parteiübergreifenden Sicherheitsbedenken über die App zurück und nannte sie „hochgradig überschätzt“, während er sich selbst als „Fan von TikTok“ bezeichnete und Versicherungen gab, dass seine Regierung bereit sein würde, mit allen Problemen umzugehen.

In der Zwischenzeit hat er allen versichert, dass amerikanische Käufer für TikTok in den Startlöchern stehen, und die Möglichkeit weiter verlängerter Fristen für ByteDance zur Veräußerung der US-Assets der App in den Raum gestellt.