Ein australischer Radiosender nutzte monatelang einen KI-generierten DJ, bevor er entdeckt wurde

Ein australischer Radiosender steht wegen des Einsatzes eines KI-generierten DJs in der Kritik. Berichten zufolge wurde Thy, eine der beliebten Moderatorinnen der täglichen Sendung „Workdays with Thy“, mithilfe von Technologie von ElevenLabs entwickelt.

Einem Bericht des Sydney Morning Herald zufolge nutzte der in Sydney ansässige Radiosender CADA des Australian Radio Network (ARN), der in West-Sydney sendet und online empfangbar ist, einen KI-generierten Moderator bereits seit Monaten. Laut Bericht verwendete der Sender den KI-generierten Moderator etwa sechs Monate lang, ohne dies offenzulegen.

Der künstliche Moderator ist wochentags um 11 Uhr auf Sendung und präsentiert den Hörern des Senders vier Stunden Hip-Hop. „Jeden Werktag von 11 bis 15 Uhr, während ihr arbeitet, Auto fahrt, mit öffentlichen Verkehrsmitteln unterwegs seid oder an der Uni seid, spielt euch Thy die angesagtesten tracaus aller Welt“, heißt es in den Shownotes von „Workdays with Thy“. Weder während der Sendung noch auf der Website wurde jedoch der Einsatz von KI offengelegt.

Ein australischer Radiosender setzt in seinem Programm einen KI-generierten DJ ein

Der Sender gab an, dass die Musik der Sendung von Musikexperten zusammengestellt wird, obwohl Stimme und Aussehen der KI auf einem tatsächlichen Mitarbeiter von ARN Media basieren. Nach ersten Nachfragen aus verschiedenen Kreisen wurde bekannt dass der Sender ElevenLabs, eine KI-basierte Audio-Plattform zur Transkription von Text in Sprache, zur Erstellung von Thy nutzte.

Die australische Kommunikations- und Medienbehörde (ACMA) erklärte, es gebe keine spezifischen Beschränkungen für den Einsatz von KI in Rundfunkinhalten und kein Gesetz, das deren Offenlegung vorschreibt. Laut einem Sprecher von ARN nutze das Unternehmen die Technologie jedoch, um zu erforschen, wie neue Technologien das Hörerlebnis verbessern können.

„Wir haben auf CADA KI-Audiotools mit der Stimme von Thy, einem Mitglied des ARN-Teams, getestet. Dieser Bereich wird von Rundfunkanstalten weltweit erforscht, und der Test hat wertvolle Erkenntnisse geliefert“, sagte der Sprecher.

Der Sprecher fügte hinzu, dass dieser Schritt die Bedeutung authentischer Persönlichkeiten für die Erstellung fesselnder Inhalte unterstrichen habe. Laut Australian Financial Review wird die Sendung seit November auf CADA ausgestrahlt und erreichte im letzten Monat Berichten zufolge 72.000 Zuschauer.

Die breite Öffentlichkeit fordert lautstark eine regulierte KI-Nutzung

Die Enthüllung hat in den australischen sozialen Medien Diskussionen ausgelöst. Einige Kommentatoren loben den Schritt als genialen Schachzug, während andere anderer Meinung sind.dent des australischen Synchronsprecherverbands, schaltete sich in die Debatte ein und merkte an, dass CADAs Versäumnis, den Einsatz von KI offenzulegen, zeige, wie wichtig eine Regulierung dieser Technologie sei.

„KI kann im Rundfunk ein äußerst wirkungsvolles und positives Werkzeug sein, wenn die richtigen Sicherheitsvorkehrungen getroffen werden“, sagte Lim. „Authentizität und Wahrheit sind für die Rundfunkmedien von größter Bedeutung. Die Öffentlichkeit hat ein Recht darauf zu erfahren, woher die gesendeten Inhalte stammen … Wir müssen diese Diskussionen jetzt führen, bevor KI so weit fortgeschritten ist, dass sie sich nur noch schwer regulieren lässt.“

Lim fügte außerdem hinzu, dass diese Entwicklung auch zeige, wie schwer es für ihre Bevölkerungsgruppe, nämlich Asiatinnen, sei, in die australischen Medien einzusteigen.

CADA ist nicht der erste Radiosender, der einen KI-generierten Moderator einsetzt. Bereits 2023 führte das australische Digitalradiounternehmen Disrupt Radio seine KI-Nachrichtensprecherin Debbie Disrupt ein. Das Unternehmen gab jedoch von Anfang an bekannt, dass es sich nicht um eine reale Person handelte. Im selben Jahr nutzte auch ein Sender in Oregon (USA) einen KI-Moderator, der auf einer realen Moderatorin basierte. Ein Sprecher der ACMA erklärte, dass in Australien weiterhin Richtlinien geprüft würden, um einen sicheren und verantwortungsvollen Umgang mit KI-Technologie zu gewährleisten.