Thy moderierte ein halbes Jahr lang jeden Tag im Radio – erst jetzt kam heraus, dass es sie gar nicht gibt

Die CADA-Moderatorin, die ihr hier im Bild seht, ist das Ergebnis eines KI-Experiments des australischen Radiosenders. (Bildquelle: CADA)

Der australische Radiosender CADA, der zum Medienkonzern Australian Radio Network (ARN) gehört, setzte seit November 2024 eine KI-generierte Moderatorin für die werktägliche Sendung »Workdays with Thy« ein.

Die vierstündige Show, die jeden Wochentag von 11 bis 15 Uhr gesendet wurde, erreichte laut der Australian Financial Review schätzungsweise 72.000 Hörer.

Der Haken daran: Der Sender informierte zu keinem Zeitpunkt darüber, dass »Thy« keine reale Person ist, sondern eine durch künstliche Intelligenz erzeugte Stimme.

• Dennoch präsentierte CADA auf seiner Website Thy als echte Radiomoderatorin, komplett mit Profilbild und Beschreibung: »Wenn dein Tag etwas langweilig aussieht, lass Thy und CADA die Energie und Stimmung sein, um deine Laune zu heben«, heißt es auf der Sendungsseite.
• Zum Zeitpunkt der Artikelveröffentlichung ist dieser Text dort unverändert zu finden; auch ein Hinweis, dass es sich hierbei um eine KI-Moderatorin handelt, ist weiterhin nicht vorhanden.

Wie Thy enttarnt wurde

Aufgedeckt wurde der Fall durch die Journalistin Stephanie Coombes, die für den Newsletter »The Carpet« arbeitet. Ihr waren mehrere Ungereimtheiten aufgefallen: Die Moderatorin war in sozialen Medien nicht präsent, es gab keinen vollständigen Namen und auch keinen detaillierten Lebenslauf.

• Bei näherer Untersuchung der Sendung stellte Coombes fest, dass Thy während einer vierstündigen Sendung nur zweimal zu hören war – und dabei fast identisch klang.
• Nach weiteren Recherchen und Gesprächen mit CADA-Mitarbeitern fand Coombes heraus, dass kein einziger Angestellter Thy jemals im Redaktionsbüro gesehen hat. Auch im Intranet des Senders gab es keinen zugehörigen Namen.
• Die eingangs erwähnte Australian Financial Review konfrontierte ARN mit diesem Sachverhalt – das Unternehmen gab schließlich zu, dass »Thy« tatsächlich eine KI-generierte Stimme ist.

1:02:33 90 Punkte bei Metacritic: Das Rollenspiel der Stunde heißt Clair Obscur

Die Illusion der Authentizität: Wie wurde Thy umgesetzt?

Die technische Umsetzung der KI-Moderatorin basierte auf der Sprachsynthese-Technologie des Unternehmens ElevenLabs, wie The Independent unter Berufung auf einen mittlerweile gelöschten LinkedIn-Beitrag des ARN-Projektleiters Fayed Tohme erklärt.

Für die Erzeugung der Stimme und des Profilbilds diente demzufolge eine reale ARN-Mitarbeiterin aus der Finanzabteilung als Vorlage. Pikanterweise hatte Elevenlabs eine Kooperation mit ARN in einer Pressemitteilung bekannt gegeben.

• ElevenLabs ist ein spezialisiertes Unternehmen für KI-Sprachgenerierung, das im Oktober 2023 seine Enterprise-Plattform vorstellte – zu deren Partnern auch ARN gehört.
• Diese bietet »hochwertige Audioausgaben in Studioqualität« (192 kbps) und ermöglicht das Klonen und Generieren täuschend echter menschlicher Stimmen.
• Die Technologie wird ElevenLabs zufolge bereits von etwa einem Drittel der S&P 500-Unternehmen in verschiedenen Anwendungsbereichen eingesetzt.

Kritikwelle bricht über Radiosender herein - ARN rechtfertigt das »Experiment«

Die Enthüllung löste heftige Kritik aus. Teresa Lim, Vizepräsidentin der australischen Synchronsprecher-Gewerkschaft (AAVA), beanstandete in einem LinkedIn-Post den Mangel an Transparenz:

ARN rechtfertigte hingegen den Einsatz in einer Stellungnahme (via The Independent) als Experiment:

Laut ARN-CEO Ciaran Davis soll »Workdays with Thy« vorerst weiterlaufen, während das Unternehmen versuche zu verstehen, »was real ist und was nicht«.

Diese Aussage fiel gegenüber der Australian Financial Review. Was man laut Davis definitiv gelernt habe, ist die »Kraft unserer Moderatoren, die wir bereits haben«.

Mehr zum Thema

Ein Schritt, der Filme für immer verändern könnte: Die Oscars erlauben die Verwendung von KI

von Maxe Schwind

Was sagen die australischen Gesetze dazu?

In Australien gibt es laut The Independent derzeit keine spezifischen gesetzlichen Regelungen, die Rundfunksender verpflichten, den Einsatz von KI offenzulegen.

• Die australische Telekommunikationsbehörde ACMA hat erst im Oktober 2024 einen Vorschlag für stärkere KI-Regulierungen veröffentlicht, der auf Risiken wie Täuschungspraktiken und Falschinformationen hinweist.
• Die australische Regierung hat im Dezember 2024 zudem einen Gesetzentwurf eingebracht, der der ACMA erweiterte Befugnisse zur Bekämpfung von Falschinformationen (einschließlich KI-generierter Inhalte wie Thy) geben würde. Bisher handelt es sich hierbei aber nur um einen Entwurf und kein finalisiertes Gesetz.