Amazon Alexa - Mitarbeiter tippen vereinzelt Sprachbefehle ab

Amazon Alexa: Zum Training der KI werten Mitarbeiter Sprachbefehle aus (Bildquelle Amazon/Microsoft)

Was ich Alexa in die Lautsprecher flüstere bleibt ein Geheimnis zwischen mir und Alexa! Nicht ganz..

An Sprachassistenten wie Alexa gerichtete Befehle werden nicht nur von der dahinter stehenden künstlichen Intelligenz ausgewertet sondern zum Teil auch von Amazon-Mitarbeitern abgeschrieben und überprüft. Das dient laut Amazon zur Optimierung der KI hinter Alexa.

Gegenüber Bloomberg bestätigt Amazon diese Vorgehensweise. Laut Amazon wird nur eine geringe Menge an Alexa-Sprachaufnahmen manuell überprüft um das Kundenerlebnis zu verbessern.

Dumme KI braucht menschliche Hilfe

Von der Weltherrschaft ist die Alexa-KI noch weit entfernt, mitunter erinnert das Antwortverhalten eher an den Parser antiker Text-Adventures. Allzu einfach ist die Arbeit einer Sprachassistenz allerdings nicht: Das System muss analysieren, was der Nutzer nach dem Aktivierungswort sagt und die Anfrage in einen sinnvollen Zusammenhang bringen.

Aktuelle künstliche Intelligenzen sind aber mitnichten von Beginn an (halbwegs) klug, sie müssen trainiert werden und das am besten mit realen Anwendungsbeispielen. Eben das sollen die Amazon-Mitarbeiter an Standorten rund um die Welt realisieren.

Hört alles dank komplexem Mikrofon-Array: Amazon Echo mit Alexa Spracheingabe

Laut Bloomberg gibt es KI-Prüfer unter anderem in Costa Rica, Rumänien und Boston. Pro Schicht sollen pro Prüfer bis zu 1000 Gesprächsmitschnitte bearbeitet werden. So tippt ein Teil der Mitarbeiter beispielsweise Sprachbefehle zufälliger Nutzer ein um sie mit der automatischen Transkription von Alexa zu vergleichen.

Kritische Daten werden markiert

Es gibt aber auch Mitarbeiter, die nur die Dinge bearbeiten, die sich im Hintergrund abspielen - Fernseher, Radios, Gespräche im Hintergrund. Wenn dabei vertrauliche Dinge wie Bankdaten zu verstehen sind, sollen die Mitarbeiter diesen Ausschnitt als kritisch markieren und unverzüglich mit der nächsten Datei fortfahren.

Auch bei Fehlerkennungen, also wenn Alexa antwortet ohne gefragt worden zu sein, greifen Mitarbeiter trainierend ein. Rund 100 solcher Fehlaktivierungen soll jeder Mitarbeiter pro Tag vorliegen haben.

Alexa petzt nicht. Noch.

Bloomberg berichtet aber auch davon, dass Mitarbeiter im Hintergrund einer Sprachdatei einen sexuellen Übergriff vermutet haben - sie seien aber angehalten, in solchen Situationen nichts zu unternehmen.

Die Identifikation von Personen soll für die Mitarbeiter aber auch gar nicht möglich sein. Auf einem Screenshot zu den Prüfdaten gebe es für die Mitarbeiter nur eine Account-Nummer, der Vorname des Nutzers und die Seriennummer seines Alexa-Gerätes zu sehen.

Amazon beteuert gegenüber Bloomberg auch, mit Zugangseinschränkungen und Verschlüsselung zu arbeiten um die Anonymität zu gewährleisten.

Allerdings weist Amazon selbst nicht genau darauf hin, dass nicht nur ein Computer eure Sprachbefehle und alles weitere im Hintergrund auswertet sondern unter Umständen auch echte Menschen mitlauschen.

Auch Google und Apple tippen mit

Amazons Informationen zu Alexa sprechen allerdings nur davon, dass die an Alexa gerichteten Befehle genutzt werden können, »um die Amazon-Systeme zur Spracherkennung und zum Verstehen natürlicher Sprache zu trainieren«. Das weist zwar nicht direkt auf menschliche Lauscher hin, anders lässt sich eine Sprachassistenz aber nur schlecht trainieren.

Sowohl Apple und Google erklärten dem Nachrichtenmagazin gegenüber, ebenfalls auf menschliche Unterstützung zur Überprüfung von Audiodaten zu setzen um ihre KI zu trainieren. Auch hier soll die Anonymität der Nutzer gewährleistet sein.