Deepfake Voice: Betrüger imitieren Stimme eines CEO und erbeuten 243.000 US-Dollar

Künstlicher Intelligenz respektive Machine Learning-Algorithmen gelingt es mittlerweile, sogar Akzent in Stimmen täuschend echt nachzuahmen.

In Zeiten von Deep Learning und künstlicher Intelligenz wird es immer schwerer, Echtes von Gefälschtem zu unterscheiden. Sprach-Algorithmen übersetzen und schreiben Texte, Deepfake synthetisiert menschliche Gesichtszüge und Mimik.

Mittlerweile werden sogar Stimmen täuschend echt imitiert. Wie das Wall Street Journal (Paywall) nun berichtet, haben sich Trickbetrüger die Fake-Voice-Technik bereits zunutze gemacht und durch »Vishing« (Abkürzung für Voice Phishing) 243.000 US-Dollar erbeutet (via Thenextweb).

KI mit Akzent erbeutet Viertelmillion

Der »Sprachbetrug« (Voice Fraud) ereignete sich bereits im März 2019. Opfer wurde ein britisches Energie-Unternehmen, das einem deutschen Konzern angehört.

Der Sprachbetrug via künstliche Intelligenz scheint der erste seiner Art gewesen zu sein. Aber das Modell könnte Schule machen.

Dazu ahmten die Kriminellen mit einer kommerziell verfügbaren KI-Software zur Spracherzeugung die Stimme samt Akzent eines deutschen CEO des Dachkonzerns nach und forderten den Chef des britischen Energieunternehmens unter dem Vorwand der Dringlichkeit auf, 243.000 US-Dollar an einen ungarischen Zulieferer zu überweisen.

Das Geld kam aber nicht in Ungarn an, wie sich mittlerweile herausstellte. Offenbar ging die Überweisung auf Konten in Mexiko und anderen Ländern. Dort verlieren sich einstweilen die Spuren der Betrüger. Die Behörden versuchen jedoch weiterhin, die Täter zu ermitteln.

KI-Fehler: An diesen Bildern scheitert künstliche Intelligenz

Zumindest bleibt dem aufgesessenen Unternehmen kein Schaden, denn dieser wurde mittlerweile vom deutschen Versicherer Euler Hermes Group reguliert, der sich über die Namen der Beteiligten Firmen ausschweigt.

Der Betrugsfall indes könnte als erste KI-basierte Attacke in die Geschichte eingehen, bei der Menschen per Sprachanruf zum Geldtransfer aufgefordert und betrogen werden.

PLUS 0 Die Zukunft der Open World heißt Künstliche Intelligenz - Wie sich offene Welten verändern werden