Vollgas statt Stopp - Manipulierte Schilder als Gefahr für selbstfahrende Autos

Forscher haben eine simple Möglichkeit entdeckt, selbstfahrende Autos zu verwirren. Das stellt die Sicherheit solcher Systeme in Frage.

von Georg Wieselsberger,
08.08.2017 13:35 Uhr

Das manipulierte Stoppschild wird als Geschwindigkeitsbegrenzung interpretiert. (Bildquelle: Caranddriver.com)Das manipulierte Stoppschild wird als Geschwindigkeitsbegrenzung interpretiert. (Bildquelle: Caranddriver.com)

Bisher galten Hacker-Angriffe auf selbstfahrende Autos als die große Gefahr für die Sicherheit der Passagiere, doch nun haben Forscher der University of Washington eine viel simplere und ebenso gefährliche Angriffsmöglichkeit entdeckt: Sie haben ausgedruckte Bilder entwickelt, die einfach auf Straßenschilder geklebt wurden.

Als Beispiel nennen die Forscher kleine Aufkleber, die auf einen Stopp-Schild aufgebracht wurden und dann dafür sorgten, dass das visuelle System einer Fahrzeug-KI das Schild als Geschwindigkeitsbegrenzung auf 45 Meilen pro Stunde interpretierte. Das würde in der Praxis bedeuten, dass das Fahrzeug nicht anhält und gegebenenfalls sogar noch beschleunigt.

Klassifizierung von Objekten überlistet

Laut den Forschern haben selbstfahrende Autos visuelle Systeme, die Objekte beispielsweise wie Fußgänger, Ampeln, Schilder und andere Fahrzeuge erkennen und dann genauer klassifizieren. Wenn bekannt ist, wie die Klassifizierung funktioniert, kann dieses Wissen dazu verwendet werden, beispielsweise ein Schild zu modifizieren, dass es falsch eingestuft wird.

Die Veränderungen können dabei sogar so geringfügig sein, dass es das Stopp-Schild für einen Menschen nur etwas fleckig oder abgenutzt erscheint, für die KI allerdings etwas ganz anderes darstellt.

Menschen fallen die Schilder nicht sonderlich auf

Auch Sticker, die ein Mensch für Graffiti mit der Botschaft »Love Stop Hate« halten würde, können aus dem Stopp-Schild ein 45-mph-Schild machen - zumindest in 73,3 Prozent aller getesteten Fälle. Laut den Forschern könnten Angreifer ein selbstfahrendes Auto einfach so lange testen, bis sie herausgefunden haben, wie die Klassifizierung bei diesem Modell funktioniert.

Sollte ein branchenweiter Standard verwendet werden, wäre die Gefahr sogar noch größer. Daher sei eine Kombination von verschiedenen Systemen notwendig, die beispielsweise den Kontext durch Karten und die aktuelle Umgebung erkennen. Auch mehrere Kameras und Sensoren, die unterschiedlich funktionieren, würden die Sicherheit erhöhen.

Quelle: Caranddriver.com


Kommentare(68)

Nur angemeldete Benutzer können kommentieren und bewerten.

Cookies optimieren die Bereitstellung unserer Dienste. Mit der Nutzung unserer Dienste erklären Sie sich damit einverstanden, dass wir Cookies verwenden. Weitere Informationen oder schließen