Bisher galten Hacker-Angriffe auf selbstfahrende Autos als die große Gefahr für die Sicherheit der Passagiere, doch nun haben Forscher der University of Washington eine viel simplere und ebenso gefährliche Angriffsmöglichkeit entdeckt: Sie haben ausgedruckte Bilder entwickelt, die einfach auf Straßenschilder geklebt wurden.
Als Beispiel nennen die Forscher kleine Aufkleber, die auf einen Stopp-Schild aufgebracht wurden und dann dafür sorgten, dass das visuelle System einer Fahrzeug-KI das Schild als Geschwindigkeitsbegrenzung auf 45 Meilen pro Stunde interpretierte. Das würde in der Praxis bedeuten, dass das Fahrzeug nicht anhält und gegebenenfalls sogar noch beschleunigt.
Klassifizierung von Objekten überlistet
Laut den Forschern haben selbstfahrende Autos visuelle Systeme, die Objekte beispielsweise wie Fußgänger, Ampeln, Schilder und andere Fahrzeuge erkennen und dann genauer klassifizieren. Wenn bekannt ist, wie die Klassifizierung funktioniert, kann dieses Wissen dazu verwendet werden, beispielsweise ein Schild zu modifizieren, dass es falsch eingestuft wird.
Die Veränderungen können dabei sogar so geringfügig sein, dass es das Stopp-Schild für einen Menschen nur etwas fleckig oder abgenutzt erscheint, für die KI allerdings etwas ganz anderes darstellt.
Menschen fallen die Schilder nicht sonderlich auf
Auch Sticker, die ein Mensch für Graffiti mit der Botschaft »Love Stop Hate« halten würde, können aus dem Stopp-Schild ein 45-mph-Schild machen - zumindest in 73,3 Prozent aller getesteten Fälle. Laut den Forschern könnten Angreifer ein selbstfahrendes Auto einfach so lange testen, bis sie herausgefunden haben, wie die Klassifizierung bei diesem Modell funktioniert.
Sollte ein branchenweiter Standard verwendet werden, wäre die Gefahr sogar noch größer. Daher sei eine Kombination von verschiedenen Systemen notwendig, die beispielsweise den Kontext durch Karten und die aktuelle Umgebung erkennen. Auch mehrere Kameras und Sensoren, die unterschiedlich funktionieren, würden die Sicherheit erhöhen.
Quelle: Caranddriver.com
Nur angemeldete Benutzer können kommentieren und bewerten.
Dein Kommentar wurde nicht gespeichert. Dies kann folgende Ursachen haben:
1. Der Kommentar ist länger als 4000 Zeichen.
2. Du hast versucht, einen Kommentar innerhalb der 10-Sekunden-Schreibsperre zu senden.
3. Dein Kommentar wurde als Spam identifiziert. Bitte beachte unsere Richtlinien zum Erstellen von Kommentaren.
4. Du verfügst nicht über die nötigen Schreibrechte bzw. wurdest gebannt.
Bei Fragen oder Problemen nutze bitte das Kontakt-Formular.
Nur angemeldete Benutzer können kommentieren und bewerten.
Nur angemeldete Plus-Mitglieder können Plus-Inhalte kommentieren und bewerten.