Bedroht KI den Menschen? UN drängt auf neue Regelungen

Künstliche Intelligenz stellt laut der UNO schon jetzt eine potenzielle Gefahr für viele Menschen dar. Um katastrophale Auswirkungen zu verhindern, sollen neue Regeln geschaffen werden.

von Dennis Zirkler,
16.09.2021 13:55 Uhr

Die Vereinten Nationen haben in einem neuen Bericht auf die Gefahren der Künstlichen Intelligenz hingewiesen und fordern nun eine Regulierung dieser Systeme, um potenziell katastrophale Auswirkungen prophylaktisch zu vermeiden.

Zwar droht aktuell keine Apokalypse wie in den Terminator-Filmen, doch laut den UN-Experten besteht dennoch dringender Handlungsbedarf.

Warum Künstliche Intelligenz Gefahren birgt

Laut Michelle Bachelet, der Hohen Kommissarin für Menschenrechte, seien insbesondere unsere Menschenrechte durch KI-Systeme bedroht. Die Art und Weise, wie diese Daten sammeln, speichern und nutzen, sei eine der »dringendsten Menschenrechtsfragen, mit denen wir konfrontiert sind«.

Der Bericht analysiert die Art und Weise, wie KI die Menschenrechte beeinflussen kann, einschließlich Privatsphäre, Gesundheit und Bildung sowie Bewegungs-, Meinungs- und Versammlungsfreiheit.

"Künstliche Intelligenz dringt heute in fast jeden Winkel unseres physischen und mentalen Lebens und sogar in unsere Gefühlswelt ein. KI-Systeme werden eingesetzt, um zu bestimmen, wer öffentliche Dienstleistungen erhält, um zu entscheiden, wer eine Chance hat, für einen Job eingestellt zu werden, und natürlich beeinflussen sie, welche Informationen die Menschen sehen und online teilen können."

Dem Bericht zufolge arbeiten die KI-Systeme mit großen Datensätzen, wobei Informationen über Einzelpersonen auf vielfältige und oft undurchsichtige Weise gesammelt, geteilt, zusammengeführt und analysiert werden. Dazu kommt, dass die Daten oft fehlerhaft, irrelevant, diskriminierend oder veraltet seien.

Da viele Staaten und Unternehmen ohne sorgfältige Prüfung KI-unterstützte Systeme einführten, sei es bereits zu ungerechten Behandlungen gekommen. Menschen sollen etwa aufgrund fehlerhafter Gesichtserkennungssoftware verhaftet worden sein.

Zwar wurden im Bericht keine Länder namentlich genannt, allerdings gehört China zu den großen Vorreitern des KI-Einsatzes: Dort wurden bereits Gesichtserkennungstechnologien zur Überwachung eingeführt sowie verschiedene Social-Scoring-Systeme getestet. Dieses Sozialkredit-System ist einen Versuch der totalen Kontrolle der Bevölkerung durch die Vergabe von Punkten für wünschenswertes Verhalten. Wer sich dort - nach Auffassung der Regierung - nicht »aufrichtig« verhält und Punkte einbüßt, muss mit geringeren Karrierechancen, höheren Steuern oder sogar einer gedrosselten Internetverbindung rechnen.

Falls ihr mehr zum Thema erfahren wollt, etwa wie die Gesichtserkennung für Jugendschutz-Regulierungen funktioniert, könnt ihr in unseren Plus Podcast reinhören:

Podcast: Spielen hat in China zwei Gesichter   13     20

Mehr zum Thema

Podcast: Spielen hat in China zwei Gesichter

Was die UN jetzt fordert

Laut Bachelet geht es ihrem Team nicht darum, ein komplettes Verbot von KI und maschinellem Lernen zu erwirken, denn diese können auch eine »Kraft des Guten« sein. Stattdessen fordert sie Regulierung und größere Transparenz ihrer Anwendungen.

"Wir können es uns nicht leisten, in Bezug auf KI weiterhin Nachholbedarf zu haben, indem wir ihren Einsatz mit limitierten oder gar keinen Grenzen oder Kontrollen zulassen und uns im Nachhinein mit den fast unvermeidlichen Folgen für die Menschenrechte auseinandersetzen. Die Fähigkeit der KI, den Menschen zu dienen, ist unbestreitbar, aber auch die Fähigkeit der KI, Menschenrechtsverletzungen in enormem Ausmaß und praktisch unbemerkt zu begehen. Es muss jetzt gehandelt werden, um dem Einsatz von KI menschenrechtliche Leitplanken zu setzen, zum Wohle von uns allen."

Ob die geforderten Regularien auch Auswirkungen auf PC-Spiele haben könnten, ist noch unklar. Grafikkartenhersteller Nvidia setzt bei seinen RTX-GPUs etwa auf KI-unterstützte Technologien wie DLLS und KI-Upscaling. Dass die UN diese als Verletzung ihrer Rechte angesehen werden, dürfte aber äußerst unwahrscheinlich sein. Womöglich könnten aber KI-Systeme betroffen sein, die analysieren, wie Personen Spiele spielen und diesen so bestimmte Mikrotransaktionen und Werbung präsentieren. Activision hat sich 2017 etwa eine Matchmaking-Methode, die Spieler zum Geldausgeben anregen soll, patentieren lassen.

zu den Kommentaren (49)

Kommentare(49)

Nur angemeldete Benutzer können kommentieren und bewerten.