IBM Watson als Doktor - Super-KI gab gefährliche Behandlungsvorschläge

Künstliche Intelligenz soll in vielen Bereichen Vorteile bieten, doch auch die Super-KI Watson von IBM macht teilweise schwerwiegende Fehler.

von Georg Wieselsberger,
29.07.2018 11:20 Uhr

IBM Watson hat das Quiz Jeopardy gewonnen.IBM Watson hat das Quiz Jeopardy gewonnen.

Watson ist ein Supercomputer mit einer lernfähigen, künstlichen Intelligenz, die es immerhin geschafft hat, ohne Internetverbindung das Quiz »Jeopardy« gegen die besten menschlichen Sieger zu gewinnen. Seitdem experimentiert IBM auch damit, Watson für andere Zwecke einzusetzen und bietet Forschern und Unternehmen die Möglichkeit, mit der KI zu arbeiten.

Watson auch in der Medizin im Einsatz

Auch in der Medizin erhoffen sich viele Forscher Vorteile, da ein Supercomputer extrem viele Informationen verbinden und analysieren kann und das auch wesentlich schneller als es ein menschlicher Arzt könnte. Doch wie sich nun zeigt, macht auch ein Supercomputer wie Watson teilweise haarsträubende Fehler. Wie jetzt bekannt wurde, gab es schon vor einem Jahr eine Präsentation, die den Einsatz von Watson im Gesundheitsbereich betraf und bei der das System Watson for Oncology kritisiert wurde.

Die besten Selbstbau-PCs ab 500 Euro

In diesem Bereich, der sich mit Tumoren befasst, hatte Watson oft unkorrekte Behandlungsvorschläge gemacht, die sogar den gesamten Prozess für die Verarbeitung von Inhalten und die dahinterstehende Technik in Frage stellten.

Bei einem Patienten mit Lungenkrebs und starken Blutungen hatte Watson empfohlen, den 65-jährigen Mann mit Chemotherapie und dem Wirkstoff Bevacizumab zu behandeln. Aber dieser Wirkstoff kann zu starken oder sogar tödlichen Blutungen führen und darf daher nicht bei Patienten angewendet werden, bei denen ohnehin schon Blutungen stattfinden.

Angelernt ohne reale Patientendaten

Laut einem Bericht von Gizmodo hatte Watson wohl nicht von echten Patientendaten gelernt, sondern wurde von einem Krebszentrum, mit dem IBM zusammenarbeitet, mit hypothetischen Daten gefüttert. Es könnte daher sein, dass die KI deswegen keine realen Fälle kennt, sondern stattdessen Behandlungsmethoden gelernt hat, die die eingebenden Ärzte des Krebszentrums bevorzugen.

Künstliche Intelligenz in Spielen - Teil 2: Die KI der Zukunft

Entsprechend könnte die KI gar keine eigenen Interpretationen von echten Patienten liefern. Ein Doktor eines anderen Krankenhauses nannte das Watson-System daher sogar »a piece of shit«, das man mit großen Hoffnungen angeschafft und nun fast nie verwenden könne. Allerdings soll Watson for Oncology im letzten Jahr alleine 11 Updates erhalten haben und nun auch die US-Richtlinien für Krebsbehandlungen kennen. Ob das Problem nun behoben ist, bleibt aber offen.

Open World in Spielen - 3D-Grafik im Wandel der Zeit 11:40 Open World in Spielen - 3D-Grafik im Wandel der Zeit


Kommentare(39)

Nur angemeldete Benutzer können kommentieren und bewerten.

Cookies optimieren die Bereitstellung unserer Dienste. Mit der Nutzung unserer Dienste erklären Sie sich damit einverstanden, dass wir Cookies verwenden. Weitere Informationen oder schließen