Ex-Google-Chef: Wenn KI einen bestimmten Punkt erreicht, sollten wir »ernsthaft darüber nachdenken, den Stecker zu ziehen«

OpenAI und andere KI-Firmen sollten einen Kill-Switch in ihre Systeme laut Ex-Google-Chef Eric Schmidt einbauen. Quelle: OpenAI

Nahezu wöchentlich kündigen Firmen neue KI-Produkte an. So hat Google erst letzte Woche Gemini 2.0 vorgestellt und Nvidia einen neuen KI-Computer im Mini-Format.

Seit dem Aufkommen des KI-Booms weisen kritische Stimmen aber auch auf mögliche negative Auswirkungen hin.

So auch der ehemalige Google-Chef Eric Schmidt, wie Fortune berichtet. In einem Interview mit dem amerikanischen Fernsehsender ABC News spricht er über die Gefahr, die von einer sich selbst-verbessernden KI ausgeht.

Sein Vorschlag: Sobald eine KI in der Lage ist, sich selbst zu verbessern, sollte man darüber nachdenken, sie abzuschalten. Ein sogenannter Kill-Switch könnte im Notfall die Menschheit vor einer Katastrophe bewahren.

Wenn das System sich selbst verbessern kann, müssen wir ernsthaft darüber nachdenken, es abzuschalten. Das wird schwierig sein. Es wird sehr schwierig sein, das Gleichgewicht aufrechtzuerhalten.

Eric Schmidt, Ex-Google-Chef

Bei künstlicher Intelligenz wird grob zwischen künstlicher allgemeiner Intelligenz und maschineller Superintelligenz unterschieden.

2:04 Nvidia stellt neuen KI-Computer im Mini-Format vor

Autoplay

Künstliche allgemeine Intelligenz bedeutet, dass KI-Systeme in der Lage sind, jede Aufgabe zu lernen oder zu verstehen, ganz so, wie es Menschen können.
Bei maschineller Superintelligenz wäre die KI Menschen intellektuell in allen Belangen überlegen.

Künstliche allgemeine Intelligenz: der nächste Schritt

OpenAI, Anthropic und andere KI-Firmen sind sich sicher, dass KI-Systeme die Stufe der künstlichen allgemeinen Intelligenz schon bald erreichen werden.

Mehr zum Thema

4 kostenlose KI-Tools an Weihnachten: Persönliche Grußkarten und ein Gespräch mit dem Weihnachtsmann

von Ursula Demling

In Google Chrome versteckt sich eine experimentelle KI-Funktion, die in Zukunft goldwert sein könnte

von Martin Moch

So verriet Anthropic CEO Dario Amode dieses Jahr, dass es bereits 2026 oder 2027 so weit sein können. Laut OpenAI CEO Sam Altman soll das Ziel in den nächsten fünf Jahren erreicht werden.

Im Hinterkopf sollte man dabei aber auch behalten, dass die KI-Firmen durchaus ein Interesse daran haben, die Werbetrommel für die Möglichkeiten von KI zu rühren – selbst, wenn das manchmal bedeutet, mit dem Schlimmsten zu rechnen.