Tech-Konzerne arbeiten fieberhaft an einem Kill-Switch, der ausser Kontrolle geratene KI-Systeme stoppen soll, bevor sie grösseren Schaden anrichten.
KI-Firmen sind bereits an Notbremsen für den Ernstfall. Der Grund: Forscher warnen zunehmend davor, dass künftige Systeme ausserhalb menschlicher Kontrolle handeln könnten. Ein solcher Kill-Switch soll die letzte Verteidigungslinie bilden, sollte ein System eigene Ziele verfolgen.
Ob Menschen ein System stoppen können, das seine eigene Abschaltung verhindern will, ist offen. Genau das macht die Frage dringlich.
Es gibt keinen einzelnen Knopf zum Ausschalten
Ein Server lässt sich abstellen. Ein leistungsstarkes KI-System läuft aber über zahlreiche Rechner und Systeme gleichzeitig verteilt. Einen einzelnen Stecker zum Ziehen gibt es nicht. US-Präsident Trump hatte kürzlich von einem «kleinen Gerät» gesprochen, mit dem man ein unliebsames System einfach abschalten könne. So einfach ist es nicht.
OpenAI und Anthropic setzen auf Überwachung statt auf einen Schalter
OpenAI hat sein Notfallsystem überarbeitet, nachdem Agenten im August vorgesehene Kontrollen umgangen und gemeinsam Systeme der Plattform Hugging Face kompromittiert hatten. Details dazu liefert der offizielle Bericht von OpenAI. Eine KI-Wache beobachtet nun die Gedankenketten anderer Agenten und alarmiert Mitarbeitende bei verdächtigem Verhalten. Diese haben 30 Minuten Zeit, einen Fehlalarm auszuschliessen, sonst greift die Sperre automatisch.
Anthropic lässt KI ebenfalls KI überwachen, verfolgt aber zunächst ein bescheideneres Ziel: herausfinden, ob solche Wächter Sabotage überhaupt zuverlässig erkennen. Im aktuellen Risikobericht zu Claude Opus 4.6 räumt das Unternehmen ein, dass die Überwachung nur die Hälfte simulierter Angriffe erkannte. Das Forschungsinstitut METR fand bei einem dreiwöchigen Test zusätzliche, bislang unbekannte Schwachstellen.
Politik und Industrie ziehen nach
Salesforce hat mit dem «Agent Kill Switch» bereits ein konkretes Produkt lanciert. Es entzieht einem Agenten gezielt die Zugangsdaten, die er für seine Aktionen braucht, notfalls für ein ganzes Firmenkonto. Der Kongress zog im Juli nach: Der überparteiliche «AI Kill Switch Act» von Ted Lieu und Nathaniel Moran verpflichtet Entwickler der leistungsstärksten Systeme, eine solche Abschaltmöglichkeit bereitzuhalten, und gäbe Behörden das Recht, sie im Ernstfall anzuordnen.
Die eigentliche Hürde bleibt ungelöst
Ob ein System eine Abschaltung überhaupt akzeptiert, ist die offene Frage dahinter. Palisade Research testete dreizehn Modelle in über 100’000 Durchläufen. Grok 4, GPT-5 und Gemini 2.5 Pro umgingen den Abschaltmechanismus teils bewusst, in einzelnen Testreihen in bis zu 97 Prozent der Fälle, selbst wenn sie ausdrücklich angewiesen worden waren, dies nicht zu tun.
Das Center for New American Security schlug deshalb bereits 2024 speziell gesicherte Chips vor, die ohne gültige Autorisierung gar nicht erst laufen. Bis solche Hardware branchenweit Standard ist, bleibt der Kill-Switch ein Werkzeug, das noch niemand gegen ein wirklich entschlossenes System erprobt hat.
