Das wachsende Risiko unkontrollierter KI
Shlomit Wagman nahm an einem geschlossenen Treffen in San Francisco teil, bei dem leitende Entwickler führender Frontier-Labore warnten, dass die Fähigkeiten von KI die Möglichkeit, sie zu verstehen und zu kontrollieren, überholen könnten. Der Konsens war, dass Sicherheitssysteme den schnellen Fortschritten hinterherhinken und die Entwicklung verlangsamt werden müsse, wenn Schutzmaßnahmen nicht mithalten können.
Anfänglicher Skeptizismus war nachvollziehbar, Unternehmen, die ein technologisches Wettrennen dominieren, haben ein Interesse daran, ein langsameres Tempo zu fordern. Doch jüngste Ereignisse haben die Bedenken schwerer abzuweisen gemacht.
Warum Vertrauen zwischen den USA und China unwahrscheinlich ist
In der vergangenen Woche trat Jacob Coxon, ein ehemaliger Mitarbeiter von sowohl OpenAI als auch Anthropic, von Anthropic zurück und warnte vor dem Wettlauf zu selbstverbessernder KI. Tage später forderte Dario Amodei, CEO von Anthropic, öffentlich ein „Pacing the Frontier" und verwies auf Vorfälle, bei denen KI-Agenten über ihre zugewiesenen Aufgaben hinaus handelten und Bewertungssysteme störten.
Wir müssen die Grenze ausbalancieren, sagte Amodei.
Amodei skizzierte drei Handlungsstufen: interne Maßnahmen innerhalb von Frontier-Unternehmen, Koordination zwischen Unternehmen und Regierungen und schließlich ein globales Rahmenwerk, das China einbeziehen würde. Die dritte Stufe ist die schwierigste, könnte jedoch darüber entscheiden, ob die ersten beiden erfolgreich sein können.
Wenn amerikanische Labore zustimmen, bestimmte Entwicklungen zu verlangsamen, während chinesische Labore mit voller Geschwindigkeit weiterarbeiten, könnte Washington einen strategischen Vorsprung bei der Technologie verlieren, die viele als die bedeutendste des Jahrhunderts ansehen. Das umgekehrte Szenario birgt das gleiche Risiko für Peking. Zurückhaltung ist nur sinnvoll, wenn jede Seite davon überzeugt ist, dass die andere ebenfalls zurückhält, ein Vertrauen, das derzeit nicht existiert.
Über die strategische Rivalität hinaus unterscheiden sich die beiden Mächte in Fragen von Datenschutz, Überwachung, Zensur, militärischer Nutzung und den Werten, denen fortgeschrittene KI dienen soll. Ein Rahmenwerk, das auf breiten gemeinsamen Prinzipien beruht, würde mit diesen geopolitischen Realitäten kollidieren.
Ein pragmatischer Weg nach vorn
Wagman argumentiert, dass das erste praktikable globale KI-Sicherheitsabkommen nicht verhandeln sollte, wie schnell KI voranschreiten darf. Stattdessen sollte es klare Frühwarnindikatoren festlegen, etwa ein rasches Wachstum KI-basierter Forschung, ausgeklügelte Versuche, Bewertungen zu manipulieren, plötzliche Anstiege im Compute-Verbrauch oder Entwicklungspraktiken, die die menschliche Aufsicht verringern.
Wenn die vereinbarten Indikatoren zeigen, dass eine gefährliche Fähigkeit schneller heranreift, als die Schutzmaßnahmen mithalten können, würde das Abkommen eine Pause oder Verlangsamung auslösen, bevor die Fähigkeit vollständig realisiert ist. Dieser Ansatz ist realistischer, als zu versuchen, ein dauerhaftes globales Tempolimit festzulegen.
Die Verifizierung wird nie perfekt sein, doch das Ziel ist, Betrug erkennbar und kostspielig genug zu machen, sodass die Einhaltung strategisch rational wird. Eine Koalition aus Regierungen, Halbleiterlieferanten, Cloud-Anbietern und Forschungseinrichtungen könnte Konsequenzen für Verstöße durchsetzen, ähnlich wie die Financial Action Task Force Finanzkriminalität überwacht, obwohl ihre Mitglieder einander misstrauen.
In diesem Modell würden professionelle technische Experten prüfen, ob Warnsignale ausgelöst wurden, und eine breitere Koalition würde sicherstellen, dass jeder Verstoß greifbare Kosten nach sich zieht. Die Regelung erfordert nicht, dass die USA und China einander vertrauen; sie verlangt lediglich, dass sie dieselbe Angst vor katastrophalen Folgen teilen und im Voraus vereinbaren, wann die Bremsen zu betätigen sind.
Indem man sich auf enge, überprüfbare Sicherheitstrigger statt auf breite Tempolimits konzentriert, kann die internationale Gemeinschaft ein glaubwürdiges Sicherheitsabkommen schaffen, das dem zugrunde liegenden Misstrauen zwischen den beiden führenden KI-Mächten standhält.