Jacob Coxon, ein ehemaliger Ingenieur bei sowohl OpenAI als auch Anthropic, kündigte diese Woche seinen Rücktritt von Anthropic an und warnte, dass das Rennen um Superintelligenz ein „Glücksspiel mit unserem Leben" sei und dass die Unternehmen keinen konkreten Plan haben, Systeme zu kontrollieren, die leistungsfähiger sind als ihre Schöpfer. Der Beitrag ging viral und zog innerhalb weniger Tage über 100 Millionen Aufrufe an.
Ein Muster von Insider-Warnungen
Coxon ist mindestens der fünfte Insider in drei Jahren, der vor der Geschwindigkeit der KI-Entwicklung warnt. Im Mai 2023 verließ Geoffrey Hinton Google, um frei über KI-Risiken zu sprechen, und später im selben Jahr kündigte Jan Leike bei OpenAI, weil die Sicherheitskultur hinter auffälligen Produkten zurückgeblieben sei. Ilya Sutskever verließ ebenfalls OpenAI im Jahr 2024 im Zuge interner Streitigkeiten. Keiner dieser Abgänge führte zu einem legislativen Durchbruch.
Was Coxons Austritt besonders machte, war die schnelle Unterstützung durch das aktuelle Anthropic-Personal. Innerhalb weniger Stunden wiederholte Evan Hubinger, Leiter des Alignment-Science-Teams von Anthropic, Coxons Bedenken, schätzte die Wahrscheinlichkeit einer menschlichen Auslöschung von mehr als zehn Prozent innerhalb eines Jahrzehnts und räumte ein, dass dem Unternehmen ein konkreter Kontrollplan für Superintelligenz fehlt. Zwei weitere Anthropic-Forscher stellten sich ebenfalls hinter ihn und verwandelten einen persönlichen Protest in einen potenziellen politischen Katalysator.
Ein Jahrzehnt feststeckender KI-Gesetzgebung
Die Vereinigten Staaten haben Schwierigkeiten, Bedenken zur KI-Sicherheit in Gesetze zu überführen. Der Future of AI Act wurde 2017 eingebracht, bevor der Kongress künstliche Intelligenz überhaupt als eigenständiges Politikfeld anerkannte. Er schlug einen öffentlich-privaten Rahmen für KI-Forschung vor, kam jedoch nie über die Ausschussdiskussion hinaus. Nachfolgende Vorschläge, wie der DEEP FAKES Accountability Act von Abgeordneter Yvette Clarke aus dem Jahr 2019, gerieten ebenfalls ins Stocken.
Die einzige bundesweite Maßnahme, die verabschiedet wurde, war der National Artificial Intelligence Initiative Act von 2020, der in ein Verteidigungsausgabengesetz integriert wurde. Sein Fokus lag auf der Finanzierung von Forschung und der Ausbildung von Fachkräften, nicht auf Sicherheitsregulierung. Seitdem zielen die meisten Gesetzentwürfe eher auf Wettbewerbsfähigkeit als auf Risikominimierung.
Branchenengagement ohne gesetzliche Ergebnisse
Als ChatGPT im November 2022 auf den Markt kam, stieg das Interesse an KI-Politik stark an. Im Mai 2023 sagte OpenAI-CEO Sam Altman vor dem Justizausschuss des Senats aus und schlug eine Lizenzbehörde zur Aufsicht über leistungsstarke KI-Systeme vor. Senator Richard Blumenthal lobte Altmans Bereitschaft zur Regulierung, doch aus der Anhörung entstand kein Gesetzentwurf.
Senatsmehrheitsführer Chuck Schumer organisierte 2023 eine Reihe von geschlossenen „AI Insight Forums" und lud CEOs, darunter Elon Musk und Sundar Pichai, ein, den Senatoren Bericht zu erstatten. Kritikerinnen wie Senatorin Elizabeth Warren argumentierten, das Format ermögliche es Tech-Milliardären, die Regulierung zu ihrem Vorteil zu gestalten. Die Foren erstellten eine „Roadmap for Artificial Intelligence Policy", die von Interessenverbänden als Triumph von Big Tech abgetan wurde, jedoch nie in Gesetzgebung mündete.
Präsident Bidens Exekutivverordnung 14110 vom Oktober 2023 verpflichtete die größten KI-Entwickler, Sicherheits-Testergebnisse mit der Regierung zu teilen. Die Verordnung blieb vierzehn Monate in Kraft, schuf jedoch keine gesetzlich bindenden Pflichten.
Experimente auf Länderebene
Während die bundesweite Aktion hinterherhinkte, experimentierten mehrere US-Jurisdiktionen mit KI-Vorschriften. New York Citys Local Law 144, im Juli 2023 verabschiedet, verpflichtete zu Bias-Audits für algorithmische Einstellungstools, obwohl ein Audit von 2025 die Durchsetzung als schwach bewertete. Colorado's SB 24-205, im Mai 2024 unterschrieben, wurde zum ersten umfassenden KI-Gesetz des Landes, trotz der geäußerten Zweifel von Gouverneur Jared Polis.
Kaliforniens Senate Bill 1047, das Sicherheitsprüfungen für die größten Modelle vorgeschrieben hätte, wurde im August 2024 vom Gesetzgeber verabschiedet, jedoch im September von Gouverneur Gavin Newsom mit dem Argument, das Gesetz konzentriere sich auf die Modellgröße statt auf das tatsächliche Risiko, mit Veto belegt.
Ein parteiübergreifender Sicherheitsentwurf gewinnt an Schwung
Innerhalb von 48 Stunden nach Coxons Rücktritt kündigte Senator Ted Hawley eine Senatuntersuchung zu OpenAI an, und Senator Bernie Sanders berief eine parteiübergreifende Briefingrunde mit KI-Expertinnen ein. Gleichzeitig begannen Senatorin Amy Klobuchar, Mehrheitsführer John Thune und Senator Ted Cruz mit der Mitunterstützung eines neuen KI-Sicherheitsgesetzes. Der Vorschlag würde dem Handelsministerium und dem Department of Homeland Security die Befugnis geben, KI-Modelle, die ein katastrophales Risiko darstellen, zu testen, zu überwachen und bei Bedarf die Veröffentlichung zu blockieren, einschließlich Bedrohungen im Zusammenhang mit Biowaffen oder nuklearen Systemen.
"Coxons Rücktritt hat Durchbruch erzielt, weil er bei beiden Vorreiterunternehmen gearbeitet hat, er sehr respektiert wird, er so klar sprach und er sein persönliches Vermögen aufgibt, indem er geht," sagte der ehemalige Palantir-Ingenieur und jetzt Politiker Alex Bores.
Der Gesetzentwurf enthält zudem Formulierungen, die staatliche KI-Regulierungen vorwegnehmen würden und damit einen einheitlichen Bundesstandard schaffen. Dies spiegelt Senator Cruz' früheren Versuch von 2025 wider, Staaten daran zu hindern, KI-Gesetze zu verabschieden, ein Vorstoß, der im Senat mit 99 zu 1 abgelehnt wurde. Kritiker warnen, dass der neue Vorschlag das Flickwerk an staatlichen Schutzmaßnahmen, das sich zu entwickeln begann, zunichte machen könnte.
Wie geht es weiter?
Mitarbeiter des Kongresses prüfen bereits den Entwurfstext gemeinsam mit OpenAI und Anthropic, während Demokraten im Handelsausschuss das Ausmaß der Sicherheitsbestimmungen diskutieren. Wird er verabschiedet, wäre der Gesetzentwurf der erste substanzielle Bundesversuch, die KI-Sicherheit zu regulieren, und würde den Fokus von Finanzierung und Wettbewerbsfähigkeit auf Risikominimierung verlagern.
Im Moment erscheint das politische Rampenlicht auf KI-Sicherheit heller als seit einem Jahrzehnt. Ob die parteiübergreifende Initiative die üblichen legislativen Engpässe übersteht, bleibt ungewiss, doch Jacob Coxons Rücktritt hat Washington unbestreitbar gezwungen, ein Problem anzugehen, das lange ignoriert wurde.