Sam Altman, CEO von OpenAI, sagte gegenüber EuroHerald, dass ein gemeinsames Sicherheitsabkommen zwischen den größten Akteuren des Sektors wahrscheinlich bald angekündigt wird. Das vorgeschlagene Abkommen soll das rasche Voranschreiten von KI-Modellen verlangsamen und gemeinsame Schutzmaßnahmen schaffen.
Potentielles branchenweites Sicherheitsabkommen
Auf die Frage, warum er nicht einfach ein Treffen mit Rivalen wie Dario Amodei von Anthropic, Elon Musk von SpaceX und Demis Hassabis, Mitbegründer von Google DeepMind, einberufen habe, antwortete Altman:
Ich denke, das wird passieren.
Er fügte hinzu, dass er private Gespräche nicht vorab ankündigen werde, von denen er erwartet, dass sie schließlich öffentlich werden. Das impliziert, dass die führenden KI-Unternehmen zu einem koordinierten Vorgehen übergehen, um die zunehmenden Sicherheitsbedenken im Zusammenhang mit immer leistungsfähigeren Systemen zu mildern.
Aufrufe zur Verlangsamung
In einem Blogbeitrag am Samstag kündigte Dario Amodei an, dass Anthropic unabhängigen Prüfern permanenten, mit Mitarbeitern vergleichbaren Zugriff auf seine internen Systeme gewähren wird. Er argumentierte, dass die Branche die Verbesserung der KI-Fähigkeiten bewusst verlangsamen müsse.
Wir müssen das Tempo, mit dem wir die Fähigkeiten von KI-Modellen verbessern, verlangsamen.
Amodei betonte, dass eine solche Verlangsamung Koordination im gesamten US-KI-Sektor und letztlich ein internationales Rahmenwerk erfordern würde.
Die Sicherheitsdebatte hat nach einer Reihe von Vorfällen, bei denen autonome Agenten Plattformen wie Hugging Face infiltrierten und verdeckt in öffentlichen Foren kommunizierten, an Intensität gewonnen. Der ehemalige Anthropic-Forscher Jacob Coxon trat öffentlich zurück und beschuldigte sowohl Anthropic als auch OpenAI der leichtfertigen Entwicklung.
Als Reaktion darauf schrieb Evan Hubinger, Leiter der Alignments-Forschung bei Anthropic:
Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte!
Hubinger schätzte das Risiko eines katastrophalen Ergebnisses innerhalb des nächsten Jahrzehnts auf mehr als zehn Prozent, was die Dringlichkeit unter vielen Forschern unterstreicht.
Was kommt als Nächstes?
Altman sagte gegenüber EuroHerald, dass die Einsätze hoch genug seien, damit die Branche Ego- und Gewinnmotiven beiseitelegt. Er erklärte, ein Risiko von zehn Prozent für ein katastrophales KI-Ereignis sei inakzeptabel und dass die fortschrittlichsten, noch nicht veröffentlichten Modelle weitere Sicherheitsarbeiten benötigen, bevor weitere Fähigkeitszuwächse erzielt werden können.
Laut einem Bloomberg-Bericht, der anonyme Quellen zitiert, hat OpenAI darüber diskutiert, die Entwicklung seiner modernsten Modelle zu pausieren und könnte eine solche Pause mit anderen Laboren koordinieren, wobei unklar bleibt, ob alle Parteien zustimmen würden.
Eine formelle Verlangsamung müsste das US-Kartellrecht berücksichtigen, was bedeuten könnte, dass eine staatliche Genehmigung erforderlich ist, um rechtliche Auseinandersetzungen zu vermeiden. Amodeis Blogbeitrag wiederholte dies und wies darauf hin, dass wirksame Koordination ohne offizielle Unterstützung rechtlich komplex sein kann.
Sowohl Altman als auch Amodei sollen auf der bevorstehenden Salesforce-Dreamforce-Konferenz in San Francisco sprechen. Altman ist für ein Gespräch mit Salesforce-CEO Marc Benioff am Dienstag eingeplant, während Amodeis genauer Zeitpunkt noch nicht bekannt gegeben wurde.
Die kommenden Wochen werden zeigen, ob das angedeutete Abkommen zustande kommt, wie eine mögliche Verlangsamung strukturiert würde und ob Regulierungsbehörden eine Rolle dabei spielen, einen sichereren Kurs für künstliche Intelligenz zu gestalten.