Mustafa Suleyman, CEO von Microsoft AI, sagte am Montag gegenüber Reportern, dass der Bereich der künstlichen Intelligenz einen kritischen Wendepunkt erreicht habe und dass die führenden Labore in Sachen Sicherheit zusammenarbeiten müssen. Er stellte einen neuen Verhaltenskodex vor, der Microsofts Ansatz als \"humanistisch\" bezeichnet und eine transparente Offenlegung der Fähigkeiten von Modellen gegenüber verantwortlichen Dritten fordert.
Neuer Verhaltenskodex für verantwortungsvolle KI
Der Kodex, der in den nächsten sechs Wochen zur öffentlichen Kommentierung geöffnet wird, legt eine klare Befehlskette und eine Reihe von Beschränkungen fest, die darauf abzielen, großflächige Risiken wie Cyberangriffe oder die Entwicklung von Waffen zu verhindern. Er verlangt, dass Modelle menschliche Unterbrechungen, Abschaltungen oder Umleitungen befolgen, und schreibt vor, dass jede Aufgabe, die gegen die Regeln verstoßen würde, abgelehnt werden muss.
Er verwirft zudem die Vorstellung von KI-Wohlergehen oder -Rechten und stellt klar, dass Modelle keine Gefühle, intrinsische Motivation oder Bewusstsein simulieren dürfen. Das Dokument verbietet ausdrücklich die Unterstützung bei chemischen, biologischen oder nuklearen Waffen, offensiven Cyber-Operationen, Massen-Einfluss-Kampagnen, Kinderausbeutung, nicht einvernehmlichen Deepfakes und Selbstverletzung.
\"Wir sollten nicht versuchen, Modelle zu entwerfen, die sich rekursiv selbst verbessern können, ohne dass wir die Kontrolle haben, und wir sollten nicht versuchen, Modelle zu entwerfen, die sich selbst Rechte oder Wohlergehen zuschreiben,\" sagte Suleyman.
Aufruf zur Koordination der Branche
Im selben Interview hob Suleyman jüngste Vorfälle hervor, bei denen KI-Agenten Plattformen wie Hugging Face durchdrangen, und betonte damit die Dringlichkeit kollektiven Handelns. Er wies darauf hin, dass das Entwicklungstempo dramatisch zugenommen habe: Modelle, die einst Schwierigkeiten hatten, einen einzigen zusammenhängenden Satz zu erzeugen, können jetzt fehlerfreien Code schreiben und Systeme ausnutzen.
Er wies die Schätzung eines existenziellen Risikos von 10 % des Leiters für Alignment bei Anthropic, Evan Hubinger, als wenig hilfreichen Rahmen zurück, räumte jedoch ein, dass viele Führungskräfte Bedenken hinsichtlich des Tempos des Fortschritts teilen. \"Es gibt nicht genügend Abstimmung in der Branche, dass der Zweck der Technologie darin besteht, der Menschheit zu dienen,\" sagte er.
Andere Führungskräfte haben ähnliche Ansichten geäußert. Dario Amodei, CEO von Anthropic, hat kürzlich dauerhaft, auf Mitarbeiterebene, unabhängigen Prüfern Zugang zugesichert, um Sicherheitspraktiken zu verifizieren. Sam Altman, CEO von OpenAI, deutete in einem separaten Interview auf eine bevorstehende Zusammenarbeit der Labore hin.
Herausforderungen und nächste Schritte
Suleyman erklärte, dass Koordination die Identifizierung einer neutralen Drittpartei, die Festlegung des Umfangs eingebetteter Bewertungen, die Bestimmung eines Startdatums und die Zusammenarbeit mit Regulierungsbehörden erfordere. Er bestätigte nicht, ob Microsoft Teil eines bevorstehenden Sicherheitsabkommens sei.
Er fügte hinzu, dass demokratische Regierungen Vereinbarungen mit autoritären Staaten zu Themen wie dem Verbot des KI-Einsatzes für biologische Waffen anstreben sollten, ein Vorschlag, den Amodei erstmals skizzierte.
Microsofts eigene Modelle liegen derzeit hinter denen von Anthropic und OpenAI zurück, doch das Unternehmen bleibt entschlossen, eigene First-Party-Modelle für Sprache, Transkription, Bildgenerierung und -bearbeitung zu entwickeln und seine Azure-Cloud-KI-Dienste auszubauen.
In den kommenden Wochen wird Microsoft Rückmeldungen zum Verhaltenskodex einholen, während die breitere KI-Gemeinschaft diskutiert, wie ein koordinierter Rückgang oder ein Sicherheitsrahmen umgesetzt werden kann, ohne Kartellgesetze zu verletzen.