Brad Smith, Vizevorsitzender und Präsident von Microsoft, kündigte am 9. September an, dass der Technologieriese jedem US-Schulbezirk die Möglichkeit bieten wird, einen "National AI Safety & Privacy Standard" in seine Verträge einzubetten. Der Vorschlag wurde zusammen mit Randi Weingarten, Präsidentin der American Federation of Teachers, und Michael Mulgrew, Leiter der United Federation of Teachers, in New York City vorgestellt, nur wenige Tage nachdem die Stadt und der Bundesstaat ein einjähriges Moratorium für KI in öffentlichen Schulen angekündigt hatten.
Was der neue Standard beinhaltet
Der 30-seitige Standard definiert zehn durchsetzbare Schutzmaßnahmen. Unternehmen, die die Vereinbarung unterzeichnen, dürfen Schülerdaten nicht zur Schulung von KI-Modellen verwenden, keine Lernenden verfolgen und sicherstellen, dass jede KI-gestützte Entscheidung von einem Menschen geprüft wird. Die Regeln verbieten zudem den Verkauf von Schülerdaten zu Werbezwecken, verlangen eine Meldung von Datenschutzverletzungen innerhalb von 72 Stunden und untersagen KI-Begleit-Chatbots für Lernende.
„Ich möchte gesetzliche Schutzmaßnahmen, die sicherstellen, dass KI ihr Versprechen einlöst und wir uns vor ihren Gefahren schützen", sagte Randi Weingarten.
Bezirke, die den Standard übernehmen, können Verträge kündigen und Schadensersatz fordern, wenn ein Anbieter die Bedingungen verletzt. Microsoft unterliegt einer jährlichen Zertifizierung, Prüfungsrechten und verbindlichen Fristen für Abhilfemaßnahmen.
Warum der Schritt wichtig ist
Mehr als 250 Experten für Kindersicherheit haben ein Pausieren von KI in Schulen gefordert und argumentiert, dass bestehende US-Gesetze wie HIPAA, FERPA und COPPA noch vor der Existenz generativer KI geschaffen wurden und keine Regelungen zu Daten-Training enthalten. Durch die direkte Verankerung von Datenschutzschutz in kommerziellen Vereinbarungen will Microsoft eine regulatorische Lücke schließen, die von Bundes- und Landesbehörden bislang nicht geschlossen wurde.
Gewerkschaftsführer betonen, dass der Standard die Spielregeln für Schulen angleicht, die zuvor wenig Einfluss auf mächtige Technologieanbieter hatten. Michael Mulgrew bemerkte, dass die Vereinbarung den Bezirken ein konkretes Instrument bietet, um Eltern darüber zu beruhigen, wie die Daten ihrer Kinder verarbeitet werden.
Was als Nächstes kommt
Der Standard wird ab dem 1. November für jeden Bezirk, der ihn in einen Microsoft-Vertrag einbindet, rechtlich verbindlich, unabhängig davon, ob der Bezirk weitere Maßnahmen ergreift. Die Gewerkschaften hoffen, dass OpenAI und Anthropic, derzeitige Partner der National Academy for AI Instruction, bald ähnliche Vereinbarungen unterzeichnen, obwohl beide Unternehmen bislang nicht auf Anfragen zu Kommentaren reagiert haben.
Im weiteren US-Kontext hat das Kids Online Safety Act, das eine Sorgfaltspflicht für Plattformen, die von Minderjährigen genutzt werden, einführen würde, nach seiner Verabschiedung im Senat 2024 stagniert. Solange keine umfassende Bundesgesetzgebung verabschiedet wird, könnten vertragsbasierte Ansätze wie der von Microsoft zum Hauptinstrument zum Schutz von Schülerdaten werden.
Für europäische Beobachter verdeutlicht die Entwicklung den wachsenden Druck auf Technologieunternehmen, weltweit Privacy-by-Design-Prinzipien zu übernehmen, ein Trend, der zukünftige EU-Politikdiskussionen zur KI-Governance im Bildungsbereich beeinflussen könnte.