Agentic AI für die Regierung zieht in Großbritannien neue regulatorische Aufmerksamkeit auf sich, da die Competition and Markets Authority (CMA) und das Information Commissioner's Office (ICO) Leitlinien veröffentlichen, die öffentliche Auftraggeber dazu drängen, über glänzendes Anbieter-Material hinauszublicken.
Regulierungsbehörden weisen auf Verbraucherschutzpflichten hin
Die CMA veröffentlichte am 9. März 2026 ein Forschungspapier, das untersucht, wie Agentic AI Verbraucher und Händler beeinflussen kann. Das Papier stellt fest, dass das bestehende britische Verbraucherschutzrecht auf KI-Agenten anwendbar ist und Verstöße Geldbußen von bis zu 10 % des weltweiten Jahresumsatzes nach sich ziehen können, wie im CMA-Forschungspapier von 2026 (Quelle: reedsmith.com) dargelegt.
Indem autonome Systeme nach dem Consumer Rights Act als „Händler" behandelt werden, erweitert der Regulierer den gleichen Haftungsrahmen, der für traditionelle Waren und Dienstleistungen gilt. Das bedeutet, dass eine öffentliche Einrichtung, die einen KI-Agenten einsetzt, der Nutzer irreführt oder minderwertige Ergebnisse liefert, denselben finanziellen Strafen wie ein kommerzielles Unternehmen ausgesetzt sein könnte.
In einem Interview mit der CMA sagte der Direktor für Wettbewerbspolitik, die Behörde sei "besorgt, dass Marketing-Sprache die tatsächlichen Risiken, die autonome Agenten für alltägliche Nutzer darstellen, verschleiern könnte". Das Papier fordert Käufer auf, Nachweise darüber zu verlangen, wie das System Fairness, Transparenz und Beschwerdemechanismen einhält.
Datenschutz-Leitlinien des ICO
Der Tech Futures-Bericht des ICO, der später im Jahr 2026 veröffentlicht wurde, fügt dem regulatorischen Bild eine Datenschutz-Dimension hinzu. Er stellt fest, dass KI-Agenten personenbezogene Daten in großem Umfang verarbeiten und damit eindeutig in den Anwendungsbereich der britischen Datenschutz-Verordnung (UK GDPR) fallen. Der Bericht fordert Organisationen auf, die Fähigkeiten und Risiken von Agentic AI vor der Einführung zu verstehen, und warnt, dass Nicht-Einhaltung Durchsetzungsmaßnahmen auslösen könnte.
Laut ICO ist ein wichtiger Schritt, die von einem autonomen System erzeugten Datenflüsse zu kartieren und eine Datenschutz-Folgenabschätzung (DPIA) durchzuführen, die speziell die Entscheidungslogik des Agenten berücksichtigt. Der Bericht hebt zudem die Notwendigkeit einer klaren Dokumentation der Trainingsdaten des Modells hervor, sowie Mechanismen, die es Einzelpersonen ermöglichen, ihre Rechte auszuüben, etwa Auskunft und Löschung.
"Wir beobachten einen Wandel von der Behandlung von KI als Black-Box-Dienst hin zu der Forderung nach granularen Einblicken in deren Funktionsweise", sagte ein Sprecher des ICO gegenüber Reportern. Die Leitlinien ergänzen damit den Verbraucherschutz-Fokus der CMA, indem sie eine datenschutzorientierte Compliance-Checkliste hinzufügen.
Potenzial des öffentlichen Sektors und operative Auswirkungen
Die Analyse von Elsewhen, ebenfalls 2026 veröffentlicht, argumentiert, dass KI-Agenten im Hintergrund öffentliche Dienstabläufe transformieren können, indem sie Verwaltungsangestellte für höherwertige Aufgaben freisetzen. Der Bericht beschreibt Szenarien, in denen Agenten Routineanfragen bearbeiten, Termine planen oder Schadenfälle priorisieren, wodurch die manuelle Bearbeitungszeit reduziert wird.
Obwohl die Analyse keinen konkreten prozentualen Verbesserungswert liefert, betont sie, dass die Geschwindigkeit und Konsistenz autonomer Agenten die Service-Bereitstellung neu gestalten können. Die Autoren warnen jedoch, dass die operativen Vorteile nur dann realisiert werden, wenn Beschaffungsprozesse strenge Tests der Methoden und Ergebnisse des Agenten integrieren.
Für Ministerien, die für Gesundheit, Verkehr oder soziale Sicherheit zuständig sind, schlägt der Bericht vor, dass ein strukturiertes Bewertungs-Framework, das algorithmische Fairness, Robustheit und Erklärbarkeit abdeckt, zu einer vertraglichen Anforderung werden sollte.
Auswirkungen auf Beschaffung und Compliance
Zusammen genommen signalisieren das CMA-Papier, der ICO-Bericht und die Elsewhen-Analyse einen Wandel darin, wie öffentliche Auftraggeber Agentic AI angehen müssen. Anstatt sich auf Anbieter-Broschüren zu verlassen, wird von Beschaffungsteams nun erwartet, dass sie:
- Detaillierte Dokumentation des Entscheidungsprozesses des KI-Agenten und der Herkunft der Trainingsdaten anfordern.
- Unabhängige Audits beauftragen, die die Einhaltung des Verbraucherschutzrechts und des UK-GDPR überprüfen.
- Vertragliche Klauseln aufnehmen, die Haftung für Verstöße vorsehen und auf die mögliche Geldbuße von bis zu 10 % des globalen Umsatzes verweisen.
- Eine fortlaufende Überwachung planen, mit periodischen Überprüfungen der Ergebnisse gegenüber vereinbarten Leistungskennzahlen.
Diese Schritte spiegeln die Leitlinien im CMA-Forschungspapier wider, das empfiehlt, dass Käufer "Methoden und Ergebnisse statt Marketingaussagen bewerten". Der Fokus des ICO auf DPIAs fügt ein konkretes Verfahrensinstrument hinzu, das Behörden in ihre Beschaffungsvorlagen integrieren können.
Für Beamte, die bislang auf standardisierte IT-Beschaffungsleitfäden gesetzt haben, stellt die neue Leitlinie eine höhere Beweislast dar. Wie eine senior-Beamtin, die anonym bleiben wollte, erklärte: "Wir müssen nun von Anbietern das gleiche Detailniveau verlangen, das wir von einem Finanzdienstleister erwarten würden, algorithmische Prüfpfade, Risikoregister und klare Abhilfepfade".
Das Nicht-Erfüllen dieser Erwartungen könnte ein Ministerium erheblichen finanziellen Strafen und Reputationsschäden aussetzen, insbesondere wenn ein autonomes System eine Entscheidung trifft, die einem Verbraucher schadet oder Datenschutzregeln verletzt.
Was Käufer künftig im Blick haben sollten
Die CMA und der ICO haben keinen Zeitplan für weitere sektorspezifische Leitlinien angekündigt, beide Behörden haben jedoch signalisiert, dass sie den Markt genau beobachten werden. Öffentliche Stellen sollten daher über Aktualisierungen informiert bleiben und die aktuelle Leitlinie in ihre nächste KI-Beschaffungsrunde einfließen lassen.
Für einen breiteren Überblick darüber, wie sich die KI-Regulierung in Europa entwickelt, siehe unsere Analyse der KI-Regulierung in Europa. Leser, die an der digitalen Transformationsagenda von Regierungen interessiert sind, können zudem unsere Berichterstattung zur digitalen Transformation der Regierungen erkunden.
| Quelle | Fokus | Wesentliche Anforderung |
|---|---|---|
| CMA research paper (9 Mar 2026) | Verbraucherschutzrecht | Geldbußen von bis zu 10 % des globalen Umsatzes bei Verstößen; Nachweis von Fairness und Beschwerdeverfahren verlangen |
| ICO Tech Futures report (2026) | Datenschutz-Compliance | DPIAs durchführen, Datenflüsse kartieren, Trainingsdaten dokumentieren, Rechte der Betroffenen ermöglichen |
| Elsewhen analysis (2026) | Operatives Potenzial | Methoden und Ergebnisse bewerten; Audit-Klauseln einbinden; Leistung überwachen |
Durch die Ausrichtung der Beschaffungspraxis an diesen drei Leitlinien können britische öffentliche Auftraggeber das rechtliche Risiko mindern und gleichzeitig die Effizienzgewinne nutzen, die Agentic AI verspricht.
Quellen: Reedsmith, Regulators turn their attention to agentic AI; ICO, Tech Futures: Agentic AI.