Meta hat einem $18bn-Vergleich zugestimmt, der den Social-Media-Riesen verpflichtet, seine KI-gestützten Altersverifikationssysteme zu verbessern. Der Vertrag, der mit 48 US-Bundesstaaten, dem District of Columbia und mehreren Territorien geschlossen wurde, zielt darauf ab, die Präsenz von unterjährigen Nutzern auf Instagram und Facebook zu reduzieren.
Details des Vergleichs
Die Vereinbarung löst Vorwürfe, dass Meta seine Plattformen bewusst so gestaltet habe, dass sie junge Menschen süchtig machen und deren psychische Gesundheit schädigen. Nach den Bedingungen hat Meta ein Jahr Zeit, seinen Ansatz zu verfeinern, wobei sowohl eigene Werkzeuge als auch Drittanbieterlösungen zum Einsatz kommen, und der Prozess regelmäßigen externen Audits unterliegt. Der Vergleich legt zudem Zielwerte für Fehlalarmraten fest, also Fälle, in denen Minderjährige fälschlicherweise als Erwachsene eingestuft werden, und verlangt, dass das Unternehmen das Alter von Freunden jedes Kontos prüft, das als unter 13 Jahre identifiziert wurde.
KI-Altersverifikations-Technologie
In der Offline-Welt belegen amtliche Ausweise das Alter, doch viele Nutzer zögern, solche Dokumente online zu teilen. Meta akzeptiert derzeit Ausweise und verspricht, sie innerhalb von 30 Tagen zu löschen, wendet jedoch zunehmend Künstliche Intelligenz an, um das Alter zu schätzen. Die KI analysiert kontextuelle Hinweise wie Geburtstags-Posts, schulbezogene Inhalte, Interaktionsmuster und Anmeldezeiten. Auch visuelle Merkmale aus Fotos, darunter Größe und Knochenstruktur, werden untersucht, wobei das System die abgebildete Person nicht identifiziert.
„Indem wir diese visuellen Erkenntnisse mit unserer Analyse von Texten und Interaktionen kombinieren, können wir die Zahl der von uns identifizierten und entfernten Konten von Minderjährigen deutlich erhöhen", erklärte Meta in einem Blog-Beitrag.
Google hat ein ähnliches KI-basiertes System für YouTube eingeführt, und andere Plattformen wie Roblox nutzen Video-Selfies, um das Alter zu schätzen, wobei die Aufnahmen nach der Verifizierung gelöscht werden. Roblox behauptet, dass seine Methode das Alter von Nutzern im Alter von fünf bis 25 Jahren mit einer Genauigkeit von ein bis zwei Jahren bestimmen kann, Kritiker warnen jedoch vor Ungenauigkeiten, insbesondere für Frauen und bestimmte ethnische Gruppen.
Datenschutz- und Regulierungs-Herausforderungen
Altersprüfungen sollen Kinder von ungeeigneten Online-Räumen fernhalten, doch Datenschutz-Advokaten argumentieren, dass jedes System, das Nutzer zwingt, sensible persönliche Daten preiszugeben, neue Risiken schafft. Die Electronic Frontier Foundation warnt seit langem, dass "(No) matter the method, every system demands users hand over sensitive and immutable personal information that links their offline identity to their online activity", und weist auf das Potenzial von Lecks, Hacks oder Missbrauch hin.
Google hat zudem Vorschläge kritisiert, die die Verantwortung für die Verifizierung auf App-Store-Betreiber verlagern, und argumentiert, dass solche Maßnahmen weder Desktop-Computer noch gemeinsam genutzte Familiengeräte abdecken und gegen vorinstallierte Apps unwirksam sein könnten.
"Billed as 'simple' by its backers, including Meta, this proposal fails to cover desktop computers or other devices that are commonly shared within families. It also could be ineffective against pre-installed apps," Google wrote.
Europäische Aufsichtsbehörden beobachten die Entwicklung genau
Europäische Regulierungsbehörden beobachten die Entwicklung genau, da der Vergleich zukünftige EU-Politik zu digitaler Sicherheit und Datenschutz beeinflussen könnte. Sollten Metas KI-Werkzeuge effektiv sein und Datenschutz-Schutzmaßnahmen respektieren, könnten sie zum Branchenmaßstab werden. Umgekehrt könnte jeder Fehltritt strengere Aufsicht nach dem Digital Services Act und der Datenschutz-Grundverordnung (DSGVO) nach sich ziehen.
Wie geht es weiter?
Meta steht nun vor der Aufgabe, innerhalb von zwölf Monaten eine robuste, datenschutzfreundliche Altersverifikations-Lösung zu liefern. Laufende Audits werden die Genauigkeit der KI-Modelle und die Rate von Fehlalarmen bewerten. In der Zwischenzeit werden Datenschutz-Gruppen und Gesetzgeber die Einführung wahrscheinlich genau prüfen und könnten damit bestimmen, wie KI-basierte Altersprüfungen im europäischen digitalen Markt umgesetzt werden.