Mayank Upadhyay, Chief Security and Trust Officer bei Snowflake, sagte gegenüber Branchenreportern, dass die rasche Einführung von Künstlicher Intelligenz Cyberkriminellen einen neuen Beschleuniger bietet. Das Ergebnis sei eine Welle von Angriffen, die Software-Schwachstellen in Stunden statt Wochen entdecken und ausnutzen können, sodass viele Unternehmen unvorbereitet bleiben.
Durch KI beschleunigte Bedrohungen
Unternehmen, die früher einem vorhersehbaren Patch-Plan folgten, wöchentlich, monatlich oder vierteljährlich, sehen sich heute einer Angriffsfläche gegenüber, die enorme Datenmengen aus Netzwerken, Laptops, Cloud-Diensten und Benutzer-Logins erzeugt. Laut Upadhyay können menschliche Analysten diese Flut nicht ohne KI-Unterstützung bewerten, und Angreifer nutzen bereits dieselbe Technologie, um Code-Bestände zu scannen, Exploits zu erzeugen und in einigen Fällen automatisch einzusetzen.
„Jeder muss jetzt in Kriegsbereitschaft sein", sagte Upadhyay.
Die Geschwindigkeit, mit der KI-gestützte Schwachstellen entdeckt werden, bedeutet, dass Bedrohungen innerhalb von Stunden waffengefährlich gemacht werden können, was den traditionellen, stapelweisen Ansatz von Software-Updates übertrifft. Unternehmen, die weiterhin auf manuelles Patchen setzen, riskieren, kritische Systeme Angriffen auszusetzen, bevor ein Fix angewendet werden kann.
Defensive KI-Werkzeuge
Branchenführer argumentieren, die Antwort liege darin, KI mit KI zu bekämpfen. Anthropic hat ein Modell namens Mythos veröffentlicht, das derzeit einer begrenzten Anzahl von Partnern zur Verfügung steht. Steve Schmidt, Chief Security Officer bei Amazon, sagte, das Modell helfe nicht nur, einzelne Fehler zu patchen, sondern auch ganze Klassen von Schwachstellen zu schließen.
„Alles, was wir gesehen haben, zeigt, dass wir als Verteidiger mit KI weitaus effektiver sind, als Gegner sie für Angriffe einsetzen", erklärte Schmidt.
Schmidt warnte jedoch, dass die Technologie mit erfahrenen Ingenieuren kombiniert werden muss. Wenn sie allein arbeitet, kann selbst fortschrittliche KI eine hohe Anzahl falscher Alarme erzeugen, wodurch Entwickler das Vertrauen in die Warnungen verlieren.
Wachsende Risiken für die Belegschaft
Auch die Ökonomie von Angriffen wandelt sich. Hugh Thompson, Executive Chairman der RSA Conference, bemerkte, dass KI die Kosten- und Qualifikationshürde für maßgeschneiderte Angriffe senkt und selbst kleine und mittelgroße Unternehmen zu attraktiven Zielen macht.
Über technische Exploits hinaus verstärkt KI Social Engineering. Phishing-E-Mails können nun den Schreibstil eines Kollegen nachahmen, und Deep-Fake-Audio- oder -Video-Anrufe können Führungskräfte imitieren. In einem kürzlich bekannten Fall nutzten Kriminelle ein KI-generiertes Video des Finanzchefs, um einen Mitarbeitenden zu einer Überweisung von rund 25 Millionen Dollar zu bewegen.
Untersuchungen von Charlemagne Labs, einem KI-Sicherheits-Startup, zeigen, dass öffentlich verfügbare Modelle glaubwürdige mehrstufige Unterhaltungen führen können, eine Fähigkeit, die innerhalb eines Jahres vollständig automatisierte Betrugsmaschen ermöglichen könnte. Jeremy Philip Galen, ehemaliger Produktmanager bei Meta und CEO von Charlemagne Labs, warnte, dass Social Engineering nach wie vor der Ursprung der meisten Angriffe sei und zu wenig Beachtung finde.
„Man kann Menschen kaum noch schulen, und das ist beängstigend. Man kann Menschen nicht beibringen, Bedrohungen zu erkennen, was bedeutet, dass wir in ein neues Zeitalter von Risiken für die Belegschaft eintreten", sagte Galen.
Charlemagne Labs entwickelt ein System namens Charley, das eingehende Nachrichten überwacht und Nutzer vor wahrscheinlichen Betrugsversuchen warnt, ein stets aktiviertes Filtersystem.
Vorbereitung auf eine KI-schnelle Reaktion
Upadhyay sagt, die Sicherheitsteams von Snowflake führen jetzt täglich "war room"-Übungen durch, bei denen Anwendungs-Sicherheit, Cloud-Infrastruktur, IT und Security-Operations-Mitarbeiter zusammengebracht werden. Ziel ist es, Silos abzubauen und mit "AI speed" zu reagieren, indem dieselben KI-gestützten Werkzeuge eingesetzt werden, die Angreifer nutzen.
Er skizziert einen von KI angetriebenen Vier-Phasen-Zyklus: Verteidigungsmaßnahmen einrichten, nach Verstößen überwachen, Vorfälle eindämmen und beheben sowie neue Kontrollen schaffen, um Wiederholungen zu verhindern. Die Automatisierung dieses gesamten Lebenszyklus sei, so argumentiert er, für jede Organisation unverzichtbar, die KI-gesteuerten Bedrohungen einen Schritt voraus sein will.
Für europäische Unternehmen ist die Botschaft klar: Die gleiche Technologie, die Effizienz und Erkenntnisse verspricht, schafft zugleich eine neue Risikofront. Unternehmen müssen KI-erweiterte Sicherheit einführen, kontinuierlich in Schulungen investieren und defensive Werkzeuge in jede Ebene ihrer Abläufe integrieren, um die bevorstehende Welle KI-beschleunigter Cyberangriffe zu überstehen.