Anthropic gab bekannt, dass seine generativen KI-Systeme in diesem Jahr mehrere Versuche abgefangen haben, die Technologie für die Forschung an biologischen Waffen zu nutzen, während OpenAI eine neue Version von ChatGPT vorgestellt hat, die speziell für große Finanzinstitute entwickelt wurde. Gleichzeitig bereitet das von Intel unterstützte Unternehmen Altera Berichten zufolge ein Börsengang vor, der mehr als 2 Milliarden Dollar einbringen könnte.
Was ist passiert?
In einer diese Woche veröffentlichten Erklärung sagte Anthropic, dass seine Sicherheitsfilter Wissenschaftler daran gehindert haben, zu untersuchen, wie man ein hypothetisches Virus gefährlicher machen könnte. Das Unternehmen könne nicht bestätigen, ob die Anfragen legitime Forschung oder böswillige Absichten waren, blockierte die Aktivität jedoch vorsorglich.
Anthropic nannte zudem weitere Missbrauchsfälle, darunter russische Staatsmedien, die versuchten, Propaganda zu erzeugen, die echter journalistischer Berichterstattung ähnelt, sowie chinesische Akteure, die mit KI-Unterstützung konventionelle Waffen entwerfen wollen.
„Wenn Modelle immer leistungsfähiger werden, steigen auch ihre Risiken, sofern KI-Entwickler und die Verteidiger der Gesellschaft nicht handeln, um sie sicherer zu machen", schrieb das Unternehmen.
Unterdessen kündigte OpenAI eine spezialisierte Version von ChatGPT für Banken und andere Finanzunternehmen an, die auf dem neuen Modell GPT-6 Astra basiert. Das Produkt, vorgestellt von Vizepräsident Nick Turley, ist darauf ausgelegt, das Ausmaß von Institutionen mit zehntausenden Mitarbeitenden zu bewältigen und den strengen Genauigkeitsanforderungen der Finanzbranche gerecht zu werden.
Turley erklärte, dass die Entwicklung in enger Zusammenarbeit mit Morgan Stanley und der Boutique-Beratung Evercore erfolgte, um die für den praktischen Einsatz erforderlichen Funktionen zu definieren.
In einer separaten Entwicklung soll Altera, das im Januar 2025 von Intel ausgegliederte Unternehmen für programmierbare Chips, bereit sein, innerhalb weniger Wochen einen Börsengang anzumelden. Reuters berichtet, dass das Angebot bereits 2026 über 2 Milliarden Dollar einbringen könnte, wobei Intel einen Anteil von 49 % behält und die Private-Equity-Firma Silver Lake die Mehrheitsbeteiligung hält.
Warum ist das wichtig?
Die Offenlegungen von Anthropic verdeutlichen die zunehmende Spannung zwischen dem Potenzial fortschrittlicher KI für wissenschaftliche Entdeckungen und der Gefahr ihres Missbrauchs zur Schaffung schädlicher Biotechnologien. Da KI-Modelle immer ausgefeilter werden, verschwimmt die Grenze zwischen legitimer Forschung und böswilliger Absicht, was bei Regulierungsbehörden und Bio-Sicherheitsexperten in ganz Europa Besorgnis auslöst.
Das auf den Finanzsektor ausgerichtete ChatGPT von OpenAI signalisiert eine Verschiebung hin zu branchenspezifischen KI-Lösungen, ein Trend, der die Art und Weise, wie europäische Banken Risikoanalysen, Compliance und Kundenservice automatisieren, neu gestalten könnte. Die Beteiligung großer Wall-Street-Akteure deutet darauf hin, dass das Produkt einen Standard setzen will, der europäische Finanzinstitute beeinflussen könnte, die ähnliche Fähigkeiten suchen.
Alteras potenzieller Börsengang spiegelt das erneute Interesse der Investoren an Halbleiterunternehmen wider, die Field-Programmable Gate Arrays (FPGAs) herstellen. Diese Chips sind für die Hochgeschwindigkeits-Datenverarbeitung in 5G-Netzen, der Luft- und Raumfahrt, der Verteidigung und medizinischen Geräten von entscheidender Bedeutung, Sektoren, die für die digitale und sicherheitspolitische Agenda der EU strategisch sind.
Wie geht es weiter?
Anthropic sagt, es werde seine Sicherheitsmechanismen weiter verfeinern und mit Regierungen zusammenarbeiten, um klarere Leitlinien für KI-gestützte Biorecherche zu entwickeln. Europäische Regulierungsbehörden, darunter das KI-Amt der Europäischen Kommission, werden voraussichtlich diese Entwicklungen im Rahmen der Umsetzung des EU-KI-Gesetzes genau beobachten.
OpenAI plant, das auf den Finanzsektor zugeschnittene ChatGPT später in diesem Jahr einer breiteren Gruppe von Banken zur Verfügung zu stellen, wobei Pilotprogramme bereits laufen. Europäische Banken werden das Tool wahrscheinlich anhand der strengen Datenschutzvorschriften der EU prüfen, bevor sie es flächendeckend einsetzen.
Falls Altera den Börsengang durchführt, wird es sich einer kleinen Gruppe jüngster Halbleiter-Listings anschließen und Investoren Zugang zu einem Nischenmarkt mit Wachstumspotenzial bieten. Der Erfolg des Angebots könnte weitere europäische Investitionen in programmierbare Chip-Technologie anregen und das Ziel der EU unterstützen, eine robuste heimische Halbleiterversorgungskette aufzubauen.
Zusammen zeigen diese Geschichten, wie Fortschritte bei KI und Halbleitern Risiken, Chancen und regulatorische Schwerpunkte auf dem Kontinent neu gestalten.