Dario Amodei, Mitbegründer und Geschäftsführer von Anthropic, brach am Samstag sein übliches Schweigen in den sozialen Medien, um dem wachsenden öffentlichen Skeptizismus gegenüber künstlicher Intelligenz (KI) zu begegnen. In einem langen Beitrag auf X sagte er, die Technologie stecke in einer Vertrauenskrise und skizziert, wie Regulierung und reale Ergebnisse helfen könnten.
Amodeis X-Beitrag zu Vertrauen und Regulierung
Amodei wies die Vorstellung zurück, er allein sei für ein düsteres Narrativ rund um KI verantwortlich, räumte jedoch ein, dass viele Menschen Unternehmen und Regierungen verdächtigen, "eine neue Möglichkeit zu erfinden, sie zu übervorteilen". Er beschrieb eine falsche Dichotomie zwischen zwei Extremen: dem, das regulatorische Erfassung und Machtkonzentration fürchtet, und dem, das offene Modelle als Schutzmaßnahme propagiert.
Er bemerkte, dass Institutionen wie das Gerichtssystem Macht dezentralisieren können und dass Anthropic Richtlinien unterstützt, die Frontier-KI-Firmen verlangsamen, während kleineren Wettbewerbern eine Chance gegeben wird. Dennoch gab er zu, dass die Skalierungsgesetze der KI, bei denen die Leistung mit mehr Rechenleistung steigt, die Macht natürlich in die Hände derjenigen verlagern, die die größten Chips und Rechenzentren besitzen.
Ich denke, es ist grundsätzlich eine Vertrauenskrise. Ich denke, gewöhnliche Menschen vertrauen Unternehmen, Regierungen oder der Tech-Industrie nicht und vermuten immer, dass wir eine neue Möglichkeit erfinden, sie zu übervorteilen.
Amodei schlug ein "FINRA-ähnliches" Aufsichtsorgan vor und wiederholte die Haltung der Trump-Administration zum KI-Testing, indem er argumentierte, dass die richtigen "Regeln der Straße" Cyber-, Bio- und Alignierungsrisiken adressieren könnten, während offene Modelle weiterhin zulässig bleiben.
Warum die Vertrauenslücke wichtig ist
Das fehlende Vertrauen ist nicht nur ein Wahrnehmungsproblem. Amodei wies darauf hin, dass frühere Versprechen, etwa dass KI die Hälfte der Büroarbeitsplätze vernichten würde, abgeschwächt wurden; der CEO beschreibt KI jetzt eher als Multiplikator der Produktivität denn als Zerstörer von Arbeitsplätzen. Er warnte, dass Marketing-Hype, zum Beispiel eine Anzeige, die behauptet, KI könne Krebs heilen, wahrscheinlich als irreführend abgetan wird.
Das, was wirklich funktioniert, ist tatsächlich die Heilung von Krebs. Ich denke, die bei weitem genaueste Kritik an KI-Unternehmen, einschließlich Anthropic, ist, dass wir unsere großen Versprechen, der Welt zu nützen, noch nicht eingelöst haben.
Er argumentierte, dass Ehrlichkeit über Risiken und ein Fokus auf greifbare Nutzen entscheidend seien, um Glaubwürdigkeit wieder aufzubauen.
Ausblick für Anthropic und den Sektor
Anthropic versucht, Worte in Ergebnisse zu verwandeln, indem es die Forschung in Biologie und Medizin ausbaut. Amodei deutete auf "frühe Anzeichen" von Durchbrüchen hin, betonte jedoch, dass das Unternehmen bis zu konkreten Erfolgen leere Versprechen vermeiden wird.
In den kommenden Monaten kann die Branche mit mehr Dialog über Aufsichtsrahmen und einem Vorstoß führender Unternehmen rechnen, reale Auswirkungen zu demonstrieren, eine Strategie, die das öffentliche Vertrauen in KI langsam wiederherstellen könnte.