Kurzmeldung
Der frühere Anthropic-Forscher Jacob Coxon hat in einem in Großbritannien verbreiteten Interview deutlich vor ernsthaften Risiken durch weiter beschleunigte Entwicklungen in der künstlichen Intelligenz gewarnt. Coxon, der Anfang September 2026 seinen Abschied von Anthropic bekanntgab, sagte, viele Beschäftigte in führenden Laboren seien „genuin besorgt“ um die Zukunft der Menschheit und fürchteten, ein zu schnelles Tempo könne Sicherheitsbedenken überlagern. Er nannte interne Debatten, in denen extremere Fehlentwicklungsszenarien diskutiert würden, und schilderte Druck zur raschen Produktfertigstellung.
Coxon machte klar, dass seine Aussagen individuelle Einschätzungen widerspiegeln und nicht als offizielle Unternehmensprognosen zu verstehen seien. Zahlreiche Medienberichte führten seine Personalentscheidung und seine Äußerungen zusammen und zitierten ihn mit dem Hinweis, dass einige Forschende „genuinely frightened“ gewesen seien. Parallel veröffentlichte Anthropic-Chef Dario Amodei ein Essay, in dem er für eine verlangsamte, international koordinierte Entwicklung an der technologischen Spitze plädiert und unabhängige Prüfstellen sowie gemeinsame Standards fordert.
Sicherheitsexpertinnen und -experten reagierten gespalten: Einige mahnen zur wissenschaftlichen Vorsicht gegenüber zugespitzten Extinktionsszenarien und fordern belastbare Evidenz, andere sehen in den Warnungen aus Spitzenlaboren ein Zusatzargument, präventive Sicherheitsvorkehrungen zu beschleunigen. Mehrere Kommentatoren betonten, dass monetäre Anreize, Wettbewerbsdruck und komplexe Lieferketten die Einführung strengerer Prüfungen erschweren könnten.
In Großbritannien verstärkt die Debatte den Ruf nach klaren Regelungen für Tests, Monitoring und Zulassungsprozesse besonders leistungsfähiger Modelle; die Regierung und britische Fachstellen prüfen, wie sie Zugang zu proprietären Frontier-Modellen nutzen können, um Risiken vor einer breiten Freigabe besser bewerten zu können. Unstrittig bleibt, dass die technische Entwicklung schnell voranschreitet; strittig ist hingegen, wie groß die konkreten existenziellen Risiken tatsächlich sind und welche Kontrollmechanismen rechtzeitig wirksam werden.
Coxons Interview hat die öffentliche Debatte über Tempo, Transparenz und externe Überprüfung von KI-Modellen neu befeuert. Konkrete Vorhersagen über Zeitpunkte eines möglichen Kontrollverlusts bleiben spekulativ; die Diskussion verschiebt sich auf die Frage, welche Prüf- und Bremsmechanismen international vereinbart und durchgesetzt werden sollten.
Redakteurin: Mira Cadena (Artikel mit KI-Unterstützung).