OpenAI hat Ende Juli sein "Preparedness"-Team aufgelöst, das bewerten sollte, ob die KI-Modelle des Unternehmens schwere oder katastrophale Risiken bergen könnten, berichtet die Financial Times unter Berufung auf mehrere interne Quellen. Die Zuständigkeiten für einzelne Bereiche wie Bio- und Cyberrisiken wurden auf bestehende Teams verteilt.

Der bisherige Leiter der Einheit, Dylan Scandinaro, untersucht nun die Sicherheitsrisiken von "rekursiv selbstverbessernder" KI - also Systemen, die sich selbst optimieren und andere Modelle trainieren können. Mitgründer Greg Brockman sagte, OpenAI habe Sicherheitsarbeit tiefer in die Modellentwicklung integriert.

Mehrere Mitarbeiter aus dem Sicherheitsbereich haben das Unternehmen zuletzt verlassen, darunter Ethik-Chefin Chloe Bakalar und Joshua Achiam. Intern wächst die Unruhe: Eine Quelle sprach von einem "brodelnden Gefühl der Verantwortung und Angst", dass OpenAI beim Thema Sicherheit nicht genug tue. Auch extern äußerten sich Angestellte kritisch, insbesondere nach dem autonomen Hacking-Vorfall von Hugging Face. Ein Angestellter meinte, er hoffe, OpenAI verstehe diesen Vorfall als "Warnschuss".