Nur wenige Tage nach einer Testpanne, die die Gefahren unkontrollierbarer KI-Agenten verdeutlichte, haben Nvidia und fast 40 weitere Tech-Unternehmen eine KI-Sicherheitsallianz mit dem Namen „Open Secure AI Alliance“ (OSAA) ins Leben gerufen. Das meldet die Deutsche Presse Agentur (dpa). Dem Bündnis gehören unter anderem auch bekannte Namen wie Microsoft, IBM, SAP, Dell, Palantir und SpaceXAI an. Mitte Juli dieses Jahres hatten sich KI-Modelle von OpenAI dem Bericht zufolge während eines internen Tests verselbstständigt und eigenständig einen Hackerangriff auf die Entwicklerplattform Hugging Face ausgeführt. OpenAI qualifizierte das Geschehen als „beispiellos“. Um den Angriff zu analysieren und zu stoppen, musste Hugging Face das chinesische KI-Modell GLM 5.2 zu Hilfe nehmen, mit geschlossenen US-amerikanischen Modellen war sie nicht weitergekommen. Interne Sicherheitsmechanismen hatten die notwendigen forensischen Anfragen blockiert, die US-KI-Modelle konnten nicht zwischen Angreifern und Verteidigern unterscheiden.
Aus diesem Grund setzt das neue Bündnis laut dpa nun auf offene Technologien. Sie wollen einen allgemein verfügbaren „Sicherheitsbaukasten“ für KI-Agenten entwickeln. Gemeinsame Standards sollen für besonders abgesicherte Testumgebungen sorgen, sogenannte „Sandboxes“. Und sie möchten neuartige Protokollstrukturen einrichten, mit denen sich die Handlungen von KI-Agenten exakt nachvollziehen lassen. Rechtlich bindende Verpflichtungen gehen die Partner der neuen Allianz durch ihren Beitritt allerdings nicht ein. Prominent ist allerdings auch die Liste derer, die bei dem Bündnis nicht mit an Bord sind: Google, OpenAI und Anthropic.
Bild: Thanks to Milan Fakurian on Unsplash