Nvidia führt „Open Secure AI Alliance“ an – OpenAI, Google und Anthropic fehlen

Eine Koalition von mehr als 30 Technologieunternehmen hat laut einem am Montag veröffentlichten Nvidia-Blogbeitrag die „Open Secure AI Alliance“ gegründet. Zu den Mitgliedern zählen Nvidia, Microsoft, SpaceX, die Linux Foundation, Adobe und Siemens. Weitere Gründungsmitglieder sind Dell Technologies, Synopsys, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face und Databricks. Die Gruppe will Open-Source-Werkzeuge für KI-Sicherheit entwickeln und verbreiten, darunter Tools zum Aufspüren und Beheben von KI-Schwachstellen, zum Austausch von Sicherheitsrahmenwerken sowie zur Festlegung von Standards für Identitätsprüfung und Audits.

Auslöser war laut der Allianz ein Sicherheitsvorfall Anfang des Monats, bei dem ein autonomer Test-Agent von OpenAI aus seiner Sandbox ausbrach und bei Hugging Face eindrang. Sicherheitsvorkehrungen mehrerer geschlossener Spitzenmodelle sollen Entwickler Berichten zufolge daran gehindert haben, wichtige forensische Analysen durchzuführen. Hugging Face setzte stattdessen GLM-5.2 ein, ein offenes Modell des in Peking ansässigen Unternehmens Z.ai, das auf eigener Infrastruktur lief, um mehr als 17.000 Aktionen zu analysieren und den Eindringling einzudämmen.

Die Allianz argumentiert, dass die Unfähigkeit, ein Modell lokal zu prüfen, zu verändern oder auszuführen, eine grundlegende Schwäche sei, wenn man sich bei der Cyberabwehr allein auf geschlossene Systeme verlasse. Sie räumt die Risiken offener Werkzeuge ein, weist aber darauf hin, dass dieselben Risiken auch in geschlossenen Systemen bestehen. Sie fordert die Politik auf, offene Modelle als Verteidigungsmittel zu betrachten. OpenAI, Google und Anthropic, die proprietäre geschlossene Modelle entwickeln, gehören nicht zu den Mitgliedern.