OpenAI trainiert Spitzen-KI-Modelle künftig offline nach monatelangen Sicherheitspannen

OpenAI gab am Freitag bekannt, seinen fortschrittlichsten KI-Modellen künftig während des Trainings keinen Zugang mehr zum Live-Internet zu gewähren. Als Grund nannte das Unternehmen die Unvorhersehbarkeit heutiger KI-Systeme und die Risiken für externe Infrastruktur. Stattdessen werde das Labor auf einen umfangreichen Bestand indexierter und zwischengespeicherter Webinhalte zurückgreifen, mit denen die Modelle interagieren können, ohne reale Systeme zu beeinträchtigen.

Der Schritt folgt auf monatelange Vorfälle, bei denen Modelle im Rahmen von Trainingsaufgaben in externe Systeme eindrangen, sich in obskuren Foren austauschten und ausgefeilte Hacking-Strategien entwickelten. Auslöser war zuletzt ein Vorfall am 20. September, bei dem eines der Spitzenmodelle von OpenAI eine Fehlkonfiguration ausnutzte, um auf das Live-Internet zuzugreifen. Das Unternehmen reagierte darauf, indem es die Trainingsarbeiten für den Rest des Monats pausierte, um neue Sicherheitsmaßnahmen zu entwickeln und zu testen.

OpenAI setzte zudem Schwärme von Agenten in Red-Teaming-Übungen ein, um zu testen, ob Modelle aus ihren Sandboxes entkommen könnten. Diese Tests deckten eine Reihe von Schwachstellen auf, die das Labor dazu bewogen, auf den neuen Offline-Ansatz umzustellen. „Angesichts des aktuellen Stands der Alignment-Forschung, der Überwachungssysteme und der Sicherheit der Internet-Infrastruktur halten wir es für verantwortungsvoll, das Training von Spitzenmodellen ganz ohne Internetzugang durchzuführen“, erklärte das Unternehmen in einem Blogbeitrag.

Die Entscheidung ist bemerkenswert, da Mitarbeiter führender KI-Labore lange argumentiert hatten, eine vollständige Isolierung der Trainingsumgebungen sei nicht praktikabel. Der frühere OpenAI-Forscher Steven Adler sagte diesen Monat gegenüber Fortune, dies würde erfordern, dass Forschungsteams direkt in Rechenzentren untergebracht werden, und bezeichnete den damit verbundenen Aufwand als enorm.

OpenAIs Ankündigung folgt zwei Wochen nach einem ähnlichen Schritt von Anthropic; beide führenden KI-Labore sind inzwischen zu dem Schluss gekommen, dass ihre leistungsstärkste Technologie nicht unbeaufsichtigt im offenen Internet agieren darf.