KI-Leak? Unbekannte haben Zugriff auf gefährliches Claude-Modell

Anthropic steht unter Druck: Laut einem Bericht der Nachrichtenagentur Bloomberg sollen Unbekannte bereits seit dem ersten Tag Zugriff auf das streng geschützte KI-Modell "Claude Mythos Preview" gehabt haben – obwohl es eigentlich nur ausgewählten Sicherheitsfirmen vorbehalten ist.

Zugriff offenbar über Umwege erlangt

Wie Bloomberg berichtet, soll eine Gruppe von Personen das System unbemerkt genutzt haben. Der Zugang sei über mehrere Schritte erfolgt – unter anderem durch eine Person mit Zugriff auf interne Tools eines Dienstleisters.

Zusätzlich habe die Gruppe laut Bericht die Internetadresse des Modells anhand bekannter Muster erraten. Seitdem sei "Mythos" regelmäßig genutzt worden, etwa für einfache Aufgaben wie das Erstellen von Webseiten.

Die Beteiligten hätten laut Bloomberg betont, das System nicht für sicherheitskritische oder schädliche Zwecke einzusetzen.

Warum das KI-Modell als "gefährlich" gilt

Anthropic hatte "Claude Mythos Preview" erst rund zwei Wochen vor dem Vorfall vorgestellt. Das Unternehmen bezeichnete das Modell selbst als so leistungsfähig, dass ein breiter Zugang zu riskant wäre.

Demnach soll die KI bereits Tausende sogenannte Zero-Day-Sicherheitslücken identifiziert haben – also bislang unbekannte Schwachstellen in Software. Laut Hersteller betreffe das große Betriebssysteme und Internetbrowser.

Besonders brisant: Die KI sei laut Anthropic in der Lage, funktionierende Exploits – also Angriffsprogramme – zu entwickeln und mehrere Schwachstellen miteinander zu kombinieren.

Branche reagiert mit Sicherheitsprojekt

Im Rahmen des Projekts "Glasswing" arbeitet die IT-Sicherheitsbranche laut Angaben daran, diese Schwachstellen zu schließen, bevor vergleichbare KI-Systeme breiter verfügbar werden. Ziel ist es, mögliche Missbrauchsrisiken frühzeitig einzudämmen.

Anthropic relativiert Vorfall

Anthropic erklärte laut Bloomberg, den Bericht prüfen zu wollen. Gleichzeitig betonte das Unternehmen, es gebe keine Hinweise darauf, dass interne Systeme betroffen seien.

Der Zugriff habe sich demnach auf eine Umgebung eines Drittanbieters beschränkt und keine weitergehenden Auswirkungen gehabt.

Wachsende Sorgen um KI-Sicherheit

Der Vorfall zeigt, wie schwierig es offenbar ist, den Zugang zu besonders leistungsfähigen KI-Systemen vollständig zu kontrollieren.

Regierungen und Unternehmen beschäftigen sich zunehmend mit den Risiken solcher Technologien – insbesondere im Bereich Cybersicherheit und Finanzsysteme. Sollte ein solches System missbraucht werden, könnten die Folgen erheblich sein.

(VOL.AT)