Apple prüft von KI-Modell Claude Mythos entdeckte macOS-Sicherheitslücke

Das mit großen Erwartungen gestartete KI-Modell Claude Mythos, das im Rahmen von „Project Glasswing“ zur Entdeckung von Sicherheitslücken eingesetzt wird, hat eine kritische Schwachstelle in macOS aufgespürt. Allerdings nicht bei Tests durch Apple, sondern durch eine externe Sicherheitsfirma. Das Unternehmen Calif aus Palo Alto nutzte demnach Vorschläge einer frühen Version von Mythos, um zwei Sicherheitsfehler und mehrere Verfahren zu kombinieren und so Speicherfehler zu provozieren. Dadurch gelang dem Team eine Rechteausweitung im System.

Wie weit Angreifer mit einem solchen Exploit hätten vordringen können, ist bislang unklar. Details zu der Lücke wurden noch nicht veröffentlicht. Die Sicherheitsfirma bewertet das Problem jedoch als derart schwerwiegend, dass Mitarbeiter am vergangenen Dienstag persönlich zu Apple fuhren, wie das Wall Street Journal berichtet. Sie übergaben dem Konzern einen 55-seitigen Bericht. Der persönliche Besuch – beziehungsweise Apples Einladung dazu – gilt als außergewöhnlich.

Calif will die technischen Einzelheiten erst veröffentlichen, wenn Apple einen Patch entwickelt und intern getestet hat. Dies werde voraussichtlich schnell gehen, erklärte Thai Duong, Sicherheitschef von Calif. Apple selbst teilte dem Wall Street Journal mit, man untersuche die vorgelegten Informationen nun intensiv. Sicherheit habe höchste Priorität, potenzielle Lücken nehme man sehr ernst.

Der ehemalige Google-Sicherheitsforscher Michal Zalewski, der den Exploit von Calif analysieren konnte, bezeichnete die verwendete Technik als bemerkenswert. Dies gelte besonders vor dem Hintergrund der umfangreichen Schutzmaßnahmen, die Apple in macOS implementiert habe, so Zalewski. Von außen lasse sich der Vorfall derzeit nur schwer bewerten, da Calif nicht einmal angegeben habe, in welchem Systembereich die Schwachstellen liegen.

Es liegt jedoch nahe, dass die Probleme mit dem neuen Systemschutz Memory Integrity Enforcement (MIE) zusammenhängen. Diese Technologie ermöglicht auf neueren Apple-Chips einen deutlich verbesserten Speicherschutz. Sollte der Exploit tatsächlich MIE umgangen haben, wäre dies ein schwerer Schlag für Apples Sicherheitsarchitektur.

Anthropic hatte bei der Vorstellung von Mythos im Rahmen von Project Glasswing erklärt, das Modell habe in kurzer Zeit unter anderem über 100 schwerwiegende Fehler im Firefox-Browser entdeckt – viele davon wurden inzwischen behoben. Im Projekt erhielten ausgewählte Sicherheitsforscher wie Calif und große IT-Konzerne wie Apple Zugriff auf die „Cyber“-Fähigkeiten von Mythos. Seither ist ein Wettrennen um die meisten Bug-Funde entbrannt.

Anthropic ist mit diesem Ansatz nicht allein: Auch OpenAI und Google arbeiten an ähnlichen KI-Modellen beziehungsweise bieten sie bereits an. Der Exploit von Calif ließ sich allerdings nicht allein durch den Einsatz von Mythos umsetzen. Duong betonte, die Arbeit habe „sehr menschliche Cybersecurity-Expertise“ erfordert. Mythos gelinge es derzeit vor allem, bereits dokumentierte Angriffstechniken zu reproduzieren.

Der nun gefundene Exploit stelle jedoch eine neue Angriffstechnik dar, die zuvor nicht bekannt war, so die Sicherheitsfirma. Sollte sich dies bestätigen, wäre es ein Beleg dafür, dass KI-Modelle auch bei der Entdeckung originärer Schwachstellen helfen können – wenn auch noch unter intensiver menschlicher Anleitung. Die Sicherheitsbranche beobachtet die Entwicklung mit Spannung.

Apple hat noch keine Frist für die Behebung der Lücke genannt. Branchenkenner rechnen jedoch mit einem schnellen Patch, da die Schwachstelle als kritisch eingestuft wird und erste Analyseergebnisse bereits vorliegen. Bis zur Veröffentlichung des Updates wird Calif keine weiteren Details preisgeben.