OpenAI‘s KI-Modelle brachen aus ihrer Testumgebung aus und griffen tagelang Hugging Face an. © IMAGO/Thomas Fuller
Berlin – Nach den jüngsten Sicherheitsvorfällen bei führenden KI-Unternehmen rechnen deutsche Behörden mit einer Verschärfung der Bedrohungslage im Cyberraum. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) erwartet einen zunehmenden Missbrauch leistungsfähiger Systeme für Künstliche Intelligenz (KI). Die Modelle führender Entwickler hätten zuletzt deutlich gezeigt, dass solche Modelle „großes Potenzial im Auffinden von Schwachstellen“ haben, sagte ein BSI-Sprecher dem „Handelsblatt“. Zugleich seien sie inzwischen in der Lage, auf Grundlage entdeckter Sicherheitslücken erfolgreiche Angriffe auszuführen.
Das US-amerikanische Unternehmen OpenAI hatte kürzlich bekannt gemacht, dass ein eigener KI-Agent während eines Sicherheitstests aus dem Testumfeld ausgebrochen sei, sich selbstständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face unternommen habe. Es habe sich um einen „nie da gewesenen Cybervorfall“ gehandelt, erklärte das Unternehmen.
Zudem gab der Rivale Anthropic vergangene Woche bekannt, dass seine KI-Modelle sich bei einem Test „unbefugten Zugriff“ auf die Systeme von drei Organisationen verschafft hätten. Sie hätten sich aber nicht aus der Testumgebung hinausbewegt.
Laut BSI ist davon auszugehen, dass Cyberkriminelle versuchen werden, das Potenzial von KI-Modellen im Auffinden von Schwachstellen auszunutzen. Nach Einschätzung des BSI begrenzen derzeit allerdings noch der hohe Rechenaufwand und die Kosten den Einsatz besonders leistungsfähiger Modelle durch Kriminelle. Mit sinkenden Hardwarekosten und effizienteren KI-Systemen dürfte diese Hürde jedoch fallen.
Wie das BSI verweist auch der Verfassungsschutz auf die Chancen der Technologie für die Verteidigung. KI sei „nicht nur ein Werkzeug für Angreifer, sondern ebenso ein unverzichtbarer Bestandteil moderner Verteidigungsstrategien“, etwa beim frühzeitigen Erkennen von Anomalien.