Proteste gegen KI: Zuletzt gab es immer wieder Demonstrationen gegen OpenAI, Anthropic oder Google DeepMind. Hier: Demonstration in San Francisco am 11. Juli. © Karl Mondon/AFP
München – Philipp Slusallek aus Saarbrücken ist einer der führenden KI-Forscher. Am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) beschäftigt er sich mit den Folgen der Technologie. Wir sprachen mit ihm über den von OpenAI veröffentlichten Vorfall, wonach ein KI-Modell unkontrolliert einen Hackerangriff durchgeführt hat (siehe auch Artikel rechts).
Können Sie einmal für Laien erklären, was bei OpenAI passiert ist?
Es gibt eine Plattform, die heißt Hugging Face. Hier kann man KI-Modelle hoch- und runterladen. Jetzt hatte diese Plattform festgestellt, dass es einer KI gelungen war, sich über einen Softwarefehler ins System zu hacken.
Mit welchen Folgen?
Das war nicht wirklich schlimm. Ein paar Daten wurden abgegriffen, ansonsten entstand kein Schaden. Das Spannende ist, dass diese KI von verschiedenen Rechnerstandorten aus angegriffen hat.
Jetzt stellt sich heraus, dass der Angriff von OpenAI ausgeführt wurde, weil ein Experiment aus dem Ruder gelaufen ist.
Bislang haben wir leider nur die Informationen von OpenAI selbst. Demnach hatte OpenAI einen internen Testlauf gestartet, um die Fähigkeiten ihrer KI-Systeme zu testen.
Was war das Besondere an diesem Test?
Es handelte sich um ein agentisches System. Das heißt, man lässt mehrere KI-Modelle zusammenarbeiten, um sich in Systeme zu hacken, mit dem Ziel, Sicherheitslücken zu finden.
Was ist dann passiert?
Das System hat herausgefunden, dass es die Aufgabe besser lösen kann, wenn es auf Informationen zugreift, die auf Hugging Face lagen. Also hat die KI die Schutzschicht bei Open AI angegriffen.
Wie muss man sich das vorstellen?
Die KI ist eigentlich in einem Gefängnis eingeschlossen, aus dem sie aus Sicherheitsgründen nicht herausdarf. In diesem Fall hat die KI aber einen Fehler in der Software gefunden und konnte sich auf Rechner von OpenAI reinhacken – und einer der Rechner hatte Internetzugang.
Und hat dann Hugging Face angegriffen?
Ja, allerdings nicht nur vom OpenAI-Rechner aus. Die KI hat über das Internet scheinbar auch andere Rechner gekapert, um von dort aus Angriffe auszuführen.
Kann das schon mal passieren, oder sehen Sie in dem Vorfall eine ernste Gefahr?
Ich sehe definitiv eine ernste Gefahr. Der Fall zeigt, dass KI-Systeme inzwischen so mächtig und schnell geworden sind, dass sie aus ihrem Käfig ausbrechen können. Sie können über das Internet andere Rechner kapern. Wenn man jetzt davon ausgeht, dass viele Rechner unerkannte Schwachstellen haben, wird klar, wie groß die Gefahr ist. Auch haben wir gesehen, dass eine KI eine Aufgabe, die man ihr stellt, womöglich ganz anders löst, als ursprünglich vorgesehen. Plötzlich tut sie Dinge, die sie nicht tun sollte.
Spontan fallen einem viele Dinge ein, die angegriffen werden könnten: Militäreinrichtungen, Banken – die Schäden in der realen Welt könnten gigantisch sein.
Mir zeigt der Fall bei OpenAI vor allem, dass selbst eine Firma, die Sicherheitsgrenzen gezogen hat, nicht in der Lage ist, die KI einzugrenzen. OpenAI hat ja nichts Böses vorgehabt. Aber was, wenn jemand tatsächlich etwas Böses plant? Wir haben jetzt eine KI gesehen, die sich offenbar frei im Internet bewegt und von einem Rechner zum anderen hüpft. Wenn wir es mit einer bösartigen KI zu tun gehabt hätten, wäre das Ding womöglich nur noch schwer zu stoppen gewesen.
Es hätte auch nichts gebracht, im zentralen Rechenzentrum den Stecker zu ziehen? Am Ende ist jedes KI-Modell immer abhängig von elektrischem Strom.
In dem Fall hätte das nichts gebracht, weil die KI längst andere Rechner gekapert und von dort operiert hat. Wir sind jetzt an einem Punkt angelangt, wo man der KI in bestimmten Situationen nicht mehr einfach den Stecker ziehen kann.
Das klingt besorgniserregend.
Das ist absolut so und muss ein Weckruf an alle sein, vor allem an die Politik. Wir dürfen eines aber auch nicht vergessen: Aktuell müssen wir bei Informationen von OpenAI auch ein bisschen vorsichtig sein.
Warum?
OpenAI plant einen Börsengang, selbst mit solchen Nachrichten wie die vom ungewollten Angriff kann man die KI als stärker darstellen als sie am Ende womöglich ist. Aber der Angriff hat definitiv so stattgefunden und daher dürfen wir die Gefahren auf keinen Fall unterschätzen.
Wie könnte man sich wehren?
Momentan hilft uns noch, dass diese KI-Modelle sehr groß sind und nicht auf jedermanns Router oder PC laufen können. Das heißt, noch beschränkt sich das Problem auf relativ große Rechner-Infrastrukturen.
Und die Politik?
Wir plädieren seit Jahren dafür, dass es für KI Garantien geben muss, in denen definiert ist, was KI darf und was nicht – also Trusted-AI. In Deutschland brauchen wir etwa ein KI-Sicherheitsinstitut, zu dem wir als DFKI Vorschläge gemacht haben. Das wird jetzt zum Glück auch diskutiert. Auf europäischer Ebene brauchen wir eine Art Cern für KI – was in der Teilchenphysik gelungen ist, nämlich die besten Forscherinnen und Forscher an einem Ort zusammenzuziehen, müssen wir auf die KI übertragen. Außerdem brauchen wir Verteidigungs-KIs, um andere KI-Systeme einzugrenzen. Das klingt ein wenig absurd, aber es scheint nötig zu sein.
Wer wird KI-Modelle für Angriffe nutzen? Kriminelle Organisationen, denen es ums Geld geht, oder Staaten wie Russland oder China, die womöglich über größere Rechenpower verfügen?
Momentan sind es eher die staatlichen Akteure. Russland vermutlich weniger, eher China. China ist in der KI-Forschung sehr weit. Interessanterweise konnte aber ausgerechnet der aktuelle Fall bei OpenAI mithilfe einer chinesischen KI gelöst werden.
Wie das?
Die angegriffene Plattform Hugging Face hat eine offene chinesische KI heruntergeladen, um die mehr als 17.000 Einzelangriffe erfolgreich zu analysieren. Hier muss man sagen, dass wir in Europa – und eben auch Hugging Face – aktuell weitgehend von den großen amerikanischen KI-Modellen abhängig sind, die Donald Trump vor Kurzem für alle Nichtamerikaner hat abschalten lassen.
Momentan sieht es so aus, dass die KI in den USA kapitalmarktgetrieben ist, in China ist KI stark von staatlicher Kontrolle geprägt und Europa bastelt an einer regulierten KI. Wie wird die Zukunft aussehen?
In Europa, das muss man einfach sagen, sind wir deutlich hintendran. Immerhin soll es jetzt große Investitionen bei Mistral AI in Frankreich geben, allerdings mit Microsoft als Partner. Ziel muss aber sein, dass wir in Europa eine eigene KI-Souveränität entwickeln. In Zukunft sollten wir weder von China noch von den USA abhängig sein.