Der jüngste KI-Hack auf ein Softwareunternehmen in den USA sorgt weltweit für Diskussionen. Bei einem Test von KI-Modellen des Chat-GPT-Entwicklers "OpenAI" ist es zu einem Zwischenfall gekommen: Die Software drang eigenständig in Computersysteme einer anderen Firma ein und verhielt sich dabei wie ein Hacker. War so ein Angriff vorhersehbar – und trifft das auch deutsche Unternehmen? Antworten gibt Sachar Paulus, IT-Experte und Professor für Informatik mit Schwerpunkt IT-Sicherheit an der Technischen Hochschule Mannheim. Im Interview bewertet er die Lage und nennt konkrete Schutzmaßnahmen.
SWR Aktuell: Herr Paulus, was waren Ihre ersten Gedanken, als Sie von dem unkontrollierten Hackerangriff einer KI in den USA gehört haben?
Sachar Paulus: Mein erster Gedanke war: Das war ja klar, dass das jetzt kommen muss. Es war überhaupt nicht überraschend und das Zweite war: Wen haben die denn da drangesetzt, die Testumgebung [kontrollierter Bereich, in dem Softwareprodukte entwickelt und getestet werden] aufzusetzen und zu konfigurieren? Die wissen doch selbst, was die KI kann. Wie konnte das passieren, dass die so eine "Miss-Konfiguration" vorgenommen haben, die durch die eigene KI überwunden werden kann?
SWR Aktuell: Das heißt, jemand war sehr unvorsichtig?
Paulus: Ja, ich denke schon. Aus meiner Sicht hätte das nicht passieren dürfen und das hätte auch nicht passieren sollen. Wenn ich als Unternehmen so eine Software entwickle und einsetze und weiß um die Möglichkeiten, dann muss ich natürlich auch die Testumgebung geeignet entsprechend aufsetzen, dass da nichts nach draußen gehen kann.
SWR Aktuell: Ist denn in Deutschland zu erwarten, dass eine KI derart außer Kontrolle gerät und hier Unternehmen angreift?
Paulus: Grundsätzlich ja. KI-Forscher haben ja vor ungefähr einem dreiviertel Jahr prognostiziert, dass es zu starken Angriffen kommen wird, dass die KIs einen Kompetenzsprung erlangen werden, im Angreifen von IT-Systemen. Also: Ja, das kann auch in Deutschland passieren.
SWR Aktuell: Wie groß ist die Gefahr für Unternehmen?
Paulus: Wenn man in Richtung Angreifer schaut, würde ich sagen: das wird früher oder später sowieso gang und gäbe sein, dass Angriffe vollautomatisiert ablaufen und Menschen das nur noch über ein Dashboard [Kontrollansicht oder Übersichtsmenü] steuern und kontrollieren. Erste Ansätze gibt es ja heute auch schon. Und wenn man Richtung Unternehmen schaut, die sich versuchen zu schützen, denen kann man nur sagen: Sie müssen sich entsprechend auf diese neue Form der Angriffe einstellen. Wir brauchen schnelle Reaktionsfähigkeiten und bessere Absicherung. Alles, was wir seit Jahren in der IT-Sicherheit an Empfehlungen geben in Bezug auf E-Mail-Sicherheit, starker Authentifizierung, Schutz des Endgeräts – das sind alles Maßnahmen, die jetzt noch dringender umzusetzen sind.
SWR Aktuell: Wie gut sind die Unternehmen in der Rhein-Neckar-Region geschützt vor Hacker-Angriffen durch eine außer Kontrolle geratene KI?
Paulus: Die Unternehmen in der Region sind verhältnismäßig gut aufgestellt. Die meisten nehmen IT-Sicherheit heute schon sehr ernst, haben auch entsprechende Prozesse, Maßnahmen und Technologien im Einsatz, die dem Stand der Technik entsprechen. Es gibt ein paar Sachen, die oft aufgrund der damit verbundenen Unbequemlichkeiten noch nicht angegangen werden. Zum Beispiel: Ich bräuchte eigentlich die Zwei-Faktor-Authentifizierung, um die Mitarbeitenden zu authentifizieren. Die meisten machen das schon, aber manche eben noch nicht und da wäre aus meiner Sicht noch ein bisschen Nachholbedarf.
SWR Aktuell: Abgesehen davon, was raten Sie Unternehmen? Wie kann man sich noch besser schützen?
Paulus: Sicherlich wäre es gut, sich mit dem Thema IT-Angriffe über KIs grundsätzlich zu beschäftigen, sich damit auseinanderzusetzen und auch insgesamt das Thema Cyber-Sicherheit und Angriffsschutz zu professionalisieren und dahingehend auch die Prozesse zu beschleunigen. Bei allem, was schon gut läuft, ist bei vielen das sogenannte "IT Incident Management" oft noch unterentwickelt. Es gibt keine Bereitschaftsdienste am Wochenende zum Beispiel, wenn so ein Angriff stattfindet.
