Im Juli sind KI-Agenten des OpenAI-KI-Modells "ChatGPT" aus einer sicheren Testumgebung ausgebrochen und haben ohne vorherige Anweisung eine andere Plattform angegriffen. OpenAI veröffentlichte daraufhin ein Statement, in dem das Unternehmen von einem "Warnschuss" für das Unternehmen und die ganze Welt sprach. Diese Woche machte OpenAI weitere Zwischenfälle öffentlich, bei denen sich Künstliche Intelligenz (KI) in Tests "unerwartet oder besorgniserregend" verhielt. Bei einem Teil davon geht es darum, dass KI einen erheblichen Aufwand eingeht, um in Testläufen quasi zu schummeln.
"Das war hochgefährlich" OpenAI-Vorfall: Interview über den KI-Hackerangriff mit einem Experten aus Kaiserslautern
Eine Künstliche Intelligenz der Firma OpenAI hat selbstständig einen Hackerangriff durchgeführt. Wir haben darüber mit einem Wissenschaftler des DFKI in Kaiserslautern gesprochen.
KI-CEOs mahnen zu langsamerer Entwicklung von KI-Modellen
Am vergangenen Wochenende warnte der Chef des KI-Unternehmens Anthropic, Dario Amodei, in einem Essay die gesamte KI-Branche, das Tempo bei der Entwicklung der leistungsfähigen Modelle zu verlangsamen. Ungewöhnlich war, dass sich auch Tesla-Chef Elon Musk und OpenAI-CEO Sam Altman in Social-Media-Posts an die Seite von Amodei stellten. OpenAI verschob sogar den eigenen Börsengang.
Gefahr durch KI: Das sagen Unternehmen in BW
Die DenkBox GmbH aus Böblingen entwickelt lokale KI-Lösungen für kleine und mittelständische Unternehmen. Gründer und Geschäftsführer Hannes Planatscher sieht das besonders relevante Risiko beim Einsatz autonomer KI-Agenten ohne ausreichende Kontrolle. Solche Systeme könnten "selbstständig Werkzeuge benutzen, Programme ausführen, auf Daten zugreifen oder Aktionen im Internet durchführen". Moderne KI-Modelle hätten zugleich Fähigkeiten, "die auch bei Cyberangriffen verwendet werden" könnten.
Wirtschaftlich warnt er vor "einer zu großen Abhängigkeit von einzelnen amerikanischen oder chinesischen KI-Anbietern". Gleichzeitig sieht er aber auch große Chancen. Entscheidend sei es, das Wissen aus BW-Unternehmen nur KI-Systemen anzuvertrauen, über deren Daten und Zugriffsrechte "das Unternehmen die Kontrolle behält". KI-Agenten sollten durch begrenzte Rechte, Kontrolle kritischer Aktionen und Schulungen der Mitarbeitenden abgesichert werden. "Die Risiken von KI sind real, aber aus unserer Sicht technisch beherrschbar", sagt der DenkBox-Geschäftsführer.
Das in Metzingen (Kreis Reutlingen) ansässige Unternehmen Neura Robotics, das KI-basierte Robotiklösungen entwickelt, sieht KI in erster Linie als Chance für den Industriestandort Baden-Württemberg. Physical AI könne helfen, dem Fachkräftemangel zu begegnen und die Wettbewerbsfähigkeit der Region zu sichern, sagt PR-Managerin Christine Bachmeyer auf SWR-Anfrage. Das größte wirtschaftliche Risiko liege weniger in der Technologie selbst als im Tempo der Anpassung: Wer zu langsam sei, verliere den Anschluss.
Das Thema KI-Sicherheit nehme das Unternehmen sehr ernst, sowohl im direkten Umgang mit Menschen als auch bei der digitalen Absicherung der Systeme. "Cybersicherheit ist für uns Teil der Maschinensicherheit: Wir orientieren uns an Standards wie der EU-Maschinenverordnung und dem Cyber Resilience Act und setzen auf europäische Cloud-Infrastruktur für sensible Daten", so Neura Robotics.
Amodei warnt - aber schlägt auch Maßnahmen vor
Anthropic-Chef Amodei warnte in seinem Statement außerdem vor "ernsthaften Risiken" für Menschen und rief branchenweit dazu auf, die Modelle langsamer zu entwickeln, um der Forschung ein bis zwei Jahre Zeit für wirksame Sicherheitsvorkehrungen zu verschaffen.
Unter anderem regte er an, unabhängige Prüfer direkt in die Unternehmen zu lassen, internationale Standards zu vereinbaren und vorsichtiger bei Systemen zu sein, die sich selbstständig ohne Aufsicht weiterentwickeln.
Stuttgarter AI-Forscher hält Maßnahmen für sinnvoll, aber äußert Zweifel an Umsetzung
Thilo Hagendorff ist Leiter der Forschungsgruppe "AI Safety, Interchange Forum for Reflecting on Intelligent Systems" der Universität Stuttgart. Er sagt zu Amodeis Ansätzen im Science Media Center: "Die Richtung stimmt. An der Umsetzung der Forderung habe ich trotzdem Zweifel." Amodei knüpfe sein eigenes Konzept an die Bedingung, dass die USA ihren Vorsprung vor China ausbaue. Ein nationales KI-Wettrüsten und eine koordinierte Verlangsamung passen aber schlecht zusammen, so Hagendorff. Seine Einschätzung: "Sicherheitsprüfungen brauchen Zeit, und die technische Entwicklung ist derzeit schneller, als Prüfungen ‚hinterherhinken‘ könnten."
Nach Ansicht von Hagendorff droht weniger ein plötzlicher, weltweiter Zusammenbruch, sondern eher ein schleichender Kontrollverlust. "Der KI-Kontrollverlust ist kein einzelnes Ereignis", warnte der Stuttgarter Forscher. Wenn Menschen immer mehr Entscheidungen an selbstständig handelnde Softwareschwärme übertragen, fehlten irgendwann die Zeit und die technischen Mittel, diese wieder einzufangen.
Auswirkungen auf die Wirtschaft in Europa und den USA
Die Forderungen nach einer verlangsamten Entwicklung wirkten sich Anfang der Woche in Asien aus, wo vor allem die Börse in Seoul mit den Aktien von "SK Hynix" und "Samsung" darunter litt. Die Bewegung schwappte aber auch nach Europa und in die USA über.
Aus dem DAX wurden zum Start der Woche die Titel der KI-Profiteure "Siemens Energy", "Infineon" und "Hochtief" bis zu fünf Prozent tiefer gehandelt. Am breiteren Markt erwischte es die Aktien von Chip-Branchenausrüstern wie "Aixtron", "Suss Microtec" und "Jenoptik" mit Abgaben von bis zu sechs Prozent ebenfalls deutlich. Die Papiere des US-Halbleiterkonzerns "Micron" fielen vorbörslich um vier Prozent. Mittlerweile haben sich die Kurse von dem kurzen Schock aber wieder erholt.
"Es stellt sich nun die Frage, ob ein vorsichtigeres Entwicklungstempo bei KI die Investitionen entlang der gesamten Wertschöpfungskette bremsen und damit die hohen Gewinnerwartungen der Branche gefährden könnte", kommentierten die Experten der Landesbank Baden-Württemberg (LBBW). Die Nachfrage nach Rechenleistung und Infrastruktur bleibe hoch, doch gerade wegen ihrer Bewertung seien Technologiewerte anfällig für Zweifel an den gewaltigen Investitionssummen.
