Manchmal braucht es nicht einmal einen menschlichen Akteur mit schlechten Absichten für einen schweren Cybervorfall. Am Dienstag wurde bekannt, dass ein KI-System von OpenAI während eines Testlaufs aus der geschützten Umgebung „ausgebrochen“ ist und die Systeme eines anderen KI-Unternehmens kompromittiert hat. Der Testlauf sollte eigentlich zeigen, wie gut das KI-System hacken kann. Offensichtlich besser als die Entwickler dachten, denn aus dem Test wurde ein reales Schreckensszenario. Die beispiellose Aktion zeigt, wie autonom KI-Agenten mittlerweile agieren und die menschlich gesetzten Grenzen - und Sicherheitsmaßnahmen - überschreiten.
Jenseits dieses Vorfalls bei OpenAI ist KI auch bisher schon in den Händen von Cyberkrimininellen ein mächtiges Werkzeug, das mit recht wenig Aufwand gebraucht werden kann. Bisher nutzten Cyberkriminelle KI, um Phishing-Mails oder automatisierte Analysen zu erstellen. Mittlerweile können moderne Systeme aber Schwachstellen teilweise autonom erkennen, bewerten und sogar Exploits erzeugen - so ähnlich wie eben der KI-Agent von OpenAI agierte.
KI als unheilvolles Werkzeug in den Händen der Cyberkriminellen wird für Organisationen zu einem Wettlauf gegen die Zeit und einen unsichtbaren Feind. Während Angreifer durch KI von Geschwindigkeit, Automatisierung und Skalierung profitieren, müssen die „Verteidiger“ weiterhin organisatorische Prozesse, Freigaben, Wartungsfenster und begrenzte personelle Ressourcen berücksichtigen. Dadurch entsteht ein Ungleichgewicht, welches das Risiko eines erfolgreichen Angriffs erhöht und Schäden wahrscheinlicher macht. Selbst wenn Organisationen bei der Verteidigung ebenfalls auf KI-Tools setzen, bleibt es ein unfairer Kampf, der vor allem gute strategische Leitlinien und Disziplin braucht.
Das BSI empfiehlt in seiner Sicherheitsinformation „Auswirkungen auf die Cybersicherheit von Organisationen durch die Entwicklung im Bereich Künstlicher Intelligenz“ daher, die Angriffsfläche von Organisationen konsequent zu reduzieren, Schwachstellenmanagement und Patchprozesse deutlich zu beschleunigen sowie von der Grundannahme auszugehen, dass ein Angriff jederzeit stattfinden kann.
Was heißt das für Kommunen?
Informationssicherheit ist Chefsache und es gehört in den Verantwortungsbereich von Führungskräften, über folgende Faktoren (strategisch) zu entscheiden. Der Beauftragte für Informationssicherheit (BfIS) kann die Führungskräfte hierzu beraten und bei der operativen Umsetzung der getroffenen Entscheidungen koordinierend eingreifen. Er - oder sie - ist jedoch keinesfalls die erste - und einzige - Verteidigungstaktik gegen Cyberkriminelle.
Was sollten Führungskräfte denn nun in den Blick nehmen, um der neuen und stetig wachsenden Gefahr KI-gestützter Angriffsvektoren zu begegnen?
Informationssicherheit als Managementaufgabe etablieren
Informationssicherheit ist kein ausschließliches IT-Thema. Risikomanagement gehört auf die strategische Ebene und ist eine laufende Managementaufgabe, denn die Auswirkungen von KI verändern das Risikoprofil der gesamten Organisation und müssen auf Führungsebene bewertet werden. Dabei umfasst der Risikobegriff mehr als nur die technische Infrastruktur. Auch organisatorische Abläufe und "die menschliche Firewall" gehören in ein umfassendes Risikomanagement.
Reaktionsgeschwindigkeit anpassen
"Was lange währt, wird endlich gut." ist im Wettlauf mit KI-unterstützten Cyberattacken die falsche Taktik. Bisherige Patch- und Freigabeprozesse müssen überprüft werden. Das BSI geht davon aus, dass künftig Reaktionszeiten von wenigen Stunden statt Tagen oder Wochen erforderlich sein können. Eine ungepatchte Software wird zum Einfallstor, weil sie durch KI viel schneller und automatisierter zu erkennen und dann auch (automatisiert) auszunutzen ist. Welche Führungskraft würde denn tage- und nächtelang alle Fenster und Türen im Rathaus offen stehen lassen und sich dann wundern, wenn Kriminelle die Gelegenheit nutzen und „einbrechen“?
Transparenz über die Angriffsfläche schaffen
Organisationen müssen genau wissen, welche Systeme, Anwendungen, Cloud-Dienste und KI-Lösungen betrieben werden. Nicht bekannte Systeme oder „Schattensysteme“, die ohne offizielle Kenntnis und Genehmigung genutzt werden, stellen ein besonders hohes Risiko dar. Die „Inventur“ der technischen Infrastruktur muss regelmäßig durchgeführt werden und ein vollständiges Bild liefern. Nur so können Sicherheitsmaßnahmen zielgerichtet umgesetzt werden und das Sicherheitsniveau für die Organisation erhöhen.
Vom Worst-Case ausgehen
Optimismus oder Gutglauben sind kontraproduktiv. In Sicherheitsfragen gilt, immer vom Schlimmsten auszugehen und sich auf den GAU vorzubereiten. Wenn es weniger schlimm kommt, umso besser. Sicherheitsstrategien und Risikobetrachtungen sollten deshalb immer davon ausgehen, dass einzelne Systeme bereits kompromittiert sein könnten und dies nur noch nicht detektiert ist. Häufig bleiben erfolgreiche „Einbrüche“ lange unentdeckt, weil die Angreifer nicht sofort sichtbaren Schaden anrichten. Vielmehr nutzen sie die Zeit „unter dem Radar“, um sich in den kompromittierten Systemen in Ruhe umzusehen und einen lohnenden Angriff mit hohem Schadenspotenzial so vorzubereiten. Monitoring, Detektion und – wenn es Warnzeichen gibt – eine unmittelbare tiefer gehende Untersuchung gehören zum Tagesgeschäft eines aktiven Informationssicherheitsmanagements. Hier kann KI auch die Verteidiger unterstützen.
Es gibt kein Patentrezept, aber einen guten Mix
Eine gute Verteidigungsstrategie besteht aus vielen ineinandergreifenden und sich ergänzenden Maßnahmen. Dazu gehören beispielsweise Mehr-Faktor-Authentifizierung, Netzwerksegmentierung, kontinuierliches Schwachstellenmanagement, Backups, Security-Monitoring. Ebenso gilt es, die "menschliche Firewall" zu stärken und wehrhaft zu halten. Für alle Mitarbeiter der Organisation sollte es deshalb regelmäßige Formate geben, in denen sie für Risiken und Schutzmaßnahmen sensibilisiert werden. Das E-Learning-Angebot des Freistaates Sachsen bietet hier ein gutes Fundament und kann kostenlos genutzt werden. Die einzelnen Angebote finden Sie auf unserer Themenseite.
KI-Einsatz braucht ein stabiles Regelwerk
KI zu nutzen, kann den Arbeitsalltag erleichtern. Allerdings bringt diese Technologie auch neue Risiken mit sich. Durch die rasanten Entwicklungssprünge fällt es Organisationen oft schwer, Schritt zu halten. Ohne Regeln, wie KI eingesetzt wird, der Datenschutz und die Informationssicherheit gewahrt bleiben und KI-bezogene Angriffsvektoren bewertet werden, ist jedoch ein erfolgreicher Angriff fast garantiert. Zu denken, dass die eigene Organisation doch kein lohnendes Angriffsziel sei, verkennt das Bedrohungspotenzial automatisierter Angriffe.
Fazit
Die zentrale Botschaft, welche die Sicherheitsinformation des BSI einmal mehr betont, lautet: KI beschleunigt die Cyberbedrohung schneller als viele Organisationen ihre Sicherheitsprozesse anpassen können. Für Führungskräfte bedeutet dies, Cybersicherheit als strategisches Risiko zu behandeln, Prozesse zu beschleunigen und die organisatorische Resilienz deutlich zu erhöhen. Das Prinzip Hoffnung, es möge die eigene Organisation nicht treffen, ist keine Sicherheitsstrategie.
Ein Blick in die kommunale Praxis
Zum diesjährigen Netzwerktreffen spielt das Thema Informationssicherheit auf der Bühne und im interaktiven Nachmittagsformat eine Rolle. Eine kleine Kommune berichtet, wie man KI-gestützt den Überblick behält und zwei Digital-Navigatoren stehen Rede und Antwort, ob eine Cyberversicherung alles besser – bzw. sicherer – macht. Digital-Navigatoren können sich hier zum Netzwerktreffen noch anmelden.