Inwiefern verschärft Künstliche Intelligenz (KI) die Bedrohungslage im Cyberspace? Kann sich jetzt jeder Laie mittels KI einen Verschlüsselungstrojaner erstellen und Unternehmen bedrohen? Ist dank ChatGPT & Co. jeder auch ohne Vorkenntnisse ein Hacker? Klar ist: KI-Technologien sind für jeden zugänglich – auch für Cyberkriminelle. Damit sinkt nicht nur die Einstiegshürde, sondern es steigern sich zudem Geschwindigkeit, Umfang und Wirksamkeit von Angriffen im Cyberspace. Das stellt das Bundesamt für Sicherheit in der Informationstechnik (BSI) fest. Insbesondere im Social Engineering und bei der Generierung von Schadcode nimmt die Nutzung von KI zu böswilligen Zwecken zu. [1]

Unternehmen schätzen KI als gefährlich ein

KI kann selbst für Fremdsprachler*innen nahezu perfekt klingende Phishing-Nachrichten verfassen, Schadcodes programmieren oder IT-Sicherheitsmaßnahmen gekonnt umgehen. Diese Anwendungsbeispiele für Künstliche Intelligenz bereiten vor allem Unternehmen große Sorgen. Laut aktueller Studie des Branchenverbands der deutschen Informations- und Telekommunikationsbranche Bitkom e. V. schätzt ein Großteil der mehr als 1.000 befragten Unternehmen (57 Prozent) Künstliche Intelligenz als Gefahr für die IT-Sicherheit ein. Und nur 35 Prozent sehen ihren Nutzen vornehmlich in der Abwehr von Cyberangriffen. [2]

Dabei sind viele weitere bösartige Anwendungen von Künstlicher Intelligenz denkbar, z. B.

• Identifizierung von Schwachstellen und Patch-Bedarf in der IT-Infrastruktur,
• Verbesserung von Schadprogrammen,
• Sabotage von KI mit feindlichen Trainingsdaten und
• Aushebelung der Gegenmaßnahmen von „guter“ KI gegen Angriffe.

„Böse“ KI: Beispiel Deepfakes

Ein KI-Anwendungsbeispiel für böswillige Zwecke sind sogenannte Deepfakes. Dabei können Gesichter und Stimmen auf Bildern oder in Video- und Tonaufzeichnungen gefälscht werden – beispielsweise die von Prominenten oder Politiker*innen. So ermöglicht es KI, Identitäten zu manipulieren, Fake News zu verbreiten oder biometrische Systeme hinters Licht zu führen.

 KI generiert Malware

Bereits heute sind KI-Sprachmodelle dazu in der Lage, einfachen Schadcode für Malware zu verfassen. Künstliche Intelligenz ist auch dazu fähig, Malware automatisch zu generieren und zu mutieren. Teile eines Cyberangriffs können damit bereits automatisiert ablaufen; allerdings ist eine vollständige Angriffsautomatisierung aktuell noch nicht verfügbar.

KI-Anwendungen als Instrument der IT-Security

Künstliche Intelligenz kann aber auch Spam-Mails aus dem Postfach herausfiltern, verdächtige Kommunikation auf Servern erkennen und frühzeitig vor Bedrohungen warnen. Sprich: Alle Funktionen und Verfahren der KI, die sich gegen die Cybersicherheit richten können, können umgekehrt auch für die IT-Sicherheit eingesetzt werden. Wurden bislang vor allem reaktive IT-Security-Konzepte verfolgt, sorgt Künstliche Intelligenz nun dafür, dass Bedrohungen automatisch analysiert, dokumentiert und abgewehrt werden. Zudem setzen bereits zahlreiche Anbieter KI-Komponenten in ihrer Cyber-Security-Software ein.

Anwendungsbeispiele „guter“ KI

Auch bei der Erkennung von Cyberattacken kann KI zum Einsatz kommen: Da die Aufzeichnung und Analyse der Netzwerkkommunikation ein immenses Datenvolumen und eine Vielzahl potenzieller Angriffsalarme produzieren, können KI-Systeme bei der automatisierten Auswertung unterstützen. Weitere KI-Anwendungen für die IT-Sicherheit sind beispielsweise

• Detektion von Botnetzen,
• Identifizierung von Schwachstellen innerhalb des Netzwerks,
• Aufdeckung und Blockade von Spear-Phishing-Attacken,
• Optimierung von Antiviren-Programmen oder Anomalie-Erkennungs-Systemen und
• die Identifizierung von Schattendaten.

KI als Code-Optimierer

KI kann gewinnbringend als Code-Optimierer im Sinne des „Security by Design“-Gedankens eingesetzt werden und bereits während der Software-Entwicklung nach Schwachstellen innerhalb des Programmcodes suchen. KI-basierte Schwachstellen-Scanner erkennen sowohl bekannte Lücken in der IT-Sicherheit als auch wiederkehrende Muster.

KI automatisiert die Angriffsabwehr

Eine KI-gestützte Risikoanalyse kann zudem Zusammenfassungen von Vorfällen für aussagekräftige Warnmeldungen erstellen und die Reaktion auf Vorfälle automatisieren. So wird die Auswertung um bis zu 55 Prozent beschleunigt. Denkbar sind auch KI-Systeme, die zukünftige Ereignisse und Risiken voraussagen können.

Grenzen von KI in der IT-Security

Es zeigt sich: KI verfügt über großes Potenzial, die Cybersicherheit voranzubringen. Aber auch hier gibt es Grenzen – zumindest vorerst. Eine Einschränkung Künstlicher Intelligenz liegt in der Genauigkeit ihrer Ergebnisse. Generative KI-Systeme wie ChatGPT können zwar plausibel klingende Antworten produzieren, haben aber oft Schwierigkeiten, präzise und vertrauenswürdige Ergebnisse zu liefern. Zudem erfordert es eine komplexe Folge von Maßnahmen, um einen Cyberangriff zu stoppen und abzuwehren. Der derzeitige Stand der KI-Technologie ist an dieser Stelle noch nicht ausgereift.

Darüber hinaus können KI-Systeme zwar Antworten auf Basis bestehender Informationen generieren, es fehlt ihnen aber die menschliche Problemlösungsfähigkeit. Aufgrund dieses Mankos an echter menschlicher Intelligenz sind derzeitige generative KI-Technologien nur bedingt dazu geeignet, anspruchsvolle IT-Sicherheitsprobleme zu lösen.

Unternehmen können KI aber einsetzen, um zuverlässige Verbindungen zu ihrem Endgerätepool herzustellen und datengesteuerte Sichermaßnahmen zu praktizieren. KI spielt demnach bereits eine wichtige Rolle bei der Optimierung der IT-Security, kann und sollte aber die Beteiligung menschlicher Intelligenz vorerst nicht komplett ersetzen.

Künstliche Intelligenz im Unternehmen: Es hapert an der Umsetzung

Laut Bitkom haben sich bislang lediglich 14 Prozent der befragten Unternehmen mit dem Einsatz Künstlicher Intelligenz zur Verbesserung der IT-Sicherheit beschäftigt. 24 Prozent wollen dies in naher Zukunft tun. 59 Prozent der Unternehmen haben sich in der Vergangenheit allerdings noch nicht damit auseinandergesetzt – und wollen es auch in Zukunft nicht tun. Bitkom empfiehlt den IT-Sicherheitsfachleuten jedoch deutlich, nicht auf die Fortschritte der Angreifer zu warten und sich bereits heute mit dem Einsatz von KI zu Zwecken der Cybersecurity auseinanderzusetzen. [3]

Dazu benötigen Unternehmen Instrumente, mit denen sie Daten von sowohl kompromittierten als auch von nicht kompromittierten Endpunkten sammeln und analysieren können. Das kann helfen, Anomalien aufzudecken und proaktive Strategien für die Abwehr zu entwickeln. Entscheidend dabei sind stabile Datenverbindungen zu diesen Endpunkten. Auch ein Cyber-Risiko-Check seitens eines IT-Partners markiert einen Startpunkt für mehr IT-Sicherheit im Unternehmen. Er dient der ersten Identifizierung potenzieller Risiken und Schwachstellen der technischen Infrastruktur und liefert Handlungsempfehlungen für die Optimierung der IT-Sicherheit.

[1] https://www.bitkom.org/Presse/Presseinformation/KI-Herausforderung-fuer-Cybersicherheit

[2] https://www.bsi.bund.de/DE/Service-Navi/Presse/Pressemitteilungen/Presse2024/240430_Paper_Einfluss_KI_Cyberbedrohungslage.html

[3] https://www.bitkom.org/Presse/Presseinformation/KI-Herausforderung-fuer-Cybersicherheit

Wir helfen Ihnen bei Ihrer IT-Security!

Haben Sie Fragen zum Thema Künstliche Intelligenz und IT-Sicherheit? Benötigen Sie Hilfe, Ihre Sicherheitslücken zu erkennen und zu schließen? Sprechen Sie uns an! Wir machen das für Sie.