Arnold Krille ist Abteilungsleiter Productdevelopment Cognitix bei der Genua. Zuvor war der Diplom-Physiker in unterschiedlichen Unternehmen als Softwareentwickler und COO und CEO tätig. Genua sorgt für IT-Sicherheit auf Top-Niveau: in IT-Infrastrukturen im öffentlichen Sektor, der Industrie, KRITIS-Organisationen oder im Geheimschutz.

Bild: Genua / Conny Mirbach

Security KI-Azubis? Immer willkommen!

06.10.2020

Das Leistungsniveau der IT-Sicherheit hängt bereits heute im hohen Maße vom Einsatz Künstlicher Intelligenz ab, da auch Cyber-Kriminelle KI-basierte Technologien verwenden. Doch wie stellt man ein „hybrides“ IT-Security-Team aus Mensch und KI zusammen – und welche Aufgaben kann man dabei aktuell einer KI anvertrauen?

Arnold Krille ist mit diesem Beitrag im A&D-Kompendium 2020 als einer von 100 Machern der Automation vertreten. Alle Beiträge des A&D-Kompendiums finden Sie in unserer Rubrik Menschen .

Wie wir die Zukunft verändern? Bei der Beantwortung dieser Frage spielen KI-Assistenten eine nicht ganz unerhebliche Rolle. Und tatsächlich möchte ich beim „wir“ diese Technologien explizit einschließen. Denn momentan entwickelt sich deren Rolle in der IT-Security ganz klar von der Funktion des „Tools“ hin zu einem „Mitarbeiter“, den man für Aufgaben anlernt, mit dem ein Teamwork entsteht.

Verschieden Faktoren

In aktuellen Pionier-Projekten und in Use Cases in Unternehmen unterschiedlicher Branchen beobachten wir, dass die Ergebnisgenauigkeit einer KI-Lösung – und damit ihr Erfolg oder Misserfolg – nicht nur vom Faktor „Datenbasis“ abhängt. Besonders wichtig ist, wie gut oder schlecht IT-Security-Experten die KI mit ihrer Expertise „ausbilden“.

Exakt dieser Erfahrungswert ist spannend. Denn für den Aufbau von Teams aus IT-Security-Verantwortlichen und „KI-Azubis“ gibt es keinerlei historische Vorbilder oder methodische Blaupausen. Einsatzoptionen sehe ich nicht nur bei der Fehlerklassifikation: eine gut trainierte KI kann auch unentdeckte Bedrohungen wie Zero-Day-Angriffe oder Advanced Persistent Threats besser aufdecken als wir es könnten.

Aus Projekten gesammelte Erfahrung

Diese und weitere Aufgabenstellungen sind in der Regel der Ausgangspunkt für IT-Security-Verantwortliche, sich mit dem Potenzial einer KI-Unterstützung zu beschäftigen. Worauf sollte man bei der Organisation einer „hybriden“ Security Abteilung achten, die menschliche Mitarbeiter und künstliche Intelligenzen integriert? Aus unseren Projekten möchte ich die folgenden Erfahrungswerte beziehungsweise Richtlinien teilen:

Ein klares Aufgabenspektrum festlegen! Welche Unterstützung soll die KI konkret leisten: Soll sie Bedrohungen aufdecken, für Malware-Prävention zuständig sein oder in einem anderen Bereich der IT-Sicherheit zum Einsatz kommen? Je genauer die Aufgabenbeschreibung, desto höher ist die Wahrscheinlichkeit, dass die Lösung optimale Ergebnisse erzielt. Zudem ist ein klarer Nutzwert wichtig, etwa wenn die KI Empfehlungen zur Klassifizierung von Netzwerkgeräten nach Verhalten oder zur Verbesserung der spezifischen Security Policies gibt.

Risiken begrenzen! Fehler sind nicht nur menschlich – als statistischer Ansatz weist auch KI stets eine Fehlerquote auf. Dies werden auch Angreifer ausnutzen wollen, um die KI und nachfolgend den Nutzer zu falschen Entscheidungen zu bewegen, welche die Sicherheit unterwandern. Dieses Risiko lässt sich etwa mit Hilfe mehrerer KI reduzieren, die miteinander kooperieren beziehungsweise synchronisiert arbeiten und sich gegenseitig verifizieren und überprüfen.

Trainingszeit einkalkulieren! Wenn die KI in Sekundenschnelle richtige Entscheidungen treffen soll, erfordert das ein entsprechendes Training. Hier ist das geeignete Data Set auszuwählen: Sowohl der „Normalzustand“, als auch die zu erkennenden Arten von Abweichungen müssen erkennbar und vorhanden sein, denn die KI lernt durch Beispiele. Hierfür sollten Unternehmen einen längeren Zeitraum einkalkulieren, der auch mehrere Wochen umfassen kann. Außerdem muss die KI regelmäßig „nachtrainiert" werden.

Und in Zukunft?

Ob KI zukünftig tatsächlich als „Arbeitskollege“ wahrgenommen wird, hängt natürlich auch von anderen Faktoren wie einer performanten Kombination von Technologien wie etwa Sprachsteuerung, Avataren beziehungsweise Interfaces ab. Und vielleicht auch davon, ob sie mal ganz „menschlich“ einen dann „verzeihbaren" Fehler macht.

Firmen zu diesem Artikel
Verwandte Artikel