Künstliche Intelligenz in sicheren Web-Infrastrukturen mit digitalem Identitätsmanagement (KIWI)

Motivation

Moderne Web-Dienstleistungen sind Grundlage und Treiber der fortschreitenden Digitalisierung unserer Gesellschaft. Sie dienen auch als vertrauenswürdige Quelle und Verwalter digitaler Identitäten für Millionen Nutzerinnen und Nutzer. Der Missbrauch dieser Identitäten muss sicher ausgeschlossen werden, um Schäden gegenüber privaten Nutzern und wirtschaftlichen Akteuren abzuwenden. Es gibt bereits auf Künstlicher Intelligenz (KI) basierende Erkennungsverfahren für Angriffe gegen IT-Systeme. Heute eingesetzte KI-gestützte Angriffsdetektoren fokussieren in der Regel auf klar abgegrenzte Merkmale. Angriffe gegen Web-Dienste zielen jedoch oft nicht auf eine isolierte technische Ebene. Vielmehr entwickeln sie sich über die Zeit hinweg und hinterlassen währenddessen Spuren an diversen Stellen im System, die gesamtheitlich auszuwerten sind.

Projektziele und Methodik

Die Projektpartner im Verbundprojekt KIWI leisten Beiträge zur Entwicklung und praktischen Erprobung eines KI-gestützten Sicherheitsmanagements in komplexen Web-Infrastrukturen.

Im Projekt wird untersucht, wie Daten verteilter Detektoren zusammengeführt werden können, um aus dem Gesamtbild auf das Vorliegen von Angriffen zu schließen. Es wird ebenfalls erforscht, wie KI-Modelle ausgehend von in verschiedenen Systemen gesammelten Daten trainiert werden können. Durch die Verteilung der Trainingsprozesse könnte die Leistungsfähigkeit des Gesamtsystems erhöht werden. Dabei sollten stets nur so viele Informationen zwischen Systemen verschiedener Betreiber oder Organisationseinheiten ausgetauscht werden, wie unbedingt nötig bzw. gesetzlich erlaubt ist. Die Einsetzbarkeit von KI hängt maßgeblich von der Qualität der verwendeten Trainingsdaten ab. KI-Modelle dürfen keinesfalls auf ungeeigneten oder gar von Angreifern absichtlich manipulierten oder gefälschten Daten trainiert werden. Beim Auftreten eines solchen Falles müssen betroffene Modelle sicher erkannt, zurückgesetzt, neu trainiert und schließlich im System verteilt werden. Die Projektpartner in KIWI werden dementsprechend auch ein Rahmenwerk für „Data Governance“ entwickeln und erproben.

Innovation und Perspektiven

Die Projektpartner setzen auf den offenen, europäischen Login-Standard netID der für Deutschland aufgrund der direkten Konkurrenzsituation zu ähnlichen Angeboten von US-Konzernen von hoher Relevanz ist. Dieser Standard ermöglicht Nutzerinnen und Nutzern durch Transparenz Datensouveränität. Projekterkenntnisse, etwa aus dem beispielhaften Anwendungsfall E-Mail-Dienste, können in die Weiterentwicklung von Web-Identitätsmanagement auf Basis von netID eingehen und damit die Position europäischer Unternehmen im internationalen Wettbewerb stärken. Außerdem wird durch die im Projekt verfolgte Herangehensweise eine Übertragbarkeit der Ergebnisse auf andere Anwendungsfälle gewährleistet.

Stand

Laufendes Projekt 06/2020-05/2023

Verbundkoordinator

Projektleitung Hochschule Karlsruhe
Prof. Dr.-Ing. Zoltan Nochta
Prof. Dr. rer. nat. Oliver Waldhorst
Prof. Dr. rer. nat. Christian Zirpins

Weitere Informationen

Weitere Informationen zum Projekt KIWI finden Sie unter der Projekt-Homepage:

https://www.forschung-it-sicherheit-kommunikationssysteme.de/projekte/kiwi

 

Das Projekt wird gefördert von

Kontakt

Institut für Angewandte Forschung
Projektleitung
Prof. Dr.-Ing- Zoltan Nochta

E-310
Moltkestr. 30, 76133 Karlsruhe
Tel. (0721) 925-1578
E-Mail zoltan.nochtaspam prevention@hs-karlsruhe.de

Anfahrtsplan
Lage- und Gebäudeplan

Kontakt

Institut für Angewandte Forschung
Projektleitung
Prof. Dr. rer. nat. Christian Zirpins

E-310
Moltkestr. 30, 76133 Karlsruhe
Tel. 0721 925-1528
E-Mail christian.zirpinsspam prevention@hs-karlsruhe.de

Anfahrtsplan
Lage- und Gebäudeplan