Video: Dr. Carmen Kempka, Wibu-Systems, auf der INDUSTRY.forward Expo Schutz für KI-Anwendungen und Modelle

Dr. Carmen Kempka, Director Corporate Technology bei Wibu-Systems, war Speaker auf der INDUSTRY.forward Expo.

20.09.2023

Künstliche Intelligenz kommt mehr und mehr auch in kritischen Infrastrukturen (KRITIS) wie der Medizintechnik und im Automotive-Bereich zum Einsatz. Doch: KI bietet viele Angriffsflächen, die nicht jedem bewusst sind, weshalb sich Unternehmen mit Angriffen auf die Integrität und das geistige Eigentum von KI-Applikationen befassen müssen. Welche Angriffsflächen und Lizenzierungsmöglichkeiten es gibt, zeigt dieser Vortrag.

Nicht selten hat man es beim Einsatz von KI in KRITIS mit sensiblen Daten zu tun: Trainingsdaten kommen etwa aus CT-Scans und medizinischen Diagnosen. Eine Manipulation im Machine-Learning-Lebenszyklus, der zu einer falschen Klassifikation führt, hätte unter Umständen fatale Auswirkungen. Auch das geistige Eigentum trainierter Modelle will geschützt sein.

All dies macht es notwendig, KI-Anwendungen gegen verschiedenste Arten von Angriffen zu schützen. Welche potenziellen Angriffe auf den Machine-Learning-Lifecycle es gibt, was die entsprechenden Auswirkungen wären, und welche Gegenmaßnahmen getrofen werden können zeigte Dr. Carmen Kempka, Wibu-Systems, in ihrem Vortrag „Schutz für KI-Anwendungen und Modelle“.

Jetzt kostenlos registrieren

Vita

Dr. Carmen Kempka studierte Informatik mit den Schwerpunkten Kryptographie und Quantencomputing an der Universität Karlsruhe (TH), heute KIT. Nach ihrer Promotion am KIT im Bereich Kryptographie war sie für zwei Jahre als Postdoctoral Researcher in den Secure Platform Laboratories bei NTT in Japan. Ende 2016 begann sie ihre Tätigkeit bei der WIibu-Systems, wo sie nun als Leiterin der Abteilung Corporate Technology mit ihrem Team ihre Kollegen in allen Fragen rund um Kryptographie und Product Security unterstützt.

Firmen zu diesem Artikel
Verwandte Artikel