Im Beisein von NRW-Digitalminister Prof. Dr. Andreas Pinkwart (Mitte) haben BSI-Präsident Arne Schönbohm (rechts) und Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer IAIS, die Kooperationsvereinbarung unterzeichnet.

Bild: Mark Hermenau, MWIDE

Strategische Kooperation Fraunhofer und BSI wollen Prüfverfahren für sichere KI-Systeme entwickeln

25.11.2020

Künstliche Intelligenz vertrauenswürdig gestalten: Das ist das Ziel der Zusammenarbeit zwischen dem Fraunhofer IAIS und dem BSI. Gemeinsam wollen die beiden Partner Prüfverfahren für eine KI-Zertifizierung „made in Germany“ aufsetzen. Das erste Flaggschiff-Projekt soll bereits Anfang 2021 starten.

KI-Systeme können in nahezu allen Lebensbereichen zum Einsatz kommen und sind schon heute in der Lage, Aufgaben schneller und zuverlässiger zu erledigen als der Mensch. Damit Unternehmen mit dem Einsatz von Künstlicher Intelligenz entscheidende Wettbewerbsvorteile erzielen können, sollten die Systeme vertrauenswürdig sein und verlässlich funktionieren.

Dazu braucht es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und Anwendern sowie Verbrauchern Auskunft über zugesicherte Eigenschaften von KI-Technologien geben. Solche Prüfverfahren wollen das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS nun gemeinsam entwickeln.

Vertrauen der Anwender erlangen

„KI-Methoden werden im Zuge der Digitalisierung zunehmend und im großen Maßstab auch für sicherheitskritische Aufgaben eingesetzt“, sagt Arne Schönbohm, Präsident des BSI. „Auch das BSI befasst sich intensiv mit dem Thema und unterstützt die Bundesregierung dabei, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben.“

Wichtig für die Akzeptanz neuer Technologien sei dabei das Vertrauen der Anwendenden. Es entstehe unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen. „Grundlage für einheitliche Standards und Normen ist die Erarbeitung von Prüfverfahren, die wir nun mit unserem langjährigen Partner Fraunhofer IAIS angehen. Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert“, sagt Schönbohm.

Flaggschiff-Projekt startet nächstes Jahr

Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer IAIS, kündigt dabei an, dass erste Prüfungen mit Unternehmen bereits im kommenden Jahr durchgeführt werden sollen. Dazu startet Anfang 2021 ein großes Flaggschiff-Projekt, das vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert wird.

In dem Projekt arbeiten renommierte Partner aus Forschung und Anwendung zusammen, darunter die Universität Bonn, die Universität zu Köln, die RWTH Aachen, das Deutsche Institut für Normung DIN sowie zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie und Handel.

In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Mit diesem breiten Beteiligungsprozess soll sichergestellt werden, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.

„Mit der Entwicklung marktfähiger Prüfverfahren nähern wir uns dem Ziel mit großen Schritten“, sagt Prof. Dr. Andreas Pinkwart, Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen. „Dieses wichtige Projekt mit starken Partnern aus Nordrhein-Westfalen zeigt die große Innovationskraft, die zur Etablierung der Marke ‚KI made in Germany‘ beiträgt.“

Basis bereits 2019 gelegt

Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung hat das Fraunhofer IAIS bereits 2019 im Rahmen eines interdisziplinären Forschungsprojekts mit Wissenschaftlern aus den Bereichen Informatik, Recht und Philosophie gelegt. Hierzu haben diese die zentralen Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert. Die Ergebnisse wurden in dem Whitepaper „Vertrauenswürdiger Einsatz von Künstlicher Intelligenz“ publiziert.

Bildergalerie

  • „Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden.“

    Arne Schönbohm, Präsident des Bundesamtes für Sicherheit in der Informationstechnik (BSI)

    Bild: BSI

  • „Mit der Erarbeitung unserer Prüfverfahren im Hinblick auf eine KI-Zertifizierung schaffen wir verlässliche Standards für die Entwicklung und Bewertung von KI-Systemen.“

    Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS

    Bild: Fraunhofer IAIS

  • „Mit unseren herausragenden Kompetenzen und dem starken Netzwerk KI.NRW kann Nordrhein-Westfalen eine führende Rolle bei der Weiterentwicklung von Wirtschaft und Gesellschaft spielen.“

    Prof. Dr. Andreas Pinkwart, Minister für Wirtschaft, Innovation, Digitalisierung und Energie von Nordrhein-Westfalen

    Bild: F. Wiedemeier, MWIDE

Verwandte Artikel