Zur vorläufigen Einigung der Fraktionen im EU-Parlament über die Regulierung von Künstlicher Intelligenz (KI) sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands:
„Der TÜV-Verband begrüßt zwar grundsätzlich, dass sich die Fraktionen im EU-Parlament auf eine gemeinsame Position einigen konnten, sieht aber weiteres Verbesserungspotenzial bei der Gestaltung des AI Acts. Es braucht klare Rechtsgrundlagen, um die Menschen vor den negativen Folgen der Technologie zu schützen und gleichzeitig den Einsatz von KI in der Wirtschaft zu fördern. Europa kann mit einem ambitionierten Rechtsrahmen für KI seine Rolle als führender Wirtschaftsstandort ausbauen.“
Fehleinschätzungen vorprogrammiert
Bühler erklärt: „Der Entwurf des AI Act sieht zwar vor, dass KI-Anwendungen bestimmte Anforderungen wie beispielsweise mehr Transparenz von Algorithmen erfüllen müssen. Es muss aber sichergestellt werden, dass die Vorgaben auch eingehalten werden. Eine unabhängige Überprüfung ist nur für einen kleinen Teil der KI-Systeme mit hohem Risiko vorgesehen. Die meisten kritischen KI-Anwendungen wie zum Beispiel Gesichtserkennung, Recruiting-Software oder Kreditwürdigkeitsprüfungen sollen weiter mit einer reinen Herstellerselbsterklärung auf den Markt gebracht werden dürfen.“
Bühler weiter: „Darüber hinaus soll die Einstufung als Hochrisiko-Anwendung teilweise über eine Selbsteinschätzung der Anbieter erfolgen – Fehleinschätzungen sind vorprogrammiert. Hier besteht aus Sicht des TÜV-Verbands weiterer Handlungsbedarf, um Eingriffe in die Privatsphäre oder automatisierte Diskriminierung zu verhindern.“
„Besser wäre es, alle Hochrisiko-KI-Systeme vor dem Marktstart von einer unabhängigen Stelle überprüfen zu lassen. Nur so kann gewährleistet werden, dass die Anwendungen den Sicherheitsanforderungen entsprechen. Das gilt besonders, wenn KI-Anwendungen in kritischen Bereichen wie der Medizin, in Fahrzeugen, der Energieinfrastruktur oder in bestimmten Maschinen eingesetzt werden“, schlägt Bühler vor.
Aus Sicht des TÜV-Verbands muss bereits jetzt die praktische Umsetzung der KI-Vorgaben vorbereitet werden. Eine wichtige Grundlage sind Normen, Standards und Qualitätskriterien. Darüber hinaus müssen entsprechende Prüfverfahren und -kriterien entwickelt werden. Der TÜV-Verband engagiert sich seit längerem für die Einrichtung von interdisziplinären „AI Quality & Testing Hubs“ auf Länder- und Bundesebene. Die TÜV-Unternehmen bereiten sich derzeit intensiv auf die Prüfung von KI-Systemen vor und haben dafür das „TÜV AI Lab“ gegründet.
