Sicherheit auch außerhalb des AI-Acts Neues Prüfzeichen für Low-Risk-KI-Systeme

Mit der EU-Verordnung 2024/1689 (auch „AI Act“ genannt) führt Europa erstmals einheitliche Vorgaben für Künstliche Intelligenz (KI) ein, die sich nach dem Risiko der jeweiligen Anwendung richten. Für Systeme mit geringem Risiko bestehen dabei keine gesetzlichen Prüfpflichten. Dennoch wächst der Bedarf nach Orientierung und Vertrauensbildung. „Viele Unternehmen wollen schon heute Verantwortung übernehmen und ihre KI-Systeme freiwillig bewerten lassen, auch wenn sie dazu nicht verpflichtet sind“, sagt Benedikt Pulver, Head of the Machine Safety Department bei TÜV Süd. „Unser neues Prüfzeichen macht genau das sichtbar – nachvollziehbar, strukturiert und auf Basis technischer Kriterien.“

Transparenz für Fachwelt und Nutzer als Ziel

Das neue TÜV-Süd-Prüfzeichen soll einerseits Fachkunden eine objektive Bewertungsgrundlage liefern und andererseits aber auch Endnutzer ansprechen, etwa bei automatisierten Gebäudefunktionen oder Robotikanwendungen im Handel oder der Logistik. Grundlage sind anwendungsspezifische Prüfprogramme, die beispielsweise Energieeffizienz, Robustheit, Datenverarbeitung und funktionale Sicherheit berücksichtigen. Ein konkretes Beispiel sind autonome mobile Roboter, die sich innerhalb von Werkshallen untereinander abstimmen. Solche Systeme gelten als „Low Risk“ nach dem AI Act – das neue TÜV-Süd-Prüfzeichen bestätigt, dass sie zusätzlich nach nachvollziehbaren Maßstäben bewertet wurden.

Freiwillige Selbstverpflichtung

Das Prüfzeichen ist Teil eines modularen Konzepts, das auch künftige Entwicklungen berücksichtigt, etwa eine freiwillige Selbstverpflichtung der Hersteller gemäß Artikel 69 AI Act. „Wir glauben, dass Vertrauen in KI nicht allein durch Regulierung entsteht“, so Benedikt Pulver weiter. „Freiwillige Zertifizierungen setzen ein starkes Zeichen für Qualität und Verantwortung – gerade dort, wo es (noch) keine Vorschriften gibt.“

Das Prüfzeichen ist in deutscher und englischer Sprache verfügbar und kann auf Wunsch auch mit ergänzenden Verbraucherinformationen versehen werden.