Sicher und transparent Vertrauenswürdigkeit bei KI-Anbietern

Im Rahmen des vom „Bundesministerium für Digitales und Verkehr“ (BMDV) geförderten Projekts „TrustKI – Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“ wurde Ende 2023 die erste Anwender-Studie durchgeführt.

Hierbei standen zwei Fragestellungen im Fokus: Ist eine Vertrauenswürdigkeits-Plattform für KI-Lösungen geeignet, um einen unternehmerischen Entscheidungsprozess sowohl im Hinblick auf die KI-Lösung als auch einen zuverlässigen KI-Anbieter für Führungskräfte grundlegend zu vereinfachen? Und: Welche Voraussetzungen müssen dafür vorliegen?

Den Nutzern von KI-Lösungen ist der Aufbau eines reellen Vertrauensverhältnisses, basierend auf Vertrauenswürdigkeit, sehr wichtig. Das ist eines der zentralen Ergebnisse der Anwender-Studie „TrustKI“, die das Institut für Internet-Sicherheit – if(is) durchgeführt hat. Eine Erklärung dafür liegt nach Ansicht von Prof. Norbert Pohlmann auf der Hand: „Die Veränderungen, die mit der zunehmenden Nutzung von Künstlicher Intelligenz einhergehen, werden absehbar sowohl die Gesellschaft insgesamt als auch jeden einzelnen Menschen immer stärker betreffen.“

Virtuelle Assistenten wie „ChatGPT“ oder „Microsoft Copilot“ zeigen bereits heute eindrucksvoll, wie zügig die Marktdurchdringung von KI-Anwendungen vonstattengeht und welche Effekte sich daraus ergeben. Daher lässt sich leicht nachvollziehen, dass das Bedürfnis der Anwendenden nach Vertrauenswürdigkeit und damit einhergehenden bestimmten Werten deutlich zugenommen hat. Eine entsprechend ethisch orientierte Handlungsweise der KI-Anbieter ist nachdrücklich gewünscht, wie die Studienergebnisse belegen.

263 Führungskräfte aus Unternehmen wurden befragt

Um das Vertrauen der Anwender zu gewinnen, müssen KI-Anbieter vertrauenswürdig und transparent agieren. Diesbezüglich haben die befragten Personen klare Anforderungen formuliert, was hier aus ihrer Sicht für einen nachhaltigen Vertrauensaufbau notwendig ist: Um einen Nachweis ihrer Vertrauenswürdigkeit zu erbringen, müssen KI-Anbieter unter anderem verbindlich relevante Kriterien bezüglich des Vertrauenswürdigkeits-Aspekts „Integrität“ erfüllen sowie dem Anspruch nach einer „holistischen Transparenz“ nachkommen.

Konkrete Ergebnisse

Nachfolgend ausgewählte Ergebnisse zur Integrität, die sich unter anderem im Wertekodex des KI-Anbieters manifestiert:

• Die Bedeutung der Frage, auf welchem Wege KI-Anbieter die ethischen Anforderungen der Gesellschaft umsetzen, lässt sich an der hohen Zustimmung ablesen. In diesem Kontext waren die Teilnehmenden besonders daran interessiert zu erfahren, ob „ein Ethik-Gremium im Unternehmen etabliert wurde und welche Verantwortung sowie Befugnisse dieses reell hat“.

• Dem Anerkennen beziehungsweise der Umsetzung des Nicht-Schädigungsprinzips im Kontext der Integrität maßen die Teilnehmenden eine hohe Bedeutung bei. So ist es für die Mehrzahl der Teilnehmenden substanziell, dass sie darüber informiert werden, auf welche Funktionalitäten der KI-Anbieter zum Wohle des Kunden verzichtet. Ebenso besteht ein hoher Informationsbedarf bezüglich der Folgenabschätzung – hier wollten die Teilnehmenden nicht nur mehr darüber erfahren, ob der KI-Anbieter eine Folgenabschätzung vornimmt, sondern auch, wie diese umgesetzt wird.

Nachfolgend ausgewählte Ergebnisse zur holistischen Transparenz, die über die originären Anforderungen zur Transparenz der KI-Lösung hinausgeht:

• Im Kontext der holistischen Transparenz wurde seitens der Teilnehmenden darauf Wert gelegt, dass sie mehr Informationen zum verantwortungsvollen Umgang mit der Technologie explizit im Kontext der Privatheit erhalten, auch weil dies wesentlich im Hinblick auf mögliche Manipulation ist.

• Auf die Frage, ob der KI-Anbieter erläutern sollte, welche Prozesse etabliert wurden, um zu gewährleisten, dass sich keine Beschäftigten über die festgelegten (ethischen) Werte und Regeln hinwegsetzen kann, gab die Mehrzahl der Befragten an, dass sie dies wissen möchte.

Zur Studie

Basierend auf der Annahme, dass spezifische Kriterien zum Aufbau eines Vertrauensverhältnisses erfüllt sein müssen, lag der Fokus der Anwender-Studie „TrustKI“ darauf, auf Grundlage des etablierten Vertrauenswürdigkeits-Modells zu untersuchen, was im Kontext der sieben Vertrauenswürdigkeits-Aspekte zur Beurteilung der Vertrauenswürdigkeit von KI-Anbietern geeignet ist.