Ein Projekt von:

Institut für Internet-Sicherheit - if(is)

Projekt Trust KI

Ziel des Vorhabens ist es, eine umfassende Vertrauenswürdigkeits-Plattform zu etablieren, die alle notwendigen Aspekte berücksichtigt sowie die gebotenen Erfordernisse erfüllt, damit Anwenderunternehmen Vertrauen in Herstellerunternehmen sowie in deren KI-Lösungen oder Datenräume aufbauen können.

Die damit verbundene Zielsetzung ist, die Akzeptanz – und daraus resultierend die Nutzung – von KI-Lösungen sowie Datenräumen zu forcieren.

Hierfür wird Herstellerunternehmen auf der Vertrauenswürdigkeits-Plattform die Möglichkeit eröffnet, sowohl die Vertrauenswürdigkeit ihrer Organisation als auch die ihrer KI-Lösungen und Datenräume in Form von Vertrauenswürdigkeits-Agenden zu dokumentieren. Zusätzlich wird dies unterstützt durch die branchenbezogene Kooperation mit den relevanten Stakeholdern der Domäne, etwa Verbände oder staatliche Institutionen.

Die Vertrauenswürdigkeits-Plattform bietet neben der Darstellung der Vertrauenswürdigkeit zusätzliche Transparenz in Form von:

Die Vertrauenswürdigkeits-Agenda gibt unternehmensspezifische und differenzierte Auskunft zu allen relevanten Aspekten der Vertrauenswürdigkeit. Entsprechende Ausführungen werden sowohl für KI-Lösungen und Datenräume als auch für das Unternehmen erstellt. Vertrauenswürdigkeits-Aspekte

Der Vertrauenswürdigkeits-Index ermöglicht eine faktische Vergleichbarkeit von Unternehmen und deren KI-Lösungen sowie Datenräumen auf Basis der – im Rahmen der Vertrauenswürdigkeits-Agenda – erhobenen quantifizierbaren Parameter. Auf dieser Grundlage lassen sich – für relevante Bereiche – Indizes berechnen, mittels derer es möglich ist, dem Anwenderunternehmen eine gute (und schnelle) Übersicht über bedeutsame Kenngrößen zu verschaffen.

Das Reputationssystem ist ein Instrument zur Kontrolle der Herstellerunternehmen bezüglich ihrer Angaben zur eigenen Vertrauenswürdigkeit. Denn damit wird Anwenderunternehmen – analog zu den bereits bestens etablierten Rezensionssystemen verschiedener Anbieter – explizit die Möglichkeit geboten, Stellung zu nehmen. Somit können Anwenderunternehmen die jeweils dargelegten Vertrauenswürdigkeits-Aspekte von Unternehmen sowie deren KI-Lösungen und Datenräumen im Endeffekt hinsichtlich ihrer Korrektheit validieren oder falsifizieren.

Die Nutzung der Vertrauenswürdigkeits-Plattform bietet insgesamt sowohl einen hohen Nutzwert für die Anwender- als auch für die Hersteller-Unternehmen.

Ein relevanter Indikator aus Sicht der Anwenderunternehmen ist: Aufgrund der Vertrauenswürdigkeits-Plattform wird es möglich, den Entscheidungsprozess für den Einsatz einer KI-Lösung nicht nur zu vereinfachen, sondern auch deutlich zu verkürzen.

 

Die Vertrauenswürdigkeits-Plattform kann aus Sicht der Hersteller-Unternehmen einen Mehrwert generieren:  Indem diese Unterstützung dabei bietet, Vorgaben – die etwa seitens des AI Acts oder der „HLEG – Ethics Guidelines for Artificial Intelligence” vorgesehen sind und aller Voraussicht nach bindend sein werden – bereits jetzt schon in einem gewissen Rahmen zu erfüllen. Unter anderem bezüglich der Möglichkeit zur Dokumentation der geforderten Vertrauenswürdigkeit, die mit der Rechenschaftspflicht seitens des AI Acts vorgeschrieben wird.