Trustworthy KI: KI-Erfolge brauchen Vertrauen

Was ist Trustworthy KI: Alles auf einen Blick in unserer Infografik

Vertrauen spielt für den Durchbruch von Technologien eine wichtige Rolle. Denn nur wenn wir einer Sache vertrauen, verlassen wir uns bereitwillig auf sie und nutzen sie auch. So steigen wir z. B. immer wieder ohne weitere Bedenken in einen Aufzug und vertrauen den Systemen sowie den Fähigkeiten der Ingenieurinnen und Ingenieure quasi unser Leben an. Und dafür gibt es gute Gründe: Aufzüge werden fortlaufend von gut ausgebildeten Fachleuten überprüft und es existieren strenge Vorschriften für die Wartung. Zudem gibt es in modernen Aufzügen zahlreiche Sicherheitssysteme und auch die Anzahl der Zwischenfälle ist vergleichsweise gering. Dieses Beispiel lässt sich auf viele andere Technologien übertragen, bei denen Maschinen unser Vertrauen genießen. Doch eben (noch) nicht auf die Künstliche Intelligenz (KI): Im Gegensatz zu vielen gelernten Technologien fehlt vielen Menschen und Unternehmen bei KI genau diese Erfahrung, die Alltäglichkeit, die Sicherheit und damit letztlich auch das Vertrauen.

EU-Gesetz stellt Unternehmen vor neue KI-Herausforderungen

Klar ist: KI-Systeme können Unternehmen datenbasiert dabei unterstützen, die richtigen Entscheidungen zu treffen und das wirtschaftliche Wachstum weiter voranzutreiben. Um das volle Potenzial von KI auszuschöpfen, müssen sie diesen Entscheidungen jedoch auch vertrauen können. Dies gilt insbesondere, wenn KI in einem unternehmenskritischen Bereich wie Finanzen, Logistik oder Forschung und Entwicklung oder in einem sicherheitskritischen Bereich wie Medizintechnik oder Fahrerassistenz eingesetzt wird. Für größtmögliches Vertrauen wird es für die Unternehmen darum gehen, die Black Box zu öffnen, die Entscheidungen der Maschine – und ihre Grenzen – zu verstehen und eine vertrauenswürdige KI zu entwickeln.

Auf europäischer Ebene hat das EU-Parlament am 08. Dezember 2023 ein gemeinsames Regelwerk beschlossen, mit dem eine vertrauenswürdige KI möglich sein soll. Das kommende KI-Gesetz (AI Act) der Europäischen Union wird den Einsatz von KI in einer Vielzahl von Hochrisikobereichen regeln, darunter u. a. Infrastruktur, Arbeitswelt, wichtige Finanzdienstleistungen und Bildung. KI wird in diesen Bereichen genauestens unter die Lupe genommen, um sicherzustellen, dass sie sicher, robust und fair ist. Hierzu legt das KI-Gesetz strenge Standards an und kategorisiert KI-Systeme in vier Gruppen:

• KI-Systeme mit inakzeptablem Risiko, die verboten werden
• Hochrisikosysteme, die einer umfangreichen Regulierung unterliegen werden
• Systeme mit begrenztem Risiko, die überwacht, aber nicht reguliert werden
• KI-Systeme mit minimalem Risiko, die keine regulatorische Aufsicht erfordern.

Unternehmen, die KI in einem risikoreichen Bereich einsetzen, unterliegen zukünftig umfangreichen Anforderungen nach Artikel 29 des KI-Gesetzes, um die sichere Nutzung dieser Systeme zu gewährleisten. Diese Anforderungen können beispielsweise die Durchführung hinreichender technischer und organisatorischer Maßnahmen, die regelmäßige Überwachung und Anpassung von Cybersicherheitsmaßnahmen oder die fortlaufende Überwachung des gesamten KI-Betriebs beinhalten.

Unser neues Serviceangebot unterstützt bei der Entwicklung vertrauenswürdiger KI

Auf Unternehmen kommen mit dem Inkrafttreten des EU-Gesetzes spätestens Anfang 2025 umfangreiche Prüf- und Dokumentationspflichten für den Einsatz von KI in sicherheitskritischen Anwendungen zu. Das Problem bei der Sache: Der Weg zu vertrauenswürdiger KI ist mitunter steinig und verschlingt eine Menge Ressourcen. Als kompetenter Partner unterstützen wir mit unserem neuen Serviceangebot „Trustworthy KI“ Unternehmen bei der Entwicklung vertrauenswürdiger KI für geschäftskritische und sicherheitsrelevante Anwendungen und machen sie fit für die kommende KI-Regulierung. Gleichzeitig können Unternehmen kosten- und zeitintensive Zertifizierungsprozesse verkürzen, indem sie sich von uns bis zur Zertifizierung der KI durch eine unabhängige Prüfstelle begleiten lassen.

Für die vertrauenswürdige KI-Entwicklung setzen wir im Rahmen unseres „Trustworthy KI“-Angebots auf drei zentrale Säulen:

• Transparenz: KI-basierte Entscheidungen müssen mit Blick auf die Leistungskennzahlen und die zum Training des Systems verwendeten Daten transparent sein.
• Prozess: Vertrauenswürdige KI muss mit einem umfassenden und systematischen Prozess auf der Grundlage von Best Practices entwickelt werden.
• Zertifizierung: Das ultimative Vertrauenssiegel ist die KI-Zertifizierung durch eine angesehene unabhängige Zertifizierungsstelle.

Vor diesem Hintergrund stellen wir den Unternehmen direkt unsere fachliche Expertise zur Verfügung und bieten ihnen als Entwicklungspartner und Zertifizierungscoach einen schnelleren Prozess hin zu einer zertifizierbaren KI-Anwendung.

Gemeinsam zertifizierbare KI-Anwendungen entwickeln und umsetzen

In einem gemeinsamen Workshop bewerten wir die KI-Use Cases, Herausforderungen und Chancen des Unternehmens. In persönlichen Interviews und umfassenden Analysen evaluieren wir dabei den Status Quo des KI-Einsatzes auf Basis eines Kriterienkatalogs, der vom TÜV Austria entwickelt und verwendet wird. In enger Zusammenarbeit mit dem Unternehmen erarbeiten wir schließlich eine detaillierte Gap-Analyse und geben in einer individuellen Beratung konkret umsetzbare Empfehlungen, wie diese Lücken geschlossen werden können. Planen Unternehmen als zusätzlichen Vertrauensbeweis eine Zertifizierung ihrer KI, navigieren wir sie effizient durch diesen komplexen Prozess.

Unsere Erfahrung: Wir haben bereits den Zertifizierungsprozess sowohl für Assistenzsysteme in Fahrzeugen samt KI-Entwicklung durchlaufen (im Verbund mit Unternehmen der Volkswagen-Gruppe) als auch für KI-Systeme zur Bilderkennung in der Medizintechnik. Diese Erfahrungen im Bereich sicherheitskritischer KI fließen ebenso in die Begleitung durch den Zertifizierungsprozess ein wie die regulatorische Expertise rund um das KI-Gesetz der EU, das Know-how aus der aktiven Mitarbeit in Verbänden wie dem Bitkom und dem KI Bundesverband sowie die eigene Zertifizierung durch den TÜV Austria für eine Anwendung zur Bilderkennung in der Medizintechnik und den ISO 9001 Standard für Qualitätsmanagement-Systeme.

Nehmen Sie jetzt Kontakt zu uns auf: Als erfahrener KI-Partner machen wir auch Ihr Unternehmen fit für den zukunftsfähigen und vertrauenswürdigen KI-Einsatz.