Understanding AI Ethics: Zukunftssicher mit der ethischen Richtschnur für KI-Technologien

Einsatz und Ziel des EU AI Acts

Die KI-Verordnung (KI-VO), auch bekannt als EU AI Act, ist eine Verordnung der Europäischen Union, um die Entwicklung, den Einsatz und die Nutzung von Künstlicher Intelligenz (KI) innerhalb der EU zu regeln.

Der Anwendungsbereich der KI-VO umfasst alle Beteiligten von KI-Technologien wie z. B. Verkäufer, Betreiber, Nutzer, Produzenten und Entwickler von KI-Technologien. Auch umfasst sind Beteiligte aus Drittstaaten, die KI-Systeme oder -Technologien in der Europäischen Union anbieten. Demnach ist KI, die in anderen Ländern entwickelt wurde, aber in der Europäischen Union zum Einsatz kommt, solche, die in den Anwendungsbereich der Verordnung fallen.

Ziel der KI-VO ist es, eine einheitlich rechtlich gültige Regelung für den Einsatz und die Nutzung von KI zu schaffen, das sicher und vertrauenswürdig für alle Beteiligten ist. Insbesondere sollen dabei KI-Technologien so ausgelegt und gehandhabt werden dürfen, dass sie die Grundreche aller Bürgerinnen wahren und Risiken minimieren. Ausgeschlossen vom Anwendungsbereich sind hierbei die ausschließlich private, nicht-professionelle Nutzung, militärische Zwecke, die Rechtsdurchsetzung durch Behörden, die nationale Sicherheit und Strafverfolgung.

Gleichzeitig soll KI als innovative Chance für den Fortschritt von Forschung, Bildung und Digitalisierung genutzt werden. Um Innovation fördern zu können und auch hierbei Fairplay zu gewährleisten, setzt sich die EU mit der KI-VO ein.

Schließlich spielt auch die Wettbewerbsfähigkeit der EU eine Rolle. Sie möchte als positiver und erfolgreicher Vorreiter in Sachen verantwortungsvoller KI vorangehen und präventiv Lösungen finden, um den Missbrauch von KI einzudämmen und eine schützende Kontrollfunktion für alle Nutzer zu übernehmen.

Bestehendes Recht wird durch die spezifisch geforderten Maßnahmen und Anforderungen berührt. Die KI-VO ergänzt Regelungen hinsichtlich der KI-Technologien, die in den Anwendungsbereich von beispielsweise Datenschutzrecht, Antidiskriminierungsrecht, Produktsicherheit, Urheberrechte, Verbraucherschutz, Persönlichkeitsrecht und Arbeitsrecht fallen. Diese bestehenden Rechte sollen durch die KI-VO stabilisiert und hinsichtlich der neuen Bereiche der Digitalisierung gestärkt werden.

Die DSGVO wird durch die KI-VO ergänzt, da viele KI-Technologien personenbezogene Daten verarbeiten. Dazu zählen Anforderungen an die Transparenz und eine Offenlegung der verarbeiteten Daten.

Die Mitgliedstaaten verpflichten sich dazu, flexible, aufstrebende KI-Problematiken im Sinne des EU AI Acts anzugehen und gerechte Maßnahmen zu treffen, sobald eines der genannten Rechtsgüter bedroht wird. Ethische Leitlinien für die Nutzung von KI werden auch unternehmensintern festgelegt, um seinen ethischen Standards treu zu bleiben. Dabei hilft auch die regelmäßige Überwachung der KI-Systeme in der Praxis und Audits.

Außerdem kann die Einhaltung von Ethikstandards durch verschiedene Organisationen und externen zertifizierten Stellen durchgeführt werden. Auch Schulungen für Mitarbeitende sind hilfreich und notwendig.

Mit der Verantwortung folgen auch die Pflichten

Je mehr Auswirkungen von einer KI-Technologie ausgehen, desto größer kann auch die Verantwortung für bestimmte Rollen im rechtlichen, wie auch im ethischen Sinne ausfallen.

Fraglich ist hierbei, zwischen welchen verschiedenen Rollen innerhalb der KI-VO zunächst unterschieden werden sollte und für welche Rollen dadurch besondere ethischen Risiken bestehen können.

Die wohl wichtigsten Rollen sind zum einen die Anbieter und Betreiber. Die Rolle des Anbieters liegt beispielsweise dann vor, wenn die Stelle ein KI-System bzw. ein KI-Modell entwickelt oder entwickeln lässt und dieses in den Verkehr bringt oder in den Betrieb nimmt. Betreiber bzw. Bereitsteller iSd. der Verordnung ist der, der ein KI-System in eigener Verantwortung einsetzt. Zu beachten ist zudem, dass ein Betreiber, Händler oder Einführer bei Vorliegen bestimmter Voraussetzungen ebenfalls zu einem Anbieter im Sinne der KI-VO werden kann. Bei der Durchführung der Konformitätsbewertung sollte daher stets sorgfältig differenziert werden. Besondere Umstände, die zu einem Wechsel der Rolle beitragen, sollten beachtet werden, da die jeweilige Rolle folglich zu unterschiedlichen Pflichten führen.

Rahmen des Möglichen - Die Risikoklassifizierung macht den Unterschied

Um die Verantwortungen und vorzunehmenden Anforderungen zu bestimmen, werden die KI-Technologien in verschiedene Risikoklassen eingeordnet.

• Annehmbare Risiken: Sofern KI-Technologien unter eine geringe bzw. annehmbare Risikoklasse fallen, unterliegen sie im Vergleich mit den anderen beiden Risikoklassen demnach auch weniger strengen Anforderungen. Es verbleibt jedoch weiterhin die Voraussetzung für in Verkehr gebrachte oder in Betrieb genommene KI-Technologien, dass diese sicher sind und nicht die Rechte von natürlichen Personen beeinträchtigen. Zu den begrenzten bzw. zu den minimalen Risiken werden beispielsweise Suchalgorithmen oder Spam-Filter eingeordnet.

• Hochrisiko KI-Systeme: KI-Technologien, welche ein hohes Risiko für die Gesundheit, Sicherheit oder für die Grundrechte natürlicher Personen darstellen, werden in die Risikoklasse der Hochrisiko KI-Technologien eingeordnet. Dazu gehören Risikobewertungen von Kranken- und Lebensversicherungen, Profiling oder auch die Beeinflussung von Entscheidungen hinsichtlich Bedingungen von Arbeitsverhältnissen.

• Unannehmbares Risiko/verbotene Praktiken: KI-Technologien mit einem unannehmbaren Risiko für die Sicherheit und Rechte oder Technologien, die das Bewusstsein einer Person unterschwellig zum Nachteil beeinflussen, sind verboten. Dies gilt beispielsweise jedoch nicht abschließend, ebenso für Systeme zur Ableitung oder Bewertung des emotionalen Zustands einer natürlichen Person am Arbeitsplatz.

Um sowohl rechtliche als auch ethische Standards bei der Entwicklung oder Inbetriebnahme von KI-Technologien im Unternehmen zu wahren, als auch die Geheimhaltung von Geschäftsgeheimnissen beim Einsatz von generativer KI zu gewährleisten, sollten nicht nur die jeweiligen Pflichten je Risikoklasse eingehalten werden, sondern ebenfalls präventive technische und organisatorische Maßnahmen für eine entsprechend ausreichende KI-Compliance vorgenommen werden.

Ethische Ansprüche bedingen den EU AI Act: Die unsichtbare Hand, die Ihre Datenstrategie lenken sollte

KI-Technologien erfüllen keinen Selbstzweck, sondern führen die Ziele des Unternehmens voran. Es ist keine Trendfrage, ob und inwieweit KI-Technologien in einem Unternehmen verwendet werden, sondern eine Frage der Ethik und der Strategie.

Ethik im KI-Kontext zielt darauf ab, dass der Einsatz dieser Technologie zum Wohle der Gesellschaft erfolgt, negative Auswirkungen minimiert und die Grundrechte aller Beteiligten gewahrt werden.

Wie können Unternehmen sicherstellen, dass der Einsatz von KI nicht nur effizient, sondern auch ethisch vertretbar ist? Wie geht man verantwortungsvoll mit dem Thema KI um? Welche Maßnahmen und Prozesse sollten und müssen Unternehmen einführen, um einen verantwortungsbewussten Umgang gewährleisten zu können?

Die Antwort liegt in der vollumfänglichen Integration ethischer Überlegungen in die strategischen Entscheidungen Ihres Unternehmens. Dabei geht es nicht um eine Checkbox, die abgehakt wird, sondern um eine tief verwurzelte Haltung, die alle Geschäftsbereiche durchdringt. Ethik in der KI ist mehr als nur ein Schlagwort. Es ist das Rückgrat einer verantwortungsbewussten Datenstrategie.

Stellen Sie sich vor, Ihre KI trifft Entscheidungen, die tief in das Leben Ihrer Kunden eingreifen: Sie beeinflusst Kreditvergaben, bestimmt Versicherungstarife oder kuratiert Inhalte. Was passiert, wenn diese Entscheidungen unfair, bias, diskriminierend oder intransparent sind? Das Risiko liegt nicht nur in möglichen rechtlichen Konsequenzen, sondern auch in einem irreparablen Vertrauensverlust.

Zu den zentralen ethischen Prinzipien gehört zunächst die Verantwortung: Unternehmen müssen klar definieren, wer für die Entscheidungen und Handlungen der KI-Systeme verantwortlich ist, insbesondere wenn es um mögliche Fehlfunktionen oder negative Auswirkungen geht. Neben der Verantwortung ist Fairness von großer Bedeutung. KI-Systeme dürfen keine diskriminierenden oder voreingenommenen Ergebnisse liefern; ihre Entwicklung muss so gestaltet werden, dass bestehende Ungerechtigkeiten nicht verstärkt oder neue geschaffen werden. Transparenz ist ein weiterer wesentlicher Aspekt, da die Funktionsweise von KI-Systemen nachvollziehbar sein muss. Nutzer und betroffene Personen sollten verstehen können, wie und warum bestimmte Entscheidungen getroffen werden, um Vertrauen in die Technologie aufzubauen.

Ein ebenso wichtiges Prinzip ist der Datenschutz. Der Schutz persönlicher Daten muss den Anforderungen von Datenschutzgesetzen wie der DSGVO entsprechen, um die Privatsphäre der Einzelnen zu wahren. Schließlich gehört auch die Sicherheit zu den zentralen ethischen Aspekten. KI-Technologien müssen vor Missbrauch und unbefugtem Zugriff geschützt werden, um die Integrität der Daten und Systeme zu gewährleisten.

Trustworthy AI – oder vertrauenswürdige KI – ist ein weiteres bekanntes Konzept, das eng mit diesen ethischen Prinzipien verknüpft ist. Die Europäische Kommission hat in ihrer Ethik-Leitlinien für vertrauenswürdige KI sieben wesentliche Anforderungen formuliert, die KI-Systeme nicht nur rechtlichen, sondern auch höchsten ethischen Standards entsprechen.

Diese Anforderungen umfassen die menschliche Autonomie und Kontrolle, indem KI so gestaltet wird, dass sie die menschliche Entscheidungsfindung unterstützt und nicht ersetzt. Die technische Robustheit und Sicherheit stellt sicher, dass KI-Systeme zuverlässig sind und Sicherheitsrisiken minimiert werden. Datenschutz und Datenqualität gewährleisten den Schutz personenbezogener Daten und die Integrität der Datenverarbeitung.

Weitere Anforderungen umfassen Transparenz, die es ermöglicht, die Entscheidungsprozesse der KI nachvollziehbar zu machen; Vielfalt, Nichtdiskriminierung und Fairness, um sicherzustellen, dass KI alle Menschen gleichbehandelt und keine Diskriminierung fördert; sowie das gesellschaftliche und nachhaltige Wohlergehen, das sicherstellt, dass KI dem Wohl der Gesellschaft dient und umweltbewusst eingesetzt wird. Schließlich ist Rechenschaftspflicht entscheidend, um klarzustellen, wer für die Auswirkungen von KI-Systemen verantwortlich ist.