KI ist eine Allzwecktechnologie, für die es in vielen Branchen Einsatzmöglichkeiten gibt. Sie könnte 2030 bis zu 15,7 Billionen US-Dollar zur weltweiten Wirtschaftsleistung beitragen: 9,1 Billionen US-Dollar durch Konsumeffekte und 6,6 Billionen US-Dollar durch Produktivitätssteigerungen. Die Technologie hat aber Probleme mit Unparteilichkeit. Wenn sich das nicht verbessert, könnte das sämtliche Bemühungen um mehr Vielfalt, Gleichberechtigung und Inklusion in der Gesellschaft ausbremsen.

KI ist der Versuch, menschliches Lernen und Denken auf den Computer zu übertragen und ihm damit Intelligenz zu verleihen. Folglich kann eine KI eigenständig Antworten auf verschiedene Fragestellungen finden und selbstständig Probleme lösen.

Fehler müssen behoben werden

Doch das gelingt nicht immer: Es gibt zum Beispiel mehrere Fälle, in denen sich KI-gestützte Systeme diskriminierend verhalten haben. Vor einigen Jahren sorgte der Fehler einer KI für große Unruhe. Fälschlicherweise klassifizierte die automatische Bilderkennungssoftware von Google das Foto einer Gruppe von Afroamerikanern als „Gorillas“. Ein weiteres Beispiel: Ein namhaftes Kreditkarten-Unternehmen hat das Kreditlimit einer Frau 20-mal niedriger angesetzt als das ihres Mannes – obwohl sie einen besseren Schufa-Score und eine ähnliche finanzielle Vergangenheit vorweisen konnte.

Das zeigt: Die automatisierte Entscheidungsfindung unter Verwendung sensibler Daten wie Informationen über Rasse, Geschlecht oder Familienstand kann sich auf den Zugang von Personen zu Wohnraum, Krediten, Beschäftigung oder zentralen Dienstleistungen auswirken.

Zwar besteht das zentrale Ziel eines Optimierungsalgorithmus nicht darin, gesellschaftliche Fragen zu lösen. Es ist aber von entscheidender Bedeutung, zu verstehen, wie der Algorithmus Entscheidungen trifft. Dazu gehört auch, welche Faktoren er verwendet und welche Auswirkungen diese auf das Endergebnis haben.

Die Datensätze, die zum Trainieren eines KI-Algorithmus verwendet werden, beeinflussen die Effizienz der Entscheidungsfindung erheblich. So hat beispielsweise das Projekt „Gender Shades“ herausgefunden, dass die Gesichtserkennung bei Dunkelhäutigen und Frauen sehr ungenau arbeitet – im Gegensatz zur Identifizierung von weißen Männern. Wie kann so etwas passieren? Grund ist die unterschiedliche Datenlage: Das Trainingsmaterial der KI hatte in der Bilddatenbank in der Kategorie „Mensch“ überproportional viele Fotos von hellhäutigen Menschen – von dunkelhäutigen gab es hingegen nur wenige.

KI-basierte Algorithmen fairer machen

Das Konzept der Fairness ist in der Gesellschaft verankert. Die Kompromisse, die Menschen bereit sind einzugehen, hängen von ihren Normen ab. In der Zeit vor Corona wäre die Rückverfolgung von Kontakten als schwerwiegende Verletzung der Privatsphäre angesehen worden, doch aufgrund des gesellschaftlichen Nutzens für die Gesundheit ist sie derzeit akzeptiert. Daher ist der Kontext entscheidend, wenn es um Fragen zu Geschlecht, ethnischer Zugehörigkeit, Alter und Privatsphäre geht.

Der Algorithmic Accountability Act in den USA verlangt regelmäßige Bewertungen von Hochrisikosystemen, die personenbezogene Daten nutzen oder automatisierte Entscheidungen treffen – insbesondere solche, die zu Diskriminierung oder Voreingenommenheit beitragen können. Dazu gehören auch Systeme, die KI oder maschinelles Lernen nutzen.

In der EU hingegen soll der Digital Services Act zentrale Spielregeln der Digitalwirtschaft neu bestimmen – die bisherige Rechtsgrundlage, die europäische E-Commerce-Richtlinie, stammt noch aus dem Jahr 2000. Zudem soll er der Politik Handhabe gegen die mächtigen Digitalkonzerne geben.

Verzerrungen in KI-basierten Algorithmen

Angesichts der genannten Probleme mit KI-basierten Algorithmen müssen Entwickler die Auswirkungen und mögliche Einschränkungen im Zusammenhang mit der Datenverfügbarkeit bedenken.

Eine gründliche Bewertung kann Einblicke in unbeabsichtigte Folgen und grundlegende ethische Werte liefern, die beeinträchtigt werden könnten. In einer Studie von 2018 wurden beispielsweise Algorithmen darauf trainiert, die Gesichter von Uiguren, einer überwiegend muslimischen Minderheitsethnie in China, von koreanischen und tibetischen zu unterscheiden. Das löste in der wissenschaftlichen Gemeinschaft Bedenken aus, da solche Studien zum Trainieren von Überwachungsalgorithmen verwendet werden könnten.

Bei der Bewertung von KI-Algorithmen müssen Entwickler die Korrelation, also die Bewegung einer Variablen in Abhängigkeit einer anderen, und die Kausalität (Ursache und Wirkung) bewerten. Es ist wichtig, die Variablen, die das Ergebnis beeinflussen, und alle Beziehungen zwischen ihnen zu identifizieren. So kann sichergestellt werden, dass es zu keinen Verzerrungen kommt.

Schließlich ist jeder KI-Algorithmus nur so gut wie der eingespielte Datensatz. In vielen Fällen sind umfassende Informationen außerhalb der Mehrheitsstichprobe begrenzt. Derzeit gibt es einige Datenerhebungsverfahren, die zur Verringerung von Verzerrungen beitragen können. Wir müssen jedoch die Grenzen jeder Technik basierend auf den uns heute zur Verfügung stehenden Informationen verstehen und diese kontinuierlich testen und überwachen.

Das Potenzial von künstlicher Intelligenz

KI hat das Potenzial, innovative Wege zu eröffnen, um Fortschritte in Bezug auf ökologische und soziale Fragen sowie das menschliche Wohlergehen zu ermöglichen. Allerdings müssen bei der Entwicklung kontextuelle und wahrnehmungsbezogene Unterschiede mehr berücksichtigt werden, um dadurch die Effizienz der Algorithmen insgesamt zu verbessern.

Wichtige Informationen:

Alle hier geäußerten Ansichten sind die des Autors zum Zeitpunkt der Veröffentlichung, basieren auf den verfügbaren Informationen und können ohne vorherige Ankündigung geändert werden. Die einzelnen Portfoliomanagementteams können unterschiedliche Ansichten vertreten und für verschiedene Kunden unterschiedliche Anlageentscheidungen treffen. Der Wert von Anlagen und ihrer Erträge kann sowohl steigen als auch fallen und Anleger erhalten ihr Kapital möglicherweise nicht vollständig zurück.