Iris Bülow (Redakteurin)Lesedauer: 3 Minuten

Leitlinien vorgestellt Bafin will Umgang mit Big Data und KI regeln

Elektronische Platine
Elektronische Platine: Digitaltechnologie wird für viele Unternehmen zum beherrschenden Thema. Die Bafin hat jetzt die Risiken beim Einsatz von Künstlicher Intelligenz und Big Data untersucht. | Foto: imago images / Westend61

Viele Finanzunternehmen setzten mittlerweile Big Data und Künstliche Intelligenz ein – um etwa um Risiken einzuschätzen oder Kosten zu senken. Bei der Bundesanstalt für Finanzdienstleistungsaufsicht (Bafin) sieht man darin zwar durchaus Chancen, aber ebenso auch Risiken für Kunden. Die Finanzaufseher haben jetzt ein 16-seitiges Prinzipienpapier vorgestellt, das dem Umgang mit den Technologien, zusammenfassend als BDAI bezeichnet, einen Rahmen verschaffen soll. Es soll einerseits Handlungsempfehlung für die betroffenen Unternehmen sein. Die Finanzaufseher wollen es andererseits auch als Diskussionsgrundlage verstanden wissen – für den Austausch mit Marktteilnehmern, Wissenschaftlern und anderen Aufsichtsbehörden.

Unter dem Begriff „Künstliche Intelligenz“ verstehe man eine „Kombination aus großen Datenmengen (Big Data), Rechenressourcen und maschinellem Lernen“, stellt die Bafin voran. Bei maschinellem Lernen wiederum ziehen Computer mithilfe von Algorithmen eigene Schlüsse aus Daten und Erfahrungen – ohne dass im Hintergrund ein Programmierer dieses Lernen anleitet. Die Algorithmen des maschinellen Lernens unterschieden sich dabei von solchen, die bei klassischen statistischen Verfahren zum Einsatz kämen. Sie arbeiteten sehr komplex, ihre Ergebnisse ließen sich daher schwer nachvollziehen. Im Ergebnis sorgten sie für Skalierung: Sie stoßen nicht nur einzelne, sondern gleich eine Masse an Prozessen und Entscheidungen an.

Ein Risiko bei der Skalierung sei, dass sich Fehler einschleichen könnten, die sich dann schnell und umfassend fortschrieben. Algorithmen könnten verzerrte Ergebnisse liefern – ohne dass die Unternehmen oder die Finanzaufsicht das einfach überprüfen könnten, heißt es in dem Papier. Die Bafin empfiehlt daher den Unternehmen, bestimmte Prinzipien zu beachten:

  • Verantwortlich ist immer die Geschäftsleitung. Das gilt auch für Entscheidungen, die auf Algorithmen fußen. Vorstand und Geschäftsleitung sollten über die ablaufenden Prozesse stets gründlich informiert sein. Dafür müssten sie ein entsprechendes technisches Verständnis mitbringen. Nach Möglichkeit sollte auch die Compliance-Abteilung über einschlägiges Fachwissen verfügen.
  • Für aus dem Unternehmen ausgelagerte Prozesse sollte ein geeignetes Risikomanagement eingerichtet werden.
  • Unternehmen sollten Vorsorge treffen, dass keine verzerrten Ergebnisse produziert würden (Bias).
  • Sie sollten auch sicherstellen, dass bei der Risiko- und Preiskalkulation keine Ergebnisse herauskämen, die bestimmte Kunden diskriminierten. Einige gesetzlich festgelegte Merkmale dürften gar nicht erst in die Prozesse einfließen, erinnert die Bafin.

Bereits beim Einrichten von BDAI-Prozessen gelte es einiges zu berücksichtigen:

  • Die Daten sollten über eine angemessene Qualität verfügen.
  • Der Datenschutz sollte gewährleistet sein.
  • Die Ergebnisse der Algorithmen sollten reproduzierbar sein.
  • Daher sollten Unternehmen alle Schritte hinreichend dokumentieren. Jeder Algorithmus sollte vor Übernahme in den operativen Betrieb und auch später regelmäßig immer wieder umfangreich überprüft werden.
  • Bei der Interpretation und Verwertung algorithmischer Ergebnisse sollten immer auch noch Menschen eingebunden werden – und zwar umso stärker, je risikobehafteter die daraus folgenden Entscheidungen sind.
  • Unternehmen sollten Notfallpläne in der Schublade haben, damit sich im Fall der Fälle der Geschäftsbetrieb aufrechterhalten lässt.
  • Letztendlich müssten alle Prozesse fortlaufend überprüft und bei Bedarf angepasst werden.

Nach Angaben der Bafin will die Europäische Kommission bis spätestens 2024 gemeinsam mit den Europäischen Aufsichtsbehörden Eba, Esma und Eiopa festlegen, ob und wie die Verwendung von BDAI in die Finanzmarktregulierung aufgenommen werden sollte.

Hier lässt sich das Prinzipien-Papier der Bafin herunterladen >>