Rechtsfragen zum Einsatz Künstlicher Intelligenz im Finanzsektor

Die Künstliche Intelligenz (KI) hat sich in den letzten Jahren sprunghaft entwickelt und wird bereits in vielen Bereichen des Alltags eingesetzt, ohne dass ihre (Lern-) Algorithmen offengelegt werden. Immer mehr Banken nutzen bei der Kreditvergabe ohne Wissen ihrer Kunden Maschinelles Lernen und Künstliche Intelligenz. Auch am Kapitalmarkt ist der Einsatz von KI nicht mehr wegzudenken, da die Investment-Industrie riesige Datenmengen verarbeiten muss.

Die Ergebnisse hängen insoweit nicht nur von der Qualität der Daten, sondern auch von der Effizienz des Lernens ab. So sollen es KI-basierte Chatbots bereits geschafft haben, bessere Anlageentscheidungen als einige der renommiertesten Investmentfonds Großbritanniens zu treffen. Andererseits stellt sich auch die Frage, wie sichergestellt werden kann, dass die Risikoprofile und Vorgaben der Anleger bei KI-basierten Anlageempfehlungen bzw. -entscheidungen berücksichtigt werden können und – sofern sie nicht eingehalten wurden – wer für etwaige darauf zurückzuführende Schäden verantwortlich ist.

Einsatzgebiete am Kapitalmarkt

Die Einsatzgebiete von KI im Finanzsektor sind vielfältig, beispielsweise bei Markt- und Risikobewertungen, dem algorithmischen Wertpapierhandel und dem sogenannten „Robo Advice“, der begrifflich eine Finanzdienstleistung umschreibt, welche KI-basierte Anlageempfehlungen bzw. -entscheidungen trifft und in der Regel automatisiert über Apps oder Webseiten vertrieben wird.

Aufsichtsrechtlicher Rahmen

Angesichts dieser Vielfalt überrascht es nicht, dass KI als solche bislang keiner technologiespezifischen, aber branchen- und entwicklungsstufenübergreifenden Regulierung unterliegt. Im Gegensatz zum algorithmischen Wertpapierhandel fehlen vorerst spezifische gesetzliche Vorgaben. Die angebotenen Finanzdienstleistungen reichen über die Anlageberatung hinaus, weil die betreffenden Anbieter teils Anlage- oder Abschlussvermittlung, teils auch Finanzportfolioverwaltung betreiben. Die jeweiligen Geschäftsmodelle bedürfen daher insofern jeweils spezifischer rechtlicher Qualifikation, um die Zuordnung zu einer erlaubnispflichtigen Tätigkeit nach dem Kreditwesengesetz zu klären. Speziell beim Robo Advice besteht darüber hinaus die aufsichtsrechtliche Verpflichtung, die Kunden im Vorfeld der Geeignetheitsprüfung zu informieren, in welchem Maße und Umfang Personen an der Erbringung dieser Finanzdienstleistung beteiligt sind und ob bzw. wie der Kunde Kontakt mit einem Mitarbeiter herstellen kann. Zudem ist ihnen zu erklären, dass sich die von Kunden erteilten Antworten unmittelbar auf die Beurteilung der Geeignetheit der empfohlenen oder in ihrem Namen getroffenen Anlageentscheidungen auswirken können. Die für die Anlageberatung oder Finanzportfolioverwaltung herangezogenen Informationsquellen sind ferner zu beschreiben. Schließlich bedarf es einer Erläuterung, wie und wann die Informationen über die Kundenmerkmale und persönlichen Verhältnisse des Kunden aktualisiert werden.

Zivilrechtlicher Rahmen und Haftungsfragen

Wurden aufsichtsrechtliche Vorgaben nicht eingehalten, so können diese auch zivilrechtliche Ansprüche des Anlegers gegen den Finanzdienstleister zur Folge haben. Allein das Betreiben einer entsprechenden Finanzdienstleistung ohne die nach dem Kreditwesengesetz erforderliche Erlaubnis der Bundesanstalt für Finanzdienstleistungsaufsicht kann zu einer Haftung führen. Ein Anlageberatungsvertrag kann bereits dann zustande kommen, wenn der Anleger bei Verwendung der KI-basierten Software davon ausgehen muss, dass die erhaltene Beratung an dessen persönliche Verhältnisse und Erwartungen angepasst wurde. Ein Vermögensverwaltungsvertrag dürfte in der Regel dann anzunehmen sein, wenn die Software darüber hinaus im eigenen „Ermessensspielraum” das Vermögen des Anlegers verwalten kann, ohne zwischendurch die Zustimmung des Anlegers abzufragen. Wichtig ist hierbei, dass der Einsatz eines KI-Softwaresystems die Haftung des Betreibers weder ausschließen noch erschweren darf. So haftet der Betreiber unter den normalen Voraussetzungen für Schadensersatz, wenn sich die KI-basierte Anlageempfehlung als pflichtwidrig erweist. Pflichtwidrig ist die Beratung dann, wenn sie nicht anleger- oder objektgerecht ist. Die verwendete KI-Software muss daher ständig fortentwickelt und gewartet werden, so dass es dem Branchenstandard entspricht und eine pflichtgemäße Beratung sichergestellt werden kann. Dies umfasst unter anderem, dass die Abfrage der Anlegerinformation verständlich gestaltet ist. Überdies muss eine regelmäßige Überprüfung des Programmverhaltens und dessen Outputs erfolgen. Probleme im Bereich der Haftung könnten sich dann ergeben, wenn der Betreiber die oben genannten Pflichten einhält, dem Programm allerdings selbst einen Entscheidungsspielraum überlässt. Es stellt sich daher die Frage, inwieweit das Verhalten der Software dem Betreiber dann noch zugerechnet werden kann. Die Kategorisierung autonomer Entscheidungen als Werkzeug des Betreibers gestaltet sich als schwierig, da sich das Programm in der Entscheidungsfindung dem Einfluss des Betreibers entzieht. Die Anwendung der allgemeinen Regeln wirft dann regelmäßig KI-spezifische Fragen auf, gerade weil diese Regeln auf Entscheidungen von Menschen und nicht von Maschinen zugeschnitten sind. Hintergrund ist nicht nur der damit verbundene Steuerungs- und Kontrollverlust des Betreibers, sondern oftmals auch die Intransparenz der Entscheidungsfindung, die auf die Komplexität und Selbstlernfähigkeit von KI-Systemen zurückzuführen ist (sog. Black-Box-Phänomen).

Fazit und Ausblick

Der Einsatz von KI nicht nur im Finanzsektor wirft jedenfalls noch einige Rechtsfragen auf. Es bleibt abzuwarten, ob die Gesetzgebung mit der enormen Geschwindigkeit in der Entwicklung und Anwendung von KI-Systemen mitkommt. Auf europäischer Ebene liegt jedenfalls seit April 2021 ein Verordnungsentwurf der Kommission zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz vor, der bis heute im Gesetzgebungsverfahren noch beraten wird.

Martin Kühler
Rechtsanwalt
TILP Rechtsanwaltsgesellschaft mbH