Sie weiß nicht, dass die Queen tot ist

ChatGPT ist die Zukunft – die Künstliche Intelligenz (KI) steigt von einer futuristischen Spielerei zu einem nützlichen Helfer auf und bietet von Rezepten über fertige Essays und Reden bis hin zu Plädoyers (allerdings mit frei erfundenen Präzedenzfällen) eine Menge. Mit ChatGPT bietet sich also eine Welt der (fast) unbegrenzten Möglichkeiten. Auf moderne Ereignisse weiß die KI allerdings keine Antwort, denn der Datensatz ist von 2021. Fragt man also die KI, lebt die Queen noch. Was bedeuten ihre Fähigkeiten für die Zukunft der Beratung? Vor allem, wenn Datenschutz und Kundenzufriedenheit anecken könnten? AfW-Vorstandsmitglied Frank Rottenbacher und Rechtsanwalt Christian Palme von der Kanzlei TILP stellen sich den Fragen von finanzwelt.

finanzwelt: Dass KI den Beratungsprozess erleichtert, liegt auf der Hand. Das verspricht mehr Zeit für die persönliche Beratung des Kunden. Wie weit, denken Sie, könnte und darf die Verwendung der KI in der Beratung gehen? Immerhin steckt sie jetzt noch in den Kinderschuhen.

Frank Rottenbacher» Indem sie auf bestimmte, genehmigte Datenkreise zugreift (unter Beachtung des Datenschutzes), kann KI Kundenbedürfnisse und -situationen analysieren, Kundenfragen rund um die Uhr beantworten und somit die Beratung optimal vorbereiten. Werteorientierte Entscheidungen bleiben jedoch auf absehbare Zeit uns Menschen vorbehalten.

Christian Palme» Gerade die Rechtsberatung ist ein hoch individualisiertes Feld, welches sich stark am Mandantenbegehren orientiert. Bisher kann ChatGPT zwar pauschalisierte Antworten geben, worauf sich zugleich der Nutzen der KI beschränkt. Es ist für KI noch nicht möglich, das tatsächliche Mandantenbegehren zu analysieren und darauf entsprechend zu reagieren – und gerade das ist das Kernstück der Rechtsberatung. Wegen der Individualität der Rechtsberatung sollte sich die KI auch weiterhin nur auf die Beantwortung einfacher, nicht weitergehender Rechtsfragen beschränken und nicht aktiv in die Rechtsberatung eingebunden werden.

finanzwelt: Stichwort Datenschutz: Worauf muss der Berater bei der (Zusammen-)Arbeit mit ChatGPT achten?

Rottenbacher» Der Berater darf keinerlei personenbezogene Daten in ChatGPT eingeben, da alle Daten von OpenAI in den USA ausgewertet werden. Aus demselben Grund sollte er keine sensiblen Firmendaten von ChatGPT analysieren lassen.

Palme» Ich stimme zu. Es muss dem Berater klar sein, dass ChatGPTs Server in den USA stehen. Der Datenschutz in den USA ist bekanntlich nicht mit der EU Datenschutzgrundverordnung konform. Personenbezogene Daten (Name, Adresse etc.) sollten deshalb nicht eingesetzt werden. Das erschwert aber auch die Rechtsberatung mit Hilfe von ChatGPT. Einfache Fragen müssen verklausuliert und pseudonymisiert eingegeben werden, was die Qualität der Antworten von ChatGPT beeinträchtigen kann.

finanzwelt: Welche rechtlichen Lücken weist die KI aus heutiger Sicht auf?

Rottenbacher» Die EU hat gerade ein Gesetz verabschiedet, um KI ‚unter sicheren, transparenten, nichtdiskriminierenden und umweltfreundlichen Bedingungen bereitzustellen‘. Wir stehen höchstwahrscheinlich vor einer ‚Hase-und-Igel-Zeit‘, in der die Gesetzgebung der exponentiellen Entwicklung von KI-Software regulatorisch hinterherhinkt.

Palme» Die größte Lücke bei der Einsetzung von KI ist derzeit die ungelöste Frage nach der Haftung. Wer haftet, wenn die KI falsch berät und der Mandant deshalb einen Prozess verliert? Der die KI einsetzende Rechtsanwalt könnte sich im Beratungsvertrag rechtlich von der Haftung freistellen. Dennoch könnte er über die Vorschriften nach dem Schadensersatz wegen Sittenwidrigkeit belangt werden. Immerhin sieht das deutsche Recht bisher keine Einsatzmöglichkeit für KI vor und der Rechtsanwalt ist aufgrund seiner besonderen Stellung als Organ der Rechtspflege zum redlichen Handeln verpflichtet. Der Programmierer wird sich durch die Aufnahme einer Klausel in den AGB freistellen, die es nicht gestattet, die KI in rechtlichen Fragen zu benutzen. Im schlimmsten Fall hat der Mandant dann also einfach Pech gehabt.

finanzwelt: Beschreiben Sie doch bitte einmal das ChatGPT-Worst-Case-Szenario.

Rottenbacher» Die KI übernimmt die vollständige Beratungs-und Dienstleistungsstrecke. Virtuelle Avatare, die von echten Menschen in Aussehen und Empathie nicht mehr zu unterscheiden sind, übernehmen Vertrieb und Beratung. Andere KI-Tools übernehmen alle weiteren Tätigkeiten, die mit einem Finanzdienstleistungsprodukt verbunden sind.

Palme» Im Bereich der Rechtsberatung ist das Worst-Case-Szenario, dass der Mandant entgegen seinem Begehren beraten wird oder er einen Prozess verliert. Verlässt man sich zu sehr auf die pauschalen Antworten von ChatGPT, führt das zu einer Abhängigkeit und einem Verlernen des Selbstdenkens. Die kritische Überprüfung muss bei jeder Antwort der KI selbstverständlich sein. ChatGPT gibt auch falsche oder nur teilweise richtige Antworten. Wenn wir diese aber als wahr betrachten, wird sich die Rechtsberatung in eine für den Mandanten ungünstige oder gar aussichtslose Lage entwickeln.

finanzwelt: Beschreiben Sie einmal die Wettbewerbsvorteile, die sich durch ChatGPT für den Berater (und langfristig auch für seine Kunden) eröffnen.

Rottenbacher» KI-Tools sind Mustererkennungssysteme.

Daher: Durch KI können sich wiederholende (bürokratische) Tätigkeiten automatisiert werden und den Berater entlasten. Daten können sehr effizient ausgewertet werden und automatisiert zu Vertriebserfolgen führen. Kunden können vollständige Transparenz über ihre Produkte erhalten.

Palme» Genau. In einigen Rechtsgebieten gleichen sich die Fragen der Mandanten. Die Beantwortung wird durch den Einsatz von ChatGPT schneller und für die Beratungsstelle einfacher. Positiver Effekt für den Mandanten wird die Kostenreduzierung auf Stundenbasis sein. (ml)