Künstliche Intelligenz kann Anwältinnen und Anwälten die Kanzleiarbeit erheblich erleichtern. Allerdings können beim Einsatz auch Tücken und Fallen auftauchen. So geschehen bei einem Rechtsstreit vor dem Amtsgericht Köln: Die vom Antragsgegner zitierten Entscheidungen, Fundstellen und Autoren von Kommentaren stimmten nicht. Sie seien offenbar mittels künstlicher Intelligenz generiert und frei erfunden worden, kritisiert das Gericht in seinem Beschluss in der familienrechtlichen Auseinandersetzung (Az: 312 F 130/25 vom 02.07.2025) und mahnt „derartige Ausführungen für die Zukunft zu unterlassen, da sie die Rechtsfindung erschweren, den unkundigen Leser in die Irre führen und das Ansehen des Rechtsstaates und insbesondere der Anwaltschaft empfindlich schädigen.“
Nicht ganz so harsch ging das Oberlandesgericht Celle mit dem Schriftsatz eines Beklagtenvertreters um, in dem es ebenfalls genannte Fundstellen nicht überprüfen konnte, da sie offenkundig falsch zitiert worden waren (Az.: 5 U 1/25 vom 29.04.2025).
Beide Fälle zeigen jedoch ein Problem auf, das beim Einsatz von KI-Sprachmodellen wie ChatGPT, Gemini, BERT oder ähnlichen Large Language-Modellen auftauchen kann. Es kann passieren, dass sie in ihren Antworten Tatsachen, Zitate und mitunter sogar Gerichtsentscheidungen erfinden, die zwar logisch, aber inhaltlich falsch sind – so genannte „KI-Halluzinationen“. Nach einer Studie der Stanford University aus dem Jahr 2024 liegt die Quote der KI-Halluzinationen bei juristischen Anfragen zwischen 69 und 88 Prozent. Diese Fehlerquoten sind auf die Art und Weise zurückzuführen, wie die jeweiligen Tools trainiert worden sind, zum Beispiel durch fehlerhaftes oder einseitiges Trainingsmaterial. Eine weitere Fehlerquelle mag auch daraus resultieren, dass zum Training Alltagssprache statt juristischer Fachsprache genutzt wird, was dann zu Sinnverschiebungen und Missverständnissen führen kann.
Diese Gefahren verdeutlichen die Notwendigkeit, dass Rechtsanwältinnen oder der Rechtsanwälte die Ergebnisse, die sie durch die Anwendung solcher KI-Instrumente erhalten haben, sorgfältig überprüfen müssen. „Grundsätzlich entbindet dabei der Einsatz von KI die Anwaltschaft keinesfalls von ihrer Pflicht, in eigener Verantwortung und unabhängig Mandantinnen und Mandanten rechtlich zu beraten und deren Interessen zu vertreten“, schreibt die Bundesrechtsanwaltskammer (BRAK) in ihren Hinweisen zum Einsatz von künstlicher Intelligenz. Zur gewissenhaften Berufsausübung sind Anwältinnen und Anwälte ohnehin nach § 43 Satz 1 BRAO verpflichtet. Eine besondere Rolle spiele dabei – so die BRAK – der Grundsatz der höchstpersönlichen Leistungserbringung: Die Anwältin oder der Anwalt muss seine Tätigkeit eigenverantwortlich und selbst erbringen.
Im erwähnten Fall vor dem Amtsgericht Köln gingen die Richter sogar soweit, dass sie einen Verstoß gegen diese Berufspflicht in Betracht gezogen haben. So weisen sie in ihrem Beschluss darauf hin, „dass es sich um einen Verstoß gegen § 43 a Abs. 3 BRAO handelt, wenn ein Rechtsanwalt bewusst Unwahrheiten verbreitet. Hierzu gehört der wissentlich falsche Vortrag über Inhalt und Aussagen von Gesetzen und Urteilen.“ Nun ist es auch früher – bevor es überhaupt möglich war, dass KI-Instrumente bei der Erstellung eines Schriftsatzes geholfen haben - zu falschen Fundstellen und Zitatfehlern gekommen. In solchen Fällen handelt es sich eher um Nachlässigkeit und nicht um bewusste Täuschung. Die berufsrechtliche Pflicht zur gewissenhaften Berufsausübung macht aber auf jeden Fall deutlich, dass in jedem Fall eine eigenverantwortliche Überprüfung und Endkontrolle der KI-Ergebnisse durch die Rechtsanwältin oder den Rechtsanwalt erforderlich sei, hält die BRAK in ihren Hinweisen fest.
Auf die gute Überprüfbarkeit der Antworten hat Soldan bei der Entwicklung seiner KI- gestützten Antwortmaschine „responsis“ besonderen Wert gelegt. Diese Anwendung unterstützt Rechtsanwender bei der juristischen Recherche, indem es schnell und unkompliziert Antworten auf rechtliche Fragestellungen findet und somit für eine erhebliche Zeitersparnis sorgt. Dabei beschreibt der Nutzer das juristische Problem und den Sachverhalt, wie er es auch von Chatbots wie ChatGPT kennt, in einer Maske. responsis sucht die richtige Antwort in den Gerichtsentscheidungen deutscher Gerichte und gibt dabei auch das Aktenzeichen und das Veröffentlichungsdatum an. Zudem wird zum Volltext der Primärquelle verlinkt, die für die Antwort maßgeblich war. „Mit responsis erhält der Nutzer nicht nur einen gut verständlichen Text auf seine Frage. Er kann den Inhalt auch dank der Referenzangabe schnell überprüfen. Daher sind Fehlzitate kaum möglich“, sagt Christian Rekop, Leiter Business Development, Legal Tech und Services bei Soldan. Darüber hinaus wird gewährleistet, dass die Eingaben der Anwender nicht zu Trainingszwecken des Sprachmodells genutzt werden. Abonnenten von „responsis“ erhalten eine entsprechende Erklärung zu Datenschutz und Berufsrecht. Denn auch die Verschwiegenheitspflicht nach § 43a Abs.2 BRAO muss gewahrt bleiben, wenn Anwältinnen und Anwälte KI oder Sprachmodelle nutzen. Schließlich arbeitet „responsis“ ausschließlich über Server, die sich in der Europäischen Union befinden. Damit wird sichergestellt, dass das hohe europäische Datenschutzniveau eingehalten wird.
Anke Stachow ist freie Journalistin mit dem Schwerpunkt „Recht und Steuern“. Seit Anfang 2015 schreibt sie für Soldan regelmäßig über Themen, die Anwälte und Steuerberater interessieren. Anke Stachow hat viele Jahre als Redakteurin für die Financial Times Deutschland und die Frankfurter Allgemeine Zeitung gearbeitet.
