Was sind die Tücken und Grenzen von ChatGPT und Co?

ChatGPT erfindet Rechtsquellen  

Zusätzlich zu dem Fakt, dass ChatGPT und BingChat nicht denken können, kommt verschärfend hinzu, dass die Bots nach jetzigem Stand der Technik, manchmal Ergebnisse oder auch Fakten erfinden. Das nennt man in diesem Zusammenhang “Halluzinieren” und ist oft gar nicht so leicht zu erkennen. Deshalb gilt: Immer jeden Gesetzesverweis und jedes Rechtsprechungszitat, das die ChatBots liefern, prüfen. Was so ein Textgenerator als Tatsache darstellt, kann trotzdem völlig unzuverlässig sein. Man sollte sich also nicht auf die Ergebnisse dieser Plattformen verlassen – jedenfalls soweit man diese Plattformen als eine Art Datenbank oder Suchmaschine benutzt. Dies sollte nur sehr vorsichtig geschehen und nur von jemandem durchgeführt werden, der sich in dem jeweiligen Fachgebiet auskennt und sehr kompetent ist.

Chatbots als Textgeneratoren nutzen

Warum sollte man solche Plattformen dann überhaupt nutzen, wenn sie doch so unzuverlässig sind? Weil sie eben keine Suchmaschinen oder Datenbanken sind, sondern ihre Stärke als Textgeneratoren, oder eben Texttransformationsmaschinen haben. Nach dem alten Prinzip der IT "Garbage in, garbage out, gilt: Wenn Sie Müll hineintun, kommt auch Müll hinaus.

Wenn Sie aber keinen Müll eingeben, sondern z. B. Texte, von denen Sie wissen, dass sie richtig oder zumindest kohärent formuliert sind, dann können Ihnen diese Bots dabei helfen, die Texte umzuwandeln, anders zu strukturieren oder auch zu analysieren - oder darauf aufbauend neue Texte zu entwerfen. Und da das Formulieren und Entwerfen von Texten und Schreiben auch Teil der juristischen Tätigkeit ist, kann ChatGPT schon jetzt eine juristische Arbeitshilfe sein.

Keine Klage von den Bots entwerfen lassen

Aber lassen Sie sich auf keinen Fall von so einer Plattform die komplette Begründung einer Klage oder einer Klageerwiderung schreiben. Das wird nicht funktionieren und wenn es funktioniert, ist es vermutlich falsch. Arbeiten Sie stattdessen mit einzelnen Textteilen und holen Sie sich dabei von den ChatBots Formulierungshilfen oder Inspiration. Viele Prompts und Möglichkeiten, wie das gelingen kann, finden Sie auch auf dieser Website. Diese Unterstützung ist nicht wenig heutzutage, wo mehr und mehr Anwältinnen und Anwälte unter beruflichem Stress stehen.

Texte anonymisieren

Ein weiterer wichtiger Aspekt bei der Nutzung von ChatGPT ist der Datenschutz. ChatGPT speichert die Daten, die Sie eingeben, da diese dafür genutzt werden, das Programm zu verbessern und zu trainieren. Das Unternehmen garantiert zudem nicht die Sicherheit Ihrer Daten. Verwenden Sie den Chatbot folglich nicht für die Verarbeitung von sensiblen oder vertraulichen Daten, um die Risiken von Datenlecks und Verstößen gegen den Datenschutz zu minimieren und anonymisieren Sie Texte mit vertraulichen Daten, bevor Sie diese von ChatGPT bearbeiten lassen. Weitere Informationen finden Sie auch in der Privacy Policy von OpenAI.

Fazit: Mit Bedacht nutzen

Abschließend sei festgehalten, dass ChatGPT und BingChat trotz ihrer Tücken und Grenzen als Textgeneratoren durchaus eine Bereicherung für juristische Tätigkeiten darstellen können. Es gilt jedoch, sich stets vor Augen zu halten, dass sie weder denken noch Probleme lösen können und bisweilen sogar Fakten oder Rechtsquellen „halluzinieren“. Folglich ist eine umsichtige Nutzung dieser Plattformen unabdingbar, wobei sie insbesondere für die Textumwandlung, -strukturierung und -analyse sowie als Formulierungshilfe und Inspiration genutzt werden sollten. So können ChatGPT und BingChat trotz ihrer Einschränkungen wertvolle Unterstützung bieten, wenn sie mit Bedacht und in ihrem jeweiligen Kompetenzbereich eingesetzt werden.

Tom Braegelmann

Tom Braegelmann ist Rechtsanwalt bei der Kanzlei Annerton. Er ist ein international erfahrener Insolvenz- und Restrukturierungsexperte, war zuvor für namhafte Wirtschaftskanzleien tätig und ist sowohl in Deutschland als auch in den USA als Anwalt zugelassen. Als Anwalt mit Schwerpunkt auf Bankruptcy Law/Insolvenz- und Urheberrecht war er über drei Jahre in New York tätig. Tom Braegelmann ist bestens vertraut mit den neuesten technologischen juristischen Entwicklungen, insbesondere mit der Digitalisierung des Wirtschafts-, Restrukturierungs- und Insolvenzrechts.