Von Björn Frommer und Christian Häp
Ein schneller Überblick über die Akte, ohne die Inhalte lesen zu müssen, Unterstützung beim Verfassen von Schreiben durch die Bereitstellung von passenden Argumenten und mehr: Das können die neuen KI-Features der Case Management Software JUNE, die auf dem Sprachmodell ChatGPT von OpenAI basieren. Die Integration der neuen Features in die Software ermöglicht den Nutzern und Nutzerinnen, auf ganz neue Weise mit ihren Akten zu arbeiten und zu interagieren – und wertvolle Arbeitszeit zu sparen. Im Interview verraten uns Björn Frommer, CEO von JUNE, und Christian Häp, CTO von JUNE, welche Vorteile die neuen Funktionen haben, was die Unterschiede zu anderen KI-Anwendungen auf dem Markt sind und wie JUNE Datenschutz und Datensicherheit gewährleistet.
Herr Frommer, was hat Sie dazu bewogen, ChatGPT von OpenAI in Ihre Plattform zu integrieren?
Björn Frommer: Wir haben bei JUNE schon frühzeitig Erfahrungen mit diversen KI-Methoden gesammelt. So nutzen wir KI bereits seit Anbeginn für Themen wie die automatisierte Extraktion von Daten aus Dokumenten. Dabei lassen sich heute sowohl die Art eines Schreibens automatisiert erkennen, aber auch Beteiligtendaten, Fristen, Termine und nicht zuletzt wesentliche Fallinformationen. So kann JUNE neue Dokumente einer Akte vollautomatisch auslesen und die Daten in strukturierter Form in die Akte einpflegen.
Mit ChatGPT, dem Sprachmodell von Open AI, stehen uns nunmehr weitere, gänzlich neue Methoden zur Verfügung. Uns war schnell klar, dass ChatGPT alles verändern würde – auch und gerade die Rechtslandschaft.
Wir haben uns daher früh überlegt, wo June-Kunden und -Kundinnen von einem weit entwickelten Sprachmodell wie ChatGPT kurzfristig profitieren könnten. Als Anbieter einer Case Management-Plattform stand eine Überlegung im Vordergrund: Wie können wir es den Nutzerinnen und Nutzern ermöglichen, so effizient wie nur möglich mit unserer Plattform zu arbeiten? Und: Wie lässt sich mit ChatGPT die Arbeit in der Akte revolutionieren?
Welche neuen und exklusiven Features der JUNE stellen Sie am 3. und 4. Mai auf der Legal Revolution vor?
Björn Frommer: Auf der Legal Revolution werden wir das Ergebnis der obigen Überlegungen präsentieren. Wir werden den JUNE Assistant vorstellen, der verschiedene Features in sich vereint, die den Umgang mit der eigenen Akte und dem dort enthaltenen Wissen stark erleichtern werden:
- Know Your Case, der Aktenüberblick mit JUNE AI: ermöglicht den schnellen Überblick über Inhalte einer Akte, ohne die Dokumente lesen zu müssen.
- Ask Your Case, der CaseBot von JUNE AI: beantwortet Fragen, die einzelnen Dokumenten oder der Akte insgesamt gestellt werden.
- Draft Assistant: unterstützt beim Verfassen von Schreiben durch die Bereitstellung passender Argumente.
- Summarize Conversations, Gesprächsprotokolle mit JUNE AI: transkribiert Gesprochenes in Schriftform und fasst den Inhalt kurz zusammen.
Herr Häp, was unterscheidet diese neuen Features von anderen KI-Anwendungen auf dem Markt?
Christian Häp: Der wesentliche Unterschied liegt darin, dass wir bestehende KI-Features und die neuen Möglichkeiten durch ChatGPT in ein umfassendes Tool zur Aktenbearbeitung integriert haben. Ein Chatbot allein führt eher zu theoretischen als zu wirklich praktischen Effizienzsteigerungen. Was es nach unserer Einschätzung braucht, ist die Einbettung einer solchen Technologie in einen spezifischen Use Case, was zumeist ein orchestriertes Zusammenspiel mit weiteren Daten und anderen Technologien erfordert.
Das heißt konkret: Importiert man neue Dokumente in die JUNE, so werden diese zunächst einem komplexen Analyse-Prozess unterzogen, um zum einen bereits wichtige Daten wie Fristen, Termine oder Beteiligte zu erkennen, aber auch, um die Inhalte der Dokumente für den späteren Einsatz in ChatGPT technisch vorzubereiten.
So werden die Inhalte der Dokumente unter Anwendung von NLP-Verfahren in spezielle, vektorbasierte Embeddings umgewandelt. Stellt der Anwender nun eine Frage an ChatGPT, können dank dieser Embeddings alle passenden Textstellen im Dokument schnell und effizient ermittelt und dem Chatbot als Kontext mitgegeben werden, ohne an die üblichen Token-Beschränkungen des GPT-Modells zu stoßen.
Wir arbeiten dabei nicht mit der öffentlich bei OpenAI zugänglichen Version von ChatGPT. Stattdessen nutzen wir eine innerhalb von Microsoft Azure gehostete Version des bekannten Sprachmodells, das wir direkt in unsere JUNE Cloud-Plattform integriert haben. Um mithilfe von ChatGPT die besten Ergebnisse erzielen zu können, setzen wir außerdem verschiedene weitere KI-Methoden ein, z. B. die Azure Cognitive Services. So ist es unter anderem auch möglich, ChatGPT zur Analyse von Gesprächsaufzeichnungen einzusetzen, obwohl dies "out of the box" von ChatGPT derzeit noch nicht unterstützt wird.
Wie kann die neue KI-Anwendung Anwält:innen, Kanzleien und Rechtsabteilungen dabei helfen, effizienter und produktiver zu arbeiten?
Björn Frommer: Die Kombination der verschiedenen KI-Technologien in der JUNE ermöglicht es den Anwendern und Anwenderinnen, Informationen intuitiv zu finden sowie einen schnellen Überblick über komplexe Sachverhalte und den ersten Einstieg in juristische Fragestellungen zu erhalten.
Juristen und Juristinnen müssen vielfach wesentliche W-Fragen beantworten. Wann wurde etwas behauptet? Worüber wurde Beweis erhoben? Welche Einrede wurde erhoben? Sie müssen sich auf Termine vorbereiten und hierzu oftmals große Mengen an Unterlagen studieren und ununterbrochen Informationen aus Dokumenten, Akten, Konversationen etc. extrahieren.
JUNE AI setzt genau hier an: Die Einbindung eines der aktuell stärksten Sprachmodelle ermöglicht die inhaltliche Erfassung der Informationen eines Dokuments bzw. einer ganzen Akte im Bruchteil von Sekunden.
Im Gegensatz zur klassischen Suchfunktion ermöglicht die KI einen Austausch mit der Akte. Sie ermöglicht die Beantwortung konkreter Fragen, die Zusammenfassung wesentlicher Informationen, die Unterstützung beim Finden einer Argumentationsstrategie etc.
Sie ersetzt dabei nicht die eigentliche anwaltliche Arbeit, sondern ist vielmehr die Unterstützung, die wir uns gleichermaßen in Form eines bestens informierten „Helfers“ an unserer Seite wünschen würden.
JUNE AI arbeitet dabei kontextsensitiv und erkennt bereits im Vorhinein, welche Fragen in der aktuellen Akte sinnvoll sind und schlägt diese dem User konkret vor.
Und da wir uns mit der flüchtigen Antwort einer AI nicht zufriedengeben wollten – bei einer reinen Verwendung von ChatGPT endet mit der Antwort die Anwendung – bietet JUNE weitere Services, die auf der Antwort des Bots basieren:
So lassen sich aus der Antwort direkt Notizen erstellen und auch extrahierte Fakten strukturiert in der Akte speichern. Die gewonnenen Antworten werden – gewissermaßen als persönliche Ankerpunkte – dauerhaft in der Akte archiviert und werden zum Bestandteil des gesamten Datenmodells der JUNE. Sie lassen sich jederzeit, etwa über die JUNE Story (unsere Aktengeschichte) wieder auffinden und führen den User per Klick direkt zur Originalfundstelle in der Akte.
Wie haben Sie sichergestellt, dass die neuen KI-Features datenschutzrechtskonform sind?
Christian Häp: Datenschutz und Datensicherheit stehen und standen bei der Entwicklung der JUNE-Plattform von Beginn an im Mittelpunkt. JUNE ist als Unternehmen ISO 27001-zertifiziert und untersteht regelmäßigen externen und internen Kontrollen wie Penetration-Tests. Die gesamte JUNE-Plattform wird in einem eigens bereitgestellten Bereich von Azure in der EU betrieben. Die Datenübertragung und Speicherung erfolgen ausschließlich verschlüsselt mit JUNE- oder kundeneigenen Schlüsseln. Diesen Standard erfüllen auch unsere KI-Services.
JUNE nutzt ChatGPT daher nicht, wie es Interessenten kostenlos in aller Welt über die Seiten von OpenAI zur Verfügung gestellt wird. Eine solche Nutzung wäre für deutsche Kanzleien rechtlich nicht zulässig, soweit hier mit personenbezogenen oder sonstigen vertraulichen Daten gearbeitet wird.
JUNE nutzt vielmehr Azure OpenAI, das datenschutzkonforme Deployment der OpenAI-Services durch Microsoft. Azure OpenAI wird auf von Microsoft speziell für diesen Zweck vorgesehenen europäischen Servern ausgerollt und vollständig in die JUNE Cloud-Plattform und deren abgesichertes Netzwerk integriert. Ein Zugriff von außen auf die JUNE OpenAI-Implementierung ist nicht möglich.
Kundendaten und Dokumente, die den JUNE AI Services zugeführt werden, verlassen unsere abgekapselte Cloud-Umgebung nicht.
Die Fragen und Antworten innerhalb des Chats sind in einem für uns abgeschotteten Bereich abgegrenzt und werden auch nicht zum Training oder zur Verarbeitung der öffentlichen OpenAI Services verwendet. Wir verwenden ausschließlich die von Microsoft auf Azure bereitgestellte proprietäre Version von ChatGPT. Es existiert kein Vertragsverhältnis und kein Datenaustausch mit der OpenAI LLP.
Welche Pläne haben Sie, Ihre KI-Integration in Zukunft weiterzuentwickeln?
Christian Häp: Aktuell entwickeln wir die neuen Features natürlich täglich weiter. Unser Ziel ist es, den Kundinnen und Kunden für eine Vielzahl von Anwendungsfällen bereits das Prompt Engineering abzunehmen und ChatGPT eine für das juristische Umfeld und den jeweiligen Aktenkontext passgenaue Anweisung zu geben. Wir werden zudem unser eigenes ChatGPT-Modell verstärkt trainieren, um die Ergebnisse weiter zu verbessern.
Daneben beabsichtigen wir, die JUNE AI Features schrittweise in immer mehr bestehenden JUNE-Funktionalitäten zu integrieren. AI Features sollen im gesamten Aktenbearbeitungsprozess Hand in Hand mit den anderen JUNE-Services zusammenarbeiten.
Neue, zukünftige Features, die von OpenAI oder Microsoft bereitgestellt werden, werden innerhalb kürzester Zeit implementiert und die Vorteile der Nutzung an unsere Kund:innen weitergegeben. Davon abgesehen, befinden wir uns gemeinsam mit Microsoft fortwährend in einem Forschungsprozess für neue Preview Features der aktuell in Entwicklung befindlichen KI-Services.
Vielen Dank für das Interview!
Björn Frommer
Christian Häp
Ursprünglich aus der Softwareentwicklung kommend, beschäftigt sich Christian Häp seit vielen Jahren mit der Erforschung und Entwicklung neuer Lösungen und Architekturen in der Cloud. Als CTO bei JUNE leitet er die Weiterentwicklung der Cloud-Plattform und forscht an Zukunftstechnologien, wie generative KI und Machine Learning.