Künstliche Intelligenz in der Rechtsbranche: Nach der Holzkutsche direkt das Space-Shuttle?

Das ist auch nicht verwunderlich, zumal diese Technologie für Nichttechniker selten leicht verständlich erklärt wird. In Anbetracht der immer größer werdenden Relevanz der Digitalisierung ist das aber fatal. Um dem entgegenzuwirken, soll in diesem Artikel der mysteriöse Schleier, der KI umgibt, gelüftet werden. Dabei wird erläutert, wie moderne Technologien, insbesondere Chatbots, mit der Rechtsbranche zusammenpassen.

Narrow Intelligence vs. General Intelligence

Auch wenn die Definition von Intelligenz umstritten ist, so beinhaltet sie meist die Fähigkeit, Muster zu erkennen. Darum geht es primär, wenn man über Künstliche Intelligenz spricht. Zeigt man z. B. einem Kind Bilder von Hunden und Katzen und sagt dabei: „Das ist eine Katze, das ist ein Hund” – so wird es früher oder später in der Lage sein, Hunde und Katzen selbstständig auseinanderzuhalten. Es hat die Muster erkannt, die einen Hund oder eine Katze optisch unterscheiden.

Bereits Ende des 20. Jahrhunderts wurden Konzepte entwickelt, wie auch ein Computer solche Mustererkennung selbstständig erlernen kann. Künstliche Intelligenz ist also nicht neu. Wieso schlägt sie erst jetzt so große Wellen? Das hängt insbesondere damit zusammen, dass KIs immer nur eine bestimmte Aufgabe lösen können (man nennt dies ‚Narrow Intelligence’). Wir Menschen sind nicht nur in der Lage, Tiere zu unterscheiden, sondern können ebenso in anderen Bereichen Muster erlernen und anwenden (man nennt dies ‚General Intelligence’). Eine solche KI, die gelernt hat Tiere zu erkennen, wird jedoch nicht Auto fahren können und umgekehrt.

Zudem stellen sich KIs alles andere als „intelligent“ beim Lernen einer Aufgabe an. Um beispielsweise Hunde von Katzen zu unterscheiden, braucht eine KI nicht nur eine Handvoll Beispiele, sondern mehr als Zehntausende! Und selbst dann hat sie noch nicht wirklich verstanden, was einen Hund ausmacht. Sie weiß lediglich, dass eine bestimmte Abfolge von Pixeln in Kombination mit einer anderen Abfolge von Pixeln die Wahrscheinlichkeit erhöht, dass es sich um einen Hund handelt. Welche Pixelkombinationen dabei eine Rolle spielen ist für den Entwickler oder die Entwicklerin nicht nachvollziehbar, da KIs sogenannte Black Boxen sind. Was in einer solchen Black Box passiert, hängt maßgeblich von den Trainingsdaten ab und kann vom Menschen nicht nachvollzogen werden. Es ist insbesondere unklar, welche Aspekte der Trainingsdaten zu einer Entscheidung beitragen.

Kurios: KI betrachtet Lineal als Indikator für Bösartigkeit von Muttermalen

Ein kurioses Beispiel: 2017 trainierten Wissenschaftlerinnen und Wissenschaftler eine KI, um gutartige Muttermale von bösartigen zu unterscheiden. Später fiel ihnen auf, dass ein Muttermal mit hoher Wahrscheinlichkeit als bösartig eingestuft wurde, wenn ein Lineal mit auf dem Foto zu sehen war. Das lag daran, dass bei den Trainingsdaten für die bösartigen Muttermale fast immer ein Lineal als Maßstab abgebildet war, bei den gutartigen jedoch nicht. Die KI hat also angenommen, dass das Lineal mit zu dem Muster gehört, das ein bösartiges Muttermal ausmacht. Diesen Fehler kann man übrigens am Quellcode nicht erkennen. Der Black Box-Charakter der KI sorgt dafür, dass man im Nachhinein nur vermuten kann, wieso eine KI ein bestimmtes Muster erkennt.

Bewerbungs-KI diskriminiert Frauen

Ein weiteres Beispiel: Zwischen 2014 und 2017 hat die Firma Amazon eine KI entwickelt, die Bewerbungsunterlagen scannt und gleichzeitig ermittelt, wie geeignet ein Bewerber oder eine Bewerberin für den Job ist. Die KI konnte am Ende aber nicht verwendet werden, da sich herausstellte, dass sie weibliche Bewerber deutlich schlechter einstufte als männliche. Das lässt sich vermutlich darauf zurückführen, dass die Firma als Trainingsdaten die Bewerbungen der zurückliegenden zehn Jahre verwendete, von denen überwiegend männliche Bewerber angenommen wurden.

Um zu verdeutlichen, dass es sich hierbei nicht um Einzelfälle handelt, sei auf eine KI verwiesen, die in den USA zur Beurteilung der Vergabe von Hypotheken eingesetzt wurde – hier hatten Menschen mit weißer Hautfarbe signifikant bessere Chancen.

ChatGPT: So funktioniert die Technik dahinter

Nachdem wir nun einen Überblick darüber haben, wie KIs funktionieren, schauen wir uns die Technik hinter ChatGPT an. Auch die hier zugrundeliegende KI ist der Kategorie ‚Narrow Intelligence’ zuzuordnen.  Die Aufgabe, die ChatGPT als Beispiel lösen soll, ist vereinfacht formuliert folgende:

„Gegeben eines Chatverlaufs, generiere eine Antwort, die möglichst viel Zuspruch (Daumen nach oben) generiert.”

Als Trainingsdaten stehen hierfür große Teile aller vergangenen Konversationen des Internets zur Verfügung, sowie Wissensportale wie Wikipedia. Gerade dieses massive Datenvolumen macht den Erfolg dieser KI aus, sowie die dafür erforderliche Rechenpower, die man vorher schlichtweg nicht aufgebracht hat bzw. aufbringen konnte. Beim skeptischen Leser läuten jetzt vielleicht die Alarmglocken.