Es lohnt sich, einmal die Ehrfurcht abzulegen und nüchtern zu fragen, was da eigentlich passiert, wenn ihr einem KI-System eine Frage stellt. Nicht auf der Ebene der Mathematik — die interessiert für den Kanzleialltag so wenig wie die Funktionsweise eines Verbrennungsmotors für die Fahrt zum Gericht. Sondern auf der Ebene, die für eure Arbeit zählt: Was für ein Ding ist das, und wie geht man vernünftig damit um?
Die brauchbarste Beschreibung ist unspektakulär. Ein Sprachmodell ist ein System, das gelernt hat, welches Wort in einem Text als Nächstes plausibel kommt. Es hat ungeheuer viel Text gesehen, und daraus kann es fortsetzen, ergänzen, umformulieren, zusammenfassen — mit einer Sprachbeherrschung, die verblüfft. Das ist die Stärke, und sie ist echt.
Aber daraus folgt die Schwäche unmittelbar. Ein System, das den nächsten plausiblen Satz bildet, bildet den plausiblen Satz, nicht den wahren. Meistens fällt beides zusammen — das Plausible ist auch das Richtige, und deshalb wirkt es so verlässlich. Manchmal fällt es auseinander. Dann klingt die falsche Antwort exakt so überzeugend wie die richtige, weil das System zwischen beiden gar nicht unterscheidet. Es kennt keinen Unterschied zwischen »das stimmt« und »das klingt, als würde es stimmen«. Diese Unterscheidung müsst ihr mitbringen.
Warum es sich anfühlt wie ein Gespräch
Weil es als Gespräch gebaut ist. Ihr tippt einen Satz, es antwortet, ihr hakt nach, es präzisiert. Das ist eine ungeheuer natürliche Art, mit einer Maschine umzugehen — so natürlich, dass man leicht vergisst, womit man es zu tun hat.
Denn ein Gespräch mit einem Menschen hat Eigenschaften, die dieses Gespräch nicht hat, obwohl es sie vortäuscht. Der Mensch, mit dem ihr sprecht, erinnert sich morgen an das, was ihr heute gesagt habt. Er weiß, was er nicht weiß. Wenn er sich unsicher ist, hört man es. Wenn er etwas erfindet, hat er meist einen Grund, und man kann ihn zur Rede stellen.
Der Chatbot ahmt das Gespräch nach, ohne diese Eigenschaften zu haben. Er vergisst, sobald das Fenster zu ist — und tut in der nächsten Sitzung, als hätte es die letzte nie gegeben. Er weiß nicht, was er nicht weiß, und deshalb rät er mit derselben Festigkeit, mit der er weiß. Seine Unsicherheit hört man nicht, weil er sie sprachlich gar nicht ausdrückt. Das ist kein Defekt eines bestimmten Modells. Es ist, was ein zurückredendes Dokument ist.
Nennt es, wie es ist: Ein Chatbot ist ein Dokument, das zurückredet. Ungeheuer nützlich, um Fragen zu stellen und Formulierungen zu bekommen. Aber ein Dokument, kein Kollege.
»Er weiß nicht, was er nicht weiß — und deshalb rät er mit derselben Festigkeit, mit der er weiß.«
Der begrenzte Anwendungsfall
Hier ist die Konsequenz, und sie ist für eine Kanzlei entscheidend. Wenn ihr die Technik als Chatbot benutzt — ihr tippt eine Frage, ihr lest eine Antwort, ihr verwertet sie von Hand — dann benutzt ihr die einfachste, schwächste Form, in der es sie gibt.
Nicht, weil der Chat schlecht wäre. Er ist großartig für das, was er ist: schnelles Nachdenken, ein Sparringspartner für eine Formulierung, ein erster Zugriff auf eine unbekannte Materie. Aber als Fundament einer Arbeitsweise ist er das Äquivalent dazu, ein Auto zu besitzen und es nur zu benutzen, um im Stand das Radio zu hören. Es funktioniert. Es ist nur nicht der Punkt.
Der Chat lässt drei Dinge ungenutzt, auf die es in einer Kanzlei ankommt. Erstens die Verbindung zu euren eigenen Daten — der Akte, dem Postfach, dem Kalender, dem Fristenbuch. Ein Chatbot weiß nichts von eurem Mandanten, solange ihr es nicht bei jeder Sitzung neu hineinkopiert. Zweitens die Verkettung von Schritten — vom Entwurf über die Prüfung zur Freigabe zum Versand, als ein Ablauf, nicht als vier getrennte Kopieraktionen. Drittens die Prüfung, die verhindert, dass die Halluzination aus dem letzten Essay überhaupt bis zu euch durchdringt.
Alle drei sind Arbeit. Sie einzurichten, ist Aufwand, den die meisten scheuen — es ist genau die letzte-zwanzig-Prozent-Arbeit aus Essay Nummer zwei, nur auf der Ebene des Werkzeugs statt des Falls. Und deshalb bleiben die meisten beim Chat. Nicht, weil der Chat das Beste ist, sondern weil er das ist, was man ohne diese Arbeit bekommt.
Was daraus folgt
Wenn ihr also auf Mila schaut und nur den Chat seht — das Fenster, in das man eine Frage tippt — dann seht ihr einen sehr begrenzten Anwendungsfall. Denselben begrenzten Anwendungsfall, den ihr überall sonst auch bekommt. Ein zurückredendes Dokument. Nützlich, aber nicht das, was den Nachmittag zurückgibt.
Der Chat ist der Anfang, nicht das Ziel. Er ist die Tür, nicht das Haus. Und der Fehler, den fast alle machen — der Bay-Area-Mann aus dem letzten Essay eingeschlossen —, ist, in der Tür stehen zu bleiben und sich zu wundern, dass man nicht im Haus ist.
Was hinter der Tür liegt, ist nicht ein klügeres Modell. Es ist alles, was um das Modell herum gebaut werden muss, damit aus dem zurückredenden Dokument etwas wird, das tatsächlich Arbeit übernimmt — geprüft, verkettet, mit euren Daten verbunden, und an jedem Punkt unter eurer Kontrolle. Das ist keine Sache eines besseren Chatbots. Das ist eine Sache der Infrastruktur.
Und darum geht es im nächsten Essay.
Geschrieben von Marcus Greinke, Mitgründer von Mila. Diese Reihe erscheint donnerstags.