Großes Sprachmodell LLM

Ein großes Sprachmodell, kurz LLM, ist die Software hinter den Assistenten, die Texte schreiben und zusammenfassen. Es hat gelernt, indem es riesige Mengen Text gelesen und erkannt hat, welche Wörter meist auf welche folgen. Wenn Sie ihm eine Frage stellen, schlägt es die Antwort deshalb nirgendwo nach. Es schreibt sie Stück für Stück und wählt jedes Mal das Stück, das ihm am wahrscheinlichsten erscheint.

Diese eine Gewohnheit erklärt fast alles, was Menschen an diesen Modellen seltsam finden. Weil es vorhersagt statt nachzuprüfen, kostet eine flüssige falsche Antwort genauso viel Aufwand wie eine richtige. Es unterscheidet beide nicht, und sein Ton klingt nicht unsicherer, wenn es daneben liegt. Es ist deshalb sehr gut im Entwerfen, Umschreiben und Übersetzen, taugt allein aber nicht als Quelle für Fakten.

Die praktische Lösung ist, es nicht mehr zu fragen, was es weiß, sondern ihm zu geben, was Sie wissen. Statt das Modell nach Ihren Rückgaberegeln zu fragen, sucht das System diese Regeln in Ihren eigenen Dokumenten und reicht den Text mit der Frage weiter. Das Modell schreibt die Antwort dann aus der Seite vor sich. So läuft fast jede ernsthafte Nutzung eines KI-Systems ab.

Dann kommt die Überraschung bei den Kosten, denn Sie zahlen für den Text hinein genauso wie für den Text heraus. Ein Chat schickt bei jeder Antwort den gesamten Verlauf erneut mit, sodass ein langes Gespräch mit jeder Runde teurer wird. Linkysoft schneidet deshalb alte Nachrichten aus langen Verläufen heraus, und man sollte jeden Anbieter fragen, wie er damit umgeht.

Die zweite Frage, die vor dem Bauen geklärt gehört, ist, wohin Ihre Texte gehen. Fragen Sie, welche Firma das Modell betreibt, ob Ihre Texte gespeichert werden und ob damit etwas trainiert wird. Ein Krankenhaus oder eine Schule braucht diese Antwort schriftlich, und darum behandeln wir sie als Frage der IT-Sicherheit und nicht als technische Kleinigkeit.

In der Praxis ist das Modell ein Teil in einer ganz normalen Webanwendung, die ohnehin Ihre Bestellungen, Patienten oder Schüler führt. Weil der Wert in diesen Daten steckt, baut Linkysoft zuerst das System und setzt das Modell nur dort ein, wo es jemandem echte Zeit spart. Das kann der Entwurf einer Antwort sein oder die Zusammenfassung eines langen Chatbot-Gesprächs für die Person, die es übernimmt.