Individuelle LLM-Anwendungen „Eigenes Modell“ heißt fast nie: selbst trainieren.

Meist reicht ein gutes Basismodell, angebunden an Ihre Daten, mit klaren Regeln für Zugriff, Prüfung und Kosten. Wir bauen solche LLM-Anwendungen und sagen vorher, welcher Ansatz für Ihre Aufgabe der kleinste passende ist.

Ablauf prüfen lassen

Vier Ansätze

Der kleinste passende gewinnt.

  • Feste Regeln, kein Modell

    Wenn dieselbe Eingabe immer dasselbe Ergebnis liefern soll. Regeln, Vorlagen und APIs sind dann günstiger und verlässlicher.

  • Antworten aus Ihren Quellen

    Wenn sich Wissen ändert und jede Antwort bis zur Quelle nachvollziehbar sein muss. Setzt geklärte Zugriffsrechte und saubere Dokumente voraus.

  • Modell mit Werkzeugen

    Wenn eine Aufgabe mehrere Systeme berührt. Das Modell wählt freigegebene Werkzeuge, Rechte und Prüfungen bleiben außerhalb.

  • Fine-Tuning

    Erst wenn Prompts und Quellen ein klar messbares Verhalten wiederholt verfehlen. Es ersetzt weder fehlendes Wissen noch Berechtigungen.

Zuerst die Entscheidung

Ein LLM lohnt sich nur, wenn das Problem eins braucht.

Gut geeignet

  • Wissen ist über Dokumente, Systeme und Berechtigungen verteilt,
  • Eingaben sind unstrukturiert: Tickets, Verträge, E-Mails, freie Anfragen,
  • Fehler lassen sich durch Regel, Prüfung oder Quellenbeleg abfangen.

Einfacheres System genügt

  • Die Regel ist schon eindeutig, eine Abfrage liefert das richtige Ergebnis,
  • es gibt keine verlässliche Quelle,
  • Fehler mit großer Tragweite können nicht geprüft werden.

Bringt ein LLM keinen messbaren Mehrwert, sagen wir das, bevor ein Pilot Budget verbraucht.

Beispiele

Lösungsansätze, keine Fallstudien. Mit sichtbarem Kontrollpunkt.

  • Support-Copilot

    Antwortentwurf aus Produktdoku, Kundenkontext und bekannten Störungen, mit Belegen und Unsicherheitshinweis. Ein Mitarbeiter bearbeitet und versendet.

  • Vertragserfassung

    Bedingungen auslesen, mit Vorgaben vergleichen, unklare Klauseln markieren statt eine sichere Antwort vorzutäuschen. Eine Person klärt die Ausnahmen.

  • Interner Assistent mit Aktionen

    Betriebsfragen belegt beantworten und eine Systemaktion vorbereiten. Ausgeführt wird erst nach ausdrücklicher Bestätigung.

Abnahme

„Sieht gut aus“ ist kein Abnahmekriterium.

  1. Testfragen sammeln

    Echte Anfragen aus Ihrem Alltag, inklusive der schwierigen und der unbeantwortbaren.

  2. Kriterien festlegen

    Richtigkeit, Quellenbezug, Ablehnung, wenn nichts da ist, Antwortzeit und Kosten pro Anfrage.

  3. Pilot gegen Kriterien

    Abgenommen wird anhand der vereinbarten Werte, nicht anhand einer polierten Demo.

  4. Bei jeder Änderung neu prüfen

    Neuer Prompt, neue Quelle, neues Modell: Die Testfragen laufen wieder und zeigen Rückschritte.

Ein Standardmodell kennt Ihre Artikelnummern nicht. Ihres schon.

Wir schauen uns Ihre Aufgabe an und sagen Ihnen, ob dafür Regeln, Retrieval, Werkzeuge oder wirklich ein trainiertes Modell nötig sind.

Ablauf prüfen lassen
Maßband, Schneiderkreide und Schere