Entwicklung individueller LLM-Anwendungen
Wir entwickeln Retrieval-Lösungen, werkzeuggestützte Abläufe und fokussierte KI-Anwendungen mit klaren Kriterien für Qualität, Kosten und Prüfung. Das Modell ist ein Teil des Systems – nicht das fertige Produkt.
„Welche Vertragsbedingungen gelten für diese Verlängerung und wo sind sie dokumentiert?“
Mit der Entscheidung beginnen
Wir prüfen zuerst, ob sprachliche Uneindeutigkeit, verteiltes Wissen oder die Koordination mehrerer Systeme tatsächlich der Engpass ist. Ein deterministischer Ablauf ist oft günstiger und verlässlicher.
Wenn ein LLM keinen messbaren Mehrwert bietet, sagen wir das, bevor ein Pilot Budget verbraucht.
Gut geeignet
Ein einfacheres System genügt
Architekturentscheidungen
„Individuell“ bedeutet selten, ein Basismodell von Grund auf zu trainieren. Die richtige Lösung kann klassische Automatisierung, Retrieval, kontrollierte Werkzeugnutzung oder gezieltes Fine-Tuning sein.
Kein Modell erforderlich
Regeln, Vorlagen und APIs sind die bessere Wahl, wenn Eingaben und erwartete Ergebnisse bereits strukturiert sind.
RAG
Die Anwendung sucht zur Laufzeit passende Textstellen und verlangt, dass die Antwort diese belegt.
Kontrollierte Aktionen
Das Modell kann freigegebene Werkzeuge auswählen. Autorisierung, Validierung und relevante Aktionen bleiben außerhalb des Modells.
Nur mit Nachweis
Fine-Tuning kann ein eng umrissenes Verhalten oder Ausgabeformat verbessern. Retrieval, Berechtigungen und Anwendungskontrollen ersetzt es nicht.
Beispielsysteme
Dies sind Lösungsansätze, keine erfundenen Fallstudien. Jeder beginnt mit einer begrenzten Aufgabe und macht den Kontrollpunkt sichtbar.
Ein Antwortentwurf aus Produktdokumentation, Kundenkontext und bekannten Störungen, ohne Inhalte offenzulegen, auf die der Mitarbeiter nicht zugreifen darf.
Relevante Bedingungen extrahieren, mit Vorgaben vergleichen und uneindeutige Klauseln weiterleiten, statt eine sichere Antwort vorzutäuschen.
Betriebliche Fragen beantworten und eine freigegebene Systemaktion vorbereiten, ohne dem Modell unbeschränkte Schreibrechte zu geben.
Qualität vor dem Start
Ein repräsentativer Evaluationsdatensatz macht aus „Die Antworten sehen gut aus“ eine nachvollziehbare Freigabeentscheidung. Er zeigt auch Regressionen, wenn sich Prompts, Quellen oder Anbieter ändern.
Jede Zeile zeigt, was gemessen wird und warum es relevant ist.
Daten und Betrieb
Hosting und Anbieter können variieren. Klarheit über Zugriffe, Aufbewahrung, Modelländerungen und betriebliche Verantwortung darf nicht variieren.
Das Betriebsmodell bleibt bei jeder Bereitstellungsvariante eindeutig.
Datenstandort, Modellrechte und Anbieterbedingungen werden für die gewählte Architektur dokumentiert, statt pauschal versprochen.
Umsetzungsmodell
Wir reduzieren Unsicherheit in einer klaren Reihenfolge. Der erste Meilenstein ist ein messbarer, durchgängiger Ausschnitt – keine breite KI-Plattform.
Ablauf, Ausgangswert, Risiko, Verantwortlichen und einfachere Alternativen festlegen.
Repräsentative Beispiele, Quellenberechtigungen und Abnahmekriterien zusammenstellen.
Nur die Daten und Werkzeuge anbinden, die für den vollständigen Testweg benötigt werden.
Qualität, Kosten und Latenz messen und anschließend Monitoring, Prüfung und Rollback ergänzen.
Praktische Fragen
Die Antwort hängt vom Ablauf und seinem Risiko ab. Die Entscheidung sollte jedoch vor der Umsetzung eindeutig sein.
In der Regel nicht. Wir testen zuerst ein geeignetes Basismodell mit Retrieval, Werkzeugen und Anwendungskontrollen. Fine-Tuning kommt nur infrage, wenn Messungen eine stabile Lücke belegen.
Das hängt vom gewählten Modell und den Betriebsanforderungen ab. Wir vergleichen verwaltete APIs, Private Cloud und Self-Hosting anhand von Datengrenzen, Kosten, Latenz und Wartungsaufwand.
Ein begrenzter Ablauf lässt sich oft innerhalb mehrerer Wochen bewerten, wenn Quelldaten, Verantwortliche und Prüfbeispiele verfügbar sind. Den Umfang bestätigen wir erst, nachdem Daten und Integrationsweg verstanden wurden.
Wir begrenzen die Aufgabe, verankern Antworten in freigegebenen Quellen, verlangen bei Bedarf Belege und definieren Rückfallwege für Unsicherheit. Die Evaluation misst verbleibende Fehlerarten; keine Kontrolle macht ein Modell unfehlbar.
Ihre Daten bleiben Ihre Daten. Rechte an Anwendungscode, Prompts, Evaluationsdaten, trainierten Gewichten und Modellen Dritter werden für den gewählten Technologie-Stack vertraglich festgehalten.
