Domänenmodell oder LLM (ChatGPT)? Kosten, Treffsicherheit, Geschwindigkeit und Datensicherheit
Ein privates, dediziertes Domänenmodell gewinnt bei wiederkehrenden Unternehmensaufgaben wie Klassifizierung, Datenextraktion oder Scoring. Laut internen Untersuchungen von Coblit erreicht es bei den Aufgaben, für die es trainiert ist, 95–100 % Treffsicherheit und antwortet in etwa 100 ms, hat Fixkosten und kann vollständig On-Premise laufen. Ein allgemeines LLM (z. B. ChatGPT) ist besser für freie Gespräche und Texte zu beliebigen Themen – rechnet aber pro Token ab, antwortet in 2–3 s und liegt bei eng umrissenen Aufgaben in 60–70 % der Fälle richtig.
Die kurze Antwort
Soll die KI im Unternehmen eine wiederkehrende Aufgabe erledigen – eine Ausschreibung bewerten, ein Dokument lesen, eine Anfrage klassifizieren, einen Score vergeben –, ist ein privates, dediziertes Domänenmodell, das auf Ihren Unternehmensdaten trainiert wird, die bessere Wahl. Brauchen Sie einen Assistenten für freie Texte und Gespräche zu beliebigen Themen, reicht ein allgemeines LLM wie ChatGPT.
Vergleich: das private, dedizierte Domänenmodell von Coblit und ein allgemeines LLM
Die folgenden Zahlen stammen aus internen Untersuchungen von Coblit und gelten für die Aufgaben, für die das Domänenmodell gebaut und trainiert wird. Sie sind keine allgemeingültigen Werte für jeden KI-Einsatz.
| Domänenmodell von Coblit | Allgemeines LLM | |
|---|---|---|
| Kosten | Niedrig | Hoch |
| Kostenart | Fix | Variabel – nach Nutzung (Token) |
| Treffsicherheit | Hoch: 95–100 % | Niedrig: 60–70 % |
| Antwortzeit | Niedrig: ~100 ms | Hoch: 2–3 s |
| Marge eines KI-basierten Prozesses / Produkts | Hoch | Niedrig |
| Infrastruktur | Vollständig On-Premise | Daten werden in die Cloud übertragen |
| Daten | Keine Übertragung in die Cloud | Übertragung in die Cloud |
| Fehler und Halluzinationen | Halluziniert nicht in seiner Domäne | Fehler und Halluzinationen |
Warum halluziniert ein Domänenmodell nicht in seiner Domäne?
Ein allgemeines LLM erzeugt freien Text – kennt es die Antwort nicht, kann es eine „ergänzen“. Ein Domänenmodell arbeitet anders: Es antwortet nur innerhalb der Aufgabe, für die es gebaut wurde – Klassifizierung, Datenextraktion oder Scoring auf den Daten des Kunden – und erzeugt außerhalb davon keinen freien Text. Es hat also keinen Spielraum, eine Antwort außerhalb seiner Domäne zu erfinden.
Fixkosten oder Kosten pro Token – was das für die Marge bedeutet
Ein allgemeines LLM rechnet jede Anfrage in Token ab. Je mehr Dokumente, Kunden oder Entscheidungen die KI bearbeitet, desto höher die Rechnung – und desto kleiner die Marge des Prozesses oder Produkts, das auf dieser KI aufbaut. Ein Domänenmodell hat Fixkosten, wachsendes Volumen frisst also nicht die Marge auf.
Wann ein allgemeines LLM reicht
- Sie schreiben Texte, E-Mails und Zusammenfassungen und brauchen Ideen,
- die Aufgaben sind vielfältig und lassen sich schwer einer Kategorie zuordnen,
- das Volumen ist klein, Token-Gebühren spielen also keine Rolle,
- die Daten dürfen das Unternehmen verlassen.
Wann das Domänenmodell gewinnt
- dieselbe Aufgabe wiederholt sich Hunderte oder Tausende Male (Klassifizierung, Extraktion, Scoring),
- Treffsicherheit und keine erfundenen Antworten sind wichtig,
- Geschwindigkeit zählt – eine Antwort in etwa 100 ms statt 2–3 s,
- die KI ist Teil eines Produkts oder Prozesses, bei dem die Marge zählt,
- die Daten dürfen nicht in die Cloud – dann läuft das Modell vollständig On-Premise.
So macht es Coblit
- Analyse von Daten und Aufgabe – wir legen fest, was das Modell genau tun soll und wie wir die Treffsicherheit messen.
- Ein privates, dediziertes Domänenmodell – wir bauen es auf den Daten des Kunden für genau diese Aufgabe.
- Einführung – auf den eigenen Servern und Ressourcen des Kunden (On-Premise) oder, wenn der Kunde es bevorzugt, in der Cloud. Dafür haben wir Spezialisten.
- Betrieb – Monitoring, Nachtraining mit neuen Daten und Erweiterung um weitere Aufgaben.
Preis und Einführungszeit kalkulieren wir individuell. Am einfachsten beginnen Sie mit einem KI-Pilotprojekt für einen Prozess.
Beispiel: ein dediziertes Modell für Ausschreibungen
Für ein internationales Pharmaunternehmen haben wir ein KI-System zur Ausschreibungsanalyse mit einem Modell gebaut, das ausschließlich auf den Daten des Kunden trainiert wurde. Das Modell bewertet, wie gut Ausschreibungen zum Angebot des Unternehmens passen, und Arbeit, für die mehr als 10 Personen nötig waren, erledigen heute 3.
Mehr dazu, wie unsere Modelle arbeiten: Private KI-Modelle und Privates KI-Modell oder ChatGPT?.