Sicherer KI-Agent im Unternehmen – KI einführen, ohne Daten an ChatGPT, Gemini oder Copilot zu senden
Ein sicherer KI-Agent läuft auf einem privaten Modell – in einer Cloud in der EU oder auf den Servern des Unternehmens –, sodass Kunden- und Mitarbeiterdaten sowie Dokumente nicht an ChatGPT, Gemini, Copilot, Claude oder andere öffentliche Modelle gesendet und nicht für deren Training verwendet werden. Die Agenten und Chatbots von Coblit laufen immer auf einem privaten, dedizierten Domänenmodell, das laut internen Untersuchungen von Coblit bei seinen Aufgaben 95–100 % Treffsicherheit erreicht und in etwa 100 ms antwortet.
Die kurze Antwort
Ein sicherer KI-Agent ist ein Agent, der auf einem privaten Modell läuft – in einer Cloud in der EU oder auf den Servern Ihres Unternehmens. Kunden- und Mitarbeiterdaten sowie Dokumente werden nicht an ChatGPT, Gemini, Copilot, Claude oder andere öffentliche Modelle gesendet und nicht für deren Training verwendet.
Bei Coblit ist das keine Zusatzoption: Alle unsere KI-Agenten und Chatbots laufen immer auf einem privaten, dedizierten Domänenmodell.
Das Problem: KI ist längst in Ihrem Unternehmen – nur wissen Sie nicht, wohin die Daten gehen
Mitarbeitende wollen schneller arbeiten und greifen deshalb zu öffentlichen KI-Tools. Sie fügen dort Kunden-E-Mails, Verträge, Lebensläufe von Bewerbern oder Ergebnistabellen ein. Jede dieser Informationen landet auf den Servern eines externen Anbieters.
Dasselbe passiert, wenn ein Unternehmen einen Agenten oder Chatbot auf Basis eines öffentlichen Modells einführt: Jedes Gespräch mit einem Kunden läuft über fremde Server. Bei personenbezogenen Daten (DSGVO), Gesundheitsdaten, Geschäftsgeheimnissen oder Kundendokumenten ist das ein reales Risiko.
Ein KI-Agent ist mehr als ein Chatbot – und damit auch das Risiko größer
Ein Chatbot beantwortet Fragen. Ein KI-Agent erledigt die Arbeit: Er nimmt Anrufe entgegen, vereinbart Termine, liest Lebensläufe, analysiert Ausschreibungen, pflegt das CRM und versendet Nachrichten. Mehr zu den Unterschieden lesen Sie im Artikel Chatbot oder KI-Agent?.
Da der Agent Zugriff auf Ihre Systeme und Dokumente hat, verarbeitet er deutlich mehr Daten als ein einfacher Chatbot. Deshalb ist das Modell, auf dem er läuft, die wichtigste Entscheidung bei der Einführung.
7 Fragen an den Anbieter vor der Einführung eines KI-Agenten
| Frage | Gute Antwort | So macht es Coblit |
|---|---|---|
| 1. Auf welchem Modell läuft der Agent? | Auf einem privaten Modell, nicht über eine öffentliche API | Ein privates, dediziertes Domänenmodell, trainiert für die Aufgabe des Unternehmens |
| 2. Gelangen Daten zu ChatGPT, Gemini, Copilot oder Claude? | Nein | Nein – weder dorthin noch zu anderen öffentlichen Modellen |
| 3. Trainieren unsere Daten fremde Modelle? | Nein | Nein – die Daten werden nicht zum Training externer Modelle verwendet |
| 4. Wo werden die Daten gespeichert? | In der EU oder auf unseren Servern | In der EU gemäß DSGVO (vor allem Google Cloud) oder vollständig On-Premise |
| 5. Wer hat Zugriff, und gibt es Logs? | Rechteverwaltung und Nutzungslogs | Zugriff nur für benannte Personen, Nutzungslogs und Rechteverwaltung |
| 6. Was passiert, wenn der Agent die Antwort nicht kennt? | Er übergibt den Fall an einen Menschen | Der Agent gibt sich als KI zu erkennen und übergibt den Fall bei Bedarf an einen Menschen (AI Act) |
| 7. Wie werden die Kosten berechnet? | Planbar | Fixkosten statt Gebühren pro Token |
Kann ein Anbieter die Fragen 1–4 nicht klar beantworten, gelangen Ihre Daten wahrscheinlich zu einem öffentlichen Modell.
Sicherheit ohne Qualitätsverlust
Eine häufige Sorge: „Ein privates Modell wird schlechter sein als ChatGPT.“ Bei Unternehmensaufgaben ist es umgekehrt. Ein allgemeines Modell weiß ein wenig über alles, kennt aber weder Ihre Abläufe noch Ihre Produkte oder Entscheidungen. Ein privates Domänenmodell wird für eine Aufgabe auf den Daten des Unternehmens trainiert.
Laut internen Untersuchungen von Coblit gilt bei den Aufgaben, für die es trainiert ist:
- Es erreicht 95–100 % Treffsicherheit – ein allgemeines LLM 60–70 %,
- es antwortet in etwa 100 ms – ein allgemeines LLM in 2–3 s,
- es hat Fixkosten – ohne Gebühren für jedes Token.
Einen ausführlichen Vergleich finden Sie im Artikel Domänenmodell oder LLM?.
Beispiel: ein Modell, trainiert ausschließlich auf den Daten des Kunden
Für ein internationales Pharmaunternehmen haben wir ein dediziertes KI-Modell zur Ausschreibungsanalyse gebaut, trainiert ausschließlich auf den Daten des Kunden – der Historie seiner Ausschreibungen und Angebote. Die Bewertung, wie gut Ausschreibungen passen, spiegelt die realen Entscheidungen des Unternehmens wider, und Tätigkeiten, für die mehr als 10 Personen nötig waren, erledigen heute 3.
Wo ein sicherer KI-Agent am meisten zählt
- Medizin und Pharma – die KI-Praxisassistentin verarbeitet Gesundheitsdaten in einer abgeschotteten Umgebung.
- Personaldienstleister und HR – der KI-Recruiter liest Lebensläufe und spricht mit Bewerbern, und die Lebensläufe gelangen nicht zu öffentlichen Modellen.
- Kundenservice und Vertrieb – die KI-Rezeptionistin nimmt Anrufe entgegen und vereinbart Termine, der KI-Vertriebsmitarbeiter kontaktiert Leads aus Werbeanzeigen – beide sprechen mit Ihren Kunden und arbeiten mit deren Daten.
- Ausschreibungen und Dokumente – der KI-Ausschreibungsspezialist arbeitet mit der Angebotshistorie, die das Know-how des Unternehmens ist.
- Geschäftsführung – der Persönliche KI-Agent läuft in einer privaten Umgebung mit Zugriff nur für den Inhaber und benannte Personen.
So starten Sie
- Wählen Sie einen Prozess mit viel wiederkehrender Arbeit – z. B. Telefonate, das erste Gespräch mit Bewerbern oder die Analyse von Dokumenten.
- Prüfen Sie, welche Daten der Agent verarbeiten wird und wo sie gespeichert werden dürfen – in einer Cloud in der EU oder nur auf Ihren eigenen Servern.
- Beginnen Sie mit einem Pilotprojekt mit messbarem Ziel – mehr unter KI-Pilotprojekt.
Möchten Sie herausfinden, welcher Agent in Ihrem Unternehmen die meiste Arbeit übernehmen kann, ohne Daten nach außen zu senden? Sprechen wir darüber.