Fünf Mitarbeitende, drei verschiedene KI-Tools, null Überblick. Willkommen im KI-Alltag der meisten KMUs.
Einer nutzt ChatGPT mit dem Privatkonto. Zwei haben Einzellizenzen über die Firmenkarte besorgt. Eine weitere nutzt Claude. Niemand weiß genau, welche Daten das Unternehmen verlassen haben, wer Zugriff auf was hat, und ob das alles DSGVO-konform ist.
Das ist der Normalfall, wenn KI in Unternehmen ohne Struktur wächst. Sobald sensible Daten ins Spiel kommen, wird das zum echten Problem.
Die Lösung klingt einfach: eine Team-Plattform einführen. Aber der Wechsel ist mehr als ein Lizenz-Upgrade. Es ist eine Architekturentscheidung, die Datenschutz, Flexibilität und Kontrolle auf Jahre hinaus prägt. Dieser Artikel zeigt, worauf es dabei ankommt.
Plattform und Modelle
Der Markt für KI-Team-Lösungen ist groß und wächst schnell. Um eine fundierte Entscheidung zu treffen, hilft es zu verstehen, woraus eine KI-Plattform eigentlich besteht. Denn wer eine einführt, trifft eigentlich zwei Entscheidungen.
Die erste betrifft die Plattform: die Oberfläche, in der Mitarbeitende täglich arbeiten, mit allen Funktionen wie Assistenten, Wissensspeicher, Nutzerverwaltung und Integrationen. Die zweite betrifft die Modelle: die KI-Modelle, die im Hintergrund die eigentliche Verarbeitung übernehmen, etwa Modelle von OpenAI, Anthropic, Mistral oder Google, aber auch lokal betriebene Open-Source-Modelle wie Llama.
Diese zwei Schichten sind nicht zwingend aneinander gebunden. Je nachdem, welchen Ansatz ihr wählt, habt ihr mehr oder weniger Kontrolle.
Single Provider
Single Provider koppeln Oberfläche und Modell an einen einzigen Anbieter. ChatGPT Business, Claude Team oder Gemini for Business sind typische Beispiele. Ihr bekommt ein durchgängig integriertes Produkt, einfaches Setup und eine klare Abrechnung. Im Gegenzug seid ihr vollständig an die Modellstrategie dieses Anbieters gebunden: Was er anbietet, nutzt ihr. Was er nicht anbietet oder einstellt, fehlt euch.
Multi Provider
Multi Provider trennen Oberfläche und Modell. Plattformen wie Langdock oder meinGPT stellen die Oberfläche bereit und binden Modelle verschiedener Anbieter via API an. Ihr arbeitet in einer einzigen Umgebung, könnt aber je nach Aufgabe zwischen Modellen wechseln. Viele dieser Plattformen unterstützen zusätzlich die Anbindung selbst gehosteter Modelle über OpenAI-kompatible Endpunkte. Das gibt zusätzliche Flexibilität, setzt aber technisches Know-how voraus.
Self Hosted
Beim Self-Hosted-Ansatz betreibt ihr die Oberfläche oder auch Modelle selbst. Open-Source-Lösungen wie LibreChat, AnythingLLM oder Open WebUI übernehmen die Plattform. Bei den Modellen gibt es zwei Wege.
Vollständig selbst betrieben: Open-Source-Modelle wie Llama laufen zusammen mit der Plattform auf euren eigenen Servern. Keine Daten verlassen die eigene Infrastruktur.
Hybrid: Der zweite Weg kombiniert lokale Oberfläche mit externen Modellen. Die Oberfläche läuft bei euch, die Modelle werden über externe API-Endpunkte angebunden. Technisch ähnelt das einem Multi-Provider-Setup. Der Unterschied: Ihr betreibt die Oberfläche selbst.
Beide Varianten setzen technische Ressourcen voraus: für Aufsetzen, Wartung und laufende Aktualisierung. Self Hosted ist deshalb vor allem sinnvoll für KMUs mit konkreten Compliance-Anforderungen und der internen Kapazität, die Lösung langfristig zu betreiben.
Unser Fazit: Für KMUs, die Flexibilität und Datenschutz gleichzeitig priorisieren, bieten Multi-Provider-Plattformen mit EU-Fokus einen pragmatischen Mittelweg – ohne den operativen Aufwand einer vollständig selbst betriebenen Lösung.
Funktionen im Alltag
Modellauswahl ist die Grundlage. Was darüber entscheidet, ob KI im Unternehmen wirklich ankommt, sind die Funktionen, die die tägliche Arbeit formen. Vier davon sind entscheidend.
Internes Wissen einbinden
Eine KI ohne Zugang zum eigenen Kontext arbeitet mit allgemeinem Trainingswissen. Allgemeine Fragen beantwortet sie gut, spezifische Fragen zum eigenen Unternehmen nicht. Plattformen mit Wissensspeichern ermöglichen es, interne Dokumente, Preislisten oder Prozessbeschreibungen einzubinden. Die KI zieht bei jeder Anfrage relevante Inhalte aus diesen Quellen heran. Das Ergebnis: Antworten, die auf eurem Kontext basieren.
Bestehende Tools anbinden
Internes Wissen allein reicht nicht, wenn die Plattform den besten Nutzen bieten soll. Native Anbindungen an Microsoft 365 oder Google Workspace sind der Einstieg. Was den größeren Unterschied macht, sind offene Schnittstellen: APIs und Standards wie MCP (Model Context Protocol) ermöglichen es, KI direkt mit CRM, ERP oder Datenbanken zu verbinden. Die KI fragt dann nicht nur, sie handelt. Sie liest Daten aus Systemen, verarbeitet sie und schreibt Ergebnisse zurück.
Assistenten konfigurieren
Auf dieser Basis entstehen konfigurierbare Assistenten. Ein Assistent kombiniert klare Anweisungen, einen definierten Stil, Zugriff auf relevante Wissensspeicher und bei Bedarf direkte Tool-Anbindungen. Ein Assistent für die Angebotserstellung greift auf die aktuelle Preisliste zu und zieht Kundendaten direkt aus dem CRM. Einmal konfiguriert, steht er dem ganzen Team zur Verfügung.
Rechte und Nutzung steuern
Damit das alles kontrolliert läuft, braucht es eine klare Zugriffsstruktur. Wer darf welche Assistenten nutzen? Wer hat Zugriff auf welche Wissensspeicher? Audit-Logs machen sicherheitsrelevante Aktionen nachvollziehbar und sind relevant, sobald regulatorische Anforderungen greifen. Nutzungs-Dashboards zeigen, wer wie viel verbraucht.
Datenschutz und Compliance
Die Plattform ist schnell eingerichtet. Die Datenschutzfragen bleiben oft offen, bis jemand explizit nachfragt. Dabei sind sie nicht optional. Sobald Mitarbeitende mit Kundendaten, personenbezogenen Informationen oder vertraulichen Dokumenten arbeiten, greifen DSGVO-Pflichten.
Stellt eurem Anbieter diese drei Fragen und prüft die Antworten.
Frage 1: Werden unsere Daten zum Training verwendet?
Die Antwort muss Nein sein, und das muss vertraglich ausgeschlossen sein. Werden eure Eingaben zum Training genutzt, können interne Informationen, Kundendaten oder vertrauliche Dokumente in die Weiterentwicklung von Modellen des Anbieters einfließen. Bei Business- und Team-Tarifen ist Training bei den meisten großen Anbietern standardmäßig ausgeschlossen – aber aktiv prüfen, nicht einfach annehmen.
Frage 2: Wo werden unsere Daten gespeichert und verarbeitet?
Für DSGVO-Konformität müssen beide Aspekte geregelt sein: Wo werden unsere Daten gespeichert, und wo werden sie verarbeitet? Das ist nicht dasselbe. EU-basierte Infrastruktur vereinfacht die Prüfung. Bei US-Anbietern braucht es mehr Abklärung. Fragt nach und lasst euch die Antwort schriftlich bestätigen.
Frage 3: Gibt es einen Auftragsverarbeitungsvertrag (AVV)?
Die Antwort muss Ja sein. Ohne diesen Vertrag ist der Einsatz mit personenbezogenen Daten nicht rechtlich abgesichert. Wichtig: Nicht nur die Plattform ist Auftragsverarbeiter, auch die Modelle im Hintergrund verarbeiten eure Daten. Stellt sicher, dass die gesamte Kette vertraglich geregelt ist.
Was das bedeutet
Eine KI-Plattform für das Team einzuführen ist eine Entscheidung darüber, wie euer Unternehmen künftig arbeitet: wer Zugriff hat, welche Daten das Haus verlassen, und wie flexibel ihr bleibt, wenn sich der Markt weiterentwickelt. Wer das durchdenkt, bevor die erste Lizenz gebucht wird, baut auf einer stabilen Grundlage.