KI DSGVO-konform nutzen: On-Premise und lokale SprachmodelleUsing AI GDPR-compliantly: on-premise and local language models
Ja, KI lässt sich vollständig DSGVO-konform betreiben: Mit lokalen Sprachmodellen in Ihrer eigenen Infrastruktur verlassen Kundendaten das Haus nicht. Das ist keine Theorie — Wundercode betreibt die eigenen Produktiv-Agenten auf einem lokalen Modell und arbeitet täglich damit.Yes, AI can run fully GDPR-compliant: with local language models in your own infrastructure, customer data never leaves the house. This is not theory — Wundercode runs its own production agents on a local model and works with it every day.
Das eigentliche Problem mit KI-Cloud-DienstenThe actual problem with cloud AI services
Das größte Datenschutzrisiko entsteht selten durch die Technik selbst, sondern durch den Alltag: Mitarbeitende kopieren Kundendaten, Vertragsauszüge oder interne Zahlen in öffentliche KI-Chatbots, weil das schnell und praktisch ist. In dem Moment verlassen die Daten das Unternehmen — und niemand kann mehr genau sagen, wo sie verarbeitet werden und was mit ihnen geschieht.The biggest privacy risk rarely comes from the technology itself, but from everyday habits: employees paste customer data, contract excerpts, or internal figures into public AI chatbots because it is fast and convenient. At that moment the data leaves the company — and nobody can say precisely where it is processed or what happens to it.
Rechtlich entstehen daraus mehrere offene Fragen zugleich: Der Verarbeitungsort ist unklar, eine geregelte Auftragsverarbeitung fehlt häufig, und je nach Inhalt können NDAs mit Kunden oder Betriebsvereinbarungen verletzt sein. Das ist kein Grund zur Panik — aber ein Grund, den KI-Einsatz sauber zu strukturieren, bevor er sich von selbst strukturiert.Legally, several open questions arise at once: the place of processing is unclear, a proper data-processing agreement is often missing, and depending on the content, NDAs with customers or works-council agreements may be violated. This is no reason to panic — but it is a reason to structure your AI usage deliberately before it structures itself.
Was „lokale Sprachmodelle“ bedeutetWhat “local language models” means
Ein lokales Sprachmodell ist ein KI-Modell mit offenen Gewichten, das auf Ihrer eigenen Hardware in Ihrem eigenen Netzwerk läuft. Es gibt keinen API-Aufruf an einen Drittanbieter, keine Übertragung an fremde Server — das Modell ist eine Software wie Ihre Datenbank oder Ihr ERP: Es steht bei Ihnen.A local language model is an AI model with open weights that runs on your own hardware inside your own network. There is no API call to a third party, no transfer to external servers — the model is software like your database or your ERP: it lives on your premises.
In einfachen Worten: Das Modell arbeitet mit Ihren Daten, ohne dass Ihre Daten das Haus verlassen. Es liest Ihre Dokumente, beantwortet Fragen dazu, entwirft Texte und strukturiert Informationen — alles innerhalb Ihrer Infrastruktur. Der Unterschied zum Cloud-Chatbot ist nicht die Bedienung, sondern der Ort der Verarbeitung.In plain words: the model works with your data without your data ever leaving the house. It reads your documents, answers questions about them, drafts texts, and structures information — all inside your infrastructure. The difference from a cloud chatbot is not the user experience, but the place of processing.
Die drei BetriebsstufenThe three operating tiers
Nicht jeder Anwendungsfall braucht dieselbe Stufe an Datenkontrolle. In der Praxis haben sich drei Betriebsstufen bewährt — von pragmatisch bis vollständig souverän:Not every use case needs the same level of data control. In practice, three operating tiers have proven themselves — from pragmatic to fully sovereign:
- Stufe 1 — EU-Cloud mit Auftragsverarbeitung: KI-Dienste mit EU-Verarbeitungsort und AV-Vertrag. Der Standard für unkritische Daten, für viele Fälle ausreichend.Tier 1 — EU cloud with a data-processing agreement: AI services with EU processing location and a DPA in place. The standard for non-critical data, sufficient for many cases.
- Stufe 2 — Private Cloud / dedizierte Instanz: Eine eigene, abgeschottete Modell-Instanz, die nur für Sie arbeitet. Mehr Kontrolle, klarere Verantwortlichkeiten.Tier 2 — Private cloud / dedicated instance: your own isolated model instance that works only for you. More control, clearer responsibilities.
- Stufe 3 — vollständig On-Premise mit lokalen Modellen: Modelle laufen auf eigener Hardware im eigenen Netz. Die Stufe für Kundendaten unter NDA, Personaldaten und alles, worauf der Betriebsrat zu Recht ein Auge hat.Tier 3 — fully on-premise with local models: models run on your own hardware in your own network. The tier for customer data under NDA, HR data, and everything the works council rightly keeps an eye on.
Approval-First: DSGVO ist mehr als SpeicherortApproval-first: GDPR is more than storage location
Wo Daten liegen, ist nur die halbe Antwort. Die DSGVO verlangt Rechenschaftspflicht (Art. 5 DSGVO): Sie müssen nachweisen können, was mit Daten geschieht — nicht nur behaupten. Ein KI-System, das im Hintergrund frei agiert, kann diesen Nachweis nicht führen. Eines mit Approval-First-Architektur schon.Where data is stored is only half the answer. The GDPR demands accountability (Art. 5 GDPR): you must be able to demonstrate what happens with data — not just claim it. An AI system acting freely in the background cannot provide that evidence. One with an approval-first architecture can.
Konkret heißt das: Jede Aktion eines Agenten wird protokolliert und landet in einem Audit-Log. Jede Aktion ist einer Rolle zugeordnet — es ist immer klar, wer oder was gehandelt hat. Und kritische Aktionen, etwa der Versand einer E-Mail oder eine Änderung an Kundendaten, passieren nicht automatisch, sondern durchlaufen ein menschliches Freigabe-Gate. Wo eine Auftragsverarbeitung im Spiel ist, regelt sie ein Vertrag nach Art. 28 DSGVO.In concrete terms: every agent action is logged and lands in an audit log. Every action is assigned to a role — it is always clear who or what acted. And critical actions, such as sending an email or changing customer data, do not happen automatically but pass through a human approval gate. Where data processing on behalf of a controller is involved, a contract under Art. 28 GDPR governs it.
Diese Nachvollziehbarkeit liefert die Architektur selbst — nicht ein Versprechen im Vertrieb. Das ersetzt keine Rechtsberatung — aber es ist die Architektur, mit der Ihr Datenschutzbeauftragter arbeiten kann.This traceability is delivered by the architecture itself — not by a sales promise. It is no substitute for legal advice — but it is the architecture your data protection officer can actually work with.
Was Betriebsrat und Datenschutzbeauftragte fragen werdenWhat the works council and data protection officers will ask
Wer KI im Unternehmen einführt, bekommt früher oder später dieselben Fragen gestellt. Gut so — sie sind berechtigt. Ein On-Premise-System mit Approval-First-Architektur kann sie ehrlich beantworten:Anyone introducing AI in a company will sooner or later face the same questions. Rightly so — they are legitimate. An on-premise system with an approval-first architecture can answer them honestly:
- Wo laufen die Modelle? — Auf eigener Hardware im eigenen Netzwerk. Der Verarbeitungsort ist ein Raum in Ihrem Haus, keine unbestimmte Cloud-Region.Where do the models run? — On your own hardware in your own network. The place of processing is a room in your building, not an unspecified cloud region.
- Welche Daten verlassen das Haus? — Bei vollständig lokalem Betrieb: keine. Es gibt keine API-Aufrufe an Drittanbieter.What data leaves the house? — With fully local operation: none. There are no API calls to third parties.
- Wer gibt frei? — Ein benannter Mensch. Kritische Aktionen durchlaufen ein Freigabe-Gate, bevor sie ausgeführt werden.Who approves? — A named human. Critical actions pass through an approval gate before they are executed.
- Was wird protokolliert? — Jede Aktion, mit Rolle und Zeitpunkt, in einem Audit-Log, das der Datenschutzbeauftragte einsehen kann.What is logged? — Every action, with role and timestamp, in an audit log that the data protection officer can inspect.
- Wie werden Mitarbeiter-Daten behandelt? — Nach denselben Regeln: Sie bleiben im Haus, Zugriffe sind rollenbasiert und nachvollziehbar. Die Details gehören in eine Betriebsvereinbarung.How is employee data handled? — By the same rules: it stays in-house, access is role-based and traceable. The details belong in a works-council agreement.
Der realistische EinstiegThe realistic way to start
Der beste Einstieg ist nicht das große KI-Programm, sondern ein einzelner Prozess: einer, der wehtut, klar umrissen ist und dessen Daten Sie kennen. Ein Architektur-Gespräch klärt vorab, welche Betriebsstufe dieser Prozess tatsächlich braucht — und welche nicht.The best way to start is not a grand AI program, but a single process: one that hurts, is clearly scoped, and whose data you know. An architecture conversation clarifies up front which operating tier that process actually needs — and which it does not.
Dazu gehört Ehrlichkeit: Nicht jedes Projekt braucht On-Premise. Wenn eine EU-Cloud mit sauberer Auftragsverarbeitung genügt, ist das die richtige Antwort. Die Betriebsstufe folgt aus Ihren Daten — nicht aus dem Verkaufsargument.That includes honesty: not every project needs on-premise. If an EU cloud with a proper data-processing agreement is sufficient, that is the right answer. The operating tier follows from your data — not from the sales pitch.
Häufige Fragen dazuCommon questions
Ist ChatGPT im Unternehmen verboten?Is ChatGPT banned in companies?
Nein. Aber die Nutzung ohne klare Regeln und ohne AV-Vertrag ist riskant — vor allem, wenn Mitarbeitende personenbezogene oder vertrauliche Daten eingeben. Für sensible Daten ist eine lokale Alternative im eigenen Netz der sauberere Weg.No. But using it without clear rules and without a data-processing agreement is risky — especially when employees enter personal or confidential data. For sensitive data, a local alternative in your own network is the cleaner path.
Sind lokale Modelle schlechter?Are local models worse?
Ehrliche Antwort: Die Spitzenmodelle in der Cloud sind stärker. Für definierte Aufgaben mit gutem Kontext — Dokumente auswerten, Texte entwerfen, Anfragen vorsortieren — reichen lokale Modelle produktiv aus. Wir arbeiten selbst täglich damit.Honest answer: the top cloud models are stronger. For defined tasks with good context — analyzing documents, drafting texts, triaging requests — local models are productively sufficient. We work with them ourselves every day.
Was kostet On-Premise-KI?What does on-premise AI cost?
Die Hardware ist eine einmalige Anschaffung, das Projekt selbst kalkulieren wir als Festpreis. Beides hängt vom Anwendungsfall ab — deshalb nennen wir Zahlen schriftlich nach dem Gespräch, nicht pauschal vorab.The hardware is a one-time purchase, and the project itself is quoted as a fixed price. Both depend on the use case — which is why we put numbers in writing after the conversation, not as a blanket figure up front.
Funktioniert das mit unserem CRM/ERP?Does this work with our CRM/ERP?
Ja — die Integration in bestehende Systeme ist der Normalfall, nicht die Ausnahme. Ein lokales Modell wird an CRM, ERP oder Dateiablage angebunden wie jede andere interne Software auch.Yes — integration with existing systems is the normal case, not the exception. A local model connects to your CRM, ERP, or file storage like any other internal software.
Klären Sie in 30 Minuten, welche Stufe Ihre Daten brauchen.Find out in 30 minutes which tier your data needs.
Kein Pitch — ein Architektur-Gespräch über Ihre Daten und Prozesse, danach ein schriftliches Festpreis-Angebot.No pitch — an architecture conversation about your data and processes, followed by a written fixed-price quote.