Kann KI mit Unternehmensdaten sicher eingesetzt werden?
Ja, wenn Aufgabe, Datenquellen, Rechte, Logs und Freigaben vor dem produktiven Einsatz geklärt werden. Eine KI-Anwendung bekommt keinen pauschalen Zugriff auf das Unternehmen.
Sicherheit
KI mit klaren Grenzen.
Wenn KI auf Unternehmensdaten und Systeme zugreift, müssen Berechtigungen und Verantwortung klar sein. Wir klären Datenflüsse, Freigaben und den Betrieb vor der Umsetzung mit eurer IT.
Warum es anders ist
Systemzugriff braucht festgelegte Rechte.
Das System liest Dokumente, prüft Daten, sucht Kontext, bereitet Antworten vor oder legt Vorgänge in Systemen an. Dadurch entstehen Datenschutz-, Sicherheits- und regulatorische Fragen, etwa nach DSGVO oder EU AI Act. Diese Punkte müssen vor dem Pilot geklärt werden.
- Welche Quellen darf das System lesen?
- Welche Aktion darf das System vorbereiten?
- Wann muss ein Mensch übernehmen?
| Zugriff | Recht |
|---|---|
| Rechnungen im Posteingang | Lesen |
| Bestellungen im ERP | Lesen |
| Buchungsvorschlag | Vorbereiten |
| Abweichung über Toleranz | Mensch entscheidet |
| Zahlung auslösen | Kein Zugriff |
Protokoll
- 09:14Rechnung gelesen
- 09:14Mit Bestellung abgeglichen
- 09:15Abweichung an Buchhaltung übergeben
Kurzantwort
KI und Datenschutz brauchen Architektur, Prüfung und klare Grenzen.
Wir planen Zugriffe, Protokolle und menschliche Freigaben anhand der konkreten Aufgabe. Betriebsumgebung und Modellanbieter wählen wir mit eurer IT, etwa EU-Cloud oder lokale Varianten. Unsere Grundarchitektur wurde mit Blick auf Datenschutz von unserer juristischen Partnerkanzlei DORDA geprüft. Projektbezogene Fragen zu DSGVO und EU AI Act können wir gesondert mit DORDA klären.
Wie werden Datenschutzanforderungen berücksichtigt?
Wir bauen das Setup so, dass Datenschutz vor dem produktiven Einsatz geklärt wird: Zweck, Daten, Rollen, Rechte, Logs, Freigaben und Verantwortung. Die konkrete Einordnung hängt vom Prozess ab.
Berücksichtigt thirdmind den EU AI Act?
Ja. Wir prüfen im Projekt, welche Rolle, Risikoeinordnung und Transparenzpflichten für das konkrete KI-System relevant sein können. Offene Punkte klären wir mit DORDA.
Was verhindert unkontrollierte KI-Aktionen?
Begrenzte Rechte, Human-in-the-Loop, Eskalationsregeln und Audit Logs. Kritische Schritte werden vorbereitet oder an Menschen übergeben, statt automatisch durchzulaufen.
Auf einen Blick
- Hosting
- Nach Architektur
- LLM-Training
- Anbieterbedingungen prüfen
- Logs
- Audit pro Fall
- Rechte
- Pro System
- Übergabe
- Human-in-the-Loop
- Regulatorik
- DSGVO, EU AI Act
Sieben Prinzipien
So planen wir Sicherheit in jedes Setup.
Klare Aufgabe statt offener Zugriff
Eine KI-Anwendung bekommt keinen allgemeinen Zugriff auf das Unternehmen. Das System bekommt eine Aufgabe: Rechnungen prüfen, Tickets vorbereiten, Stammdaten abgleichen. Alles andere bleibt außerhalb des Scopes.
Rollen und Rechte
Rechte werden pro KI-Anwendung festgelegt: Lese-, Schreib- und Freigaberechte, Systemgrenzen, Datenarten und Eskalationspunkte. Das Ziel ist begrenzte Handlungsfähigkeit, nicht pauschale Autonomie.
Human-in-the-Loop
Menschen bleiben dort im Prozess, wo Verantwortung liegt. Wenn ein Fall unsicher ist, außerhalb der Regeln liegt oder eine Entscheidung braucht, wird er übergeben.
Audit Logs
Logs zeigen, welcher Fall verarbeitet wurde, welche Daten genutzt wurden, welche Entscheidung vorbereitet wurde und wann an einen Menschen übergeben wurde.
Hosting und Datenflüsse dokumentieren
Wir legen Verarbeitungsorte, Modellanbieter und die erlaubte Datennutzung fest. EU-Hosting allein erklärt nicht jeden Datenfluss. Speicherung, Trainingsnutzung und vertragliche Anforderungen prüfen wir für die gewählten Dienste.
Schreibrechte nur mit Grenzen
Eine KI-Anwendung kann Aktionen vorbereiten oder in klaren Grenzen ausführen. Welche Rechte das System bekommt, hängt vom Prozess, Risiko und Freigabemodell ab.
On-Premise ist kein Ausschluss
Nicht jedes Unternehmen arbeitet nur in Cloud-Systemen. KI-Anwendungen können auch in Umgebungen geplant werden, in denen Datenbanken oder Fachsysteme on-premise liegen.
Vor dem Piloten
Diese Fragen klären wir vor jedem Piloten.
Checkliste vor dem Pilot
- Welche Aufgabe übernimmt die KI-Anwendung?
- Welche Datenquellen braucht das System?
- Welche Systeme werden angebunden?
- Welche Rechte bekommt das System?
- Welche Aktionen darf das System nur vorbereiten?
- Welche Fälle werden eskaliert?
- Welche Logs werden benötigt?
- Wer ist fachlich verantwortlich?
- Welche DSGVO-, EU-AI-Act- oder IT-Vorgaben gelten?
Unsere Haltung
Keine Pauschalgarantie. Aber klare Verantwortung.
Wir behandeln DSGVO nicht als pauschales Siegel, weil jedes Setup an Zweck, Daten, Rollen und Prozess hängt. Was wir tun: Wir planen Sicherheit als Architektur, dokumentieren Grenzen und Verantwortlichkeiten und holen bei DSGVO- oder EU-AI-Act-Fragen projektbezogene Rechtsberatung dazu.
Juristisch geprüfte Grundarchitektur als Startpunkt.
Projektbezogene Klärung bei DSGVO- und EU-AI-Act-Fragen.
Technische Grenzen, Logs und menschliche Freigaben im Setup.
Häufige Fragen
Sicherheit ehrlich beantwortet.
Wo werden unsere Daten verarbeitet?
Das hängt von der vereinbarten Architektur ab. Vor der Umsetzung klären wir, welche Daten in welchem System und bei welchem Modellanbieter verarbeitet werden. EU-Cloud und lokale Varianten prüfen wir mit eurer IT.
Wer gibt kritische Aktionen frei?
Wir legen Freigabepunkte mit den Prozessverantwortlichen fest. Die Anwendung darf nur innerhalb vereinbarter Rechte handeln und übergibt Ausnahmen an die zuständige Person.
Können wir die Lösung selbst betreiben oder den Dienstleister wechseln?
Ihr erhaltet den individuell entwickelten Code sowie die vereinbarte Dokumentation und Zugänge. Eure IT oder ein anderer Dienstleister kann übernehmen, mit den nötigen technischen Voraussetzungen und unter Beachtung von Fremdlizenzen. Übergabe und Verantwortlichkeiten stimmen wir ab.
Gilt eine Architekturprüfung für jedes Projekt?
Eine geprüfte Grundarchitektur ist ein Ausgangspunkt. Zweck, Daten, Zugriffe und Verantwortlichkeiten müssen für jedes Projekt gesondert beurteilt werden. Rechtliche Fragen können wir mit DORDA klären.
Sicherheit besprechen
Lasst uns Datenflüsse und Verantwortung klären.
Erzählt uns von eurem Ablauf und den beteiligten Systemen. Gemeinsam besprechen wir einen sinnvollen nächsten Schritt.