Unternehmen können ChatGPT beim Ausfüllen von Formularen einsetzen, dürfen die Aufgabe aber nicht unkontrolliert an das System übertragen. Vor dem ersten Einsatz müssen Zweck, Datenarten, freigegebene Produktvariante, menschliche Prüfung und Verantwortlichkeit feststehen. Enthält ein Formular personenbezogene Daten, Geschäftsgeheimnisse oder Angaben mit rechtlichen und finanziellen Folgen, ist zusätzlich zu klären, ob die gewählte Verarbeitung datenschutzrechtlich zulässig und technisch ausreichend abgesichert ist.
Die wichtigste betriebliche Grenze lautet: ChatGPT kann Texte zuordnen, zusammenfassen und Eingabefelder vorbereiten. Die Verantwortung für richtige Angaben, zulässige Datenverarbeitung und fristgerechte Übermittlung bleibt beim Unternehmen. Eine allgemeine Freigabe für alle Formulare ist wegen der sehr unterschiedlichen Risiken ungeeignet.
Freigabe nach Formularart statt pauschaler Erlaubnis
Die Entscheidung sollte sich nicht allein daran orientieren, ob ChatGPT eine Eingabemaske technisch bedienen kann. Maßgeblich sind Inhalt, Zweck und mögliche Folgen des Formulars. Ein internes Bestellformular ohne Personenbezug ist anders zu behandeln als eine Krankmeldung, ein Kreditantrag oder eine Meldung an eine Behörde.
Für kleine Unternehmen eignet sich eine Einteilung in drei Freigabestufen:
- Freigegeben: Formulare mit öffentlichen, anonymisierten oder rein betrieblichen Sachinformationen, sofern keine vertraulichen Vertrags- oder Kalkulationsdaten eingegeben werden.
- Nur nach Einzelfallprüfung: Kunden-, Beschäftigten-, Lieferanten- oder Vertragsformulare mit personenbezogenen Daten, internen Geschäftsdaten oder verbindlichen Erklärungen.
- Nicht ohne Fachfreigabe: Formulare mit Gesundheitsdaten, Ausweisdaten, Bank- und Bonitätsangaben, besonderen Kategorien personenbezogener Daten oder erheblichen Rechtsfolgen.
Ein lokaler Dienstleister könnte ChatGPT beispielsweise freigeben, um aus einer anonymisierten Leistungsbeschreibung Text für ein internes Auftragsformular vorzubereiten. Die Übertragung einer vollständigen Kundenakte mit Namen, Anschrift, Kontaktdaten und Beschwerden wäre davon nicht umfasst.
Datenschutz beginnt vor der Eingabe
Sobald sich Angaben auf eine identifizierte oder identifizierbare Person beziehen, muss das Unternehmen die Verarbeitung nach der Datenschutz-Grundverordnung bewerten. Dazu gehören insbesondere Rechtsgrundlage, Zweckbindung, Datenminimierung, Transparenz, Löschung, Sicherheit und die Einbindung externer Dienstleister. Eine Einwilligung ist nicht automatisch die passende Rechtsgrundlage und darf nicht vorsorglich für jeden KI-Einsatz verwendet werden.
Vor der Freigabe sind mindestens diese Fragen zu beantworten:
- Welche Daten werden aus welchem Ausgangsdokument übernommen?
- Für welchen betrieblichen Zweck soll ChatGPT die Angaben verarbeiten?
- Welche Rechtsgrundlage trägt diesen Verarbeitungsschritt?
- Welche Organisation verarbeitet die Daten in welcher Rolle und an welchen Standorten?
- Werden Eingaben oder Ausgaben gespeichert, zu Sicherheitszwecken geprüft oder zur Produktverbesserung verwendet?
- Welche Lösch-, Aufbewahrungs- und Zugriffseinstellungen gelten für die eingesetzte Variante?
- Können Betroffenenrechte, Berichtigungen und Löschanforderungen praktisch umgesetzt werden?
Die Antworten dürfen nicht aus allgemeinen Aussagen über ChatGPT abgeleitet werden. Unternehmen müssen die tatsächlich eingesetzte Variante prüfen, etwa ein individuelles Konto, einen betrieblich verwalteten Arbeitsbereich oder eine API-Anbindung. Maßgeblich sind die zugehörigen Vertragsunterlagen, Datenschutzinformationen, Datenkontrollen und administrativen Einstellungen. Diese Angaben können sich ändern.
Als offizielle Prüfpunkte dienen die Vertrags- und Datenschutzunterlagen von OpenAI sowie die dortigen Bereiche zu Datenschutz, Datenkontrollen, Sicherheit und administrativer Verwaltung. Für die datenschutzrechtliche Einordnung kommen in Deutschland die oder der betriebliche Datenschutzbeauftragte, die zuständige Landesdatenschutzaufsicht und bei Bundesbehörden die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit in Betracht.
Auftragsverarbeitung und Übermittlungen prüfen
Verarbeitet ein Anbieter personenbezogene Daten im Auftrag des Unternehmens, muss geklärt werden, ob eine Auftragsverarbeitung vorliegt und ob die erforderliche Vereinbarung die tatsächliche Nutzung abdeckt. Dazu gehören auch eingesetzte Unterauftragnehmer und mögliche Übermittlungen in Staaten außerhalb des Europäischen Wirtschaftsraums. Die bloße Existenz eines Standardvertrags genügt nicht, wenn Produktvariante, Konto oder Verarbeitungszweck davon nicht erfasst sind.
Bei erhöhtem Risiko kann eine Datenschutz-Folgenabschätzung erforderlich sein. Ob diese Pflicht besteht, hängt nicht am Produktnamen, sondern unter anderem an Umfang, Art und Zweck der Verarbeitung, den betroffenen Personen, der eingesetzten Technik und den möglichen Folgen. Die Prüflisten der zuständigen Datenschutzaufsicht und Artikel 35 DSGVO bilden dafür die maßgeblichen Ausgangspunkte.
Besondere Daten gehören nicht in einen ungeprüften Arbeitsablauf
Gesundheitsangaben, biometrische Informationen, politische oder religiöse Angaben, Gewerkschaftszugehörigkeit sowie weitere besonders geschützte Daten benötigen eine gesonderte rechtliche Bewertung. Das gilt ebenso für Daten über Straftaten sowie für Kombinationen, die Beschäftigte, Kunden oder Bewerber erheblich beeinträchtigen könnten.
Eine Pseudonymisierung kann das Risiko senken, beseitigt den Personenbezug aber nicht automatisch. Ersetzt ein Handwerksbetrieb den Kundennamen durch eine Nummer, bleiben genaue Adresse, Schadensbeschreibung und Auftragsverlauf möglicherweise ausreichend, um die Person wiederzuerkennen. Echte Anonymisierung liegt erst vor, wenn eine Zuordnung mit vertretbaren Mitteln nicht mehr möglich ist.
Wo der Personenbezug für die Texterstellung nicht benötigt wird, sollte er bereits vor der Übergabe entfernt werden. Statt einer vollständigen Personalakte kann beispielsweise eine neutrale Struktur mit Rollenbezeichnung, Zeitraum und benötigtem Feld genutzt werden. Muss das Ergebnis später einer Person zugeordnet werden, erfolgt diese Zuordnung in einem dafür freigegebenen internen System.
ChatGPT darf vorbereiten, aber nicht ungeprüft entscheiden
Formularautomatisierung wird besonders kritisch, wenn das Ergebnis über einen Menschen entscheidet. Beispiele sind die Auswahl von Bewerbern, die Beurteilung von Beschäftigten, eine Kredit- oder Zahlungsfreigabe und die Einstufung von Kunden. Hier reichen Stichproben und ein allgemeiner Hinweis auf menschliche Kontrolle nicht aus.
Artikel 22 DSGVO setzt Grenzen für Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und rechtliche oder ähnlich erhebliche Wirkungen entfalten. Ob ein Vorgang darunter fällt, muss anhand des gesamten Prozesses geprüft werden. Eine Person, die das KI-Ergebnis nur bestätigt, ohne Datengrundlage, Begründung und Alternativen ernsthaft bewerten zu können, liefert keine belastbare menschliche Kontrolle.
Der EU AI Act kann zusätzliche Pflichten auslösen, wenn das eingesetzte System oder sein Verwendungszweck in dessen Anwendungsbereich fällt. Die Anforderungen hängen von Rolle, Nutzung und Risikokategorie ab; außerdem greifen Regelungen gestaffelt. Unternehmen sollten den jeweiligen Geltungsstand im offiziellen Informationsangebot der Europäischen Kommission prüfen und dokumentieren, statt eine einmalige Bewertung dauerhaft fortzuschreiben.
Ein belastbarer Ablauf für kleine Unternehmen
Ein Freigabeprozess muss nicht umfangreich sein, sollte aber jede Nutzung einem verantwortlichen Vorgang zuordnen. Für ein kleines Unternehmen ist folgende Reihenfolge praktikabel:
- Anwendungsfall beschreiben: Benennen Sie Formular, Zweck, Herkunft der Daten, gewünschte Ausgabe und Empfänger. Formulierungen wie allgemeine Bürohilfe sind zu unbestimmt.
- Daten einstufen: Markieren Sie Personenbezug, besondere Daten, Geschäftsgeheimnisse, Zahlungsdaten und Informationen mit rechtlicher Wirkung.
- Produktvariante festlegen: Bestimmen Sie das zugelassene Konto beziehungsweise die zugelassene Schnittstelle. Private Konten und nicht freigegebene Browsererweiterungen sollten nicht als Ersatz dienen.
- Recht und Vertrag prüfen: Dokumentieren Sie Rechtsgrundlage, Anbieterrolle, erforderliche Vereinbarungen, Empfänger, Speicherbedingungen und mögliche Drittlandübermittlungen.
- Daten reduzieren: Entfernen Sie Angaben, die ChatGPT für die Aufgabe nicht benötigt. Verwenden Sie nach Möglichkeit neutrale Kennungen statt Namen und Kontaktdaten.
- Prüfperson benennen: Legen Sie fest, wer Eingabedaten, ausgefüllte Felder, Rechenwerte, Anlagen und Erklärungen kontrolliert.
- Übermittlung trennen: Das erzeugte Ergebnis sollte zunächst als Entwurf in einen kontrollierten Arbeitsbereich gelangen. Der Versand oder die Einreichung erfolgt erst nach Freigabe.
- Nachweis sichern: Halten Sie Version, Datum, verantwortliche Person, Freigabe und wesentliche Korrekturen fest, soweit dies für den Vorgang erforderlich und datenschutzrechtlich zulässig ist.
Diese Route verhindert vor allem, dass ein technisch bequemes Verfahren unbemerkt zu einem neuen Verarbeitungsvorgang wird. Sie schafft zugleich einen prüfbaren Übergang zwischen KI-Ausgabe und verbindlicher Unternehmenserklärung.
Was die menschliche Kontrolle tatsächlich umfassen muss
Eine reine Sichtprüfung reicht bei vielen Formularen nicht. Die zuständige Person muss die Angaben mit der ursprünglichen Unterlage vergleichen und erkennen können, welche Felder ChatGPT ergänzt, umformuliert oder aus Zusammenhängen abgeleitet hat.
Die Prüfung sollte sich nach der Fehlerfolge richten:
- Stammdaten werden mit dem führenden Kunden-, Personal- oder Lieferantensystem abgeglichen.
- Beträge, Mengen, Datumsangaben und Fristen werden aus dem Originalbeleg übernommen und bei Berechnungen separat kontrolliert.
- Pflichtfelder, Anlagen und Unterschriftsanforderungen werden anhand des eigentlichen Formulars geprüft.
- Rechtliche Erklärungen, Zusicherungen und Einwilligungen werden nicht aus einer sprachlich plausiblen KI-Ausgabe abgeleitet.
- Unklare oder widersprüchliche Ausgangsdaten führen zu einer Rückfrage und nicht zu einer Ergänzung durch Vermutung.
ChatGPT kann fehlende Informationen sprachlich überzeugend ergänzen, obwohl sie nicht in den Ausgangsdaten enthalten sind. Eine betriebliche Regel sollte daher ausdrücklich festlegen, dass unbekannte Felder leer bleiben oder zur Klärung markiert werden müssen. Erfunden wirkende Vollständigkeit ist bei Formularen gefährlicher als eine sichtbare Lücke.
Geschäftsgeheimnisse und Zugriffsrechte separat absichern
Nicht jedes vertrauliche Formular enthält personenbezogene Daten. Angebote, Kalkulationen, technische Zeichnungen, Vertragsentwürfe oder Lieferantenkonditionen können als Geschäftsgeheimnisse geschützt und wirtschaftlich sensibel sein. Ihre Eingabe muss mit Geheimhaltungsregeln, Kundenverträgen und internen Berechtigungen vereinbar sein.
Unternehmen sollten Rollenrechte so vergeben, dass Beschäftigte nur die für ihre Aufgabe nötigen Formulare und KI-Funktionen nutzen können. Gemeinsame Zugangsdaten erschweren die Zuordnung und sollten vermieden werden. Bei einer API-Anbindung gehören Schlüssel in eine geschützte Systemverwaltung und nicht in Tabellen, Formulare oder frei zugängliche Skripte.
Auch Browsererweiterungen und Automatisierungsdienste verdienen eine eigene Prüfung. Sie können neben dem sichtbaren Feld weitere Seiteninhalte erfassen oder Daten über zusätzliche Anbieter übertragen. Eine Freigabe für ChatGPT ist daher nicht automatisch eine Freigabe für jedes Werkzeug, das ChatGPT mit einer Formularseite verbindet.
Welche Dokumentation intern vorliegen sollte
Eine nachvollziehbare Dokumentation verbindet Datenschutz, Informationssicherheit und Arbeitsorganisation. Sie sollte nicht jede einzelne harmlose Texteingabe protokollieren, aber den freigegebenen Prozess und risikorelevante Vorgänge belegen.
- Bezeichnung und Zweck des Anwendungsfalls
- verantwortlicher Fachbereich und freigebende Person
- zugelassene ChatGPT-Variante und erlaubte Zugangswege
- zulässige und ausgeschlossene Datenarten
- Rechtsgrundlage und datenschutzrechtliche Rollen
- Vertrags-, Sicherheits- und Löschprüfung
- Prüfschritte vor Versand oder Einreichung
- Vorgehen bei Fehlern, Datenschutzvorfällen und Änderungen des Dienstes
- Datum der Freigabe und Termin für die erneute Bewertung
Der Vorgang kann je nach Ausgestaltung außerdem in das Verzeichnis von Verarbeitungstätigkeiten, das Berechtigungskonzept und die interne Richtlinie für KI-Nutzung aufgenommen werden. Ob das erforderlich ist, sollte die datenschutzrechtlich verantwortliche Stelle anhand des tatsächlichen Prozesses entscheiden.
Die Freigabe endet an klaren Abbruchgrenzen
Ein Formular darf nicht über ChatGPT bearbeitet werden, wenn die Rechtsgrundlage ungeklärt ist, eine erforderliche Anbietervereinbarung fehlt oder die freigegebene technische Umgebung nicht verfügbar ist. Gleiches gilt, wenn besonders schutzbedürftige Daten nicht sicher entfernt werden können oder niemand die fachliche Richtigkeit kontrollieren kann.
Bei verbindlichen Meldungen, Anträgen und Vertragserklärungen sollte die zuständige Fachperson übernehmen, sobald Felder auslegungsbedürftig sind. Steuerliche, arbeitsrechtliche oder behördliche Angaben werden nicht dadurch richtig, dass ChatGPT sie sprachlich schlüssig einträgt. Im Zweifel sind Steuerberatung, Rechtsberatung, Datenschutzbeauftragte oder die zuständige Behörde einzubeziehen.
Ein tragfähiger Unternehmenseinsatz entsteht somit nicht durch eine pauschale Erlaubnis, sondern durch eng beschriebene Anwendungsfälle. Wer Daten minimiert, die passende Vertrags- und Systemvariante prüft, Übermittlung und Erstellung trennt und eine fachkundige Endkontrolle verlangt, kann Formulararbeit sinnvoll unterstützen lassen, ohne die betriebliche Verantwortung an ChatGPT abzugeben.
