Künstliche Intelligenz ist im Berufsalltag angekommen. Sogenannte KI-Assistenten helfen beim Schreiben von Texten, beim Zusammenfassen langer Dokumente, bei der Recherche oder beim Programmieren. Damit Sie diese Werkzeuge sinnvoll und sicher einsetzen, sollten Sie verstehen, wie sie grundsätzlich funktionieren – und wo ihre Grenzen liegen.

KI-Assistenten sind hilfreiche Werkzeuge, aber sie sind weder unfehlbar noch vertraulich. Sie bleiben immer selbst verantwortlich für das, was Sie eingeben und was Sie mit den Ergebnissen tun.

Die bekanntesten KI-Assistenten basieren auf sogenannten großen Sprachmodellen (englisch: Large Language Models, kurz LLMs). Vereinfacht gesagt: Diese Modelle wurden mit sehr großen Textmengen trainiert und sagen bei einer Eingabe Wort für Wort das jeweils wahrscheinlich passende nächste Wort voraus. Sie "verstehen" Inhalte nicht wie ein Mensch, sondern erzeugen sprachlich plausible Antworten.

Was sind KI-Assistenten? Ein KI-Assistent ist ein Programm, dem Sie eine Aufgabe in normaler Sprache stellen (den sogenannten "Prompt"), und das Ihnen daraufhin eine formulierte Antwort erzeugt. Sie können nachfragen, präzisieren und in einem Dialog arbeiten.

Gängige Werkzeuge, denen Sie begegnen:

ChatGPT (OpenAI)

Einer der bekanntesten Chat-Assistenten. Beantwortet Fragen, schreibt und überarbeitet Texte, erklärt Zusammenhänge.

Microsoft Copilot

In Microsoft 365 (Word, Excel, Outlook, Teams) und in Windows integriert. Hilft direkt in den gewohnten Office-Programmen.

Google Gemini

Der KI-Assistent von Google, unter anderem in Google-Diensten eingebunden.

Claude (Anthropic)

Chat-Assistent, der auf ausführliche Textarbeit und Zusammenfassungen ausgelegt ist.

Wo begegnen Ihnen KI-Tools? • Als eigenständige Chat-Oberfläche im Browser oder als App • Direkt eingebaut in Office-Programme (z.B. "Zusammenfassen"-Funktionen) • In Suchmaschinen und E-Mail-Programmen • In Chat- und Support-Systemen • In Entwicklungsumgebungen als Code-Assistent

Welche Chancen bieten KI-Tools? • Texte entwerfen, umformulieren und verständlicher machen • Lange Dokumente oder E-Mail-Verläufe zusammenfassen • Ideen sammeln und strukturieren (Brainstorming) • Bei Recherche und Erklärung von Fachbegriffen unterstützen • Programmcode erzeugen, erklären oder Fehler finden • Übersetzungen und Formulierungshilfen

So nützlich diese Werkzeuge sind – sie bringen auch Risiken mit sich: Eingegebene Daten können bei manchen Diensten gespeichert oder weiterverarbeitet werden, die Antworten können sachlich falsch sein, und der unbedachte Umgang kann gegen Datenschutz oder Firmenregeln verstoßen. Diese Punkte behandeln wir in den nächsten Kapiteln.

Sehen Sie einen KI-Assistenten wie einen sehr belesenen, aber manchmal unzuverlässigen Kollegen: gut für erste Entwürfe und Ideen, aber nichts, was Sie ungeprüft weitergeben – und niemand, dem Sie vertrauliche Unterlagen einfach so aushändigen würden.

Die wichtigste Regel im Umgang mit KI-Tools betrifft das, was Sie eingeben. Alles, was Sie in ein KI-Tool tippen oder hochladen, verlässt in der Regel Ihren Rechner und wird auf den Servern des Anbieters verarbeitet.

Geben Sie niemals vertrauliche oder personenbezogene Daten in öffentliche KI-Tools ein. Was einmal eingegeben wurde, haben Sie nicht mehr unter Kontrolle.

Was gehört NICHT in ein öffentliches KI-Tool? • Personenbezogene Daten von Kunden, Kollegen oder Bewerbern (Namen, Adressen, E-Mail, Telefonnummern, Gesundheits- oder Vertragsdaten) • Geschäftsgeheimnisse (Kalkulationen, Strategien, unveröffentlichte Produkte, Verträge) • Zugangsdaten (Passwörter, API-Schlüssel, Tokens) • Interne Dokumente, die nicht für die Öffentlichkeit bestimmt sind • Quellcode mit sensiblen internen Informationen

Bei vielen kostenlosen KI-Diensten können Ihre Eingaben gespeichert und zur Verbesserung bzw. zum Training der Modelle genutzt werden. Im ungünstigsten Fall taucht Ihre Eingabe später in ganz anderem Zusammenhang auf. Gehen Sie deshalb davon aus: Alles, was Sie eingeben, könnte dauerhaft gespeichert und von anderen gesehen werden.

Warum ist das so kritisch? Wenn Sie personenbezogene Daten ohne Erlaubnis in ein externes Tool geben, kann das ein Datenschutzverstoß sein. Bei Geschäftsgeheimnissen riskieren Sie, dass vertrauliche Informationen abfließen. Das Problem: Sie können eine einmal gemachte Eingabe nicht zuverlässig zurückholen oder löschen lassen.

Schlechter Prompt (so NICHT):

"Schreibe eine freundliche Absage an den Bewerber Thomas Berger, geboren am 12.03.1988, wohnhaft Gartenstraße 4 in Poing. Er hat sich auf die Stelle als Buchhalter beworben, aber im Vorstellungsgespräch einen sehr nervösen Eindruck gemacht und Lücken im Lebenslauf gehabt."

Problem: Echter Name, Geburtsdatum, Adresse und eine sensible Bewertung einer realen Person landen bei einem externen Anbieter. Das ist ein klarer Datenschutzverstoß.

Guter Prompt (so ist es richtig):

"Schreibe eine freundliche, wertschätzende Absage an einen Bewerber für eine Buchhalter-Stelle. Ton: höflich, motivierend, ohne konkrete Ablehnungsgründe. Platzhalter: [NAME], [DATUM]."

Die echten Daten setzen Sie erst danach lokal in Ihrem eigenen Programm ein.[/EXAMPLE]

Faustregel vor jeder Eingabe: "Würde ich diese Information auch einer fremden Person außerhalb der Firma zeigen?" Wenn nein, gehört sie nicht in ein öffentliches KI-Tool. Arbeiten Sie stattdessen mit Platzhaltern wie [NAME], [FIRMA] oder [BETRAG].

Sobald personenbezogene Daten ins Spiel kommen, gilt auch bei KI-Tools die Datenschutz-Grundverordnung (DSGVO). Sie müssen wissen, unter welchen Bedingungen Sie ein Tool nutzen dürfen und wer für die Daten verantwortlich ist.

Nicht das KI-Tool ist verantwortlich, sondern Sie und Ihr Arbeitgeber. Die DSGVO gilt auch dann, wenn eine Maschine die Daten verarbeitet.

Wenn ein Unternehmen einen KI-Dienst nutzt, um personenbezogene Daten zu verarbeiten, braucht es dafür in der Regel eine Rechtsgrundlage und häufig einen sogenannten Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter. Darin wird geregelt, wie der Dienstleister mit den Daten umgehen darf. Ohne eine solche vertragliche Grundlage dürfen personenbezogene Daten grundsätzlich nicht in das Tool gegeben werden.

US-Anbieter und Drittlandtransfer Viele bekannte KI-Anbieter haben ihren Sitz oder ihre Server außerhalb der EU, häufig in den USA. Werden personenbezogene Daten dorthin übertragen, spricht man von einem "Drittlandtransfer". Dafür gelten zusätzliche Anforderungen der DSGVO. Ob und wie ein bestimmtes Tool eingesetzt werden darf, klärt Ihr Unternehmen bzw. der Datenschutzbeauftragte – nicht der einzelne Mitarbeiter im Alleingang.

Gratis-Version vs. Business-/Enterprise-Version Ein wichtiger Unterschied betrifft die Frage, was mit Ihren Eingaben geschieht: • Kostenlose bzw. private Versionen: Hier werden Eingaben je nach Anbieter häufiger gespeichert und können zur Weiterentwicklung der Modelle genutzt werden. • Business- bzw. Enterprise-Versionen: Diese bieten oft zusätzliche Zusagen, etwa dass Eingaben nicht zum Training verwendet werden, sowie passende Verträge für Unternehmen.

Verlassen Sie sich nicht auf Ihr Gefühl, welche Version "sicher" ist. Ob eine bestimmte Version für die Verarbeitung personenbezogener Daten freigegeben ist, entscheidet Ihr Unternehmen. Nutzen Sie im Zweifel keine personenbezogenen Daten.

Chatverlauf und Training deaktivieren Viele Anbieter erlauben es, in den Einstellungen den Chatverlauf abzuschalten oder der Nutzung der eigenen Eingaben für das Training zu widersprechen. Das kann das Risiko verringern, ersetzt aber keine offizielle Freigabe und keinen Vertrag. Betrachten Sie solche Einstellungen als zusätzliche Vorsichtsmaßnahme, nicht als Freifahrtschein.

Ihre Verantwortung als Nutzer • Personenbezogene Daten nur in freigegebene Tools und nur mit Rechtsgrundlage eingeben • Im Zweifel anonymisieren oder mit Platzhaltern arbeiten • Bei Unsicherheit den Datenschutzbeauftragten oder die IT fragen • Datenschutz-Einstellungen des Tools bewusst prüfen

Merksatz zur DSGVO: Datenschutz-Verantwortung lässt sich nicht an die KI abgeben. Wenn Sie unsicher sind, ob Sie bestimmte Daten eingeben dürfen, ist das genau der Moment, in dem Sie nachfragen sollten.

KI-Assistenten formulieren ihre Antworten überzeugend und flüssig – auch dann, wenn der Inhalt falsch ist. Fachleute nennen erfundene, aber plausibel klingende Aussagen "Halluzinationen". Das ist eine der wichtigsten Gefahren im Arbeitsalltag.

KI-Antworten sind Vorschläge, keine geprüften Fakten. Übernehmen Sie niemals ungeprüft Zahlen, Rechtstexte, Code oder Quellenangaben.

Was sind Halluzinationen? Weil Sprachmodelle die wahrscheinlich passenden nächsten Wörter erzeugen und nicht auf eine gesicherte Faktendatenbank zugreifen, können sie Dinge schlicht erfinden: falsche Zahlen, ausgedachte Studien, nicht existierende Paragrafen, erfundene Buchtitel oder Links, die ins Leere führen. Das Tückische: Es sieht genauso seriös aus wie eine korrekte Antwort.

Besonders gefährlich ist blindes Vertrauen bei Themen mit Konsequenzen: rechtliche Aussagen, medizinische oder finanzielle Angaben, technische Sicherheitshinweise oder Programmcode, der später produktiv läuft. Ein falscher, aber überzeugend formulierter Satz kann teuer werden.

So prüfen Sie ein KI-Ergebnis:

1. Quelle prüfen – Nennt die KI eine Quelle, ein Gesetz oder eine Studie? Suchen Sie diese Quelle selbst und prüfen Sie, ob sie überhaupt existiert und das Gesagte enthält.
2. Fakten gegenchecken – Vergleichen Sie zentrale Aussagen, Zahlen und Namen mit einer vertrauenswürdigen zweiten Quelle.
3. Plausibilität bewerten – Klingt das Ergebnis logisch und passt es zu dem, was Sie über das Thema wissen? Widersprüche sind ein Warnsignal.
4. Bei Unsicherheit Experten fragen – Bei rechtlichen, medizinischen, finanziellen oder sicherheitskritischen Themen holen Sie die Einschätzung einer fachkundigen Person ein.

Erfundene Quelle – ein typischer Fall:

Sie fragen die KI nach einer Rechtsgrundlage und erhalten:

"Das ergibt sich aus § 42a Abs. 3 des Bundesdatenschutz-Sonderregelungsgesetzes von 2019."

Sieht überzeugend aus – ist aber frei erfunden. Ein solches Gesetz gibt es nicht. Hätten Sie diesen Verweis ungeprüft in ein Kundenschreiben übernommen, stünde eine falsche Rechtsauskunft mit Ihrem Namen darunter.

Richtig: Jeden konkreten Verweis (Paragraf, Studie, Zahl, Zitat) selbst in einer verlässlichen Quelle nachschlagen, bevor Sie ihn verwenden.[/EXAMPLE]

Wofür eignet sich KI trotzdem gut? Halluzinationen bedeuten nicht, dass KI nutzlos ist. Für erste Entwürfe, Formulierungshilfen, Struktur und Ideen ist sie sehr hilfreich – überall dort, wo Sie das Ergebnis ohnehin noch selbst prüfen und verantworten.

Merken Sie sich: Je wichtiger die Konsequenz einer Aussage, desto gründlicher muss die Prüfung sein. Bei allem, was nach außen geht oder eine Entscheidung beeinflusst, gilt: erst gegenchecken, dann verwenden.

Nicht jedes KI-Tool, das Sie im Internet finden, darf im Job genutzt werden. Der eigenmächtige Einsatz nicht freigegebener Tools wird "Schatten-KI" genannt und ist ein ernstes Risiko für das Unternehmen.

Nutzen Sie im Beruf nur die KI-Tools, die Ihr Unternehmen ausdrücklich freigegeben hat. Alles andere ist Schatten-KI – und im Zweifel ein Datenschutz- und Sicherheitsrisiko.

Was ist Schatten-KI? Schatten-KI entsteht, wenn Mitarbeiter eigenständig KI-Dienste einsetzen, ohne dass diese von IT oder Datenschutz geprüft und freigegeben wurden – zum Beispiel, weil ein Tool gerade praktisch erscheint oder in einem Blog empfohlen wurde. Das Unternehmen weiß dann nicht, welche Daten an welchen Anbieter fließen.

Warum ist das gefährlich? • Vertrauliche oder personenbezogene Daten fließen unkontrolliert an externe Anbieter ab • Es fehlen die nötigen Verträge und Rechtsgrundlagen (siehe DSGVO-Kapitel) • Compliance-Vorgaben und interne Richtlinien werden verletzt • Das Unternehmen kann Vorfälle nicht nachvollziehen oder eingrenzen

Erlaubt (Beispiel)

Ein vom Arbeitgeber freigegebener KI-Assistent in der Business-Version, für den ein Vertrag besteht und der offiziell für bestimmte Aufgaben zugelassen ist.

Verboten (Beispiel)

Ein beliebiges kostenloses KI-Tool aus dem Netz, in das Sie interne Dokumente hochladen, ohne dass IT oder Datenschutz davon wissen.

Erlaubt (Beispiel)

Allgemeine, unkritische Fragen ohne jeden Bezug zu Kunden, Kollegen oder internen Daten in einem freigegebenen Tool.

Verboten (Beispiel)

Eine neue, unbekannte KI-App installieren und ihr Zugriff auf Ihr Firmenpostfach oder Ihre Dateien geben, ohne Freigabe.

Der Freigabeprozess Bevor ein Tool im Unternehmen genutzt wird, prüfen IT und Datenschutz üblicherweise: Welche Daten verarbeitet das Tool? Wo liegen die Server? Gibt es einen Auftragsverarbeitungsvertrag? Werden Eingaben zum Training genutzt? Erst nach dieser Prüfung wird ein Tool freigegeben. Halten Sie sich an diese Liste freigegebener Tools.

Auch "nur mal ausprobieren" zählt. Sobald Sie echte Arbeitsdaten in ein nicht freigegebenes Tool eingeben, ist der mögliche Schaden bereits entstanden – unabhängig davon, ob Sie das Ergebnis am Ende verwenden.

Im Zweifel gilt: erst fragen, dann nutzen. Wenden Sie sich an Ihre IT-Abteilung oder den Datenschutzbeauftragten, bevor Sie ein neues KI-Tool im Job einsetzen. Eine kurze Rückfrage ist immer günstiger als ein Datenabfluss.

Sie können KI-Tools produktiv nutzen und dabei sicher bleiben – wenn Sie ein paar Regeln zur "Prompt-Hygiene" beachten. Es geht darum, gute Ergebnisse zu bekommen, ohne dabei Daten oder Rechte zu verletzen.

Ein guter Prompt beginnt mit dem Weglassen sensibler Daten und endet mit der kritischen Prüfung des Ergebnisses. Sicherheit und Produktivität schließen sich nicht aus.

Prompt-Hygiene: die Grundlagen • Anonymisieren Sie Daten oder ersetzen Sie sie durch Platzhalter wie [NAME], [FIRMA], [BETRAG] • Formulieren Sie die Aufgabe klar: Was soll herauskommen, in welchem Ton, in welcher Länge? • Geben Sie nur so viel Kontext wie nötig – nicht ganze interne Dokumente • Ordnen Sie das Ergebnis kritisch ein, statt es blind zu übernehmen • Laden Sie keine sensiblen Dateien in nicht freigegebene Tools hoch

Sicherer Prompt-Workflow:

1. Daten anonymisieren – Entfernen Sie echte Namen, Adressen, Zahlen und interne Details oder ersetzen Sie sie durch Platzhalter, bevor Sie den Prompt abschicken.
2. Aufgabe klar formulieren – Beschreiben Sie präzise, was Sie brauchen: Textart, Zielgruppe, Ton, Länge und gewünschtes Format.
3. Ergebnis prüfen – Kontrollieren Sie Fakten, Zahlen und Quellen und lesen Sie den Text auf Richtigkeit und Angemessenheit gegen.
4. Vor Weitergabe freigeben – Setzen Sie erst zum Schluss die echten Daten lokal ein und geben Sie den Inhalt bewusst frei, bevor er nach außen geht.

Urheberrecht und Kennzeichnung KI-Ergebnisse sind nicht automatisch frei von rechtlichen Fragen. Übernehmen Sie keine fremden Texte oder Bilder ungeprüft, und behandeln Sie KI-Ausgaben als Entwurf, für den Sie die Verantwortung tragen. In manchen Situationen ist es sinnvoll oder gefordert, kenntlich zu machen, dass ein Inhalt mit KI-Unterstützung entstanden ist – orientieren Sie sich an den Regeln Ihres Unternehmens.

Ein praktischer Trick: Schreiben Sie Ihren Prompt zuerst mit Platzhaltern und prüfen Sie ihn kurz, bevor Sie ihn absenden. So merken Sie sofort, wenn sich doch noch ein echter Name oder eine vertrauliche Angabe eingeschlichen hat.

KI-Tools sind gekommen, um zu bleiben. Richtig eingesetzt sparen sie Zeit und Mühe. Falsch eingesetzt gefährden sie Datenschutz, Geschäftsgeheimnisse und Ihren guten Ruf. Diese Zusammenfassung bündelt die wichtigsten Regeln.

Nutzen Sie KI als Werkzeug, nicht als Autorität: keine vertraulichen Daten hinein, keine Ergebnisse ungeprüft heraus – und im Zweifel nachfragen.

Die wichtigsten Botschaften auf einen Blick • KI-Assistenten sind hilfreich, aber weder vertraulich noch unfehlbar • Vertrauliche und personenbezogene Daten gehören nicht in öffentliche KI-Tools • Die DSGVO-Verantwortung bleibt bei Ihnen und Ihrem Arbeitgeber • KI kann überzeugend falsche Inhalte erzeugen – immer gegenchecken • Nur freigegebene Tools nutzen, Schatten-KI vermeiden • Mit Platzhaltern arbeiten und Ergebnisse kritisch prüfen

Do: Anonymisieren

Ersetzen Sie echte Namen und Daten durch Platzhalter, bevor Sie etwas eingeben.

Don't: Vertrauliches eingeben

Keine Kunden-, Kollegen- oder Bewerberdaten, keine Geheimnisse und keine Zugangsdaten in öffentliche Tools.

Do: Ergebnisse prüfen

Fakten, Zahlen, Quellen und Code immer gegenchecken, bevor Sie sie verwenden.

Don't: Blind vertrauen

Keine KI-Aussage ungeprüft in Kundenschreiben, Entscheidungen oder Systeme übernehmen.

Do: Freigegebene Tools nutzen

Nur die vom Unternehmen zugelassenen Werkzeuge verwenden.

Don't: Schatten-KI

Keine unbekannten Tools eigenmächtig mit Arbeitsdaten füttern.

Do: Nachfragen

Bei Unsicherheit IT oder Datenschutzbeauftragten einbeziehen.

Don't: Schweigen bei Fehlern

Ist doch etwas Vertrauliches abgeflossen, sofort melden statt vertuschen.

Sicherer Umgang mit KI ist kein Verbot, sondern ein bewusster Umgang. Wer die Regeln kennt, kann die Vorteile der Werkzeuge nutzen und gleichzeitig sich, die Kolleginnen und Kollegen sowie das Unternehmen schützen.

Wenn Ihr Unternehmen noch keine klaren KI-Richtlinien hat, ist jetzt ein guter Zeitpunkt, sie zu erstellen. Die KnoCo UG aus Poing bei München unterstützt Unternehmen dabei, sichere und datenschutzkonforme KI-Richtlinien aufzubauen und Mitarbeitende zu schulen.

Frag dich vor jeder Eingabe: Dürfen diese Daten hier hinein? Und vor jeder Weitergabe: Habe ich das Ergebnis geprüft? Wer diese zwei Fragen konsequent stellt, nutzt KI sicher.