Das Geschäftsleben (insbesondere was für kleine Unternehmen und Startups gilt) erfordert viel Arbeit und verfügt nur über spärliche Ressourcen. Deshalb möchten oder müssen Unternehmensgründer und Mitarbeiter in der Anfangsphase KI nutzen, um Prozesse zu beschleunigen oder den Nutzern mehr Auswahlmöglichkeiten zu bieten.
Im Streben nach Effizienz und Auswahl ist es wichtig, weder sich selbst zu schaden noch das Potenzial des Unternehmens zu gefährden. In diesem Artikel untersuchen wir, wie wir mittels der Prozesse und Technologien anpassen können, damit das Unternehmen von den Stärken der KI profitieren kann, und wie wir die Risiken zu erkennen und uns davor zu schützen vermögen. Diese hängen mit der Arbeit des Unternehmens mit KI zusammen.
Schritt 1: Untersuchen, ob KI eingesetzt werden kann
In vielen Geschäftsbereichen ist der Einsatz von KI nur eingeschränkt möglich. Entwickelt Ihr Unternehmen beispielsweise eine Lösung zur biometrischen Erkennung von Menschen in einer Menschenmenge, verstößt dies möglicherweise gegen die Anforderungen des EU-KI-Gesetzes, und Sie werden schlicht nicht genügend Kunden haben, um die Investition und die Kosten wieder zu erstatten.
Andere potenziell gefährliche Nischen könnten das Gesundheitswesen, Rechtsdienstleistungen, Steuerberatung, Kinderbetreuung oder soziale Medien sein (z. B. wenn Sie mithilfe generativer KI Inhalte in Echtzeit erstellen möchten).
Es ist außerdem wichtig, sicherzustellen, dass der Einsatz von KI in die Data-Governance-Praktiken des Unternehmens integriert ist. Beispiele:
- KI darf nicht die Angaben verfälschen, löschen, ersetzen oder vergessen, die sie bei ihren Berechnungen zu berücksichtigen haben.
- Es gibt einen Prozess, der überprüft, ob die KI die korrekten Berechnungen durchgeführt hat.
- KI zieht keine Schlussfolgerungen, wenn den Daten keine Beweise zugrunde liegen.
- KI darf ohne Aufsicht des Mitarbeiters keine Ratschläge zum Aufsuchen eines bestimmten Spezialisten, zur Behandlung einer bestimmten Krankheit, zur Einnahme bestimmter Medikamente oder zum Vornehmen bestimmter Eingriffe geben.
Berücksichtigen Sie die Risiken, die KI für Ihr Unternehmen verursachen könnte. Testen Sie beispielsweise die identifizierten Angriffe auf den Datenschutz auf die folgenden die vom Europäischen Datenschutzausschuss (EDSA) registriert sind:
- Attribut- und Mitgliedschaftsinferenz (attribute and membership inference);
- Exfiltration;
- Wiedergabe von Trainingsdaten (regurgitation of training data);
- Modellinversion (model inversion),
- Rekonstruktionsangriff (reconstruction attack).
Ein weiterer Vergleichsmaßstab könnte OWASP sein. Werfen Sie einen Blick auf die OWASP Top 10 für LLM-Anwendungen 2025 – sie weist auf folgende Risiken hin, die bewertet und minimiert werden müssen:
- Prompt-Injection;
- Offenlegung sensibler Informationen (Sensitive Information Disclosure);
- Lieferkette (Supply Chain);
- Daten- und Modellvergiftung (Data and Model Poisoning);
- Unsachgemäße Ausgabeverarbeitung (Improper Output Handling);
- Übermäßige Handlungsfähigkeit (Excessive Agency);
- Prompt-Leakage im System (System Prompt Leakage);
- Schwächen bei Vektoren und Einbettungen (Vector and Embedding Weaknesses);
- Fehlinformationen (Misinformation);
- Unbegrenzter Konsum (Unbounded Consumption).
Dokumentieren Sie diesen Prozess: erstellen Sie eine Risikobewertung, tragen Sie diese Risiken in das Risikoregister ein und beraten Sie sich mit Ihrem Datenschutzbeauftragten und Informationssicherheitsspezialisten über die Verfahren zur Minimierung dieser Risiken, die für Ihr Unternehmen optimal wären.
Schritt 2: Prüfen Sie, ob die KI, die Sie verwenden möchten, zuverlässig ist
KI gibt es in vielen Formen. Die bei Verbrauchern beliebteste Form ist die Chatbot-Form der großen KI-Unternehmen (OpenAI, Google, Anthropic). Manchmal stoßen dieselben Verbraucher jedoch auf Chatbots oder eventuell Dienste anderer Unternehmen (z. B. den Chat eines Lieferdienstes oder eines Online-Shops), die die Modelle und Fähigkeiten derselben großen KI-Unternehmen nutzen.
In diesem Fall sollten Sie als Unternehmen für Folgendes sorgen:
- Dieses Modell unterliegt Ihren Einstellungen (z. B. erlaubt es den Suchmaschinen nicht, Gespräche Ihrer Kunden mit KI zu indizieren),
- dass das Modell, das Unternehmen oder das Produkt ihre Position nicht gefährdet (z. B. wurden die ersteren nicht entwickelt, um den Endbenutzer davon zu überzeugen, dass sich auf der anderen Seite des Gesprächs eine tatsächliche Person befindet), und
- dass Ihre Daten und Ihr geistiges Eigentum (oder die Lizenz, die Ihre Kunden Ihnen hierfür erteilt haben) geschützt bleiben und nicht verletzt werden.
Manchmal setzen Unternehmen KI-Modelle lokal ein (d. h., auf ihren eigenen Servern unter voller Kontrolle über die Funktionsweise der KI). In der Regel verwenden sie Modelle, die jemand anderer erstellt hat. Daher ist es wichtig, das Modell und das darauf basierende Produkt zu testen, um sicherzustellen, dass sie sich wie erwartet verhalten.
Noch seltener verfügen die Unternehmen über die Ressourcen, eigene KI-Modelle zu entwickeln. In diesem Fall ist es besser, zunächst Trainingsdaten zu sammeln und festzulegen, dass das Modell während des Trainingsprozesses keine manipulativen oder anderweitig schädlichen Trends aufweist.
Nehmen Sie die zuvor erstellte Risikobewertung und das Risikoregister und fügen Sie Folgendes hinzu:
- einen Datenmanagementplan oder einen Daten-Governance-Plan,
- bewerten Sie den Auftragnehmer, der Ihnen das KI-Modell oder KI-Produkt bereitstellt – testen Sie dessen Zuverlässigkeit anhand synthetischer oder Testdaten (es ist wichtig, dass diese Daten keine personenbezogenen Daten enthalten!), und
- suchen Sie nach Berichten oder Veröffentlichungen von KI-Sicherheitsforschern über ihre Tests oder Benchmarks – diese verfügen oft über die notwendige Ausrüstung oder Kredite von KI-Anbietern, um das Modell zu testen und seine Schwachstellen zu ermitteln.
Es ist auch wichtig zu berücksichtigen, wie sich das KI-Tool in Ihr persönliches Datenmanagementprogramm einfügt. Haben Sie Richtlinien, die diese KI und die Auswirkungen auf Unternehmensprozesse beachten? Falls nicht, lohnt es sich, Ihre DSGVO-Konformität zu überprüfen und zu aktualisieren.
Schritt 3: Schützen Sie sich vor KI-Schwachstellen
Am einfachsten ist es, KI zu nutzen, die bereits in Ihren Systemen integriert ist. Wenn Ihre gesamte Website oder Anwendungsinfrastruktur bereits auf Google-Produkten basiert, ist es sinnvoll, die bereits in diese Produkte oder Infrastruktur integrierte Google-KI zu nutzen. Dadurch bleiben alle Ihre Daten und Ihr geistiges Eigentum an einem Ort und sind leichter zu kontrollieren.
Wenn diese Lösung für Ihr Unternehmen nicht geeignet ist, versuchen Sie die folgenden Schutzmaßnahmen zu treffen:
- Beschränken Sie den Einsatz von KI auf bestimmte Positionen, Rollen oder Zwecke.
- Beschränken Sie die Nutzung auf bestimmte KI-Modelle oder -Produkte und überwachen Sie, dass keine anderen verwendet werden.
- Schulen Sie Ihre Mitarbeiter und Auftragnehmer im ethischen und sicheren Einsatz von KI ein (z. B. keine Kunden- oder Kollegendaten die auf den KI-basierten Chatbots weitergeben).
- Erstellen Sie die erforderliche Dokumentation (Konformitätsbewertung, DSFA, LIA, TIA usw.).
- Schließen Sie die Auftragsverarbeitungsverträge (AV-Vertrag) ab und prüfen Sie die öffentlichen Dokumente der KI-Anbieter (Datenschutzerklärungen, Vereinbarungen zur Verarbeitung personenbezogener Daten, öffentliche Angebote).
- Aktualisieren Sie Ihre Dokumente (z. B. Datenschutzerklärung) und informieren Sie Ihre Benutzer oder Kollegen ausreichend über diese KI, damit sie diese sicher nutzen können.
- Verfolgen Sie ständig die Neuigkeiten über die von Ihnen verwendete KI und seien Sie bereit, sie durch eine andere zu ersetzen oder freizuschalten: stellen Sie sicher, dass im Betrieb Sicherheitsvorkehrungen getroffen werden (Human-in-the-Loop).
Vergessen Sie nicht, sich regelmäßig selbst zu überprüfen. Sind die KI-Konfigurationen und -Einstellungen korrekt? Ist die Schnittstelle, über die Benutzer auf die KI zugreifen, sicher? Erstellen Ihre Mitarbeiter die KI-Agenten, die mehr Zugriff auf Systeme haben, als Sie für notwendig halten?
Achten Sie auch auf personenbezogene Daten. Vergessen Sie nicht, Daten zu anonymisieren oder zu pseudonymisieren, bevor Sie sie zur Verarbeitung an KI senden. Verschlüsseln Sie außerdem die KI-Antworten, insbesondere wenn diese sensible Informationen oder Schlussfolgerungen enthalten könnten. Fügen Sie die Möglichkeiten zur Ausübung der Rechte der betroffenen Personen in KI-Tools hinzu:
- Erklären Sie, wie KI funktioniert und auf welcher Grundlage sie Entscheidungen trifft;
- Fügen Sie die Filter hinzu, um die Generierung verbotener Inhalte zu entfernen oder zu unterbinden (z. B. die Verwendung von KI für Doxing);
- Entfernen Sie alte und veraltete Modelle;
- Verwenden Sie Modelle nur mit aktuellen und qualitativ hochwertigen Daten und stellen Sie sicher, dass es nicht zu Überanpassung kommt (dass das Modell viele unterschiedliche Daten hat und sich nicht die Telefonnummer einer Person als einzig mögliches Beispiel merkt);
- Aktualisieren Sie Datenschutzerklärungen und Vereinbarungen zur Verarbeitung personenbezogener Daten mit Auftragnehmern und Kunden und fügen Sie dort Informationen über KI hinzu.
Wo soll ich anfangen?
Prüfen Sie, ob Ihr Team bereits KI nutzt, und wenn ja, auf welche Art und Weise. Wenn es sich um einen Bildgenerator handelt, stellen Sie sicher, dass die Bilder keine geistigen Eigentumsrechte verletzen. Wenn es sich um einen Notizblock handelt, überzeugen Sie sich, dass dieser im Rechtsrahmen Ihres Unternehmens legal ist.
Lesen Sie alles, was Sie über die Risiken einer solchen Nutzung finden können. Versuchen Sie, Ihr Unternehmen zu analysieren, diese Risiken zu identifizieren und herauszufinden, wie Sie sie vermeiden oder auf das Mindestmaß reduzieren können. Decken Sie sich mit der Unterstützung erfahrener Datenschutzbeauftragter ein – insbesondere solcher mit Erfahrungen im Bereich Datenschutz und KI.