Künstliche Intelligenz und Datenschutz: die 6 grössten Risiken

Die Nutzung von künstlicher Intelligenz (KI) hat exponentiell zugenommen. KI ermöglicht es, grosse Datenmengen zu verarbeiten, zu analysieren und darauf basierend Entscheidungen zu treffen. Hierbei wird auf persönliche und sensible Daten zugegriffen. Das wirft eine Vielzahl von Datenschutzfragen auf.

Welche Risiken birgt KI im Kontext Datenschutz?

Um die Risiken von KI einschätzen zu können, müssen wir ihre Funktion verstehen. Gemäss einer Studie der SRH Berlin (2023) nutzen 40% der Unternehmen in der DACH-Region künstliche Intelligenz im Marketing. Knapp 32% geben an, nach eigener Einschätzung nur wenig über KI zu wissen. Welche Risiken bringt der Einsatz von KI-Systemen für Unternehmen und Privatpersonen mit sich?

1. Mangelnde Transparenz

Ein KI-Modell kann aus Millionen oder sogar Milliarden von Parametern bestehen. Jeder Parameter beeinflusst das Ergebnis auf eine Weise, die schwer isoliert betrachtet werden kann.
KI verwendet eine hohe Dimensionalität an Daten, wie z.B. Bilder, Sprache und Sensorinformationen. Die Schwierigkeit zu verstehen, wie KI-Systeme ihre Entscheidungen treffen bzw. ihren Output generieren, wird auch als Black-Box-Problem bezeichnet.

Beispiel: Eine Bank setzt ein KI-System ein, um über die Kreditwürdigkeit ihrer Kunden zu entscheiden. Die Entscheidungslogik ist aus den oben genannten Gründen derart komplex, dass die Bank nicht nachvollziehen kann, warum Kredite abgelehnt werden. Mitarbeitende können ihren Kunden keine Erklärung abgeben, warum der Kredit abgelehnt wurde. Kunden können die Entscheidung dadurch nicht verstehen oder anfechten.

2. Verzerrte Trainingsdaten

KI-Systeme benötigen grosse Mengen an Daten, um effektiv trainiert zu werden. Eine grosse Datenmenge erhöht die Wahrscheinlichkeit, dass alle relevanten Varianten und Kategorien, die das Modell erkennen soll, auch tatsächlich repräsentiert sind. Ist die Datenmenge zu klein, richtet sich das KI-Modell zu stark an spezifischen Beispielen aus. Ist eine Gruppe unterrepräsentiert, werden Muster falsch interpretiert werden.

Beispiel: Mitarbeitende einer HR-Abteilung nutzen für die Rekrutierung ein KI-System, welches mit Daten trainiert wurde, die eine historische Benachteiligung von Frauen widerspiegeln. Dies führt zu einer unbewussten Bevorzugung von männlichen Bewerbern. Wenn Männer in der Vergangenheit häufiger befördert wurden, z.B. weil weibliche Kandidaten zu diesem Zeitpunkt im Mutterschutz waren, nimmt die KI fälschlicherweise an, dass das Geschlecht ein Indikator für beruflichen Erfolg ist.

3. Urheberrechtsverletzungen

Eine der rechtlichen Herausforderungen im Zusammenhang mit künstlicher Intelligenz ist die Frage nach dem geistigen Eigentum. Je mehr Input eine KI-Anwendung erhält, desto genauer und effizienter arbeitet sie. Häufig werden öffentlich zugängliche Informationen im Training verwendet, wie z.B. Zeitungsartikel. Diese fallen unter das Urheberrecht. Erzeugt die KI-Anwendung Inhalte, die urheberrechtlich geschützten Inhalten stark ähneln, kann dies eine Urheberrechtsverletzung darstellen.

Beispiel: Französische Medienunternehmen klagten gegen Google, da deren KI-Anwendung «Gemini» ohne Vorabinformation mit Inhalten der Zeitung trainiert wurde. Die französische Wettbewerbsbehörde erwirkte im März 2024 eine Strafzahlung von Google in Höhe von 250 Mio. Euro. Die New York Times klagt aktuell gegen Microsoft und OpenAPI, da ChatGPT mit Millionen von Medieninhalten trainiert wurde.

4. Automatisierte Entscheidungen

Dank KI können Daten schneller analysiert und ausgewertet werden. KI-Systeme können die Effizienz in Unternehmen erheblich verbessern. Werden Entscheidungen automatisch getroffen, spart dies Zeit und Geld. Doch was passiert, wenn diese Entscheidungen fehlerhaft sind?

Beispiel: Ein Versicherungsunternehmen verwendet künstliche Intelligenz, um Schadensfälle effizienter bearbeiten zu können. Die KI-Anwendung empfiehlt den Mitarbeitenden die Annahme oder Ablehnung eines Schadens. In einigen Fällen werden legitime Ansprüche abgelehnt, weil der Algorithmus bestimmte Muster fehlinterpretiert. Kunden werden unfair behandelt, müssen Einspruch einlegen und länger auf ihre Entschädigung warten. Der zusätzlich generierte Aufwand erhöht die Kosten für das Versicherungsunternehmen.

5. Fehlende Kontrolle und Einwilligung

In vielen Fällen haben Individuen nur begrenzte Möglichkeiten, der Verarbeitung ihrer Daten durch KI-Systeme zu widersprechen oder ihre Präferenzen effektiv zu steuern. Bisher stehen noch nicht genügend Richtlinien zur Verfügung, um den ethischen Umgang mit KI-Systemen im Gesetz zu verankern. Wie kann ich gegen etwas widersprechen, was ich nicht weiss?

Beispiel: Eine App für mobile Geräte verwendet KI, um personalisierte Werbung zu schalten. Die App sammelt und analysiert persönliche Daten ohne ausreichende Aufklärung und explizite Zustimmung der Nutzer und Nutzerinnen. Im November 2022 wurde Google in den USA verklagt, da Standortdaten der Nutzer gesammelt wurden, obwohl diese Einstellung in den Smartphones der Betroffenen deaktiviert war.

6. Datenschutzverletzungen

Eine Datenschutzverletzung ist ein Sicherheitsvorfall, bei dem die Vertraulichkeit von Daten verletzt wird. Wie alle IT-Systeme, sind KI-Systeme anfällig für Sicherheitslücken. Datenlecks oder Datendiebstähle können gravierende Auswirkungen haben. Laut dem IBM-Bericht «Kosten einer Datenschutzverletzung 2022» kostete eine Datenschutzverletzung im Gesundheitswesen durchschnittlich 10,10 Millionen US-Dollar. Damit erreichen die Kosten einer Datenschutzverletzung erstmals zweistellige Zahlen in Millionenhöhe.

Beispiel: Ein Krankenhaus nutzt künstliche Intelligenz, um die Daten von Patienten und Patientinnen zu analysieren. Ein Hackerangriff führt zum Diebstahl sensibler Gesundheitsdaten, die im System gespeichert sind. Fehlende Daten können zu Behandlungsfehlern führen, die Privatsphäre tausender Patienten und Patientinnen wird verletzt und es droht die Gefahr von Identitätsdiebstahl.

Umgang mit KI fordert Verantwortung

Der verantwortungsvolle Umgang mit künstlicher Intelligenz ist herausfordernd. Regelmässige Qualitätskontrollen, hohe Sicherheitsstandards und menschliche Überwachung sind wichtig. Letztendlich müssen Unternehmen wie Privatpersonen sich mit ihren Rechten auseinandersetzen sowie ein Bewusstsein für die Risiken von künstlicher Intelligenz entwickeln, um aktiv dagegen vorgehen zu können.