Stolperfallen, aber auch erhebliche Chancen für Firmen

Der Beitrag erschien erstmals in unserem Magazin Tribune 03/26.

Sprachmodelle (Large Language Models, LLM) wie OpenAIs GPT, Claude von Anthropic oder Google Gemini bilden die Grundlage vieler KI-Anwendungen. Auch selbst entwickelte KI-Tools oder spezialisierte Branchenlösungen nutzen diese Sprachmodelle über Schnittstellen (APIs) oder basieren auf anderen, frei verfügbaren Open-Source-LLM. Je nach verwendetem Modell ist dabei ein lokales Hosting auf eigenen Servern möglich.

Der Vorteil davon ist eine maximale Kontrolle und Vertraulichkeit der Daten, da diese die eigene Infrastruktur nie verlassen. Allerdings sind mit dieser Option erhebliche Initialkosten und -aufwendungen verbunden. Forschende der EPFL, ETH Zürich und des CSCS haben mit Apertus ein vollständig offenes Large Language Model (LLM) entwickelt – eines der grössten seiner Art. Gerade bei den eingangs erwähnten proprietären, aber dafür sehr leistungsstarken Modellen ist sie zudem oftmals gar nicht verfügbar. Viele Unternehmen entscheiden sich deshalb für eine cloudbasierte Lösung auf einer fremden Infrastruktur.

Datenschutzgesetzgebung muss eingehalten werden

Bei der Nutzung eines Clouddienstes werden alle in das KI-Tool eingegebenen Informationen (Inputs, insbesondere Prompts mit allen angehängten Unterlagen) auf der CloudInfrastruktur des Anbieters bearbeitet und grundsätzlich auch gespeichert. Dies wirft bezüglich der Vertraulichkeit dieser Daten prinzipiell dieselben Fragen auf wie seit jeher beim Beizug eines Cloud-Providers. 

Lokales Hosting für  maximale Kontrolle und Vertraulichkeit der Daten.

Zwar gibt es Anwendungsfälle, bei denen hohe Vertraulichkeitsanforderungen fehlen. Im Geschäftsalltag wäre eine Nutzung ohne die Eingabe von Personendaten, Geschäftsgeheimnissen und sonstigen sensiblen Daten jedoch erheblich eingeschränkt.

Sobald geplant ist, Personendaten wie Kunden- oder Personaldaten in das KI-System einzugeben, müssen die Bestimmungen der anwendbaren Datenschutzgesetzgebung eingehalten werden. Anbieter von KI-Systemen gelten dabei als Auftragsdatenbearbeiter. Deshalb ist der Abschluss eines rechtsgenüglichen Auftragsdatenbearbeitungsvertrags (ABV) erforderlich. Ein solcher Vertrag, oftmals auch als «Auftragsverarbeitungsvertrag» (AVV) oder «Data Processing Agreement» (DPA) bezeichnet, ist bei vielen Anbieternrelativ einfach erhältlich.

Da sich diese Verträge aber inhaltlich teils erheblich unterscheiden und nicht zwingend den rechtlichen Anforderungen genügen, ist deren Prüfung unerlässlich.

Klare Weisungenverhindern eine «Schatten-KI.»

Mittlerweile gibt es eine Reihe von Schweizer KI-Anbietern, welche bereit sind, weitgehende vertragliche Zugeständnisse zu machen. Sollen Personendaten dennoch auf Servern im Ausland bearbeitet werden, ist zu evaluieren, ob es sich um Länder mit angemessenem Datenschutz handelt oder ob zusätzliche Massnahmen zur Gewährleistung eines angemessenen Datenschutzniveaus erforderlich sind. 

Auch Geschäftsgeheimnisse verdienen Schutz

Bei Geschäftsgeheimnissen oder sonstigen sensiblen Unternehmensdaten wie Vertragsdokumenten oder Unternehmensstrategien handelt es sich jedoch oftmals nicht um Personendaten. Ist geplant, ein KI-System auch für solche Daten zu nutzen, sollte deshalb sichergestellt werden, dass sich die vertraglichen Zusicherungen des Anbieters nicht auf Personendaten beschränken, sondern auch diese Daten einschliessen.

Trainingsverbot für KI-Modelle sollte zwingend geprüft werden

Die Nutzung von KI-Systemen wirft jedoch auch Fragen auf, welche sich bei herkömmlicher Cloud-Nutzung in dieser Form bisher so nicht stellten. KI-Anbieter nutzen etwa den Input in ihre Systeme, um ihre Modelle zu trainieren. Dies führt jedoch dazu, dass das KI-Modell aus den erhaltenen Inputs lernt und dieses Wissen im schlimmsten Fall Dritten preisgibt. Um dies zu verhindern, sollte ein entsprechendes Training zwingend deaktiviert werden, was viele KI-Anbieter auch ermöglichen.

Zudem führen KI-Anbieter oftmals ein sogenanntes «Abuse Monitoring», eine Missbrauchsüberwachung, durch. Dieser Sicherheitsmechanismus dient dazu, die unzulässige Nutzung ihrer KI-Modelle zu erkennen und zu unterbinden. Im geschäftlichen Umfeld ist dieses «Abuse Monitoring» jedoch kritisch, da KI-Anbieter die eingegebenen Daten auf diesem Weg speichern und von Menschen überprüfen lassen können. Es ist vielmehr anzustreben, dass sowohl der Input als auch die Antwort bzw. der Output des KI-Systems nicht gespeichert und nicht protokolliert werden (Zero Data Retention).

An zentral implementierten Instruktionen führt kein Weg vorbei

KI wird von den Mitarbeitenden eines Unternehmens im Geschäftsalltag genutzt. Fehlen zentral implementierte KI-Systeme und/oder klare Weisungen zum Umgang mit KI, führt dies erfahrungsgemäss zu Wildwuchs und der Nutzung von sogenannter «Schatten-KI».

Privat nutzbare und frei verfügbare KI-Tools erfüllen dabei die vorgenannten Anforderungen an den Daten- und Geheimnisschutz oftmals nicht. Hinzu kommen fehlende Transparenz und unklare Datenflüsse. Aufgrund dessen ist es wichtig, die Mitarbeitenden eines Unternehmens klar anzuweisen, welche KI-Systeme im Geschäftsalltag unter welchen Voraussetzungen genutzt werden dürfen und welche nicht.

Entsprechende Weisungen sind zum Beispiel in Form einer KI-Richtlinie zu erlassen. Darin können schliesslich weitere wichtige Aspekte im Kontext der Nutzung von künstlicher Intelligenz, wie Verantwortlichkeiten, Kontroll und Überprüfungspflichten, urheberrechtliche Fragestellungen oder Massnahmen im Zusammenhang mit dem AI-Act der Europäischen Union, behandelt werden


Hier geht es zur Tribune «Mit KI auf der Höhe der Zeit»