Wir leben in einer Welt, die zunehmend von Daten bestimmt wird. Unternehmen jeglicher Größe sammeln Kunden- und Branchendaten aus einer Vielzahl von Quellen, analysieren sie auf Trends und Muster und nutzen sie dann, um neue Marktchancen zu erkennen, Vertriebsstrategien zu optimieren und das Kundenerlebnis zu verbessern. Dieser Prozess wird als Datenermittlung bezeichnet.

Tools für künstliche Intelligenz (KI) haben die Möglichkeiten der Datenermittlung verändert, und jedes Unternehmen sucht nach Wegen, KI zu nutzen, um schnell profitable Geschäftsmöglichkeiten zu schaffen. Allerdings birgt KI auch potenzielle Risiken für Unternehmen. 

Datenschützer und Sicherheitsexperten sind besonders besorgt über den verantwortungsvollen Einsatz von KI bei der Datenermittlung, vor allem im Hinblick den Schutz von personenbezogenen Daten und Finanzdaten von Kunden, die Einhaltung von Datenschutz- und Sicherheitsvorschriften und die Erstellung objektiver Datensätze.

Sehen Sie sich unser Webinar an, um mehr über Datenermittlung zu erfahren: Data Discovery Dispelled: Teil 1 – Data’s dark corners. 

Was der Einsatz von KI bei der Datenermittlung für Datenschutzexperten bedeutet

Der Einsatz von KI-Tools in Ihrem Unternehmen kann Datenschützern die Arbeit zwar erleichtern - aber auch für schlaflose Nächte sorgen. 

KI-Tools können manuelle datenschutzrelevante Aufgaben wie Datenklassifizierung, Überwachung und Compliance-Bewertungen automatisieren, wodurch sich Datenschützer auf strategischere Aspekte ihrer Arbeit konzentrieren können. Zudem können mithilfe von KI riesige Datenmengen schnell und genau analysiert werden, um Datenschutzverstöße aufzudecken oder potenzielle Datenschutzrisiken durch Analyse historischer Daten und Muster zu prognostizieren.

KI-Tools können jedoch auch Bedenken bei Datenschützern hervorrufen. Betrachten wir folgende Beispiele:

Datenerhebung und -nutzung

KI-Systeme werden in der Regel auf großen Datensätzen mit „anonymisierten“ personenbezogenen Daten trainiert. Datenschützer befürchten dabei, dass ihr Unternehmen Daten ohne das Wissen oder die Einwilligung des Einzelnen erhebt, Daten verwendet, für die der Einzelne keine Einwilligung gegeben hat, oder viel mehr Daten erhebt, als das Unternehmen benötigt. 

Transparenz und Rechenschaftspflicht

Da KI-Systeme äußerst komplex sind, ist es schwierig zu verstehen, wie sie funktionieren und wie sie Entscheidungen treffen. Daher lässt sich nur schwer sicherstellen, dass KI-Tools in einer datenschutzkonformen Weise eingesetzt werden. 

Da Regierungen und andere Aufsichtsbehörden immer mehr Datenschutzvorschriften erlassen, wird die Einhaltung der geltenden Datenschutzgesetze und -regularien zunehmend wichtiger. Aus diesem Grund betonen Datenschützer, wie wichtig Transparenz für den verantwortungsvollen Einsatz von KI bei der Datenermittlung ist.

Voreingenommenheit und mögliche Diskriminierung

Wenn Daten, die zum Trainieren von KI-Algorithmen verwendet werden, bestimmten Personengruppen gegenüber voreingenommen sind, kann der KI-Algorithmus diese Voreingenommenheit sehr wohl widerspiegeln, wodurch bestehende Vorurteile gegenüber Frauen, Minderheiten, der LGBTQ-Community oder anderen marginalisierten Gruppen weiter verstärkt werden können. Datenschützer befürchten, dass Unternehmen keine angemessenen Maßnahmen ergreifen, um die Voreingenommenheit ihrer KI-Tools zu verringern.

Was der Einsatz von KI für Sicherheitsexperten bedeutet

Der Einsatz von KI-Tools im Unternehmen bringt Vorteile und Bedenken für Sicherheitsexperten mit sich.

Die wichtigste Aufgabe von Sicherheitsexperten ist es, die Netzwerke ihres Unternehmens vor Cyberangriffen zu schützen, sowohl innerhalb als auch außerhalb des Unternehmens. KI-Tools können den Netzwerkverkehr analysieren und Muster erkennen, die auf potenzielle Cyberangriffe, einschließlich Insider-Bedrohungen, hindeuten. KI-gestützte Antiviren-Tools können auch bösartige Software effektiver identifizieren und unter Quarantäne stellen.

KI-Tools können jedoch auch Bedenken bei Sicherheitsexperten hervorrufen, darunter:

Datensicherheit

KI-Systeme speichern und verarbeiten große Datenmengen, was sie auch für Cyberkriminelle attraktiv macht. Sicherheitsexperten müssen diese Daten vor unbefugtem Zugriff, Verstößen und Diebstahl schützen. Aufgrund der Komplexität von KI-Systemen ist es für Sicherheitsexperten oft schwierig, Schwachstellen zu erkennen und zu beheben. Sicherheitsexperten können Unternehmensdaten auch schützen, indem sie den Zugang ihrer Mitarbeiter zu sensiblen Daten einschränken, die potenziell zum Trainieren von KI-Systemen verwendet werden könnten.

Feindliche Angriffe

KI-Systeme können anfällig für feindliche Angriffe sein, bei denen böswillige Akteure Eingabedaten manipulieren, um das System zu täuschen. Sicherheitsexperten müssen Schutzmaßnahmen gegen solche Angriffe ergreifen, die bei kritischen Anwendungen wie Cybersicherheit oder autonome Fahrzeuge besonders gefährlich sein können.

Herausforderungen der Integration

Durch die Integration von KI-Tools in bestehende Systeme und Prozesse kann es bei unsachgemäßer Durchführung auch zu Sicherheitslücken kommen. In einem Prozess, der als Feinabstimmung bezeichnet wird, könnte ein Unternehmen beispielsweise ein ChatGPT-ähnliches Modell von einem KI-Anbieter erhalten und es dann anhand sensibler Unternehmensdaten weiter trainieren. Bei interner Verwendung stellt das Modell kein Sicherheitsrisiko dar, aber das Modell könnte versehentlich sensible Daten „verschütten“, wenn es in einer externen Anwendung verwendet wird.

Wie man KI verantwortungsvoll bei der Datenermittlung einsetzt

Datenschutz- und Sicherheitsteams entwickeln zunehmend Instrumente und Strategien, um die im vorigen Abschnitt beschriebenen Probleme zu lösen. Im Folgenden finden Sie einige praktische Schritte, die Ihr Unternehmen ergreifen kann, um den verantwortungsvollen Einsatz von KI zu gewährleisten:

• Gehen Sie bei der Steuerung Ihres Datenermittlungssystems strategisch vor.
  Entwickeln Sie einen klaren Data-Governance-Rahmen, um sicherzustellen, dass KI verantwortungsvoll und ethisch korrekt eingesetzt wird. Dieser Rahmen sollte Strategien und Verfahren für die Erhebung, Speicherung, Verwendung und gemeinsame Nutzung von Daten umfassen.
  
  
• Verwenden Sie möglichst unvoreingenommene, hochwertige Daten.
  KI-Systeme sind nur so gut wie die Daten, mit denen sie trainiert werden. Versuchen Sie, Verzerrungen in Ihren Trainingsdaten zu erkennen und zu beseitigen, die zu ungerechten oder diskriminierenden Ergebnissen führen könnten. Eine weitere Möglichkeit, Voreingenommenheit vorzubeugen, besteht darin, vielfältige Teams dazu zu bewegen, KI-Algorithmen zu entwerfen, zu entwickeln und zu testen.
  
  
• Sorgen Sie für Transparenz beim Einsatz von KI.
  Seien Sie transparent über den Einsatz von KI in Ihrem Unternehmen, einschließlich des Zwecks, der Arten von Daten, die erhoben und verwendet werden, sowie der potenziellen Risiken und Vorteile der Nutzung von KI. Transparenz trägt dazu bei, Vertrauen bei Ihren Nutzern und Stakeholdern aufzubauen. Die OneTrust Lösung AI Governance kann Ihnen dabei helfen, die nötige Transparenz bei Bedarf in Ihrem Unternehmen aufzubauen.
  
  
• Schützen Sie die Privatsphäre der Nutzer und sorgen Sie für Sicherheit.
  Ergreifen Sie Maßnahmen zum Schutz der Privatsphäre und zur Sicherheit der Nutzerdaten beim Einsatz von KI-Systemen, indem Sie die Erfassung und Verwendung personenbezogener Daten einschränken. Gewährleisten Sie die Einhaltung von Datenschutzbestimmungen wie der EU-DSGVO. Vermeiden Sie es außerdem, KI-Algorithmen mit Daten zu trainieren, die mit „nicht trainieren“ gekennzeichnet sind. Dadurch wird die Verwendung von Daten verhindert, für die eine Einwilligung erforderlich ist oder die in Szenarien des maschinellen Lernens verboten ist. 
  
  
• Nutzen Sie KI, um menschliche Fähigkeiten zu ergänzen, nicht zu ersetzen.
  KI-Systeme sind ein hervorragendes Tool, aber sie können auch Fehler machen. Sie sollten nicht dazu verwendet werden, Entscheidungen ohne menschliche Aufsicht zu treffen. Helfen Sie Ihrem Unternehmen, klare Prozesse für die Überprüfung und Genehmigung von KI-generierten Entscheidungen zu entwickeln. 
  
  
• Übernehmen Sie die Verantwortung für die Ergebnisse Ihrer KI-Datenermittlungssysteme.
  Ihr Unternehmen sollte in der Lage sein zu erklären, wie seine KI-Algorithmen Entscheidungen treffen, insbesondere im Umgang mit sensiblen Daten, und die Verantwortung für die Ergebnisse dieser Entscheidungen übernehmen.
  
  
• Überwachen Sie Ihre KI-Systeme regelmäßig.
  Überwachen Sie Ihre KI-Systeme, um sicherzustellen, dass sie die erwartete Leistung erbringen. Bleiben Sie wachsam gegenüber Vorurteilen, Diskriminierung und anderen Problemen. Ein Tool wie die OneTrust AI Governance kann Ihnen dabei helfen, diesen Prozess zu optimieren und zu automatisieren, sodass Sie Ihren Überwachungsverpflichtungen ohne manuelle Eingriffe nachkommen können. 

Um mehr darüber zu erfahren, wie Ihr Unternehmen KI-Tools verantwortungsvoll in Ihre Datenermittlungsprozesse integrieren kann, informieren Sie sich noch heute über unser OneTrust Data Discovery & Security-Tool.