Das Information Commissioner’s Office (ICO) untersucht derzeit die Machbarkeit der Prüfung von Systemen der künstlichen Intelligenz (KI) aus Sicht des Datenschutzes und der Privatsphäre. Die Idee dahinter besteht darin, sicherzustellen, dass diese Systeme personenbezogene Daten auf faire, transparente und sichere Weise verarbeiten und dabei den Grundsätzen des britischen Datenschutzgesetzes 2018 (DPA 2018) entsprechen.
Das ICO prüft verschiedene Ansätze zur Prüfung von KI-Systemen. Eine mögliche Methode besteht darin, automatisierte Tools zu verwenden, um die Einhaltung relevanter Datenschutz- und Privatsphärenbestimmungen durch das System zu bewerten. Diese Tools können die vom KI-System durchgeführten Datenverarbeitungsvorgänge analysieren, potenzielle Risiken für personenbezogene Daten identifizieren und Abhilfemaßnahmen vorschlagen. Dieser Ansatz kann besonders nützlich sein, wenn das KI-System komplex ist und große Mengen personenbezogener Daten umfasst.
Ein anderer Ansatz besteht darin, eine manuelle Prüfung des KI-Systems durchzuführen. Dabei untersucht ein menschlicher Prüfer den Entwurf, die Implementierung und die Betriebsprozesse des Systems, um Datenschutz- und Privatsphäre-Risiken zu identifizieren. Manuelle Audits sind oft gründlicher und können Probleme aufdecken, die automatisierte Tools möglicherweise nicht erkennen können. Allerdings können sie auch zeitaufwändiger und kostspieliger sein.
Das ICO erwägt auch eine Kombination aus automatisierten und manuellen Prüfungsmethoden, sodass Unternehmen von den Stärken beider Ansätze profitieren können. Dies kann durch den Einsatz automatisierter Tools zur Identifizierung potenzieller Datenschutz- und Privatsphäre-Risiken und anschließender manueller Audits zur Validierung und weiteren Untersuchung dieser Risiken erreicht werden.
Die Arbeit des ICO zur Prüfung von KI-Systemen befindet sich noch in einem frühen Stadium und der endgültige Ansatz wird wahrscheinlich von Faktoren wie der Komplexität des KI-Systems, der Menge der verarbeiteten personenbezogenen Daten und den Ressourcen der Organisation abhängen. Durch die Entwicklung von Leitlinien und Best Practices für die Prüfung von KI-Systemen möchte das ICO Organisationen bei der Einhaltung von Datenschutz- und Datenschutzgesetzen unterstützen und gleichzeitig Innovationen und den verantwortungsvollen Einsatz von KI-Technologie fördern.
