Art. 4a Behandling av särskilda kategorier av personuppgifter för upptäckt och korrigering av bias | AI act regulation | AI act

This article carves out a narrow, conditional exception to the general prohibition on processing special categories of personal data, specifically to allow bias detection and correction in AI systems.

It is directly linked to Article 10, which governs data governance requirements for high-risk AI systems, and extends similar permissions — under strict conditions — to a broader set of operators beyond just high-risk AI providers.

The article is careful to frame this as an exceptional permission, not a requirement, and layers its own conditions on top of existing EU data protection law.

Important points:

Providers of high-risk AI systems may process special categories of personal data for bias detection and correction only where doing so is strictly necessary and cannot be achieved through other means such as synthetic or anonymised data.
The processing is subject to a cumulative set of safeguards, including pseudonymisation, access controls, prohibition on third-party transfers, deletion once bias is corrected, and documented justification in processing records.
Providers and deployers of other AI systems and models, and deployers of high-risk AI systems, may also access this exception under the same conditions, but this does not create any obligation on them to carry out bias detection and correction.

1. I den utsträckning det är absolut nödvändigt för att säkerställa upptäckt och korrigering av bias i samband med AI-system med hög risk i enlighet med artikel 10.2 f och g i denna förordning får leverantörer av sådana system undantagsvis behandla särskilda kategorier av personuppgifter, med förbehåll för lämpliga skyddsåtgärder för fysiska personers grundläggande rättigheter och friheter. Utöver de bestämmelser som fastställs i förordningarna (EU) 2016/679 och (EU) 2018/1725 och direktiv (EU) 2016/680, beroende på vad som är tillämpligt, ska samtliga följande villkor vara uppfyllda för att sådan behandling ska kunna äga rum:
  1. Upptäckt och korrigering av bias kan inte uppnås på ett effektivt sätt genom behandling av andra data, inbegripet syntetiska eller anonymiserade data.
  2. De särskilda kategorierna av personuppgifter omfattas av tekniska begränsningar för vidareutnyttjande av personuppgifter samt säkerhetsåtgärder och integritetsbevarande åtgärder på en nivå som motsvarar den senaste utvecklingen, inbegripet pseudonymisering.
  3. De särskilda kategorierna av personuppgifter omfattas av åtgärder för att säkerställa att de personuppgifter som behandlas är säkra och skyddade, och omfattas av lämpliga skyddsåtgärder, inbegripet strikta kontroller och dokumentation av åtkomsten, för att undvika missbruk och säkerställa att endast personer som är behöriga har tillgång till dessa personuppgifter med lämpliga konfidentialitetsskyldigheter.
  4. De särskilda kategorierna av personuppgifter översänds eller överförs inte och görs inte på annat sätt tillgängliga för andra parter.
  5. De särskilda kategorierna av personuppgifter raderas när biasen har korrigerats eller personuppgifternas lagringstid har löpt ut, beroende på vilket som inträffar först.
  6. Registren över behandling enligt förordningarna (EU) 2016/679 och (EU) 2018/1725 och direktiv (EU) 2016/680 innehåller skälen till varför behandlingen av särskilda kategorier av personuppgifter var absolut nödvändig för att upptäcka och korrigera biaser och varför detta mål inte kunde uppnås genom behandling av andra data.
1. Leverantörer och tillhandahållare av andra AI-system och AI-modeller och tillhandahållare av AI-system med hög risk får undantagsvis behandla särskilda kategorier av personuppgifter i den mån
  1. sådan behandling är absolut nödvändig för upptäckt och korrigering av bias med avseende på eventuella biaser som sannolikt kommer att påverka människors hälsa och säkerhet, inverka negativt på grundläggande rättigheter eller leda till diskriminering som är förbjuden enligt unionsrätten, särskilt när utdata påverkar indata för framtida drift, och
  2. alla de villkor och skyddsåtgärder som anges i punkt 1 tillämpas.
2. Denna punkt medför inte någon skyldighet att vidta sådana åtgärder för upptäckt och korrigering av bias.