Art. 7 Modifications de l’annexe III | AI act regulation | AI act

This article is the mechanism by which Annex III — the list of high-risk AI system use-cases — can be kept up to date over time.

It grants the Commission the power to adopt delegated acts to both add new use-cases to, and remove existing ones from, that list.

It directly builds upon Article 6, which establishes the classification of AI systems as high-risk, by providing the process through which that classification framework can evolve.

The bulk of the article sets out the criteria the Commission must weigh when assessing whether a new use-case carries a level of risk equivalent to those already listed, covering factors such as the system's autonomy, the vulnerability of affected persons, the reversibility of harm, and whether existing Union law already provides adequate protection.

Important points:

The Commission is empowered to add or remove use-cases from the high-risk AI systems list in Annex III via delegated acts.
To add a use-case, two conditions must both be met: the AI system must fall within an area already listed in Annex III, and it must pose a risk equivalent to or greater than systems already on the list.
To remove a use-case, the Commission must be satisfied that the system no longer poses significant risks and that its removal does not reduce the overall level of protection of health, safety, and fundamental rights under Union law.

1. La Commission est habilitée à adopter des actes délégués conformément à l’article 97 pour modifier l’annexe III en y ajoutant des cas d’utilisation de systèmes d’IA à haut risque, ou en les modifiant, lorsque les deux conditions suivantes sont remplies:
  1. les systèmes d’IA sont destinés à être utilisés dans l’un des domaines énumérés à l’annexe III;
  2. les systèmes d’IA présentent un risque de préjudice pour la santé et la sécurité, ou un risque d’incidence négative sur les droits fondamentaux, et ce risque est équivalent ou supérieur au risque de préjudice ou d’incidence négative que présentent les systèmes d’IA à haut risque déjà visés à l’annexe III.
1. Lorsqu’elle évalue les conditions visées au paragraphe 1, point b), la Commission tient compte des critères suivants:
  1. la destination du système d’IA;
  2. la mesure dans laquelle un système d’IA a été utilisé ou est susceptible de l’être;
  3. la nature et la quantité des données traitées et utilisées par le système d’IA, en particulier le traitement ou l’absence de traitement des catégories particulières de données à caractère personnel;
  4. la mesure dans laquelle le système d’IA agit de manière autonome et la mesure dans laquelle l’homme peut intervenir pour annuler une décision ou des recommandations susceptibles de causer un préjudice potentiel;
  5. la mesure dans laquelle l’utilisation d’un système d’IA a déjà causé un préjudice à la santé et à la sécurité, a eu une incidence négative sur les droits fondamentaux ou a suscité de graves préoccupations quant à la probabilité de ce préjudice ou de cette incidence négative, tel que cela ressort, par exemple, des rapports ou allégations documentées soumis aux autorités nationales compétentes ou d’autres rapports, le cas échéant;
  6. l’ampleur potentielle d’un tel préjudice ou d’une telle incidence négative, notamment en ce qui concerne son intensité et sa capacité d’affecter plusieurs personnes ou d’affecter un groupe particulier de personnes de manière disproportionnée;
  7. la mesure dans laquelle les personnes ayant potentiellement subi un préjudice ou une incidence négative dépendent des résultats obtenus au moyen d’un système d’IA, notamment parce qu’il n’est pas raisonnablement possible, pour des raisons pratiques ou juridiques, de s’affranchir de ces résultats;
  8. la mesure dans laquelle il existe un déséquilibre de pouvoir, ou les personnes ayant potentiellement subi un préjudice ou une incidence négative se trouvent dans une situation vulnérable par rapport au déployeur d’un système d’IA, notamment en raison du statut, de l’autorité, de connaissances, de circonstances économiques ou sociales ou de l’âge;
  9. la mesure dans laquelle les résultats obtenus en utilisant un système d’IA sont facilement corrigibles ou réversibles, compte tenu des solutions techniques disponibles pour les corriger ou les inverser, les résultats qui ont une incidence négative sur la santé, la sécurité ou les droits fondamentaux ne devant pas être considérés comme facilement corrigibles ou réversibles;
  10. la probabilité que le déploiement du système d’IA présente des avantages pour certaines personnes, certains groupes de personnes ou la société dans son ensemble et la portée de ces avantages, y compris les améliorations éventuelles quant à la sécurité des produits;
  11. la mesure dans laquelle le droit existant de l’Union prévoit:
    des mesures de réparation efficaces en ce qui concerne les risques posés par un système d’IA, à l’exclusion des réclamations en dommages-intérêts;
    des mesures efficaces destinées à prévenir ou à réduire substantiellement ces risques.
1. La Commission est habilitée à adopter des actes délégués conformément à l’article 97 pour modifier la liste figurant à l’annexe III en supprimant des systèmes d’IA à haut risque lorsque les deux conditions suivantes sont remplies:
  1. le système d’IA à haut risque concerné ne présente plus de risques substantiels pour les droits fondamentaux, la santé ou la sécurité, compte tenu des critères énumérés au paragraphe 2;
  2. la suppression ne diminue pas le niveau global de protection de la santé, de la sécurité et des droits fondamentaux en vertu du droit de l’Union.