Source: OJ L, 2024/1689, 12.7.2024Current language: FR
- Artificial intelligence act
Basic legislative acts
- AI act regulation
Article 76 Supervision des essais en conditions réelles par les autorités de surveillance du marché
Summary What does Article 76 of the AI act regulation say?
This article is the companion piece to the real-world testing framework established in Articles 60 and 61, focusing specifically on the supervisory role of market surveillance authorities over that testing activity.
It grants these authorities the competences and powers needed to ensure real-world testing is conducted in compliance with the regulation, including the ability to intervene when things go wrong.
The article also addresses the specific situation where testing takes place within an AI regulatory sandbox, outlining how oversight responsibilities interact with that parallel framework.
Important points:
- Market surveillance authorities are empowered to suspend or terminate real-world testing, or require modifications to it, where a serious incident occurs or conditions under Articles 60 and 61 are not met.
- Where testing occurs within an AI regulatory sandbox under Article 58, market surveillance authorities verify compliance with Article 60 and may allow testing to proceed under derogations from certain conditions in that article.
- Where a market surveillance authority takes an intervention decision, it must state the grounds and how the provider or prospective provider can challenge it, and must also communicate those grounds to market surveillance authorities in other Member States where the AI system has been tested.
Springlex's summary of the article, a reading aid, not a substitute for the legal text.
Les autorités de surveillance du marché ont les compétences et les pouvoirs nécessaires pour veiller à ce que les essais en conditions réelles soient conformes au présent règlement.
Lorsque des essais en conditions réelles sont effectués pour des systèmes d’IA supervisés dans un bac à sable réglementaire de l’IA en vertu de l’article 58, les autorités de surveillance du marché vérifient le respect de l’article 60 dans le cadre de leur rôle de surveillance du bac à sable réglementaire de l’IA. Ces autorités peuvent, lorsqu’il y a lieu, autoriser le fournisseur ou le fournisseur potentiel à effectuer les essais en conditions réelles, par dérogation aux conditions énoncées à l’article 60, paragraphe 4, points f) et g).
Lorsqu’une autorité de surveillance du marché a été informée d’un incident grave par le fournisseur potentiel, le fournisseur ou tout tiers, ou qu’elle a d’autres raisons de penser que les conditions énoncées aux articles 60 et 61 ne sont pas remplies, elle peut prendre l’une ou l’autre des décisions suivantes sur son territoire, selon le cas:
suspendre ou faire cesser les essais en conditions réelles;
exiger du fournisseur ou du fournisseur potentiel et du déployeur ou futur déployeur qu’ils modifient tout aspect des essais en conditions réelles.
Lorsqu’une autorité de surveillance du marché a pris une décision visée au paragraphe 3 du présent article, ou a formulé une objection au sens de l’article 60, paragraphe 4, point b), la décision ou l’objection est motivée et indique les modalités selon lesquelles le fournisseur ou le fournisseur potentiel peut contester la décision ou l’objection.
Le cas échéant, lorsqu’une autorité de surveillance du marché a pris une décision visée au paragraphe 3, elle en communique les motifs aux autorités de surveillance du marché des autres États membres dans lesquels le système d’IA a été testé conformément au plan d’essais.
Relevant recitals
Considérant 156 Powers of market surveillance authorities
Afin de garantir un contrôle approprié et efficace du respect des exigences et obligations énoncées par le présent règlement, qui fait partie de la législation d’harmonisation de l’Union, le système de surveillance du marché et de mise en conformité des produits établi par le règlement (UE) 2019/1020 devrait s’appliquer dans son intégralité. Les autorités de surveillance du marché désignées en vertu du présent règlement devraient disposer de tous les pouvoirs d’exécution prévus par le présent règlement et par le règlement (UE) 2019/1020, et elles devraient exercer leurs pouvoirs et s’acquitter de leurs tâches de manière indépendante, impartiale et sans parti pris. Bien que la majorité des systèmes d’IA ne fassent pas l’objet d’exigences et obligations particulières au titre du présent règlement, les autorités de surveillance du marché peuvent prendre des mesures à l’égard de tous les systèmes d’IA lorsqu’ils présentent un risque conformément au présent règlement. En raison de la nature spécifique des institutions, agences et organes de l’Union relevant du champ d’application du présent règlement, il convient de désigner le Contrôleur européen de la protection des données comme autorité compétente pour la surveillance du marché en ce qui les concerne. Cela devrait être sans préjudice de la désignation des autorités nationales compétentes par les États membres. Les activités de surveillance du marché ne devraient pas affecter la capacité des entités surveillées à s’acquitter de leurs tâches de manière indépendante, lorsque cette indépendance constitue une exigence du droit de l’Union.
Springlex and this text is meant purely as a documentation tool and has no legal effect. No liability is assumed for its content. The authentic version of this act is the one published in the Official Journal of the European Union.
Definition
destination
(En. intended purpose)
Definition
mise sur le marché
(En. placing on the market)
Definition
déployeur
(En. deployer)
Definition
infrastructure critique
(En. critical infrastructure)
Definition
fournisseur
(En. provider)
Definition
essais en conditions réelles
(En. testing in real-world conditions)
Definition
bac à sable réglementaire de l’IA
(En. AI regulatory sandbox)
Definition
mise en service
(En. putting into service)
Definition
risque
(En. risk)
Definition
notice d’utilisation
(En. instructions for use)
Definition
incident grave
(En. serious incident)
- le décès d’une personne ou une atteinte grave à la santé d’une personne;
- une perturbation grave et irréversible de la gestion ou du fonctionnement d’infrastructures critiques;
- la violation des obligations au titre du droit de l’Union visant à protéger les droits fondamentaux;
- un dommage grave à des biens ou à l’environnement;
Definition
plan du bac à sable
(En. sandbox plan)
Definition
autorité de surveillance du marché
(En. market surveillance authority)
Definition
participant
(En. subject)
Definition
système d’IA
(En. AI system)
Definition
modèle d’IA à usage général
(En. general-purpose AI model)