Source: OJ L, 2024/1689, 12.7.2024

Article 61 Consentement éclairé à participer aux essais en conditions réelles en dehors des bacs à sable réglementaires de l’IA

Summary What does Article 61 of the AI act regulation say?

This article directly supports Article 60, which governs real-world testing of high-risk AI systems outside regulatory sandboxes.

Article 61 focuses entirely on the informed consent requirement that must be satisfied before any test subject participates in such testing.

It sets out what information must be provided to subjects beforehand, and establishes that consent must be documented, dated, and a copy given to the subject or their legal representative.

Important points:

Providers or prospective providers conducting real-world testing must obtain freely-given, informed consent from each subject prior to their participation, covering the nature and objectives of the test, conditions of participation, the subject's rights, how to challenge AI outputs, and the provider's contact details.
Subjects must be informed of their right to refuse or withdraw from testing at any time, without detriment and without providing justification.
Informed consent must be dated, documented, and a copy provided to the subject or their legal representative.

Springlex's summary of the article, a reading aid, not a substitute for the legal text.

1. Aux fins des essais en conditions réelles visés à l’article 60, le consentement éclairé donné librement est obtenu des participants aux essais avant que ceux-ci ne prennent part à ces essais et après qu’ils ont été dûment informés au moyen d’informations concises, claires, pertinentes et compréhensibles concernant:
  1. la nature et les objectifs des essais en conditions réelles ainsi que les désagréments éventuels pouvant être liés à sa participation;
  2. les conditions dans lesquelles les essais en conditions réelles doivent être réalisés, y compris la durée prévue de la participation;
  3. les droits et garanties concernant leur participation, en particulier leur droit de refuser de participer aux essais en conditions réelles et leur droit de s’en retirer à tout moment sans encourir de préjudice et sans devoir se justifier;
  4. les modalités selon lesquelles il peut être demandé que des prévisions, recommandations ou décisions du système d’IA soient infirmées ou ignorées;
  5. le numéro d’identification unique à l’échelle de l’Union des essais en conditions réelles conformément à l’article 60, paragraphe 4, point c), et les coordonnées du fournisseur ou de son représentant légal auprès duquel des informations complémentaires peuvent être obtenues.
1. Le consentement éclairé est daté et documenté et une copie en est remise aux participants aux essais ou à leur représentant légal.

Relevant recitals

Considérant 141 Conditions for testing high-risk AI systems

Afin d’accélérer le processus de développement et la mise sur le marché des systèmes d’IA à haut risque énumérés dans une annexe du présent règlement, il importe que les fournisseurs ou fournisseurs potentiels de ces systèmes puissent également bénéficier d’un régime particulier pour soumettre ces systèmes à des essais en conditions réelles sans participer à un bac à sable réglementaire de l’IA. Toutefois, dans de tels cas, compte tenu des conséquences possibles de ces essais sur des personnes physiques, il convient de veiller à ce que le présent règlement introduise des garanties et des conditions appropriées et suffisantes pour les fournisseurs ou fournisseurs potentiels. Ces garanties devraient comprendre, entre autres, une demande de consentement éclairé de la part des personnes physiques pour participer à des essais en conditions réelles, sauf en ce qui concerne les services répressifs lorsque la recherche d’un consentement éclairé empêcherait que le système d’IA ne soit mis à l’essai. Le consentement des participants à la participation à ces essais au titre du présent règlement est distinct et sans préjudice du consentement des personnes concernées au traitement de leurs données à caractère personnel en vertu de la législation applicable en matière de protection des données. Il importe également important de réduire les risques au minimum et de permettre aux autorités compétentes d’exercer un contrôle et, par conséquent, d’exiger des fournisseurs potentiels qu’ils disposent d’un plan d’essais en conditions réelles présenté à l’autorité de surveillance du marché compétente, d’enregistrer les essais dans des sections spécifiques de la base de données de l’UE, sous réserve de quelques exceptions limitées, de fixer des limitations de la période pendant laquelle les essais peuvent être menés et d’exiger des garanties supplémentaires pour les personnes appartenant à certains groupes vulnérables, ainsi qu’un accord écrit définissant les rôles et les responsabilités des fournisseurs potentiels et des déployeurs et établissant un contrôle effectif par le personnel compétent participant aux essais en conditions réelles. En outre, il convient d’envisager des garanties supplémentaires pour veiller à ce que les prédictions, recommandations ou décisions d’un système d’IA puissent être infirmées et ignorées de manière effective et à ce que les données à caractère personnel soient protégées et supprimées lorsque les personnes concernées ont retiré leur consentement à participer aux essais, sans qu’il soit porté atteinte aux droits dont elles disposent en tant que personnes concernées en vertu du droit de l’Union en matière de protection des données. En ce qui concerne le transfert de données, il convient en outre d’envisager que les données collectées et traitées aux fins des essais en conditions réelles ne soient transférées vers des pays tiers que lorsque des garanties appropriées et applicables en vertu du droit de l’Union sont en place, en particulier conformément aux bases pour le transfert de données à caractère personnel prévues par le droit de l’Union en matière de protection des données, et que des garanties appropriées soient mises en place pour les données à caractère non personnel conformément au droit de l’Union, notamment les règlements (UE) 2022/868(⁴²) et (UE) 2023/2854(⁴³) du Parlement européen et du Conseil.

Table of contents

Springlex and this text is meant purely as a documentation tool and has no legal effect. No liability is assumed for its content. The authentic version of this act is the one published in the Official Journal of the European Union.