Source: OJ L, 2024/1689, 12.7.2024

Article 75 Assistance mutuelle, surveillance du marché et contrôle des systèmes d’IA à usage général

Summary What does Article 75 of the AI Act say?

This article addresses a specific supervisory challenge that arises at the intersection of general-purpose AI models and the high-risk AI systems built on top of them.

It establishes a division and coordination of oversight responsibilities between the AI Office and national market surveillance authorities, particularly for cases where a single provider develops both the underlying general-purpose AI model and the AI system built upon it.

In that scenario, the AI Office takes on direct supervisory competence.

The article also sets up a mechanism for national authorities to escalate to the AI Office when they hit a wall in their own investigations due to inability to access information about an underlying general-purpose AI model.

Important points:

The AI Office holds direct powers to monitor and supervise compliance where a provider has developed both the general-purpose AI model and the AI system built on it.
Market surveillance authorities are required to cooperate with the AI Office and inform the Board when they have sufficient reason to consider a general-purpose AI system used for high-risk purposes to be non-compliant.
The AI Office is required to supply relevant information to a requesting market surveillance authority within 30 days where that authority cannot complete its investigation due to inability to access information about an underlying general-purpose AI model.

Springlex's summary of the article, a reading aid, not a substitute for the legal text.

1. Lorsqu’un système d’IA repose sur un modèle d’IA à usage général, et que le modèle et le système sont mis au point par le même fournisseur, le Bureau de l’IA est habilité à contrôler et surveiller la conformité de ce système d’IA avec les obligations prévues par le présent règlement. Pour s’acquitter de ses tâches de contrôle et de surveillance, le Bureau de l’IA dispose de tous les pouvoirs d’une autorité de surveillance du marché prévus dans la présente section et dans le règlement (UE) 2019/1020.
1. Lorsqu’elles ont des raisons suffisantes de considérer que des systèmes d’IA à usage général qui peuvent être utilisés directement par les déployeurs pour au moins un usage classé comme étant à haut risque en vertu du présent règlement ne sont pas conformes aux exigences énoncées dans le présent règlement, les autorités de surveillance du marché concernées coopèrent avec le Bureau de l’IA pour procéder à des évaluations de la conformité, et en informent le Comité IA et les autres autorités de surveillance du marché.
1. Lorsqu’une autorité de surveillance du marché n’est pas en mesure de conclure son enquête sur le système d’IA à haut risque en raison de son incapacité à accéder à certaines informations relatives au modèle d’IA à usage général bien qu’elle ait déployé tous les efforts appropriés pour obtenir ces informations, elle peut présenter une demande motivée au Bureau de l’IA, par laquelle l’accès à ces informations est mis en œuvre. Dans ce cas, le Bureau de l’IA fournit sans tarder à l’autorité requérante, et en tout état de cause dans un délai de 30 jours, toute information qu’il juge pertinente pour déterminer si un système d’IA à haut risque est non conforme. Les autorités de surveillance du marché garantissent la confidentialité des informations qu’elles obtiennent conformément à l’article 78 du présent règlement. La procédure prévue au chapitre VI du règlement (UE) 2019/1020 s’applique mutatis mutandis.

Relevant recitals

Considérant 156 Powers of market surveillance authorities

Afin de garantir un contrôle approprié et efficace du respect des exigences et obligations énoncées par le présent règlement, qui fait partie de la législation d’harmonisation de l’Union, le système de surveillance du marché et de mise en conformité des produits établi par le règlement (UE) 2019/1020 devrait s’appliquer dans son intégralité. Les autorités de surveillance du marché désignées en vertu du présent règlement devraient disposer de tous les pouvoirs d’exécution prévus par le présent règlement et par le règlement (UE) 2019/1020, et elles devraient exercer leurs pouvoirs et s’acquitter de leurs tâches de manière indépendante, impartiale et sans parti pris. Bien que la majorité des systèmes d’IA ne fassent pas l’objet d’exigences et obligations particulières au titre du présent règlement, les autorités de surveillance du marché peuvent prendre des mesures à l’égard de tous les systèmes d’IA lorsqu’ils présentent un risque conformément au présent règlement. En raison de la nature spécifique des institutions, agences et organes de l’Union relevant du champ d’application du présent règlement, il convient de désigner le Contrôleur européen de la protection des données comme autorité compétente pour la surveillance du marché en ce qui les concerne. Cela devrait être sans préjudice de la désignation des autorités nationales compétentes par les États membres. Les activités de surveillance du marché ne devraient pas affecter la capacité des entités surveillées à s’acquitter de leurs tâches de manière indépendante, lorsque cette indépendance constitue une exigence du droit de l’Union.

Considérant 161 Responsibility for supervision of general-purpose AI models

Il est nécessaire de clarifier les responsabilités et les compétences au niveau de l’Union et au niveau national en ce qui concerne les systèmes d’IA qui reposent sur des modèles d’IA à usage général. Afin d’éviter les chevauchements de compétences, lorsqu’un système est fondé sur un modèle d’IA à usage général et que le modèle et le système sont fournis par le même fournisseur, la surveillance devrait avoir lieu au niveau de l’Union par l’intermédiaire du Bureau de l’IA, qui devrait disposer à cette fin des pouvoirs d’une autorité de surveillance du marché au sens du règlement (UE) 2019/1020. Dans tous les autres cas, les autorités nationales de surveillance du marché demeurent chargées de la surveillance des systèmes d’IA. Toutefois, pour les systèmes d’IA à usage général qui peuvent être utilisés directement par les déployeurs pour au moins un usage classé comme étant à haut risque, les autorités de surveillance du marché devraient coopérer avec le Bureau de l’IA pour mener les évaluations de la conformité, et informer le Comité IA et les autres autorités de surveillance du marché en conséquence. En outre, toute autorité de surveillance du marché devrait être en mesure de solliciter l’assistance du Bureau de l’IA lorsqu’elle n’est pas en mesure de conclure une enquête sur un système d’IA à haut risque parce qu’elle ne peut accéder à certaines informations liées au modèle d’IA à usage général sur lequel repose ce système. Dans de tels cas, la procédure relative à l’assistance mutuelle pour les cas transfrontières prévue au chapitre VI du règlement (UE) 2019/1020 devrait s’appliquer mutatis mutandis.

Table of contents

Springlex and this text is meant purely as a documentation tool and has no legal effect. No liability is assumed for its content. The authentic version of this act is the one published in the Official Journal of the European Union.