Source: OJ L, 2024/1689, 12.7.2024

Article 90 Alertes de risques systémiques données par le groupe scientifique

Summary What does Article 90 of the AI Act say?

This article establishes the mechanism by which the scientific panel can formally flag concerns about general-purpose AI models to the AI Office.

It sits within the broader enforcement section dealing with general-purpose AI models and connects directly to Article 51, which sets out the conditions for classifying a model as presenting systemic risk.

In essence, the scientific panel acts as an early warning mechanism, and a qualified alert from it can trigger the Commission's investigative and enforcement powers laid out in the surrounding articles (Articles 91 to 94).

Important points:

The scientific panel is empowered to issue a qualified alert to the AI Office where it suspects a general-purpose AI model poses a concrete identifiable risk at Union level or meets the systemic risk classification conditions of Article 51.
Upon receiving a qualified alert, the Commission may exercise its enforcement powers under this Section to assess the matter, and the AI Office must keep the Board informed of any resulting measures.
A qualified alert must be duly reasoned and include at minimum the provider's contact details, a description of the relevant facts and reasons for the alert, and any other information the scientific panel considers relevant.

Springlex's summary of the article, a reading aid, not a substitute for the legal text.

1. Le groupe scientifique peut adresser une alerte qualifiée au Bureau de l’IA lorsqu’il a des raisons de soupçonner:
  1. qu’un modèle d’IA à usage général présente un risque concret identifiable au niveau de l’Union; ou
  2. qu’un modèle d’IA à usage général satisfait aux conditions visées à l’article 51.
1. À la suite d’une telle alerte qualifiée, la Commission, par l’intermédiaire du Bureau de l’IA et après en avoir informé le Comité IA, peut exercer les pouvoirs prévus à la présente section aux fins de l’évaluation de la question. Le Bureau de l’IA informe le Comité IA de toute mesure prise conformément aux articles 91 à 94.
1. L’alerte qualifiée est dûment motivée et indique au moins:
  1. le point de contact du fournisseur du modèle d’IA à usage général concerné présentant un risque systémique;
  2. une description des faits pertinents et les motifs de l’alerte donnée par le groupe scientifique;
  3. toute autre information que le groupe scientifique juge pertinente, y compris, le cas échéant, les informations recueillies de sa propre initiative.

Relevant recitals

Considérant 163 Scientific panel to support AI Office with monitoring

En vue de compléter les systèmes de gouvernance des modèles d’IA à usage général, le groupe scientifique devrait soutenir les activités de surveillance du Bureau de l’IA et pourrait, dans certains cas, soumettre au Bureau de l’IA des alertes qualifiées qui déclenchent des mesures de suivi telles que des enquêtes. Cela devrait être le cas lorsque le groupe scientifique a des raisons de soupçonner qu’un modèle d’IA à usage général présente un risque concret et identifiable au niveau de l’Union. Cela devrait aussi être le cas lorsque le groupe scientifique a des raisons de soupçonner qu’un modèle d’IA à usage général remplit les critères qui conduiraient à une classification en tant que modèle d’IA à usage général présentant un risque systémique. Afin que le groupe scientifique dispose des informations nécessaires à l’exécution de ces tâches, il devrait exister un mécanisme permettant au groupe scientifique de demander à la Commission d’exiger du fournisseur qu’il fournisse des documents ou des informations.

Considérant 164 Powers of the AI Office

Le Bureau de l’IA devrait être en mesure de prendre les mesures nécessaires pour contrôler la mise en œuvre effective et le respect des obligations incombant aux fournisseurs de modèles d’IA à usage général énoncées dans le présent règlement. Le Bureau de l’IA devrait être en mesure d’enquêter sur d’éventuelles infractions conformément aux pouvoirs qui lui sont conférés au titre du présent règlement, y compris en exigeant des documents et des informations, en réalisant des évaluations, ainsi qu’en exigeant que des mesures soient prises par les fournisseurs de modèles d’IA à usage général. Lors de la réalisation des évaluations, afin de tirer parti d’une expertise indépendante, le Bureau de l’IA devrait pouvoir faire appel à des experts indépendants pour réaliser les évaluations en son nom. Le respect des obligations devrait pouvoir être imposé, entre autres, par des demandes de prendre des mesures appropriées, y compris des mesures d’atténuation des risques dans le cas de risques systémiques recensés, ainsi qu’en restreignant la mise à disposition du modèle sur le marché, en le retirant ou en le rappelant. À titre de garantie, lorsque cela est nécessaire en sus des droits procéduraux prévus par le présent règlement, les fournisseurs de modèles d’IA à usage général devraient jouir des droits procéduraux prévus à l’article 18 du règlement (UE) 2019/1020, qui devraient s’appliquer mutatis mutandis, sans préjudice des droits procéduraux plus spécifiques prévus par le présent règlement.

Table of contents

Springlex and this text is meant purely as a documentation tool and has no legal effect. No liability is assumed for its content. The authentic version of this act is the one published in the Official Journal of the European Union.