Source: OJ L, 2024/1689, 12.7.2024

Artikel 90 Varningar från den vetenskapliga panelen om systemrisker

Summary What does Article 90 of the AI Act say?

This article establishes the mechanism by which the scientific panel can formally flag concerns about general-purpose AI models to the AI Office.

It sits within the broader enforcement section dealing with general-purpose AI models and connects directly to Article 51, which sets out the conditions for classifying a model as presenting systemic risk.

In essence, the scientific panel acts as an early warning mechanism, and a qualified alert from it can trigger the Commission's investigative and enforcement powers laid out in the surrounding articles (Articles 91 to 94).

Important points:

The scientific panel is empowered to issue a qualified alert to the AI Office where it suspects a general-purpose AI model poses a concrete identifiable risk at Union level or meets the systemic risk classification conditions of Article 51.
Upon receiving a qualified alert, the Commission may exercise its enforcement powers under this Section to assess the matter, and the AI Office must keep the Board informed of any resulting measures.
A qualified alert must be duly reasoned and include at minimum the provider's contact details, a description of the relevant facts and reasons for the alert, and any other information the scientific panel considers relevant.

Springlex's summary of the article, a reading aid, not a substitute for the legal text.

1. Den vetenskapliga panelen får lämna en kvalificerad varning till AI-byrån om den har anledning att misstänka att
  1. en AI-modell för allmänna ändamål utgör en konkret identifierbar risk på unionsnivå, eller
  2. en AI-modell för allmänna ändamål uppfyller de villkor som anges i artikel 51.
1. Efter en sådan kvalificerad varning får kommissionen, genom AI-byrån och efter att ha informerat styrelsen, utöva de befogenheter som fastställs i detta avsnitt i syfte att bedöma ärendet. AI-byrån ska informera styrelsen om alla åtgärder enligt artiklarna 91–94.
1. En kvalificerad varning ska vara vederbörligen motiverad och innehålla åtminstone följande uppgifter:
  1. Kontaktpunkten för leverantören av den berörda AI-modellen för allmänna ändamål med systemrisk.
  2. En beskrivning av relevanta fakta och skälen till den vetenskapliga panelens varning.
  3. All övrig information som den vetenskapliga panelen anser vara relevant, inbegripet, i förekommande fall, information som samlats in på eget initiativ.

Relevant recitals

Skäl 163 Scientific panel to support AI Office with monitoring

I syfte att komplettera styrningssystemen för AI-modeller för allmänna ändamål bör den vetenskapliga panelen stödja AI-byråns övervakningsverksamhet och får, i vissa fall, tillhandahålla kvalificerade varningar till AI-byrån som utlöser uppföljningar, såsom utredningar. Detta bör vara fallet om den vetenskapliga panelen har skäl att misstänka att en AI-modell för allmänna ändamål utgör en konkret och identifierbar risk på unionsnivå. Detta bör dessutom vara fallet om den vetenskapliga panelen har skäl att misstänka att en AI-modell för allmänna ändamål uppfyller kriterierna för att klassificeras som en AI-modell för allmänna ändamål med systemrisk. I syfte att förse den vetenskapliga panelen med den information som krävs för utförandet av dessa uppgifter bör det finnas en mekanism genom vilken den vetenskapliga panelen kan uppmana kommissionen att begära dokumentation eller information från en leverantör.

Skäl 164 Powers of the AI Office

AI-byrån bör kunna vidta nödvändiga åtgärder för att övervaka det faktiska genomförandet och efterlevnaden av de skyldigheter för leverantörer av AI-modeller för allmänna ändamål som fastställs i denna förordning. AI-byrån bör kunna utreda eventuella överträdelser i enlighet med de befogenheter som föreskrivs i denna förordning, bland annat genom att begära dokumentation och information, genom att genomföra utvärderingar och genom att kräva åtgärder från leverantörer av AI-modeller för allmänna ändamål. Vid genomförandet av utvärderingar bör AI-byrån, i syfte att utnyttja oberoende sakkunskap, kunna anlita oberoende experter som kan utföra utvärderingarna för dess räkning. Efterlevnaden av skyldigheterna bör kunna verkställas, bland annat genom begäranden om att vidta lämpliga åtgärder, inbegripet riskbegränsningsåtgärder i händelse av identifierade systemrisker samt begränsning av tillhandahållandet på marknaden, tillbakadragande eller återkallande av modellen. Som en skyddsåtgärd, när detta behövs utöver de processuella rättigheter som föreskrivs i denna förordning, bör leverantörer av AI-modeller för allmänna ändamål ha de processuella rättigheter som föreskrivs i artikel 18 i förordning (EU) 2019/1020, som bör gälla i tillämpliga delar, utan att det påverkar de mer specifika processuella rättigheter som föreskrivs i den här förordningen.

Table of contents

Springlex and this text is meant purely as a documentation tool and has no legal effect. No liability is assumed for its content. The authentic version of this act is the one published in the Official Journal of the European Union.