Source: OJ L, 2024/1689, 12.7.2024Current language: DE
- Artificial intelligence act
Basic legislative acts
- AI act regulation
Artikel 76 Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden
Summary What does Article 76 of the AI act regulation say?
This article is the companion piece to the real-world testing framework established in Articles 60 and 61, focusing specifically on the supervisory role of market surveillance authorities over that testing activity.
It grants these authorities the competences and powers needed to ensure real-world testing is conducted in compliance with the regulation, including the ability to intervene when things go wrong.
The article also addresses the specific situation where testing takes place within an AI regulatory sandbox, outlining how oversight responsibilities interact with that parallel framework.
Important points:
- Market surveillance authorities are empowered to suspend or terminate real-world testing, or require modifications to it, where a serious incident occurs or conditions under Articles 60 and 61 are not met.
- Where testing occurs within an AI regulatory sandbox under Article 58, market surveillance authorities verify compliance with Article 60 and may allow testing to proceed under derogations from certain conditions in that article.
- Where a market surveillance authority takes an intervention decision, it must state the grounds and how the provider or prospective provider can challenge it, and must also communicate those grounds to market surveillance authorities in other Member States where the AI system has been tested.
Springlex's summary of the article, a reading aid, not a substitute for the legal text.
Marktüberwachungsbehörden müssen über die Kompetenzen und Befugnisse verfügen, um sicherzustellen, dass Tests unter Realbedingungen gemäß dieser Verordnung erfolgen.
Wenn ein Test unter Realbedingungen für KI-Systeme durchgeführt wird, die in einem KI-Reallabor gemäß Artikel 58 beaufsichtigt werden, überprüfen die Marktüberwachungsbehörden im Rahmen ihrer Aufsichtsaufgaben für das KI-Reallabor die Einhaltung des Artikels 60. Die Behörden können gegebenenfalls gestatten, dass der Anbieter oder zukünftige Anbieter den Test unter Realbedingungen in Abweichung von den in Artikel 60 Absatz 4 Buchstaben f und g festgelegten Bedingungen durchführt.
Wenn eine Marktüberwachungsbehörde vom zukünftigen Anbieter, vom Anbieter oder von einem Dritten über einen schwerwiegenden Vorfall informiert wurde oder Grund zu der Annahme hat, dass die in den Artikeln 60 und 61 festgelegten Bedingungen nicht erfüllt sind, kann sie — je nachdem, was angemessen ist — in ihrem Hoheitsgebiet gegebenenfalls entscheiden, entweder
den Test unter Realbedingungen auszusetzen oder abzubrechen oder
den Anbieter oder zukünftigen Anbieter und die Betreiber oder zukünftigen Betreiber zur Änderung eines beliebigen Aspekts des Tests unter Realbedingungen zu verpflichten.
Wenn eine Marktüberwachungsbehörde eine Entscheidung nach Absatz 3 des vorliegenden Artikels getroffen oder Einwände im Sinne des Artikels 60 Absatz 4 Buchstabe b erhoben hat, sind im Rahmen der Entscheidung oder der Einwände die Gründe dafür zu nennen sowie anzugeben, wie der Anbieter oder zukünftige Anbieter die Entscheidung oder die Einwände anfechten kann.
Wenn eine Marktüberwachungsbehörde eine Entscheidung nach Absatz 3 getroffen hat, teilt sie ihre Gründe dafür gegebenenfalls den Marktüberwachungsbehörden anderer Mitgliedstaaten mit, in denen das KI-System gemäß dem Plan für den Test getestet wurde.
Relevant recitals
Erwägungsgrund 156 Powers of market surveillance authorities
Zur Gewährleistung einer angemessenen und wirksamen Durchsetzung der Anforderungen und Pflichten gemäß dieser Verordnung, bei der es sich um eine Harmonisierungsrechtsvorschrift der Union handelt, sollte das mit der Verordnung (EU) 2019/1020 eingeführte System der Marktüberwachung und der Konformität von Produkten in vollem Umfang gelten. Die gemäß dieser Verordnung benannten Marktüberwachungsbehörden sollten über alle in der vorliegenden Verordnung und der Verordnung (EU) 2019/1020 festgelegten Durchsetzungsbefugnisse verfügen und ihre Befugnisse und Aufgaben unabhängig, unparteiisch und unvoreingenommen wahrnehmen. Obwohl die meisten KI-Systeme keinen spezifischen Anforderungen und Pflichten gemäß der vorliegenden Verordnung unterliegen, können die Marktüberwachungsbehörden Maßnahmen in Bezug auf alle KI-Systeme ergreifen, wenn sie ein Risiko gemäß dieser Verordnung darstellen. Aufgrund des spezifischen Charakters der Organe, Einrichtungen und sonstigen Stellen der Union, die in den Anwendungsbereich dieser Verordnung fallen, ist es angezeigt, dass der Europäische Datenschutzbeauftragte als eine zuständige Marktüberwachungsbehörde für sie benannt wird. Die Benennung zuständiger nationaler Behörden durch die Mitgliedstaaten sollte davon unberührt bleiben. Die Marktüberwachungstätigkeiten sollten die Fähigkeit der beaufsichtigten Einrichtungen, ihre Aufgaben unabhängig wahrzunehmen, nicht beeinträchtigen, wenn eine solche Unabhängigkeit nach dem Unionsrecht erforderlich ist.
Springlex and this text is meant purely as a documentation tool and has no legal effect. No liability is assumed for its content. The authentic version of this act is the one published in the Official Journal of the European Union.
Definition
KI-Modell mit allgemeinem Verwendungszweck
(En. general-purpose AI model)
Definition
Anbieter
(En. provider)
Definition
KI-System
(En. AI system)
Definition
Zweckbestimmung
(En. intended purpose)
Definition
Inverkehrbringen
(En. placing on the market)
Definition
Betreiber
(En. deployer)
Definition
KI-Reallabor
(En. AI regulatory sandbox)
Definition
Plan für das Reallabor
(En. sandbox plan)
Definition
Betriebsanleitungen
(En. instructions for use)
Definition
Marktüberwachungsbehörde
(En. market surveillance authority)
Definition
Test unter Realbedingungen
(En. testing in real-world conditions)
Definition
Risiko
(En. risk)
Definition
Inbetriebnahme
(En. putting into service)