Source: OJ L, 2024/1689, 12.7.2024Current language: DE
- Artificial intelligence act
Basic legislative acts
- AI act regulation
Artikel 12 Aufzeichnungspflichten
Summary What does Article 12 of the AI act regulation say?
This article sets out the logging and automatic event-recording requirements for high-risk AI systems.
The core obligation is that such systems must be technically capable of automatically recording events throughout their lifetime, with those logs serving the purposes of traceability, post-market monitoring, and operational oversight.
The article connects directly to several other provisions in the regulation, notably Article 72 on post-market monitoring, Article 79 on risk identification, and Article 26(5) on deployer monitoring obligations.
A more specific set of minimum logging requirements is imposed on a particular subset of high-risk AI systems — those falling under point 1(a) of Annex III, which relates to biometric identification systems — requiring granular records such as session times, reference databases used, matched input data, and the identity of persons involved in verifying results.
Important points:
- Ensure high-risk AI systems are technically built to automatically record events across their entire lifetime.
- Logging capabilities must cover three purposes: identifying potential risks or substantial modifications, supporting post-market monitoring, and enabling operational oversight by deployers.
- For high-risk AI systems used for biometric identification (Annex III, point 1(a)), a specific minimum set of log data is required, including session timestamps, reference databases, matched inputs, and the identities of result-verifying personnel.
Springlex's summary of the article, a reading aid, not a substitute for the legal text.
Die Technik der Hochrisiko-KI-Systeme muss die automatische Aufzeichnung von Ereignissen (im Folgenden „Protokollierung“) während des Lebenszyklus des Systems ermöglichen.
Zur Gewährleistung, dass das Funktionieren des Hochrisiko-KI-Systems in einem der Zweckbestimmung des Systems angemessenen Maße rückverfolgbar ist, ermöglichen die Protokollierungsfunktionen die Aufzeichnung von Ereignissen, die für Folgendes relevant sind:
die Ermittlung von Situationen, die dazu führen können, dass das Hochrisiko-KI-System ein Risiko im Sinne des Artikels 79 Absatz 1 birgt oder dass es zu einer wesentlichen Änderung kommt,
die Erleichterung der Beobachtung nach dem Inverkehrbringen gemäß Artikel 72 und
die Überwachung des Betriebs der Hochrisiko-KI-Systeme gemäß Artikel 26 Absatz 5.
Die Protokollierungsfunktionen der in Anhang III Nummer 1 Buchstabe a genannten Hochrisiko-KI-Systeme müssen zumindest Folgendes umfassen:
Aufzeichnung jedes Zeitraums der Verwendung des Systems (Datum und Uhrzeit des Beginns und des Endes jeder Verwendung);
die Referenzdatenbank, mit der das System die Eingabedaten abgleicht;
die Eingabedaten, mit denen die Abfrage zu einer Übereinstimmung geführt hat;
die Identität der gemäß Artikel 14 Absatz 5 an der Überprüfung der Ergebnisse beteiligten natürlichen Personen.
Relevant recitals
Erwägungsgrund 66 Coverage of mandatory requirements
Die Anforderungen sollten für Hochrisiko-KI-Systeme im Hinblick auf das Risikomanagement, die Qualität und Relevanz der verwendeten Datensätze, die technische Dokumentation und die Aufzeichnungspflichten, die Transparenz und die Bereitstellung von Informationen für die Betreiber, die menschliche Aufsicht sowie die Robustheit, Genauigkeit und Sicherheit gelten. Diese Anforderungen sind erforderlich, um die Risiken für Gesundheit, Sicherheit und Grundrechte wirksam zu mindern. Nachdem nach vernünftigem Ermessen keine anderen weniger handelsbeschränkenden Maßnahmen zur Verfügung stehen, stellen sie keine ungerechtfertigten Handelsbeschränkungen dar.
Erwägungsgrund 71 Record-keeping and technical documentation
Umfassende Informationen darüber, wie Hochrisiko-KI-Systeme entwickelt wurden und wie sie während ihrer gesamten Lebensdauer funktionieren, sind unerlässlich, um die Nachvollziehbarkeit dieser Systeme, die Überprüfung der Einhaltung der Anforderungen dieser Verordnung sowie die Beobachtung ihres Betriebs und ihre Beobachtung nach dem Inverkehrbringen zu ermöglichen. Dies erfordert die Führung von Aufzeichnungen und die Verfügbarkeit einer technischen Dokumentation, die alle erforderlichen Informationen enthält, um die Einhaltung der einschlägigen Anforderungen durch das KI-System zu beurteilen und die Beobachtung nach dem Inverkehrbringen zu erleichtern. Diese Informationen sollten die allgemeinen Merkmale, Fähigkeiten und Grenzen des Systems, die verwendeten Algorithmen, Daten und Trainings-, Test- und Validierungsverfahren sowie die Dokumentation des einschlägigen Risikomanagementsystems umfassen und in klarer und umfassender Form abgefasst sein. Die technische Dokumentation sollte während der gesamten Lebensdauer des KI-Systems angemessen auf dem neuesten Stand gehalten werden. Darüber hinaus sollten die Hochrisiko-KI-Systeme technisch die automatische Aufzeichnung von Ereignissen mittels Protokollierung während der Lebensdauer des Systems ermöglichen.
Springlex and this text is meant purely as a documentation tool and has no legal effect. No liability is assumed for its content. The authentic version of this act is the one published in the Official Journal of the European Union.
Definition
KI-Modell mit allgemeinem Verwendungszweck
(En. general-purpose AI model)
Definition
Anbieter
(En. provider)
Definition
KI-System
(En. AI system)
Definition
Zweckbestimmung
(En. intended purpose)
Definition
Inverkehrbringen
(En. placing on the market)
Definition
Eingabedaten
(En. input data)
Definition
Betreiber
(En. deployer)
Definition
Betriebsanleitungen
(En. instructions for use)
Definition
Risiko
(En. risk)