Source: OJ L 277, 27/10/2022, p. 1–102 · Consolidated text

Article 34 Évaluation des risques

Summary What does Article 34 of the DSA regulation say?

This article establishes a mandatory systemic risk assessment obligation for providers of very large online platforms and very large online search engines — that is, those designated under Article 33.

It requires these providers to actively identify, analyse, and assess systemic risks arising from how their services are designed, function, or are used.

The article is notably detailed in scope, covering a broad range of risk categories from the dissemination of illegal content to threats to fundamental rights, electoral processes, public health, and the well-being of minors.

It also specifies the factors providers must consider when conducting these assessments, such as algorithmic and recommender systems, content moderation practices, advertising systems, and data-related practices, including the risk of intentional manipulation of their services.

Important points:

Providers of very large online platforms and very large online search engines must conduct systemic risk assessments at least annually and before deploying functionalities likely to have a critical impact on identified risks.
The risk assessment must cover a wide range of harms, including threats to fundamental rights, civic discourse, electoral processes, public health, and the safety of minors.
Supporting documents from these risk assessments must be retained for at least three years and made available to the Commission and the Digital Services Coordinator of establishment upon request.

Springlex's summary of the article is a reading aid, not a substitute for the legal text.

1. Les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne recensent, analysent et évaluent de manière diligente tout risque systémique au sein de l’Union découlant de la conception ou du fonctionnement de leurs services et de leurs systèmes connexes, y compris des systèmes algorithmiques, ou de l’utilisation faite de leurs services.
2. Ils procèdent aux évaluations des risques au plus tard à la date d’application visée à l’article 33, paragraphe 6, deuxième alinéa, puis au moins une fois par an, et en tout état de cause avant de déployer des fonctionnalités susceptibles d’avoir une incidence critique sur les risques recensés en vertu du présent article. Cette évaluation des risques est spécifique à leurs services et proportionnée aux risques systémiques, de la gravité et de la probabilité desquels elle tient compte, et comprend les risques systémiques suivants:
  1. la diffusion de contenus illicites par l’intermédiaire de leurs services;
  2. tout effet négatif réel ou prévisible pour l’exercice des droits fondamentaux, en particulier le droit fondamental à la dignité humaine consacré à l’article 1^er de la Charte, au respect de la vie privée et familiale consacré à l’article 7 de la Charte, à la protection des données à caractère personnel consacré à l’article 8 de la Charte, à la liberté d’expression et d’information, y compris la liberté et le pluralisme des médias, consacré à l’article 11 de la Charte, et à la non-discrimination consacré à l’article 21 de la Charte, les droits fondamentaux relatifs aux droits de l’enfant consacrés à l’article 24 de la Charte et le droit fondamental à un niveau élevé de protection des consommateurs consacré à l’article 38 de la Charte;
  3. tout effet négatif réel ou prévisible sur le discours civique, les processus électoraux et la sécurité publique;
  4. tout effet négatif réel ou prévisible lié aux violences sexistes et à la protection de la santé publique et des mineurs et les conséquences négatives graves sur le bien-être physique et mental des personnes.
1. Lorsqu’ils procèdent à des évaluations des risques, les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne examinent notamment si et comment les facteurs suivants influencent les risques systémiques visés au paragraphe 1 et en tiennent compte:
  1. la conception de leurs systèmes de recommandation et de tout autre système algorithmique pertinent;
  2. leurs systèmes de modération des contenus;
  3. les conditions générales applicables et leur mise en application;
  4. les systèmes de sélection et de présentation de la publicité;
  5. les pratiques du fournisseur en matière de données.
2. Les évaluations examinent également si et comment les risques visés au paragraphe 1 sont influencés par la manipulation intentionnelle du service desdits fournisseurs, y compris par l’utilisation non authentique ou l’exploitation automatisée du service, ainsi que par l’amplification et la diffusion potentiellement rapide et à grande échelle de contenus illicites et d’informations incompatibles avec leurs conditions générales.
3. L’évaluation tient compte des aspects régionaux ou linguistiques spécifiques, y compris lorsqu’ils sont propres à un État membre.
1. Les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne conservent les documents justificatifs des évaluations des risques pendant au moins trois ans après la réalisation de ces évaluations, et les communiquent à la Commission et au coordinateur pour les services numériques de l’État membre d’établissement, à leur demande.

Relevant recitals

Considérant 79 Systemic risk assessment and mitigation obligation

Les très grandes plateformes en ligne et les très grands moteurs de recherche en ligne peuvent être utilisés d’une manière qui a une influence considérable sur la sécurité en ligne, sur la formation de l’opinion publique et du discours, ainsi que sur le commerce en ligne. La façon dont ils conçoivent leurs services est généralement optimisée au bénéfice de leurs modèles économiques souvent axés sur la publicité et peut susciter des préoccupations sociétales. Une réglementation et une exécution efficaces sont nécessaires pour déterminer et atténuer efficacement les risques et le préjudice sociétal et économique potentiels. En vertu du présent règlement, les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient donc évaluer les risques systémiques découlant de la conception, du fonctionnement et de l’utilisation de leurs services, ainsi que des abus potentiels par les destinataires du service, et devraient prendre des mesures d’atténuation appropriées, dans le respect des droits fondamentaux. Pour déterminer l’ampleur des effets et impact négatifs potentiels, les fournisseurs devraient examiner la gravité de l’impact potentiel et la probabilité de tous ces risques systémiques. Par exemple, ils pourraient évaluer si l’impact négatif potentiel peut toucher un grand nombre de personnes, déterminer son éventuelle irréversibilité ou apprécier à quel point il est difficile de remédier au problème et de revenir à la situation antérieure à l’impact potentiel.

Considérant 80 First risk category: dissemination of illegal content

Quatre catégories de risques systémiques devraient être évaluées de manière approfondie par les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne. Dans la première catégorie figurent les risques associés à la diffusion de contenus illicites, tels que la diffusion de matériel pédopornographique, de discours haineux illégaux ou d’autres types d’usage abusif de leurs services dans le cadre d’infractions pénales, et la poursuite d’activités illégales, telles que la vente de produits ou de services interdits par le droit de l’Union ou le droit national, y compris des produits dangereux ou de contrefaçon, ou des animaux commercialisés illégalement. Par exemple, cette diffusion ou ces activités peuvent constituer un risque systémique important lorsque l’accès à des contenus illicites peut se propager rapidement et largement grâce à des comptes d’une portée particulièrement large ou à d’autres moyens d’amplification. Les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient évaluer le risque de diffusion de contenus illicites, que l’information soit ou non également incompatible avec leurs conditions générales. Cette évaluation est sans préjudice de la responsabilité personnelle du destinataire du service de très grandes plateformes en ligne ou des propriétaires de sites internet indexés par de très grands moteurs de recherche en ligne du fait de l’éventuelle illégalité de leur activité au regard du droit applicable.

Considérant 81 Second risk category: impact on fundamental rights

La deuxième catégorie concerne l’incidence réelle ou prévisible du service sur l’exercice des droits fondamentaux, tels qu’ils sont protégés par la Charte, ce qui comprend, sans s’y limiter, la dignité humaine, la liberté d’expression et d’information, dont la liberté et le pluralisme des médias, le droit à la vie privée, la protection des données, le droit à la non-discrimination, les droits de l’enfant et la protection des consommateurs. De tels risques peuvent découler, par exemple, de la conception des systèmes algorithmiques utilisés par la très grande plateforme en ligne ou par le très grand moteur de recherche en ligne, ou de l’usage abusif de leur service par la soumission de notifications abusives ou d’autres méthodes visant à réduire au silence ou à entraver la concurrence. Lorsqu’ils évaluent les risques pour les droits de l’enfant, les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient examiner par exemple à quel point la conception et le fonctionnement du service sont faciles à comprendre pour les mineurs, ainsi que la manière dont ces derniers peuvent être exposés, par le biais de leur service, à des contenus pouvant nuire à leur santé ainsi qu’à leur épanouissement physique, mental et moral. Ces risques peuvent résulter, par exemple, de la conception des interfaces en ligne qui exploitent intentionnellement ou non les faiblesses et l’inexpérience des mineurs ou qui peuvent entraîner un comportement de dépendance.

Considérant 82 Third risk category: democratic processes and security

La troisième catégorie de risques concerne les effets négatifs réels ou prévisibles sur les processus démocratiques, le discours civique et les processus électoraux, ainsi que sur la sécurité publique.

Considérant 83 Fourth risk category: public health and minors

Une quatrième catégorie de risques découle de préoccupations similaires relatives à la conception, au fonctionnement ou à l’utilisation, y compris par manipulation, de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne ayant un effet négatif réel ou prévisible sur la protection de la santé publique et des mineurs, ainsi que des conséquences négatives graves sur le bien-être physique et mental d’une personne, ou sur la violence à caractère sexiste. Ces risques peuvent également résulter de campagnes de désinformation coordonnées liées à la santé publique ou de la conception d’interfaces en ligne susceptibles de stimuler les dépendances comportementales des destinataires du service.

Considérant 84 Factors to consider in risk assessments

Lors de l’évaluation de ces risques systémiques, les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient se concentrer sur les systèmes ou autres éléments susceptibles de contribuer aux risques, y compris tous les systèmes algorithmiques qui peuvent être concernés, en particulier leurs systèmes de recommandation et leurs systèmes publicitaires, en étant attentifs aux pratiques connexes en matière de collecte et d’utilisation des données. Ils devraient également évaluer si leurs conditions générales et la mise en application de ces dernières sont appropriées, ainsi que leurs processus de modération des contenus, leurs outils techniques et les ressources affectées. Lors de l’évaluation des risques systémiques recensés dans le présent règlement, ces fournisseurs devraient également se concentrer sur les informations qui ne sont pas illicites mais alimentent les risques systémiques recensés dans le présent règlement. Ces fournisseurs devraient donc accorder une attention particulière à la manière dont leurs services sont utilisés pour diffuser ou amplifier des contenus trompeurs ou mensongers, et notamment à la désinformation. Lorsque l’amplification algorithmique des informations contribue aux risques systémiques, ces fournisseurs devraient en tenir dûment compte dans leurs évaluations des risques. Lorsque les risques sont localisés ou qu’il existe des différences linguistiques, il y a lieu que ces fournisseurs en rendent compte également dans leurs évaluations des risques. Les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient, en particulier, examiner la manière dont la conception et le fonctionnement de leurs services, ainsi que l’utilisation et la manipulation intentionnelles et, souvent, coordonnées de leurs services, ou la violation systémique de leurs conditions d’utilisation, contribuent à ces risques. Ces risques peuvent résulter, par exemple, de l’utilisation non authentique du service, telle que la création de faux comptes, l’utilisation de robots ou l’utilisation trompeuse d’un service, et d’autres comportements automatisés ou partiellement automatisés, susceptibles de conduire à la diffusion rapide et généralisée au public d’informations qui constituent un contenu illicite ou qui sont incompatibles avec les conditions générales d’une plateforme en ligne ou d’un moteur de recherche en ligne et qui contribuent à des campagnes de désinformation.

Considérant 85 Preservation of risk assessment documentation

Afin que les évaluations des risques ultérieures puissent s’appuyer les unes sur les autres et montrer l’évolution des risques recensés, ainsi que pour faciliter les enquêtes et les mesures d’exécution, les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient conserver tous les documents justificatifs relatifs aux évaluations des risques qu’ils ont effectuées, tels que les informations relatives à leur préparation, les données sous-jacentes et les données sur les essais de leurs systèmes algorithmiques.

Considérant 90 Evidence-based, stakeholder-informed risk assessment

Les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient veiller à ce que leur approche de l’évaluation et de l’atténuation des risques soit fondée sur les meilleures informations et connaissances scientifiques disponibles et à mettre à l’essai leurs hypothèses auprès des groupes les plus affectés par les risques et les mesures prises. Il convient à cette fin que les fournisseurs procèdent, le cas échéant, à leurs évaluations des risques et conçoivent leurs mesures d’atténuation des risques avec la participation de représentants des destinataires du service, de représentants de groupes potentiellement affectés par leurs services, d’experts indépendants et d’organisations de la société civile. Ils devraient s’efforcer d’intégrer ces consultations, comprenant, le cas échéant, des enquêtes, des groupes de réflexion, des tables rondes et d’autres méthodes de consultation et de conception, dans leurs méthodes d’évaluation des risques et de conception des mesures d’atténuation. Lors de l’évaluation du caractère raisonnable, proportionné et efficace d’une mesure, il convient d’accorder une attention particulière au droit à la liberté d’expression.

Table of contents

Springlex and this text is meant purely as a documentation tool and has no legal effect. No liability is assumed for its content. The authentic version of this act is the one published in the Official Journal of the European Union.