La Commission européenne a donné jusqu’au 15 novembre prochain aux géants du numérique YouTube, Snapchat et Tiktok pour apporter des éclaircissements sur leurs systèmes de recommandation, qui se basent sur des algorithmes de filtrage posant certains risques sur la santé mentale.
En vertu de la loi européenne sur les services numériques (DSA), les plateformes numériques YouTube, Snapchat et Tiktok « doivent évaluer et atténuer de manière adéquate les risques découlant de leurs systèmes de recommandation, y compris les risques pour la santé mentale des utilisateurs et la diffusion de contenus préjudiciables découlant de la conception basée sur l’engagement de ces algorithmes ».
YouTube et Snapchat sont ainsi invités à fournir des informations détaillées sur les paramètres utilisés par leurs algorithmes pour recommander des contenus aux utilisateurs, ainsi que sur leur rôle dans l’amplification de certains risques systémiques, notamment ceux liés au processus électoral et au discours civique et au bien-être mental des utilisateurs.
L’Exécutif cite notamment les comportements addictifs et les risques pour les mineurs. Les questions concernent également les mesures prises par les plateformes pour atténuer l’influence potentielle de leurs systèmes de recommandation sur la diffusion de contenus illégaux, tels que la promotion de drogues illégales et les discours de haine.
TikTok a été invité, lui, à fournir plus d’informations sur les mesures qu’il a adoptées pour éviter la manipulation du service par des acteurs malveillants et pour atténuer les risques liés aux élections, au pluralisme des médias et au discours civique, qui peuvent être amplifiés par certains systèmes de recommandation.
Sur la base de l’évaluation des réponses, la Commission évaluera les prochaines étapes. Cela pourrait impliquer l’ouverture formelle d’une procédure.
Conformément à la DSA, la Commission peut imposer des amendes pour des informations incorrectes, incomplètes ou trompeuses. En cas de défaut de réponse, la Commission peut adresser une demande formelle par décision. Dans ce cas, le défaut de réponse dans les délais pourrait entraîner l’imposition d’astreintes.
Les systèmes de recommandation sont entre autres au cœur de procédures formelles de non-conformité ouvertes contre AliExpress, Facebook et Instagram.