Ces lignes directrices, qui s'adressent aux plateformes en ligne comptant plus de 45 millions d'utilisateurs actifs dans l'UE - désignées comme "très grandes plateformes en ligne et moteurs de recherche" en vertu de la loisur les services numériques (DSA) - définissent des mesures potentielles pour lutter contre les risques liés aux élections, les contenus créés par l'intelligence artificielle et les publicités politiques trompeuses.
Elles comprennent également des lignes directrices spécifiques concernant les élections européennes du mois de juin, alors que beaucoup anticipent un déluge de fausses informations en ligne.
Bien que ces demandes ne soient pas juridiquement contraignantes, la Commission pourrait lancer des procédures formelles contre toute plateforme qui s'écarterait des dispositions de l'ASD sur les élections et les processus démocratiques. L'exécutif pourrait ainsi infliger des amendes allant jusqu'à 6 % du chiffre d'affaires mondial aux plateformes et aux moteurs de recherche qui ne respectent pas les lignes directrices.
Cette mesure s'inscrit dans le cadre d'un effort coordonné de Bruxelles pour mettre un frein à la tendance de l'industrie à l'autorégulation, qui a souvent été décriée comme complaisante et insuffisante, et pour forcer les grandes entreprises technologiques à faire davantage pour défendre les valeurs démocratiques.
Un haut fonctionnaire de l'UE a déclaré que les lignes directrices constituaient une réponse à la "menace" qui pèse sur l'intégrité des élections dans l'Union, notamment en raison du déploiement rapide de l'IA générative et de la diffusion de contenus "deepfake" trompeurs qui "sèment la division" dans les sociétés européennes.
En octobre dernier, un faux enregistrement d'un candidat aux élections slovaques affirmant qu'il avait truqué le vote est devenu viral, ce qui constitue une menace évidente pour l'intégrité du processus démocratique.
Dans le nouveau cadre, les plateformes devront signaler d'urgence ces situations à haut risque dans le cadre d'un nouveau mécanisme de réponse aux incidents et coopérer avec les autorités européennes et nationales, les experts indépendants et les organisations de la société civile pour faire face aux menaces émergentes.
Une autre préoccupation de la Commission concerne les systèmes de recommandation : l'utilisation de l'apprentissage automatique pour donner la priorité aux contenus susceptibles de semer la discorde, de nuire ou d'induire en erreur et d'avoir un potentiel viral. Les lignes directrices exigent que les plateformes conçoivent de tels systèmes de manière à donner aux utilisateurs "des choix et des contrôles significatifs sur leurs flux".
L'exécutif est également en alerte sur la diffusion potentielle d'informations électorales incorrectes par le biais de chatbots alimentés par l'IA, également connus sous le nom d'"hallucinations" de chatbots, a déclaré le fonctionnaire.
En 2023, une étude menée par les groupes à but non lucratif AI Forensics et AlgorithmWatch a révélé que Bing Chat de Microsoft - récemment rebaptisé Microsoft Copilot - a répondu de manière incorrecte à un tiers des questions relatives aux élections. Les erreurs comprenaient des informations incorrectes sur les dates des élections et les candidats, ainsi que des controverses inventées concernant les candidats.
Des garde-fous avant les élections de juin
L'adoption des lignes directrices intervient tactiquement avant les élections au Parlement européen et fait suite à une période de consultation des plateformes, qui ont été invitées à donner leur avis sur le projet.
Plusieurs entreprises affirment qu'elles ont déjà relevé le défi d'introduire des garanties électorales avant le scrutin de juin. Google, Meta et TikTok ont mis en place des "centres électoraux" pour lutter contre la désinformation entourant le vote.
À partir du mois prochain, TikTok enverra des notifications push à ses millions d'utilisateurs européens pour les diriger vers un centre électoral intégré à l'application, où ils pourront trouver des "informations fiables et dignes de foi" sur le vote, ainsi que des "conseils en matière d'éducation aux médias".
La Commission indique qu'elle testera les règles avec les "plateformes concernées" à la fin du mois d'avril, mais elle n'a pas pu confirmer quelles plateformes pourraient être amenées à effectuer ces tests.
Avec 370 millions d'électeurs se rendant aux urnes dans les 27 Etats membres en juin, Bruxelles craint que les ressources des plateformes ne soient sollicitées à l'extrême en raison de la nécessité de disposer de modérateurs de contenu parlant couramment les 24 langues officielles de l'Union européenne.
Par exemple, les derniers rapports de transparence de X montrent qu'il n'emploie qu'un seul modérateur de contenu parlant couramment le bulgare, le croate, le néerlandais, le portugais, le letton et le polonais dans son équipe mondiale de 2 294 personnes. L'entreprise ne dispose d'aucun modérateur de contenu humain pour couvrir 17 des langues officielles de l'UE, dont le grec, le hongrois, le roumain et le suédois.
Cette complexité linguistique signifie que les élections européennes sont "particulièrement vulnérables", a déclaré le haut fonctionnaire.
Cette mesure intervient également au cours de la plus grande année électorale de l'histoire mondiale, avec plus de 2 milliards d'électeurs appelés à se rendre aux urnes.
Le fonctionnaire a reconnu que si la conformité à l'ASD est "coûteuse", le coût de l'application de règles similaires ailleurs en dehors de l'UE est "marginal" et que, par conséquent, les plateformes pourraient envisager de mettre en place des mesures de protection similaires dans le monde entier.
Cet article a été mis à jour avec de plus amples informations.
