NEW YORK / RankWire.AI / – Les Nations Unies appellent à un renforcement de la protection des enfants et des jeunes face à l'évolution des modes d'accès à l'information sur les plateformes numériques. Une nouvelle note d'information de l'ONU met en lumière les risques liés à la désinformation, aux discours de haine, au harcèlement, à l'intelligence artificielle et aux systèmes en ligne axés sur l'attention. Elle soulève également des préoccupations concernant les données personnelles, la publicité comportementale et la distribution algorithmique. Le rapport indique que les jeunes utilisateurs ont besoin de garanties renforcées pour préserver leur accès à l'éducation, à la communication et à la participation citoyenne en ligne.
Le ministère de la Communication mondiale a publié cette note d'information à l'approche de la Journée internationale de la jeunesse, le 12 août. Selon ce rapport, plus de 82 % des jeunes de 15 à 24 ans utilisent Internet dans le monde. L'accès au numérique peut élargir les possibilités d'apprentissage, d'engagement civique et de participation économique. Cependant, les jeunes utilisateurs peuvent être exposés à des contenus préjudiciables alors qu'ils sont encore en train d'acquérir les compétences nécessaires pour évaluer l'information. La note d'information souligne que les risques en ligne peuvent avoir des répercussions sur le développement cognitif, émotionnel et social.
Le rapport répartit ces risques en trois grandes catégories. Les menaces liées à la technologie comprennent le détournement de l'intelligence artificielle et d'autres outils numériques. Les risques liés à la distribution incluent les algorithmes et l'inégalité d'accès à une information fiable. Les risques liés au contenu comprennent la désinformation, le harcèlement et les discours de haine. L'ONU indique que ces problèmes peuvent interagir car les systèmes numériques influencent ce que les utilisateurs voient et la diffusion des contenus. Les jeunes publics peuvent être exposés simultanément à plusieurs risques lorsque les plateformes combinent recommandations automatisées, collecte de données et contenus personnalisés.
La conception de la plateforme attire davantage l'attention.
Le rapport examine également les modèles économiques qui reposent sur l'attention des utilisateurs, les données personnelles et la publicité ciblée. Il indique que les systèmes axés sur l'engagement peuvent exposer les enfants à des contenus extrêmes et à des fonctionnalités incitant à une utilisation répétée. Le marketing personnalisé peut accroître les risques pour les jeunes publics. Le rapport appelle les entreprises technologiques et les développeurs d'IA à intégrer les droits et la sécurité des enfants dans la conception de leurs produits. Il insiste également sur la nécessité d'une plus grande transparence des systèmes qui déterminent ce que les jeunes voient en ligne.
Les restrictions d'âge font désormais partie intégrante du débat plus large sur les médias sociaux et la sécurité des enfants. L'ONU affirme que les limites d'âge ne suffisent pas à elles seules à endiguer tous les risques liés à l'information en ligne. Les espaces numériques peuvent également servir à l'éducation, au lien social et au soutien émotionnel. Les jeunes les utilisent pour créer du contenu, organiser des campagnes et participer au débat public. Le document précise que les mesures de protection doivent garantir la sécurité des enfants sans pour autant les priver d'un accès utile aux services numériques qui favorisent l'apprentissage, la communication et la participation.
La sécurité de l'IA s'intègre aux efforts de protection de l'enfance
L'intelligence artificielle soulève de nouvelles inquiétudes quant à l'environnement numérique. Le Secrétaire général António Guterres a appelé à un engagement en faveur de la sécurité des enfants face à l'IA, couvrant les systèmes accessibles aux enfants. L'approche proposée prévoit des tests de sécurité spécifiques aux enfants et un contrôle renforcé avant tout déploiement. Elle préconise également des mesures fermes contre les images à caractère sexuel impliquant des enfants et générées par l'IA. Dans le cadre de cette initiative plus large des Nations Unies, les développeurs sont invités à identifier, signaler et supprimer ces contenus, tout en intégrant des protections pour la sécurité des enfants dans les systèmes d'IA accessibles.
Le rapport indique que les gouvernements, les entreprises technologiques, les annonceurs, les chercheurs, les éducateurs et la société civile ont tous un rôle à jouer dans la réduction des risques numériques. Il appelle également à ce que les enfants et les jeunes participent aux décisions qui façonnent les espaces en ligne. Ce document applique les Principes mondiaux des Nations Unies pour l'intégrité de l'information aux problématiques touchant les jeunes utilisateurs. Son message central est que la sécurité des enfants, l'intégrité de l'information et la participation numérique doivent progresser de concert à mesure que les plateformes en ligne et les systèmes d'intelligence artificielle prennent une place de plus en plus importante dans la vie quotidienne.
L’article « L’ONU met en garde contre les risques croissants liés à l’information en ligne pour les enfants » est paru initialement dans UAE Gazette : le journal quotidien des Émirats arabes unis .