Intelligence Artificielle : un dossier pour le Conseil de Sécurité de l'ONU

La Sous-Secrétaire générale à la communication mondiale, Melissa Fleming, a appelé les développeurs d'IA générative à privilégier la sécurité et les droits humains plutôt que le profit lors d'une réunion "Formule Arria" du Conseil de sécurité.
La réunion sur l'intelligence artificielle et son impact sur les discours de haine, la mésinformation et la désinformation a été coprésidée par les Émirats Arabes Unis et l'Albanie et a présenté les perspectives des experts numériques Rahaf Harfoush et Jennifer Woodard.
Dans son discours, Mme Fleming a noté que l'IA générative, si développée et utilisée de manière responsable, avait le potentiel d'améliorer les droits humains, y compris l'accès à l'information, la santé, l'éducation et les services publics.
Cependant, elle a exprimé une grave préoccupation quant au potentiel de la technologie à "intensifier de manière dramatique les préjudices en ligne".
Avec l'IA générative, de grands volumes de désinformation convaincante - du texte à l'audio en passant par la vidéo - peuvent être créés à grande échelle, à très faible coût et avec une intervention humaine mineure.
Un tel contenu peut être distribué en masse, non seulement sur les réseaux sociaux et à travers de faux profils, mais aussi sur d'autres canaux personnalisés tels que les campagnes par courriel, les messages textes et les publicités.
L'IA générative laisse peu d'empreintes. Il est également beaucoup plus difficile pour les journalistes, les vérificateurs de faits, les forces de l'ordre ou les gens ordinaires de détecter si le contenu est réel ou généré par l'IA. Mme Fleming a souligné quatre domaines de préoccupation clés pour l'ONU :
- Paix et sécurité : La désinformation alimentée par l'IA met déjà en danger les opérations de paix et humanitaires de l'ONU, mettant en péril le personnel et les civils. Plus de 70% des casques bleus de l'ONU répondant dans une enquête récente ont dit que la més- et désinformation entravait gravement leur capacité à effectuer leur travail.
- Violations des droits humains : L'IA est utilisée pour créer et diffuser du contenu nuisible, y compris du matériel d'abus sexuels sur enfants et des images pornographiques non consensuelles, ciblant particulièrement les femmes et les filles. L'ONU est également profondément préoccupée par le fait que le contenu antisémite, islamophobe, raciste et xénophobe pourrait être amplifié par l'IA générative.
- Démocratie en péril : Le potentiel de l'IA à manipuler les électeurs et à influencer l'opinion publique pendant les élections représente une menace significative pour les processus démocratiques dans le monde entier.
- Sous-minage de la science et des institutions publiques : Par exemple, les outils d'IA pourraient intensifier les campagnes de désinformation de longue date visant à dérailler l'action climatique, en amplifiant les fausses informations sur le changement climatique et l'énergie renouvelable.
Ces phénomènes sont sous-tendus par un déclin de la confiance du public dans les sources d'informations et de nouvelles.
Mme Fleming a cité un rapport récent qui a trouvé que depuis mai de cette année, le nombre de sites d'actualités générés par l'IA, opérant avec peu ou pas de supervision humaine, était passé de 49 à près de 600. Certains de ces sites publient des milliers de nouveaux articles par jour. Ils imitent souvent des sites d'actualités familiers et diffusent des histoires complètement fabriquées.
Face à ces défis, l'ONU a mis en place un Organe consultatif sur l'IA pour renforcer la gouvernance mondiale de l'IA.
En parallèle, l'ONU développe un code de conduite pour l'intégrité de l'information, afin d'aider à augmenter la résilience des sociétés contre la désinformation et la haine.
Mme Fleming a appelé à une approche équilibrée pour exploiter les avantages de l'IA tout en atténuant ses risques, soulignant la nécessité de systèmes d'information sains pour des sociétés stables et unies.
Son message était clair - les développeurs d'IA doivent privilégier les personnes et leur bien-être plutôt que le profit, en s'assurant que la technologie serve de force pour le bien.

Produced by: www.neutralitystudies.com
Translation: www.video-translations.org
Original: https://youtu.be/1_xk52fj3q
Published: 2023-12-19

You listen to an AI generated voice.