IA : l’ONU appelle à renforcer la protection des droits humains

(Agence Ecofin) - L’essor de l’intelligence artificielle (IA) soulève désormais un enjeu qui dépasse la seule sécurité des technologies : celui de la protection des droits humains. Un haut responsable des Nations unies a alerté sur cette question.

Le haut-commissaire des Nations unies aux droits de l’homme, Volker Türk (photo), appelle les États et les entreprises à renforcer les garanties entourant le développement et l’utilisation des systèmes d’IA. Lors de l’ouverture de la 63e session du Conseil des droits de l’homme, le lundi 7 septembre en Suisse, il a demandé la mise en place de garanties renforcées pour la sûreté et la sécurité de l’IA.

« Je lance ici, aujourd’hui, un appel à mobiliser toutes les forces pour mettre en place des garanties à toute épreuve concernant la sûreté et la sécurité de l’IA, avant qu’il ne soit trop tard », a-t-il indiqué.

Le haut-commissaire a notamment appelé à une vérification indépendante des déclarations des entreprises concernant la sécurité de leurs systèmes et à la définition de « lignes rouges » faisant consensus concernant certains usages de la technologie. La question est d’autant plus importante que l’IA est utilisée dans un nombre croissant de domaines susceptibles d’affecter directement les individus.

Les systèmes automatisés peuvent notamment porter atteinte à la vie privée, entraîner des discriminations, affecter la liberté d’expression ou encore limiter l’accès à certains services. Le Haut-Commissariat des Nations unies aux droits de l’homme souligne déjà que les technologies d’IA utilisées pour le profilage peuvent entraîner des discriminations et affecter des droits tels que la vie privée, la liberté de mouvement ou le droit à un recours effectif.

L’enjeu est également de pouvoir identifier ces atteintes avant qu’elles ne prennent une ampleur considérable. L’ONU recommande notamment des évaluations des impacts sur les droits humains, une surveillance indépendante et une transparence suffisante concernant le fonctionnement des systèmes et les données utilisées. Lorsque les risques de discrimination ou d’autres violations ne peuvent pas être suffisamment réduits, certaines utilisations devraient être exclues.

Cette approche permet de préciser la notion de « lignes rouges » évoquée par Türk. Elle pose la question des usages pour lesquels la recherche de performance ou d’efficacité ne peut pas primer sur les droits fondamentaux. « L’intelligence artificielle avancée pourrait représenter un risque existentiel pour l’humanité », ajoute M. Türk.

Adoni Conrad Quenum