Intelligence artificielle : face aux risques d’atteinte à la vie privée, l’ONU demande un moratoire sur certains systèmes

logo-onu

COMMUNIQUÉ DE PRESSE

Intelligence artificielle : face aux risques d’atteinte à la vie privée, l’ONU demande un moratoire sur certains systèmes

15 septembre 2021 – Droits de l’homme

Le Haut-Commissariat de l’ONU aux droits de l’homme (HCDH) a appelé, mercredi, la communauté internationale à imposer un moratoire sur certains systèmes d’intelligence artificielle (IA) comme la reconnaissance faciale, le temps de « mettre en place un dispositif pour protéger les droits humains quant à leur utilisation ».


L’ONU justifie la nécessité d’instaurer de toute urgence, ces garde-fous ou un moratoire sur la vente et l’utilisation des systèmes d’intelligence artificielle (IA), par le « risque grave d’atteinte aux droits de l’homme ».

« Les technologies d’intelligence artificielle peuvent avoir des effets négatifs, voire catastrophiques si elles sont utilisées sans prendre suffisamment en compte la manière dont elles affectent les droits humains », a déclaré Michelle Bachelet, la Haut-Commissaire des droits de l’homme de l’ONU.

Face à la capacité de l’IA à alimenter des violations des droits de l’homme à « une échelle colossale », les services de Mme Bachelet appellent la planète à agir dès maintenant. « Plus les risques pour les droits de l’homme sont élevés, plus les obligations légales relatives à l’utilisation des technologies de l’IA devraient être strictes », a affirmé la Haut-Commissaire.

Des systèmes d’IA utilisés pour déterminer qui peut bénéficier de services publics

Mme Bachelet veut une évaluation des risques des différents systèmes qui s’appuient sur l’intelligence artificielle. « Et puisque l’évaluation et la prise en compte des risques peuvent prendre un certain temps, les États devraient imposer des moratoires sur l’utilisation des technologies potentiellement à haut risque », a-t-elle fait valoir.

Ce rapport, qui a été demandé par le Conseil des droits de l’homme, a porté sur la manière dont ces technologies ont souvent été mises en place sans que la façon dont elles fonctionnent ou leur impact n’ait été correctement évalué. Il analyse ainsi la manière dont l’IA, y compris le profilage, la prise de décision automatisée et d’autres technologies d’apprentissage automatique, affecte le droit de la population à la vie privée et d’autres droits, notamment les droits à la santé, à l’éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d’association, et à la liberté d’expression.

Les technologies d’intelligence artificielle peuvent avoir des effets négatifs, voire catastrophiques si elles sont utilisées sans prendre suffisamment en compte la manière dont elles affectent les droits humains – Michelle Bachelet

Le document s’est penché sur l’un des aspects des système d’IA, qui sont parfois utilisés pour déterminer qui peut bénéficier de services publics, décident qui a une chance d’être recruté pour un emploi.

Selon l’ONU, de nombreuses personnes ont déjà été « traitées injustement à cause de l’IA », comme se voir refuser des prestations de sécurité sociale à cause d’outils d’IA défectueux ou encore être arrêté(e) à cause d’un problème de reconnaissance faciale.

Des défis face aux méthodes prédictives

Ce rapport examine également comment les États et les entreprises se sont souvent précipités pour intégrer des applications de l’IA, « sans faire preuve de diligence raisonnable ».

A ce sujet, le document soulève en particulier l’usage de plus en plus fréquent de systèmes basés sur l’IA par les forces de l’ordre y compris des méthodes prédictives. « Les déductions, les prévisions et la surveillance effectuées par les outils d’IA, y compris la recherche d’informations sur les modèles de comportement humain, soulèvent également de graves questions », souligne le document.

Sur un autre plan, un ensemble de données biaisés sur lesquels s’appuient les systèmes d’IA peuvent conduire à des décisions discriminatoires. « Et ces risques sont encore plus élevés pour les groupes déjà marginalisés », alertent les services de Mme Bachelet.

L’autre défi a trait aux « technologies biométriques, qui deviennent de plus en plus une solution de choix pour les États, les organisations internationales et les entreprises technologiques. Or ces technologies, qui incluent la reconnaissance faciale, sont de plus en plus utilisées pour identifier les personnes en temps réel et à distance, ce qui permet potentiellement un suivi illimité des individus.

Les entreprises et les États invités à faire preuve de « plus transparence »

Le rapport réitère les appels à un moratoire sur leur utilisation dans les espaces publics. D’autant que les données utilisées pour informer et guider les systèmes d’IA peuvent être erronées, discriminatoires, obsolètes ou non pertinentes.

« Nous ne pouvons pas nous permettre de continuer à tenter de rattraper le train en marche en ce qui concerne l’AI et permettre qu’elle soit utilisée sans contrôle ou presque et à réparer les conséquences sur les droits humains après-coup », a insisté la Haut-Commissaire.

Plus globalement, l’ONU invite les entreprises et les États à faire preuve d’une « plus grande transparence quant à la manière dont ils conçoivent et utilisent l’IA ».

Selon le rapport, « la complexité de l’environnement de données, des algorithmes et des modèles qui sous-tendent le développement et le fonctionnement des systèmes d’IA, ainsi que la dissimulation intentionnelle d’informations de la part des acteurs gouvernementaux et privés sont des facteurs qui sapent les moyens dont dispose le public pour comprendre véritablement les effets des systèmes d’IA sur les droits de l’homme et la société ».

 -30-

Source : Organisation des Nations Unies (ONU).

Président éditeur, Fondation littéraire Fleur de Lys

Tagged with: ,
Publié dans Communiqués de presse

Laisser un commentaire

Entrer les renseignements ci-dessous ou cliquer sur une icône pour ouvrir une session :

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

Les mots nouveaux des dictionnaires Le Robert 2022 (cliquez sur l’image)
DOSSIER
Follow Appui-livres on WordPress.com
Ce site web est sous licence Creative Commons – Attribution – Pas d’Utilisation Commerciale – Pas de Modification 2.5 Canada (CC BY-NC-ND 2.5 CA)
Article explicatif au sujet de notre maison d’édition
Dossier « Les 500 ans de la mort de Léonard de Vinci »
Dossier – Résultats du sondage « Les Québécois et leurs écrits »
Composition technique d’un article de presse
Les styles interpersonnels selon Larry Wilson
Se connecter
Magazine littéraire

Ce magazine littéraire est l’œuvre de la Fondation littéraire Fleur de Lys et s'inscrit dans une mission d'éducation populaire au sujet du monde du livre, et ce, tant auprès des auteurs que des lecteurs.

Vous pouvez nous écrire à l'adresse suivante :


contact@manuscritdepot.com

Archives
Recherche par catégorie
%d blogueueurs aiment cette page :