Le panel de l'ONU liste les opportunités pressantes et les risques de l'IA dans un rapport préliminaire

MANILLE, Philippines – Le Groupe scientifique international indépendant des Nations Unies sur l'intelligence artificielle a publié un rapport préliminaire inédit évaluant les opportunités, les risques et les impacts les plus pressants de l'IA.

Le Groupe, composé de 40 membres et coprésidé par Yoshua Bengio du Canada et Maria Ressa des Philippines, cherche à « présenter une analyse équilibrée » des risques et des opportunités de l'IA, et vise à fournir aux décideurs politiques une base commune de connaissances et de preuves nécessaires pour répondre efficacement et en temps opportun.

« La technologie est transformatrice, mais si le monde continue sur cette trajectoire, l'humanité ne parviendra pas à réaliser les gains qu'elle promet. Les risques — pour les sociétés, pour la sécurité et pour notre espèce — sont trop élevés, et les forces qui font avancer l'IA ne sont pas celles qui en délivreront les bénéfices », a déclaré Ressa.

« Les capacités de l'IA dépassent à la fois la compréhension scientifique et la capacité des gouvernements à s'adapter. Face aux preuves croissantes de comportements trompeurs de l'IA, la science ne peut actuellement pas garantir que, à mesure que les capacités continuent d'augmenter, l'IA ne causera pas de dommages catastrophiques, que ce soit de manière autonome ou en raison d'utilisateurs malveillants. Pour agir efficacement, les décideurs politiques mondiaux doivent comprendre ces systèmes. Ce Groupe fournit exactement cela : une base scientifique rigoureuse et partagée pour guider notre voie collective vers l'avenir », a ajouté Bengio.

Dans le résumé exécutif du rapport, le Groupe a écrit : « Déployée et appliquée de manière réfléchie, l'IA peut soutenir les progrès vers la réalisation des Objectifs de développement durable, faire avancer les sciences de la santé et élargir l'accès à l'éducation. »

« En même temps, le rythme rapide du développement technologique et l'étendue des applications potentielles présentent aux décideurs politiques des défis considérables. Le déploiement rapide et incontrôlé de la technologie à grande échelle présente également des risques considérables, notamment des atteintes à la santé mentale des utilisateurs, une utilisation potentielle comme outil destructeur, des impacts sur les systèmes sociaux, économiques et environnementaux, et des défis associés au contrôle de la technologie », a ajouté le Groupe.

L'importance du Groupe

Le Groupe définit les systèmes d'IA comme « des systèmes machines qui, de manière générale, perçoivent, apprennent et agissent. Ils déduisent à partir des entrées comment générer des sorties telles que des prédictions, du contenu, des recommandations, des actions ou des décisions, avec des degrés variables d'autonomie et d'adaptabilité. »

Le Groupe a indiqué que son analyse occupe une position distincte pour trois raisons.

Premièrement, elle part du principe que l'ONU est le principal forum mondial sur les risques transfrontaliers à l'échelle mondiale.

Deuxièmement, le Groupe est un mécanisme onusien doté d'un mandat spécifique pour évaluer scientifiquement l'état, les risques et les capacités de l'IA.

Enfin, le Groupe affirme avoir un mandat scientifique et non politique : « documenter les preuves scientifiques, les consensus et les désaccords, et identifier les lacunes de connaissances qu'il reste urgent de combler. » En fournissant aux gouvernements et aux institutions la base de preuves dont ils ont besoin pour agir au fil du temps, les recommandations du Groupe restent pertinentes pour les politiques sans être prescriptives.

« Ce caractère scientifique devrait rendre ses conclusions comparables entre les régions et résilientes aux cycles politiques », a ajouté le Groupe.

Ce que le Groupe observe et les lacunes existantes

La deuxième section du rapport traite de ce que les preuves montrent concernant l'IA, et le Groupe a formulé les déclarations suivantes relatives à l'IA, étayées par des exemples et des commentaires supplémentaires :

• Les capacités de l'intelligence artificielle progressent plus vite que la capacité à les mesurer ou à les gouverner
• Seule une poignée d'acteurs ont entraîné des modèles d'intelligence artificielle de pointe
• Les entrées et les résultats de l'intelligence artificielle sont géographiquement et linguistiquement inégaux
• Le fossé de l'intelligence artificielle ne concerne pas seulement l'accès, mais aussi la capacité à influencer le développement de l'intelligence artificielle
• Pour que l'intelligence artificielle soit utile, elle doit être soutenue par un environnement favorable
• L'intelligence artificielle agentique représente un changement de niveau en matière de gouvernance (en termes d'opportunités et de risques)
• L'intelligence artificielle peut éroder la réalité partagée
• L'intelligence artificielle transforme les droits humains, y compris les droits des enfants

La troisième section, quant à elle, répertorie les opportunités et les risques potentiels au sein de divers domaines de connaissance.

De manière générale, le Groupe a noté que l'IA « est passée de la reconnaissance passive de formes à un raisonnement actif et à une action autonome. Le domaine progresse rapidement des modèles de raisonnement actuels vers des réseaux agentiques orchestrés et, en fin de compte, des systèmes auto-améliorants. »

Le Groupe a ajouté que l'accès à l'IA ne crée pas automatiquement un bénéfice. Il a précisé que « l'IA conçue à des fins spécifiques et orientée vers des tâches précises génère des gains mesurables et étayés par des preuves dans les domaines de la science, de la santé, de l'éducation et de l'agriculture. Ces gains sont réels mais conditionnels : ils dépendent de la contextualisation locale, d'une infrastructure adéquate et de la préparation humaine. »

De plus, l'IA peut être utilisée de manière positive, mais les gains de son utilisation ne sont pas automatiques. En termes de bénéfices économiques, le Groupe a déclaré que « les gains de productivité nécessitent des investissements complémentaires dans les compétences, les données et la refonte organisationnelle. »

Il a ajouté que « la question centrale non résolue est distributive : qui capte le surplus et que se passe-t-il pour le travail, les économies en développement et les cadres réglementaires construits pour une ère différente dans différentes industries ? »

En termes de sécurité mondiale, le Groupe a également noté que « l'IA peut permettre des opérations nuisibles, devenir une cible d'attaque et amplifier les menaces existantes. » Cela inclut les menaces en matière de cybersécurité, mais le Groupe a également noté que les impacts environnementaux « augmentent de manière significative. »

Le Groupe a également indiqué que l'IA « transforme les droits humains, la démocratie et l'écosystème de l'information à travers des changements au niveau des systèmes qui créent à la fois des opportunités significatives et des risques structurels pour l'intégrité de l'information et la participation civique. » Si ces risques ne sont pas traités, le Groupe a déclaré que la capacité de la société à tirer des bénéfices de l'IA sera compromise.

Il a ajouté, malheureusement, qu'il existe déjà des preuves d'institutions utilisant les capacités de l'IA comme catalyseur ou menace pour les droits humains, tels que la liberté d'expression, l'accès à l'information, la justice, la santé et le développement, ainsi que d'autres droits humains.

La troisième section se termine en affirmant que les décideurs politiques sont confrontés à un dilemme probatoire, où ils pourraient soit prendre des décisions sur la manière dont l'IA devrait être gouvernée avec des bases scientifiques insuffisantes maintenant, soit attendre des preuves, qui pourraient arriver trop tard pour toute intervention utile.

Par ailleurs, la quatrième section du rapport a décrit les lacunes scientifiques — là où la base de preuves sur certains aspects de l'IA reste inégale ou insuffisante, amenant le Groupe à déclarer qu'il ne peut pas encore tirer de conclusions scientifiques fiables à ces égards.

Celles-ci comprennent des preuves non concluantes concernant les effets macroéconomiques et de productivité de l'adoption de l'IA, les aspects environnementaux de l'adoption de l'IA, la chaîne d'approvisionnement mondiale de l'IA, et les effets au niveau individuel et collectif, parmi d'autres lacunes.

Le Groupe a ajouté que la portée du rapport préliminaire n'abordait pas les applications militaires de l'IA et les systèmes d'armes létales autonomes.

Une copie complète du rapport, accompagnée d'un résumé exécutif, est disponible sur cette page. – Rappler.com