Le groupe scientifique indépendant des Nations Unies sur l'intelligence artificielle a souligné mercredi 1er juillet la nécessité d'un corpus mondial commun de preuves sur la technologie, affirmant que la science et la compassion devraient guider les efforts visant à comprendre les avantages et les risques de l'IA, alors que les gouvernements réfléchissent à la manière de gouverner son développement rapide.

Les coprésidents du groupe, Yoshua Bengio et Maria Ressa, ont déclaré lors d'un briefing dirigé par le Secrétaire général de l'ONU António Guterres qu'une base de connaissances commune était nécessaire pour soutenir une élaboration de politiques sur l'IA fondée sur des données probantes.

Cette base de connaissances commune et évolutive vise à aider les décideurs politiques à transformer la science en action partagée.

Play Video

Comme l'a noté Guterres dans son discours d'ouverture lors du briefing sur le rapport préliminaire : « Plus l'IA progresse sans règles communes, moins les gouvernements et les citoyens auront leur mot à dire sur les résultats. »

Le rapport préliminaire du groupe, a déclaré Ressa, « est la meilleure preuve disponible, en ce moment, dans un domaine qui évolue plus vite que n'importe lequel d'entre nous ne peut en écrire. Les chiffres que nous rapportons courent jusqu'en mai — et dans ce domaine, cela semble déjà loin. »

Bengio a quant à lui déclaré que la puissance croissante de l'IA « peut débloquer de grands avantages si nous agissons avec sagesse, mais elle peut aussi conduire à de nombreux périls si certains sont imprudents ou cherchent à abuser de la puissance de l'IA pendant que la plupart d'entre nous restent passifs. »

Bengio a poursuivi en disant que « les décisions prises aujourd'hui concernant l'IA auront des conséquences durables pour les individus, les entreprises, les institutions, et même la démocratie dans son ensemble », mais que « la science et la compassion doivent rester notre boussole, et l'humanité doit veiller à ne pas être déviée de sa trajectoire par les vents commerciaux ou géopolitiques qui peuvent souffler fort de toutes parts ».

Ressa a ajouté que si un avenir avec l'IA comporte de nombreux risques et opportunités, cet avenir n'est pas encore déterminé. « La chose la plus surprenante que j'ai apprise au sein de ce groupe était celle-ci : la partie la plus difficile n'était pas les différences entre les nations. Des scientifiques de chaque région — à travers toutes les divisions que vous pouvez imaginer — ont examiné les mêmes preuves et sont arrivés au même endroit. La science nous a donné un langage commun que la politique ne peut souvent pas offrir », a-t-elle expliqué.

Ressa a ajouté : « Si quarante d'entre nous — des inconnus en février — peuvent tenir cette ligne ensemble, alors les gouvernements le peuvent aussi. La fenêtre pour agir est ouverte. Ce rapport est le terrain commun à partir duquel agir. »

Attention sociétale, investissement dans la recherche académique

Interrogé sur ce qui pourrait être nécessaire pour aider à renforcer la base de preuves afin que les décideurs politiques puissent prendre de meilleures décisions, Bengio a expliqué qu'une plus grande attention sociétale, pas seulement dans les médias, mais aussi en termes d'investissement dans des études indépendantes sur les impacts de l'IA, pourrait aider.

Bengio a déclaré : « En ce moment, la majeure partie de l'argent dans l'IA est entre des mains privées, et l'intérêt pour ce qui est nécessaire… cela peut être un objectif différent. C'est quelque chose que les organisations publiques comme les universités ont une longue tradition d'investigation. »

Ressa a quant à elle esquissé trois éléments qui pourraient contribuer à cet effort.

L'accès indépendant aux mesures était un aspect. « En ce moment, les personnes qui peuvent voir comment les systèmes se comportent dans le monde réel sont les développeurs, et tout le monde obtient ce qu'ils choisissent de partager. Donnez aux statisticiens officiels et aux évaluateurs indépendants un accès préservant la vie privée et vous pourrez enfin mesurer les effets économiques et sur le travail au lieu de faire des prévisions sur un ordre de grandeur », a-t-elle dit.

Deuxièmement, Ressa a mentionné la normalisation des rapports sur l'environnement, c'est-à-dire une norme commune pour rendre compte des questions environnementales, comme la détermination des empreintes énergétiques et hydriques, à l'ère de l'IA.

Ressa a également cité le troisième aspect, qui est la capacité ou l'aptitude à effectuer ces mesures scientifiques. Ressa a déclaré : « Elle doit exister en dehors de la poignée de pays où l'IA est construite, sinon la base de preuves reste aussi concentrée que la technologie. »

Le rapport préliminaire du Groupe scientifique international indépendant sur l'intelligence artificielle sert de référence et de point de départ, et ne doit pas être considéré comme le dernier mot sur les effets de l'IA. – Rappler.com