Citi, Ford et Experian partagent leurs stratégies pour faire évoluer les Agents d'IA à grande échelle

« Pour pouvoir faire confiance, vous devez pouvoir voir ce qui se passe. » Cette maxime apparemment simple est au cœur des déploiements d'IA actuels dans le paysage des entreprises, selon Laura Heisman, directrice marketing de Dynatrace.

« C'est probablement la plus grande conversation que tout le monde a dans tous les secteurs. Nous l'entendons de nos clients chaque jour », a déclaré récemment Heisman lors d'un panel à la conférence Brainstorm Tech de Fortune. « La grande question est : pouvez-vous lui faire confiance ? Est-ce exact ? Et si c'est faux, pouvez-vous l'arrêter ? »

Alors que les entreprises envisagent de laisser les agents d'IA enchaîner des séquences de tâches, chacune basée sur la sortie de modèles d'IA, la confiance est plus importante que jamais. Et la seule façon de construire cette confiance, selon Heisman et d'autres dirigeants d'entreprise présents sur le panel, est d'intégrer visibilité et contrôle dans les systèmes. 

« Pour nous, la visibilité et la traçabilité ne sont pas facultatives, elles sont fondamentales. C'est ainsi que nous examinons chaque décision », a déclaré Nikhil Joshi, directeur des systèmes d'information de la division marchés de Citi, le géant financier qui déplace des milliers de milliards de dollars chaque jour dans plus de 100 pays.

Citi a passé une grande partie de 2024 à construire une base technologique centralisée pour toutes ses applications et ses agents, a indiqué Joshi. Cette base a rendu l'entreprise beaucoup plus à l'aise pour intégrer des agents en production. 

« Il n'y a qu'une seule façon de déployer un agent chez Citi, et c'est via ce cadre central », a déclaré Joshi. « Cela signifie que chaque agent est enregistré par ce processus, chaque agent est surveillé, chaque agent est audité, chaque agent est gouverné. » 

À une époque où tout le monde semble foncer à toute vitesse dans l'IA, le système technologique délibératif et centralisé de Citi pourrait sembler trop conservateur pour certains. Mais, a dit Joshi, cela vous aide en réalité à avancer plus vite sur le long terme. « Être conservateur en matière d'IA n'est pas une mauvaise expression », a-t-il déclaré.

Kathleen Peters, directrice de l'innovation d'Experian, a abondé dans ce sens et a expliqué comment l'entreprise de rapports de crédit à la consommation a créé un système pour gérer les différents agents déployés, en suivant la provenance de chaque agent, l'employé humain qui a créé l'agent, et les autorisations spécifiques d'accès aux données ou d'exécution de tâches dont dispose chaque agent.

« Lorsque tout le monde dans l'écosystème peut comprendre ces éléments, vous construisez la confiance qui vous permet de faire évoluer et d'avancer rapidement », a déclaré Peters.

Dans l'industrie automobile, où le délai moyen pour introduire un nouveau véhicule, de la conception à la production, peut prendre des années, Ford utilise l'IA pour accélérer certaines parties du processus et pour « échouer vite », a déclaré Sammy Omari, directeur exécutif des systèmes d'aide à la conduite avancée et de l'infodivertissement embarqué chez Ford Motor Company. 

La clé, selon Omari, est de mettre en place les bonnes garde-fous.

À titre d'exemple, Omari a indiqué que des employés non ingénieurs, comme les designers, peuvent désormais contribuer à l'écriture de code informatique pour de nouvelles fonctionnalités de voiture développées grâce à des outils de « vibecoding » alimentés par l'IA. Cela accélère le temps nécessaire pour voir à quoi ressemble la nouvelle fonctionnalité dans une version de test de la voiture, et pour rapidement abandonner l'idée si elle ne fonctionne pas. Si l'idée s'avère concluante, les ingénieurs écrivent alors le code from scratch, et ce code est intégré dans la voiture livrée aux consommateurs. Le vibecoding du designer ne servait que de preuve de concept initiale. 

« Donc la vitesse réelle de mise sur le marché va s'accélérer », a déclaré Omari, « mais le processus de QA à la fin, avant que nous livrions réellement quelque chose au client, n'a pas nécessairement changé. »

Cet article a été initialement publié sur Fortune.com