Anthropic s'installe à Londres alors que la programmation assistée par l'IA — et les inquiétudes qu'elle suscite — se généralisent

Bienvenue dans Eye on AI. Ici Beatrice Nolan, en remplacement de la journaliste IA Sharon Goldman. Au sommaire aujourd'hui : Claude d'Anthropic arrive à Londres… l'IPO imminente d'OpenAI… la bataille syndicale de Google DeepMind… et les dépenses mondiales en IA en bonne voie pour atteindre 2 590 milliards de dollars cette année.

La majeure partie de l'équipe dirigeante d'Anthropic a traversé l'Atlantique cette semaine. Le laboratoire d'IA organise une série d'événements au Royaume-Uni, commençant par Code with Claude London ce mardi.

L'entreprise a profité de l'événement pour déployer de nouvelles fonctionnalités pour ses agents Claude, notamment des environnements de test permettant aux entreprises d'exécuter des agents sur leur propre infrastructure, et des « tunnels MCP » permettant à ces agents d'accéder aux systèmes internes sans toucher à l'internet public. En bref, de nouvelles façons pour les entreprises d'avoir plus de contrôle et plus de sécurité — une tentative possible pour apaiser les inquiétudes des directions générales face à une IA non gouvernée. 

L'événement de Londres, premier rassemblement dédié aux développeurs d'Anthropic en Europe, souligne à quel point la ville est devenue centrale pour l'écosystème de l'IA, gagnant encore en importance ces derniers mois. Des poids lourds tels qu'OpenAI, Anthropic et le laboratoire d'IA de Jeff Bezos, Project Prometheus, ont tous annoncé leur projet d'implanter une présence substantielle dans la ville. L'événement Claude d'Anthropic a été massivement surdemandé, avec un mélange de clients entreprises, d'employés de startups et de passionnés de Claude affluant dans le lieu en bord de rivière malgré la pluie. 

Des ingénieurs de startups m'ont dit qu'ils utilisaient Claude Code et des outils similaires au quotidien. S'inquiètent-ils du risque existentiel que cela pourrait poser pour leurs emplois ? Certainement. Mais ils préfèrent un mal connu à un inconnu, ont-ils dit. Il y a eu quelques plaintes concernant les récents problèmes de performance de Claude et la réponse peu convaincante d'Anthropic, mais dans l'ensemble, les gens étaient plutôt satisfaits du produit. (Ce à quoi on pouvait s'attendre, peut-être, lors d'un événement Anthropic.)

Les clients entreprises étaient plus nuancés. Alors que certains adoptaient la technologie corps et âme, d'autres affirment que le déploiement a été plus lent. Il subsiste une certaine incertitude quant à ce qu'il faut automatiser et quand, où un humain est nécessaire dans la boucle, et ce qui peut être confié en toute sécurité aux outils d'IA. Il faut également accompagner dans une certaine mesure les directions générales. Toutes ces questions deviennent beaucoup plus pressantes lorsqu'il s'agit de secteurs hautement réglementés comme la santé ou la banque. 

La responsable de l'ingénierie chez Anthropic, Fiona Fung, a donné quelques conseils à ceux qui se demandent par où commencer pour automatiser avec Claude Code : « Choisissez votre flux de travail le plus bruyant… et demandez-vous s'il remplit toujours son objectif. Si c'est quelque chose de vraiment coûteux, est-ce quelque chose que Claude peut gérer ? »

La principale conclusion de l'événement : le génie logiciel connaît un changement de garde, le travail fastidieux d'écriture de code étant de plus en plus pris en charge par l'IA, tandis que les humains se concentrent sur les décisions de plus haut niveau et le maintien des systèmes sur la bonne voie. Coder tout à la main commence à ressembler moins à un emploi quotidien et plus à un métier de niche.

Boris Cherny, responsable de Claude Code chez Anthropic, m'a dit qu'il s'est toujours plus intéressé au résultat du travail qu'aux détails de l'écriture du code, et que de nombreux ingénieurs ressentent la même chose aujourd'hui — ils sont heureux de laisser l'IA gérer la majeure partie du codage tant que le résultat commercial est meilleur. Certains ingénieurs regrettent ce savoir-faire, a-t-il reconnu, ajoutant que certains membres de l'équipe continuent d'écrire du code à la main le week-end simplement parce que ça leur manque. Tout comme la photographie argentique, Cherny pense qu'il y aura toujours une place pour ce type de travail.

« J'achète mes légumes sur les marchés de producteurs », a déclaré Cherny. « Il y a toujours une place pour ça. »

Avancées de l'IA, risque existentiel et thérapie par l'IA

Pendant ce temps, le cofondateur d'Anthropic, Jack Clark, s'est rendu à l'université d'Oxford pour aborder certaines des questions philosophiques plus profondes posées par la technologie que l'entreprise développe. Dans une conférence large et souvent franche, Clark a abordé des sujets allant des possibilités de découvertes aidées par l'IA dignes d'un prix Nobel à l'utilisation des outils de son entreprise pour la santé mentale. Ah, et les « chances non nulles » que l'IA tue tout le monde sur la planète. 

Il a également soutenu que le rythme des progrès s'accélère au point que la société pourrait avoir du mal à suivre, avertissant que la concurrence géopolitique et commerciale rend peu probable un ralentissement du développement, même si cela pourrait être plus sûr.

Clark a également révélé qu'il avait suivi une thérapie en partie parce qu'il utilisait Claude pour parler de certaines de ses difficultés personnelles, et que le chatbot l'a poussé à chercher des conseils professionnels. 

Les systèmes d'IA doivent être conçus pour faire exactement cela, a-t-il soutenu — inciter les gens à arrêter de les utiliser et à chercher un contact humain réel. Cependant, pour y parvenir avec succès, les entreprises d'IA devront peut-être être attentives à la manière dont elles conçoivent ces outils à un niveau supérieur. Les chatbots d'IA ont tendance à être obséquieux par défaut, et plusieurs études récentes ont montré comment cette tendance peut renforcer des pensées nuisibles ou une confiance excessive si elle n'est pas contrôlée.

Plus tard cette semaine, les dirigeants d'Anthropic, dont le PDG Dario Amodei, se rendent dans la campagne anglaise pour un forum exclusif de PDG destiné aux dirigeants européens. L'événement vise à aider les entreprises à comprendre comment elles peuvent adopter la technologie de la société. Ce qu'ils pourraient avoir plus de mal à gérer, c'est la pression inévitable des dirigeants européens avides d'accéder à Mythos — le modèle d'Anthropic jugé trop dangereux pour être publié et qui n'a jusqu'à présent fait l'objet que d'un déploiement international limité, principalement auprès de partenaires américains.

Sur ce, voici d'autres actualités sur l'IA.

Beatrice Nolan
bea.nolan@fortune.com
@beafreyanolan

Cet article a été initialement publié sur Fortune.com