Goldman Sachs retire les agents de code IA à ses traders : copiez la politique, pas la panique

En juillet, le directeur des systèmes d'information de Goldman Sachs saluait les traders et banquiers qui créaient leurs propres outils grâce à l'IA. En octobre, la plupart d'entre eux avaient perdu l'accès aux agents de code IA qui le permettaient. Des consignes internes réservent désormais Claude Code d'Anthropic et GitHub de Microsoft aux ingénieurs de la banque, selon Bloomberg, résumé par State of AI.

On pourrait y voir une simple histoire de grande banque prudente. C'est plus utile comme modèle pour toute entreprise qui doit décider qui utilise quels outils d'IA.

En bref

• Goldman n'a pas interdit l'IA. La banque a séparé les assistants conversationnels, ouverts à tous, des agents qui écrivent et exécutent du code, désormais réservés aux ingénieurs.
• Le risque n'est pas le modèle. C'est du code non relu qui tourne avec tous les accès d'un salarié aux fichiers et aux données clients.
• Rédigez votre politique d'IA par métier et selon ce que l'outil peut toucher, avant que vos équipes ne la décident à votre place.

Ce que Goldman a vraiment changé

D'après l'article, les traders utilisaient ces outils pour suivre les flux de leurs clients, modéliser les mouvements de marché et les positions, et produire des documents écrits et graphiques. Les « strats », qui travaillent entre trading, recherche et ingénierie, ont gardé l'accès. L'assistant IA interne de Goldman, qui s'appuie sur des modèles de plusieurs fournisseurs, reste disponible dans toute la banque.

La ligne n'est donc pas « IA ou pas d'IA ». Les quelque 12 000 développeurs de la banque, sur environ 47 000 salariés, peuvent utiliser des agents qui écrivent et exécutent du code. Les autres gardent un assistant qui répond et rédige, mais qui ne lance pas de programmes sur leur machine.

Un porte-parole a expliqué que la banque met des outils d'IA à disposition de ses équipes « pour déterminer les meilleurs cas d'usage ». Autrement dit : tester largement, puis trancher.

Pourquoi un agent de code n'est pas un chatbot

Un agent de code lit des fichiers, écrit des programmes et les exécute, généralement avec les mêmes accès que la personne qui l'utilise. Quand un ingénieur écrit du code de cette façon, celui-ci passe normalement par une relecture et des tests avant de toucher quoi que ce soit d'important.

Quand un trader crée un script pour surveiller les flux clients, il peut finir utilisé tous les jours sans aucun de ces contrôles. Personne ne sait peut-être vraiment comment il gère les cas inhabituels. Sur une salle des marchés, cela peut signifier des pertes. Dans votre entreprise, ce pourrait être une macro de tableur qui envoie discrètement la mauvaise liste de clients, ou une automatisation qui lit tous les dossiers RH parce que son auteur le pouvait.

La question du coût que personne ne budgète

Les agents sont facturés à l'usage, et l'article note que plusieurs entreprises qui les ont donnés à tout le monde ont vu leurs dépenses grimper. Amazon a fermé un classement interne après que des salariés ont fait tourner des agents sur des tâches inutiles pour y monter.

Voici un budget d'illustration. Une entreprise de 40 personnes offre un abonnement à un agent IA à 30 d'entre elles, à environ 29 dollars par mois chacune, le montant que l'article cite pour l'allocation d'Accenture par salarié. Cela fait 870 dollars par mois, soit plus de 10 000 dollars par an, avant d'avoir mesuré ce que cela rapporte. Le réserver aux 8 personnes qui ont des cas d'usage clairs et répétés coûte 232 dollars par mois, et c'est beaucoup plus facile à contrôler.

Une politique en trois lignes, à écrire cette semaine

• Tout le monde : un assistant conversationnel approuvé pour rédiger, résumer et rechercher, avec une règle claire sur les données clients qu'on peut y coller.
• Certains métiers : des agents qui automatisent des tâches, pour les personnes qui ont un cas d'usage défini et quelqu'un qui relit ce qu'elles construisent.
• Ingénieurs uniquement : des agents qui écrivent et exécutent du code sur les systèmes de l'entreprise, dans le processus normal de relecture et de tests.

Décidez ensuite ce que chaque outil a le droit de lire. Un agent ne peut divulguer ou casser que ce à quoi il a accès : la politique d'IA la plus sûre commence donc par des droits d'accès bien rangés sur vos documents. C'est là qu'intervient Holol-GED : une gestion documentaire sécurisée et consultable, pour que contrats, dossiers RH et fiches clients soient protégés par des règles d'accès claires au lieu de dormir sur un partage que n'importe quel outil peut lire.

Tester largement, puis tracer des lignes

Goldman a laissé des milliers de personnes expérimenter, a appris où les outils étaient utiles, puis a tracé des lignes par métier. C'est aussi le bon ordre pour une entreprise de 30 personnes. Simplement, ne sautez pas la deuxième étape.

Sources

• State of AI, d'après Bloomberg : Goldman Sachs Is Pulling Claude Code From Its Bankers and Traders (discussion sur Hacker News)