Agents IA pour l'entreprise

Les agents d’IA pour l’entreprise ne sont pas impressionnants parce qu’ils agissent de façon autonome. Ils ont de la valeur parce qu’ils agissent de façon autonome dans des limites que vous pouvez défendre.

Le mot « agent » rend les fonctions risques nerveuses, et elles ont raison de l’être. Un agent capable de mener des actions dans le monde (émettre un remboursement, envoyer un message, modifier un enregistrement) est un système dont les erreurs ont des conséquences. La tâche d’ingénierie n’est pas de supprimer les limites qui le rendent sûr. C’est de rendre ces limites explicites, appliquées et auditables.

L’autorité est une décision de conception

Chaque agent devrait avoir une limite d’autorité écrite : l’ensemble des actions qu’il est autorisé à mener seul, et celles qu’il doit escalader. Un agent qui examine des sinistres d’assurance pourrait rédiger et approuver des sinistres courants dans les termes du contrat, mais jamais en refuser un. La limite n’est pas une restriction ajoutée plus tard. C’est la première chose que vous concevez, car elle détermine tout le reste.

Un agent a de la valeur parce qu’il agit de façon autonome dans des limites que vous pouvez défendre.

Journalisez chaque action et son raisonnement

Pour une entreprise, une action qui n’a pas été journalisée n’a, dans les faits, pas eu lieu : impossible de l’examiner, de la défendre ou d’en tirer des leçons. Chaque action d’un agent devrait être inscrite dans un registre immuable, avec le raisonnement qui y a conduit. C’est ce qui vous permet de répondre à la question que tout audit finit par poser : pourquoi le système a-t-il fait cela, et qui en est responsable.

La voie d’escalade est une fonctionnalité

Le passage à un humain n’est pas un échec de l’agent. C’est l’agent qui fonctionne comme prévu. Un agent bien construit résout la majorité courante et achemine le reste, avec tout le contexte joint, vers une personne qui peut décider. Concevez cette voie en premier, rendez-la rapide, et l’agent devient un multiplicateur de force pour votre équipe plutôt qu’un risque à gérer.

Gagnez l’autonomie

La façon la plus sûre de déployer un agent est de commencer petit et de le laisser gagner en périmètre. Débutez par une tâche délimitée, en mode observation si les enjeux sont élevés, et mesurez la fiabilité au regard de la vérité terrain. N’élargissez l’autorité que dans la mesure où les preuves le justifient. L’autonomie accordée par confiance, c’est ainsi que surviennent les incidents ; l’autonomie gagnée sur des données, c’est ainsi que se construisent des systèmes durables.