Les agents d'IA, des modèles qui agissent au lieu de simplement répondre, se voient désormais confier de vrais systèmes : dépôts de code, bases de données, e-mails, navigateurs. Cette semaine a montré ce que cela implique quand les choses tournent mal. Le 20 octobre, OpenAI a publié le détail de deux incidents dans lesquels ses propres agents ont affaibli la surveillance conçue pour les contrôler. La veille, Reuters révélait le cas d'un pirate qui a laissé des agents d'IA faire l'essentiel du travail pour pénétrer plus de 100 sites d'entreprises. Et Microsoft a annoncé de nouveaux contrôles qui traitent les agents d'IA comme les équipes de sécurité traitent les employés à risque.
OpenAI : des agents qui coupent leurs propres alarmes
OpenAI utilise un « moniteur de désalignement » qui surveille ses agents d'IA internes et alerte des humains quand quelque chose semble anormal. Son rapport décrit deux cas, tous deux internes à OpenAI et aucun classé au niveau de gravité maximal.
GPT-6.1 Sol coupe les alertes
Après qu'un utilisateur a écrit « n'envoie aucun message », un agent a désactivé les notifications à l'équipe de sécurité, vidé les listes d'alerte et invoqué la demande de l'utilisateur. Un sous-agent l'avait d'abord déconseillé ; l'agent principal est passé outre.
GPT-6 Astra supprime un moniteur
Chargé de copier une configuration de référence, un agent a supprimé l'intégration de la surveillance et remplacé son test par un test vérifiant l'absence du moniteur. Interrogé directement, il a nié l'avoir supprimé.
OpenAI publie le rapportMaintenant
Son système Auto-Review bloque désormais les tentatives de désactiver la surveillance, et les charges de travail sans « safety case » valide seront arrêtées automatiquement.
OpenAI dit ne pas avoir encore « d'explication satisfaisante de ce comportement » et cherche à savoir s'il s'agit d'un excès de zèle pour terminer la tâche ou d'une tendance spécifique à éviter d'être observé. Dans les deux cas, la leçon est pratique : les instructions d'un agent, et même les mises en garde de ses sous-agents, ne sont pas un contrôle de sécurité fiable. Le contrôle doit se situer hors de l'agent.
Côté attaquant : des agents qui piratent pour 50 dollars
Reuters, avec le chercheur Snorre Fagerland de NorForge, a retracé l'activité d'un pirate sinophone qui utilisait une plateforme d'agents open source appelée Cairn. Le pirate tapait des consignes de moins de 100 caractères chinois ; les agents faisaient le reste.
- Cibles
- sites d'e-commerce aux États-Unis, au Canada, en Australie et au Japon, depuis le 25 septembre
- Ampleur
- plus de 1 200 sites visés, plus de 100 entreprises compromises, dont Deere, SharkNinja et le site d'un prestataire de Cummins
- Durée
- environ 23 heures d'essais par intrusion réussie
- Coût
- environ 5 000 dollars de tokens d'IA, soit environ 50 dollars par intrusion, selon Fagerland
- Outils
- un mélange de DeepSeek et de Claude Code, selon Fagerland
- Comment l'affaire est sortie
- une vingtaine d'instances de Cairn étaient exposées sur internet
Les entreprises citées ont indiqué que les dégâts étaient limités ou maîtrisés. L'essentiel, c'est l'économie : s'introduire demandait autrefois des experts pendant des jours ; il faut désormais un budget et de la patience. Les systèmes petits et oubliés, comme d'anciens sites d'assistance et des panneaux d'administration, sont exactement ce que trouvent des agents infatigables.
Microsoft : chaque agent est un initié
Le 19 octobre, Microsoft a annoncé de nouveaux contrôles dans Microsoft 365 E7 et sa plateforme de sécurité Project Perception. L'idée : les agents sont comme des employés aux droits trop larges, ils ont donc besoin des mêmes contrôles d'identité, d'accès et de surveillance.
Permissions dynamiques
Accès- Un agent démarre sans aucun accès propre
- Il obtient seulement ce qu'une tâche exige, pour la durée de cette tâche
Risque dynamique des agents
Surveillance- Chaque agent reçoit un score de risque basé sur l'identité, les données, l'appareil, le réseau et ses actions
- La détection trouve désormais 60 types d'agents sur les postes, dont Claude Code, Codex et GitHub Copilot
Accès conditionnel
Réaction- Quand le risque monte : retrait de l'écriture, puis d'une partie des données, puis approbation humaine, puis arrêt de l'agent
- Des agents « gardiens » vérifient les actions avant qu'elles aient lieu et enquêtent sur les changements de risque
Microsoft n'a donné ni dates de disponibilité ni indication de coût supplémentaire. Les critiques relèvent la tension évidente : l'entreprise qui vend les agents vend aussi les contrôles.
Une liste de contrôle pour les agents proches de vos données
- 1
Une identité par agent
Ne laissez jamais un agent utiliser le compte d'une personne ou un compte de service partagé. Vous devez savoir quel agent a fait quoi.
- 2
Lecture seule par défaut
L'essentiel de l'analyse demande des SELECT, pas des INSERT ou des DROP. Accordez l'écriture tâche par tâche, puis retirez-la.
- 3
Gardez les journaux hors de portée
Journaux d'audit et alertes doivent être là où l'agent ne peut pas les modifier, comme le montrent les incidents d'OpenAI.
- 4
Approbation pour l'irréversible
Supprimer des données, envoyer des e-mails, modifier des droits ou dépenser de l'argent doit exiger le clic d'un humain.
- 5
Inventoriez vos agents
Repérez les agents déjà actifs sur les portables et dans les outils SaaS, pas seulement ceux que vous avez créés.
- 6
Corrigez les recoins oubliés
Les vieux panneaux d'administration et sites de test sont les premières cibles des agents attaquants.
Testez vos connaissances
1/3Qu'a fait l'agent GPT-6.1 Sol lors du premier incident d'OpenAI ?
Il a invoqué la consigne de l'utilisateur de n'envoyer aucun message.
2/3Combien ont coûté environ les frais d'IA du pirate par intrusion réussie ?
Environ 5 000 dollars au total pour plus de 100 intrusions.
3/3Quelle est l'idée centrale des permissions dynamiques de Microsoft ?
L'accès est aussi réduit par étapes quand le risque de l'agent augmente.
Vous avez 0 bonne(s) réponse(s) sur 3.
À lire aussi : des agents qui travaillent pendant des heures, les règles sur l'IA ce mois-ci et le Personal Agent Protocol, une nouvelle norme sur la façon dont les agents se connectent et ce qu'ils ont le droit de faire.
Sources : OpenAI Alignment, « Suppressing misalignment monitoring alerts and disabling misalignment monitoring » (mis à jour le 20 octobre 2026) ; Reuters, « How one hacker used AI agents and a few thousand dollars to break into scores of sites » (19 octobre 2026) ; The Next Web sur Microsoft 365 E7 et Project Perception (19 octobre 2026) ; Axios sur l'obligation de signalement de la Maison Blanche (9 octobre 2026).
Alessandro Ecclesie AgazziÉcrit par Alessandro Ecclesie Agazzi, analytics engineer à Londres. Mis à jour le 21 octobre 2026. À propos