L’émergence des agents d’intelligence artificielle (IA) dans le monde professionnel bouleverse les pratiques. Cependant, cette révolution technologique soulève également des questions cruciales sur la sécurité des données et la gouvernance. Le rapport Cyber Pulse de Microsoft révèle des enjeux majeurs liés à la prolifération des agents d’IA non autorisés, notamment dans les grandes entreprises. Découvrez comment cette tendance pourrait compromettre la sécurité des entreprises et quelles mesures sont recommandées pour y faire face.
L’essentiel à retenir
- Plus de 80 % des entreprises du Fortune 500 utilisent des agents d’IA actifs, souvent créés sans autorisation.
- Les agents d’IA peuvent avoir accès à des données sensibles, échappant parfois à tout contrôle des directions informatique.
- Microsoft préconise d’appliquer des principes de sécurité stricts, similaires à ceux des employés humains, pour encadrer l’usage des agents d’IA.
Prolifération des agents d’IA dans les entreprises
Les agents d’IA se répandent rapidement dans divers secteurs, tels que les services financiers, l’industrie manufacturière et le commerce de détail. Ces outils, souvent développés via des plateformes low-code, permettent d’automatiser des tâches répétitives, de trier des alertes de sécurité ou d’analyser des données sensibles. Cependant, leur utilisation échappe fréquemment au contrôle des départements informatiques, posant des risques importants pour la sécurité des données.
La menace des agents non autorisés
Une enquête menée auprès de 1 700 professionnels de la sécurité des données révèle que près d’un tiers des employés utilisent des agents d’IA sans validation préalable de leur entreprise. L’absence de contrôle approprié permet aux employés de créer des agents capables d’accéder à des informations critiques. Ces agents peuvent devenir des « agents doubles » involontaires, manipulés par des cyberpirates exploitant des failles de sécurité comme l’empoisonnement de la mémoire.
Recommandations pour une gouvernance efficace
Pour contrer ces menaces, Microsoft recommande d’adopter des stratégies de sécurité basées sur le modèle Zero Trust, qui inclut le principe du moindre privilège et une vérification explicite. Les organisations doivent mettre en place un registre centralisé pour tous les agents, qu’ils soient autorisés ou non. La gouvernance de l’IA ne doit pas se limiter au département informatique; elle doit impliquer l’ensemble des services d’une entreprise, y compris les ressources humaines, la conformité et la direction.
Microsoft : un acteur clé dans la sécurité des données
Microsoft, entreprise de renommée mondiale, joue un rôle prépondérant dans le domaine de la sécurité des données. Avec son rapport Cyber Pulse, elle met en lumière les défis liés à l’utilisation des agents d’IA dans le milieu professionnel. Microsoft s’efforce de sensibiliser les entreprises à l’importance d’une gouvernance rigoureuse pour protéger leurs données sensibles. Face à des concurrents tels que Google et Amazon, Microsoft continue d’innover pour proposer des solutions de sécurité robustes et adaptées aux besoins des entreprises modernes.