IBM lance un nouveau logiciel qui unifie sécurité et de gouvernance de l'IA et fournit une vue unifiée de la posture de risque des entreprises.
Les fonctionnalités du logiciel améliorent et intègrent watsonx.governance et Guardium AI Security pour aider les clients à maintenir leurs systèmes d'IA, y compris les agents, sécurisés et responsables, à grande échelle. watsonx.governance est l'outil de gouvernance de l'IA de bout en bout d'IBM et Guardium AI Security est l'outil d'IBM pour sécuriser les modèles, les données et l'utilisation de l'IA. Cette intégration prend en charge les processus des utilisateurs pour valider les normes de conformité par rapport à 12 référentiels différents, dont l'EU AI Act et la norme ISO 42001.
IBM intègre également de nouvelles fonctionnalités à Guardium AI Security, dans le cadre d'une collaboration avec AllTrue.ai, notamment la capacité de détecter de nouveaux cas d'usage de l'IA dans les environnements Cloud, les référentiels de code et les systèmes embarqués, apportant ainsi une visibilité et une protection étendues dans un écosystème de l'IA de plus en plus décentralisé. Une fois identifié, IBM Guardium AI Security peut déclencher automatiquement les processus de gouvernance appropriés depuis watsonx.governance.
Récemment Guardium AI Security a intégré des fonctions d’opérations de « Red Team » automatisées pour aider les entreprises à détecter et à corriger les vulnérabilités et les mauvaises configurations dans les cas d'usage de l'IA. Et pour aider à atténuer les risques tels que l'injection de code, l'exposition de données sensibles et la fuite de données, l'outil permet aux utilisateurs de définir des politiques de sécurité personnalisées qui analysent à la fois les prompts d'entrée et de sortie. Ces fonctionnalités sont disponibles dès à présent dans IBM Guardium AI Security et leur intégration avec watsonx.governance sera déployée tout au long de l'année.
Des nœuds d'évaluation peuvent être intégrés directement aux agents, ce qui permet aux utilisateurs de surveiller attentivement des paramètres tels que la pertinence de la réponse, la pertinence du contexte et la fidélité - et d'aider à identifier la cause d'une mauvaise performance. Les fonctionnalités futures prévues comprennent également l'évaluation des risques liés à l'intégration des agents, une formalisation d'audit des agents et un catalogue d'outils agentiques, qui devraient être disponibles le 27 juin.
