Intégré au Security Command Center de Google Cloud, AI Protection permet de découvrir les actifs et ressources d’IA présents dans l’environnement cloud de l’entreprises, les sécuriser et gérer les risques et menaces associées.
Le développement rapide de l’IA et de l’IA générative ces dernières années, et leur intégration tout aussi rapide dans l’écosystème des entreprises, soulèvent des problématiques en matière de sécurité. Si bien que ceux qui développent ces mêmes solutions, se proposent de mieux les sécuriser. Google Cloud a annoncé, mercredi 5 mars, le lancement de AI Protection, une solution de gestion des risques IA qui vise à protéger les charges de travail et les données d’IA sur différents modèles et environnements clouds.
Intégré à la plateforme de gestion des risques multi-cloud, Security Command Center, de Google Cloud. L’outil va être en mesure d’identifier automatiquement les actifs d’IA, et analyser les vulnérabilités. Il sécurise les actifs en y appliquant des contrôles et des garde-fous. Il embarque également des capacités de détection, d’investigation et de réponse.
Des recommandations de remédiations
« Comprendre quelles données alimente les applications IA et comment elles sont protégées est primordial. Sensitive Data Protection (SDP) étend désormais la découverte automatisée des données aux jeux de données Vertex AI, vous aidant à comprendre la sensibilité et le type des données utilisées pour l’entraînement et l’ajustement des modèles. », développe Google Cloud dans son billet blog. Une fois les données sensibles identifiées, le SCC va mener des campagnes de red teaming afin d’identifier les combinaisons toxiques, et les chemins exploitables par des acteurs de la menace pour compromettre des données critiques. AI Portection produit des recommandation et mesures correctives pour corriger les vulnérabilités identifiées.
La fonctionnalité multi-modèles et multi-cloud, Model Armor protège également contre les techniques d’attaques des modèles d’IA générative, telles que l’injection de prompts, le jailbreak des modèles, les fuites de données sensibles, les URLs malveillantes ou le contenu offensant. Le SCC peut en outre identifier les tentatives d’accès initial, l’escalade de privilèges et les tentatives de persistances sur les workflows d’IA. De nouvelles capacités d’identification et de gestion des attaques en temps réels tels que le hijacking de modèles fondamentaux seront bientôt ajoutés a indiqué Google Cloud.
