HPE a annoncé sa participation au projet PANAME (Privacy Auditing of AI Models), initiative portée par un consortium public réunissant la CNIL, l'ANSSI, le PEReN et Inria (projet IPoP, PEPR Cybersécurité).
Les organisations qui développent ou déploient des modèles entraînés sur des données personnelles doivent désormais être en mesure de démontrer leur conformité au RGPD, non pas par une simple déclaration, mais par des tests techniques rigoureux et reproductibles.
C'est précisément l'objectif de PANAME : fournir une bibliothèque logicielle open source, standardisée, permettant de réaliser différentes analyses d'attaques complémentaires, comme les attaques par inférence d'appartenance qui visent à déterminer si une donnée personnelle a été utilisée pour entraîner un modèle donné et les attaques par reconstruction qui évaluent la capacité d'un modèle à résister à des tentatives de reconstruction de ses données d'entraînement. La participation de HPE au projet PANAME est portée par le Trust Office HPE France, dont la mission est d'accompagner les organisations dans leurs enjeux de conformité, d'éthique et de souveraineté numérique. Les tests sont menés par l'équipe des architectes de solutions de l'AI Factory Lab, en collaboration avec les équipes HPE Advisory & Professional Services (A&PS), qui conseillent et accompagnent les entreprises dans la conception et l'exécution de leurs projets de transformation IA, de l'architecture à la mise en production.
Dans le cadre de la phase de test en cours, HPE travaille à l'exécution de PANAME sur un large panel de modèles et à la remontée structurée de feedbacks au consortium, portant notamment sur l'intégration technique et la robustesse de l'outil face à des configurations d'entreprise. À terme, HPE entend proposer un service d'audit automatisé intégré à HPE AI Factory. Les équipes data science pourront ainsi inclure une étape d'audit de conformité RGPD directement dans leur pipeline de développement et de mise en production des modèles.
