Le spécialiste de la chaîne d’approvisionnement logiciel simplifiera ainsi la gestion des modèles IA et leur sécurisation au cours des processus de développement.
JFrog muscle son offre en matière d’IA. Le spécialiste des solutions DevSecOps et MLOps, annonce son ainsi des intégrations avec Nvidia Inference Microservices (NIM), une brique clé de la plateforme Nvidia AI Enterprise, et Hugging Face. Ces intégrations permettent aux entreprises de déployer et gérer plus facilement leurs modèles d’intelligence artificielle (IA), en particulier les grands modèles de langage (LLM) comme Llama 3 de Meta et Mistral AI, tout en garantissant des standards de sécurité et de gouvernance élevés.
Concrètement, l’intégration avec NIM donne aux data scientists et ingénieurs ML la possibilité de versionner, de sécuriser et de déployer leurs modèles IA en s’appuyant sur les mêmes workflows DevSecOps de JFrog. Ils éliminent ainsi le recours à des outils ML distincts et assurent l’auditabilité et la conformité via JFrog Curation. La plateforme intègre par ailleurs des scans de sécurité continus sur les modèles IA, les conteneurs et leurs dépendances. En s’appuyant sur Nvidia AI Enterprise, JFrog optimise par ailleurs les performances des applications d’intelligence artificielle avec une latence réduite tout en permettant le déploiement sur des environnements variés, allant du multi-cloud aux environnements isolés. En intégrant Nvidia NIM dans sa plateforme, JFrog permet également aux développeurs d’accéder à Nvidia NGC qui référence les différents modèles pour l’apprentissage profond, le Machine Learning et le HPC.
Côté Hugging Face, le partenariat permet d’intégrer à la plateforme les scans JFrog Advanced Security au Hugging Face Hub. Chaque modèle contenu dans la plateforme pourra ainsi être scanné avant d'être téléchargé pour utilisation. Cette nouvelle intégration de sécurité avancée entre Hugging Face et JFrog se distingue grâce à la décompilation de code malveillant et à l’analyse approfondie des flux de données de JFrog.
