Dreadnode développe une plateforme d’IA offensive qui permet d’évaluer la sécurité des systèmes d’intelligence artificielle et d’explorer leur potentiel lorsqu’ils sont utilisés par des acteurs malveillants. Un prérequis essentiel pour ensuite développer des défenses efficaces.
Spécialisée dans les solutions d’IA offensive, la startup Dreadnode a annoncé avoir bouclé un tour de table en série A de 14 millions de dollars. L’opération a été menée par Decibel, avec la participation de Next Frontier Capital, In-Q-Tel (IQT), Sands Capital et Indie VC.
Fondée en 2023 par Will Pearce, ex-responsable des équipes de red teaming IA chez Microsoft et NVIDIA, et Nick Landers, ingénieur en sécurité offensive reconnu et auteur des formations Dark Side Ops, Dreadnode développe des outils d’évaluation de la sécurité des systèmes d’IA. Ses solutions permettent de tester la robustesse des modèles et d’analyser leur comportement lorsqu’ils sont attaqués ou utilisés à des fins malveillantes.
Sa plateforme est destinée aux experts en cybersécurité, aux chercheurs et aux développeurs de modèles. Elle embarque trois outils principaux. Strikes évalue et teste les capacités des IA en matière de cybersécurité. Il permet également de générer des données d’entraînement pour les modèles et agents. Spyglass se concentre sur le red teaming IA, identifie les vulnérabilités des systèmes et aide à la prise de décision pour sécuriser les déploiements. Crucible est une sandbox pour les professionnels de la cybersécurité souhaitant tester et perfectionner leurs compétences en red teaming IA. Il propose 65 défis de hacking IA.
