Le vénérable éditeur, après 50 années d’activités, s’attaque à l’épineux sujet de l’éthique dans l’IA et soutient totalement les projets de régulation, dès lors qu’ils veulent garantir des modèles non biaisés, transparents et responsables.
A l’occasion de leur passage à Paris, Bryan Harris et Reggie Townsend, respectivement Chief Technology Officer et VP chargé de la Data Ethics Practice de SAS, nous ont entretenu des travaux du vénérable spécialiste de la donnée, notamment autour de l’IA. Evidemment, le premier sujet de conversation portait sur les rumeurs de rachat et les projets d’introduction en bourse de l’entreprise.
« Les rumeurs [de rachat] ont préoccupé nos clients » nous confirme Bryan Harris. D’où cette volonté de « devenir « IPO-ready » », afin de restaurer la confiance de ses utilisateurs envers la vénérable entreprise. Laquelle assure n’avoir guère à prouver : le CTO souligne qu’elle est dans le vert depuis ses débuts, n’a aucune dette et affiche 2,2 milliards de dollars de revenus.
SAS n’est d’ailleurs pas concerné par les réductions massives d’effectifs auxquelles procèdent bon nombre d’entreprises de la tech. Toujours dirigée par ses fondateurs, la société a évité le « sur-investissement », se refusant notamment à céder à la multiplication effrénée des recrutements qu’on a pu observer lors de la crise sanitaire. L’objectif étant de « croître correctement ». Mais être « IPO-ready », « c’est aussi se donner les moyens de procéder à de nouvelles acquisitions et d’accélérer l’innovation » ajoute-t-il.
IA transparente et responsable
Et l’innovation, ces derniers temps, tourne surtout autour de l’intelligence artificielle. Notamment l’IA générative, à la Bard ou ChatGPT. Conscient de l’explosion des algos et autres modèles, SAS a récemment renforcé sa Data Ethics Practice grâce à son programme Data for Good. L’entreprise veut que l’IA soit éthique, puisqu’elle est bien partie pour rester et « être disruptive », « il faut donc se demander comment on veut qu’elle ait un impact », nous explique Bryan Harris. SAS propose ainsi de la gestion de modèles, ou model management pour les anglophiles, « puisque les organisations utilisent de plus en plus de modèles dans leurs activités ». Sa plateforme Viya intègre ainsi la détection des biais, par un système de triggers, l'explicabilité, l'auditabilité des décisions, la surveillance des modèles, la gouvernance et la responsabilité.
« Reconnaître que les biais existent est un premier pas » souligne Reggie Townsend. L’explicabilité des modèles et des décisions joue donc un rôle crucial, en mettant l’utilisateur « dans une position de responsabilité quant à ses données, leurs sources et la construction de ses modèles ». Le VP Data Ethics Practice de SAS voit d’ailleurs d’un bon œil les projets de régulation de l’intelligence artificielle, aussi bien aux Etats-Unis qu’en Europe. De l’IA Act de l’UE, il félicite les « les gardes-fous pour que l’IA ne soit plus une boîte noire ».