Presidio est la référence open source de la détection de données personnelles, et la base de comparaison honnête pour qui évalue cette catégorie. Nous avons exécuté les deux systèmes sur 5 000 échantillons du jeu de données public ai4privacy/pii-masking-200k, en français, anglais, allemand et italien.
Score de confidentialité : pourcentage des entités PII de référence effectivement détectées et masquées. Plus c'est haut, mieux c'est.
La seconde expérience compte plus que la première. Les vrais documents contiennent des fautes de frappe, des abréviations et des paraphrases. Nous avons régénéré chaque entité de référence sous quatre formes déformées pour voir quel système tient.
La régularité, pas seulement la moyenne
Une bonne moyenne cache les mauvais documents. Sur le jeu de référence, Hexagone AI a un écart-type de 9,12 % contre 20,53 % pour Presidio. En pratique, c'est la différence entre un outil que vous pouvez laisser tourner sur un dossier et un outil qui exige une relecture humaine de chaque fichier.
L'écart se creuse en conditions réelles
Entre le jeu propre et le jeu bruité, Hexagone AI perd 3,73 points. Presidio en perd 12,50. L'avantage passe de 28,76 % à 41,65 %, et c'est ce chiffre qui compte, parce que vos documents ressemblent au jeu bruité.