La vidéosurveillance vertueuse et éthique ? #5
Google avait pourtant déjà fait le coup avec son « Don't be evil »
La vidéosurveillance algorithmique (VSA) s’adapte. Cantonnés pendant des années au secteur de la sécurité, les éditeurs de logiciel de surveillance tentent d’intégrer de nouvelles fonctionnalités dans leurs outils pour créer de nouveaux besoins, mais surtout pour intéresser de nouvelles industries. Une diversification stratégique qui s’élabore notamment autour d’un discours tourné vers l’éthique, tendant à banaliser la surveillance des comportements humains dans notre quotidien par les machines.
XXII (« Twenty two ») c’est la startup sécuritaire cool et tendance par excellence. Présente dans le catalogue des solutions du « Programme général de sécurité des grands événements et des Jeux olympiques 2024 », membre du groupement Business France, de France Digital, de la French Tech DeepNum, de l’Alliance pour la Confiance Numérique (ACN), de l’Association nationale de la Vidéoprotection (AN2V), soutenue par la BPI, l’entreprise navigue avec aisance dans de nombreux réseaux d’affaires. Signe d’une banalisation croissante de l’industrie de surveillance, l’entreprise présentait il y a quelques jours son savoir-faire sur la scène principale de Vivatech, lors d’une conférence intitulée « L’IA dans les radars ». Événement durant lequel les visiteurs pouvaient obtenir des renseignements sur leur logiciel de vidéosurveillance algorithmique (VSA) directement auprès des stands (partenaires) de la SNCF, de Bouygues et du ministère des Armées.
XXII se présente elle-même comme leader de la « vidéosurveillance intelligente » en France. Avec environ 70 employés, et une impressionnante première levée de fonds de 22 millions d’euros bouclée en 2023, des fonds d’investissement prestigieux ont jugé utile pour leurs affaires de miser sur le domaine de l’IA de surveillance : Kima Ventures (Xavier Niel), 574 Invest (SNCF), Bouygues, Colas, ou encore l’Agence nationale de la Défense.
La société a vu le jour en 2015 grâce à son fondateur William Eldin, mais aussi via un capital de départ issu de la revente de ses parts dans la société Coyote – qui fournissait un boîtier capable d’avertir les automobilistes de la présence de contrôles policiers, et qu’il définissait lui-même dans une interview comme « le truc pour esquiver la police ». Aujourd’hui, le jeune chef d’entreprise offre un logiciel destiné, entre autres, aux centres de supervision urbaine (CSU) pour aider les policiers municipaux dans leurs tâches de maintien de l’ordre.
Ce grand écart entrepreneurial symbolise cette nouvelle génération d’entreprises de VSA qui surfent sur les récentes avancées techniques de la vision par ordinateur pour tenter de diversifier les usages de la vidéosurveillance traditionnelle. En ciblant les sites de logistiques, les commerces de détail, les stations de ski, mais aussi les restaurants, William Eldin multiplie les apparitions médiatiques – TF1, France 3, Les Échos, BFM, etc. – pour promouvoir son outil et stimuler l’imagination de ces cibles commerciales : « Pourquoi, quand vous êtes au restaurant, quand votre verre est vide, vous attendez toujours longtemps qu’on vous le remplisse ? Pourquoi il n’y a pas une caméra qui dit au serveur : "François, il vient de finir son verre, donc allez le remplir". »
La société XXII propose aux magasins de traquer le comportement des acheteurs (temps passé devant certains rayons, comptage d’individus) ou de leurs salariés (« Analysez le temps pris par les collaborateurs pour répondre aux demandes de vos clients . »). Elle permet aussi aux fast-foods d’accélérer leurs livraisons au drive, ou encore de détecter les accidents du travail sur les sites logistiques (détection de personne au sol).
Parce qu’une levée de fonds oblige son bénéficiaire à rapidement prouver aux investisseurs sa capacité à engranger de nouveaux clients, XXII conçoit de nouvelles fonctionnalités pour conquérir de nouveaux secteurs, en diversifiant les usages d’un outil de surveillance initialement prévu pour les villes et les grandes infrastructures (gares, aéroport, stades, sièges sociaux, etc.).
N'ayez pas peur, ça va bien se passer
Consciente des craintes que soulève son logiciel dans l’opinion publique et afin de se prémunir contre toute attaque sur l’aspect intrusif et quelque peu effrayant de son logiciel d’analyse comportementale, l’entreprise tente par tous les moyens de rassurer sur ses intentions.
La startup s’est donc fixé une ligne rouge, celle de la reconnaissance faciale. Un positionnement stratégique qui permet d’éviter un déficit d’image – avec le risque de refroidir les clients potentiels, mais aussi de rendre difficile le recrutement de candidats – ou des scandales médiatiques comme celui récemment vécu par Briefcam. XXII explique que le développement du logiciel est conçu en étant « ethic by design ». Ils ont constitué leur propre comité d’éthique (composé d’« intervenants externes », sans plus de précisions), ainsi qu’une charte éthique. Cette dernière est composée de cinq principes, dont celui de la « non-malfaisance » qui stipule que les produits d’IA « ne doivent ni porter atteinte, ni nuire, ni aggraver une situation de quelque manière que ce soit. Les systèmes que nous mettons en place ne doivent en aucun cas menacer l’intégrité physique, morale ou psychologique de qui que ce soit ».
Mais cette stratégie montre ses limites quand on se penche d’un peu plus près sur les fonctionnalités et les comportements que leur produit permet de détecter. Aux remontées d’alertes en temps réel en cas d’infractions au code de la route – comme la « détection « stationnement gênant », de « zone interdite aux véhicules » (mauvaise utilisation de voies), de véhicule en sens inverse de la circulation, ou le « respect des feux tricolores » – viennent s’ajouter celles de la catégorie dite de « sécurité » : détection de regroupements, d’intrusions, de présence prolongée, ou de dépôts sauvages. En 2021, XXII a équipé de son logiciel la ville de Suresnes (à destination de la police municipale) pour détecter, sans plus de précisions, des situations dites « anormales » ou de « maraudages ». (1)
Toutes ces tentatives pour rendre plus acceptable la VSA auprès du public ne doivent pas faire oublier que la caméra est, et restera, un outil de contrôle et de surveillance. La vidéosurveillance, a fortiori couplée à un traitement algorithmique, n’en reste pas moins un équipement manipulé avec une grande opacité par des agents de sécurité (publics ou privés) sans le moindre contrôle citoyen. Et ce ne sont ni les chartes éthiques ni quelques fonctionnalités dites non malfaisantes qui changeront quoi que ce soit à cette situation. Qui se souvient du slogan de Google (abandonné depuis) « Don't be evil » (Ne soyez pas malveillants) incorporé dans son code de conduite ? Et c’est peut-être le président de l’AN2V, Dominique Legrand, qui résume le mieux cette volonté de certains acteurs de la VSA de rendre le métier acceptable : « Si c’est éthique et que ça fait de l’argent, alors il faut foncer. »
(1) Convention de partenariat entre la ville de Suresnes et la société XXII Group, avril 202.