Rappel : La reconnaissance faciale s’apprête à déferler en
France. Pour documenter et résister à ces déploiements, rendez-vous sur technopolice.fr et son forum !
Mardi 24 septembre, La Quadrature était conviée à la
« vingt-quatrième journée technico-opérationnelle de la sécurité
intérieure », qui se tenait dans un amphithéâtre bondé de la Direction
générale de la gendarmerie nationale. Ces rencontres sont organisées
tous les six mois par le ministère de l’intérieur, et celle-ci avait
pour thème : « reconnaissance faciale : applications – acceptabilité –
prospective ».
Les rencontres « technopolice » sont marquées par un fort entre-soi,
mêlant fonctionnaires du ministère de l’intérieur, chercheurs et
industriels de la sécurité (à l’exception de la Quadrature, un avocat
critique était également invité, ainsi que deux personnes de la CNIL qui
s’en sont tenu à un simple rappel du droit applicable). Et dans cette
atmosphère feutrée, notre intervention semble avoir détonné, comme en
témoigne le compte-rendu de cette journée publié par l’Essor, le journal des gendarmes.
Nous étions sincèrement reconnaissants de l’invitation, et contents
d’assister à des présentations fournissant des informations de première
main qui sont autrement très difficiles d’accès pour les militants ou
chercheurs travaillant sur ces questions. Nous l’avons rappelé en
introduction de notre propos. Mais pour nous, l’enjeu était aussi de
faire valoir une parole dissonante et de rappeler que, au moment où la
reconnaissance faciale s’apprête à déferler dans nos sociétés, ces
échanges entre opérationnels et développeurs industriels devaient faire
l’épreuve de la controverse.
Voici donc une sorte de verbatim plus ou moins fidèle de notre intervention…
—
« Merci de votre invitation. De tels échanges sont trop rares. Et en
dépit des désaccords fondamentaux, ils ont le mérite de créer un peu de
porosité entre nos mondes.
La Quadrature du Net est une association fondée en 2008 pour résister
aux formes de contrôle d’Internet qui allaient à l’encontre des
libertés publiques. Aujourd’hui, nous nous rendons pleinement compte de
la justesse des combats des années 1960 et 1970, où des groupes
militants associaient l’informatique à la domination bureaucratique. Ils
l’associaient à un régime
technocratique plutôt que
démocratique,
non pas fondé sur l’autonomie et la liberté mais sur l’expertise
alléguée de quelques hauts pontes formés dans les écoles d’élite.
Ce régime technocratique est toujours le nôtre. L’insistance mise sur le critères d’
efficacité
lors de cette journée l’illustre de bien, de même que l’extrême
faiblesse de la prise en compte des aspects non seulement juridiques et
éthiques, mais aussi proprement politiques de technologies comme la
reconnaissance faciale.
La domination technocratique évite la confrontation démocratique. Ces
24ème rencontres « Technopolice » en fournissent là encore un exemple :
aucune information ne doit filtrer, les participants étant astreints à
un « engagement de non-divulgation ». De même, la présence en ligne de
ces rencontres qui existent depuis années est quasi nulle. De fait,
aucune information ne filtre. Une confidentialité qui entache tout ce
dont on discute ici d’un grave déficit de légitimité démocratique, alors
même que tout cela est incontestablement d’intérêt public.
Indirectement, l’extrême discrétion qui entoure cet événement nous a
été utile, nous permettant d’utiliser le mot « technopolice » pour
lancer, avec d’autres acteurs associatifs,
notre propre campagne
le 16 septembre dernier. En inscrivant le terme dans un moteur de
recherche pour voir si nous étions les premiers à vouloir l’utiliser,
nous avions découvert des traces de ces rencontres, mais si peu
nombreuses que nous avions alors pensé que ce n’était pas un problème
que de reprendre ce terme à notre compte (et ce n’est que quelques mois
plus tard que nous recevions votre invitation à venir ici aujourd’hui…).
En écoutant vos présentations, nous mesurons une nouvelle fois le
fossé qui sépare la réalité des usages de l’informatique dans le cadre
de la surveillance d’État, et les informations publiques qui filtrent à
leur sujet. C’est justement contre ce secret que notre
campagne
vise à documenter les projets technopoliciers, et à permettre à chacun
de se mobiliser pour dire notre refus collectif de ces outils de
contrôle qui essaiment partout en France.
Ces technologies sont très largement développées dans le cadre de la
recherche publique, parfois au travers un contournement assumé du cadre
juridique applicable en Europe. C’est par exemple le cas lorsque des
chercheurs français travaillent avec des homologues chinois pour
perfectionner leurs algorithmes de reconnaissance faciale grâce aux
bases de données de visages de citoyens chinois. Ou, comme on l’a appris
ce matin, quand le gouvernement français passe un accord de sécurité
avec celui de Singapour afin qu’un industriel français puisse passer
outre les réserves de la CNIL et expérimenter le scan en temps réel sur
les visages d’une foule dans un hub de transport de la ville-État. On ne
peut s’empêcher de voir dans ces manœuvres un écho pas si lointain des
expérimentations et mesures d’exception pratiquées à l’époque coloniale
sur les peuples colonisés, avant d’être réimportées en métropole.
Outre la recherche publique, ces développements technologiques sont
pilotés par des personnes en situation relevant plus ou moins
directement du conflit d’intérêt, avec de nombreux croisements et
hybridations entre secteur public et privé. Ils aboutissent aujourd’hui à
des expérimentations locales hautement subventionnées pour assurer la
compétitivité des industriels français sur ce marché porteur. Le tout,
là encore, sans information transparente ni vrai débat public. Rien ne
doit entraver le progrès de la technopolice.
La question de la légalité de ces outils est aussi largement éludée.
Et quand elle est abordée, c’est toujours pour évoquer les restrictions
que le cadre juridique existant imposerait à leur développement, et non
sur les atteintes graves et injustifiables que ces outils portent à nos
libertés fondamentales. Nos libertés d’expression, de manifestation,
d’aller et venir sont pourtant bien en jeu ici, tout comme notre droit à
la vie privée. Il faut s’interroger sur l’atteinte intrinsèquement
disproportionnée à nos libertés que représente un outil comme la
reconnaissance faciale, disproportion que souligne d’ailleurs la ville
de San Francisco dans son ordonnance qui en interdit l’usage à ses
policiers : « La propension de la technologie de reconnaissance faciale à
mettre en danger les droits civils et les libertés civiles l’emporte
largement sur les avantages escomptés (…) ». Il faut aussi s’interroger
sur la compatibilité des dispositifs fantasmés par la Préfecture de
police de Paris et bien d’autres avec la
jurisprudence
du Conseil Constitutionnel qui soulignait, déjà en 1993, l’illégalité
de « pratique de contrôles d’identité généralisés et discrétionnaires ».
C’est pour cette raison que nous avons déjà déposé deux recours, pour
lutter contre la normalisation et la banalisation d’un tel outil : l’un
contre la délibération de la Région Sud autorisant une expérimentation de portiques biométriques dans deux lycées, l’autre
contre l’application AliceM,
développée par le ministère de l’Intérieur, et qui veut faire de la
reconnaissance faciale une la clé de voûte d’une future identité
numérique.
Sans doute aimeriez-vous que, face à l’inéluctabilité de nouvelles
lois destinées à encadrer les dispositifs présentés aujourd’hui, nous
puissions offrir des conseils sur ce que seraient des lois « socialement
acceptables » et « juridiquement soutenables » ? Le Forum Économique
Mondial et le Conseil national du numérique nous ont eux aussi
proposé (sans succès)
de participer à une série de dialogues sur l’encadrement de la
reconnaissance faciale. Un peu plus de transparence, un semblant de
contrôle par la CNIL, une réduction des biais racistes et autres
obstacles apparemment « techniques » auxquels se heurtent ces
technologies, et l’on croit possible d’assurer un compromis « éthique »
entre la défense automatisée de l’ordre public et l’État de droit.
Ces projets de loi viendront. Le pouvoir politique y sera réticent
car, sauf à instrumentaliser les enjeux de sécurité (ce dont il est
certes désormais coutumier), il n’y a généralement pas grand-chose à
gagner à faire passer des lois de surveillance. Pour notre part, il est
probable nous soyons une nouvelle fois contraints de travailler sur ces
projets de loi sécuritaires, pour défendre les droits humains et limiter
la casse. Pour utiliser le droit dans le but d’entraver au maximum
l’usage de ces technologies.
Mais nous vous le disons tout net : après
y avoir réfléchi,
nous considérons que la reconnaissance faciale et autres technologies
technopolicières doivent être proscrites. Elles mènent l’humanité vers
une pente dangereuse, en permettant d’insidieuses formes de contrôle au
bénéfice de quelques maîtres, seuls capables de « réviser les
paramètres » des machines à leur service.
Plutôt que de discuter des modalités d’un « encadrement approprié »,
nous exprimons donc notre refus vis-à-vis de ces technologies
policières. Nous pensons à nos grand-mères et à nos grand-pères qui,
s’ils avaient du vivre au début des années 1940 dans un monde saturé des
technologies que vous fabriquez, n’auraient pas survécu plus de trois
semaines dans la clandestinité, et n’auraient donc pas pu organiser des
réseaux de solidarité dissidents pour résister au régime nazi.
Nous disons notre refus car pour nous, la sécurité c’est d’abord des
logements dignes, un air sain, la paix économique et sociale, l’accès à
l’éducation, la participation politique, l’autonomie patiemment
construite. Et que ces technologies n’apportent rien de tout cela. Elles
semblent d’abord et avant tout conçues pour vider nos régimes
politiques de tout essence démocratique en assurant un téléguidage de
nos conduites. Sous prétexte d’efficacité, elles aboutissent à
déshumaniser encore davantage les rapports qu’entretiennent les
bureaucraties policières avec la population.
C’est peut être l’une des premières fois que, vous tous qui
travaillez depuis longtemps sur ces déploiements technologiques, vous
êtes confrontés a une opinion réellement dissonante. Peut être y
verrez-vous le signe de l’inutilité de ce type d’échanges. Nous espérons
qu’au contraire, vous comprendrez qu’il s’agit d’une confrontation
nécessaire trop longtemps retardée – retardée jusqu’à nous mettre
pratiquement dans la situation du fait accompli. Vous ne pourrez plus y
échapper. Vous devez entendre notre refus ».
