🇬🇧 👉En Angleterre, la police va être appelée parce que vous êtes entré dans un magasin, si vous êtes classé « à risque ». On rentre dans le délire de la police prédictive avec l'assistance de boîte privée !
Et pendant ce temps, chez nous, c'est @midy_paul qui a fait voter par les députés l'autorisation de l'IA dans les magasins, dans la loi RIPOST. Je vous laisse imaginer les dérives que ce type de techno peut engendrer....
Bienvenue dans ce nouveau monde. Ce n'est plus une dystopie.
Explications. 🧵
Donc, pas parce que vous avez volé quelque chose. Mais parce qu'un algorithme a reconnu votre visage.
Facewatch, c'est une boîte privée qui équipe des milliers de magasins britanniques, dont Sainsbury's, B&M ou encore Spar. Ses caméras scannent le visage de chaque client à l'entrée. Et cet automne, elle ajoute une fonction inédite : alerter directement la police, en quatre secondes en moyenne, dès qu'un visage classé « à risque » est reconnu.
Les chiffres qu'elle revendique, et qui viennent d'elle donc à prendre avec des pincettes : plus de 57 000 alertes sur le seul mois de juin, près de 300 000 en six mois, un taux de fiabilité annoncé à 99,98 %.
L'explication écrite sur leur propre site : identifier « de manière proactive » les délinquants connus, pour permettre au personnel d'intervenir avant même qu'un délit soit commis.
Avant.
Alors ce qui bascule ici, c'est pas rien. Entrer dans un magasin n'est pas un délit, même quand on a un passé judiciaire. Liberty, l'ONG britannique des libertés publiques, le dit : appeler la police sur quelqu'un qui n'a rien fait mais dont on redoute qu'il fasse quelque chose, ça renverse la logique entière de notre droit.
On ne juge plus un acte. On gère un risque statistique attaché à un visage....
Et ce risque, ce n'est ni un juge ni un procureur qui le fixe. C'est une entreprise privée. Facewatch est seule responsable de traitement sur tout son réseau de commerçants. Ce sont ses abonnés qui signalent les « suspects d'intérêt », c'est elle qui valide, et c'est elle qui alimente ce qu'elle présente comme la plus grosse base de données privée sur la criminalité du pays. Le tout hébergé chez AWS, évidemment.
Une liste noire nationale, constituée en dehors de tout tribunal, et maintenant branchée sur le 999.
Des gens ont déjà été refoulés de magasins après avoir été identifiés à tort. Bonne chance pour contester : vous ne savez ni que vous êtes fiché, ni par qui, ni pourquoi.
Et ce n'est que le premier étage.
En juin, le patron de la police de Londres a prononcé un discours qu'il faut vraiment lire en entier. Il y annonce la généralisation des caméras fixes de reconnaissance faciale en temps réel dans le centre de Londres, puis dans sept quartiers l'an prochain. Plus de 2 000 arrestations depuis 2024. Une liste de surveillance d'environ 17 000 personnes.
Puis il raconte son pilote avec Palantir. Testé d'abord en interne, sur les 45 000 agents de la Met. Ses mots à lui : nous pouvons désormais identifier de manière proactive les individus ou les schémas problématiques, repérer les risques plus tôt, et intervenir avant que le préjudice ne survienne.
Et juste apres, dans la foulée : si nous savons faire ça sur notre propre organisation, nous devons maintenant appliquer les mêmes technologies à la criminalité au sens large.
je traduis : ce qui a été testé sur 45 000 policiers a vocation a être appliqué à 9 millions de Londoniens.
Et la loi dans tout ça ? Le même homme y répond, dans le même discours : on ne peut pas légiférer pour chaque évolution technologique, le rythme est trop rapide et le processus législatif trop lent.
Relisez ça deux fois. C'est un chef de police qui explique publiquement que le droit ne doit pas être une condition préalable au déploiement. C'est un aveu, pas un argument.
Une cartographie universitaire publiée en juin recense plus de 70 outils d'IA en usage dans les polices d'Angleterre et du pays de Galles, dont 27 déjà opérationnels, et plus de la moitié fournis par des entreprises privées.
À Bristol, plus de 90 % de la population a vu ses données versées dans une base servant à entraîner des modèles prédictifs. Dossiers de santé mentale, situation de logement, grossesses adolescentes, cantine gratuite. Deux de ces modèles ont été discrètement débranchés après des années d'usage, jugés inexacts et inaptes au service. Personne n'avait été prévenu.
À Birmingham, une interdiction de stade a reposé sur des « renseignements » hallucinés par Copilot.
Dans le Derbyshire, des condamnations pour viol sont en cours de réexamen parce qu'un enquêteur avait orienté un chatbot pour maximiser l'effet des pièces du dossier.
Liberty a la formule juste : la technologie ne crée pas la confiance, elle la reflète. Une police qui n'a pas gagné la confiance du public ne la trouvera pas dans l'IA. Elle ne fera qu'automatiser la méfiance.
Et nous en France, on en est où ?
On va regarder la réalité en face. La loi Ripost, adoptée définitivement le 21 juillet, prolonge la vidéosurveillance algorithmique jusqu'au 31 décembre 2030 et étend son périmètre aux bâtiments ouverts au public. L'expérimentation des JO 2024, censée s'éteindre en mars 2025, aura donc duré au moins six ans de plus. Le tout expédié en trois lignes de compte rendu, très loin derrière le protoxyde d'azote.
Le 10 juillet, les députés ont voté dans ce même texte l'analyse algorithmique des images de vidéoprotection dans les commerces de détail, les grandes surface et les centres commerciaux. Et en février, ils avaient déjà adopté une proposition de loi dédiée, portée par le même Paul Midy, qui attend son passage au Sénat.
Pendant ce temps, la CNIL a jugé la VSA antivol de Veesion non conforme au RGPD, décision devenue définitive, et le Conseil d'État a confirmé qu'aucun texte n'autorise aujourd'hui l'analyse automatisée et systématique des images captées dans l'espace public.
Ces dispositifs sont déjà installés dans des milliers de commerces français, ils sont illégaux, et le Parlement bosse à légaliser la pratique plutôt qu'à la faire cesser.
La seule vraie différence avec le Royaume-Uni tient en un mot : biometrie. Les textes français excluent, pour l'instant, la reconnaissance faciale. Pour l'instant. C'est une ligne dans une loi, rien de plus. Les caméras, les serveurs, les contrats et les habitudes, eux, sont déjà en place.
Le glissement ne se joue jamais sur une grande loi liberticide qu'on pourrait combattre frontalement. Il se joue sur une expérimentation prolongée, un article ajouté en séance de nuit, un périmètre élargi de trois mots.
Ce qu'on accepte dans un supermarché aujourd'hui, on l'acceptera dans la rue demain.
Source @nextinpact : https://next.ink/249929/ia-et-reconnaissance-faciale-le-royaume-uni-inaugure-la-police-proactive/
Et pendant ce temps, chez nous, c'est @midy_paul qui a fait voter par les députés l'autorisation de l'IA dans les magasins, dans la loi RIPOST. Je vous laisse imaginer les dérives que ce type de techno peut engendrer....
Bienvenue dans ce nouveau monde. Ce n'est plus une dystopie.
Explications. 🧵
Donc, pas parce que vous avez volé quelque chose. Mais parce qu'un algorithme a reconnu votre visage.
Facewatch, c'est une boîte privée qui équipe des milliers de magasins britanniques, dont Sainsbury's, B&M ou encore Spar. Ses caméras scannent le visage de chaque client à l'entrée. Et cet automne, elle ajoute une fonction inédite : alerter directement la police, en quatre secondes en moyenne, dès qu'un visage classé « à risque » est reconnu.
Les chiffres qu'elle revendique, et qui viennent d'elle donc à prendre avec des pincettes : plus de 57 000 alertes sur le seul mois de juin, près de 300 000 en six mois, un taux de fiabilité annoncé à 99,98 %.
L'explication écrite sur leur propre site : identifier « de manière proactive » les délinquants connus, pour permettre au personnel d'intervenir avant même qu'un délit soit commis.
Avant.
Alors ce qui bascule ici, c'est pas rien. Entrer dans un magasin n'est pas un délit, même quand on a un passé judiciaire. Liberty, l'ONG britannique des libertés publiques, le dit : appeler la police sur quelqu'un qui n'a rien fait mais dont on redoute qu'il fasse quelque chose, ça renverse la logique entière de notre droit.
On ne juge plus un acte. On gère un risque statistique attaché à un visage....
Et ce risque, ce n'est ni un juge ni un procureur qui le fixe. C'est une entreprise privée. Facewatch est seule responsable de traitement sur tout son réseau de commerçants. Ce sont ses abonnés qui signalent les « suspects d'intérêt », c'est elle qui valide, et c'est elle qui alimente ce qu'elle présente comme la plus grosse base de données privée sur la criminalité du pays. Le tout hébergé chez AWS, évidemment.
Une liste noire nationale, constituée en dehors de tout tribunal, et maintenant branchée sur le 999.
Des gens ont déjà été refoulés de magasins après avoir été identifiés à tort. Bonne chance pour contester : vous ne savez ni que vous êtes fiché, ni par qui, ni pourquoi.
Et ce n'est que le premier étage.
En juin, le patron de la police de Londres a prononcé un discours qu'il faut vraiment lire en entier. Il y annonce la généralisation des caméras fixes de reconnaissance faciale en temps réel dans le centre de Londres, puis dans sept quartiers l'an prochain. Plus de 2 000 arrestations depuis 2024. Une liste de surveillance d'environ 17 000 personnes.
Puis il raconte son pilote avec Palantir. Testé d'abord en interne, sur les 45 000 agents de la Met. Ses mots à lui : nous pouvons désormais identifier de manière proactive les individus ou les schémas problématiques, repérer les risques plus tôt, et intervenir avant que le préjudice ne survienne.
Et juste apres, dans la foulée : si nous savons faire ça sur notre propre organisation, nous devons maintenant appliquer les mêmes technologies à la criminalité au sens large.
je traduis : ce qui a été testé sur 45 000 policiers a vocation a être appliqué à 9 millions de Londoniens.
Et la loi dans tout ça ? Le même homme y répond, dans le même discours : on ne peut pas légiférer pour chaque évolution technologique, le rythme est trop rapide et le processus législatif trop lent.
Relisez ça deux fois. C'est un chef de police qui explique publiquement que le droit ne doit pas être une condition préalable au déploiement. C'est un aveu, pas un argument.
Une cartographie universitaire publiée en juin recense plus de 70 outils d'IA en usage dans les polices d'Angleterre et du pays de Galles, dont 27 déjà opérationnels, et plus de la moitié fournis par des entreprises privées.
À Bristol, plus de 90 % de la population a vu ses données versées dans une base servant à entraîner des modèles prédictifs. Dossiers de santé mentale, situation de logement, grossesses adolescentes, cantine gratuite. Deux de ces modèles ont été discrètement débranchés après des années d'usage, jugés inexacts et inaptes au service. Personne n'avait été prévenu.
À Birmingham, une interdiction de stade a reposé sur des « renseignements » hallucinés par Copilot.
Dans le Derbyshire, des condamnations pour viol sont en cours de réexamen parce qu'un enquêteur avait orienté un chatbot pour maximiser l'effet des pièces du dossier.
Liberty a la formule juste : la technologie ne crée pas la confiance, elle la reflète. Une police qui n'a pas gagné la confiance du public ne la trouvera pas dans l'IA. Elle ne fera qu'automatiser la méfiance.
Et nous en France, on en est où ?
On va regarder la réalité en face. La loi Ripost, adoptée définitivement le 21 juillet, prolonge la vidéosurveillance algorithmique jusqu'au 31 décembre 2030 et étend son périmètre aux bâtiments ouverts au public. L'expérimentation des JO 2024, censée s'éteindre en mars 2025, aura donc duré au moins six ans de plus. Le tout expédié en trois lignes de compte rendu, très loin derrière le protoxyde d'azote.
Le 10 juillet, les députés ont voté dans ce même texte l'analyse algorithmique des images de vidéoprotection dans les commerces de détail, les grandes surface et les centres commerciaux. Et en février, ils avaient déjà adopté une proposition de loi dédiée, portée par le même Paul Midy, qui attend son passage au Sénat.
Pendant ce temps, la CNIL a jugé la VSA antivol de Veesion non conforme au RGPD, décision devenue définitive, et le Conseil d'État a confirmé qu'aucun texte n'autorise aujourd'hui l'analyse automatisée et systématique des images captées dans l'espace public.
Ces dispositifs sont déjà installés dans des milliers de commerces français, ils sont illégaux, et le Parlement bosse à légaliser la pratique plutôt qu'à la faire cesser.
La seule vraie différence avec le Royaume-Uni tient en un mot : biometrie. Les textes français excluent, pour l'instant, la reconnaissance faciale. Pour l'instant. C'est une ligne dans une loi, rien de plus. Les caméras, les serveurs, les contrats et les habitudes, eux, sont déjà en place.
Le glissement ne se joue jamais sur une grande loi liberticide qu'on pourrait combattre frontalement. Il se joue sur une expérimentation prolongée, un article ajouté en séance de nuit, un périmètre élargi de trois mots.
Ce qu'on accepte dans un supermarché aujourd'hui, on l'acceptera dans la rue demain.
Source @nextinpact : https://next.ink/249929/ia-et-reconnaissance-faciale-le-royaume-uni-inaugure-la-police-proactive/