Compte rendu intégral des prises de parole, sous la présidence de Présidence de Mme Naïma Moutchou.
Tours 201 à 400 sur 1071 — page 2 / 6.
Que se passe-t-il ensuite ? Tout le monde a vu des murs d’images dans des séries télévisées – cela a dû vous arriver aussi, monsieur Bernalicis, entre deux vols de drones ou de goélands. Sur le mur d’images, apparaissent le sac abandonné, le départ de feu, le mouvement de foule et les événements qui y ont conduit.C’est alors qu’intervient l’opérateur : un policier, un gendarme – en qui je sais que vous avez absolument toute confiance – ou des personnes agréées. Il lève ou non le doute, et, le cas échéant, il envoie des collègues sur le terrain pour constater que ce départ de feu ou ce mouvement de foule est normal ou anormal.
Rien de plus que cela !
Ce n’est rien d’autre que ça, comme le dit le président Maillard. Pour répondre à votre question, j’indique qu’il n’y a pas les sweats à capuche.
Et les camionnettes blanches ?
On peut aussi énumérer tous les vêtements de la création. Personnellement, je suis là cet après-midi, à la disposition du Parlement, et je peux répondre à toutes vos questions. J’en avais aussi posé une. Pourquoi n’y avez-vous pas répondu, monsieur Bernalicis, vous qui êtes protecteur des libertés ? Je vous dis que la police et la gendarmerie ne font pas voler de drones.
OK.
Ces institutions le feront dans le cadre voulu par le législateur et le Conseil constitutionnel, dès que le décret pris après avis de la Cnil – dont je vous ai dit d’ailleurs qu’il était positif – permettra d’en faire voler dans le respect des libertés individuelles.En revanche, il existe des drones qui alimentent des réseaux sociaux soutenant vos thèses politiques. Je peux vous en donner beaucoup d’exemples si vous le souhaitez, mais comme vous êtes devant votre ordinateur, je suis sûr que vous les avez déjà repérés. Alimentés par drones, ces réseaux diffusent le visage de personnes, de mineurs, de policiers en action…
Sans aucune information préalable !
Sans aucune information préalable, vous avez raison de le souligner, monsieur le président de la commission des lois. Tout cela permet de soutenir ce que nous appellerons les mouvements d’humeur de certains groupes politiques, dont le vôtre. Vous ne répondez pas à la question basique que je vous pose à ce sujet, monsieur le député : trouvez-vous cela normal, classique, d’un point de vue moral ? Il serait intéressant que tout le monde puisse entendre votre réponse. Si vous répondez par l’affirmative, cela voudrait dire que vous avez moins confiance dans la police et dans la loi de la République que dans le vol de drones sauvages qui vous permettent, sélectionnant les images, de soutenir des thèses contre l’État et les policiers. (Applaudissements sur les bancs des groupes RE, Dem et HOR.)
Je crains que ce ne soit le cas, monsieur le ministre !
La parole est à M. Ugo Bernalicis, pour soutenir l’amendement no 425.
Nous voulons entrer dans le cœur des algorithmes et savoir à quoi ils vont être utilisés. Nous avons une petite liste : mouvement de foule, départ de feu, goulet d’étranglement, sac, colis, donc pas de sweat à capuche.
Pas de réponse ?
Je vais vous répondre, monsieur le ministre. Vous connaissez la technique : on répond d’abord à autre chose, puis on revient éventuellement sur le sujet initial.
Éventuellement…
Vous noyez le poisson !
Il n’y a donc pas de sweat à capuche. Si nous posons la question des camionnettes, c’est parce que nous avons vu des reportages sur la vidéosurveillance intelligente montrant que certaines villes utilisent les caméras de manière un peu sauvage. L’alerte clignote, par exemple, dès qu’un scooter passe dans une rue où les scooters sont interdits, parce que ce critère fait partie des événements prédéterminés. C’est tout. Je n’invente rien d’extraordinaire en insistant sur le paramétrage. Ici, on cible les scooters ; là, on pourrait viser les vélos si tout cycliste est suspecté d’être un écoterroriste – pour prendre un exemple au hasard. (Mme Sandra Regol rit.)
Oui, je suis un méchant écoterroriste !
Complotistes !
Allez-vous faire clignoter les passages de vélo un peu partout ? Ces questions se posent.Quant aux drones dont vous parlez, monsieur le ministre, j’aimerais savoir à qui ils appartiennent. Je n’ai pas vu d’images prises depuis les drones, mais des drones filmés par des gens.
Mais non, regardez ! (M. le ministre brandit son téléphone portable.)
Si vous avez des sources, envoyez-les moi, pas de problème.
Vous pouvez les poster sur Twitch !
Êtes-vous d’accord avec ces pratiques ?
Nous pouvons aussi parler de ceux qui filment les policiers pendant les manifestations, depuis plusieurs jours, à pied et avec une ou plusieurs caméras. Le Conseil constitutionnel s’est déjà prononcé sur cet aspect du fameux article 24 de la loi du 25 mai 2021 pour une sécurité globale préservant les libertés. Ce n’est pas la même chose d’être filmé par la puissance publique ou de filmer des policiers en tant que citoyen.
Tout dépend de ce que vous faites des images !
Le régime juridique n’est pas le même, comme le savent tous les bons juristes qui sont au banc de la commission et au banc du Gouvernement.
Quel est l’avis de la commission ?
Alors que l’article 7 prévoit une information du public par tout moyen, vous prévoyez un moyen restrictif d’informer. En fait, vous voulez restreindre la portée de l’information qui sera donnée au public. C’est la raison pour laquelle j’émets un avis défavorable sur cet amendement.Je note que vous n’avez pas répondu à la question qui vous était posée : les manifestants peuvent-ils eux-mêmes utiliser des drones pour filmer les manifestations ?
Sans informer au préalable !
Qui plus est sans informer, comme le rappelle M. le ministre. Vous considérez que l’enregistrement et la diffusion de vidéos posent moins de problèmes lorsqu’ils sont réalisés par des personnes privées, quelles qu’elles soient et en l’absence de tout contrôle, que lorsqu’ils sont le fait de la puissance publique. Cette question mérite d’être posée à l’Assemblée. Pour notre part, nous considérons que cela pose quelques difficultés, y compris en matière de protection des données et de l’image.
Exactement !
Quel est l’avis du Gouvernement ?
L’avis est défavorable mais le débat très intéressant. Monsieur Bernalicis, vous avez bien fait de venir ce matin parce que cela nous permet de constater que votre sujet de préoccupation n’est pas la technologie.
C’est la police !
Mais oui, c’est la police, l’État, la protection des libertés garanties par la Constitution.
Il n’aime pas la Constitution !
Votre sujet de préoccupation n’est pas la technologie, les drones, les algorithmes et l’intelligence artificielle. À vrai dire, ce n’est même pas les Jeux olympiques ou les goélands. C’est l’utilisation des moyens technologiques par ceux qui soutiennent vos thèses, pas l’utilisation des moyens technologiques en général. En fait, vous êtes un protecteur des libertés en peau de lapin. (Sourires sur les bancs des groupes RE et Dem.)
Les goélands, les lapins : en fait, c’est une séance sur le bien-être animal !
La parole est à M. Jean-François Rousset.
Pour compléter les propos du ministre, je souhaite demander à M. Bernalicis s’il considère que les avancées technologiques, les innovations et l’intelligence artificielle sont au service d’une prise de décision rapide – un bien précieux dans le cadre de l’organisation de manifestations très importantes comme les Jeux olympiques. Ou au contraire considère-t-il qu’il faut en rester aux moyens archaïques de surveillance ?Voilà le sujet. L’apport technologique est-il intéressant pour gérer des événements de niveau planétaire ou peut-on s’en passer ? Quand on parle de drones pour la surveillance de départs d’incendies dans les zones exposées, tout le monde est d’accord. En cas d’incendie, quelle qu’en soit l’origine, la surveillance ne permet-elle pas une analyse et une intervention plus rapides pour éviter les désastres ?
Exactement !
Selon vous, l’apport de la technologie est-il un progrès ? (Applaudissements sur quelques bancs du groupe RE.)
La parole est à M. Ugo Bernalicis.
Nous n’avons rien contre la technologie, M. le ministre vient d’en faire la parfaite argumentation. Votre sujet de préoccupation, c’est l’État, la défense des libertés individuelles et fondamentales, dit-il. Eh bien oui, c’est exactement le cas.
Bravo, très bien !
Quand on a des convictions et une philosophie politique, on peut les décliner dans le cadre de nombreux textes,…
Nous aussi, nous avons des convictions et une philosophie politique !
Ce ne sont pas les mêmes, c’est tout !
…que ce soit pour les drones, les caméras, la garde à vue, les prérogatives de puissance publique, les moyens de contrainte, le pénal.En fait, les choses se tiennent. Hier, vous avez d’ailleurs salué notre cohérence sur nombre de textes, la continuité des valeurs que nous défendons.
Nous sommes aussi humanistes que vous !
Je n’ai pas dit le contraire !
Je n’ai rien contre la technologie et les algorithmes en eux-mêmes, mais j’ai des critiques à émettre sur les usages qui en sont faits, notamment par la puissance publique. Je n’ai donc pas de difficulté à dire qu’il existe un corpus législatif cohérent concernant la captation d’images par les personnes privées. Il fonctionne et je ne trouve rien à y redire.Si certains font un usage illégal de captations vidéo, faites usage de la loi en vigueur pour les confondre. Au lieu de ça, on arrête des gens parce qu’ils sont là et que ce sont les ordres, tout en s’excusant et en leur disant qu’ils seront rapidement libérés. Effectivement, je défends les libertés fondamentales.Monsieur le ministre, j’attends que vous m’envoyiez par tout moyen, comme vous dites, ou plutôt par des moyens numériques, ce sera plus simple, les références montrant que les drones sont pilotés par des manifestants ou des […]
C’est donc qu’elles ont un intérêt !
…voir d’en haut comment le dispositif policier est organisé, comment les manifestants se positionnent et si les forces de l’ordre appliquent toujours une doctrine de mise à distance ou si elles recherchent plutôt le contact.
Les drones ont donc un intérêt !
Que donnent, vues du ciel, les images des brigades de répression de l’action violente motorisées (BRAV-M) qui courent, tapent dans le tas et font des croche-pieds aux manifestants pour les faire tomber ? Il pourrait effectivement être intéressant de disposer d’un autre angle de vue pour voir comment la répression et la brutalité policières que vous avez demandées s’organisent. C’est une question sérieuse.
Je croyais que vous étiez contre les drones !
Quant au point de droit soulevé par M. le président de la commission des lois, je rappelle que les termes « par tout moyen » ne signifient pas que le public sera informé par tous les moyens possibles, mais qu’il pourra l’être par n’importe quel moyen, y compris par un canal de communication dont personne n’aura connaissance.
La parole est à M. le président de la commission des lois.
Nous avons appris deux choses. La première, c’est que M. Bernalicis persiste dans l’imprécision. Je plaisantais lorsque je l’ai qualifié tout à l’heure de mauvais juriste, mais peut-être avais-je raison. L’expression « par tout moyen » englobe bien tous les moyens d’information disponibles. Le fait d’en mentionner un spécifiquement dans la loi conduirait à exclure tous les autres.
Oui !
Il s’agit donc d’une imprécision juridique, que nous devons nous garder de commettre.Par ailleurs, vous venez de répondre à la question du ministre, c’est bien, car nous apprenons une seconde chose : vous demandez des sanctions contre les manifestants qui utilisent un drone pour filmer les cortèges – ce qui est interdit – et qui exploitent ces images en les diffusant sur les réseaux sociaux. En conséquence, monsieur Bernalicis, nous apprenons ce matin que vous êtes pour la répression du mouvement social !
Oh !
Franchement…
Je laisse ça aux professionnels !
La parole est à Mme Sandra Regol, pour soutenir l’amendement no 224.
Je rappelle que la Cnil indique, dans son avis du 8 décembre 2022, que les outils d’analyse automatisée des images sont, à ses yeux, susceptibles d’entraîner des risques importants pour les libertés individuelles et collectives. Le Conseil national des barreaux (CNB), quant à lui, « dénonce la mise en place prétendument expérimentale d’un système d’intelligence artificielle traitant […] des données comportementales et physiques des individus à des fins répressives, à l’instar de systèmes comparables mis en place dans certaines villes, en ce qu’ils portent une atteinte inacceptable […] aux règles du RGPD. » Le Conseil d’État, lui, estime que le traitement des images prévu dans le texte est « susceptible de mettre en cause la protection de la vie privée et d’autres droits et libertés fondamentales, tels que la liberté d’aller et venir et les libertés d’opinion et de manifestation ». Si […]
Quel est l’avis de la commission ?
J’ai déjà expliqué qu’il serait dangereux de mettre les traitements algorithmiques dans toutes les mains en les rendant disponibles en open data car cela reviendrait à permettre à des personnes malveillantes d’utiliser ces techniques pour traiter les vidéos diffusées. Une telle mesure poserait d’autant plus de difficultés que, comme nous venons de l’établir, n’importe qui peut désormais filmer et diffuser sur les réseaux sociaux des images de manifestations, y compris captées par drone dans la capitale.J’ai également déclaré que l’utilisation de l’open data conduirait à dissuader les acteurs susceptibles de développer ces outils. Ce serait d’ailleurs dans votre intérêt, puisque vous ne souhaitez pas que le traitement algorithmique des données soit développé : vous entendez donc faire perdre tout intérêt à cette technologie pour les entreprises, afin qu’elle ne puisse pas être […]
Nous sommes démasqués, flûte !
Vous n’aimez pas l’open data !
Quant au traitement des données algorithmiques à des fins d’apprentissage, puisque c’est bien de cela qu’il est question, je rappelle que la commission des lois a, notamment à l’initiative de son rapporteur Guillaume Vuilletet – qui nous écoute et à qui je souhaite à nouveau un prompt rétablissement –, modifié la rédaction de l’article 7. Ce dernier prévoit désormais que c’est sous la seule responsabilité de l’État qu’un échantillon d’images pourra être utilisé, dans des conditions précises, comme données d’entraînement, et que ces images pourront être conservées uniquement à des fins d’apprentissage et pendant une durée strictement nécessaire, c’est-à-dire jusqu’au 31 décembre 2024, date de la fin de l’expérimentation.
(L’amendement no 224, repoussé par le Gouvernement, n’est pas adopté.)
La parole est à M. Léo Walter, pour soutenir l’amendement no 613.
Comme les précédents, il vise à inscrire dans la loi les limites de l’expérimentation. Nous proposons ainsi de prévoir la destruction des données à l’issue de ladite expérimentation, pour éviter qu’elles soient utilisables à d’autres fins.Puisque M. le ministre nous accuse de ne pas répondre à ses questions, j’ajouterai deux choses.
C’est bon, M. Bernalicis a répondu !
D’abord, nous ne sommes évidemment pas opposés à la technologie – là n’est pas la question. Nous souhaitons simplement encadrer son utilisation pour éviter toute dérive. Je vous confirme que nous sommes attentifs à la défense des libertés fondamentales. Tel est le sens de tous nos amendements, qui sont loin de constituer une tentative d’obstruction. Nous étions au contraire de ceux qui voulaient arriver au bout de l’examen de l’article 7 hier soir.
Pour pouvoir aller manifester !
Nous défendons simplement nos convictions et nos opinions, ce qui est notre droit le plus strict.
Et même notre devoir !
Ensuite, je souhaite obtenir un éclaircissement : vous expliquez depuis tout à l’heure que les drones ne sont pas utilisés par la police ni par la gendarmerie. J’ai pourtant été personnellement témoin, en 2020, lors d’une manifestation devant l’hôpital de Sisteron, dont les urgences étaient fermées – comme vous le savez, elles le sont restées très longtemps, avant que nous n’obtenions leur réouverture grâce à cette mobilisation –, de l’utilisation de deux drones, dont j’ai pu constater de mes propres yeux qu’ils étaient pilotés par des gendarmes. Si vous en avez connaissance, je souhaite savoir dans quel cadre ces drones étaient pilotés ce jour-là.
Quel est l’avis de la commission ?
Défavorable.
Quel est l’avis du Gouvernement ?
Même avis. Entendons-nous bien, monsieur le député : je ne vous reproche en rien de débattre. Je suis à la disposition du Parlement : nous pouvons consacrer à ces questions autant de temps que vous le désirez, comme le prévoit la Constitution.
Où est la ministre des sports, d’ailleurs ?
J’ai trop de respect pour le Parlement – dont je suis membre lorsque je ne suis pas ministre de l’intérieur – pour vous adresser un tel reproche. Je note simplement qu’hier soir, plusieurs d’entre vous souhaitaient accélérer le débat, comme la présidente Fiat l’a rappelé.
Nous avons simplement formulé une proposition !
Pardon, mais La France insoumise a souhaité que l’Assemblée nationale vote en catimini sur l’article 7, chacun ici le sait. (M. Ugo Bernalicis sourit.)
Non !
Pour répondre à M. Walter, qui évoque une manifestation s’étant tenue en 2020, il ne vous aura pas échappé que le contexte était alors quelque peu différent, puisque, comme cela a été rappelé hier, c’est en 2021 que le Conseil constitutionnel a estimé que la préfecture de police ne pouvait pas utiliser de drones, non pas parce que c’était illégal en tant que tel, mais en raison d’un vide juridique. Comme j’en étais alors convenu avec le préfet Lallement et avec tous les préfets de la République, nous avons décidé, en attendant de combler cette lacune, de ne pas prendre le risque d’utiliser les drones, qui sont restés cloués au sol. Nous avons préféré attendre de faire adopter une disposition législative, ce que nous avons fait, puis de prendre un décret, qui, une fois recueilli l’avis de la Cnil, permettrait aux forces de l’ordre d’avoir à nouveau recours aux drones, à des fins […]
Tout à fait ! Malheureusement, il ne siège plus sur ces bancs, ce dont j’assume la responsabilité !
La parole est à M. Ugo Bernalicis, pour soutenir l’amendement no 673.
Nous en venons à la biométrie. Avant cela, je tiens à revenir sur le sophisme développé par le président de la commission des lois, qui m’a accusé d’être contre le mouvement social.
Non, j’ai dit que vous étiez pour la répression ! Encore une imprécision !
Je serais même pour la répression du mouvement social, en effet ! Je serais ainsi favorable au recul à 64 ans de l’âge légal de départ à la retraite, donc en parfait accord avec le Gouvernement. La lumière a ainsi été faite sur mes intentions : je serai ministre de l’intérieur après le prochain remaniement d’Emmanuel Macron.
Bravo !
C’est fatigant !
Et Marine Le Pen sera Première ministre, tant que nous y sommes !
Tout cela est évidemment fort logique. Merci au président de la commission des lois pour cette brillante démonstration.Revenons-en à la biométrie…
Je vous serais effectivement reconnaissante de vous en tenir à la défense de votre amendement, cher collègue.
Oui, concentrez-vous un peu !
Vous avez tout à fait raison, madame la présidente.La question de la biométrie est intéressante, précisément parce que vous assurez que le texte soumis à notre examen ne prévoit nullement l’usage de la biométrie : il s’agit simplement de confier à un logiciel l’analyse de vecteurs, de lignes, de traits et de points. Il n’y aurait donc pas lieu de s’inquiéter : les visages des personnes ne seront pas analysés et le logiciel ne saura même pas dire s’ils ont des bras et des jambes, mais uniquement s’ils forment une foule – puisque certains paramétrages permettent apparemment de détecter une foule dépourvue de bras ou de jambes. Cela me semble assez étrange, mais c’est la thèse que vous défendez.La réalité, c’est que les outils devront forcément être capables de détecter la présence de corps – ou plus précisément l’absence de corps s’il s’agit de détecter, par exemple, un colis inerte. Ils […]
Il a raison !
Quel est l’avis de la commission ?
Défavorable.
Quel est l’avis du Gouvernement ?
Même avis.
La parole est à M. Ugo Bernalicis.
Je comprends qu’on préfère me répondre sur les goélands ou sur les drones qui seraient utilisés par les manifestants – j’attends d’ailleurs que vous me transmettiez les références en question, monsieur le ministre, car je serais intéressé par le visionnage de ces images, qui sont visiblement diffusées sur les réseaux sociaux –,…
C’est bien la première fois que vous n’utilisez pas votre téléphone dans l’hémicycle !
…mais il est ici question de la définition que vous entendez donner au mot « biométrie ». Ce point est important. Vous avez dit beaucoup de choses en commission. Pour avoir lu le document produit par La Quadrature du net – qui tient certes parfois des propos acerbes et peu sympathiques –, je dois admettre avoir été plutôt convaincu par son analyse.
Nous avons déjà largement répondu sur ce point !
Je suis également convaincu par la définition de la Cnil, qui considère que le simple fait d’identifier un comportement, même sans identifier la personne, relève déjà de la biométrie. D’ailleurs, les industriels qui commercialisent ce type de solutions techniques et technologiques affirment même qu’il serait possible d’identifier un individu portant, par exemple, un sweat à capuche – pardon d’y revenir – rouge, puis, à l’aide d’un bon algorithme, de le suivre et de retracer son parcours. Cela suppose bien qu’on identifie sa démarche corporelle ou ses vêtements par différents points ou occurrences, qui relèvent de la biométrie.C’est pourquoi nous estimons important d’interdire le recours à la biométrie dans le texte car cela vous empêcherait d’installer des systèmes de vidéosurveillance algorithmique ou automatisée – peu importe le terme retenu. Tel est bien notre objectif : nous sommes […]
La parole est à M. Philippe Latombe.
Reprenons la définition de la Cnil, du RGPD et du Comité européen de la protection des données (CEPD) : « La biométrie regroupe l’ensemble des techniques informatiques permettant de reconnaître automatiquement un individu à partir de ses caractéristiques physiques, biologiques, voire comportementales.
Précisément : « comportementales » !
« Les données biométriques sont des données à caractère personnel car elles permettent d’identifier une personne. » L’article 7 du texte exclut explicitement la biométrie, c’est-à-dire l’ensemble des techniques que vous venez de décrire. Par nature, votre demande est donc satisfaite.Cessez donc de prétendre que le fait de chercher à savoir si c’est bien une personne qui se tient à côté d’une valise revient à chercher à l’identifier : il s’agit simplement de savoir s’il s’agit d’un être humain, d’un goéland, d’une chèvre, d’un éléphant ou de n’importe quoi d’autre, voilà tout !
Exactement ! Cela s’appelle de la biométrie !
Il n’est pas nécessaire de savoir qui est la personne, mais simplement s’il s’agit bien d’un être humain. Vous persistez à dire que, parce qu’on analyse deux points constituant un vecteur, on tombe forcément dans la biométrie, mais tel n’est pas le cas : revenez à la définition de la Cnil, du RGPD et du CEPD. Nous avons expressément exclu la biométrie de l’article 7, ce qui me fait dire – et je le répète, après l’avoir déjà affirmé solennellement hier – que cet article ne me pose pas de problème, pas plus qu’à la Cnil ou au Conseil d’État, et qu’il ne posera non plus aucun problème au Conseil constitutionnel.
On verra !
Il n’y a aucun débat à avoir sur cette question : l’article 7, je le répète, ne traite pas de biométrie. Si vous vouliez insérer de telles techniques dans le projet de loi, nous nous y opposerions. (Applaudissements sur quelques bancs du groupe Dem.)
Ça a le goût et la couleur de la biométrie, mais ce n’est pas de la biométrie : voilà un concept intéressant !
La parole est à M. le ministre.
La question importante que vous soulevez mérite, même si nous y avons répondu plusieurs fois, une réponse, ne serait-ce que pour que vous ne puissiez pas prétendre que nous l’éludons. Comme l’a très justement souligné M. Latombe, vous confondez les algorithmes, la biométrie, les pratiques de certains centres de supervision urbains municipaux et les activités qui seront permises si le texte soumis à votre examen devait être adopté. Si vous me le permettez, je m’efforcerai de vous répondre clairement – et, je l’espère, une fois pour toutes, même si nous resterons probablement en désaccord sur le fond.Premièrement, que prévoit le texte ? Il prévoit de repérer des situations prédéterminées, comme un départ de feu ou un mouvement de foule, que la loi ne qualifie nullement d’anormales ou de suspectes.S’agissant du recours à l’intelligence artificielle, tel qu’il est autorisé par le décret de […]
La parole est à M. Paul Molac, pour soutenir l’amendement no 213.
J’ai bien suivi les débats de ce matin. Cet amendement de M. Acquaviva est un peu dans la même veine que les précédents puisqu’il vise à proscrire toute information de nature à permettre la reconnaissance automatique d’un individu du fait de ses caractéristiques physiques, biologiques ou comportementales.Cette mesure illustre, sinon une peur que de tels procédés soient utilisés afin de suivre la population – soit l’idée selon laquelle Big Brother observerait nos allées et venues –, du moins la volonté de faire preuve de vigilance en la matière.J’ai bien entendu les propos de M. le ministre et de M. Latombe. L’article 7 semble bien bordé. M. le président de la commission me répondra certainement que l’amendement est satisfait. Cependant, n’en étant pas le rédacteur, et conformément à mes principes, je ne peux le retirer.
Quel est l’avis de la commission ?
J’aimerais compléter les propos du ministre – car si certains ne le croient pas, ils peuvent au moins croire la loi. L’alinéa 5 de l’article 7 indique : « Les traitements mentionnés au I du présent article n’utilisent aucun système d’identification biométrique, ne traitent aucune donnée biométrique et ne mettent en œuvre aucune technique de reconnaissance faciale. » Votre amendement étant satisfait, j’émets un avis défavorable.
Quel est l’avis du Gouvernement ?
Même avis.
La parole est à Mme Sandra Regol.
Nous aurons ce débat à de nombreuses reprises. Les conditions énoncées par notre collègue Molac pour caractériser les données biométriques exploitées ne sont pas forcément cumulatives.De fait, toutes les entreprises qui développent ces algorithmes nous expliquent qu’elles vont chercher les rapports vectoriels qui composent le corps dans son ensemble – c’est-à-dire tous les points qui forment le visage mais aussi les bras ou encore le torse – pour élaborer une solution.
Ce sont des formes !
La finesse de la technique développée est même leur argument de vente numéro un. Dès lors, convenez que l’on peut nourrir quelques doutes.D’autres entreprises mettent en avant, non pas les rapports vectoriels, mais les comportements traités. Or, vous l’avez tous dit – y compris les défenseurs de l’article 7 –, les comportements sont une des données biométriques prises en compte.Quelle que soit la façon dont vous présentez le problème, ce sont donc bien des données à caractère biométrique qui seront traitées. C’est dangereux car, dans le dispositif que vous nous présentez, aucun moyen technique permettant d’éviter le traitement des visages n’est mentionné. Certes les visages seront peut-être floutés sur les images que verront les agents et celles-ci ne seront peut-être pas exploitées à l’instant T. Néanmoins, ces données seront traitées.
En temps réel !
L’intelligence artificielle ne traitera pas séparément les parties du corps, par exemple une main et un visage – elle n’en est pas capable. Or vous n’avez donné aucune réponse technique sur ce point. En revanche, les entreprises qui développent ces outils mettent en garde sur le fait que, pour nombre d’entre elles, le respect du RPGD laisse à désirer. Une de ces entreprises – française – a beau se vanter de ses bonnes pratiques en la matière, elle a les plus grandes difficultés à expliquer comment elle pourra empêcher le traitement les visages – et c’est bien normal puisqu’elle n’est pas en mesure de le faire.
Je suis saisie de deux amendements identiques, nos 153 et 532.La parole est à M. Roger Vicot, pour soutenir l’amendement no 153.
Il vise à indiquer, après la première phrase de l’alinéa 5, toujours à propos des algorithmes – le sujet qui nous occupe ce matin – : « Ils ne peuvent induire aucune des formes de discrimination mentionnées à l’article 225-1 du code pénal. » C’est une précaution supplémentaire. Pour reprendre l’expression employée tout à l’heure par M. Balanant, ça ne mange pas de pain de l’inscrire dans la loi. J’ajouterai : cela va sans dire mais cela va mieux en le disant. Il nous semble même très important de l’écrire noir sur blanc même si l’on me répondra probablement que cela va de soi et que l’amendement est satisfait.
L’amendement no 532 de Mme Élisa Martin est défendu.Quel est l’avis de la commission sur ces amendements ?
Vous avez posé la question et donné la réponse, monsieur Vicot. Il est écrit dans l’alinéa 14 que « leur traitement doit être loyal et éthique, reposer sur des critères objectifs ». Ces derniers excluent toute forme de discrimination.
Ah non !
Quel est l’avis du Gouvernement ?
Même avis.
La parole est à M. Jérôme Guedj.
Il y a un peu plus de vingt ans – je le dis avec un peu de nostalgie –, je siégeais ici même en tant que commissaire du Gouvernement au moment où nous transposions pour la première fois les directives européennes relatives aux discriminations. Nous avions alors inscrit dans le code pénal les premiers critères de discrimination prohibés, lesquels sont aujourd’hui au nombre de vingt-cinq.Nous savons malheureusement que les intelligences artificielles – derrière lesquelles se trouvent toujours des humains – reproduisent de manière inconsciente le pire de l’intelligence humaine, notamment les stéréotypes, les clichés et parfois, par voie de conséquence, les discriminations. On peut d’ailleurs citer aujourd’hui de multiples exemples de dérapages, de la part d’intelligences artificielles, en matière de sexisme ou de racisme.Alors que l’on s’apprête à utiliser des IA algorithmiques, il faut […]
Sur les amendements identiques nos 153 et 532, je suis saisie par le groupe Socialistes et apparentés (membre de l’intergroupe NUPES) d’une demande de scrutin public.Le scrutin est annoncé dans l’enceinte de l’Assemblée nationale.La parole est à M. Ugo Bernalicis.
Monsieur le président de la commission des lois, certains critères rationnels et objectifs peuvent être discriminatoires.
Il a raison !
Il me paraît insensé d’avancer l’argument selon lequel l’algorithme étant loyal, objectif et rationnel, il ne saurait être discriminatoire.
« Loyal et éthique » : encore une fois, vous êtes imprécis !
D’ailleurs, s’agissant du processus d’apprentissage – puisque je sais que vous prenez en considération l’opérateur humain –, lorsqu’un voyant clignotera parce que l’algorithme aura détecté un événement prédéterminé, l’opérateur procédera à une vérification, à une levée de doute soit en visionnant lui-même les images soit en envoyant des équipes sur place. Ensuite, si l’incident est réel, il le traitera, sinon il le clora. Cette décision – la validation ou non du problème – viendra alors enrichir l’algorithme en améliorant sa capacité à sélectionner les événements qu’il signalera à l’avenir à l’opérateur. Dès lors, si celui-ci a un biais discriminatoire, l’algorithme le reproduira pour favoriser les événements déjà validés.
Non !
Si l’opérateur a tendance à se comporter de façon discriminatoire – en considérant les critères définis à l’article 225-1 du code pénal –, il en ira de même pour votre algorithme même si celui-ci se montre loyal et éthique vis-à-vis de l’opérateur qui décide de donner son feu vert ou au contraire de ne pas valider l’événement signalé.Comme l’a dit le collègue Guedj, les algorithmes reproduisent les biais déjà présents dans la société. Pour se prémunir des risques liés à ce phénomène, il faut faire du droit et rappeler nos principes noir sur blanc dans le texte et non se contenter d’employer des mots comme « éthique » ou « loyal ».
Il a raison !
Je mets aux voix les amendements identiques nos 153 et 532.
(Il est procédé au scrutin.)
Voici le résultat du scrutin : Nombre de votants 62 Nombre de suffrages exprimés 56 Majorité absolue 29 Pour l’adoption 10 Contre 46
(Les amendements identiques nos 153 et 532 ne sont pas adoptés.)
La parole est à M. Benjamin Lucas, pour soutenir l’amendement no 225.
La possibilité d’exploiter des images captées par vidéosurveillance algorithmique a posteriori est une autre atteinte aux droits des personnes. En effet, l’image de ces dernières ne sera plus seulement utilisée pour des raisons présumées de sécurité mais aussi pour l’apprentissage d’une intelligence artificielle à des fins commerciales. Il s’agit là d’une dérive inacceptable qui, sous prétexte de sécurité, place le profit avant les libertés individuelles.De plus, la conservation des images après leur utilisation en temps réel, dans un contexte de cybersécurité sous haute tension, expose les personnes et leur image à des fuites de données et à une utilisation ultérieure hors de tout encadrement légal.Monsieur le ministre, je rappelle – mais vous le savez sans doute aussi bien que nous – que 4 milliards de cyberattaques ont eu lieu pendant les Jeux olympiques de Tokyo en 2021.Par cet […]
(L’amendement no 225, repoussé par la commission et le Gouvernement, n’est pas adopté.)
L’amendement no 152 de M. Roger Vicot est défendu.
(L’amendement no 152, repoussé par la commission et le Gouvernement, n’est pas adopté.)
L’amendement no 737 de M. le rapporteur de la commission des lois constitutionnelles, de la législation et de l’administration générale de la République est rédactionnel.
(L’amendement no 737, accepté par le Gouvernement, est adopté.)
La parole est à Mme Sandra Regol, pour soutenir l’amendement no 720.
Il s’agit d’un amendement de notre excellent collègue Sébastien Peytavie.Le déploiement de la vidéosurveillance algorithmique qu’ambitionne le présent projet de loi laisse planer de sérieuses craintes sur les dérives sécuritaires – nous n’en finissons pas –, notamment à travers la définition légale des comportements anormaux et donc de l’anormalité. Amnesty International, entre autres, avertit des risques de biais discriminatoires dans l’analyse des données, en particulier de biais racistes, nous l’avons déjà largement expliqué. De plus, nous avons de sérieux doutes concernant cette technologie qui, parce qu’elle repose sur la détection de ces fameux événements anormaux, comporte également de sérieux biais concernant certaines personnes en situation de handicap, qui sont déjà une des populations les plus discriminées selon la Défenseure des droits ; elles le sont au quotidien dans un […]
Quel est l’avis de la commission ?
Défavorable.
Quel est l’avis du Gouvernement ?
Défavorable.
La parole est à M. Ugo Bernalicis.
Autant il ne serait pas évident de sensibiliser un algorithme aux discriminations, autant procéder à une sensibilisation à la non-discrimination des gens chargés de le mettre en œuvre ou de procéder d’une manière ou d’une autre à des opérations de surveillance est plus pertinente et plus efficace. Nous avons fait la démonstration que le principal problème provient des biais introduits dans le fonctionnement de l’algorithme, notamment du fait des arbitrages humains. L’automatisation va accentuer les biais existants. Il serait donc utile que vous nous précisiez, monsieur le ministre, en quoi va consister l’habilitation des opérateurs : s’agira-t-il seulement d’avoir un casier judiciaire vierge ou y aura-t-il des obligations en termes de formation préalable, notamment s’ils ne sont pas policiers ou gendarmes ?
Il a raison !
La parole est à M. Paul Molac, pour soutenir l’amendement no 214.
Cet amendement vise à assurer que le recours aux caméras intelligentes ne pourra se faire qu’à titre complémentaire, aux côtés des autres méthodes de surveillance traditionnelles. Dans son avis sur le présent projet de loi, la Cnil a rappelé que ces traitements algorithmiques présentent, en mise en condition réelle, des taux d’erreur particulièrement importants. Elle juge ainsi le recours à ces technologies moins efficace en conditions opérationnelles qu’une détection humaine ou que les autres méthodes de contrôle conventionnelles. De ce fait, pour assurer le maintien de l’ordre public dans les manifestations concernées, il est essentiel que l’intelligence artificielle ne soit pas le seul outil déployé par l’État.
Quel est l’avis de la commission ?
L’amendement est satisfait. Demande de retrait ou, à défaut, avis défavorable.
Quel est l’avis du Gouvernement ?
Même avis.
La parole est à M. Roger Vicot, pour soutenir l’amendement no 155.
J’ai bien entendu l’explication de M. le ministre sur le fait que la Cnil rendra son avis sur les algorithmes mais surtout sur les situations prédéterminées qui seront définies par le décret, et cet amendement conforte cette garantie en complétant l’alinéa 8 par les mots suivants : « à laquelle [la Cnil] l’intégralité du code du traitement aura été préalablement communiquée ». Car on ne sait pas à ce jour comment elle sera informée des situations prédéterminées. Nous souhaitons que le code du traitement lui soit transmis intégralement pour qu’elle puisse se prononcer en toute connaissance de cause sur le futur décret.
Quel est l’avis de la commission ?
La Cnil exercera toutes ses missions, y compris celle de contrôle, en particulier du traitement des images. Elle n’a pas sollicité à ce stade la communication de l’algorithme. Par ailleurs, si certains d’entre vous peuvent avoir des doutes vis-à-vis du Gouvernement, vous ne pouvez pas en avoir vis-à-vis de la Cnil dont les travaux comme les avis sont impartiaux et font l’objet d’une légitime confiance de la part de tous les parlementaires. Je considère donc que l’amendement est satisfait et j’en demande le retrait.
Quel est l’avis du Gouvernement ?
Même avis.
La parole est à M. Roger Vicot, pour soutenir l’amendement no 156.
Cet amendement devait être défendu par Mme Untermaier, coutumière de ce genre de proposition dans un souci de transparence. En l’espèce, il conviendrait de prévoir que le Gouvernement puisse organiser une consultation publique sur internet dans le cadre de l’élaboration de son décret.
(L’amendement no 156, accepté par la commission et le Gouvernement, est adopté.)
La parole est à M. Jean-Claude Raux, pour soutenir l’amendement no 226.