Compte rendu intégral des prises de parole, sous la présidence de Présidence de Mme Naïma Moutchou.
Tours 401 à 600 sur 1071 — page 3 / 6.
Selon un récent sondage de la fondation Panoptykon, 85 % des Français interrogés estiment important, voire très important, de pouvoir comprendre comment le modèle d’intelligence artificielle fonctionne lorsqu’il est utilisé par une entreprise privée ou par une institution et lorsque celui-ci sert à évaluer ou à prédire leur comportement. Il s’agit d’un intérêt légitime. Sinon, ce que nous gagnerions supposément en termes de sécurité, nous le perdrions en termes de libertés individuelles et de droit à la vie privée.Est-ce que gains et pertes s’équilibrent dans la rédaction actuelle ? On est en droit de se poser la question. Il pourrait être redouté une forme ou une autre de discrimination fondée sur des caractéristiques physiques ou sur des comportements considérés comme anormaux. En effet, la notion d’événements prédéterminés n’est pas précisée et encore moins la façon dont ils sont […]
(L’amendement no 226, repoussé par la commission et le Gouvernement, n’est pas adopté.)
La parole est à M. Roger Vicot, pour soutenir l’amendement no 157.
Sans illusion puisque la question a déjà été abordée en vain à plusieurs reprises, nous proposons dans cet amendement de repli de substituer aux mots : « les événements prédéterminés », les mots : « la nature des abandons de bagage », revenant ainsi à notre proposition de réécriture de l’article 7 en limitant le nombre de situations dites anormales à ce seul cas.
(L’amendement no 157, repoussé par la commission et le Gouvernement, n’est pas adopté.)
La parole est à M. Jérémie Iordanoff, pour soutenir l’amendement no 608.
Cet amendement vise à doter la Cnil d’un pouvoir de saisine du Conseil d’État dans le cas où son avis ne serait pas suivi, à défaut de prévoir un avis conforme. Ce mécanisme existe déjà pour la Commission nationale de contrôle des techniques de renseignement (CNCTR) et ce serait donc la moindre des protections que de l’étendre à la Cnil face aux risques que comporte cette technologie. Le texte prévoit un avis simple, mais c’est insuffisant car cette procédure n’est pas adaptée aux risques que fait peser la vidéosurveillance algorithmique sur les libertés.À défaut de pouvoir interdire le déploiement de cette technologie, nous devons prévoir des garde-fous institutionnels. La Cnil aurait pu jouer ce rôle en étant plus étroitement associée au pouvoir d’autorisation du traitement algorithmique. J’avais d’ailleurs déposé un amendement en ce sens, mais cette proposition a été écartée du débat […]
Ça, c’est sûr !
Vous, vous avez un problème avec le droit de blocage !
Le désaccord, c’est la démocratie !
…et peut-être même un problème avec le parlementarisme dans cette Ve République.
Quel est l’avis de la commission ?
Défavorable.
Quel est l’avis du Gouvernement ?
L’exemple que vous citez me permet de renverser votre argumentation pour émettre un avis défavorable sur votre amendement. En effet, si la Commission nationale de contrôle des techniques de renseignement peut saisir directement le Conseil d’État, c’est parce que cette autorité administrative indépendante a à connaître d’actes que l’intéressé ignore. Quand le ministère de l’intérieur met sous géolocalisation ou sur écoute telle personne, celle-ci ne le sait évidemment pas et ne peut donc former de recours. Si le CNCTR considère que la décision du ministère n’est pas conforme à l’esprit de la loi et donc au droit administratif, elle peut saisir le Conseil d’État au titre de la garantie des droits de la personne concernée, mais elle seule peut le faire.Or ce n’est pas le cas de ce que nous évoquons ici puisque la Cnil a à connaître des informations que tout le monde connaît et qu’elle […]
La parole est à M. Ugo Bernalicis.
On sait bien que la Quadrature du net, par exemple, pourra faire des recours devant le Conseil d’État sur le fondement des avis de la Cnil auxquels vous n’aurez pas donné suite, mais il est tout de même pour le moins pénible qu’il faille attendre que quelqu’un fasse un recours alors que la mieux armée pour cela puisqu’elle aura analysé le système, ce serait la Cnil elle-même. Vous avez une fâcheuse tendance à vouloir des autorités administratives indépendantes qui n’aient guère, voire pas du tout de pouvoir et du reste les dernières nominations en leur sein peuvent laisser songeur, entre autres les nominations au Conseil constitutionnel, parce que c’est le fait du prince et que celui-ci ne voit pas toujours juste.
Vous, vous voyez toujours juste !
Prévoir au moins la saisine du Conseil d’État par la Cnil n’a rien de génial, ce n’est pas la garantie la plus dingue, mais ce serait mieux que rien. Cela n’avait rien d’inacceptable.Quant à la CNCTR, si elle n’avait pas eu la possibilité de saisir le Conseil d’État, tout le dispositif aurait été inconstitutionnel parce que susceptible d’absolument aucun recours. Mais il faut tout de même s’en remettre à cet organisme censé voir tout passer pour qu’il se substitue aux gens qui ne peuvent pas faire de recours faute d’être au courant qu’ils sont surveillés. Le droit de saisine par la CNCTR était donc, je le répète, une nécessité pour que le dispositif ne s’effondre pas juridiquement.On voit bien que vous ne voulez pas prévoir trop de garanties.
Et les vingt-huit garanties mentionnées par le ministre, qu’en faites-vous ?
Je sais bien que c’est pénible de gérer des recours devant le Conseil d’État – il faut faire des mémoires en défense, etc.
La parole est à M. le ministre.
Je ne vais pas relire les vingt-huit garanties, rassurez-vous, madame la présidente, parce que je ne veux pas allonger les débats. Mais c’est un moment important et je comprends l’esprit dans lequel M. Iordanoff soulève la question. Mais je ne peux pas, monsieur Bernalicis, vous entendre sans réagir et je vais vous relire un extrait du considérant no 26 de l’avis du Conseil d’État, ce qui devrait convaincre M. Iordanoff : « L’intervention de la Cnil comme autorité de contrôle, aussi bien au stade de l’autorisation du déploiement du traitement que durant sa mise en ?uvre et son évaluation, assure une supervision constante de l’expérimentation de nature à prévenir les risques susceptibles d’être rencontrés. »Le fait que chaque citoyen ou chaque association peut saisir directement le Conseil d’État ainsi que l’extrait de l’avis que je viens de citer donnent toutes les garanties possibles.
Je suis saisie de trois amendements, nos 215, 158 et 216, pouvant être soumis à une discussion commune.La parole est à M. Stéphane Lenormand, pour soutenir l’amendement no 215.
Cet amendement de notre collègue Naegelen vise à garantir la protection des intérêts de l’État et des citoyens dans le développement de l’intelligence artificielle en France. La surveillance intelligente pose des questions de souveraineté et de sécurité essentielles qu’il n’est pas possible de négliger, y compris dans le cadre d’une expérimentation. Il est donc impératif que le développement de l’intelligence artificielle, sa gestion, son fonctionnement et sa propriété demeurent dans les mains de l’État. Le développement de tels dispositifs algorithmiques doit donc être assuré soit directement par l’État, en interne, soit par un établissement public, une entreprise publique ou une entreprise privée aux capitaux 100 % publics. Face aux enjeux actuels et à la sensibilité des données traitées, toute délégation à une entreprise privée, notamment étrangère, n’est pas envisageable.
La parole est à M. Roger Vicot, pour soutenir l’amendement no 158.
C’est un amendement qui nous semble très important ; nous sommes au cœur de technologies extrêmement sensibles, dont nous discutons déjà depuis plusieurs heures. Par cet amendement de repli, nous proposons d’imposer à l’État le développement du traitement algorithmique afin qu’il ne soit pas sous-traité à une entreprise privée. Dans ce contexte, il est essentiel que l’État maîtrise totalement ces technologies – c’est la garantie que les choses se feront au mieux.
La parole est à M. Stéphane Lenormand,…
Ce n’est pas Gérard ? (Sourires.)
Faute de voir l’intelligence artificielle développée directement en interne par l’État, cet amendement de repli vise à s’assurer que le prestataire privé chargé de son développement ou auprès duquel l’État pourra acquérir le dispositif sera nécessairement situé en France ou sur le territoire d’un pays membre de l’Union européenne.
Quel est l’avis de la commission sur cette série d’amendements ?
Je tiens à le rappeler, c’est bien l’État qui pilotera l’ensemble du processus et qui délivrera les attestations de conformité préalables à l’emploi des traitements. Il y a un non-dit derrière ces amendements : l’État a-t-il lui-même les moyens de développer ces traitements algorithmiques ? La réponse est non car cela demande précisément une compétence technique que seuls nos services de renseignement peuvent avoir.
Même pas !
Et encore, je ne suis pas sûr qu’ils puissent le faire, en dépit de toutes leurs qualités.Dans ces circonstances, vos amendements auraient pour effet d’empêcher le traitement algorithmique de la vidéoprotection ; c’est bien ce que vous recherchez depuis le départ par toute une série d’amendements. C’est l’une des raisons pour lesquelles, en dépit de toutes les garanties que nous vous avons présentées – notamment le rôle de la Cnil et les vingt-huit obligations énumérées hier assez longuement par le ministre de l’intérieur –, vous ne souhaitez pas qu’un tel traitement algorithmique soit mis en place ; c’est une différence de fond entre nous. Nous ne pouvons donc pas accepter vos amendements car ils reviendraient in fine à supprimer l’article 7.
Quel est l’avis du Gouvernement ?
Même avis.
(Les amendements nos 215, 158 et 216, successivement mis aux voix, ne sont pas adoptés.)
Sur les amendements nos 757 et 509, je suis saisie par le groupe Rassemblement national d’une demande de scrutin public.Le scrutin est annoncé dans l’enceinte de l’Assemblée nationale.La parole est à M. Ugo Bernalicis, pour soutenir l’amendement no 616.
Il s’agit surtout d’un amendement d’appel. Il aurait fallu que nous le rédigions plus en détail pour afficher clairement nos intentions, mais voici la question que nous posons : qui seront les opérateurs qui assureront cette vidéosurveillance algorithmique ? Pour notre part, nous préférons que ce soient des opérateurs français. De fait, dans la plupart des cas, ce seront des opérateurs français, la France étant un fleuron en ce domaine – il semble qu’elle veuille se servir des Jeux olympiques pour ensuite vendre ses solutions à l’étranger. Au moins, si ce sont des entreprises françaises qui déconnent, nous les avons ici sous la main ; en cas de poursuites, la justice pourra connaître leur adresse et saura où trouver les responsables. Pour une entreprise qui se trouve à l’autre bout du monde, les choses sont plus compliquées, notamment en termes de coopération judiciaire […]
Quel est l’avis de la commission ?
Cela pose un nouveau problème de droit, ainsi que le précise ma fiche de banc. Votre amendement, monsieur Bernalicis, est inconventionnel, c’est-à-dire contraire à tous les traités européens, notamment sur la question de la préférence nationale. Tout à l’heure, nous avons vu que vous étiez pour la répression du mouvement social lorsque nous avons discuté de l’utilisation de caméras par des manifestants eux-mêmes ; nous apprenons désormais que vous êtes pour la préférence nationale ! (Rires sur plusieurs bancs du groupe RN.)
C’est ça !
On l’attendait !
C’est exactement le sens de votre amendement. En ce qui me concerne, j’y suis fondamentalement opposé et c’est pourquoi j’émets un avis défavorable.
Quel est l’avis du Gouvernement ?
Même avis.
Sur le sous-amendement no 789, je suis saisie par le groupe Renaissance d’une demande de scrutin public.Le scrutin est annoncé dans l’enceinte de l’Assemblée nationale.La parole est à M. Aurélien Lopez-Liguori, pour soutenir l’amendement no 757.
C’est un amendement de bon sens que nous vous proposons ici. Je ne vous le présente pas en tant que député du groupe Rassemblement national mais d’abord en tant que citoyen soucieux de l’indépendance numérique de la France et ensuite en tant que président du groupe d’études économie, sécurité et souveraineté numériques. Il s’agit d’un amendement transpartisan cosigné par les députés de trois groupes politiques différents – Philippe Latombe, Christophe Naegelen, Émeric Salmon et moi-même –, car la souveraineté numérique dépasse les clivages. Malheureusement, la souveraineté numérique est quelque peu absente de l’article 7, celui-ci ne faisant pas mention du pays d’établissement de l’entreprise qui pourra répondre à l’appel d’offres pour l’exploitation du système de vidéosurveillance algorithmique. Il n’y a pas de garanties que cette entreprise qui traitera des données précieuses et […]
Une belle brochette !
La parole est à M. Éric Bothorel, pour soutenir le sous-amendement no 789.
Je ne serai pas long. Nous sommes à un endroit du texte qui nous amène à discuter du cadre expérimental d’une innovation technologique. Reconnaissons-le, dans notre pays, nous avons souvent regardé ces technologies d’un œil dédaigneux, nous avons attendu qu’elles soient matures avant de les acheter aux Américains et aux Chinois. Avec l’amendement no 757 et ce sous-amendement, nous assumons une responsabilité presque unanimement partagée sur ces bancs, celle d’orienter cette innovation en faveur des entreprises françaises ou européennes. Nous ne pouvons pas tenir des discours de souveraineté ou d’autonomie stratégique à longueur de temps et ne pas prendre nos responsabilités : il n’est pas question que des technologies émergentes ne puissent pas être fournies par des entreprises françaises ou européennes, d’autant que nous allons probablement nous en saisir demain, une fois que les […]
Très bien !
Quel est l’avis de la commission ?
La commission avait initialement émis un avis défavorable, considérant que le référentiel n’avait pas de base légale et qu’il ne revenait pas à notre assemblée de lui en donner une. En revanche, j’ai entendu l’argument sur la conventionnalité du dispositif et l’intérêt de bénéficier de la protection des sociétés européennes. C’est la raison pour laquelle, à titre personnel, je m’en remets à la sagesse de l’Assemblée sur l’amendement comme sur le sous-amendement.
Quel est l’avis du Gouvernement ?
Même avis.
La parole est à M. Philippe Latombe.
Je tenais simplement à confirmer que le groupe Démocrate votera l’amendement et le sous-amendement. Très clairement, il s’agit de nous préserver d’un certain nombre de législations extraterritoriales, qu’elles soient américaine, chinoise, israélienne ou autre. Nous devons vraiment être sûrs que l’ensemble des logiciels de surveillance algorithmique respectent nos règles de droit françaises et européennes. C’est en ce sens que je me félicite du caractère transpartisan de cet amendement.
La parole est à M. Jérémie Iordanoff.
Pour commencer, la meilleure des garanties pour la souveraineté, c’est qu’il n’y ait pas de surveillance algorithmique du tout. (Applaudissements sur les bancs des groupes Écolo-NUPES et LFI-NUPES.)
Eh oui !
Imparable !
Je veux aussi vous faire part de mon émotion : c’est la première fois, me semble-t-il, qu’un amendement transpartisan est présenté dans cette assemblée par des membres des groupes de la majorité et des membres du groupe Rassemblement national. (« Oh ! » sur les bancs du groupe RN et sur plusieurs bancs du groupe RE.)
Quel sectarisme !
C’est l’extrême droite qui sera pour toujours marquée du sectarisme !
N’avez-vous pas honte, monsieur Latombe ? (Exclamations sur les bancs du groupe Dem.) Depuis le début, vous nous dites qu’il faut discuter avec tout le monde, avec les députés Les Républicains, entre autres. Mais force est de constater que vous n’acceptez aucun de nos amendements,…
Il faut dire qu’ils ne sont pas terribles !
…vous ne discutez avec nous sur rien. Et voilà que vous allez coconstruire avec le Rassemblement national ! (Exclamations sur les bancs des groupes Dem et RE.)
Ce n’est pas glorieux !
Et vous, vous vous associez à l’extrême gauche dont vous ne dénoncez pas la violence !
C’est un fait politique majeur scandaleux ! (Applaudissements sur les bancs des groupes Écolo-NUPES et LFI-NUPES.)
Parfaitement !
Arrêtez !
Je pense que nous assistons ici à une dérive de cette majorité, qui ne sait plus où elle va ; cela m’inquiète pour la suite de ce mandat. Mes chers collègues, ressaisissez-vous, c’est scandaleux ! (Applaudissements sur les bancs du groupe Écolo-NUPES. – Exclamations sur les bancs des groupes Dem et RE, ainsi que sur quelques bancs du groupe RN.)
Commencez par vous regarder dans la glace avant de donner des leçons ! (Mme Sandra Regol proteste.)
S’il vous plaît, chers collègues ! Dans le calme, nous allons procéder au scrutin. (Nouvelles exclamations sur les bancs du groupe Dem.)
Je demande la parole, madame la présidente !
Il y a déjà eu deux prises de parole, monsieur Balanant.Je mets donc aux voix le sous-amendement no 789.
(Il est procédé au scrutin.)
Voici le résultat du scrutin : Nombre de votants 52 Nombre de suffrages exprimés 51 Majorité absolue 26 Pour l’adoption 47 Contre 4
(Le sous-amendement no 789 est adopté.)
Je mets aux voix l’amendement no 757, sous-amendé.
(Il est procédé au scrutin.)
Voici le résultat du scrutin : Nombre de votants 52 Nombre de suffrages exprimés 52 Majorité absolue 27 Pour l’adoption 45 Contre 7
(L’amendement no 757, sous-amendé, est adopté.) (« Bravo ! » et applaudissements sur les bancs du groupe RN.)
La main dans la main !
L’amendement no 1 de M. Christophe Naegelen est défendu.
(L’amendement no 1, repoussé par la commission et le Gouvernement, n’est pas adopté.)
La parole est à M. Jordan Guitton, pour soutenir l’amendement no 509. Je rappelle que celui-ci fera l’objet d’un scrutin public, demandé par le groupe Rassemblement national.
Le traitement des données captées par les caméras algorithmiques est un sujet sensible. Les données à caractère personnel ainsi collectées doivent être protégées au maximum. Grâce à l’adoption de l’amendement transpartisan no 757, nous avons fait un pas dans cette direction. Par le présent amendement, je propose en sus que l’État s’engage à mettre en œuvre une politique d’achat responsable et orientée vers une entreprise française, ou à tout le moins européenne, lors de l’acquisition du traitement ou du choix du tiers à qui il confie son développement.Je tiens à préciser que cet amendement reprend les termes dans lesquels est formulé, dans le rapport annexé à la loi d’orientation et de programmation du ministère de l’intérieur, l’un des objectifs de la politique d’achat du ministère. Vous vous êtes référé hier à la Lopmi, monsieur le ministre. J’espère donc que vous donnerez un avis […]
Qui a la paternité ou la maternité de cet amendement ? C’est la voix de Marine Le Pen !
La ferme !
Quel est l’avis de la commission ?
Défavorable.
Quel est l’avis du Gouvernement ?
Même avis.
Je mets aux voix l’amendement no 509.
(Il est procédé au scrutin.)
Voici le résultat du scrutin : Nombre de votants 56 Nombre de suffrages exprimés 55 Majorité absolue 28 Pour l’adoption 15 Contre 40
(L’amendement no 509 n’est pas adopté.)
La séance est suspendue.
(La séance, suspendue à onze heures, est reprise à onze heures quinze.)
La séance est reprise.
La parole est à M. Benjamin Lucas, pour un rappel au règlement.
Sur le fondement de l’article 100, madame la présidente. Il y a quelques instants, nous avons assisté à un événement que l’on pourrait qualifier de point de bascule dans l’histoire de cet hémicycle et de notre République. Un amendement a été cosigné, de façon transpartisane, par la minorité présidentielle et l’extrême droite. (Mme la présidente coupe le micro de l’orateur.)
Et alors ?
Ce n’est pas un rappel au règlement, monsieur Lucas.
Cela devrait vous indigner autant que nous ! Main dans la main, c’est une honte ! (Exclamations sur les bancs du groupe RE.)
Ce n’est pas un rappel au règlement !
C’est scandaleux ! (Mêmes mouvements.)
S’il vous plaît, pouvons-nous reprendre le cours de nos débats ? Un peu de calme !
Prenez une pastille, monsieur Lucas !
Vous étiez bien contents d’avoir leurs voix pour la motion de censure…
Vous êtes irresponsables ! Vous pratiquez la politique de la terre brûlée !
Monsieur Lucas, s’il vous plaît !
Ça va !
Va manifester, tu seras plus utile !
C’est une honte !
Monsieur Lucas, monsieur Minot, chers collègues, un peu de calme, s’il vous plaît, et un peu de silence. Jusque-là, nous avancions à une allure très correcte. Reprenons l’examen…
Jusque-là, il n’y avait pas d’alliance avec l’extrême droite et là, vous cosignez des amendements !
C’est un groupe d’études ! Dans ce cas, tu sors de tous les groupes d’études…
Monsieur Lucas, nous n’allons pas faire la liste de ceux qui ont voté avec les uns ou avec les autres. Nous n’allons pas nous en sortir !La parole est à M. Erwan Balanant, pour un rappel au règlement.
Sur le même fondement que M. Lucas. Je peux comprendre l’émoi…
Pas de l’émoi, de la mauvaise foi !
De l’ego !
…car, au moment d’appuyer, je me suis aussi interrogé. Mais nous sommes tous membres de groupes d’études, transpartisans.
C’est vrai !
Ainsi, monsieur Iordanoff, nous allons travailler ensemble sur l’évaluation climatique des lois. Si les groupes d’études permettent d’avancer sur des sujets, je crois que…
Cela n’a rien à voir ! Là, on parle de cosigner un amendement ! (M. Éric Bothorel proteste.) Grâce à qui tu es là, toi ?
Cela suffit ! Il n’y a pas d’interpellations dans cet hémicycle, monsieur Lucas ! Il faut vous calmer, sinon je vais passer aux sanctions !
Justement, je n’ai pas fini…
Monsieur Balanant, c’est terminé. Le débat est clos. Nous reprenons la discussion. (Mme Brigitte Liso applaudit.)
La parole est à Mme Anne Le Hénanff, pour soutenir l’amendement no 300.
Je vais revenir au fond.
La politique, c’est aussi le fond, madame !
Le texte exige des sociétés qui répondraient au marché public d’être en mesure de fournir l’ensemble des données collectées et utilisées lors des traitements expérimentaux. Or nombre de sociétés ne sont pas capables de fournir ces données, car ces dernières n’ont pas été conservées – généralement, il s’agit d’informations collectées au cours de nombreuses années de recherche et développement.L’amendement vise donc à assouplir les critères exigés dans le cadre de ce marché public en supprimant la condition de recueil des données utilisées par les sociétés pendant ces années de recherche et développement. Une telle suppression ne contrevient pas aux directives de la Cnil et du Conseil constitutionnel. Au contraire, elle bénéficiera au marché public en augmentant les chances que des sociétés françaises et européennes y répondent. Le rapport d’expérimentation publié six mois après les Jeux […]
(L’amendement no 300, accepté par la commission et le Gouvernement, est adopté.)
La parole est à M. Philippe Latombe, pour soutenir l’amendement no 398.
Il s’agit d’un amendement d’appel et de clarification. En l’état de sa rédaction, s’agissant du contrôle des algorithmes, l’article impose une obligation de résultat à l’État. Je souhaiterais que le ministre le confirme, ce qui serait plus protecteur. Dans ce cas, je retirerai l’amendement.
Quel est l’avis de la commission ?
C’est un avis défavorable, dans la mesure où l’amendement dégrade la protection apportée par l’alinéa 14.
Quel est l’avis du Gouvernement ?
Sans vouloir contrarier M. le président de la commission des lois (Sourires), je suis tenté de m’en remettre à la sagesse de votre assemblée. Mais je peux également vous rassurer, monsieur le député, il s’agit d’une obligation de moyens, et non de résultat. Cela pourrait éventuellement être précisé lors de la commission mixte paritaire (CMP). Dans l’attente, vous pourriez sans doute retirer votre amendement.
La parole est à M. Philippe Latombe.
Effectivement, nous clarifierons, le cas échéant, lors de la CMP. L’obligation de résultat nous convient bien.
(L’amendement no 398 est retiré.)
La parole est à M. Léo Walter, pour soutenir l’amendement no 618.
Cet amendement vise à insérer, après l’alinéa 14, un alinéa prévoyant que « les bases de données collectées à cette occasion ne peuvent être ensuite revendues à des opérateurs privés ». Cela ne vous aura pas échappé, nous sommes inquiets de la mise en place de la vidéosurveillance algorithmique.Nous plaidons à tout le moins pour que cela ne devienne pas un terrain de profits pour les opérateurs de sécurité privée souhaitant acquérir les données collectées afin d’améliorer leurs propres systèmes. Cette fête populaire ne saurait servir à enrichir des sociétés de surveillance et ses participants, français et étrangers, servir de cobayes à des expérimentations attentatoires aux libertés et droits fondamentaux.
Quel est l’avis de la commission ?
Défavorable.
Quel est l’avis du Gouvernement ?
Défavorable.
La parole est à M. Ugo Bernalicis.
Je partage l’analyse de mon collègue : les gens vont servir de cobayes pour améliorer l’algorithme et, en plus, ils ne seront même pas indemnisés. Ils vont être filmés sans l’avoir voulu et vont enrichir des entreprises sans que leur démarche ou leur « comportement de foule » soit rétribué. C’est vraiment lamentable…
Un algorithme n’aurait jamais laissé passer ça !
La parole est à M. Léo Walter, pour soutenir l’amendement no 538.
Cet amendement de repli vise à insérer le mot « discriminatoires » après le mot « biais » à l’alinéa 16. Nous souhaitons renforcer le contrôle humain dans le traitement de la vidéosurveillance afin d’éviter les biais, et tout particulièrement les biais discriminatoires.
Quel est l’avis de la commission ?
Défavorable.
Quel est l’avis du Gouvernement ?
Défavorable.
La parole est à M. Antoine Léaument.
Il nous semble indispensable d’adopter cet amendement qui évite…
Bonjour, monsieur Léaument.
Bonjour, monsieur le ministre. Tout se passe bien ?
Monsieur Léaument, s’il vous plaît !
Madame la présidente, c’est une question de politesse.
Monsieur Léaument, je vous souhaite également la bienvenue, mais, s’il vous plaît, revenons-en au débat.
Bonjour, madame la présidente. C’est de la courtoisie républicaine face à un ministre qui réprime le mouvement social.
Quand on se fait interpeller là-bas, pas de problème ! Franchement !
J’en reviens à l’amendement. Nous proposons d’ajouter le mot « discriminatoires », pour éviter que ces algorithmes ne le soient, pour une raison simple. Aux États-Unis, on les a utilisés dans des quartiers populaires, et les algorithmes en ont conclu que les responsables de violences et de crimes étaient des personnes racisées – des personnes noires, notamment. Sans cette précision visant à protéger de la discrimination, notamment celle liée à la couleur de peau, vos algorithmes, monsieur Darmanin, deviendront potentiellement racistes puisque vous les utiliserez notamment dans les quartiers populaires. Monsieur le ministre, si vous souhaitez protéger les individus de tels comportements algorithmiques, je vous invite à donner un avis favorable à cet amendement. (Exclamations sur quelques bancs des groupes RE, Dem et HOR.)
La parole est à Mme Anne Le Hénanff.
Vos propos et votre demande me choquent. Préciser qu’il peut exister des biais est une chose, écrire qu’ils sont discriminatoires en est une autre ! Je vous renvoie la balle : donnez-nous la liste des comportements que l’on peut considérer comme discriminatoires. Allez au bout de votre raisonnement, il sera très intéressant de disposer d’une telle liste ! (Applaudissements sur quelques bancs des groupes RE, Dem et HOR.)
C’est dans le code pénal !
À l’article 225-1 !
La parole est à M. le président de la commission des lois.
Le débat est intéressant, mais nous l’avons eu il y a une heure, monsieur Léaument. Nous avons précisé que le terme de « biais » visait toutes les discriminations, également interdites, évidemment, dans le traitement algorithmique. Je confirme donc mon avis défavorable.
La parole est à M. le ministre.
C’est la raison pour laquelle je vous ai dit bonjour, monsieur Léaument. (M. Antoine Léaument proteste.) Il s’agissait de souligner que vous n’étiez pas là quand nous avons évoqué le sujet ce matin dès neuf heures. Sinon, vous auriez entendu la réponse à votre question.
Grasse mat’ ! (Exclamations sur les bancs du groupe LFI-NUPES.)
Nous n’avons pas accepté la réponse que vous nous avez donnée !
La parole est à M. Éric Bothorel, pour soutenir l’amendement no 701.
Le présent amendement vise à introduire un critère de performance dans le traitement algorithmique, conformément aux recommandations de la Cnil.
Quel est l’avis de la commission ?
Votre amendement est satisfait, puisqu’un rapport de validation viendra conclure la phase de test prévue à l’alinéa 18 et qu’une attestation de conformité du traitement sera délivrée par l’État selon les termes de l’alinéa 21. Je vous demanderai donc de bien vouloir le retirer.
Quel est l’avis du Gouvernement ?
Même avis.
(L’amendement no 701 est retiré.)
L’amendement no 218 de M. Stéphane Lenormand est défendu.
(L’amendement no 218, repoussé par la commission et le Gouvernement, n’est pas adopté.)
L’amendement no 524 de M. Jean-Pierre Cubertafon est rédactionnel.
(L’amendement no 524, accepté par la commission et le Gouvernement, est adopté.)
La parole est à M. Philippe Latombe, pour soutenir l’amendement no 399.
Il s’agit de supprimer l’obligation pour les fournisseurs de traitements de transmettre une déclaration des intérêts qu’ils détiennent. Une telle disposition pose un problème d’effectivité. Nombre d’entreprises de taille importante, notamment des entreprises de services du numérique (ESN) françaises comme Atos, ou d’autres, ne pourraient pas candidater aux appels d’offres. Or, ce sont les entreprises les plus vertueuses. En outre, il est possible d’effectuer des contrôles. Il s’agissait d’un ajout de la commission des lois du Sénat, que nous proposons donc de supprimer, quitte à prévoir éventuellement une nouvelle rédaction pour la CMP.
Quel est l’avis de la commission ?