L’enquête de la police britannique sur des preuves générées par IA soulève de nouvelles questions d’intégrité

L’enquête du Derbyshire fait entrer l’usage abusif de l’IA dans la chaîne de preuves

Un policier du Derbyshire a été retiré des missions de première ligne et fait l’objet d’une enquête pénale pour avoir prétendument utilisé l’intelligence artificielle afin de créer des éléments de preuve dans plusieurs affaires. Selon un article cité par le Guardian, l’allégation est examinée comme une tentative potentielle de pervertir le cours de la justice.

La force a indiqué que l’enquête en est à ses débuts, qu’aucune arrestation n’a eu lieu et qu’elle travaille en étroite collaboration avec le Crown Prosecution Service sur les affaires potentiellement concernées. Le policier n’a pas été nommé et la nature exacte de la faute alléguée n’a pas été divulguée.

Même avec ces zones d’ombre, l’affaire est déjà importante. Elle semble être la première enquête connue de ce type au Royaume-Uni impliquant l’usage présumé de l’IA pour générer des éléments de preuve destinés à des procédures pénales. Cela en fait bien plus qu’une simple affaire disciplinaire interne. C’est une remise en cause directe du modèle de confiance sur lequel reposent la police et les tribunaux.

Pourquoi cette affaire dépasse le cadre d’une seule force

La preuve n’est pas seulement une information. C’est une information recueillie, documentée et présentée selon des règles conçues pour préserver l’authenticité, la chaîne de possession et la responsabilité. L’IA générative complique ces trois dimensions. Si un policier utilise un système d’IA pour rédiger, modifier, résumer ou créer un document qui entre ensuite dans le processus judiciaire, la question centrale devient de savoir si le résultat reflète la réalité, l’inférence ou la fabrication.

L’affaire du Derbyshire est importante parce que l’allégation ne porte pas simplement sur l’usage de l’IA comme aide administrative. Le problème signalé est la création même du matériau probatoire. Cette formulation désigne une possible défaillance au point le plus sensible de la procédure pénale : la transformation de faits bruts en documents sur lesquels un tribunal peut s’appuyer.

Le CPS a confirmé travailler avec la police du Derbyshire, en échangeant avec les équipes de défense et les tribunaux dans les affaires appropriées, mais a refusé de faire davantage de commentaires pendant que les enquêtes se poursuivent. Cela suggère que les procureurs évaluent déjà si une procédure en cours ou passée a pu être affectée.

Un avertissement plus large était déjà en train d’émerger

L’enquête n’est pas sortie de nulle part. Le Guardian a rapporté qu’Alex Murray, responsable du centre IA de la Police au sein du National Police Chiefs’ Council, avait indiqué que plusieurs forces avaient reçu l’instruction d’arrêter d’utiliser des systèmes d’IA pour des tâches telles que la préparation des déclarations au tribunal, car ils pourraient ne pas être assez fiables.

Cet avertissement apparaît désormais prémonitoire. Le problème des systèmes génératifs dans les contextes juridiques n’est pas seulement qu’ils peuvent se tromper. C’est qu’ils peuvent le faire avec fluidité, de manière persuasive et à grande échelle. Dans un cadre institutionnel, cela crée le risque qu’un texte généré par machine acquière une autorité indue simplement parce qu’il paraît formel ou complet.

Les services de police ont des incitations évidentes à automatiser les tâches administratives et à réduire la charge bureaucratique. Mais la justice pénale est un domaine où les gains d’efficacité ne peuvent pas se faire au détriment de la fiabilité des preuves. Si des outils d’IA sont introduits sans limites procédurales strictes, la tentation de les utiliser de manière quasi substantielle peut rapidement dépasser la politique établie.

Le problème de confiance pour les tribunaux et les prévenus

La conséquence la plus immédiate d’une affaire comme celle-ci n’est pas technologique. Elle est juridique. Les équipes de défense voudront savoir si des déclarations, résumés, chronologies ou autres documents qu’elles ont reçus ont été générés ou modifiés par l’IA. Les tribunaux devront peut-être examiner des questions de communication des pièces, de contestation des preuves et de crédibilité des policiers concernés.

C’est pourquoi l’expression "affaires potentiellement concernées" est si importante. Une fois la confiance dans la préparation des preuves ébranlée, les effets peuvent se propager au-delà de l’allégation initiale. Chaque affaire liée au policier peut nécessiter un examen, et chaque institution ayant touché ces affaires peut devoir déterminer les mesures correctives à prendre.

Le risque est encore plus large. La confiance du public dans la police repose fortement sur la conviction que les preuves sont recueillies et consignées fidèlement. Si l’IA devient associée à des manipulations opaques, même un usage abusif isolé pourrait nuire à la confiance dans des outils numériques légitimes qui pourraient autrement aider à des tâches administratives à faible risque.

Ce qu’exigerait un usage responsable de l’IA dans la police

Au vu des faits rapportés, l’enquête du Derbyshire souligne la nécessité de règles opérationnelles plus strictes. Au minimum, les forces utilisant des systèmes d’IA devraient distinguer clairement l’assistance administrative acceptable de la génération de preuves interdite. Elles devraient aussi disposer de pistes d’audit, d’exigences de divulgation et de contrôles de supervision suffisamment solides pour montrer précisément comment un document a été créé.

Plusieurs principes découlent du problème mis en lumière ici :

• L’utilisation de l’IA dans les dossiers pénaux doit être explicitement consignée et vérifiable.
• Les documents susceptibles d’influencer un tribunal ne devraient pas être générés par machine sans autorisation stricte et sans divulgation.
• Les policiers ont besoin d’une formation sur les limites de fiabilité, pas seulement d’un accès aux outils.
• Les procureurs et les équipes de défense ont besoin d’un mécanisme pratique pour identifier les documents assistés par l’IA.

Ces mesures n’élimineront pas le risque, mais elles réduiraient au moins l’ambiguïté. À l’heure actuelle, l’ambiguïté est le danger central. Si personne ne peut dire où s’arrête l’automatisation et où commence la paternité des preuves, le système judiciaire hérite d’un problème de crédibilité bien plus difficile à contenir après coup.

Un premier test de résistance pour la gouvernance institutionnelle de l’IA

La police britannique expérimentait déjà l’IA dans d’autres domaines. Le Guardian a noté qu’en avril, la Metropolitan Police avait lancé des enquêtes sur des centaines d’agents après avoir utilisé un outil d’IA développé par Palantir pour identifier d’éventuelles fautes professionnelles. Ce cas d’usage est différent de l’allégation du Derbyshire, mais tous deux illustrent la même réalité structurelle : l’IA passe du stade pilote à des environnements de décision du secteur public aux conséquences concrètes.

L’enquête du Derbyshire pourrait s’avérer être un cas unique de faute, ou mettre au jour une lacune de gouvernance plus large. Les informations disponibles ne permettent pas encore de soutenir l’une ou l’autre conclusion. Elles étayent en revanche une leçon plus immédiate. Les institutions ne peuvent pas traiter l’IA générative comme une couche de productivité neutre lorsque ses résultats peuvent influer sur la liberté, la culpabilité ou l’issue judiciaire.

C’est le seuil que cette affaire franchit. Elle transforme une inquiétude abstraite concernant les hallucinations de l’IA en une question concrète sur l’intégrité des preuves. Quelle que soit l’issue de l’enquête, il est peu probable que les forces de police et les tribunaux voient de la même manière la préparation des dossiers assistée par IA.

Cet article s’appuie sur un reportage du Guardian. Lire l’article original.