Le Royaume-Uni se prépare à renforcer ses cyberdéfenses tout en demandant aux entreprises qui développent les systèmes d’intelligence artificielle les plus performants d’assumer davantage la responsabilité de leur sécurité, selon des propos attendus de la ministre de l’IA, Kanishka Narayan.
Le message est important parce qu’il place deux préoccupations liées au même ordre du jour : la sécurité de modèles d’IA de plus en plus puissants et la résilience des systèmes nationaux qui les entourent. L’orientation du gouvernement, décrite avant le discours de Narayan dans l’ouest de Londres, est que la Grande-Bretagne ne doit pas compter uniquement sur les entreprises technologiques pour surveiller leurs propres modèles.
Un appel à dépasser les garanties volontaires
Narayan devrait soutenir que les développeurs d’IA de pointe doivent en faire davantage pour garantir la sécurité de leurs systèmes. Cette intervention intervient alors que la communauté internationale s’inquiète largement des capacités, des usages abusifs et de la sécurité des modèles très avancés.
Elle signale aussi un durcissement du débat public britannique sur la gouvernance de l’IA. Les entreprises qui construisent des systèmes avancés ont placé les tests de sécurité, les contrôles internes et l’examen externe au centre de leur discours sur le développement responsable. Mais les commentaires prévus de la ministre suggèrent que le gouvernement juge insuffisantes les mesures menées par l’industrie lorsqu’elles sont appliquées seules.
D’après les informations disponibles, cela ne constitue ni un nouveau régime juridique précis ni une liste détaillée d’exigences techniques. Cela établit toutefois une position politique claire : la responsabilité de gérer les risques de l’IA de pointe ne peut pas reposer entièrement sur les entreprises qui se disputent sa construction.
Cette insistance compte car les systèmes concernés ne sont pas des logiciels grand public ordinaires. Les modèles avancés peuvent être déployés dans la recherche, les opérations commerciales, la programmation, les activités de sécurité et les services publics. Leur valeur potentielle est considérable, mais les conséquences le sont également s’ils sont mal utilisés, insuffisamment contrôlés ou obtenus par des acteurs hostiles.
Le vol de modèles fait partie du débat sur la sécurité
Le discours intervient après les avertissements de Geoffrey Irving, ancien scientifique en chef de l’Institut britannique de sécurité de l’IA, sur la possibilité que des États adverses dérobent des modèles de pointe encore inédits. Irving a déclaré au Guardian que les entreprises d’IA ne disposaient pas d’une sécurité capable d’empêcher un pays hostile de s’emparer des modèles.
Cette inquiétude est différente de la question familière de savoir si un système d’IA produit des résultats inexacts, biaisés ou dangereux. Elle concerne le modèle lui-même en tant qu’actif de grande valeur : la capacité sous-jacente, le travail d’entraînement et le savoir-faire qui pourraient intéresser des concurrents, des groupes criminels ou des opérateurs soutenus par des États.
Cette approche rapproche l’IA de pointe du domaine de la protection des technologies stratégiques. Si un modèle très performant encore inédit était compromis, les conséquences pourraient dépasser la propriété intellectuelle d’une seule entreprise. Les chercheurs en sécurité et les responsables politiques s’inquiètent de savoir si un système volé pourrait être étudié, copié, adapté ou déployé sans les garanties imposées par son développeur d’origine.
Irving a évoqué un incident concernant OpenAI au cours duquel des chercheurs en cybersécurité ont estimé que l’étendue potentielle de l’accès avait été importante. Le travail s’est déroulé dans le cadre d’un programme d’OpenAI qui récompense les hackers éthiques testant ses systèmes. OpenAI affirme utiliser plusieurs protections contre le vol de modèles, notamment le chiffrement et la surveillance continue.
L’épisode montre pourquoi les déclarations publiques sur la sécurité doivent être distinguées avec soin. Un test de sécurité autorisé n’est pas une intrusion hostile. Pourtant, les tests peuvent révéler où les défenses doivent progresser, notamment à mesure que les systèmes d’IA et l’infrastructure qui les soutient deviennent plus déterminants.
L’infrastructure fait partie de la capacité nationale
Narayan devrait également défendre l’idée que le Royaume-Uni doit développer davantage sa propre infrastructure d’IA. Cet argument élargit le débat au-delà des règles applicables aux développeurs de modèles.
L’infrastructure peut désigner la capacité de calcul, les systèmes de centres de données, le matériel spécialisé, les protections cyber et l’expertise technique nécessaires pour développer et exploiter l’IA à grande échelle. Un pays dépourvu de ces bases dispose de moins de moyens pour influencer la conception, les tests et la sécurisation des systèmes importants. Il peut aussi dépendre davantage d’un petit nombre d’entreprises étrangères pour accéder à des capacités critiques.
L’approche du gouvernement semble donc associer capacité industrielle et politique de sécurité. Développer des capacités nationales est présenté non seulement comme un objectif économique, mais aussi comme un moyen de réduire la dépendance et d’améliorer la résilience.
L’équilibre est difficile. Se concentrer uniquement sur la sécurité pourrait ralentir l’innovation utile ; privilégier uniquement le déploiement rapide pourrait exposer les institutions. Le discours prévu semble chercher à tenir les deux objectifs ensemble : encourager les capacités d’IA tout en faisant de leur protection et de leur supervision une responsabilité publique plus explicite.
Une question internationale aux conséquences nationales
Le discours de la ministre sera scruté pour déterminer si le Royaume-Uni pourrait soutenir une coordination internationale autour de normes communes de sécurité de l’IA. Le Guardian a rapporté que des dirigeants de pays comme la Finlande, la France, l’Allemagne, l’Australie, Singapour et les Émirats arabes unis ont signé un appel à la coordination gouvernementale de ces normes.
La coordination internationale est par nature difficile. Les gouvernements diffèrent par leurs systèmes réglementaires, leurs priorités commerciales et leur conception de la sécurité nationale. Le développement de l’IA avance également rapidement, ce qui complique la conception de règles capables de rester pertinentes lorsque les capacités techniques évoluent.
La nature transfrontalière de l’IA rend toutefois l’action unilatérale incomplète. Les développeurs de modèles opèrent à l’international, l’infrastructure informatique peut être répartie entre plusieurs juridictions et les cybermenaces ne s’arrêtent pas aux frontières. Des attentes communes concernant l’évaluation, la divulgation et la protection pourraient empêcher les garanties les plus faibles de devenir la norme.
Pour le Royaume-Uni, l’importance immédiate réside dans le signal politique. Le gouvernement présente la cyberdéfense, la sécurité de l’IA et la capacité technologique nationale comme des enjeux liés, plutôt que comme des dossiers séparés. L’efficacité de cette approche dépendra de la suite : des attentes de sécurité concrètes pour les développeurs, des investissements dans l’infrastructure jugée nécessaire et une coopération avec les partenaires confrontés aux mêmes risques rapides.
Pour l’instant, l’annonce prévue souligne un simple changement de ton. À mesure que l’IA de pointe gagne en capacités, la question n’est plus seulement de savoir ce que ces systèmes peuvent faire. Il s’agit aussi de déterminer qui est responsable de leur sécurisation, de leur test et de la garantie que leurs bénéfices ne dépassent pas les garde-fous qui les entourent.
Cet article s’appuie sur un reportage du Guardian. Lire l’article original.
Originally published on theguardian.com
