Meta fait face à un procès au Nouveau-Mexique sur les changements requis pour la sécurité des enfants

Après un versement majeur, le prochain affrontement porte sur la manière dont Meta fonctionne

Meta retourne devant la justice au Nouveau-Mexique pour une deuxième phase, potentiellement plus décisive, d’une affaire de sécurité des enfants qui a déjà coûté 375 millions de dollars à l’entreprise. Cette nouvelle étape ne porte pas principalement sur l’argent. Elle consiste à savoir si un juge doit imposer des changements à la manière dont Facebook, Instagram et WhatsApp fonctionnent pour les utilisateurs de l’État.

Le procureur général du Nouveau-Mexique, Raúl Torrez, a présenté l’affaire comme une tentative de modifier des pratiques commerciales, et pas seulement de réclamer des dommages-intérêts. Cette distinction est importante. De lourdes sanctions financières peuvent faire mal, mais elles ne changent pas toujours la conception des produits ni les incitations des entreprises. L’argument de l’État est que des remèdes visant les fonctionnalités centrales des plateformes pourraient avoir une portée plus large pour la manière dont les entreprises de médias sociaux abordent la sécurité des mineurs.

Les mesures proposées touchent à la conception du produit et à son application

Le procès qui commence à Santa Fe devrait durer trois semaines. Selon la description rapportée des demandes de l’État, le Nouveau-Mexique souhaite que le tribunal ordonne à Meta de mettre en place une vérification de l’âge pour les utilisateurs de l’État, d’interdire le chiffrement de bout en bout pour les moins de 18 ans, de limiter à 90 heures par mois le temps d’utilisation de ces services par ces utilisateurs, de restreindre les fonctions de conception qui amplifient l’engagement, comme le défilement infini et la lecture automatique, et d’exiger de l’entreprise qu’elle détecte 99 % des nouveaux contenus d’abus sexuels sur mineurs.

Ces changements demandés touchent presque tous les grands axes de la politique numérique : vérification de l’âge, vie privée, engagement algorithmique, normes de modération et responsabilité des plateformes. Même si une éventuelle ordonnance ne s’appliquait qu’à Meta et à ses opérations au Nouveau-Mexique, le litige pourrait devenir un terrain d’essai pour des remèdes que les législateurs et régulateurs ont débattus ailleurs mais rarement imposés par voie judiciaire.

Pourquoi cette phase peut compter davantage que le montant en dollars

La position de l’État, telle que l’a décrite Torrez, est sans détour. Une grande entreprise peut absorber une sanction à neuf chiffres comme un coût gérable, mais des changements opérationnels imposés sont beaucoup plus difficiles à contenir. Les refontes de produits affectent à la fois les priorités d’ingénierie, le risque juridique et l’expérience utilisateur. Elles peuvent aussi créer des précédents susceptibles de susciter des demandes similaires d’autres États ou pays.

C’est ce qui rend cette affaire digne d’intérêt au-delà du Nouveau-Mexique. La première phase a établi la responsabilité financière. La deuxième demande si un tribunal peut intervenir dans les mécanismes d’une plateforme sociale et dicter des changements destinés à réduire les dommages aux mineurs. Si le tribunal valide ne serait-ce qu’une partie de l’approche de l’État, l’affaire pourrait influencer la forme des futures actions contre d’autres grandes entreprises technologiques.

Questions centrales du procès sur les remèdes

• La vérification de l’âge peut-elle être imposée au niveau de l’État sur les grandes plateformes sociales ?
• Les fonctionnalités de conception liées à l’engagement peuvent-elles être limitées pour les mineurs ?
• Les règles de chiffrement pour les utilisateurs de moins de 18 ans peuvent-elles être restreintes au nom de la sécurité des enfants ?
• Les tribunaux sont-ils prêts à exiger des normes extrêmement élevées pour détecter les nouveaux CSAM ?

Le défi plus large de Meta dépasse une seule salle d’audience

L’entreprise ne défend pas seulement une affaire. Elle défend aussi un modèle dans lequel des fonctionnalités produit sont déployées à grande échelle dans des juridictions aux attentes politiques et juridiques שונות. Ce modèle est sous pression à mesure que les procès, les propositions législatives et l’examen public se concentrent de plus en plus sur le lien entre la conception des plateformes, la santé mentale des jeunes, les usages addictifs et les contenus illégaux.

L’affaire du Nouveau-Mexique se distingue parce qu’elle demande une forme d’intervention particulièrement directe. Au lieu de demander seulement une compensation ou de vagues promesses de conformité, l’État demande des contraintes opérationnelles précises. Cela soulève des questions difficiles d’exécution et de faisabilité technique, mais reflète aussi l’impatience croissante des régulateurs qui estiment que des approches plus souples n’ont pas produit suffisamment de changements.

L’exigence de détecter 99 % des nouveaux contenus d’abus sexuels sur mineurs est particulièrement remarquable car elle fixe un seuil très élevé. De même, les propositions visant à freiner la lecture automatique et le défilement infini marquent un déplacement de la régulation du contenu vers celle de l’interface. Autrement dit, l’État ne remet pas seulement en cause ce qui apparaît sur les plateformes ; il remet en cause la manière dont les plateformes maintiennent l’attention des utilisateurs.

Une affaire de sécurité des enfants qui pourrait façonner la gouvernance future des plateformes

Il reste d’importantes inconnues. Le remède final, s’il y en a un, pourrait être très différent de la liste complète que réclame le Nouveau-Mexique. Les appels et une mise en œuvre plus restreinte pourraient aussi réduire l’impact immédiat. Mais l’affaire montre déjà comment la régulation technologique évolue. Les tribunaux sont de plus en plus invités non seulement à punir a posteriori les opérateurs de plateformes, mais à définir à quoi devrait ressembler concrètement une conception de produit plus sûre.

Pour Meta, cela crée un risque au-delà du jugement de 375 millions de dollars. Une entreprise peut budgéter des amendes. Il est beaucoup plus difficile de budgéter un environnement juridique où les tribunaux commencent à spécifier des vérifications d’âge, des limites d’engagement, des exceptions de confidentialité et des objectifs de détection. Le procès de Santa Fe est donc moins un différend avec un seul État qu’un test pour savoir si la gouvernance des médias sociaux entre dans une nouvelle phase d’intervention judiciaire directe.

C’est pourquoi cette procédure pourrait s’avérer plus importante que le verdict initial. Le choc financier a attiré l’attention, mais la bataille sur les remèdes pourrait déterminer si le contentieux sur la sécurité des enfants devient une voie pour restructurer la manière dont les grandes plateformes opèrent.

Cet article est basé sur un reportage de The Verge. Lire l’article original.