L’IA au service du bien commun dépend encore des institutions, du travail et de la confiance locale

La critique la plus solide du “l’IA va résoudre le problème” n’est pas anti technologique

L’intelligence artificielle est de plus en plus présentée comme un remède aux problèmes de l’éducation, de l’agriculture, de l’emploi et de la prestation des services publics. Ce cadrage est séduisant parce qu’il transforme des échecs sociaux complexes en défi d’ingénierie maîtrisable. Si les institutions sont lentes, sous-financées ou fragmentées, la promesse d’un modèle réactif paraît presque irrésistible.

Mais un essai publié par Rest of World soutient que ce cadrage manque la réalité centrale des systèmes sociaux : la capacité technique seule ne suffit pas. Même des outils d’IA sophistiqués ont besoin de soutien humain, de capacité institutionnelle et de redevabilité locale s’ils doivent faire plus que produire des démonstrations impressionnantes.

L’article, rédigé par les chercheurs de Cornell Deepak Varuvel Dennison et Aditya Vashistha, ne nie pas le véritable potentiel de l’IA. Il reconnaît explicitement les preuves croissantes de gains de productivité et l’attrait de l’IA dans les secteurs privé et public. Son argument est plus étroit et plus important : déployer l’IA dans des communautés mal desservies n’est pas la même chose que résoudre leurs problèmes.

La contradiction au cœur de l’IA pour le bien commun

L’essai met en lumière une tension structurelle. L’IA est souvent présentée comme un outil pour lutter contre les inégalités, l’exclusion et les manques de services. Pourtant, les systèmes eux-mêmes sont façonnés par des chaînes d’approvisionnement extractives, une concentration du pouvoir et des inégalités existantes. En s’appuyant sur des thèmes associés à des ouvrages comme AI Snake Oil et Atlas of AI, les auteurs présentent l’IA non comme une couche logicielle neutre, mais comme un système socio technique bâti sur des ressources naturelles, du travail humain et des institutions enracinées.

Cela compte, car les communautés les plus souvent visées par les projets d’“IA pour le bien social” sont aussi celles qui risquent le plus d’en supporter les coûts lorsqu’ils sont mal conçus. Un modèle qui semble efficace de loin peut malgré tout échouer localement s’il ignore la langue, la confiance, l’accès, la gouvernance ou les intermédiaires humains nécessaires pour agir sur ses résultats.

La question centrale n’est donc pas de savoir si l’IA peut aider. C’est de savoir quelles conditions doivent exister pour qu’elle aide de manière durable et responsable.

Pourquoi les institutions comptent plus que les démonstrations

Les auteurs ont examiné huit systèmes d’IA déployés pour résoudre des problèmes sociaux dans le monde en développement. D’après le texte source disponible ici, la conclusion clé de l’article est que l’IA ne fonctionne que lorsqu’elle est associée à un soutien humain et à une capacité institutionnelle. En pratique, cela signifie du personnel formé, des chaînes de prestation de services, des relations communautaires et des organisations capables de répondre à ce que la technologie met en évidence.

C’est un point essentiel, car de nombreux déploiements d’IA sont jugés sur la performance du modèle plutôt que sur les résultats en aval. Un système peut résumer, classer ou prédire efficacement tout en n’améliorant la vie de personne si aucune administration ne peut agir sur l’information. Dans les contextes sociaux, le dernier kilomètre est souvent toute l’histoire.

Imaginez ce qui se passe lorsqu’un outil d’IA identifie un besoin, mais qu’il n’y a ni personnel, ni financement, ni autorité légale pour y répondre. Le système peut toujours produire des tableaux de bord, mais le résultat reste un théâtre administratif plutôt qu’un problème résolu. L’essai soutient que c’est dans cet écart entre la promesse technique et la capacité de mise en œuvre que de nombreuses initiatives d’IA pour le bien s’effondrent discrètement.

Les communautés ne sont pas des environnements de déploiement

Une autre implication de l’essai est que les communautés mal desservies ne doivent pas être traitées comme des bancs d’essai pour des outils généralisés. Les problèmes sociaux sont inscrits dans des histoires locales, des normes et des structures de pouvoir. Les systèmes qui ignorent ces réalités peuvent reproduire l’exclusion tout en revendiquant la neutralité.

Cela est particulièrement pertinent dans des secteurs comme l’agriculture, l’éducation et l’accès aux services publics, où les intermédiaires informels et les relations sur le terrain déterminent souvent si les personnes peuvent réellement utiliser un système. L’IA peut aider ces systèmes, mais elle les remplace rarement. Le travail de traduction, d’explication, de vérification et de construction de la confiance reste obstinément humain.

L’article s’oppose aussi à l’idée courante selon laquelle un modèle plus performant comblerait naturellement les lacunes de mise en œuvre. Un meilleur raisonnement ou une meilleure aisance linguistique peuvent améliorer certaines parties d’un flux de travail, mais ils ne créent pas d’institutions là où il n’y en a pas. Ils ne réparent ni les achats publics défaillants, ni une gouvernance locale fragile, ni des administrations sous dotées.

Ce qu’exigerait un agenda plus sérieux de l’IA pour le bien commun

Si l’essai a raison, alors un déploiement significatif de l’IA dans les secteurs sociaux doit commencer par des contraintes de conception que de nombreuses équipes produit préfèrent traiter comme des externalités. Les systèmes doivent disposer de structures de responsabilité claires. Ils ont besoin d’opérateurs humains capables d’intervenir, d’expliquer et de contester les résultats. Ils ont besoin d’institutions capables d’intégrer les recommandations dans l’action réelle. Et ils ont besoin d’un ancrage local suffisant pour éviter d’imposer une réponse technique à un problème social qui n’a pas été correctement compris.

Cela ne rend pas l’IA inutile. Au contraire, cela indique où elle peut être la plus utile : non pas comme substitut aux systèmes publics, mais comme composant en leur sein. Utilisée ainsi, l’IA peut réduire la charge administrative, élargir l’accès à l’information, soutenir le triage et aider les travailleurs de première ligne à mieux utiliser des ressources limitées.

Mais cette vision est plus lente et moins spectaculaire que l’idée selon laquelle l’IA pourrait simplement contourner l’échec institutionnel. Elle exige d’investir dans les personnes autant que dans les logiciels, et dans la gouvernance autant que dans les modèles.

La valeur de l’essai de Rest of World est de ramener le débat aux principes fondamentaux. Les problèmes sociaux persistent non parce que personne n’a construit une interface assez ingénieuse, mais parce que les solutions durables dépendent de la confiance, de la capacité et du pouvoir. L’IA peut aider dans ce paysage. Elle ne peut pas l’effacer.

À mesure que les gouvernements, les ONG et les entreprises continuent d’adopter l’IA dans des systèmes tournés vers le public, cette distinction deviendra plus importante. La prochaine phase de l’IA au service du bien commun sera jugée moins sur ce que les modèles peuvent générer que sur la capacité des institutions à utiliser de manière responsable ce qu’ils génèrent. C’est un standard plus exigeant, mais c’est celui qui compte vraiment.

Cet article est basé sur un reportage de Rest of World. Lire l’article original.