La crítica más sólida a “la IA lo arreglará” no es anti tecnología
La inteligencia artificial se comercializa cada vez más como una solución para problemas en la educación, la agricultura, el empleo y la prestación de servicios públicos. Ese enfoque resulta seductor porque reduce fallos sociales complejos a un desafío de ingeniería manejable. Si las instituciones son lentas, están infrafinanciadas o fragmentadas, la promesa de un modelo receptivo parece casi irresistible.
Pero un ensayo publicado por Rest of World sostiene que ese planteamiento pasa por alto la realidad central de los sistemas sociales: la capacidad técnica por sí sola no basta. Incluso las herramientas de IA más sofisticadas necesitan apoyo humano, capacidad institucional y rendición de cuentas local si van a hacer algo más que generar demostraciones impresionantes.
El artículo, escrito por los investigadores de Cornell Deepak Varuvel Dennison y Aditya Vashistha, no niega el potencial real de la IA. Reconoce explícitamente la creciente evidencia de mejoras de productividad y el atractivo de la IA tanto en el sector privado como en el público. Su argumento es más limitado y más importante: desplegar IA en comunidades desatendidas no es lo mismo que resolver sus problemas.
La contradicción en el centro de la IA para el bien
El ensayo pone de relieve una tensión estructural. A menudo se presenta la IA como una herramienta para abordar la desigualdad, la exclusión y las carencias de servicios. Sin embargo, los propios sistemas están moldeados por cadenas de suministro extractivas, poder concentrado y desigualdades existentes. Retomando temas asociados con libros como AI Snake Oil y Atlas of AI, los autores sitúan la IA no como una capa de software neutral, sino como un sistema sociotécnico construido sobre recursos naturales, trabajo humano e instituciones arraigadas.
Eso importa porque las comunidades a las que más a menudo se dirigen los proyectos de “IA para el bien social” son también las que más probabilidades tienen de asumir los costos de intervenciones mal diseñadas. Un modelo que parece eficiente a distancia todavía puede fallar localmente si ignora el idioma, la confianza, el acceso, la gobernanza o los intermediarios humanos necesarios para actuar sobre sus resultados.
La pregunta central, entonces, no es si la IA puede ayudar. Es qué condiciones deben existir para que ayude de manera duradera y responsable.
Por qué las instituciones importan más que las demostraciones
Los autores examinaron ocho sistemas de IA desplegados para abordar problemas sociales en el mundo en desarrollo. A partir del texto disponible aquí, la conclusión clave del artículo es que la IA solo funciona cuando se combina con apoyo humano y capacidad institucional. En la práctica, eso significa personal capacitado, cadenas de prestación de servicios, relaciones comunitarias y organizaciones capaces de responder a lo que la tecnología revela.
Este es un punto crítico porque muchas implementaciones de IA se juzgan por el rendimiento del modelo y no por los resultados posteriores. Un sistema puede resumir, clasificar o predecir con eficacia y aun así no mejorar la vida de nadie si ninguna agencia puede actuar sobre la información. En contextos sociales, la última milla suele ser toda la historia.
Piensa en lo que ocurre cuando una herramienta de IA identifica una necesidad pero no hay personal, financiación ni autoridad legal para responder. El sistema aún puede producir paneles de control, pero el resultado es teatro administrativo, no problemas resueltos. El ensayo sostiene que esa brecha entre la promesa técnica y la capacidad de implementación es donde muchas iniciativas de IA para el bien se desmoronan en silencio.
Las comunidades no son entornos de despliegue
Otra implicación del ensayo es que las comunidades desatendidas no deben tratarse como bancos de pruebas para herramientas generalizadas. Los problemas sociales están incrustados en historias, normas y estructuras de poder locales. Los sistemas que ignoran esas realidades pueden reproducir la exclusión mientras afirman neutralidad.
Esto es especialmente relevante en sectores como la agricultura, la educación y el acceso a servicios públicos, donde los intermediarios informales y las relaciones sobre el terreno suelen determinar si las personas realmente pueden usar un sistema. La IA puede asistir a esos sistemas, pero rara vez los sustituye. El trabajo de traducción, explicación, verificación y construcción de confianza sigue siendo obstinadamente humano.
El artículo también rebate la idea común de que un modelo más capaz cerrará de forma natural las brechas de implementación. Un mejor razonamiento o una mayor fluidez lingüística pueden mejorar partes de un flujo de trabajo, pero no crean instituciones donde no existen. No arreglan compras públicas fallidas, una gobernanza local frágil ni agencias públicas con pocos recursos.
Qué requeriría una agenda de IA para el bien más seria
Si el ensayo tiene razón, entonces un despliegue significativo de IA en sectores sociales debe empezar con restricciones de diseño que muchos equipos de producto prefieren tratar como externalidades. Los sistemas necesitan estructuras claras de rendición de cuentas. Necesitan operadores humanos que puedan intervenir, explicar y disputar los resultados. Necesitan instituciones capaces de incorporar las recomendaciones en acciones reales. Y necesitan suficiente arraigo local para no imponer una respuesta técnica a un problema social que no ha sido comprendido adecuadamente.
Esto no vuelve irrelevante a la IA. Al contrario, sugiere dónde puede ser más útil: no como sustituto de los sistemas públicos, sino como un componente dentro de ellos. Usada de esa manera, la IA puede reducir la carga administrativa, ampliar el acceso a la información, apoyar la triaje y ayudar a los trabajadores de primera línea a aprovechar mejor los recursos limitados.
Pero esa visión es más lenta y menos glamorosa que la idea de que la IA puede sortear sin más el fracaso institucional. Requiere inversión en personas tanto como en software, y en gobernanza tanto como en modelos.
El valor del ensayo de Rest of World es que devuelve el debate a los principios fundamentales. Los problemas sociales persisten no porque nadie haya construido una interfaz suficientemente ingeniosa, sino porque las soluciones duraderas dependen de la confianza, la capacidad y el poder. La IA puede ayudar dentro de ese panorama. No puede hacerlo desaparecer.
A medida que gobiernos, ONG y empresas sigan adoptando IA en sistemas de cara al público, esa distinción será cada vez más importante. La próxima fase de la IA para el bien se juzgará menos por lo que los modelos puedan generar y más por si las instituciones pueden usar responsablemente lo que generan. Ese es un estándar más exigente, pero es el que realmente importa.
Este artículo se basa en el reportaje de Rest of World. Leer el artículo original.
Originally published on restofworld.org
