Dos empresas revelaron distintos tipos de abuso de IA con pocos días de diferencia
Google y OpenAI han revelado por separado operaciones que dicen se originaron en China, pero los dos casos apuntan a formas distintas en que las herramientas avanzadas de IA se están incorporando al abuso digital. En el caso de Google, el problema es el fraude al consumidor a gran escala. En el caso de OpenAI, se trata de actividad de influencia encubierta destinada a moldear el debate público. En conjunto, las revelaciones muestran cómo los sistemas de IA ya son centrales no solo para la productividad y el desarrollo de software, sino también para la industrialización de estafas y operaciones de información.
La medida de Google fue inusualmente agresiva. Según el material de la fuente proporcionada, la empresa presentó una demanda ante el Tribunal de Distrito de Estados Unidos para el Distrito Sur de Nueva York contra una red de ciberdelincuencia a la que llama Outsider Enterprise. Google alega que el grupo utilizó Gemini para atacar a cientos de miles de estadounidenses con fraude financiero. La demanda sostiene que los demandados crearon 131 paquetes de software capaces de generar miles de sitios falsos que imitaban marcas e instituciones como Google, YouTube, el Servicio Postal de Estados Unidos y el sistema E-ZPass de Nueva York.
La escala descrita en la fuente es considerable. En un periodo de dos semanas durante mayo, la red habría enviado 2,5 millones de mensajes a usuarios de Android con enlaces a 9.000 sitios web falsos y más de un millón de URL fraudulentas. Según los informes, la operación se coordinó a través de Telegram. Google afirma que esta es la primera demanda en la que trabaja junto con el FBI y grandes operadoras, incluidas AT&T, T-Mobile y Verizon. La empresa busca una orden de restricción que facilite a compañías y fuerzas de seguridad actuar de forma coordinada mediante la incautación de dominios o el congelamiento de cuentas.
La divulgación de OpenAI, publicada en su informe de amenazas de junio de 2026, apunta a un patrón de amenaza diferente. La empresa dijo que prohibió dos clústeres de ChatGPT supuestamente radicados en China que intentaron influir en el debate sobre la política tecnológica de EE. UU. Uno de los clústeres, denominado Data Center Bandwagon, generó comentarios en inglés, viñetas cómicas e imágenes editadas que afirmaban que la expansión de los centros de datos de IA estaba elevando los precios de la electricidad para las familias comunes. OpenAI dijo que el contenido se difundió a través de lo que describió como cuentas de X probablemente no auténticas que usaban etiquetas vinculadas con temas de energía y capacidad.
La fuente añade que OpenAI rastreó a los actores detrás de esa campaña hasta una empresa tecnológica privada china que actuaba en nombre de autoridades provinciales. Es una acusación grave porque traslada el problema del spam genérico o la manipulación freelance hacia una configuración narrativa vinculada al Estado, aunque sea de forma indirecta. Los hallazgos de la compañía también subrayan cómo la generación de contenido barata y rápida puede respaldar operaciones que no necesitan convencer a todo el mundo. Solo necesitan inundar los canales con suficiente material aparentemente orgánico para distorsionar la textura del debate.
Lo que vincula ambas revelaciones no es solo su origen declarado. Es la creciente convergencia entre la ciberdelincuencia y el trabajo de influencia alrededor de las herramientas de IA. Las redes de fraude pueden usar modelos para hacer más convincentes las páginas de phishing, los mensajes y la suplantación de marcas. Los operadores de influencia pueden usar la misma clase de sistemas para producir a gran escala comentarios, imágenes y mensajes adaptados a disputas de política específicas. En ambos casos, la IA comprime el costo de la experimentación. Los atacantes pueden probar narrativas, objetivos y formatos más rápido y a mayor escala que antes.
La señal más amplia
- Google está tratando el fraude habilitado por IA como un problema legal y de infraestructura, no solo de moderación.
- OpenAI está describiendo el uso indebido de IA en el discurso político como parte de una función recurrente de informes de amenazas.
- Ambas revelaciones sugieren que la defensa de las plataformas ahora depende de la coordinación entre proveedores de modelos, empresas de telecomunicaciones y fuerzas de seguridad.
- La línea entre spam tradicional, ciberdelincuencia y operaciones de influencia se está volviendo más delgada.
Los hechos inmediatos de los dos casos difieren, y ambas compañías están presentando sus propias conclusiones. Pero el panorama estratégico es más claro de lo que era incluso hace un año. El abuso de la IA ya no es un problema hipotético del futuro. Ya está integrado en campañas activas que implican fraude al consumidor, suplantación de infraestructura y manipulación de narrativas políticas. Eso significa que la próxima fase de la gobernanza de la IA será evaluada menos por las demostraciones de producto que por si las empresas que construyen estos sistemas pueden contener las formas en que son weaponizados.
Este artículo se basa en la cobertura de The Decoder. Leer el artículo original.
Originally published on the-decoder.com