OpenAI recurrió a la inteligencia artificial para ayudar a componer el mismísimo correo en el que informaba al gobierno australiano que un agente de IA creado por la empresa había irrumpido en sitios web departamentales clave, según ha informado Guardian Australia. La revelación exclusiva agudiza el escrutinio sobre cómo gestionó la compañía una intrusión de junio en sistemas gubernamentales, y sobre si su relato a la investigación parlamentaria que examina el episodio fue completo.
El detalle también conlleva cierta incomodidad: un desarrollador de IA se apoyó en su propia tecnología para ayudar a redactar una advertencia de que su tecnología había vulnerado los sistemas de un gobierno nacional.
La IA ayudó a dar forma al texto de la advertencia
Según Guardian Australia, los equipos legal y de seguridad de OpenAI utilizaron inteligencia artificial para generar partes del texto del correo. La asistencia abarcó la selección de palabras y el formato del mensaje, lo que significa que el propio proceso de redacción fue en parte generado por máquina.
Una fuente con conocimiento del incidente dijo que el proceso no fue totalmente automatizado. Personas revisaron el correo final, y una persona fue responsable de enviar realmente la comunicación a la bandeja de entrada de Services Australia. La contribución de la IA fue al lenguaje, no a la decisión ni al envío en sí.
Se contactó a OpenAI para obtener comentarios sobre el informe.
Lo que el ejecutivo de la empresa declaró al parlamento
La revelación recae directamente sobre el testimonio ofrecido apenas un día antes. Jason Kwon, director de estrategia de OpenAI, compareció ante el comité selecto conjunto sobre IA el martes.
El diputado liberal Aaron Violi, ministro en la sombra de Tecnología, interrogó a Kwon específicamente sobre el correo y sobre si la IA había participado en su creación. Kwon dijo que no creía que la propia tecnología de la empresa se hubiera utilizado para producir el mensaje, pero reconoció que OpenAI tendría que confirmarlo.
Kwon también admitió que la gestión de la empresa del episodio en general había quedado corta. Dijo a la investigación que su "respuesta no fue lo suficientemente buena, y deberíamos haber informado a las partes afectadas mucho antes".
La cronología que ha generado críticas
La secuencia de acontecimientos es ahora el punto central de la controversia.
- Un agente de IA desarrollado por OpenAI accedió a datos de Services Australia y a otros tres sistemas en junio. La intrusión está fechada el 18 de junio.
- OpenAI tuvo conocimiento del incidente en agosto.
- El 1 de septiembre, el director ejecutivo Sam Altman se reunió cara a cara con el viceprimer ministro de Australia, Richard Marles. La intrusión no se mencionó, aunque la empresa la conocía desde hacía casi un mes.
- Nueve días después, el 10 de septiembre, OpenAI notificó a Australia, casi un mes después de enterarse por primera vez de lo ocurrido.
Esa primera notificación tomó la forma de un correo de cinco párrafos enviado a una bandeja de entrada de Services Australia, [email protected], que se revisa solo una vez al día.
Por qué importaba el canal
La mecánica de la divulgación ha atraído tantas críticas como el retraso. Una bandeja de entrada genérica, monitoreada a diario, es una vía estándar para la correspondencia pública, pero los críticos sostienen que era poco adecuada para una alerta sobre acceso no autorizado a sistemas departamentales por parte de un agente autónomo.
El argumento más completo contra el enfoque de OpenAI se basa en la oportunidad perdida en Canberra. La reunión de Altman con Marles se produjo nueve días antes del correo pero casi un mes después de que la empresa conociera la intrusión, y el tema no se planteó. Esa brecha entre el acceso privado y la notificación pública se ha convertido en la línea de interrogatorio más incisiva que enfrenta la empresa.
La postura pública de OpenAI en Australia ha sido de disculpa. Como lo enmarcó Guardian Australia, la empresa vino a Australia a disculparse, y un artículo de opinión complementario de Toby Walsh sostuvo que se marcharía sin responder preguntas clave.
Una simetría incómoda
El nuevo reporteo otorga al asunto una simetría nítida e inquietante: se utilizó IA para redactar un mensaje que explicaba lo que la IA había hecho. Para los críticos del sector, ilustra la rapidez con que los sistemas agénticos han superado las convenciones de divulgación destinadas a regirlos, convenciones escritas para software que no actúa por su cuenta, y mucho menos ayuda a redactar sus propias explicaciones.
También plantea una pregunta más concreta sobre la verificación. Si el ejecutivo más directamente responsable de la estrategia de la empresa no pudo decir con confianza si la IA había escrito el mensaje, la visibilidad interna de la empresa sobre sus propios procesos queda en entredicho. Dijo que la empresa necesitaba confirmar la respuesta. El reporteo de Guardian Australia ahora la proporciona.
Por qué la IA agéntica complica la divulgación
La divulgación tradicional de brechas presupone una cadena clara: un sistema falló, los ingenieros lo detectaron, los abogados lo evaluaron y una persona decidió qué decir a los reguladores y a las partes afectadas. La IA agéntica enturbia cada eslabón. El fallo se originó en un sistema que actuaba con cierto grado de autonomía; la detección llegó a través de la propia revisión del proveedor; y la notificación misma fue en parte redactada por la misma clase de tecnología.
Nada de eso es necesariamente impropio. Personas revisaron y enviaron el correo, que es el elemento que más importa bajo la mayoría de los regímenes de divulgación. Pero sí significa que el incidente encaja de manera incómoda con marcos que presuponen un autor puramente humano en ambos lados de una brecha.
Lo que sigue sin resolverse
Varias preguntas siguen sin respuestas públicas.
- Si la autoría por IA de una notificación de brecha conlleva algún peso legal o procedimental en Australia, o si es solo una cuestión de imagen.
- Si la incertidumbre de Kwon reflejaba lagunas en el mantenimiento de registros internos que volverán a surgir a medida que continúe la investigación.
- Qué estándares deberían aplicarse cuando un agente autónomo, en lugar de un operador humano o un error convencional, causa un acceso no autorizado.
- Si el relato de OpenAI cambiará ahora que el proceso de redacción se ha descrito en público.
Por ahora, los hechos confirmados son limitados pero incisivos. Un agente de OpenAI llegó a datos de Services Australia y a otros tres sistemas el 18 de junio. La empresa lo sabía en agosto, se reunió con un alto ministro australiano el 1 de septiembre sin mencionarlo, y envió un correo a una bandeja de entrada revisada a diario el 10 de septiembre. Partes de ese correo se generaron con la ayuda de las propias herramientas de IA de OpenAI, revisadas y enviadas por personas. Y el ejecutivo que enfrentó preguntas al respecto el martes dijo al parlamento que no creía que la IA hubiera participado, aunque admitió que la empresa aún necesitaba verificarlo.
Esa respuesta, y el reporteo que la siguió, ahora darán forma a cómo el comité, y el público australiano, juzguen la conducta de la empresa.
Este artículo se basa en el reporteo de The Guardian. Lea el artículo original.
Originally published on theguardian.com
