Cuando un laboratorio de IA persigue un problema del Milenio
El conflicto comenzó con una afirmación extraordinaria: un sistema de IA había producido una prueba de las ecuaciones de Navier-Stokes, uno de los siete Problemas del Milenio del Clay Mathematics Institute y un desafío que ha resistido a los matemáticos durante décadas. El episodio debería haber sido un hito para la investigación asistida por IA. En cambio, se ha convertido en una advertencia sobre la forma en que las ideas se mueven entre investigadores independientes y los poderosos laboratorios que controlan tanto los algoritmos como las plataformas utilizadas para desarrollarlas.
Todas las partes principales han hecho declaraciones públicas, y las versiones difieren notablemente. En el centro está el matemático Tristan Buckmaster, quien dice que OpenAI incurrió en mala conducta después de enterarse de un proyecto de investigación que estaba llevando a cabo con Levent Alpöge. OpenAI niega las acusaciones más graves, pero admite que sus acciones fueron moldeadas por rumores sobre lo que habían logrado los modelos del laboratorio rival Anthropic.
Acusaciones de presión y plagio
Buckmaster ha sido inusualmente directo en sus críticas. Dice que OpenAI tomó material de los borradores que él y Alpöge subieron al entorno Codex de OpenAI, lo presionó durante el proceso de investigación, intentó eliminar a Alpöge como coautor simplemente porque Alpöge está empleado por Anthropic, y lo amenazó con consecuencias para su carrera. En opinión de Buckmaster, el comportamiento equivale a una mala práctica académica absoluta.
La acusación de presión es imposible de verificar desde fuera. Lo que se puede documentar es que OpenAI escuchó rumores de que los modelos de Anthropic habían resuelto un Problema del Milenio y, por su propia admisión, dirigió sus recursos hacia el mismo objetivo. El CEO de OpenAI, Sam Altman, y el investigador Sébastien Bubeck niegan el plagio. Reconocen que su equipo desarrolló un modelo específicamente para el problema después de que circulara el rumor, pero rechazan la sugerencia de que el resultado de la empresa fue tomado de Buckmaster y Alpöge.
Dos versiones muy diferentes del mismo trabajo
El núcleo técnico del desacuerdo es la originalidad. OpenAI mantiene que su solución difiere significativamente del trabajo de los matemáticos. Buckmaster y Alpöge no están de acuerdo. Señalan que habían ingresado un enfoque similar en los sistemas de OpenAI, y sospechan que la entrada terminó en los datos de entrenamiento. Si es cierto, la empresa puede haberse acelerado más allá de sus competidores utilizando las mismas ideas que esos competidores habían confiado a sus herramientas de desarrollo.
Esa posibilidad importa por una razón simple: los investigadores normalmente no envían su trabajo no publicado a un competidor para su entrenamiento. Pero cuando los laboratorios de IA proporcionan asistentes de codificación y plataformas en la nube, los usuarios pueden estar alimentando su propiedad intelectual más prometedora directamente a un sistema que puede mejorar los propios modelos del laboratorio. El límite entre usar una herramienta y entregar la investigación a ella se vuelve difícil de controlar.
La cuestión de los datos de entrenamiento sigue sin respuesta
Los empleados de OpenAI señalan que la probabilidad de que la empresa se haya entrenado con las soluciones presentadas es baja, especialmente si los dos investigadores desactivaron la opción que permitiría que sus entradas se usaran para el entrenamiento. Si lo hicieron o no no se sabe públicamente. Desde un punto de vista científico, esa incertidumbre es exactamente lo que hace peligrosa la disputa. Cuando una acusación de este tipo no puede investigarse de forma independiente, los investigadores se ven obligados a confiar en la palabra de una corporación que no tiene obligación legal de abrir su canal de entrenamiento a la inspección externa.
El investigador de OpenAI, Boaz Barak, ha rechazado la idea de que el modelo necesitara ayuda externa. En su versión, el modelo no se limitó a reproducir un argumento conocido; comenzó demostrando una afirmación más fuerte que la que habían hecho los matemáticos. Sugerir lo contrario, en su opinión, es un mecanismo de afrontamiento más que una evaluación realista. Sin embargo, esta defensa no resuelve la cuestión más profunda de la procedencia. Incluso un modelo que finalmente superó el trabajo de los investigadores podría haber sido influenciado por sus borradores. La integridad científica no se trata solo de si se copió la salida; se trata igualmente de si se tomó una idea sin permiso.
Una advertencia de Terence Tao
Una de las respuestas más sobrias ha venido del matemático Terence Tao. Ha advertido que eventos futuros de este tipo pueden dejar a los matemáticos independientes en una posición imposible. Cuando un rumor llega a una gran empresa de tecnología, esa empresa puede movilizar una cantidad sustancial de cómputo y talento en cuestión de días. Un pequeño equipo de académicos no puede igualar ese ritmo, particularmente si el rumor se basa en su propio trabajo no publicado. El resultado puede ser que los laboratorios de IA superen rutinariamente los proyectos de investigación originales simplemente porque tienen mejores oídos y máquinas más grandes.
La advertencia de Tao se extiende más allá de la disputa inmediata. Apunta a una asimetría emergente en la ciencia: los grupos que crean los modelos más poderosos también están en la mejor posición para enterarse de los primeros resultados, integrarlos en los entrenamientos y publicar primero. Los incentivos académicos se basan en la prioridad y la apertura, pero esos incentivos se vuelven insignificantes si un rival puede absorber datos no divulgados sin consentimiento.
Lo que esto significa para la ciencia abierta
La controversia de Navier-Stokes no es solo una disputa entre dos individuos y un laboratorio. Plantea preguntas fundamentales sobre la relación entre el desarrollo de la IA y la investigación abierta.
- ¿Pueden los investigadores usar plataformas de codificación de IA de manera segura mientras mantienen sus ideas no publicadas fuera de los datos de entrenamiento de una empresa? La mayoría de los usuarios no tienen forma de verificar que tales protecciones sean efectivas.
- ¿Se debería permitir a los laboratorios de IA redirigir sus esfuerzos de investigación basándose en trabajo confidencial o rumoreado de otra organización, especialmente cuando el rumor se origina dentro de sus propias herramientas?
- Cuando un coautor está empleado por un laboratorio competidor, ¿debería ese hecho influir en la autoría? Buckmaster dice que OpenAI intentó eliminar a Alpöge del artículo por esa razón, mientras que la empresa niega mala conducta pero no ha aclarado su política de autoría.
- ¿Quién debería tener acceso a los datos de entrenamiento y los pesos del modelo cuando se alega plagio? Los mecanismos actuales de resolución de disputas no proporcionan una vía clara para auditores externos.
- ¿Qué sucede con la disposición del campo a compartir resultados tempranos si los investigadores junior temen que su trabajo sea explotado por un actor más poderoso?
Estas no son preocupaciones abstractas. La disputa ya ha dañado la confianza en la idea de que las empresas de IA pueden servir como socios científicos neutrales. Incluso los investigadores que no tienen interés en Navier-Stokes podrían dudar razonablemente antes de subir un lema prometedor o un método no publicado a una plataforma operada por un laboratorio de IA.
La confianza no se puede asumir
OpenAI y sus defensores pueden tener razón en que no ocurrió ningún uso indebido. La evidencia disponible es incompleta, y la posibilidad de una coincidencia inocente es real. Pero el episodio ha elevado el listón de lo que parece una investigación responsable de IA. Un laboratorio que desarrolla herramientas para matemáticos no puede depender de una vaga promesa de no usar su trabajo. Debe demostrar, a través de políticas transparentes de manejo de datos y mecanismos de auditoría independientes, que las contribuciones de los usuarios no aparecerán en futuros modelos sin consentimiento.
La lección más amplia puede ser que los científicos y los laboratorios de IA operan bajo lógicas diferentes. Los académicos comparten para construir conocimiento; las empresas comparten para construir ventaja. Cuando los dos sistemas chocan, el lado más débil suele ser el investigador que está fuera de los muros corporativos. La disputa de Navier-Stokes será recordada no solo por el logro matemático que la desencadenó, sino por lo que reveló sobre la vulnerabilidad de la ciencia abierta en la era de la IA generativa. A menos que se establezcan normas claras pronto, el próximo problema del Milenio puede ser resuelto no por un matemático solitario en una pizarra, sino por un equipo corporativo que vio la respuesta venir antes de que la pregunta fuera publicada.
Este artículo se basa en un reportaje de The Decoder. Leer el artículo original.
Originally published on the-decoder.com
