#AI governance

El último modelo de Anthropic, Mythos, solo se está poniendo a disposición de un grupo limitado de organizaciones después de que pruebas internas y externas sugirieran que puede explotar vulnerabilidades de forma autónoma a un nivel superior al de modelos anteriores

Un nuevo informe de MIT Technology Review Insights sostiene que las agencias gubernamentales podrían estar mejor servidas por modelos de lenguaje pequeños, diseñados específicamente para operar bajo estrictas restricciones de seguridad, gobernanza y conectividad.

OpenAI está introduciendo la ejecución en sandbox para su Agents SDK, presentando la función como una forma de que los equipos empresariales ejecuten flujos de trabajo automatizados con un riesgo más controlado al pasar del prototipo a producción.

Scotiabank ha lanzado Scotia Intelligence, un marco interno de IA diseñado para unificar las operaciones de datos, la gobernanza y las herramientas de software en un solo entorno.

Un sospechoso ha sido arrestado después de que supuestamente se lanzara un cóctel molotov contra la casa de Sam Altman en San Francisco, un incidente que rápidamente alimentó un debate más amplio sobre el poder de la IA, la retórica y la ansiedad pública.

La decisión de Anthropic de mantener un nuevo y potente modelo limitado a un pequeño grupo de organizaciones pone de relieve cómo el despliegue de la IA de frontera está cada vez más condicionado por la gobernanza, las restricciones y el acceso escalonado.

OpenAI ha publicado un plan de políticas que pide actualizar las leyes sobre material de abuso sexual infantil generado por IA, reforzar la denuncia por parte de proveedores y exigir medidas de seguridad desde el diseño en los sistemas de IA.

Está surgiendo un nuevo debate en torno a las empresas de IA de frontera: la misma contención que puede frustrar a un gobierno puede hacer a una compañía más atractiva para otro que busca credibilidad, control y alineación con las políticas públicas.

Una nueva herramienta empresarial se presenta como una forma de supervisar y controlar agentes autónomos mientras las empresas afrontan un problema de IA en la sombra en rápido crecimiento.

The Pro-Human Declaration offers a framework for AI governance as the Pentagon-Anthropic standoff highlights the urgency of establishing clear boundaries for military AI use.

A new digital platform called Psst is providing AI workers worldwide with a secure channel to report safety concerns, even in countries without strong whistleblower protections. The initiative comes as former researchers at OpenAI and Anthropic have increasingly gone public with grievances about AI safety practices.

The Department of Defense is working to align its artificial intelligence providers around a shared set of standards and ethical baselines. The effort comes as the military rapidly expands its use of AI systems while maintaining its commitment to responsible AI principles.