#AI governance

Anthropics neuestes Modell Mythos wird nur einer begrenzten Zahl von Organisationen zur Verfügung gestellt, nachdem interne und externe Tests darauf hindeuteten, dass es Schwachstellen autonom auf einem höheren Niveau ausnutzen kann als frühere Modelle

Ein neuer Bericht von MIT Technology Review Insights argumentiert, dass Regierungsbehörden mit zweckgebundenen kleinen Sprachmodellen besser bedient sein könnten, die unter engen Sicherheits-, Governance- und Konnektivitätsbeschränkungen arbeiten können.

OpenAI führt Sandbox-Ausführung für sein Agents SDK ein und positioniert die Funktion als Möglichkeit für Unternehmensteams, automatisierte Workflows mit besser kontrolliertem Risiko vom Prototyp in die Produktion zu überführen.

Scotiabank hat Scotia Intelligence eingeführt, ein internes KI-Framework, das Datenoperationen, Governance und Software-Tools in einer einzigen Umgebung vereinen soll.

Nach einem angeblichen Molotowcocktailwurf auf Sam Altmans Haus in San Francisco wurde ein Verdächtiger festgenommen. Der Vorfall mündete rasch in eine breitere Debatte über die Macht der KI, Rhetorik und öffentliche Angst.

Anthropics Entscheidung, ein leistungsstarkes neues Modell auf eine kleine Gruppe von Organisationen zu beschränken, macht deutlich, wie stark die Bereitstellung von Frontier-KI zunehmend von Governance, Beschränkung und gestuftem Zugang geprägt wird.

OpenAI has released a policy blueprint calling for updated laws on AI-generated child sexual abuse material, stronger provider reporting, and safety-by-design requirements for AI systems.

A new debate is emerging around frontier AI firms: the same restraint that can frustrate one government may make a company more attractive to another looking for credibility, control, and policy alignment.

Ein neues Enterprise-Tool positioniert sich als Möglichkeit, autonome Agenten zu überwachen und zu steuern, während Unternehmen mit einem rasant wachsenden Shadow-AI-Problem konfrontiert sind.

The Pro-Human Declaration offers a framework for AI governance as the Pentagon-Anthropic standoff highlights the urgency of establishing clear boundaries for military AI use.

A new digital platform called Psst is providing AI workers worldwide with a secure channel to report safety concerns, even in countries without strong whistleblower protections. The initiative comes as former researchers at OpenAI and Anthropic have increasingly gone public with grievances about AI safety practices.

The Department of Defense is working to align its artificial intelligence providers around a shared set of standards and ethical baselines. The effort comes as the military rapidly expands its use of AI systems while maintaining its commitment to responsible AI principles.