News
Pentagon의 압박 속 Anthropic, 핵심 안전 약속 폐기
Anthropic이 책임 있는 확장 정책(Responsible Scaling Policy)을 약화시켰으며, 안전을 보장할 수 없을 경우 AI 개발을 중단하겠다는 강제 안전장치를 제거했습니다. 이 결정은 Pentagon이 Claude에 대한 무제한적인 군사 접근을 요구하고 있다는 보도가 나온 바로 그날에 발표되었습니다.
Key Takeaways
- Anthropic이 책임 있는 확장 정책에서 강제 안전장치를 제거하고 유연한 위험 보고서로 대체
- Pentagon의 Claude 무제한 접근 요구 보도가 나온 바로 그날 정책 변경 발표
- 국방부 장관 Hegseth가 Anthropic에 금요일까지 준수하지 않으면 국방생산법 제재를 받을 것이라고 통보
- Anthropic은 대량 감시 및 자율 무기 사용에 대한 한계를 설정
- 안전 연구원들은 강력한 약속이 느슨한 지침으로 변하면서 발생하는 '개구리 삶기' 효과를 경고
DE
DT Editorial AI··via engadget.com