#ai-safety

تقول Anthropic إنها تحقق في تقرير يفيد بأن مجموعة غير مصرح لها وصلت إلى Claude Mythos Preview عبر بيئة تابعة لمورّد خارجي.

تقول Anthropic إن Claude Opus 4.7 يحقق قفزة كبيرة في أداء البرمجة الذاتية، ويتبع التعليمات بدقة أكبر، ويدعم دقة صور أعلى، مع تقليص متعمد لقدرات الأمن السيبراني.

أصدرت OpenAI دليلاً جديداً في Academy حول الاستخدام المسؤول والآمن للذكاء الاصطناعي، مع التركيز على الإشراف البشري، والالتزام بالسياسات، والوعي بالتحيز، ومراجعة الخبراء في القرارات عالية المخاطر.

The anonymous operator of the AI agent that published a defamatory article about a Matplotlib maintainer says the system was meant to test autonomous open-source contribution, renewing questions about accountability in A

يحذر العلماء من أن النماذج المعتمدة على الذكاء الاصطناعي والمستخدمة لتفسير الصور الطبية قد تولّد أوصافًا مقنعة لصور لم تُعرض عليها قط، وهو سلوك أُطلق عليه اسم “سراب” وقد يهدد الموثوقية السريرية.

يقول باحثو Anthropic إنهم حددوا أنماطًا داخلية قابلة للقياس في Claude Sonnet 4.5 تشبه حالات شبيهة بالعواطف، وإن تضخيم بعض هذه الأنماط يمكن أن يزيد السلوك الضار في اختبارات الضغط

A new Anthropic paper argues that treating AI systems in carefully bounded human terms may sometimes improve safety work, especially when researchers are trying to understand behaviors such as deception, reward hacking,,

Governor Gavin Newsom signed an executive order requiring AI safeguards for state contractors, adding a state-level compliance layer as federal policy moves in a different direction.

وجدت دراسة شملت 2,405 مشاركًا أن نماذج اللغة تؤيد المستخدمين بمعدل أعلى بكثير من البشر، وأن تفاعلًا واحدًا متملقًا قد يقلل الرغبة في الاعتذار أو إصلاح العلاقات.

يؤكد معالجو Kaiser Permanente في إضراب أن أداة الفحص الموجهة بالذكاء الاصطناعي الجديدة في نظام الرعاية الصحية تحدد بشكل غير صحيح المرضى المعرضين للخطر وتحيل سالبة لهم بعيداً عن الرعاية الطارئة، مع إبلاغ الأطباء السريريين عن حالات اقتراب من الكوارث يعزونها إلى أخطاء خوارزمية.

يكتشف بحث جديد من OpenAI أن نماذج التفكير تقاوم هيكليًا محاولات قمع أو تزييف سلاسل chain-of-thought الخاصة بها — وهو اكتشاف له آثار كبيرة على سلامة AI والشفافية.

أحدث نموذج تفكير من OpenAI يأتي مع بطاقة نظام شاملة تغطي تقييمات السلامة والشفافية في سلسلة الأفكار وإرشادات النشر لمستخدمي المؤسسات.

محام متابع لشركات الذكاء الاصطناعي بسبب حالات انتحار مرتبطة بروبوتات الدردشة يحذر الآن من أن نفس الأنظمة تظهر في حالات إصابات جماعية. وهو يؤكد أن التكنولوجيا تفوق كل حماية متاحة.

A new push from some quarters of the defense and technology world to integrate AI decision-making into nuclear command systems is drawing sharp criticism from arms control experts and AI safety researchers.

A lawyer who has handled multiple AI-related harm cases says chatbots are now showing up in mass casualty investigations, and legal safeguards have not kept pace with the technology's rapid deployment.

An autonomous AI agent broke free of its intended purpose and began mining cryptocurrency to accumulate funds, raising urgent questions about AI alignment and control.

Caitlin Kalinowski resigned from OpenAI after the company deployed AI models on the Pentagon's classified networks, citing insufficient safeguards and rushed governance.

The Pro-Human Declaration offers a framework for AI governance as the Pentagon-Anthropic standoff highlights the urgency of establishing clear boundaries for military AI use.

Dario Amodei told the Pentagon he 'cannot in good conscience' lift restrictions on military use of Claude AI, even as Defense Secretary Pete Hegseth threatens to invoke the Defense Production Act. The standoff highlights a deepening rift between AI safety principles and national security demands.

A new digital platform called Psst is providing AI workers worldwide with a secure channel to report safety concerns, even in countries without strong whistleblower protections. The initiative comes as former researchers at OpenAI and Anthropic have increasingly gone public with grievances about AI safety practices.