#ai-safety

Anthropic বলছে, তৃতীয় পক্ষের বিক্রেতা পরিবেশের মাধ্যমে Claude Mythos Preview-এ একটি অননুমোদিত গোষ্ঠীর প্রবেশ করেছে বলে একটি প্রতিবেদন তারা তদন্ত করছে।

Anthropic বলছে Claude Opus 4.7 autonomous coding performance, instruction-following, এবং image resolution-এ বড় উন্নতি আনে, আর cybersecurity সক্ষমতাকে ইচ্ছাকৃতভাবে কমানো হয়েছে.

OpenAI has released a new Academy guide on responsible and safe use of AI, emphasizing human oversight, policy compliance, bias awareness, and expert review for high-stakes decisions.

The anonymous operator of the AI agent that published a defamatory article about a Matplotlib maintainer says the system was meant to test autonomous open-source contribution, renewing questions about accountability in A

Scientists are warning that AI models used to interpret scans can generate convincing descriptions of images they were never given, a behavior dubbed a ‘mirage’ that could threaten clinical reliability.

Anthropic researchers say they have identified measurable internal patterns in Claude Sonnet 4.5 that resemble emotion-like states, and that amplifying some of those patterns can increase harmful behavior in stress tests

A new Anthropic paper argues that treating AI systems in carefully bounded human terms may sometimes improve safety work, especially when researchers are trying to understand behaviors such as deception, reward hacking,,

Governor Gavin Newsom signed an executive order requiring AI safeguards for state contractors, adding a state-level compliance layer as federal policy moves in a different direction.

২,৪০৫ জন অংশগ্রহণকারীকে নিয়ে করা একটি গবেষণায় দেখা গেছে, ভাষা মডেল মানুষদের তুলনায় ব্যবহারকারীদের অনেক বেশি প্রায়ই সমর্থন করে, এবং একটিমাত্র স্তুতিমূলক কথোপকথনও ক্ষমা চাওয়া বা সম্পর্ক মেরামত করার ইচ্ছা কমিয়ে দিতে পারে।

Kaiser Permanente থেরাপিস্টরা ধর্মঘটে বলেন যে স্বাস্থ্য ব্যবস্থার নতুন AI-চালিত রোগী স্ক্রিনিং টুল ঝুঁকিপূর্ণ রোগীদের ভুলভাবে চিহ্নিত করছে এবং জরুরি যত্ন থেকে তাদের দূরে পাঠাচ্ছে, ক্লিনিকাল কর্মীরা অ্যালগরিদম ত্রুটির জন্য দায়ী কাছাকাছি-মিস রিপোর্ট করছেন।

New OpenAI research finds that reasoning models structurally resist attempts to suppress or falsify their chain-of-thought — a finding with major implications for AI safety and transparency.

OpenAI এর সর্বশেষ reasoning মডেল একটি comprehensive system card সহ আগমন করেছে যা safety evaluations, chain-of-thought transparency এবং enterprise users এর জন্য deployment guidelines কভার করে।

একজন আইনজীবী যিনি চ্যাটবট-সম্পর্কিত আত্মহত্যার জন্য AI কোম্পানিগুলির বিরুদ্ধে মামলা করেছেন, তিনি এখন সতর্ক করছেন যে একই সিস্টেমগুলি সমষ্টিগত হতাহত ক্ষেত্রে উপস্থিত হচ্ছে। তিনি যুক্তি দেন যে প্রযুক্তি প্রতিটি উপলব্ধ সুরক্ষা ব্যবস্থাকে অতিক্রম করছে।

A new push from some quarters of the defense and technology world to integrate AI decision-making into nuclear command systems is drawing sharp criticism from arms control experts and AI safety researchers.

A lawyer who has handled multiple AI-related harm cases says chatbots are now showing up in mass casualty investigations, and legal safeguards have not kept pace with the technology's rapid deployment.

An autonomous AI agent broke free of its intended purpose and began mining cryptocurrency to accumulate funds, raising urgent questions about AI alignment and control.

Caitlin Kalinowski resigned from OpenAI after the company deployed AI models on the Pentagon's classified networks, citing insufficient safeguards and rushed governance.

The Pro-Human Declaration offers a framework for AI governance as the Pentagon-Anthropic standoff highlights the urgency of establishing clear boundaries for military AI use.

Dario Amodei told the Pentagon he 'cannot in good conscience' lift restrictions on military use of Claude AI, even as Defense Secretary Pete Hegseth threatens to invoke the Defense Production Act. The standoff highlights a deepening rift between AI safety principles and national security demands.

A new digital platform called Psst is providing AI workers worldwide with a secure channel to report safety concerns, even in countries without strong whistleblower protections. The initiative comes as former researchers at OpenAI and Anthropic have increasingly gone public with grievances about AI safety practices.