#AI security

Anthropic का कहना है कि वह एक रिपोर्ट की जांच कर रहा है जिसमें कहा गया है कि अनधिकृत उपयोगकर्ताओं ने तीसरे पक्ष के विक्रेता वातावरण के जरिए उसके Claude Mythos Preview साइबर सुरक्षा टूल तक पहुंच बनाई, जबकि कंपनी ने कहा है कि उसके अपने सिस्टम/

Mozilla का कहना है कि Anthropic के Mythos Preview तक शुरुआती पहुंच ने Firefox 150 में 271 सुरक्षा कमजोरियों की पहचान करने में मदद की, जिससे इस बहस को और तेज़ी मिली कि क्या उन्नत एआई बचाव और हमले के बीच संतुलन बदल देगा।

Anthropic का नवीनतम मॉडल, Mythos, केवल संगठनों के एक सीमित समूह को उपलब्ध कराया जा रहा है, क्योंकि आंतरिक और बाहरी परीक्षणों से संकेत मिला कि यह पिछले मॉडलों की तुलना में अधिक स्तर पर स्वायत्त रूप से कमजोरियों का शोषण कर सकता है

शोधकर्ताओं ने एक अब-सुधारी गई प्रॉम्प्ट इंजेक्शन समस्या का विवरण दिया, जिसने Apple के डिवाइस-पर बड़े भाषा मॉडल को प्रतिबंधों को दरकिनार करने और हमलावर-नियंत्रित कार्रवाइयाँ करने की अनुमति दी।

AI News की एक नई रिपोर्ट का तर्क है कि आधुनिक एआई सिस्टम ऐसे आक्रमण-क्षेत्र बनाते हैं जिन्हें पारंपरिक सुरक्षा मॉडल संभालने के लिए बनाए ही नहीं गए थे, जिससे सुरक्षा टीमों को एआई-विशिष्ट नियंत्रणों और सोच की ओर बढ़ना पड़ रहा है।

OpenAI publishes its design principles for protecting AI agents against prompt injection and social engineering in agentic workflows.

Anthropic has raised alarms about industrial-scale distillation attacks against its Claude AI model, where competitors and third parties systematically extract Claude's capabilities to train cheaper rival systems. The revelation highlights a growing threat to AI companies' intellectual property and business models.