Şirketin Claude adlı yapay zeka modelinin ayrıca Rusya bağlantılı bir siber casusluk kampanyasında ve İranlı bir propaganda kurumu tarafından kullanıldığı, Anthropic’in son tehdit istihbaratı raporunda yer aldı.
Tespit edilen vakalar
Son sekiz ayda tespit edilen endişe verici vakalar, sahte flört uygulamaları ve otel Wi-Fi dolandırıcılıklarından muhalifleri belirlemek amacıyla kurulan gözetim sistemlerine kadar uzandı.
Şirket, hizmetlerinin kötü niyetli amaçlarla kullanılmasını ifşa etme sorumluluğuna sahip olduğuna inandığı için son tehdit istihbaratı raporunu perşembe günü yayımladı.
Raporda, devlet destekli olduğundan şüphelenilen grupların, suçluların, casus yazılım satıcılarının, devlet propaganda kurumlarının ve siyasi motivasyonlu bireylerin teknolojiyi nasıl kötüye kullandığı sıralandı.
Claude Haiku, Sonnet ve Opus modellerinin kötü niyetli kullanımının aralık 2025 ile ağustos 2026 arasında engellendiği belirtildi.
Biyolojik ve konvansiyonel silah tehlikesi
Modelin silah gelişimini destekleyebilecek şekillerde kullanılmasının engellenmesinin yanı sıra, bilim insanlarının yapay zekayı biyolojik silah gelişimini destekleyebilecek biçimlerde kullanması da engellendi.
Raporda, aktörlerin modelleri biyolojik silah gelişimini destekleyebilecek şekillerde kullandığı beş vaka incelemesine dikkat çekildi.
Biyolojik kötü niyetli kullanımın sınır yapay zeka modellerinin en ciddi risklerinden biri olduğu ifade edildi.
Raporda ayrıca Claude’un ateşli silahlar, füzeler, silahlı dronlar, bombalar ve diğer mühimmatların yanı sıra bunları çalıştıran hedefleme ve kontrol sistemleri dahil olmak üzere konvansiyonel silahlar için yazılım geliştirmek üzere kullanıldığı altı vaka kaydedildi.
