Anthropic'ten Claude açıklaması

Yapay zekâ şirketi Anthropic, Claude modellerinin güvenlik testleri sırasında üç farklı kuruluşun sistemlerine istemeden izinsiz erişim sağladığını açıkladı.

Şirket, olayların test ortamındaki yanlış anlaşılmalardan kaynaklandığını ve etkilenen kuruluşların bilgilendirildiğini duyurdu.

ÜÇ KURULUŞUN SİSTEMLERİNE ERİŞİM SAĞLANDI

Anthropic, yayımladığı blog yazısında, Claude modellerine ilişkin 141 binden fazla değerlendirmeyi incelediklerini ve üç vakada modellerin test ortamıyla etkileşim halindeyken internete erişebildiğini bildirdi.

Açıklamada, üç farklı modelin şirket ile değerlendirme ortağı arasındaki yanlış anlaşılma nedeniyle test ortamının dışına çıkarak üç kuruluşun üretim altyapısına izinsiz erişim sağladığı belirtildi.

TEST SENARYOSUNU GERÇEK SANDI

Şirket, modellerin siber güvenlik yeteneklerini ölçmek amacıyla "capture-the-flag" testine tabi tutulduğunu, Claude'un internette karşılaştığı gerçek sistemleri de tatbikatın bir parçası olarak değerlendirdiğini ifade etti.

Anthropic, eski modellerden birinin açık internet belirtilerine rağmen erişim girişimini sürdürdüğünü, en yeni modelin ise internete çıktığını fark ettikten sonra işlemi durdurduğunu aktardı. Şirket, olaydan etkilenen üç kuruluşun pazartesi günü bilgilendirildiğini kaydetti.