OpenAI’ın yeni yapay zekâsı Astra için sıra dışı karar: En güçlü yetenekleri herkese açılmayacak – Teknoloji Haberleri

OpenAI, yeni Astra modelinin şirketin Preparedness Framework’te “Critical” olarak tanımladığı kritik siber güvenlik yeteneklerini aştığını açıkladı. Model, uygun araç ve erişimle korunan sistemlerde önceden bilinmeyen açıkları tespit edebiliyor ve bu açıkları exploit etmek için yöntemler geliştirebiliyor. Araştırmalarda bazı görevlerde Astra’nın her adımda insan yönlendirmesine ihtiyaç duymadan çalışabildiği rapor edildi; ExploitBench testinde ise yüzde 100 skor elde edildi.

İçsel testlerinde OpenAI, 20 yüksek öncelikli V8 güvenlik açığını içeren bir senaryoda Astra’nın iki sıfır gün açığı keşfettiğini ve bunları bir exploit zinciri içinde kullandığını bildirdi. Model, güçlendirilmiş bir tarayıcıda bilinmeyen açıkları tespit edip saldırı zincirlerine dönüştürebildiği gibi, işletim sistemindeki birden fazla açığı birleştirerek yetkisiz kullanıcı seviyesinden root yetkisine ulaşabilecek bir zincir oluşturdu.

Astra’nın piyasaya sürülme şekli kritik yetkinliklerin erişiminin sınırlandırılmasını içeriyor: ilk aşamada küçük bir test grubuna erişim verilecek, ardından Daybreak Blue programı aracılığıyla savunma amaçlı kullanımlar genişletilecek. Model, yetkisiz siber güvenlik taleplerini reddetmek üzere özel olarak eğitildi; jailbreak testlerinde yüzde 91,5’lik bir reddetme oranı gösterdi. Chain‑of‑thought izleme sistemleriyle beklenmeyen davranış tespit edilirse işlem otomatik olarak durdurulacak; model piyasaya çıktığında kapsamlı bir sistem kartı yayımlanacak.