OpenAI’ın Astra modelinde kullandığı yeni akıl yürütme tekniği güvenlik endişelerini artırdı

OpenAI, henüz piyasaya sunulmamış Astra adlı yapay zeka modelinde, ‘recurrent depth’ olarak adlandırılan yeni bir akıl yürütme tekniği uyguluyor. Bu yöntem, modelin düşünce sürecinin bazı bölümlerinin gözlemlenmesini zorlaştırıyor.

Bu teknik, ‘opaque recurrence’ olarak da adlandırılıyor ve siber güvenlik uzmanları tarafından modelin karar alma mekanizmasının şeffaflığını azaltabileceği endişesiyle değerlendiriliyor. Astra, gelişmiş siber güvenlik yetenekleriyle birlikte geliştiriliyor, ancak bu yeni yaklaşımın izlenebilirliği konusunda soru işaretleri ortaya çıkıyor. Bu yöntem, modelin geri dönüşümlü bir derinlik seviyesinde işlem yapmasını sağlayarak, çıktının arkasındaki mantığı izlemeyi zorlaştırıyor.

Bu gelişme, yapay zeka sistemlerinin güvenlik açıkları ve izlenebilirliği üzerine yeni tartışmaların önünü açıyor. OpenAI henüz resmi bir açıklama yapmadı, ancak uzmanlar bu yöntemin potansiyel risklerini araştırmaya devam ediyor.