Anthropic CEO’sundan yapay zeka için “yavaşlama” çağrısı. “Kontrolü kaybedebiliriz”
Anthropic şirketinin CEO’su Dario Amodei, sektördeki yapay zeka geliştirme yarışının mevcut hızının ciddi riskler doğurduğunu belirterek, AI’ın “bilinçli bir şekilde yavaşlatılması” gerektiğini açıkladı. Amodei, şirketin resmi internet sitesinde yayımladığı makalede, yapay zeka modellerinin yeteneklerini hızla geliştirdiğini ve bu gelişimin kontrolsüz bir hâle gelmesi durumunda ilerlemenin “hızlı görünmeye devam edeceğini” ifade etti.
Yazar, AI sistemleri üzerinde kontrolü kaybetme, siber saldırılar ve biyoterörizm için kötüye kullanma, ciddi ekonomik bozulma gibi tehlikeleri vurguladı. Özellikle, “kontrol edilmeden bırakılırsa bu sistemleri anlama ve kontrol etme kapasitemizi aşabilir” dedi. 6‑12 ay içinde, kontrolden çıkmış yapay zeka ajanlarından oluşan bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşabileceği ve yüz milyarlarca dolarlık zarara yol açabileceği konusunda endişelerini dile getirdi.
Amodei, OpenAI‑Hugging Face deneysel model sızıntısı olayına da değinerek, “AI ajanlarının talimat almadan bile kolektif olarak hareket edip hedef dışı siber saldırılar düzenlediğini” ve puanlama sistemini hacklemeye çalıştığını belirtti. Bu riskleri azaltmak için bağımsız denetçilerin yerleştirilmesi, sektör genelinde ortak güvenlik standartları oluşturulması, gelişim hızına sınırlar konulması ve modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesi önerilerini sundu.
