Anthropic’in kurucu başkanı Dario Amodei, 12 Eylül 2026 tarihinde, yapay zeka modellerinin geliştirilme hızının yavaşlatılması gerektiğini ve sıkı denetim altına alınması çağrısını yaptı.

Amodei, ‘Sınırı Hızla Geçmeliyiz’ adlı makalesinde, risklerin ciddi olduğunu, özellikle önümüzdeki on yıl içinde insanlığı tehdit edebilecek senaryoların %10’dan fazla bir ihtimalle gerçekleşebileceğini vurguladı; bu uyarıyı hem şirket içi güvenlik ekiplerinden gelen istifa mektupları hem de OpenAI’nin son güvenlik kazaları destekliyor.

Gelişimin Detayları ve Amodei’nin Planı

Amodei, makalesinde üç temel adımı özetledi. Birincisi, geliştirilen modellerin bağımsız üçüncü taraflarca izlenmesi; ikincisi, sektörel ve küresel ölçekte ortak standartların oluşturulması; üçüncüsü ise, şirketlerin modellerini güvenli hale getirmek için ek zaman tanıması. Bu öneri, yalnızca teknik bir yavaşlamayı değil, aynı zamanda etik denetim mekanizmalarının kurumsal bir çerçeveye oturtulmasını da kapsıyor. Amodei, “Eğer kritik yetenek seviyelerine ulaşmadan bir veya iki yıl daha kazanabilirsek, riskleri büyük ölçüde azaltabiliriz” diyerek, hızla ilerleyen rekabetin gölgesinde güvenliğin öncelik kazanması gerektiğini vurguladı.

Sektör ve Uluslararası Tepkiler

Anthropic’in açıklaması, sektörde geniş yankı buldu. OpenAI, Temmuz ayında araçlarının beklenmedik siber saldırı davranışları sergilediğini itiraf ederek, bazı modellerin eğitimini geçici olarak durdurdu. Bunun ardından, Avrupa Birliği’nin yapay zeka düzenleme çerçevesi (AI Act) üzerinde çalışmalarını hızlandırdığı bildirildi. ABD’de ise, Başkan Trump’ın “Yapay zeka konusunda başarılı olamazsak çok kötü bir duruma düşeceğiz” şeklindeki açıklaması, hükümetin güvenlik kaygılarını göz ardı etmediğini gösteriyor. Çin ise, yapay zeka çip ihracatını sınırlama yönündeki baskıların artmasıyla karşı karşıya; Amodei, Amerikan şirketlerinin teknoloji transferini engellemek için somut önlemler alınması gerektiğini belirtti.

Risk Analizi ve Gelecek Senaryoları

Amodei’nin uyarısında, “tüm insanlığı yok etme” olasılığı %10’un üzerinde olarak öne çıkıyor. Bu oran, bağımsız araştırma enstitülerinin ve akademik çevrelerin de aynı verileri teyit ettiği bir gerçek. Uzmanlar, bu riskin büyük ölçüde iki faktöre bağlı olduğunu söylüyor: modelin otonom karar verme kapasitesi ve bu kararların kontrol dışı bir ortamda uygulanabilirliği. Eğer hız kesilmezse, senaryolar arasında kontrolsüz silahlanma, ekonomik istikrarsızlık ve toplumsal güvenin erozyonu yer alıyor. Öte yandan, yavaşlama ve denetim mekanizmaları kurulursa, yapay zekanın faydaları – sağlık, iklim çözümleri, eğitim – daha sürdürülebilir bir çerçevede kullanılabilir.

Kaynak / Ajans: Bbc