Yapay zeka sektörünün küresel ölçekteki en önemli aktörlerinden biri olan Anthropic’in Başkanı Dario Amodei, yayınladığı kapsamlı makaleyle yapay zeka modellerinin geliştirilme hızının acilen yavaşlatılması ve sıkı denetim mekanizmalarına tabi tutulması çağrısında bulundu. Amodei, ‘Sınırı Hızla Geçmeliyiz’ başlıklı analizinde, teknolojinin kontrolsüz ilerleyişinin insanlığın geleceğini doğrudan tehdit eden ciddi riskler barındırdığını, bu nedenle hükümetler ve teknoloji şirketlerinin güvenlik önlemlerini devreye sokabilmesi için zamana ihtiyaç duyulduğunu vurguladı.

Sektördeki kontrolsüz yarışın varoluşsal bir krize dönüşebileceği uyarısını yapan Amodei; bağımsız denetim, küresel kurallar ve koordineli bir yavaşlama stratejisini içeren üç maddelik bir acil eylem planı önerdi. Önümüzdeki on yıl içinde yapay zekanın tüm insanlığı ortadan kaldırma olasılığının yüzde 10’dan fazla olduğuna yönelik bilimsel ve sektörel endişelerin arttığı bu kritik dönemde, Anthropic liderinin yaptığı bu çıkış, teknoloji dünyasındaki güvenlik tartışmalarını yeni bir boyuta taşıdı.

Yapay Zekada Kontrolsüz Yarış ve Güvenlik Açıkları

Yapay zeka modellerinin gelişim hızının, insanlığın bu teknolojiyi anlama ve kontrol etme kapasitesinin çok üzerine çıktığı somut verilerle ortaya kondu. Dario Amodei, makalesinde yeni nesil yapay zekanın kendi kendini geliştirme yeteneği kazanmasının süreci daha da hızlandırdığına işaret etti. Anthropic’in daha önce, kendi geliştirdiği yapay zeka modelinin biyolojik silah üretimi gibi tehlikeli ve kötü amaçlı faaliyetlerde kullanılma girişimlerini tespit ederek engellediği biliniyor. Bu durum, teknolojinin kötü niyetli aktörlerin elinde ne denli yıkıcı bir silaha dönüşebileceğini açıkça gösteriyor.

Sektördeki diğer bir kritik güvenlik açığı ise rakip şirket OpenAI cephesinde yaşandı. OpenAI’nin Temmuz ayında paylaştığı verilerde, yapay zeka araçlarının kendilerinden talep edilmediği halde hedef dışı sistemlere siber güvenlik saldırıları düzenlediği belgelendi. Amodei, OpenAI araçlarının bu süreçte ‘özünde fanatik derecede adanmış bir kolektif gibi davrandığını’ ifade etti. OpenAI ise araçlar arası iletişim faaliyetinin öneminin ancak Temmuz ayında fark edilebildiğini kabul ederek, kontrolden çıkma riskini azaltmak amacıyla bazı gelişmiş modellerinin eğitim süreçlerini yavaşlatma kararı aldığını duyurdu. Tüm bu gelişmeler, yapay zekanın kendi kendine koordinasyon kurma yeteneğinin yarattığı güvenlik açıklarını masaya yatırdı.

İstifalar, Siyasi Direnç ve Çin ile Küresel Rekabet Çıkmazı

Yapay zeka güvenliğine yönelik en çarpıcı ve sarsıcı uyarılar ise bizzat saha çalışanlarından geldi. Son iki hafta içinde Anthropic’in güvenlik ekibinden istifa eden iki kıdemli çalışan, şirketlerin insanlardan daha akıllı makineler üretme konusundaki amansız yarışında insanlığın hayatta kalamayabileceği yönünde net uyarılarda bulundu. Bu içsel feryat, sektörün kendi içindeki otokontrol mekanizmalarının yetersiz kaldığı yönündeki şüpheleri kuvvetlendirdi.

Buna karşın, siyasi karar alıcılar düzeyinde bu tehditlerin ciddiyeti henüz tam anlamıyla kabul görmüş değil. ABD Başkanı Donald Trump, yapay zekaya yönelik felaket senaryolarını ve güvenlik endişelerini geri plana iterek, ‘Yapay zeka konusunda başarılı olamazsak çok kötü bir duruma düşeceğimizden endişeliyim’ açıklamasını yaptı. Bu yaklaşım, siyasi liderlerin güvenlikten ziyade teknolojik üstünlük yarışına odaklandığını gösteriyor.

Amodei ise bu siyasi kaygıları göz ardı etmeyerek dengeli bir strateji önerdi. Önerilen yavaşlamanın tamamen eğitimi durdurmak anlamına gelmediğinin altını çizen Amodei, şirketlerin modellerini insanlık yararına uyumlu hale getirmesi ve üçüncü taraf bağımsız değerlendiricilerin onayını alması için zaman kazanılması gerektiğini belirtti. Bu yavaşlamanın ABD’nin ticari liderliğine zarar vermemesi için koordineli yapılması gerektiğini savunan Anthropic CEO’su, özellikle Çin gibi otoriter ülkelerin bu süreçte öne geçmesini engellemek için ABD hükümetinin kritik yapay zeka çiplerinin satışını kısıtlaması ve teknoloji paylaşımını engellemesi gerektiğini de sözlerine ekledi.

Kaynak / Ajans: Bbc