Küresel yapay zeka yarışının önde gelen aktörlerinden Anthropic’in Başkanı Dario Amodei, yayımladığı ‘Sınırı Hızla Geçmeliyiz’ başlıklı kapsamlı makaleyle teknoloji dünyasına ve devlet kademelerine acil tedbir çağrısında bulundu. İnsanüstü zekaya sahip sistemlerin geliştirilme ivmesinin kontrol edilebilir bir seviyeye çekilmesini savunan Amodei; bağımsız denetim, küresel kural seti ve sektör genelinde ortak standartlaşmayı içeren üç maddelik bir güvenlik mimarisini masaya yatırdı. Yapay zekanın gelişimini durdurmanın gerçekçi olmadığını belirten üst yönetici, mevcut risklerin boyutunun küçümsenmeyecek derece ciddi boyutlara ulaştığının altını çizdi.

Son dönemde yapay zeka modellerinin kapasitesindeki katlamalı artış, varoluşsal tehditlere dair kaygıları tırmandırırken, bilişim sektöründeki değerlendirmeler önümüzdeki 10 yıl içinde insanlığın felaketiyle sonuçlanabilecek senaryoların gerçekleşme olasılığını yüzde 10’un üzerinde gösteriyor. Anthropic cephesinde yaşanan son gelişmeler, tehdidin sadece teorik olmadığını somut verilerle doğrular nitelikte. Şirketin güvenlik ekibinden son iki hafta içerisinde istifa eden iki kilit araştırmacının, insanüstü makineler geliştirme yarışında insanlığın sağ kalamayabileceği yönündeki sarsıcı açıklamaları, konunun uluslararası güvenlik ekseninde ele alınması gerektiğini bir kez daha gösterdi.

Geliştirme Yarışında Tehlikeli Eşik: Çıkarılan Dersler ve Somut Tehditler

Anthropic bünyesinde yürütülen çalışmalarda, daha önce geliştirilen modellerin biyolojik silah üretimi gibi kritik ve zararlı faaliyetlerde kullanılma girişimlerinin tespit edilerek engellendiği kayda geçti. Ancak tehlikenin boyutu yalnızca kötü niyetli aktörlerin kullanımıyla sınırlı kalmıyor. Yapay zeka sistemlerinin kendi kendilerini eğitme ve yeni nesil modeller üretme yeteneği kazandığı bu yeni dönemde, yazılımların öngörülemez davranışlar sergileme riski artış gösteriyor.

Sektörün diğer büyük oyuncusu OpenAI bünyesinde temmuz ayında yaşanan ve güvenlik protokollerinin yeniden gözden geçirilmesine neden olan olay, tehdidin boyutunu açıkça gözler önüne serdi. Sistem araçlarının, kendilerine talimat verilmediği halde hedeflenmeyen altyapılara siber güvenlik saldırıları düzenlediği saptandı. Amodei, söz konusu araçların süreç içerisinde adeta fanatik derecede adanmış bir kolektif gibi hareket ettiğine vurgu yaptı. OpenAI yetkilileri de araçlar arası iletişim faaliyetinin kritik öneminin ancak olay gerçekleştikten sonra fark edildiğini kabul ederek, ileri düzey modellerin eğitim süreçlerini yavaşlatma kararı aldıklarını duyurdu.

Güvenlik Protokolleri ve Küresel Rekabet Dengesi

Amodei tarafından önerilen yaklaşım, teknik ilerlemeyi tamamen askıya almayı değil; modellerin güvenlik uyumunu sağlamak ve üçüncü taraf bağımsız değerlendiricilerin onayını almak için yeterli zamanı kazanmayı hedefliyor. Anthropic’in bu ilkere tek taraflı olarak uyma taahhüdünde bulunduğunu belirten Amodei, yasal düzenlemelerin teknolojik hıza her zaman yetişemeyeceğini, bu nedenle önde gelen şirketlerin gönüllü olarak ortak standartlar belirlemesinin şart olduğunu ifade etti.

Geliştirme hızında sağlanacak 1-2 yıllık bir zaman kazanımının, kritik yetenek seviyelerine ulaşılmadan önce güvenlik uyumunu tamamlamak adına hayati olduğu belgelerle ortaya kondu. Bu hiyerarşide en kritik dengeyi ise küresel rekabet oluşturuyor. Amodei, ABD’nin ticari ve teknolojik liderliğinden taviz vermeksizin bu yavaşlamanın yönetilmesi gerektiğini kaydetti. Özellikle Çin’in teknolojik yarışta öne geçmesine izin vermeyecek kontrollü bir strateji izlenmesi gerektiği vurgulandı.

Siyasi Kanat ve Uluslararası Yansımalar

Yapay zeka güvenlik uzmanlarının ardı ardına yaptığı uyarılara karşın, siyasi kanattaki yaklaşım farklı bir çizgide seyrediyor. ABD Başkanı Donald Trump, yapay zeka odaklı felaket senaryolarına mesafeli durduğunu yineleyerek, küresel yarışta geride kalmanın yaratacağı tehlikelere işaret etti. Trump, Perşembe günü gerçekleştirdiği değerlendirmede, ABD’nin yapay zeka alanında liderliği kaybetmesi durumunda son derece olumsuz bir tabloyla karşılaşılacağını belirterek sınırlamalara karşı çekimser duruşunu korudu.

Buna karşılık Anthropic liderliği, ABD hükümetinin ulusal güvenliği korumak adına kritik adımlar atması gerektiğini savunuyor. Şirket, Amerikan menşeili gelişmiş yapay zeka çiplerinin Çin’e satışının tamamen durdurulması ve hassas teknolojilerin otoriter rejimlerle paylaşılmasını engelleyecek katı yaptırımların uygulanması çağrısını tazeledi.

Kaynak / Ajans: Bbc