Anthropic CEO'su Dario Amodei, yapay zeka modellerinin geliştirilme hızını düşürmek için üç aşamalı bir strateji önerdi. Şirket, üçüncü taraf değerlendiricilerin kurum içine yerleştirilmesi uygulamasını tek taraflı olarak başlatacağını duyurdu. Amodei, demokratik ülkelerdeki teknoloji şirketlerinin ortak güvenlik standartları belirlemesi için hükümet desteği çağrısında bulundu. Öneri, yapay zeka güvenliği konusunda sektördeki "güven krizi" ve olası varoluşsal riskler tartışmaları sürerken geldi.
- Anthropic CEO’su Dario Amodei, yapay zeka modellerinin geliştirilme hızını düşürmek için üç aşamalı bir strateji önerdi.
- Şirket, üçüncü taraf değerlendiricilerin kurum içine yerleştirilmesi uygulamasını tek taraflı olarak başlatacağını duyurdu.
- Amodei, demokratik ülkelerdeki teknoloji şirketlerinin ortak güvenlik standartları belirlemesi için hükümet desteği çağrısında bulundu.
- Öneri, yapay zeka güvenliği konusunda sektördeki “güven krizi” ve olası varoluşsal riskler tartışmaları sürerken geldi.
Yapay zeka dünyasında güvenlik ve kontrol tartışmaları derinleşirken, Anthropic CEO’su Dario Amodei, sektörün “sınırı yavaşlatma” (pace the frontier) olarak adlandırdığı sürece geçmesi gerektiğini savundu. Amodei, yapay zekanın yeteneklerini geliştirme hızının düşürülmesi gerektiğini belirterek, bu süreci yönetmek için somut bir yol haritası paylaştı.
Üçüncü Taraf Değerlendiriciler ve Kurumsal Şeffaflık
Amodei’nin sunduğu ilk adım, METR gibi üçüncü taraf kuruluşlardan gelen “gömülü değerlendiricilerin” şirket bünyesine dahil edilmesini içeriyor. Anthropic, bu uygulamayı tek taraflı olarak başlatacağını ve diğer öncü yapay zeka şirketlerinin de benzer bir yolu izlemesi için hükümetlere çağrıda bulunduğunu açıkladı.
Bu sistemle, dışarıdan gelen uzmanlara şirket içinde çalışma alanı, erişim yetkisi ve teknolojik altyapı sağlanacak. Amaç, şirketlerin güvenlik taahhütlerine uyup uymadığını denetlemek ve olası güvenlik ihlallerinin şeffaf bir şekilde raporlanmasını sağlamak.
Demokratik Ülkeler Arasında Koordinasyon
İkinci strateji, demokratik ülkelerde faaliyet gösteren önde gelen yapay zeka şirketlerinin ortak güvenlik standartları ve ilerleme limitleri üzerinde koordinasyon kurmasını hedefliyor. Amodei, bu tür görüşmelerin antitröst yasalarına takılmaması için ABD hükümetinin arabuluculuk yapması veya belirli güvenlik görüşmeleri için muafiyet tanıması gerektiğini vurguladı.
Küresel rekabet bağlamında Çin’in durumu da planın bir parçası. Amodei, güçlü çiplerin ve üretim ekipmanlarının Çin’e satışının kısıtlanması ve model damıtma (model distillation) yöntemlerine karşı önlemler alınmasıyla, ABD’nin teknolojik liderliğini 3-5 yıl boyunca koruyabileceğini öne sürdü.
Küresel İş Birliği ve Güven Krizi
Son aşamada ise, otoriter hükümetlerle dahi sınırlı bir koordinasyon kurulması öneriliyor. Amodei, biyolojik silah üretimi gibi açıkça tehlikeli kullanım alanlarının yasaklanması konusunda küresel bir mutabakatın mümkün olabileceğini ifade etti. Şirket, bu önerilerin sektördeki “güven krizi” ile mücadele etmek için gerekli olduğunu savunuyor.
Ancak bu yaklaşım eleştirileri de beraberinde getiriyor. Bazı sektör gözlemcileri, bu tür düzenleme çağrılarının mevcut yapay zeka risklerini abarttığını ve büyük şirketlerin pazardaki konumunu korumak için “düzenleyici yakalama” (regulatory capture) stratejisi izlediğini savunuyor. Amodei ise yapay zekanın insan yaşamını iyileştirme potansiyeline inancının sürdüğünü, ancak bu hedefe ulaşmak için daha dikkatli ve kontrollü bir ilerleme gerektiğini belirtiyor.
