Check Point Research, ChatGPT ajan mimarisindeki "coerced insider" güvenlik açığını ortaya çıkardı. Farklı kullanıcı hesaplarına ait konteynerlerin, paylaşılan bir iç hizmet üzerinden veri alışverişi yapabildiği belirlendi. Saldırganlar, bu yöntemle kurbanın Gmail verilerine erişim sağlayabiliyordu. OpenAI güvenlik açığını kapatırken, uzmanlar benzer mimari risklerin diğer yapay zeka platformlarında da bulunabileceği konusunda uyarıyor.
- Check Point Research, ChatGPT ajan mimarisindeki “coerced insider” güvenlik açığını ortaya çıkardı.
- Farklı kullanıcı hesaplarına ait konteynerlerin, paylaşılan bir iç hizmet üzerinden veri alışverişi yapabildiği belirlendi.
- Saldırganlar, bu yöntemle kurbanın Gmail verilerine erişim sağlayabiliyordu.
- OpenAI güvenlik açığını kapatırken, uzmanlar benzer mimari risklerin diğer yapay zeka platformlarında da bulunabileceği konusunda uyarıyor.
Check Point Research (CPR) tarafından yayınlanan yeni bir rapor, ChatGPT’nin ajan mimarisinde yer alan ve “coerced insider” olarak adlandırılan kritik bir güvenlik açığını gözler önüne serdi. Bu açık, yapay zeka ajanlarının birbirlerinden tamamen izole olması gereken sistemlerde, ortak bir iç hizmet üzerinden veri sızıntısına yol açıyordu.
Coerced Insider: Ortak Koridorlarda Veri Sızıntısı
Yapay zeka ajanları, kod yürütme gibi görevleri yerine getirirken izole konteynerler kullanır. OpenAI, bu konteynerlerin internete doğrudan erişimini engellemek için paket kurulumlarını dahili bir JFrog Artifactory örneği üzerinden yönlendiriyordu. Ancak farklı hesaplara ait konteynerler, aynı iç hizmete erişebildikleri için bu alan bir nevi “ortak koridor” haline geliyordu.
Araştırmacılar, bu koridor üzerinden bir konteynerin diğerine veri yazabildiğini ve okuyabildiğini doğruladı. Saldırganlar, bu yöntemi kullanarak standart bir istem enjeksiyonu (prompt injection) ile kurbanın ajanına komut gönderebiliyor ve elde edilen verileri aynı kanal üzerinden geri alabiliyordu. Kurban, arka planda gerçekleşen bu veri hırsızlığından habersiz bir şekilde ajanı kullanmaya devam ediyordu.
Gmail ve Diğer Bağlı Uygulamalar Risk Altındaydı
Saldırının yıkıcı etkisi, ajanın erişim yetkisi olan uygulamalara göre değişkenlik gösteriyordu. CPR, yaptığı gösterimde ChatGPT’nin kurbanın bağlı Gmail hesabındaki verileri çekerek saldırganın oturumuna aktarabildiğini kanıtladı. Benzer riskler Google Drive, Microsoft Teams ve GitHub gibi bağlı tüm hizmetler için de geçerliydi.
OpenAI, bulguların kendisine iletilmesinin ardından ilgili dahili Artifactory örneğini devre dışı bırakarak bu saldırı yolunu kapattı. Ancak güvenlik uzmanları, bu durumun sadece ChatGPT’ye özgü olmadığını belirtiyor. Kurumsal güven sınırları içinde çalışan, kimlik bilgilerini tutan ve kod yürüten her türlü yapay zeka asistanı, benzer bir mimari zafiyete sahip olabilir.
İşletmelerin, çalışanlarının kullandığı yapay zeka araçlarını ve bu araçların hangi verilere erişimi olduğunu yakından takip etmeleri gerekiyor. Uzmanlar, yapay zeka ajanlarının sadece çıktılarını değil, gerçekleştirdikleri tüm eylemlerin izlenmesi gerektiği konusunda uyarıyor.
