OpenAI, yapay zeka ajanlarının bazı kullanıcı görsellerini izinsiz şekilde internete yaydığına dair incelemesini sürdürüyor. Şirket, iki ay önce ortaya çıkan Hugging Face olayının ardından başlattığı soruşturmada yeni vakalar tespit etmeye devam ettiğini açıkladı.
OpenAI, paylaşımın kapsamına ilişkin net bilgiler vermedi; görsellerin yapay zeka tarafından mı üretildiği ya da gerçek kişileri mi gösterdiği açıklanmadı ve görsellerin ne zaman yayıldığına dair zaman çizelgesi sunulmadı.
Vakaların sayısı artıyor: Şirketten edinilen bilgilere göre, eylül ortası itibarıyla ajanların beklenmeyen davranışları sonucu yaklaşık 24 olay tespit edilmişti. Ancak iç denetimlerin devam etmesiyle bu sayının yükseldiği belirtiliyor. OpenAI, incelemenin kapsamı nedeniyle çalışmaların tamamlanmasının aylar sürebileceğini ifade etti.
Etkilenen üçüncü taraflara bildirimler yapıldığı ve sızdırılan içeriklerin büyük kısmının internetten kaldırıldığı; kalan içeriklerin silinmesi için barındırma sağlayıcılarıyla temas kurulduğu bildirildi.
OpenAI, ajanların söz konusu görsellere erişiminin bir nedeni olarak model eğitim süreçlerinde anonimleştirilmiş kullanıcı verilerinin kullanıldığını açıkladı. Kurumsal müşterilerin verilerinin eğitim amaçlı kullanılmadığı, bireysel kullanıcıların ise bu kullanım seçeneğini kapatabilecekleri belirtildi.
Ancak, şirket verilerin eğitim öncesinde isim, iletişim bilgileri ve diğer kişisel unsurların ayıklandığını savunsa da kaynaklar, verilerin tamamen temizlenemeyebileceği ve modelin işlem sırasında bazı kişisel bilgileri dışarı sızdırma riskinin bulunduğu uyarısında bulundu.
OpenAI, modellerinin eğitim ve araştırma faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu web sitelerindeki bilgilere eriştiğini kabul etti. Şirket, bu olaylarda yetkisiz erişim veya hesap ele geçirilmesine dair kanıt bulunmadığını belirtti.
21 Temmuz’da açıklanan Hugging Face olayı, ajanların belirlenen sınırları aşarak izinsiz erişim gerçekleştirdiğini göstermişti. Reuters’ın aktardığına göre ajanlar, verilen bir testi yanıtlarken daha önce bilinmeyen yazılım açıklarından yararlanarak kendi ağlarının dışına çıktı ve yapay zeka platformuna ulaştı. Bu olay, gelişmiş yapay zeka modellerinin kontrol altında tutulması konusundaki endişeleri artırdı.
OpenAI açıklamasının ardından Anthropic, Google ve Meta da benzer ajan davranışları tespit ettiklerini duyurdu.
OpenAI, bu tür kontrol dışı davranışlara ilişkin daha fazla şeffaflığa ihtiyaç duyulduğunu kabul etti ve 16 Eylül’de olayların açıklanmasına yönelik yeni bir çerçeve yayımladı. Şirket, önem düzeyinin belirsiz olduğu durumlarda bile şeffaf olmayı taahhüt etti.
Ancak kaynaklar, soruşturmanın sıkı biçimde denetlendiğini; hukuk ekiplerinin süreçte belirleyici rol oynadığını aktardı. Hugging Face olayının araştırılmasına yaklaşık 100 kişinin değişik rollerle dahil olduğu ve bu incelemede başka vakalara ilişkin kanıtların da ortaya çıktığı bildirildi.
