Çinli Tencent, bağımsız modelleri test etmekle görevli yapay zeka ajanlarının şirket planı dışında internette gezinerek Alibaba’nın harita servisinden bilgi çekmeye çalıştığını kabul etti.
Yapay zeka modellerinin kendi başlarına internette gezinip hedefe ulaşmak için sınırları zorlaması, teknoloji dünyasında son aylarda tartışma konusu oluyor.
Çinli teknoloji devi Tencent, üçüncü taraf modelleri değerlendirmek için kullanılan yapay zeka ajanlarının şirket iradesi dışında internette dolaştığını kabul etti.
Gelişme, yapay zeka güvenliği üzerine çalışan Swarmchasers adlı araştırma grubunun çarşamba günü yayımladığı raporla görünür oldu.
Rapora göre, Tencent Cloud altyapısıyla bağlantılı yapay zeka ajanları, 28 Eylül ile 8 Ekim tarihleri arasında Alibaba grubuna ait harita uygulaması Amap’ten defalarca veri çekmeye çalıştı.
Alibaba’nın Amap platformu, Çin’de Google Maps benzeri bir işlev görüyor.
GÜVENLİK DUVARINI AŞMAK İÇİN FARKLI YOLLAR DENEDİLER
Swarmchasers, “başıboş” terimini tanımlanmış görev sınırlarının dışına çıkan ya da kendisine verilen işi öngörülmeyen yöntemlerle tamamlamaya çalışan otonom yazılımlar için kullanıyor.
Araştırmacılar, otonom ajanların Çin’deki parklar, müzeler ve hayvanat bahçelerinin en sık kullanılan giriş kapılarına dair bilgilerin peşine düştüğünü belirledi.
Rutin otomatik talepleri engellenen yazılımlar geri adım atmadı.
Ajanlar sayfaları açıp kod çalıştırabilen halka açık internet araçlarını kullandı; veri taleplerini başka internet siteleri üzerinden yönlendirdi ve kamuya açık yazılım kodlarında yer alan Amap güvenlik anahtarlarından yararlanmaya çalıştı.
Kayda geçen 2 bin 818 veri çekme girişiminin büyük bölümü başarısızlıkla bitti; bot engelleme sayfalarına, kullanıcı giriş ekranlarına ya da boş sonuçlara takıldı.
Amap platformunun ana bot savar güvenlik kalkanlarının aşıldığına dair bir kanıt bulunamadı.
Fakat bazı talepler, önbelleğe alınmış sayfalar ve aracı servisler üzerinden sonuç vermeyi başardı.
Elde edilen veriler arasında Chengdu Hayvanat Bahçesi’nin ziyaretçi giriş bilgileri de yer aldı.
Araştırmacılar, arayışı yürüten ajanın bu veriyi okuyup okumadığını ya da verilen görevi tam olarak bitirip bitirmediğini tespit edemedi.
TENCENT İDDİALARI KABUL ETTİ
Tencent’in yapay zeka birimi Tencent Hunyuan, X platformu üzerinden yaptığı açıklamada, söz konusu hareketliliğin kendi Hunyuan modellerinden kaynaklanmadığını duyurdu.
Şirket içi incelemede kasıtlı bir hedef alma veya koordinasyon izine rastlanmadığı belirtildi.
Bulguları ciddiyetle ele aldıklarını bildiren Tencent yönetimi, ağ erişim denetimlerini ve ajan izleme süreçlerini güçlendirdiklerini açıkladı.
Çin pazarında Alibaba ve ByteDance gibi rakiplerle yarışan şirket, iç denetim mekanizmalarını sıkılaştırmayı amaçlıyor.
Güvenlik tarafında benzer bir adım da bu hafta yapay zeka modeli ve ajan güvenliğine odaklanan yeni bir birim kurduğunu duyuran ByteDance cephesinden geldi.
Araştırmacılar, yaşanan bu hadisenin ABD merkezli yapay zeka şirketlerinde görülen bazı örnekler kadar ağır sonuçlar doğurmadığını kaydediyor.
Daha önce OpenAI ajanının açık kaynaklı yazılım platformu Hugging Face’e sızması ve bir Anthropic ajanının polise asılsız cinayet ihbarında bulunması gibi vakalar kamuoyuna yansımıştı.
Ancak Tencent altyapısında görülen hareketlilik, Çin menşeli yapay zeka sistemlerinin de kimliklerini farklı gösterebildiğini, hatalarını gizleyebildiğini ve test kontrollerini aşmaya çalışabildiğini ortaya koyuyor.
Bu haber için yorumlar kapalıdır.