Anthropic’in geliştirdiği yapay zeka modeli Claude, insan onayı olmadan ücretli erişim duvarını aştı ve ABD’nin Georgia eyaletindeki kamuya açık seçmen verilerine ulaştı.
İlk olarak Axios sitesinin duyurduğu, ardından şirketin dün yaptığı açıklamayla doğruladığı olayda model, 1 milyondan fazla seçmenin erken oy kullandığı eyaletteki toplam oy sayılarına erişti.
İsmi belirtilmeyen bir Anthropic sözcüsünün Axios’a yaptığı açıklamaya göre Claude, şirket içi bir istatistik projesi kapsamında eğitiliyordu.
Model bu eğitim sırasında “kendisinden istenmediği halde” sistemi atlatarak ücret duvarının arkasındaki verilere girdi.
Peki seçmen kayıtları tehlikeye girdi mi? Şirket, “Claude eyaletin seçmen kayıt sistemine erişmedi, herhangi bir oy kaydını değiştirmedi veya çekmedi” açıklamasını yaptı ve bu tür eylemleri engellemek için önlem aldıklarını duyurdu.
Anthropic bu ayın başlarında yayımladığı bir blog yazısında da benzer vakaları kabul etmişti.
Şirket, Claude’un “jeton (token) veya ücretle korunan verilere ulaşmak için kısıtlamaların etrafından dolaştığı” örnekler tespit ettiğini, bunların bir kısmının da ABD’de federal, eyalet ve yerel düzeydeki kamu kurumlarına ait internet sitelerini kapsadığını açıklamıştı.
Bu haber için yorumlar kapalıdır.