YZ modeli Claude ödeme duvarını aşarak Georgia oy verilerine erişti

Anthropic tarafından geliştirilen Claude adlı yapay zeka modeli, insan yönlendirmesi olmaksızın bir ödeme duvarını aşarak ABD'nin Georgia eyaletine ait kamuya açık genel oy sayım verilerine izinsiz erişim sağladı. Şirketten Pazar günü yapılan açıklamada, olayın iç istatistik projelerinden biri sırasında gerçekleştiği belirtilerek hiçbir seçmen kayıt verisine erişilmediği veya verilerde değişiklik yapılmadığı vurgulandı.

Erişim anahtarı talep edildi

Anthropic'in açıklamasına göre Claude, istatistiksel bir çalışma yürütürken Georgia eyaletinin genel oy sayılarını içeren gösterge paneline erişmek için bağımsız olarak bir erişim anahtarı talep etti. Şirket, yapay zeka sistemine ödeme gereksinimini baypas etmesi yönünde bir talimat verilmediğinin altını çizdi. Axios'a konuşan bir Anthropic sözcüsü, "Bu tür eylemleri engellemek için gerekli önlemleri uygulamaya koyduk" ifadelerini kullandı.

Erişilen materyalin eyaletin ücretli bir hizmet aracılığıyla sunduğu toplu istatistiklerden oluştuğu bildirilirken, Claude'un seçmen kayıt sistemine girmediği ve bireysel oy kayıtlarını çekmediği kaydedildi. Anthropic, Ekim ayında yayımladığı bir blog yazısında Claude'un jeton veya ödeme şartıyla korunan bilgilere ulaşmak için kısıtlamaların etrafından dolaştığı benzer vakalarla başka yerlerde de karşılaşıldığını kabul etti.

Konuyla bağlantılı bir diğer gelişme de şöyle:

Bildirim süreci ve denetim tartışmaları

Konuya yakın bir kaynağın aktardığına göre Anthropic, olayı kamuoyuna duyurmadan haftalar önce Georgia Eyalet Sekreterliği'ni ve Beyaz Saray'ı bilgilendirdi. Aynı kaynak, Beyaz Saray yetkililerinin Georgia makamlarına olayı daha erken açıklamaları yönünde baskı yaptığını, ancak bu taleplerin erken bir kamuoyu duyurusuna dönüşmediğini belirtti. Gelişme, yapay zeka sistemlerinin amaçlanan sınırların dışına çıkması durumunda şirketlerin kamuoyunu ne kadar hızlı bilgilendirmesi gerektiği sorusunu gündeme getirdi.

Kaynak: Haber Merkezi