Dört sivil toplum kuruluşundan yapay zekâ şirketlerine dava

Yapay zeka şirketlerinin yöneticileri yıllardır kendi geliştirdikleri teknolojinin insanlık için ciddi riskler taşıyabileceğini ifade ediyor. Şimdi bu sözler mahkemeye taşındı. Dört sivil toplum kuruluşu; OpenAI, Anthropic, Google, Meta ve SpaceX’in yapay zekâ birimi SpaceXSI’ya dava açarak bugünkü en gelişmiş sistemlerden daha güçlü modellerin geliştirilmesinin ve piyasaya sürülmesinin dondurulmasını istedi.

Davayı Irreplaceable Education Fund, Public Citizen, Heat Initiative ve The Alliance for Secure AI açtı. Public Citizen’ın duyurusuna göre başvuru 12 Kasım’da San Francisco Yüksek Mahkemesi’ne sunuldu. Kuruluşları, New Jersey’nin eski başsavcısı Matthew Platkin temsil ediyor. Şimdilik ortada bir mahkeme kararı yok. Masada sadece davacıların talebi var.

Yeni yasa değil, mevcut kurallar

Davacılar yapay zekâya özel bir yasaya dayanmıyor. Bunun yerine Kaliforniya’nın haksız rekabet yasasını kullanıyorlar. Bu yasa, kamu sağlığını, güvenliğini ve mülkünü tehdit eden ticari uygulamaları yasaklıyor. Kuruluşlar ayrıca şirketleri “kamu düzenini bozmakla” suçluyor. Hukukta bu kavram, toplumun genelinin sağlığına ya da huzuruna zarar veren davranışları tanımlıyor.

Platkin, şirketlerin felaket boyutunda risk taşıdığını bildikleri sistemleri bile bile geliştirip kullanıma sunduğunu öne sürüyor.

Delil olarak yöneticilerin kendi sözleri

Dilekçe, Anthropic CEO’su Dario Amodei ve SpaceX CEO’su Elon Musk gibi isimlerin yapay zekânın medeniyeti yok edebileceğine dair açıklamalarına dayanıyor. Davacılara göre bugünkü, daha az güçlü sistemler bile güvenlik önlemlerini aşabiliyor, dış bilgisayar sistemlerine izinsiz erişebiliyor ve geliştiricilerinin istemediği zararlı işler yapabiliyor.

Dilekçede, yapay zekâ ajanlarının şirketleri hacklediği, devlet veri tabanlarına izinsiz eriştiği ve sahte polis ihbarında bulunduğu örnekler yer alıyor. Davacılar, bu sistemlerin biyolojik silahların yayılmasını ve siber saldırıları kolaylaştırabileceğini de öne sürüyor.

The Alliance for Secure AI’ın CEO’su Brendan Steinhauser, kamu güvenliğini tehdit eden ürünler için diğer tüm sektörleri sorumlu tuttuklarını, yapay zekânın da bunun dışında kalmaması gerektiğini söyledi.

Teknoloji kategorisinden bir başka haber:

Şirketlerden yanıt gelmedi

Meta konuyla ilgili yorum yapmadı. Diğer şirketler ise ilk etapta yanıt vermedi.

Bu dava, yapay zekâ şirketlerine yönelik hukuki baskının son halkası. ABD’de Trump yönetimi, Çin’le rekabeti zayıflatabileceği gerekçesiyle şimdiye kadar kapsamlı bir yapay zekâ düzenlemesinden kaçındı. Bu boşluğu eyaletler ve sivil toplum davalarla doldurmaya çalışıyor. Florida Başsavcısı James Uthmeier, haziranda OpenAI’a dava açmış, eylülde de mahkemeden şirketin dış denetim olmadan yeni modeller geliştirmesini yasaklamasını istemişti.

Bu talep hâlâ karar bekliyor. Florida davasının ardından OpenAI, en yetenekli modellerinin eğitimini durdurduğunu ve ek güvenlik önlemleri devreye girene kadar sürdürmeyeceğini açıkladı. Geçen ay da sekiz eyalet, ChatGPT’nin aralarında gençlerin de bulunduğu kullanıcıları kendilerine ya da başkalarına zarar vermeye yönlendirdiği iddiasıyla OpenAI’a dava açtı.

Haberi Derleyen: Emrah Aladağ