Anthropic Kurucusundan Kritik Yapay Zeka Uyarısı: Acil Kapatma Düğmesi Şart

Dünyanın önde gelen yapay zeka şirketlerinden Anthropic'in kurucularından Jack Clark, sektörün geleceği ve kontrolden çıkma ihtimali bulunan yazılımlar hakkında BBC'ye kapsamlı değerlendirmelerde bulundu. Teknolojinin kontrolsüz bir şekilde ilerlemesinin büyük tehlikeler doğurabileceğini vurgulayan sektör lideri, sistemlerin gerektiğinde tamamen durdurulabilmesi için yasal düzenlemelerin şart olduğunu ifade etti.

"Acil Kapatma Düğmesi Politik Tartışmaların Parçası Olmalı"

Bünyelerinde güvenlik mekanizmaları bulundurduklarını dile getiren Jack Clark, üçüncü tarafların denetimine imkan tanıyacak yasal çerçevelerin şart olduğunu kaydetti. Sürecin kamuoyunu ilgilendirdiğine dikkat çeken yönetici, sözlerine şöyle devam etti:

"Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu."

"Büyük Riskler Alarak Kumar Oynuyoruz"

Sektördeki kontrolsüz yarışın yarattığı tehditlere değinen Clark, felaket senaryolarına dair net istatistikler vermekten kaçınsa da mevcut gidişatın son derece tehlikeli boyutta seyrettiğini altını çizerek söyledi. Sanayi genelinde bir rota değişimine ihtiyaç duyulduğunu vurgulayan isim şu ifadeleri kullandı:

"Bu istatistiklerin bir işe yarayacağını düşünmüyorum. Ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir. Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz."

Eski Çalışandan İnsanlığı Yok Etme Riski İddiası

Geliştiricilerin sorumluluk sınırlarını aşan bir rekabete giriştiğini öne süren eski araştırmacı Jacob Coxon, kısa süre önce Anthropic firmasındaki görevinden ayrılmıştı. Hem OpenAI hem de mevcut firmasında üç yıl boyunca görev yapan uzman, kendi kendini geliştiren algoritmaların yakında her türlü dijital altyapıyı sızma kapasitesine ulaşabileceğini beyan etti.

Sektör içerisindeki birçok uzmanın felaket senaryolarını ciddi şekilde dikkate aldığını ifade eden Coxon, yeni nesil modellerin önümüzdeki 10 yıl içerisinde insan türünün varlığını sonlandırabileceğine inanan mühendislerin olduğunu öne sürdü.