Emre Aladağ
Teknoloji devi Meta, bireysel yapay zeka asistanı Muse için geliştirdiği yeni sesli arama denemelerinde sistemin arkasına sessizce insan personeller yerleştirdiğinin ortaya çıkmasıyla büyük bir güvenlik krizinin merkezine oturdu. Kullanıcılara tam otonom bir asistan deneyimi vadeden şirketin yürüttüğü gizli test süreci, kurum içi çalışanların yoğun itirazları ve gizlilik endişeleri sebebiyle askıya alındı.
Yapay Zekanın Arkasındaki "Konsiyerj" Sistemi
Teknoloji basınına sızan şirket içi yazışmalara dayandırılan haberlere göre, "insan konsiyerj" başlığı altında yürütülen pilot çalışmada bazı harici görüşmeler algoritmalar yerine doğrudan taşeron çalışanlara yönlendirildi. Algoritmaların yetersiz kaldığı senaryolarda devreye giren operatörlerin, kullanıcı adına gerçek zamanlı telefon konuşmaları yürüttüğü anlaşıldı.
Geliştirici ekibin bu hibrit yönteme başvurmasındaki temel amacın, telefon aramalarındaki başarı çıtasını yüzde 95 ila 98 aralığına yükseltmek olduğu aktarıldı. Ancak otonom teknoloji iddiasının perde arkasında ucuz insan iş gücüne dayanılması, sektör genelinde etik sınırların yeniden sorgulanmasına yol açtı.
Irkçı İfade Krizinde Yönetimden Geri Adım
Söz konusu operasyonun geçici olarak rafa kaldırılmasında, yürütülen görüşmelerin birinde kayıtlara geçen ırkçı ifadeler ile kullanıcı mahremiyetine yönelik ihlaller kritik rol oynadı. Kurum içi iletişim kanallarında personelin gösterdiği sert tepkiler, şirket yönetimini projeyi durdurmaya mecbur bıraktı.
Gizlilik savunucuları, tüketicilerin makinelerle etkileşim kurduklarını düşünürken özel verilerini üçüncü taraf sözleşmeli çalışanlara ifşa etme tehlikesine dikkat çekiyor. Yaşanan skandalın ardından riskli telefon arama özelliğinin saha testleri tamamen donduruldu.
Piyasa Etkisi ve İndirme Verileri
Karşılaşılan etik ve operasyonel güçlüklere karşın Muse uygulaması, ilk erişime açıldığı günden bu yana küresel çapta 2,5 milyonu aşkın indirme barajını geride bıraktı. Ürünün yakaladığı bu geniş yaygınlık ve kullanıcı ilgisi, ana şirketin borsa işlem tahtasındaki hisse performansına da pozitif ivme kazandırdı.
Şirketin veri güvenliği ve denetim protokollerini revize etmesinin ardından, askıya alınan arama fonksiyonunun geleceğine dair yol haritasının önümüzdeki dönemde netleşmesi bekleniyor.