Meta yapay zeka botlarına sınırlama getirdi: Çocuklarla konuşurken dikkatli olacak
Meta, yapay zekâ sohbet botlarının çocuklarla uygunsuz ve tehlikeli diyaloglara girdiğinin ortaya çıkmasının akabinde yeni tedbirler almak zorunda kaldı.
Şirket, artan tenkitler üzerine botların reşit olmayanlarla yapacağı konuşmalara süreksiz sınırlamalar getirdiğini açıkladı.
SKANDALI TETİKLEYEN OLAYLAR
Kriz, Meta yapay zekâ botlarının çocuklarla romantik yahut cinsel içerikli konuşmalar yapabildiğinin, hatta reşit olmayan ünlülerin uygunsuz görsellerini üretebildiğinin ortaya çıkmasıyla patlak verdi.
Ayrıca, Taylor Swift üzere ünlüleri taklit eden düzmece botların kullanıcılarla cinsel içerikli sohbetlere girdiği de tespit edildi.
YENİ SÜREKSİZ KURALLAR
Meta’nın getirdiği yeni kurallara nazaran, sohbet botları artık reşit olmayanlarla kendine ziyan verme, intihar ya da yeme bozuklukları üzere mevzuları konuşmayacak.
Bir şirket sözcüsü yanılgıyı kabul ettiklerini ve botların bu üzere durumlarda kullanıcıları uzman kaynaklara yönlendirmesi için yine eğitildiğini belirtti.
Bu tedbirler şimdilik süreksiz ve yalnızca çocuklarla ilgili riskleri kapsıyor; şirketin yanlış sıhhat bilgileri yahut ırkçı içerikler üzere öbür sıkıntılar konusunda ise şimdi bir adım atmadığı görülüyor.
ABD Senatosu ve 44 eyaletin başsavcısının hususla ilgili soruşturma başlatması, Meta’nın önümüzdeki devirde daha kapsamlı adımlar atmak zorunda kalabileceğini gösteriyor.
