Brezilya'da 37 yapay zeka kadın profili seçim içeriğiyle yetişkin içeriğe yönlendirdi

Brezilya'nın kuzeydoğusundaki Salvador şehrinde, büyük kalabalıkların arasında bir politikacı seçim otobüsünün üzerinde dans ederken yanında genç bir kadın beliriyor. Bu video viral oluyor ve Instagram hesabı yarım milyon takipçi kazanıyor. Ancak kadın gerçek değil ve böyle bir olay hiç yaşanmadı. Yapay zeka tarafından yaratılan kadın mitingde çekilen gerçek görüntülere eklendi.Bu münferit bir olay değil. BBC, Instagram ve TikTok'ta, Brezilya'da bu Pazar günü yapılacak çekişmeli seçimler öncesinde başkan adayları için kampanya yürütüyor gibi görünen, yapay zeka tarafından oluşturulmuş cinselleştirilmiş kadın görselleri yayınlayan onlarca profil tespit etti. Viral videoda seçim otobüsünde dans ederken görülen siyasetçi, cumhurbaşkanlığı seçimlerinin ikinci turunda solcu mevcut devlet başkanı Luiz Inacio Lula da Silva ile yarışan sağcı aday Flavio Bolsonaro'ydu. BBC tarafından tespit edilen profiller arasında, yapay zeka tarafından oluşturulan influencerların büyük çoğunluğu Bolsonaro'yu desteklerken, Başkan Lula'yı destekleyen kadın profilleri de bulunuyor. Örneğin, yaklaşık 24 bin 400 takipçisi olan bir TikTok profilinde, yapay zeka tarafından oluşturulmuş üç kadın, Lula'nın İşçi Partisi sembollerini taşıyan kırmızı tişörtlerle protestolarda gösteriliyor.Videolarda sıklıkla gerçek kişilerin görüntüleri kullanılıyor ve bunların yerine yapay zeka tarafından oluşturulan avatarlar yerleştiriliyor. Örneğin, seçim otobüsünde dans eden avatar, aslında Bolsonaro'nun siyasi müttefikinin görüntülerinden yola çıkılarak oluşturulmuş ve vücut hareketleri politikacınınkini kare kare yansıtıyor.BBC, bu hesapların her iki adayın resmi kampanyalarıyla bağlantılı olduğuna dair hiçbir kanıt bulamadı. Aksine, bu hesapların izleyici çekmek ve içerikten para kazanmak isteyen bireyler tarafından oluşturulduğuna dair işaretler vardı.Yapay zeka tarafından oluşturulan avatarlar aracılığıyla güncel siyasi konulara yönelik etkileşimi artırmak ve izleyicileri ücretli yetişkin içeriklerine yönlendirmek, Brezilya'nın çok ötesine uzanan küresel bir trend. Bu tür uygulamalar ABD ve Almanya'da da belgelendi.

BBC'nin Brezilya'da tespit ettiği 37 profilin, etkileşimi artırmak ve takipçi çekmek için seçimle ilgili içerik kullandığı görülüyor. Bu hesaplardan bazıları daha sonra izleyicilerini yetişkinlere yönelik bir site olan OnlyFans'e veya abonelerine pornografik içerik sattıkları Telegram'a yönlendiriyor.Profillerin toplamda yaklaşık 7 milyon takipçisi bulunuyor. Paylaşımlarla 504 bin 105 etkileşim gerçekleşti; bunların yaklaşık 500 bini beğeni, 18 bin 600'ü ise yorumdu.Görünüşe göre siyasi bağlılıktan ziyade etkileşim öncelik kazanıyor; bazı profillerde başkanlık yarışındaki her iki adayı da destekleyen farklı paylaşımlar yer alıyor.Instagram'da yaklaşık 175 bin takipçisi olan bir profilde, kısa saçlı bir kadın aynanın karşısında yan durmuş, üzerinde Başkan Lula'nın yüzü basılı kırmızı bir tişört giyiyor. Başka bir paylaşımda ise Bolsonaro'nun yüzü basılı dar yeşil bir elbise giymiş halde görünüyor.'Yapay zeka tarafından oluşturulmuş' etiketiBBC'nin tespit ettiği hesapların büyük çoğunluğu, içeriğin yapay zeka tarafından oluşturulduğunu doğru şekilde etiketlemiyor ve bu durum hem TikTok hem de Instagram kurallarını ihlal ediyor.Instagram'ın sahibi Meta, "Çıplaklık ve cinsel aktiviteye karşı kurallarımız var ve ihlal eden içerikleri tespit ettiğimizde kaldırıyoruz. Meta, bu tür içeriklerin platformlarında yayılma risklerini azaltmak için teknolojiye yatırım da dahil olmak üzere kapsamlı çabalar sarf etmektedir" diye açıklama yaptı.TikTok, BBC'nin dikkat çektiği içeriğin Topluluk Kuralları'nı ihlal ettiği gerekçesiyle kaldırıldığını açıkladı. Şirket, yanlış bilgilendirme ve "seçmenleri yanıltabilecek veya somut zarara yol açabilecek" içeriklere, ayrıca "seçim sürecine müdahale edebilecek" veya "sonuçların bütünlüğünü tehlikeye atabilecek" içeriklere müsamaha göstermediğini belirtti.BBC, profilleri oluşturan kişileri tespit edemedi ancak bazı profillerin aynı kişi veya grup tarafından oluşturulmuş olabileceğine dair kanıtlar buldu. Profiller birbirini takip ediyor ve kullanıcıları yetişkinlere yönelik içerik sunan aynı Telegram kanallarına yönlendiriyor. Benzer bir olayda, Hindistan'da tıp öğrencisi olan bir kişi WIRED dergisine, ABD'de Trump yanlısı gibi görünen yapay zeka tarafından oluşturulmuş bir influencer yarattığını ve bu içerikten ayda birkaç bin dolar kazandığını söyledi.Bağımsız gazetecilik kuruluşu CORRECTIV.Faktencheck'in yaptığı bir araştırmaya göre, Almanya'da AfD'yi veya sağcı görüşleri desteklemek için yapay zeka tarafından oluşturulan influencerları kullanan 190 sosyal medya profili üzerinden 22 yapay zeka influencerı, insanları ücretli erotik platformlara yönlendirdi.

Kadın imajının istismarıBu profillerin yorumlarında erkekler, bunların gerçekten var olduğuna inanıyor gibi görünüyor; bazıları onları "muhteşem" ve "güzel" olarak nitelendiriyor.Brezilya'nın Recife kentindeki Hukuk ve Teknoloji Araştırma Enstitüsü'nde Cinsiyet ve Teknoloji Başkanı ve Koordinatörü olan Raquel Saraiva'ya göre, bu yapay zeka kadınlarını yaratan kullanıcılar, heteroseksüel erkekleri cezbetmek ve böylece yetişkin içerik için ödeme yapma olasılıklarını artırmak amacıyla belirli güzellik standartlara bağlı kalıyorlar. Saraiva'ya göre bu iş modeli, kadınların internet imajının sömürülmesine ve kadın düşmanlığına dayanıyor. Influencerlar gerçekte var olmasa da, bunların yaratılmasının sosyal medyanın ötesinde, toplumda daha geniş anlamda tutumları yeniden ürettiğini belirtiyor."Bunların hiçbiri toplumdaki kadın düşmanlığından ayrı değil. Hepsi büyük bir zincirin parçası" diyor ve sosyal medya platformlarının bu hesaplar üzerinde daha fazla denetim uygulaması gerektiğini savunuyor.Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. .