Apple App Store ve Google Play Store’da, kullanıcıların fotoğraflarını yapay zeka ile soyarak deepfake görüntüler üreten 400’den fazla uygulama ve web sitesi tespit edildi. Android Authority’nin aktardığına göre bu uygulamalar mağazalarda dil öğretimi, evcil hayvan fotoğrafı düzenleme ya da antrenman koçluğu gibi zararsız kategorilerde listeleniyor, ancak kurulum sonrası gizli bir deepfake arayüzü devreye giriyor.
Masum isimler altında gizlenen tehlike
Söz konusu uygulamalar, incelemeyi geçmek amacıyla bilinçli olarak alakasız işlevler sunan kabuk uygulamalar şeklinde tasarlanmış. Kullanıcı uygulamayı indirip belirli bir komut veya ayar değiştirdiğinde, asıl işlev olan yapay zeka destekli soyma (nudify) aracı ortaya çıkıyor. Bu yöntem, mağaza denetim mekanizmalarını atlatmak için kullanılan bilinen bir taktik olarak dikkat çekiyor.
İzler Hong Kong merkezli bir şirkete uzanıyor
Yapılan takip çalışmaları, uygulamaların büyük bölümünün Çinli geliştiriciler tarafından geliştirildiğini ve bazılarının Hong Kong merkezli KeLing Technology Limited adlı şirkete kadar izlenebildiğini ortaya koydu. Yıl başında yapılan ayrı bir incelemede ise App Store ve Play Store’da bulunan 38 benzer uygulamanın tek başına 483 milyon indirme ve 122 milyon dolar gelir ürettiği belirlenmişti. Bu rakamlar, sorunun küçük bir niş olmaktan çıkıp ciddi bir ticari faaliyete dönüştüğünü gösteriyor. Wired’ın aktardığına göre tespit edilen uygulamaların dışında da benzer yapıda birkaç yüz uygulamanın daha mevcut olabileceği değerlendiriliyor; ancak bu rakam henüz doğrulanmış bir iddia değil.
Bunlar da İlginizi Çekebilir
Kullanıcılar için risk nedir?
Bu tür uygulamalar, kullanıcıların kendi fotoğraflarını veya başkalarının görsellerini yükleyerek rıza dışı müstehcen içerik üretmesine imkân tanıyor; bu da hem mahremiyet hem de dijital taciz açısından ciddi sonuçlar doğurabiliyor. Apple ve Google’ın mağaza politikaları bu tür içerikleri açıkça yasaklasa da, kabuk uygulama taktiği denetimleri etkisiz hale getirebiliyor. Türkiye’de de milyonlarca kullanıcı her iki mağazayı aktif olarak kullandığından, benzer uygulamaların ülkemizdeki kullanıcılara da erişebilmesi mümkün görünüyor; Türkiye’ye özel bir açıklama şu ana kadar yapılmadı. Bu gelişme, mobil mağazaların denetim süreçlerinin yapay zeka tabanlı kötüye kullanım karşısında ne kadar savunmasız kalabildiğini bir kez daha gözler önüne seriyor ve kullanıcıların şüpheli uygulama izinlerine karşı daha dikkatli olması gerektiğini hatırlatıyor.
Kaynak: Android Authority
YORUMLAR
(0)