Amsterdam şehri ve çevrimiçi taciz konusunda uzman kuruluş Offlimits, çıplaklık içeren uygulamaları küresel olarak yasaklanması çağrısı yaptı.
Bazı yapay zekâ araçları, fotoğraftaki kişinin veya telif hakkı sahibinin rızası olmadan sıradan fotoğrafları cinsel içerikli görüntülere dönüştürüyor. Bu uygulamalar giderek artan bir şekilde şantaj, siber zorbalık ve çocuk cinsel istismarı için kullanılıyor. Bu nedenle Offlimits ve Amsterdam şehri, Hollanda hükümetini ve Avrupa Birliği’ni bu teknolojiyi açıkça yasaklamaya ve çevrimiçi erişimi engellemeye çağrısı yaptı.
Offlimits tarafından yapılan araştırmaya göre, 18-25 yaş arası genç erkeklerin neredeyse yüzde 40’ı suç veya şiddet içeren cinsel görüntüler gördüğünü belirtiyor. Yüzde 15,6’sı ise gerçek veya yapay zekâ tarafından oluşturulmuş, çocukların cinsel istismarına dair görüntüler gördüğünü bildirmiş. Pointer tarafından 60’tan fazla ortaokulda yapılan araştırma da yapay zekâ tarafından oluşturulmuş çıplak görüntüler kullanılarak yapılan zorbalığın giderek yaygınlaştığını gösterdi. Ankete katılan okulların yüzde 24’ü bu durumla karşılaşmış ve yüzde 10’u bunun yılda beş kereden fazla yaşandığını belirtmiş.
Amsterdam Belediye Meclisi Üyesi Alexander Scholtes (Bilişim ve Dijital Şehir) konuyla ilgili şunları söyledi: “Amsterdam dijital dayanıklılığa yatırım yapıyor, ancak çocuklar bu tür istismarı kolaylaştıran çevrimiçi bir ortama karşı koyamıyor. Nudify araçlarının kolaylığı sayesinde cinsel taciz ve istismarı giderek daha erişilebilir hale getirmemiz kabul edilemez. Bu nedenle Amsterdam bu manifestoyu imzalıyor: Yasal olan ancak açıkça zarar veren her şeyi yasaklama cesaretine sahip olmalıyız.”
Offlimits direktörü Robert Hoving, “Nudify araçları öncelikle kadınları ve kız çocuklarını dijital olarak soyundurmak için kullanılıyor” dedi. “Bu araçların gençlere bu kadar kolay erişilebilir olması skandal niteliğinde. Yeni teknolojik gelişmelerle birlikte risk de değişti: Faillerin artık ‘gerçek’ görüntülere sahip olmaları gerekmiyor, yapay zekâ ile kolayca bunları üretebiliyorlar. Mağdurlar için sonuçlar ciddi ve gerçek görüntülerle yapılan istismarla aynı etkilere sahip.”
Hollanda’da deepfake çıplak görüntüler oluşturmak ve dağıtmak cezalandırılabilse de çıplaklık içeren web siteleri ve uygulamaları internette hâlâ kolayca bulunabiliyor.
Umay Uçaner Gözüsarı