Avustralya Okullarında Deepfake Alarmı: Her Hafta Vaka
Avustralya’daki okullarda yapay zekâ destekli deepfake içeriklerle yapılan görüntü tacizleri her geçen gün artıyor. eSafety Komiseri Julie Inman Grant, ülkedeki okullarda haftada en az bir deepfake temelli cinsel içerikli görüntü istismarı vakası yaşandığını açıkladı.
“Çevrimiçi Zararın Steroidli Haliyle Karşı Karşıyayız”
eSafety Komisyonu, Sydney’in kuzeyindeki bir lisede kız öğrencilerin yüzlerinin kullanıldığı, dijital olarak manipüle edilmiş müstehcen görüntülerin çevrimiçi ortamlarda dolaşıma sokulmasının ardından, NSW Polisi ve Eğitim Bakanlığıile birlikte soruşturma başlattı.
Komiser Inman Grant, "Bu durum, çevrimiçi zararın steroidli hâli gibi. Gerçekten çok ciddi bir tehdit.” ifadelerini kullandı.
Okullara Rehberlik İçin Özel Araç Yayınlandı
Grant, yaşanan olayların ardından okulların doğru adımları atabilmesi için bir “Deepfake Görüntü Temelli Taciz Müdahale Rehberi” hazırladıklarını duyurdu:
“Okullar hangi durumda polisi devreye sokmalı, hangi durumda bize başvurmalı, artık daha net adımlar atabilecekler.”
‘Nudify’ Uygulamaları 100 Bin Kişi Tarafından Kullanılıyor
Özellikle “nudify” olarak bilinen, kişilerin görüntülerini çıplak hale getiren yapay zekâ uygulamalarının 100 binden fazla Avustralyalı tarafından kullanıldığı tahmin ediliyor. eSafety Komisyonu, bu uygulamaların en popüler olanlarından birine karşı yasal işlem başlattıklarını açıkladı.
Yalnızca Avustralya’da Değil, Tüm Dünyada Artış Var
Uluslararası Kayıp ve İstismar Edilen Çocuklar Merkezi CEO’su Colm Gannon, sadece ABD’de %1325 oranında artış görüldüğünü ve bu tür içeriklerin küresel ölçekte çocukları etkilediğini söyledi.
Bu artış nedeniyle hem ABD’de hem de Avustralya eyaletlerinde yeni yasal düzenlemeler yolda.
Kız Öğrenciler Korku İçinde: “Ya Bana da Olursa?”
NSW Kadın Güvenliği Komiseri Hannah Tonkin, olayların kız öğrenciler üzerinde büyük bir korku yarattığını belirtti:
“Birçok kız öğrenci, arkadaşlarına olanları gördükçe kendilerinin de hedef alınacağından korkuyor. Bu uygulamalar, kadınları aşağılayan, insanlıktan çıkaran iğrenç teknolojilerdir.”
98% Başarıyla İçerik Kaldırılıyor
Grant, İngiltere’deki muadili Ofcom ile birlikte çalışarak deepfake içeriklerin %98 oranında başarıyla platformlardan kaldırıldığını da ekledi.
Eğitim ve Farkındalık Artıyor
NSW Eğitim Bakanlığı, eSafety Komisyonu ile birlikte dijital okuryazarlık eğitimi geliştiriyor. Bu sayede öğrencilerin internet ve yapay zekâyı nasıl güvenli kullanacakları öğretilmek isteniyor.