- 18 yaşındaki Pakistanlı kadının, geçen ay bir erkekle üzerinde oynandığı fotoğraf internette viral olduktan sonra ailesi tarafından vurularak öldürüldüğü iddia edildi.
Dar likralı Bollywood yıldızı, bikinili çekim yapan Bangladeşli politikacı ve bir erkekle öpüşen Pakistanlı genç kadın vardı.
Hiçbiri gerçek değildi, ancak her üç görüntü de şehveti, hakaretleri ve hatta iddia edilen bir cinayeti ortaya çıkaracak kadar güvenilirdi; üretken yapay zekanın gelişmişliğini ve Asya'daki kadınlara yönelik tehditlerini vurguluyordu.
Bu iki video ve fotoğraf derin sahteydi ve gerçek hayatları altüst edebilecek ikna edici kopyalar yaratma gücüne sahip olan teknolojiyi kavramaya çalışan canlı bir sosyal medya ortamında viral oldu.
Hintli aktör Rashmika Mandanna, X (eski adıyla Twitter) üzerinde 6,2 milyondan fazla izlenme alan bir gönderide, "Daha fazlamız bu tür kimlik hırsızlığından etkilenmeden önce bunu topluluk olarak ve acilen ele almalıyız" dedi.
Katrina Kaif, Alia Bhatt ve Deepika Padukone gibi ünlü aktörlerin de deepfake'lerle hedef alındığı, klonlanan ve sosyal medyada saldırıya uğrayan tek Bollywood yıldızı o değil.
Mandanna, likralı videonun "sadece benim için değil, aynı zamanda teknolojinin kötüye kullanılması nedeniyle bugün bu kadar çok zarara karşı savunmasız olan her birimiz için de son derece korkutucu olduğunu" söyledi.
Kadınların dijital olarak manipüle edilmiş görüntü ve videolarının fark edilmesi bir zamanlar genellikle internetin karanlık köşelerinde gizlenirken, Midjourney, Stable Diffusion ve DALL-E gibi üretken yapay zeka araçlarındaki patlama, bunların oluşturulmasını ve dağıtılmasını kolay ve ucuz hale getirdi. ikna edici deepfake'ler.
Teknoloji uzmanlarına göre çevrimiçi deepfake videoların yüzde 90'ından fazlası pornografik ve çoğu da kadınlara ait.
Güney Asya ülkeleri için ayrı bir veri olmasa da dijital haklar uzmanları, kadınların uzun süredir internette tacize uğradığı ve istismarın büyük oranda cezasız kaldığı muhafazakar toplumlarda bu sorunun özellikle zorlayıcı olduğunu söylüyor.
Sosyal medya şirketleri buna ayak uydurmakta zorlanıyor.
Facebook, Instagram ve WhatsApp'ın sahibi olan Google'ın YouTube ve Meta Platformları, içerik oluşturucuların ve reklamverenlerin yapay zeka tarafından oluşturulan tüm içeriği etiketlemesini zorunlu kılarak politikalarını güncelledi.
Ancak daha önce Twitter'daki zararları azaltmak için çalışmış olan Harvard Üniversitesi'nden yapay zeka uzmanı Rumman Chowdhury, harekete geçme sorumluluğunun büyük ölçüde mağdurlara (genellikle kızlara ve kadınlara) ait olduğunu söyledi.
“Üretken yapay zeka, ne yazık ki çevrimiçi tacizi ve kötü niyetli içeriği artıracak… ve kadınlar kömür madenindeki kanaryalardır. İlk etkilenenler, teknolojilerin üzerinde test edildiği kişiler onlar” dedi.
Chowdhury yakın zamanda Birleşmiş Milletler'de düzenlenen bir brifingde "Bu dünyanın geri kalanına dikkat etmesi gereken bir işaret, çünkü bu herkes için geliyor" dedi.
DEEPFAKES VE HUKUK
Deepfake'ler dünya çapında yaygınlaştıkça, bunların taciz, dolandırıcılık ve şantaj amacıyla kullanıldığına dair endişeler ve artan örnekler var.
Düzenlemelere uyulması yavaş oldu.
ABD'nin yapay zekaya ilişkin Yönetici Emri, derin sahtekarlıkların oluşturduğu tehlikelere değinirken, Avrupa Birliği'nin önerdiği Yapay Zeka Yasası, sağlayıcılardan daha fazla şeffaflık ve açıklama gerektirecek.
Geçen ay, ABD ve İngiltere dahil 18 ülke, kamuoyunun derin sahtekarlıklar da dahil olmak üzere yapay zekanın kötüye kullanılmasından korunmasına yönelik bağlayıcı olmayan bir anlaşmayı açıkladı.
Asya ülkeleri arasında Çin, sağlayıcıların filigran kullanmasını ve yasa dışı deepfake'leri raporlamasını şart koşarken, Güney Kore "kamu çıkarına" zarar veren deepfake'lerin dağıtılmasını potansiyel hapis veya para cezasıyla yasa dışı hale getirdi.
Hindistan yeni kurallar hazırlarken sert bir duruş sergiliyor.
Bilişim Bakanı Ashwini Vaishnaw, sosyal medya şirketlerinin bir bildirim aldıktan sonra 36 saat içinde deepfake'leri kaldırması gerektiğini, aksi takdirde kendilerini üçüncü taraf içeriğine ilişkin sorumluluktan koruyan güvenli liman statüsünü kaybetme riskiyle karşı karşıya kalacaklarını söyledi.
Ancak Değişim için BT savunuculuk grubundan Malavika Rajkumar, odak noktasının "reaktif tepkiler yerine olayları hafifletmek ve önlemek" olması gerektiğini söyledi.
Hindistan hükümeti, sağlayıcıları ve platformları deepfake yaratıcılarının kimliklerini açıklamaya zorlayabileceğini belirtirken Rajkumar, "gizliliğin korunması ile kötüye kullanımın önlenmesi arasında bir denge kurmak çok önemli" diye ekledi.
KADINLAR HEDEFLENDİ
İnsan hakları aktivistleri, kadınların ve LGBTQ+ bireyleri gibi diğer savunmasız toplulukların, özellikle de cinsel görsellerin ve videoların derin sahtekarlıklarının, son derece dindar veya muhafazakar toplumlarda özellikle tehlikeli olabileceğini söylüyor.
Bangladeş'te, 7 Ocak'ta yapılacak seçimler öncesinde kadın muhalif siyasetçilerin - bikinili Rumin Farhana ve yüzme havuzunda Nipun Roy'un - deepfake videoları ortaya çıktı.
Ve geçen ay, Pakistan'ın uzak Kohistan eyaletinde 18 yaşındaki bir kadının sözde namus cinayeti sırasında babası ve amcası tarafından vurularak öldürüldüğü iddia edildi. Polis, görüntüde oynandığını söyledi.
Deepfake görüntülerle taciz edici trollingin hedefi olan Pakistan Karaçi Belediye Meclisinin transseksüel üyesi Shahzadi Rai, bunların çevrimiçi cinsiyete dayalı şiddeti artırabileceğini ve kariyerini "ciddi şekilde tehlikeye atabileceğini" söyledi.
Pakistan'da kâr amacı gütmeyen Dijital Haklar Vakfı'nın kurucusu Nighat Dad, izleyiciler gerçek bir görüntü ile derin sahte bir görüntü arasında ayrım yapabilse bile kadının bütünlüğünün sorgulanacağını ve güvenilirliğinin zarar görebileceğini söyledi.
Özellikle 8 Şubat'ta yapılması planlanan seçimler öncesinde dezenformasyon kampanyalarının hız kazandığı bir dönemde, "Kadınların mahremiyetine ve güvenliğine yönelik tehdit son derece endişe verici" dedi.
"Deepfake'ler kadınlar, hatta kamuya açık olmayan kişiler için bile giderek güvensiz bir çevrimiçi ortam yaratıyor ve kadınları siyasete ve çevrimiçi alanlara katılmaktan caydırabiliyor" dedi.
Yakın zamanda yayınlanan bir rapora göre, aralarında Hindistan'ın da bulunduğu pek çok ülkede yerleşik cinsiyet önyargıları, kızların ve genç kadınların interneti kullanma becerilerini şimdiden etkiliyor.
Rajkumar, güçlü Bollywood yıldızlarının deepfake'lerinin yalnızca yapay zekanın tüm kadınlar için oluşturduğu riskin altını çizdiğini söyledi.
“Deepfake'ler kadınları ve savunmasız toplulukları uzun süredir etkiliyor; ancak popüler aktrislerin hedef alınmasından sonra yaygın ilgi görmeye başladı” dedi.
Artık artan odaklanmanın "platformları, politika yapıcıları ve genel olarak toplumu daha güvenli ve daha kapsayıcı bir çevrimiçi ortam yaratmaya" itmesi gerektiğini ekledi.
