Sonsuz Ark/ Evrensel Çerçeveye Yolculuk
The Age of AI Child Abuse Is Here
"Belki de ilk kez sorunun büyüklüğü ortaya çıkıyor."
Muah.AI, insanların metin veya ses yoluyla konuşacak ve istek üzerine kendi görüntülerini gönderecek yapay zekalı kız arkadaş-sohbet robotları yapabilecekleri bir web sitesidir. Teknolojisini “sansürsüz” olarak tanımlayan hizmete yaklaşık 2 milyon kullanıcı kaydoldu. Ve siteden alındığı iddia edilen verilere bakılırsa, insanlar bu araçları çocuk cinsel istismarı materyali ya da CSAM üretme girişimlerinde kullanıyor olabilirler.
The Atlantic illüstrasyonu. Kaynak: Getty.
Geçen hafta 404 Media'dan Joseph Cox, anonim bir bilgisayar korsanının dikkatini çekmesinin ardından veri seti hakkında ilk haberi yapan kişi oldu. Cox'un bulduğu şey son derece rahatsız ediciydi: Cox, “yeni doğmuş bebekler” ve “küçük çocuklar” içeren seks partileri ile ilgili bir dil kullanan bir soruyu inceledi. Bu, bir kullanıcının Muah.AI'dan bu tür senaryolara yanıt vermesini istediğini gösteriyor, ancak programın bunu yapıp yapmadığı belli değil.
ChatGPT de dahil olmak üzere büyük YZ platformları, bu tür istemlere yanıt olarak içerik oluşturulmasını engellemeyi amaçlayan filtreler ve diğer denetim araçları kullanmaktadır, ancak daha az öne çıkan hizmetler daha az vicdanlı olma eğilimindedir.
İnsanlar gerçek bireylerin cinsel istismar içeren görüntülerini oluşturmak için yapay zeka yazılımlarını kullandılar. Bu yılın başlarında, Taylor Swift'in pornografik deepfake'leri X ve Facebook'ta dolaşıma girdi. Ve çocuk güvenliği savunucuları, ülke çapındaki okullarda ortaya çıkan bir sorun olan, gerçek çocukların cinsel açıdan istismar edici görüntülerini oluşturmak için üretken yapay zekanın yaygın olarak kullanıldığı konusunda defalarca uyarıda bulundu.
Muah.AI saldırısı, bu sorunun şimdiye kadarki en açık ve en kamuya açık örneklerinden biri: Belki de ilk kez, sorunun boyutu çok net bir şekilde ortaya konuyor.
Tanınmış bir güvenlik danışmanı ve veri ihlali izleme sitesi HaveIBeenPwned.com'un kurucusu olan Troy Hunt ile X'te hack hakkında paylaştığı bir başlığı gördükten sonra konuştum. Hunt'a Muah.AI verileri de anonim bir kaynak tarafından gönderilmişti: Bu verileri incelerken, programdan çocuk cinsel istismarı içerikli materyal isteyen çok sayıda kullanıcı örneği buldu.
Verilerde 13 yaşındaki bir çocuk için arama yaptığında, “birçoğu cinsel eylemleri tanımlayan istemlerle birlikte” 30.000'den fazla sonuç aldı. Ergenlik öncesi denediğinde ise 26,000 sonuç elde etti. Hunt, veri setinde CSAM oluşturmak için yüz binlerce olmasa da on binlerce ipucu olduğunu tahmin ediyor.
Hunt, bazı Muah.AI kullanıcılarının kimliklerini gizlemeye bile çalışmadıklarını görünce şaşırdı. Bir vakada, ihlaldeki bir e-posta adresini “çok normal” bir şirketteki C-suite yöneticisine ait bir LinkedIn profiliyle eşleştirdi. Hunt bana “E-posta adresine baktım ve kelimenin tam anlamıyla gmail.com'daki adı nokta soyadı gibiydi” dedi. “İnsanların kimliklerini gizlemeye çalıştıkları pek çok vaka var ve eğer doğru ipleri çekebilirseniz, kim olduklarını anlayabilirsiniz. Ama bu adam denememiş bile.”
Hunt CSAM'in geleneksel olarak internetin uç köşeleriyle ilişkilendirildiğini söyledi: “Bunun ana akım bir web sitesinde yer alması beni muhtemelen biraz daha fazla şaşırttı.”
Geçtiğimiz Cuma günü Muah.AI'ya ulaşarak hacklenme olayını sordum. Şirketin Discord sunucusunu yöneten ve Harvard Han adını kullanan bir kişi bana web sitesinin bir hacker tarafından ihlal edildiğini doğruladı. Ona Hunt'ın CSAM oluşturmak için yüz binlerce komutun veri setinde olabileceği tahminini sordum. “Bu imkansız,” dedi bana. “Bu nasıl mümkün olabilir? Bir düşünün. 2 milyon kullanıcımız var. Yüzde 5'inin pedofil olmasına imkan yok.” (Yine de nispeten az sayıda kullanıcının çok sayıda yönlendirmeden sorumlu olması mümkün).
Hunt'ın elindeki verilerin gerçek olup olmadığını sorduğumda ise ilk olarak “Belki mümkündür. İnkâr etmiyorum” dedi. Ancak aynı görüşmenin ilerleyen bölümlerinde emin olmadığını söyledi. Han seyahatte olduğunu ama ekibinin bu konuyu araştıracağını söyledi.
Han'ın tekrar tekrar vurguladığı üzere, sitenin personeli küçük ve kullanıcıların ne yaptığını izlemek için sınırlı kaynakları var. Bana söylediğine göre sitede beşten az kişi çalışıyor. Ancak site mütevazı bir kullanıcı tabanı oluşturmuş gibi görünüyor: Bir trafik analiz şirketi olan Similarweb'in bana sağladığı veriler, Muah.AI'nin geçtiğimiz yıl boyunca ayda ortalama 1,2 milyon ziyaret aldığını gösteriyor.
Han bana geçen yıl ekibinin, istemlerinde gençler ve çocuklar gibi belirli kelimeleri kullanan hesapları otomatik olarak engelleyen bir filtreleme sistemi kurduğunu söyledi. Ancak bana kullanıcıların haksız yere engellendiklerinden şikayet ettiklerini söyledi. Bunun ardından sitenin filtreyi hesapları otomatik olarak engellemeyi durduracak, ancak yine de bu anahtar kelimelere dayalı görüntülerin oluşturulmasını önleyecek şekilde ayarladığını söyledi.
Ancak Han aynı zamanda ekibinin, şirketinin kullanıcıları için çocuk cinsel istismarı görüntüleri üretip üretmediğini kontrol etmediğini söyledi. Bu yöndeki taleplerin çoğunun “muhtemelen reddedildiğini, reddedildiğini, reddedildiğini” varsaydığını söyledi. Ancak Han, bilgili kullanıcıların filtreleri aşmanın yollarını bulabileceklerini de kabul etti.
Ayrıca, kullanıcıların neden ilk etapta çocukları tasvir eden görüntüler oluşturmaya çalışıyor olabileceğine dair bir tür gerekçe sundu: Aile üyelerinin ölümlerinin yasını tutan bazı Muah.AI kullanıcıları, kaybettikleri sevdiklerinin yapay zeka versiyonlarını oluşturmak için hizmete geliyor.
Siber güvenlik danışmanı Hunt'ın 13 yaşında ifadesinin cinsel içerikli eylemlerle birlikte kullanıldığını gördüğünü belirttiğimde Han şu yanıtı verdi: “Sorun şu ki her soruyu inceleyecek kaynaklara sahip değiliz.” (Cox'un Muah.AI hakkındaki makalesinden sonra şirket Discord'da yaptığı bir paylaşımda insanları yasaklamak için yeni otomatik yöntemler denemeyi planladığını söyledi).
Özetle, Muah.AI'yı yöneten insanlar bile hizmetlerinin ne yaptığını bilmiyor. Bir noktada Han, Hunt'ın veri setinde ne olduğu hakkında kendisinden daha fazla şey bilebileceğini öne sürdü. Bunun gibi sitelerin, neden olabilecekleri zararı bu kadar az dikkate alarak faaliyet gösterebilmeleri, kötüye kullanım için bu kadar potansiyel varken var olup olmamaları gerektiği sorusunu gündeme getiriyor.
Bu arada Han, çevrimiçi çağda sansürle ilgili bildik bir argümanı alıp mantıksal olarak en uç noktasına kadar esnetti. “Ben Amerikalıyım,” dedi bana. “İfade özgürlüğüne inanıyorum. Amerika'nın farklı olduğuna inanıyorum. Ve biz, yapay zekanın sansürle eğitilmemesi gerektiğine inanıyoruz.”
Devam etti: “Amerika'da bir silah satın alabiliyoruz. Ve bu silah hayatı, ailenizi, sevdiğiniz insanları korumak için kullanılabilir ya da toplu katliam için kullanılabilir.”
Federal yasalar, gerçek çocukların yer aldığı bilgisayarda oluşturulmuş çocuk pornografisi görüntülerini yasaklamaktadır. Yüksek Mahkeme 2002 yılında, bilgisayarda üretilen çocuk pornografisinin tamamen yasaklanmasının Birinci Değişikliği ihlal ettiğine karar vermiştir.
Mevcut yasaların üretken YZ'ye tam olarak nasıl uygulanacağı aktif bir tartışma alanıdır. Han'a CSAM ile ilgili federal yasaları sorduğumda, Han Muah.AI'nin yalnızca yapay zeka işlemlerini sağladığını söyledi ve hizmetini Google ile karşılaştırdı. Ayrıca, emin olmasa da şirketinin kelime filtresinin bazı görüntüleri engelliyor olabileceğini yineledi.
Muah.AI'ya ne olursa olsun, bu sorunlar kesinlikle devam edecektir. Hunt bana ihlalden önce şirketin adını bile duymadığını söyledi. "Ve eminim ki dışarıda düzinelerce ve düzinelerce daha var."
Muah.AI'nin içeriği bir veri saldırısı sonucu ters yüz oldu. Yapay zeka tarafından üretilen ucuz çocuk istismarı çağı çoktan geldi. Bir zamanlar internetin en karanlık köşelerinde saklı olan şey artık oldukça kolay erişilebilir ve aynı derecede endişe verici bir şekilde ortadan kaldırılması çok zor görünüyor.
Caroline Mimbs Nyce, 18 Ekim 2024, The Atlantic
(Caroline Mimbs Nyce, The Atlantic'te kadrolu yazardır.)
Eyüp Kaan, 04.11.2024, Sonsuz Ark, Çevirmen Yazar, Sonsuz Ark Çevirileri
- Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur.
- Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
- Sonsuz Ark yayınları Sonsuz Ark manifestosuna aykırı yayın yapan sitelerde yayınlanamaz.
- Sonsuz Ark Yayınlarının Kullanımına İlişkin Önemli Duyuru için lütfen tıklayınız.