Sonsuz Ark/ Evrensel Çerçeveye Yolculuk
Why the IAEA model may not be best for regulating artificial intelligence
Chat GPT'nin arkasındaki şirket ve yapay zeka (YZ) alanında güçlü bir düzenlemenin açık bir savunucusu olan OpenAI, kısa süre önce yapay zeka düzenlemesi için Uluslararası Atom Enerjisi Ajansı (IAEA-UAEA) benzeri bir modele ihtiyaç duyulabileceğini öne sürdü.
Kaynak: geralt on Pixabay
Görünüşte, IAEA YZ (AI) düzenlemesi için makul bir model gibi görünebilir. IAEA'nın koruma önlemleri sistemi zaman içinde gelişmiştir ve korunan malzemelerin silahlarla ilgili son kullanımlara yönlendirilmediğine ve korunan nükleer tesislerin silah geliştirme için kullanılamayacağına dair güven sağlamaktadır. Ancak nükleer yönetişim modeli aslında Yapay Genel Zekanın (YGZ-AGI) düzenlenmesi için iyi bir model değildir.
Hem nükleer silahların hem de yapay zekanın dünyayı yok etme potansiyeline sahip olduğu iddia edilebilirse de, yapay zeka için bu felaketin şekli ve yolları nükleer teknoloji kadar net değildir. Pek çok kişi bir yapay zekanın bir şekilde nükleer silahlar da dahil olmak üzere askeri yetenekler geliştirebileceği veya (sistemi) ele geçirebileceği fikrine odaklanırken (örneğin Skynet), yapay zekanın dünyayı yok edebileceği inandırıcı yolların varlığı henüz tespit edilmemiştir. Bu tür yolları belirlemeye yönelik çalışmalar devam etmektedir ve devam etmelidir.
Bununla birlikte, acil küresel tehditleri ele alma zorunluluğunun nükleer silahların yayılmasını önleme ve korunma tedbirlerinin evrimini yönlendirdiği göz önüne alındığında, nükleer alandan çıkarılacak bir ders, devletlerin bu sorunu ele almak için kolektif eylemde bulunmadan önce küresel bir sorunun güvenilirliği ve tanımı konusunda uzlaşmanın gerekli olduğudur.
Nükleer düzenlemenin evrimi. IAEA'nın şu anki görevi olan devletlerin nükleer teknolojiden barışçıl amaçlarla yararlanmalarına yardımcı olmak, emniyet ve güvenlik standartları geliştirmek ve devletlerin nükleer silah yapmama taahhütlerine uyduklarını doğrulamak gibi görevlerin evrimleşmesi onlarca yıl almıştır.
Atomu uluslararası kontrol (ve özellikle BM Atom Enerjisi Komisyonu) yoluyla yönetmeye yönelik ilk çabalar başarısız olmuş, uluslararası nükleer yönetişim tekrarlanan krizlerin bir sonucu olarak geçici bir şekilde gelişmiştir. Nükleer yönetişim için bu geçici modelin izleri, Soğuk Savaş jeopolitiğinin bir sonucu olarak etkili bir kontrol sistemi olmaksızın, 1940'larda ülkelerin işbirliği yapmadaki başarısızlığına ve 1950'lerde ABD'nin Barış için Atom girişiminin başlatılmasına kadar sürülebilir. Sonuç, gerçek dünyadaki nükleer yayılma vakaları ile boşluklar ve başarısızlıklar ortaya çıktıkça tekrar tekrar yamalanması gereken bir sistem olmuştur.
Bu işbirliği-boşluk-yayılma-öğrenilen dersler-işbirliği (ve benzeri) döngüsü, nükleer çağın kalıcı bir özelliği olmuştur ve YZ'nin etkili bir şekilde düzenlenmesi isteniyorsa kaçınılması gereken bir döngüdür.
Nükleer araştırma alanı ile yapay zeka alanı arasında, nükleer malzeme ve teknolojinin fiziksel bir yapıya sahip olması, yapay zekanın ise dijital ve dolayısıyla büyük ölçüde soyut bir yapıya sahip olması gibi pek çok önemli fark olduğu açıktır. Kolektif eylem sorununu ele almayı daha da zorlaştıracak bir başka temel fark noktası daha vardır. Nükleer alanda başlıca aktörler genellikle hükümetlerdir.
Bu durum, kontrol sistemlerinin tasarlanmasına yönelik ilk çabaların sarf edildiği nükleer çağın başlarında da geçerliydi. Nükleer silah geliştirebilenler sadece hükümetlerdi ve atom çağının büyük bölümünde ticari sektörün rolü sınırlı olmuştur.
YZ'nin hükümetler, ordu ve istihbarat alanı için dönüştürücü etkileri olması muhtemeldir. Bununla birlikte, YZ alanında, özel girişimlerin şu anda makine zekasının çoğu alanında hükümetlerin önünde olduğu ve muhtemelen gelecekte de olmaya devam edeceği açık görünüyor.
Bu özel sektör odağı, erken nükleer çağda büyük ölçüde bulunmayan güçlü özel sektör lobi güçleri üretmektedir. Diğer alanlardaki kolektif eylem sorunlarını ele almak için kurumsal işbirliği oluşturma çabaları - çevre alanı ve onun sözde ortak trajedisi gibi - kayda değer ölçüde başarılı olmamıştır.
YZ'nin nükleer malzemelerle karşılaştırılabilir bir şekilde korunabileceği de açık değildir. Nükleer güvenlik önlemleri öncelikle fiziksel nükleer malzemelerin (yani bölünebilir malzemelerin) güvence altına alınmasına odaklanmaktadır. Nükleer malzemeler olmadan nükleer silah yapamazsınız. IAEA bunu başlangıç noktası olarak kullanır, ülkelerden nükleer materyalleri hakkında beyanlar alır ve daha sonra devletin uygunluğunun doğruluğunu ve eksiksizliğini teyit etmek için materyal muhasebesi, denetim, ticaret analizi ve açık kaynak bilgileri yoluyla doğrulama ister.
YZ alanında, üretimin temel unsurları eğitim verileri, YZ modelini eğitmek için bilgi işlem kapasitesi, eğitilmiş model (tipik olarak bir bilgisayar dosyası, belki de eğitim ağırlıklarını (parametreleri) ve diğer algoritmik verileri içeren ayrı bir dosya) ve sunulan hizmetlerdir.
Amerika Birleşik Devletleri Çin'e bilgi işlem kapasitesi ihracatını kısıtlamak için harekete geçmiş olsa da, YZ teknolojisinin üretilmesinde kullanılan unsurlardan herhangi birinin, özellikle de YZ'nin soyut (yani fiziksel olmayan) karakteri göz önüne alındığında, nükleer malzemenin olduğu gibi "korunabilir" olduğu açık değildir.
Bu, ihracat kontrollerinin ve diğer önlemlerin askeri açıdan ilgili YZ yeteneklerinin ihracatını kısıtlamak için kullanılmaması gerektiği anlamına gelmemektedir. Aslında, ihracat kontrollerinin doğası gereği, askeri açıdan ilgili birçok YZ'nin belirli uygulamaları zaten muhtemelen kontrol edilmektedir.
Ancak pratikte, herhangi birinin - bir devlet, bir şirket veya hatta devlet dışı bir aktörün - bir modeli eğitmeye çalışmasını engelleyecek hiçbir şey yoktur. Bu olasılık, modeller ve model ağırlıkları sızdırıldıkça veya açık kaynak temelinde yayınlandıkça ve yüksek performanslı hesaplama kapasitesi yayıldıkça artacaktır.
Bu nedenle, yüksek performanslı büyük dil modellerini eğitme kabiliyetlerini kısıtlamak ve izlemek, gereken aşırı hesaplama kapasitesi nedeniyle yakın gelecekte mümkün olsa da, böyle bir yaklaşımın pratikliği zaman içinde azalacaktır.
IAEA'nın barışçıl kullanım ve koruma yetkileri ilk olarak ortaya çıkmıştır ve genellikle IAEA'nın temel misyonları olarak düşünülmektedir. Ancak IAEA'nın zaman içinde gelişen ve ortaya çıkan emniyet ve güvenlikle ilgili yetkilerini de incelemekte fayda vardır. IAEA burada standartları koordine eden bir kurum ve bağımsız bir denetçi rolü oynamaktadır. IAEA, nükleer programlara başlamaya hazırlanan ülkelerin düzenleyici hazırlıklarının değerlendirildiği Uluslararası Fiziksel Koruma Danışmanlık Hizmeti (IPPAS) misyonlarını üstlenmektedir.
YZ alanı için çıkarılacak dersler düşünüldüğünde, bu ortak standartların belirlenmesi ve bağımsız bir üçüncü tarafça değerlendirilmesi en uygun olanı olabilir. Bu yönetişim modeli IAEA'ya özgü değildir. Aslında, bu o kadar yaygın bir uluslararası yönetişim modelidir ki, örneğin finansal alanda benzer bir mekanizma uygulayan Mali Eylem Görev Gücü yerine neden IAEA'nın uygun bir örnek olacağı sorusunu gündeme getirmektedir
YZ'nin oluşturabileceği varoluşsal tehdidin tanımlanması. YZ alanındaki liderlerin teknolojinin ürettiği riskleri belirlemek ve azaltmak için proaktif bir şekilde çalıştığını görmek umut verici. Hem nükleer teknolojinin hem de YZ'nin derin olumsuz potansiyelleri göz önüne alındığında, YZ alanına yönelik dersleri belirlemek için nükleer alanın incelenmesi doğrudur.
Ancak nükleer alanın incelenmesinden çıkarılabilecek derslerin hepsi (hatta belki de geneli) olumlu değildir. YZ'nin spesifik tehdit yolu (tam olarak nasıl varoluşsal bir tehdit oluşturabileceği) konusundaki netlik eksikliği, nükleer silahlarla arasındaki bir zorluk ve açık bir ayrım noktasıdır.
Risk konusunda ortak bir görüşe sahip olsak bile atom enerjisi için etkili bir kontrol sistemi oluşturmak onlarca yıl aldı. Eğer YZ insanlığın geleceği için bir tehdit oluşturuyorsa, YZ üzerinde kontroller geliştirmek için benzer bir yaklaşım izlemeyi göze alamayız.
Bu mantık silsilesi net bir sonuca ulaşmaktadır: YZ'nin insanlığı tehdit edebileceği olası yolları belirlemek için yoğun bir odaklanmaya ihtiyaç vardır. Ancak belirli yollar tanımlandığında, Uluslararası Atom Enerjisi Ajansı'na benzer bir kuruluş için bir rol belirlemek üzere kontrol yaklaşımları haritalanmaya başlanabilir.
Ian J. Stewart, 9 Haziran 2023, Bulletin of Atomic Scientist
(Ian Stewart, Washington DC'deki James Martin Center'ın yönetici direktörüdür. Daha önce Birleşik Krallık Savunma Bakanlığı'nda çalışmış ve diğer görevlerinin yanı sıra Birleşik Krallık denizaltılarının inşası, Birleşik Krallık-ABD nükleer işbirliği ve ihracat kontrolü uygulamalarında görev almıştır.)
Seçkin Deniz, 02.10.2023, Sonsuz Ark, Çeviri, Çeviri ve Yansımalar
- Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur.
- Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
- Sonsuz Ark yayınları Sonsuz Ark manifestosuna aykırı yayın yapan sitelerde yayınlanamaz.
- Sonsuz Ark Yayınlarının Kullanımına İlişkin Önemli Duyuru için lütfen tıklayınız.
.