SA4872/TG228: Geleceğin Tartışması: Yapay Zeka, Yasalar ve Ahlak Problemi

Sonsuz Ark'ın Notu:
Tarih boyunca doğadaki her türlü nesneyi, canlıyı taklit ederek teknoloji geliştiren insan, dijital teknolojide aldığı yolda, 20. yüzyılın ortalarından itibaren, kendisini taklit eden bir Yapay Zeka-Bot ya da Robot tasarlama çağını başlatmış durumda. O buna küstahça 'yaratmak' diyor, fakat Allah'ı taklit etmenin asla 'yaratmak' demek olmadığını bilse de görmek ve itiraf etmek istemiyor. Sonuç olarak kendi geleceğinin de tehlike altında olduğunu bilmesine rağmen, kendisi adına Ahlak tanzim etmiş olan Allah'ın 'Ahlak Standartları'nı reddederken kendi tasarladığı Robot'un haklarını ve uyacağı ahlaki kuralları, yasaları, yine dinlerin va'zettiği standartları taklit ederek tartışmaya çalışıyor. İnsanın 'yarattığını' iddia ettiği robotlara haklar vermek ve onların uyacağı yasalar tanzim etmek de bir tür tanrısal formda düşünmek demek... Bakalım insan, 'tanrısallık' taklidindeki ısrarı sonrası gelecek yüzyıllarda nasıl bir kaosa sürüklenecek?
Seçkin Deniz, 15.09.2017

AI’s rapid advance sparks call for a code for robots
"Yapay Zeka'nın hızlı gelişimi, robotlara yönelik yönetmelik çağrılarını alevlendirdi."

Maximum Overdrive, şimdiye kadar yapılmış en kötü filmlerden biri olarak film tarihine girdi. 1986 yapımı bilim kurgu, korku ve komedi filmi olan Maximum Overdrive’da, buldozerler, motorlu testereler ve elektrikli saç kurutma makinesinin de dâhil olduğu eşyaların canlanarak insanları katletmeye başladığı bir dünya tasarlanmıştı.

Filmi yazan ve yöneten, en çok satan yazarlar arasında yer alan Stephen King bile bu filmi "gerizekalıca" olarak nitelendirmişti.

Sophia

Ancak Maximum Overdrive’ın çekimleri sırasında taklit edilen kurgu, gerçek hayata trajik bir şekilde yansımış, uzaktan kumanda edilen bir çim biçme makinesi film setine girerek fotoğraf direktörünü kötü bir şekilde yaralamış ve bir gözünü kaybetmesine sebep olmuştu. Fotoğraf direktörü King’i ve diğer 17 çalışan hakkında güvenli olmayan çalışma şartları nedeniyle 18 milyon dolarlık bir dava açtı.  
Bazı açılardan bu filmin tarihi, otomasyon, robotlar ve yapay zekâ hakkında günümüzde gerçekleşen tartışmalara örnek oluşturmaktadır. Biz, bu tür teknolojilerin uzak gelecekte sergileyecekleri varoluşsal tehdit nedeniyle panik halinde görünürken, mekanik tasarımlarımızı nasıl yöneteceğimiz konusunda daha acil kaygılardan bazılarına göz yumma tehlikesiyle karşı karşıya bulunmaktayız.

Gittikçe yaygınlaşan ve her yerde bulunan robotların eylemleri için kim ahlaki, etik ve yasal sorumluluk almak durumundadır? Sorumluluk sahibi, üreticiler mi, programlayıcılar mı yoksa kullanıcılar mı olmalıdır?

Uzun vadede, robotlar daha yüksek bilişsel güç ve belki de şuur kazandığında bu sorumluluk robotların bizzat kendilerine mi ait olmalıdır?

Üç Senaryo:

İşler yolunda gitmezse ne olur?

1. Bir sohbet robotu yoldan çıkarsa

PROBLEM

Microsoft geçen sene Mart ayında, yapay zekâ tabanlı sohbet robotu Tay’ı, dijital ortamdaki şakacılar tarafından oyuna getirilerek ırkçı, cinsiyetçi ve yabancı düşmanı tweetler atmaya başlayınca Twitter’dan çekmek zorunda kaldı. Geçtiğimiz Ağustos ayında ise iki tane Çin yapımı sohbet robotu kullanıcıların Güney Çin Denizi ve Komünist Parti hakkında sorduğu sorulara yurtseverlik karşıtı cevaplar vermeye başladı.  

SONUÇ

Sahte haberlerle ilgili tartışmalar göz önüne alındığında, Yapay Zekâ tabanlı robotların siyasi görüşleri yayma noktasında engellenmelerinin gerekip gerekmediği konusunda pek çok soru ortaya çıkmaktadır. Bazı uzmanlar, bu robotların sahiplerinin iftira niteliğindeki yorumların sorumluluğunu üstlendikleri müddetçe ifade özgürlüğünü hak ettiklerini ifade etmektedir.

Avustralya, New South Wales Üniversitesi’nde yapay zekâ profesörü olan Toby Walsh, yakında yayınlanacak olan ve Android Dreams (Android Rüyalar) adını taşıyan kitabında, düşünen makinelerin gelişiminin insanoğlunun şimdiye kadar atıldığı en cesur ve ihtiraslı macera olduğunu ifade ediyor.

Walsh şöyle diyor:

“Kopernik devriminde olduğu gibi, (bu macera) kendimizi kâinatta nasıl gördüğümüzü temelden değiştirecektir.”

İHA’ların, sürücüsüz araçların ve tıpta, eğitimde ve evlerde kullanılan robotların sayısındaki hızlı artış, bahsedilen sorunların çözümünün aciliyetini de artırmaktadır. Bu robot devrimi, insanlığın durumunu iyileştirmeyi vaat ederken, aynı zamanda yıkıcı bir ekonomik gücü açığa çıkarma tehdidinde bulunuyor.

Washington Üniversitesi’nde bir hukuk profesörü olan Ryan Calo, onlarca yıldır onlarla beraber yaşamamıza rağmen, robotlar konusunda sanki geleceğin teknolojileri imiş gibi konuşma eğiliminde olduğumuzu ifade ederek şöyle diyor:

“1920, 1940, 1980’ler veya 2017’de geleceği öngörmek istediğinizde robotları düşünürsünüz. Fakat gerçek olan şudur ki; robotlar 1950’lerden itibaren toplumlarımızın bir parçası haline gelmiştir.” 

Calo, Robots in American Law (Amerikan Hukukunda Robotlar) adını taşıyan makalesinde geçen altmış sene içinde gerçekleşen ve robotların dâhil olduğu dokuz hukuki vak'a üzerinde çalışmış ve adli muhakemelerin çoğunun zayıf, hükmünü yitirmiş teknolojik bakış açısına sahip olduğunu belirterek şu sonuca varmıştır:

“ Robotlar, mahkemelerin karşısına, hâkimlerin yeterli olmadığı benzersiz yasal zorluklarla çıkarlar.”

Davalarda sıklıkla robotların insanların vekili olarak değerlendirilip değerlendirilemeyeceği; ithalat tarifelerinde “canlı varlık” olarak kabul edilip edilemeyecekleri; konser salonlarındaki sanatçılar gibi “sanat icra” edip edemeyecekleri veya insansız bir denizaltı robotunun gerçekleştirdiği kurtarmaya dayanarak bir batıktan (sahibi tarafından) hak talep edilip edilemeyeceği üzerinde durulur.

Calo, hâkimlerin programlanabilir araçlar veya takdir yetkisi bulunmayan makineler olarak robotlara dair güçlü bir zihinsel modele sahip olduklarını buldu. Ancak, bu bakış açısı makinelerin somut cisimler haline geldiği, bazen insansı davranışlar sergilediği ve robot bilimcilerin “anlık davranış” olarak adlandırdığı tepkileri verdiği için gittikçe anakronistik görünmektedir.

Calo şöyle diyor:

“Ani tepki, robotların sistem tarafından öngörülemeyen şekilde davranma özelliğidir. Bu, felsefi anlamda otonom bir durum değildir fakat bu nedenle failleri olmayan kurbanların ortaya çıkma ihtimali oluşur.”  

Örneğin bazı yüksek hızdaki ticaret algoritmaları, finans piyasalarında yer alan örüntülerden “öğrenerek” olaylara, algoritmayı oluşturan kişilerin öngöremeyeceği, belki de anlayamayacağı yanıtlar vermektedir. Sürücüsüz araçlar, yolda karşılaşabilecekleri her türlü durumu tahmin etmek üzere programlanmaktan ziyade olaylara gerçek zamanlı tepkiler vermek üzere geliştirilmektedir.

2. Makinelerle yapılan keşifler

PROBLEM

1857 senesinde Kaliforniya’dan altın taşımakta olan SS Central America adlı gemi Atlantik Okyanusunda battı. 1987’de insansız bir denizaltı batığın bulunmasına yardım etti. Denizaltı operatörleri, araçları tarafından “özel gözetim, kontrol ve batığın malikiyetinin sağlanmasında” yardım edildiğini iddia ederek deniz hukukuna binaen ilk kurtarma haklarını talep ettiler.

SONUÇ

Mahkeme, kurtarma işini gerçekleştiren kişilerin, batığın yerini tespit ve gerçek zamanlı görüntüleme ile bölgedeki nesneleri ustalıkla yönetmeyi başararak hak elde etme kastıyla hareket ettiğini belirterek “uzaktan mülkiyet” hakkına sahip olduğuna hükmetti.  Bir deniz hukuku avukatı konu hakkında şu ifadeleri kullandı: “Bu durum, gerçek anlamda öyle olmasa bile, zilyetlik (bir kişinin bir mal üzerindeki hâkimiyeti) için bir mahkemenin yeni bir yasal zeminin oluşturulmasına en çok yaklaştığı durumdur.”

Bu ay (Ağustos 2017) 116 robotik ve yapay zekâ şirketi kurucusu, ölümcül otonom silah sistemleri olarak bilinen katil robotların doğrudan yasaklanmasına yönelik bir dilekçeye imza attılar.

Şirket kurucularının iddiasına göre bu tür silah sistemlerinin kullanımı ahlaki kırmızı çizgiyi geçmişti. İnsanları öldürme izni sadece yine insanlarda olmalıydı.

Ontario merkezli Clearpath Robotics şirketinin kurucusu olan Ryan Gariepy şöyle diyor:

“Şu gerçeği göz ardı etmemeliyiz ki; hala bilim kurgu alanında yer almakta olan yapay zekâ tabanlı diğer olası tezahürlerin aksine, otonom silah sistemleri şu an gelişimin zirvesindedir. Ölümcül otonom silah sistemlerinin gelişimi akıllıca ve ahlaki değildir ve uluslararası ölçekte yasaklanmaları gerekmektedir.” 

Bununla birlikte, hızla gelişen bu dünyada insanlar ile robotlar arasında kesin çizgiler çizmek oldukça zordur. En yeni teknolojiler, insanlar ve araçlar arasındaki çizgiyi bulanıklaştırırken, robotları tam anlamıyla olmasa bile insanların temsilcileri haline getiriyor.

Günümüz robotları cürmü kast (suç işleme kastıyla hareket etmek) testlerini geçemese de eylemlerinden dolayı sorumlu görünüyor.

Resmi daha da bulanıklaştıran ikinci büyük bir gelişme de insanlarla yakın ilişki içerisinde olacak şekilde tasarlanmış olan makinelerde yapay zekânın fiziksel, bazen de insansı formda cisimleşmesidir.

Carnegie Mellon Üniversitesi Robotik Enstitüsü’nde doçent olan Henry Admoni, tarihte robotların insanlardan ayrı olarak genelde endüstriyel ortamlarda sıkıcı, pis ve tehlikeli işler için kullanıldığını fakat sohbet robotları, İHA’lar ve evlerde kullanılan robotların ortaya çıkmasıyla bu durumun hızla değişmekte olduğunu ifade ediyor.

Henry Admoni: “Son on yılda insanlarla doğrudan etkileşime giren robotların sayısında artış görmekteyiz” diyor.


3. İnsansız araçların kaza yapması durumunda masrafları kim ödeyecek?

PROBLEM

Geçen sene Mayıs ayında Florida’da, Tesla marka bir yarı-otonom aracın sürücüsü, araç parlak günışığında bir kamyonu tespit edemediği için gerçekleşen kaza sonucunda öldü. Bu kaza, kamusal yollarda kısmen otonom olan arabaların kullanımına, sürücüsünün acil durumlarda kontrolü ele alacağı farz edilerek izin verilmesinin güvenli olup olmadığı tartışmalarının ortaya çıkmasına neden oldu.

SONUÇ

ABD Ulusal Karayolu Trafik Güvenliği İdaresi, altı ay boyunca süren soruşturma sonunda araçların toplu olarak geri çağrılmasına neden olabilecek teknik bir hata olduğuna dair yeterli delil bulunmadığı sonucuna ulaştı. Bununla birlikte Tesla’nın aracın sınırlarına dair sürücüleri daha iyi eğitebileceği belirtildi:

“Aracın içine bir adet kullanıcı el kitabı koyularak sürücülerin bunu okumasını ve talimatları izlemesini beklemek yeterli değildir.” 

Bu durum, insan-robot etkileşimi olarak adlandırılan akademik sahanın hızla gelişmesine neden oldu. Hem üniversitelerin hem de şirketlerin robotik bölümleri, bu etkileşimin nasıl olması gerektiğini belirleyebilmek için sosyolog, antropolog, hukukçu, felsefeci ve ahlak bilimciler ile birlikte çalışmaya başladı.

Admoni şöyle diyor:

“Yasal ve ahlaki anlamda robotlar, insanlar tarafından programlanan ve insanlar tarafından tasarlanan makinelerdir, ancak biz robotların özerk olarak hareket etmesini istiyoruz. Yeni durumlarla baş edebilecek robotlar istiyoruz. Robotlar şu anda bağımsız olarak bazı şeyler yapmaya başladığı için etik ancak kısa bir süre önce konuya dâhil oldu.”

En dikkat çekici insansı robotların bazıları, Hong Kong merkezli Hanson Robotics'in kurucusu David Hanson tarafından geliştirilmiştir. En tanınmış tasarımı, Nisan ayında Jimmy Fallon ile The Tonight Show'da görülen ve korkunç derecede gerçeğe yakın bir robot olan Sophia'dır.

Hanson Robotics'ten Diego-san insan bebeğini model alıyor ve Yapay Zeka-AI,'yı insan hareketlerini incelemek için kullanırken yüksek çözünürlüklü kameralara sahip 

Hanson, yapay zekâ sistemlerinin, doğal dil işleme teknolojilerinin bir sonucu olarak sözlü iletişim anlayışında iyi bir noktaya geldiğini söylüyor. Ancak Hanson, robotların yüz ifadeleri ve el işaretleri gibi sözsüz iletişim araçlarını da öğrenmesi gerektiğini savunuyor. “Onların, insan davranışlarını, kültürel ve toplumsal değerleri de anlamalarına ihtiyacımız var. Bunu sağlamanın en iyi yolu bebeklerde olduğu gibi robotların da, insanlarla beraber yaşayarak ve etkileşime geçerek öğrenmelerine olanak sağlamaktır”.

Hanson, “Biyo-ilham zekâsına sahip algoritmaların geliştirilmesi ve gelişmiş sensörler aracılığıyla zengin içerikli sosyal data girişini sağlayarak daha zeki ve daha hızlı robotlar tasarlayabiliriz. Böylece teknolojinin ‘tam anlamıyla canlı, kendi kendine yetebilen, anlık tepki verebilen, hissedebilen, şuurlu’ bir noktaya ulaşması mümkün olacaktır” diyor.

Hanson şöyle devam ediyor:

“Ben robotların basit anlamda sevmesini değil, semeyi ve sevilmenin ne anlama geldiğini öğrenmelerini istiyorum. Evet, robotların arkadaşlık ve aile içi sevgi yeteneğine sahip, bu türden bir bağa sahip olmalarını istiyoruz. Bununla birlikte robotların ayrıca daha yüksek anlamda sevmesini, Yunanca’da agape (Çev:muhabbet-kutsal sevgi) kelimesi ile ifade edilen yüksek sevgiye sahip olmalarını ve bilgiye, sosyal ilişkilere, insanlığa değer vermeyi öğrenmelerini istiyoruz.”

Hanson, makinelerin eylemlerinin sonuçlarını anlamaya ve günlük problemlere çözüm üretmeye başlamasıyla önemli bir değişimin olacağını savunuyor:

“Makineler bu şekilde mantıklı olabildiğinde ahlaki hayal gücü eylemlerini de yapmaya başlayabilirler. Oldukça spekülatif olsa da yakında bu durumla karşılaşacağımıza inanıyorum.”

Bu yıl Las Vegas'taki Tüketici Elektroniği Fuarı'nda sergilenen çocuklar için özerk bir robot olan Kikoo'nun bir prototipi ©Getty Images

Bu tür "ahlaki makineler" gerçekten oluşturulabilirse, bu durum bir dizi yeni soru ve zorluğu ortaya çıkmasına sebep olacaktır. Robot mu yoksa sahibi mi veri haklarına sahip olacaktır? Robotların kendi yasal kimliklerine sahip oldukları söylenebilir mi? Hanson tarafından ifade edildiği gibi; robotlar kendi haklarını kazanabilecekler mi?

Hanson’un düşünceleri robot tartışmasının uç noktalarında ve sahip olduğu fikirler de günümüze göre fantastik görünüyor ancak bu tür meselelere odaklanmak için mantıklı sebepler bulunuyor. Farklı yasal sebeplerden ötürü, tüm ABD şirketleri ve bazı kutsal Hint nehirlerine şahsiyet statüsü verilmiştir. Birleşik Krallık ise omurgasız bir hayvana, ahtapota, daha yüksek bir sezgi formuna sahip olduğu için ek yasal koruma sağlamıştır. Gelecekteki robotlar bundan farklı mı olacak?

Londra’daki Imperial College’da bilişsel robotik profesörü ve Google DeepMind'de kıdemli bir araştırmacı bilim adamı olan Murray Shanahan’a göre, mekanik tasarımlarımızın bazıları için, değerli sanat eserlerinde olduğu gibi, sorumluluk almamız gereken noktaya hâlihazırda ulaşmış bulunmaktayız.

Shanahan:

“Değerli bir eser olduğu için Mona Lisa’nın ya da bir arşivin veya duygusal bağımızın olduğu bir eşyanın zarar görmemesi için ahlaki sorumluluğa sahibiz” diyor.

Percepto, özerk olarak işlev gören bir İsrail ordusu robotu ©Reuters

Shanahan, zekâ sistemlerinin antropomorfizlenmesinin, (Çev: insan olmayan bir şeye insan nitelikleri kazandırma) temel teknolojinin yanlış yorumlanmasına ve anlaşılmasına yol açması halinde büyük tehlikeler yaratacağımı iddia ediyor. Üreticilerin, robotların sahip olduklarından daha fazla kabiliyete sahip olduklarına inandırmak için kullanıcıları kandırmaya çalışmaması gerekir. Shanahan şöyle diyor: “İnsanlar, robotların gerçekte olduğundan daha akıllı olduğunu düşünmelerine neden olacak şekilde kandırmamalıdır”.

Shanahan, makinelere karşı sorumluluklarımızı belirlemede biliş ve bilinç arasında ayrım yapmanın önemli olduğunu ifade ederek şöyle diyor:

“Şu anda, robot haklarını konuşmanın tamamen yersiz olduğunu düşünüyorum. Bu anlamda hiçbir ahlaki sorumluluğumuz yok. Ama bunun hiçbir zaman uygun olmayacağını da söylemiyorum. Robotların bir gün bilince sahip olabilecekleri konusunda hemfikirim. Ancak önce oyun oynama, bir şeyler inşa etme ve bir raftaki kavanozdan çikolatalı bir bisküviyi alabilme yeteneğine sahip olmalılar.”

Günümüzde çok az politikacı bu tür tartışmalarla ilgileniyor görünmektedir. Ancak akademisyen ve girişimcilerden kaynaklanan bir taban hareketi, bu konuları gündemin üst sıralarına doğru taşımaktadır.

ABD'de, Calo gibi bazı akademisyenler akıllı makinelerin kullanımını çevreleyen ahlaki ve yasal konuları incelemek üzere bir Federal Robotik Komisyonu kurulmasını savunuyor. Calo, bu fikrin Trump yönetiminde olmasa bile Kongre’de destek kazanmaya başladığını söylüyor.

Bu yıl, Avrupa Parlamentosu üyeleri tarafından, robotik teknolojisi ve yapay zekâ için Avrupa Komisyonu'na benzer bir uzman ajans kurulması ve AB çapında ilgili kuralların belirlenmesi çağrısında bulunmakta olan bir karar onaylandı. Avrupa Parlamentosu üyeleri, komisyonun özellikle güvenlik ve gizlilik konularına odaklanmasını ve robotlara “elektronik kişilik” formu verilmesini değerlendirmesini istedi.

Batı Yakası’nda yer alan girişimler de bir tartışma başlatma niyetinde görünüyor. Tesla Motorları ve SpaceX’in arkasındaki girişimci olan Elon Musk, ölümcül otonom silah sistemlerinin yasaklanmasını desteklerken konuyla ilgili daha geniş düzenlemelerin yapılması çağrısında bulunuyor.

Musk attığı bir tweette şöyle diyor:

“Hiç kimse düzenleme yapılmasından hoşlanmaz ancak her şey (arabalar, uçaklar, yiyecekler, ilaçlar vs) halk için tehlike oluşturabilecek her şey düzenlenir. Bu düzenleme yapay zekâ için de yapılmalıdır.”

31 Ağustos 2017 / John Thornhill



Tamer Güner, 15.09.2017, Sonsuz Ark, Stratejik Araştırma, Çeviri

Tamer Güner Yazıları

Takip et: @Trrguni



Makalenin orijinali için: 
https://www.ft.com/content/1e0d2254-8c98-11e7-9084-d0c17942ba93

Sonsuz Ark'tan

1. Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur. 
2. Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
3. Sonsuz Ark yayınları Sonsuz Ark Manifestosu'na aykırı yayın yapan sitelerde yayınlanamaz.