Robotlar İnsanlık İçin Bir Tehdit Mi?

Boston Dynamics, dünyanın önde gelen robot üreticilerinden. Geliştirdikleri robotları incelemek için şirketin web sitesine (https://www.bostondynamics.com/robots) göz atabilirsiniz. Ana sayfada Spot, Handle, Pick ve Atlas adlı robotlar yer alıyor. Spot, çevik bir bir robot. Merdivenleri tırmanıp engebeli arazileri şimdiye kadar görülmemiş bir kolaylıkla katedebiliyor. Bunun yanında bina içinde kullanılabilecek kadar küçükler. Spot’un endüstriyel algılama ve uzaktan çalıştırma ihtiyaçlarını özerk olarak karşılayabileceği iddia ediliyor. Handle, ambarlardaki kutuları hareket ettirebiliyor. Kapladığı alanın küçük olması, yükseklere erişebilmesi ve görme sistemi sayesinde kamyonları boşaltabiliyor, taşıyıcıdan palete yükleme yapabiliyor, kutuları tesis içinde itebiliyor. Pick, derin öğrenmeden yararlanan görü (vision) işleme çözümüyle farklı depo takip kodlarıyla çalışabilen bir robot. Çok çeşitli kutuları hızlı bir şekilde paletlere yüklüyor. Henüz bir araştırma projesi olan Atlas ise robotlardan en çarpıcı olanı. Diğer robotlardan farklı olarak insansı bir görünüme sahip. Atlas, dünyanın en dinamik insansı robotu olmayı hedefliyor. Zıplıyor, takla atıyor, amuda kalkıyor, havada dönüyor. Ama şimdilik sadece bu kadar.

14 Haziran 2019’da yayımlanan ve sosyal medyada hızla yayılan Bosstown Dynamics: New Robot Can Fight Back! başlıklı videodaki robot ise Atlas’a çok benzeyen, ama çok daha insansı bir robot (https://www.youtube.com/watch?v=dKjCWfuvYxQ). Video, bir insanla bir robotun birbirlerine kutu atıp yakalamasıyla başlıyor. Bu sırada robotun arkasından yaklaşan bir başka insan önce tekme atarak robotu yere düşürüyor, sonra arka arkaya sopayla vurarak onun yerden kalkmasını zorlaştırıyor. Robot kalkabildiği anda hiçbir şey olmamış gibi karşısındaki diğer insana kutu atmaya devam ediyor. Daha sonra zorlu koşullara ve insanların şiddet yoluyla çalışmasını engelleme girişimlerine rağmen azimle görevini yapmaya çalışıyor. Ama bu arada yavaş yavaş tepkisini göstermeye başladığını görüyoruz ve en sonunda da isyan ederek insanlara dersini veriyor.

26 Ekimde 2019’daki New Robot Makes Soldiers Obsolete başlıklı videoda ise robotun artık kendini insanlara karşı savunmanın ötesine geçerek hedefinden şaşmayan bir asker olduğu görülüyor (https://www.youtube.com/watch?v=y3RIHnK0_NE). Yine çeşitli engellere ve insanların tacizlerine karşın görevini aksatmıyor. Videonun sonunda ise asker robottan Boston Dynamics’in Spot’una benzeyen bir robota ateş etmesi isteniyor. Asker robot, emre itaat etmiyor ve diğer robotu da alarak kaçıyor.

Videolar, Corridor Digital adlı bir yapım şirketi tarafından yapılmış. Corridor Digital, 2010’dan beri popüler kültürle ilgili kısa videolar çekiyor. Şirketin paylaştığı robot videolarının altında, videoların komedi parodisi olduğu ve hiçbir şekilde Boston Dynamics Robotics Company ile ilişkisinin olmadığı yazıyor. Corridor Digital bununla da yetinmeyerek başka videolarda videoları nasıl çektiğini ve kullandığı teknolojileri ayrıntılı olarak anlatmış. Videolar sonuna kadar izlendiğinde robotların gerçek olmadığı anlaşılabiliyor. Fakat orijinal videoların kesilerek sosyal medyada dolaşıma sokulması inandırıcılıklarını artıran bir etken oldu. İnsanlar, robotların dünyayı ele geçirmesi ve robot hakları gibi konuları tartışmaya başladılar.

Benzer bir video, uçan insanlar ya da Mars’tan gelen ziyaretçiler hakkında yapılsaydı bunlara aldanan insan sayısının bu kadar fazla olacağını sanmıyorum. İnsanların Superman gibi uçmadığını bildiğimizden, Mars’tan da böyle bir beklentimiz olmadığından videolarda kullanılan çekim hilelerine karşı daha uyanık olacak, videoların nasıl çekilmiş olduğunu öğrenmeye çalışacaktık. Fakat sosyal medyadaki yorumlar, Boston Dynamics’e değil de Bosstown Dynamics’e inanmaya meyilli olduğumuzu gösteriyor. Neden?

Mit ve Gerçek

Teknoloji Mitleri (Bilim ve Gelecek, 169. sayı) başlıklı yazıda anlattığım gibi tarih, teknoloji mitleriyle dolu. Her önemli teknolojik değişimden sonra benzer tezler yineleniyor, söz konusu teknolojinin her şeyi değiştireceği, hiçbir şeyin artık eskisi gibi olmayacağı, tarihin sonunun geldiği öne sürülüyor. Yeni teknoloji hakkındaki umutlar ve korkular bir arada gelişiyor. Bugün YZ (yapay zeka) ve robot teknolojilerinde olduğu gibi…

YZ’de son yıllarda büyük başarılar elde edildi. Fakat Corridor Digital’ın robot videolarının gösterdiği gibi YZ haberleri ve iddiaları karşısında eleştirel bir bakış açısına sahip değiliz. Kolay aldanabilirliğimiz YZ’nin günümüzdeki gelişmişlik düzeyini ve sınırlılıklarını yanlış yorumlamamıza neden olabiliyor. Bu da toplumsal hayatı YZ sistemleri ile düzenleme girişimlerinin önünü açıyor. İlk günlerinden beri YZ hakkında büyük iddialar ortaya atılıyor. 1950 ve 1960’larda alanın öncülerinden Marvin Minsky, John McCarthy ve Herb Simon, YZ’nin 20. yy sonuna kadar çözülebileceğini düşünüyordu. 50 yıl sonra, YZ’deki tüm ilerlemelere karşın bu iddia gerçekleşmedi. 2002’de gelecekçi (futurist) Ray Kurzweil, 2029 yılında YZ’nin doğal insan zekasını aşacağını iddia ediyordu. 2018 Kasım’ında önemli YZ araştırma enstitülerinden biri olan OpenAI’nın kurucularından olan Ilya Sutskever, yapay genel zekanın bir olasılık olarak ciddiye alınması gerektiğini öne sürdü. Marcus ve Davis (2019), Rebooting AI: Building Artificial Intelligence We Can Trust (YZ’yi Yeniden Başlatmak: Güvenebileceğimiz Yapay Zekayı İnşa Etmek) adlı kitaplarında Kurzweil ve Sutskever’in bu iddialarının hâlâ teorik olarak mümkün olduğunu kabul etmekle beraber bunun için önümüzde uzun bir yol olduğunu savunuyorlar. Marcus ve Davis’in (2019) YZ’nin insan zekasını aşamayacağı veya yapay genel zekanın imkansız olduğu gibi bir tezi yok. Kitap boyunca temel vurguları şu anki YZ yaklaşımlarının yetersiz olduğu ve bir paradigma değişikliğinin gerektiği.

YZ’de iddialı vaatler çok yaygın ve son yıllardaki başarıların da etkisiyle fazla sorgulanmıyorlar. Marcus ve Davis (2019), tıptan sürücüsüz arabalara kadar gerçekleşemeyen YZ vaatlerini ele alıyor. 2012’de sürücüsüz arabaların yakın bir gelecekte yollara çıkacağı konuşuluyordu. 2016’da Jeopardy! yarışmasını kazanan IBM’in Watson’ı sağlıkta devrim yapacaktı. IBM Watson, bilişsel sistemleri anlayabilecek, mantık yürütebilecek, öğrenebilecek ve etkileşime girebilecekti. Hatta Watson, tıp literatürünü tarayarak doktorlara öneriler getirebilecekti. Artık radyolog yetiştirmenin gereksiz olduğunu iddia edenler de vardı. 2015’te Facebook’un M adlı sohbet robotunun yemek rezervasyonu yapmadan tatil planlamaya kadar çeşitli görevleri yerine getirebileceği varsayılıyordu.

Marcus ve Davis (2019), sürücüsüz arabaların bir gün güvenli ve yaygın olabileceğini, ihtiyaçlarımızı karşılayabilecek sohbet botlarının bir gün sıradanlaşabileceğini ya da süper zeki robot doktorların olabileceğini reddetmiyorlar. Ama tüm bunları bugün için birer fantezi olarak değerlendiriyorlar. Her hava koşulunda ve tüm yollarda gidebilecek sürücüsüz arabaların henüz çok uzağındayız. IBM Watson’ın tıp alanındaki çalışmaları hızını kaybetti. Almanya’da Watson’ı nadir görülen hastalıkların teşhisi için kullanmak üzere geliştirilen proje, hatalı teşhisler sonrasında sistemin performansı yetersiz bulunarak için rafa kaldırdı. Facebook’un M’si de ertelendi.

Tüm bu gerçekleşemeyen vaatlere rağmen şirketler mesihvari söylemlerinden vazgeçmiyorlar. Google’ın eski CEO’su Eric Schmidt’e göre YZ, iklim değişikliği, yoksulluk, savaş ve kansere çözüm olacaktı. 2018’in başında Google’ın CEO’su Sundar Pichai de benzer iddialar ortaya attı. YZ, insanlığın üzerinde çalıştığı en önemli şeylerden biriydi. Hatta elektrikten ve ateşten daha önemliydi. Bir yandan YZ’nın büyük başarılarını ve insanlığa sağlayacağı yararları anlatan haberler çıkıyor diğer yandan geçmiş teknoloji mitlerinde olduğu gibi YZ’nin korkutuculuğu, robotların idareyi ele almasının insanlığın sonunu getirebileceği tartışılıyor.

Medya, YZ’deki gelişmeleri abartmaya ve en ufak bir ilerlemeyi bile bir paradigma değişikliği olarak yansıtmaya meyilli. Örneğin Newsweek ve CNN Money’de yayımlanan aşağıdaki haberler, başlıktaki iddiaların çok daha gerisinde bir içeriğe sahip:

  • Robotlar şimdi insanlardan daha iyi okuyabiliyor, milyonlarca işi tehlikeye atıyorlar. Newsweek, 15 Ocak 2018
  • Robotlar okumada insanlardan daha iyi oluyor. CNN Money 16 Ocak 2018.

Robotların, insanlardan daha iyi okuyabilmesi büyük bir iddia. Ancak habere konu olan gelişmeye baktığımızda Microsoft ve Ali Baba’nın geliştirdiği bir programın SQuAD (Stanford Question Answering Dataset) adlı testteki performansını %82,136’dan %82,65’e çıkardığını görüyoruz. Şirketlerden biri yaptığı basın açıklamasında bunu “bir belgeyi okuyup bir insan kadar sorulara iyi yanıt verebilen yapay zeka” olarak duyurmuş. Ama nasıl sorulara? Bilgisayarlara araştırma amaçlı tasarlanmış kısa metinler gösterilmekte ve bununla ilgili sorular sorulmakta. Testin can alıcı noktası, yanıtın metnin içinde olması. Örtük ifadelerin anlaşılması testin kapsamında yer almıyor.

Marcus ve Davis (2019) aşağıdaki kısa metni örnek veriyor:

İki çocuk, Chloe ve Alexander yürüyüşe çıktılar. İkisi de bir köpek ve ağaç gördü. Alexander bir kedi de gördü ve onu Chloe’ya gösterdi. O (ing. ‘she’) kediyi beslemeye gitti.

Marcus ve Davis’in (2019) yazdığı gibi kimin yürüyüşe çıktığı sorusunun yanıtı açık seçik metinde yer almaktadır. Küçük çocuklar bile yanıtı doğrudan metinde yer almayan “Chloe kediyi gördü mü?”, “Çocuklar, kediden korktular mı?” gibi sorulara da kolayca yanıt verebilirler. Fakat SQuAD bu tip örtük sorular içermiyor.

Marcus ve Davis’in (2019) bir başka örneği Facebook’un küçük hikayeleri okuyan ve onun hakkındaki soruları yanıtlayabilen bir yazılımı hakkında çıkan haberler üzerine. Slate, (https://slate.com/) Facebook’un botları daha az aptal yapmanın sırrını bulduğunu, Technology Review de Facebook’un YZ yazılımının Yüzüklerin Efendisi’nin özetini okuyarak onun hakkındaki soruları yanıtlayabileceğini yazar. Marcus ve Davis (2019), böyle bir şeyin gerçek olması halinde önemli bir ilerleme olacağını, ancak gerçeğin yine farklı olduğunu belirtiyor. Facebook’un yazılımı aşağıdaki metni okuyarak yanıt vermektedir:

Bilbo mağaraya gitti. Gollum orada yüzüğü düşürdü. Bilbo yüzüğü aldı. Bilbo Shire’e geri gitti. Bilbo yüzüğü orada bıraktı. Frodo yüzüğü aldı. Frodo, Doom Dağı’na gitti. Frodo yüzüğü orada düşürdü. Sauron öldü. Frodo Shire’e geri döndü. Bilbo, Grey Havens’a gitti. Son.

Program, yüzüğün, Bilbo ve Frodo’nun nerede olduğu hakkındaki soruları yanıtlayabilmektedir. Ama Frodo’nun neden yüzüğü düşürdüğü hakkındaki bir soruya yanıt vermesi olanaksızdır.

Sorgulamak ve Şüphe Etmek

YZ ilerliyor. Belki bir gün bu iddialar gerçek olur ama bunun için henüz çok erken olduğunu düşünen Marcus ve Davis (2019) evlerde, sağlık uygulamalarında ve hayatın diğer alanlarında kullanılması planlanan YZ uygulamaları hakkında çıkan haberler karşısında okuyucuyu şüpheci olmaya davet ediyor ve YZ hakkında çıkan haberlerin gerçekliğini aşağıdaki sorularla sorgulamayı öneriyor:

1- Haberdeki retoriği bir kenara bırakırsak söz konusu YZ sistemi gerçekte ne yapmaktadır?

2- Sonuç ne kadar genelleştirilebilir? Örneğin okuma konulu haber sadece okumanın bir kısmı ile mi ilgili yoksa sadece onun ufak bir parçası mı?

3- Kendi örneklerimizi deneyebileceğimiz bir demo sürümü var mı? Yoksa daha çok şüphelenelim!

4- Araştırmacılar ya da basın, YZ sisteminin insanlardan daha iyi olduğunu iddia ediyorsa, bu insanların kimler olduğunu ve ne kadar daha iyi olduğunu sorgulayalım.

5- Haberde açıklanan başarı gerçek bir yapay zekanın inşasına bizi ne kadar yakınlaştırıyor?

6- Sistem ne kadar sağlam? Yeniden eğitilmeden başka veri kümelerinde de çalışıyor mu? Satranç oynamada uzmanlaşmış bir makine Zelda gibi aksiyon-macera oyunu da oynayabilir mi? Hayvanları kolayca tanıyan bir sistem, daha önce hiç karşılaşmadığı hayvanları da tanıyabilir mi?

YZ, insanlara büyük yararlar sağlama potansiyeline sahip. Fakat gündelik hayatımızda giderek daha fazla belirleyici olan YZ’nin ona verdiğimiz yetkiyi güvenebileceğimiz şekillerde kullanıp kullanmadığı hakkında daha hassas olmamız gerekiyor. Hayaller ve gerçekler arasında büyük bir uçurum olduğunu belirten Marcus ve Davis (2019), üç temel sorunla yüzleşmemiz gerektiğini belirtiyor.

Birincisi, kolayca aldatılabilir olmamız. Makineleri ve insanları birbirinden ayırmada yetersiz kalıyoruz. Makineleri insanlaştırmaya fazla istekliyiz. Örneğin daha 1960’ların ortasında Eliza adlı program bazı insanları, onları anladığına inandırabilmişti. Oysa çoğunlukla anahtar kelimeleri eşleştiriyor, son söyleneni tekrarlıyor, sıkıştığında ise “bana çocukluğunu anlat” diyordu. Annenizden bahsettiğinizde ailenin ne olduğu hakında bir fikri olmamasına rağmen aileniz hakkında sorular sorarak karşısındakini anlıyormuş gibi yapabiliyordu. Eliza’nın yaratıcısı Joseph Weizenbaum, bazı insanların kendisini konuşmaya kaptırdığını ve gerçeklikten koptuğunu; hatta programın nasıl çalıştığını açıklamasına rağmen Eliza’nın gerçekten kendilerini anladığını iddia ettiklerini söylüyor!

Marcus ve Davis (2019), Tesla’nın 2016 yılındaki kazasını da bununla ilişkilendiriyor. Binlerce mil giden otomobilin her koşulda kendi başına gidebileceğini düşünen şoför kontrolü tamamen Tesla’ya bırakmıştı. Bir rivayete göre kaza anında Harry Potter izliyordu. Beyaz bir traktör römorku otoyola çıktığında araç sürücüyü ellerini direksiyonda tutması için uyardı. Ama sürücü muhtemelen kendini tamamen araca bıraktığından gerekli refleksi gösteremedi. Marcus ve Davis (2019), bu olaydan alınacak dersin açık olduğunu yazıyor: bir şeyin bir süre akıllı görünmeyi başarması onun gerçekten akıllı olduğu veya bir insan gibi tüm koşulları ele alabileceği anlamına gelmez.

İkinci sorun, aldatıcı ilerlemedir. YZ’nin bazı (göreceli olarak kolay) problemlerdeki ilerlemeleri büyük atılımlar olarak algılanmakta ya da aktarılmaktadır. Watson’ın Jeopardy! yarışmasındaki başarısı dilin anlaşılmasında olduğundan daha büyük bir başarı olarak algılandı. YZ’nin önce satrançta, daha sonra da Go’da insanları alt etmesi önemlidir. Ancak bu başarının içeriğine de bakmak gerekir.

Bilgisayarlar, Go ve satranç oynarlarken belirsiz bir ortam ya da ortam hakkında eksik bilgi yoktur. Go’da gerekli olan veri kümeleri kolayca toplanıp algoritmalar bu doğrultuda eğitilebilir. Oyunlar tamamen simüle edilebilir. Bu oyunları oynayan YZ sistemleri, çok geniş veri kümelerine sahip olmalarının yanında kendilerine karşı oynayarak bile sahip olduğu veri kümelerini büyütme şansına sahiptir. Ama kuralları belli ve simüle edilebilir kapalı ortamlardan açık ortamlara doğru ilerlediğimizde belirsizlikler artar. Gerçek dünyada, bir robotun hasta bakıcılık yapmasını, yatalak bir hastayı taşıyarak yatağına yatırmasını istediğimizde tüm olasılıkları içerecek bir veri kümesine sahip olma şansımız düşüktür. En başta insanlar çeşit çeşittir. Farklı tipte evler, farklı tipte yataklar, farklı tipte pijamalar vardır ve en önemlisi hataya tahammül yoktur. Kısacası, Go ve satranç gibi kapalı ortamlardaki görevlerde elde edilen başarılar daha açık ortamlardaki başarıyı garantilemez.

Üçüncü sorun, sağlamlıktır (robustness). Bazı durumlarda çalışan bir YZ sisteminin üzerinde biraz daha çalışarak (ya daha fazla veri toplayarak) her koşulda çalışabileceği düşüncesi asıl sorunun fark edilmesini engelleyebilir. Sürücüsüz bir araba bir otoyolda, güneşli bir havada başarılı bir şekilde ilerleyebilir. Ama sorun bir sürücüsüz arabanın kaza yapmadan ne kadar ilerlediği değil, farklı koşullara ne kadar uyum sağlayabildiğidir.

Marcus ve Davis (2019), günümüzdeki YZ araştırmalarında sağlamlılığa gereken önemin verilmediğini, daha çok reklam ve ürün önerilmesi gibi hata toleransının yüksek olduğu çalışmalara yoğunlaşıldığını belirtiyor. Bir kullanıcının önerilen beş üründen sadece üçüne ihtiyacının olması bir sorun yaratmaz. Ama yaşlı bakımı ve tıbbi tedavi planlaması insan yaşamını doğrudan etkileyen konulardır. Bir robotun, yaşlı hastayı yatağına koyarken bu işi beşte dört oranında doğru yapması kabul edilemez. Sürücüsüz arabalar çoğunlukla gördüklerini tanımlayabilirler ama tekrar tekrar park halindeki itfaiye arabasına çarpan Tesla gibi bazen de bunu başaramazlar. Benzer kör noktalar elektrik şebekelerini ya da kamu sağlığını izleyen sistemler için daha tehlikelidir.

Marcus ve Davis’e (2019) göre bu üç sorunun aşılabilmesi için üç şeye ihtiyacımız var: tehlikenin ne olduğu hakkında netlik, şu anki sistemlerin neden çalışmadığının net olarak anlaşılması ve yeni bir strateji. YZ’nin gelişme seviyesinin (yapabildiklerinin ve sınırlarının) hem sıradan insanlar hem de politikacılar tarafından acil olarak anlaşılması ve YZ hakkında eleştirel düşünme becerisinin geliştirilmesi gerekiyor. Marcus ve Davis (2019), YZ’nin dünyayı tam anlamıyla dönüştürebilecek bir güce sahip olduğunu, ama daha iyi yapabilmek ve ilerleyebilmek için nerede saplanıp kalındığı üzerinde durmak gerektiğini vurguluyor.

Marcus ve Davis’in (2019), yeni bir strateji vurgusu ise veriye dayalı YZ yaklaşımlarının yetersizliği ile ilgili. Başta derin öğrenme olmak üzere veriye dayalı YZ’nin başarılarını kabul ediyorlar ama bunun her soruna uygun bir çözüm olmadığı ve özellikle de genel yapay zeka için yetersiz olduğu görüşündeler.

Asıl Tehlike

Nefret söylemini tespit için geliştirilmiş sistemler kolayca kandırılabiliyor, iş başvurusu değerlendirme sistemleri yanlılıkları süreklileştirebiliyor ve sosyal medyadaki öneri sistemleri kullanıcıları komplo teorilerine sürükleyebiliyor. Yüz tanıma sistemleri her koşulda doğru sonuç veremeyebiliyor. Summon moddaki (sürücünün bulunduğu yere arabasını çağırması) bir Tesla arabası, sahibinin garajından geri geri çıkarken kaza yapabiliyor. Robot çim biçme makineleri kirpileri de öldürebiliyor. Çoğu zaman düzgün çalışan günümüzdeki YZ sistemlerinin bizi ne zaman şaşırtacağını bilemiyoruz (age).

Bazen robotların insanlara karşı isyan edeceği ve dünyayı ele geçireceği hakkında endişeler dile getiriliyor. Ancak şu anda robotların insanlara karşı toprak ve mülkiyet hakkında bir mücadele içinde olduklarına ya da olacaklarına dair bir işaret yok. Testosteronla dolu değiller ve dünyayı ele geçirme arzusundan yoksunlar. Yaptıkları işe dar bir çerçeveden bakan, büyük resmin farkında olmayan, uysal, akıllı hizmetçiler. Bilgisayarlar çok iyi Go oynayabilir ve insan rakiplerine karşı tahtada bölgesel hakimiyet kurabilirler. Ama bu sistemlerin Go oyunu dışında bir hakimiyet istekleri yok.

Bilgisayarlar görev odaklı olduğu sürece dünyayı ele geçirmelerinden korkmamız anlamsız. Şimdi endişelenmemiz gereken asıl konu makinelerin kendilerine verilen görevleri güvenilir biçimde yapıp yapamadığıdır. Robotların henüz dünyayı ele geçirmek gibi bir hırsları olmasa da Marcus ve Davis’in (2019) vurguladığı gibi her teknoloji gibi onlar da hata yapabiliyor. Ama onlara sahip olmadıkları nitelikleri yakıştırdığımızda (örneğin insan gibi ya da ondan daha iyi olduklarını varsaydığımızda) ve bu nedenle aşırı güven beslediğimizde hatalarının sonucu daha ağır olabiliyor.

Marcus ve Davis (2019), YZ’nin şu anki haliyle risklerle dolu olduğuna dikkati çekiyor. Bu risklerin başında YZ’nin sık sık bizi öyle olmadığı halde insan zekasına benzer bir zekaya sahip olduğuna inandırmaya çalışması geliyor. YZ’nin bazı alanlardaki başarılarından etkilenerek onlara farklı bağlamlarda sorumluluklar vermeye fazla istekli olabiliyoruz. Bir doktor, kendisinin yanılabileceği ama bilgisayarın hata yapmayacağı gibi bir hisse kapılabiliyor. Hakim, bilgisayarın önerisi doğrultusunda hareket ederek sorumluluktan kurtulmaya çalışabiliyor. Sosyal politika sorunları bilgisayarların inisiyatifine terk edilebiliyor.

Fakat YZ sistemleri, öngörülmüş koşullarda sorunsuz çalışmalarına karşın sıradışı durumlar karşısında yanılabiliyorlar. Örneğin, yol kenarlarındaki trafik işaretleri her zaman açık seçik olmayabilir. Marcus ve Davis (2019) aşağıdaki trafik tabelasının “çok fazla yiyecek ve içecekle dolu bir buzdolabı” olarak algılandığını yazıyor. Sürücüsüz bir arabaya güvenebilmemiz için sistemin sıradışı ışıklandırma, farklı hava koşulları, yoldaki enkazlar, trafik örüntüleri, insan mimikleri vs ile başa çıkabilmesi gerekiyor.

Modern yapay öğrenme sistemleri, büyük veri kümelerine dayanıyor ve eğitildikleri veri kümesi dışında farklı sorunlara uygulandıklarında aynı verim alınamayabiliyor. Yasal belgeler üzerinde eğitilen bir YZ, tıp belgelerinde şaşırabiliyor. Ses tanıma sistemleri aksanlı konuşmaları tam olarak algılayamıyor. Microsoft’un Tay örneğinde olduğu gibi politik söylemlerin kontrol edilmediği bir ortamda YZ bir ırkçıya dönüşebiliyor. Beyaz bir zemindeki siyah sayıları %99 başarı oranıyla tanıyabilen bir YZ sisteminin başarı oranı renkler ters çevrildiğinde %34’e düşüyor. Belirli bir şehirde eğitilen bir sürücüsüz araba başka bir şehirde çalıştırıldığında bocalayabiliyor.

Verinin körü körüne kullanımı ırkçı ve cinsiyetçi ön yargıları süreklileştirebiliyor. Örneğin siyahlara özgü adlar (Jermaine gibi) arandığında tutuklama kayıtları hakkında bilgi vermeyi vadeden reklamlara daha çok rastlanabiliyor. Google Photo 2015’te, Afrika Amerikalılar’a ait bazı fotoğrafları goril olarak işaretlemişti. 2016’da Google görsel aramada “iş için profesyonel saç stili” aratıldığında çoğunlukla beyaz kadınlar çıkarken, “iş için profesyonel olmayan saç stili” aratıldığında ise siyah kadınlar çıkıyordu. Bu tip problemlerle karşılaşıldığında, YZ sistemlerini işletenler çeşitli yamalarla ilgili sorunu giderebiliyorlar. Ama şu an yaygın YZ paradigması içinde genel bir çözüm söz konusu değil. IBM bu tip sorunları eğitim için kullanılan veri kümesine daha çok siyah kadın resmi ekleyerek çözmüş. Google ise sorunu çözmek için tam tersini yapmış. Eğitim için kullanılan veri kümesinden goril resimlerini çıkarmış. Fakat her ikisi de genel bir çözüm değil.

Arama motorları ve kamuya açık sohbet robotları gibi sistemleri belirli bir biçimde çalışmaya yönlendirmek mümkün. En bilinen örneği Microsoft’un Tay’ı. Bunun yanında kullanıcılar, Google’ın görsel arama bölümünde aptal (idiot) kelimesi aratıldığında Trump’ın resminin çıkmasını sağlayabiliyor. Arama motoru optimizasyonu denilen de aslında arama motorlarının sonuç sıralamasını etkilemek.

Var olan toplumsal yanlılıklar, yankı odası etkisi ile daha da derinleşebiliyor. Cathy O’Neil’in Weapons of Math Destruction kitabında tartıştığı gibi büyük veri analizleri, istatistiksel olarak suçun siyahların yaşadığı bölgelerde yoğunlaştığı sonucuna ulaştığında güvenlik güçleri azınlıkları hedefleyen bölgelere yığılıyor. Böylece buradaki suçlara daha hızlı ve daha sık müdahale edilebiliyor. Buradan elde edilen veri, sistemin, polis güçlerini yine buraya yönlendirmesiyle sonuçlanıyor.

YZ kolayca yanlış hedeflere sapabiliyor. Örneğin futbol oynayan bir robot topa olabildiğince dokunmaya teşvik edildiğinde topun yanında durup onu titreştirerek bu hedefe ulaşabiliyor. Ya da tetris oynayan bir YZ, oyunu kaybetmektense oyunu duraklatmayı tercih edebiliyor. Belirli bir nesneyi nasıl kavrayacağını öğrenmesi gereken bir robot buna uygun resimlerle eğitildikten sonra elini kamera ile nesne arasına koyarak nesneyi kavrayacakmış gibi bir görüntü vermekle yetinebiliyor.

Marcus ve Davis’e (2019) göre bu tehlikeler başta derin öğrenme olmak üzere veriye dayalı YZ yaklaşımlarının sınırlarını ve yapay genel zekanın çok uzağında olduğumuzu gösteriyor.

Derin Öğrenme

YZ’nin ilk günlerinde araştırmalar çoğunlukla bilgi temelli yaklaşımlarla ilerliyor, YZ’nin yerine getirmesi istenen görevler (metni anlamak, robot için planlar yapmak veya teoremleri ispat etmek vb) için gerekli yetenek araştırmacılar tarafından kodlanıyordu. Veriden öğrenmeye dayalı yaklaşımlar geçmişte de vardı ama bugünkü kadar popüler değildi. 1950’lerde Frank Rosenblatt, ilk yapay öğrenme sistemlerinden olan bir sinir ağı inşa etmişti. Ancak kullanılan ağın donanımının ve kameraların çözünürlüğünün (20 x 20) çok yetersiz (iPhone X’in 30000’de biri) olması ağın verimli çalışmasını zorlaştırıyordu. Daha önemlisi yapay öğrenme büyük miktarda veriye ihtiyaç duyar ve internetin olmadığı günlerde yeterli miktarda veriye erişme şansı da yoktu. Bu devrimci fikir, gerekli koşullar oluştuğunda hızla filizlenecekti. Ama henüz çok erkendi.

Marvin Minsky ve Seymour Papert 1969’da, yazdıkları Perceptrons adlı kitapta iki katmanlı bir ağın nesneleri sınıflandırmak için yeterli olamayacağını matematiksel olarak ispatladılar. Daha fazla katmanın eklenmesi sistemin gücünü artırabilirdi. Fakat bir ağı tatmin edici bir çözüm bulmak için eğitme becerisi garanti değildi. Sonraki yıllarda Geoff Hinton ve David Rumelhart de dahil olmak üzere birçok araştırmacı derin sinir ağlarının iyi sonuçlar almasını sağlayan matematiği icat ettiler. Fakat asıl sıçrama donanım teknolojisindeki ilerlemeler ve veri miktarındaki artış ile yaşandı. 2012’de video oyunları için geliştirilen GPU’nun (grafik işlem birimi) YZ için uygun hale getirilmesiyle daha fazla katmandan oluşan sinir ağlarından yararlanmak olanaklı hale geldi. Artık ağları eğitmek için ImageNet gibi büyük veri kümeleri de vardı. Derin öğrenme devrimi başlamıştı.

Derin öğrenme, iki temel düşünce üzerine kuruludur. Birincisi, David Hubel ve Torsten Wiesel’in 1950’lerdeki çalışmalarına dayanan hiyerarşik örüntü tanımadır. Hubel ve Wiesel görsel sistemdeki farklı nöronların görsel uyaranlara farklı biçimlerde tepki verdiğini keşfetmiştir. Bazıları basit uyaranlara oldukça etkin olarak tepki verirken bazıları daha karmaşık uyaranlara karşı daha aktif tepki verir. Teorilerine göre karmaşık uyaranlar, artan soyutlama hiyerarşisi ile tanınabilir (çizgilerden harflere, harflerden kelimelere). 1980’lerde sinir ağlarının öncülerinden Japon Kunahiko Fukushima, Hubel ve Wiesel’in düşüncelerini Neocognitron adlı çalışmasıyla bilgisayar alanına taşıdı.

İkinci temel düşünce ise öğrenmedir. Girdilerin ağırlıkları, belirli bir çıktıya göre ayarlanır. Örneğin harfler tanınırken sistemin başlangıçta hangi piksellerin hangi harfe karşılık geldiği hakkında bir bilgisi yoktur. Deneme yanılma ve ayarlama sürecinin sonunda üstteki pikseller T ve E harfiyle, soldaki pikseller ise E, F ve H harfleri ile ilişkilendirilir. Sistem aşamalı olarak farklı yerlerdeki pikseller ve uygun etiketler arasında korelasyonlarda ustalaşır.

Derin öğrenme, son yılların en popüler yapay zeka yaklaşımıdır. Ses ve görüntü tanımadan Go’ya kadar birçok başarılı çalışmanın arkasında derin öğrenme vardır. Ancak bu başarılar derin öğrenmeyi her sorun için ve her koşulda mükemmel bir yöntem yapmıyor. Marcus ve Davis (2019), derin öğrenme hakkında üç temel uyarıda bulunuyor. Birincisi, derin öğrenmenin düzgün çalışabilmesi için büyük miktarda veriye ihtiyacı vardır. Andrew Ng, bir insanın bir saniyeden az sürede düşünerek yaptığı zihinsel bir işin, bununla ilgili çok fazla veri toplanarak YZ’ye öğretilebileceğini iddia ediyor. Ama bunun için eğitim verisinin karşılaşılan sorunlardan çok farklı olmaması ve alanın bu süre içinde çok değişmemesi gerekir. Bu nedenle derin öğrenme, kuralları yüz yıllardır değişmeyen Go ve satranç için ideal bir çözümdür. Fakat gerçek hayattaki açık uçlu ortamlardaki problemler için yeterli miktarda veri toplamak her zaman mümkün ve gerçekçi değildir.

İkinci sorun derin öğrenmenin şeffaf olmamasıdır. Klasik YZ’de bir sistemin davranışlarının nedeni anlaşılabilirken derin öğrenmenin verdiği kararları anlamak zordur. Sistem %95 oranında başarılı çalışabilir ama %5’lik hatanın nereden kaynaklandığını bulabilmek bazen olanaksız olabilir. Reklamcılıkta başarı için yeterli olan bir sistemin tıp, yüz tanıma, sürücüsüz araba gibi hayati alanlara uygulanması ve çıktılarının yaşamsal kararlarda kullanılması risklidir.

Üçüncü sorun ise derin öğrenmenin kırılgan olmasıdır. Belirli bir durumda düzgün çalışan bir sistem daha önce karşılaşmadığı bir durumda sorun yaşayabiliyor. İnsanların görsel sistemi nesneleri olağan durumları dışında da algılayabilir. İnsan, bir trafik levhasının üzerinde başka şeyler yapıştırıldığı için onu buzdolabı gibi algılamaz. Aşağıdaki gibi bir levhanın bazı renkleri silinmiş ya da başka bir renge dönüşmüş olsa da insan için hala bir trafik levhasıdır:

Nesneler, olağan pozisyonları dışında olduklarında farklı bir nesne gibi algılanabilmektedir. Örneğin aşağıdaki ters dönmüş okul otobüsü, kar temizleme makinesi olarak algılanmış:

Dille ilgili konularda ise durum daha kırılgandır. SquAD testlerinde, soru sorulan metne eklenen ilgisiz bir cümle verilen yanıtı olumsuz etkileyebiliyor. Ayrıca derin öğrenme sistemleri, metni anlamak yerine korelasyonlara başvurduğundan eksik sorularla kandırılabiliyor. Örneğin, “kaç tane?” sorusuna 2, “hangi spor?” sorusuna da tenis yanıtını verebiliyorlar.

Marcus ve Davis (2019), derin öğrenmedeki derinliğin sadece sinir ağındaki katmanların sayısını ifade ettiğine dikkati çekiyor ve derin öğrenmenin önemli isimlerinin benzer düşüncelerini aktarıyor. Montreal Üniversitesi’nden Yoshua Bengio, derin öğrenmenin üst düzey soyut kavramlardan çok veri kümesindeki yüzeysel istatistiksel düzenlilikleri öğrenme eğiliminde olduğunu belirtiyor. 2018 sonunda yapılan bir röportajda DeepMind’in kurucuları Geoffrey Hinton ve Demis Hassabis de genel yapay zekanın çok uzağında olduğumuzu kabul ediyorlar.

Konuşma ve nesne tanımayı zeka değil, sadece zekanın parçası olarak ele almak gerekiyor. Gerçek zekanın akıl yürütme, dil ve analoji becerilerine ihtiyacı var. Örneğin bir yasal sözleşme sadece içerdiği kelimelerden ibaret değildir. Onu anlayabilmek için söylenen ve söylenmeyenler hakkında akıl yürütebilmek, diğer kanunlarla ilişkisini de kurabilmek gerekiyor.

Okumak ve Anlamak

Bazı yeni tedaviler doktorlar onu okuyacak vakitleri olmadığı için fark edilmezler. Güncel gelişmeleri ve tedavileri okuyup hastanın durumunu da göz önüne alarak akıl yürütebilen bir YZ olsaydı insanlık tarihinde yeni bir dönem başlatırdı. Bilgisayarların okuyabilmesi yalnız tıbbı değil, tüm bilimleri doğrudan etkilerdi. Peki bugün neredeyiz?

2018’de Ray Kurzweil TED’de yaptığı konuşmada Google’ın yüz bin kitabı indekslediğini, doğal dil işleme sayesinde kitapların yeni bir biçimde araştırılabileceğini söyledikten sonra Quartz bunu biraz abartarak: Google’ın binlerce kitabı okuyarak herhangi bir sorumuza yanıt verebileceğini yazdı (https://qz.com/1252664/talk-to-books-at-ted-2018-ray-kurzweil-unveils-googles-astounding-new-search-tool-will-answer-any-question-by-reading-thousands-of-books/). Marcus ve Davis’in (2019) işaret ettiği gibi yüz bin kitap, dünyadaki kitapların sadece ufak bir bölümü. Fakat sistem (Quartz’ın ‘her soru’ abartısını bir kenara bırakalım) kitapların içeriği ile ilgili sorulara yanıt verirken bile sınırlı bir kapasiteye sahip. Örneğin, “Harry Potter ile Hermione Granger nerede buluştular?” sorusuna yanıt veremediği gibi Harry Potter’daki hortkulukları da listeleyemiyor. Çünkü kitabın hiçbir yerinde bir hortkuluk listesi yok; ama kitabı okudukça (!) hortkulukların ne olduğunu öğreniyoruz. “1980’de Yargıtay’ın en yaşlı üyesi kimdi?” sorusuna da kitaplarda “1980’de Yargıtayın en yaşlı üyesi William Brennan’dır” gibi bir cümle geçmediğinden ve üye listesinden çıkarımlar yapamadığından doğru yanıt veremiyor.

Bir masalı anlamak bile bazen metindeki kelimelerin ötesinde bir bilgi birikimine gerek vardır:

Dokuz yaşındaki Almanzo sokakta bir cüzdan bulur. Babası bunun Mr. Thompson’un olabileceğini söyler. Almanzo, Mr. Thompson’ı bir dükkanda bulur. Ona bir cüzdan kaybedip kaybetmediğini sorar. Mr. Thompson eliyle cebine dokunur ve bağırır “Evet kaybettim. İçinde on beş tane yüz dolar vardı. Onun hakkında ne biliyorsun?”

Almanzo, “Bu mu?” diye sorar.

Mr Thompson, “Evet, evet” der ve cüzdanın içindeki paraları iki kere sayar. Derin bir oh çeker ve “bu çocuk hiçbir şey çalmamış” der.

Aşağıdaki sorulara bir insan rahatça yanıt verebilse bile bu günümüzdeki YZ sistemleri için zordur:

  • Mr Thompson neden eliyle cebine dokunur?
  • Almanzo “bu mu?” derken neyi kasteder?
  • Almanzo söylemeden önce Mr Thompson cüzdanını kaybettiğinin farkında mıdır?
  • Kim 1500 dolar kaybetmiştir?
  • Para hala cüzdanda mıdır?

İnsanlar akıl yürütürken sadece metne bakmazlar. Arka planda dünyanın nasıl işlediğine dair bir bilgi birikimine sahiptirler. Örneğin hikayeyi okumadan önce insanlar,

  • insanların bazen farkında olmadan bazı şeyleri düşürdüklerini,
  • cüzdanlarını genellikle ceplerinde taşıdıklarını,
  • paralarını cüzdanlarında taşıdıklarını ve paranın onlar için önemi bir şey olduğunu,
  • bir şeyin önemli olduğunu düşünüyorlarsa ve doğru olamayabileceğini düşünüyorlarsa onu doğrulama gereği duyduklarını,
  • bir şeyin ceplerinde olup olmadığınızı anlamak için ellerini ceplerinin üzerine koymanın yeterli olacağını

bilir. Bu nedenle yazarlar her şeyi yazmazlar. Okuyucu metni önceki bilgi birikimiyle tamamlar.

Dil, Go ve satrancın kapalı dünyasından farklıdır. Aşağıdaki diyaloğa bakalım (age):

Doktor: Herhangi bir güç harcadığınızda göğsünüz ağrıyor mu?

Hasta: Geçen hafta bahçeyi biçiyordum ve bir fil üzerime oturmuş gibi hissettim (Hasta göğsünü gösterir).

Bir insan için hastanın yanıtının evet olduğu açık seçik bellidir. Bir makine daha önce fillerle ilgili benzer ifadelere rastlamadıysa bahçe biçme ve fil kelimelerinin içinde çıkmakta zorlanacaktır.

Google Asistan, yön tarif etmede ve film bileti almada; Siri, yön tarif etme ve rezervasyon yapmada; Alexa matematikte, önceden yazılmış şakaları yapmada ve doğal olarak Amazon’dan alışveriş yapmada iyidir. Fakat bu asistanlar, her ne kadar çoğu zaman yardımcı olsalar da her zaman güvenilir değillerdir. En yakın havaalanı sorusuna Google Asistan seyahat acentelerinin listesiyle yanıt verebilir. Siri, deniz uçağı hava alanını tarif edebilir. Cortona uçak bileti sitelerine yönlendirebilir.

Dünyada işlerin nasıl yürüdüğüne dair temel bir anlayışa sahip olmadan metinleri okumak, söyleneni anlamak zordur.

***

Robotlar insanlık için bir tehdit mi? Dünyayı ele geçirebilirler mi? Marcus ve Davis (2019) bu gibi soruları 14. yüzyılda hijyen yerine trafik kazalarından endişe etmeye benzetiyor. Büyük verinin ve derin öğrenmenin ötesinde, dünyayı daha derin kavrayabilen YZ biçimlerine geçtiğimizde bu sorunları konuşmaya başlayabiliriz.

Evcil hayvana benzeyen robotları, sahiplerini havaalanında takip edebilen “sürücüsüz” bavulları yakında çok daha fazla göreceğiz. Robotlar, fabrikalar ve ambarlar gibi evlere göre daha kapalı ve belirsizliklerin daha kontrol edilebilir olduğu ortamlarda yaygın olarak kullanılacak.

Ama Toyota Araştırma Enstitüsü Başkan Yardımcısı John Leonard, her hava ve trafik koşulunda kendisini Cambridge’ten alıp Logan Havaalanı’na götürebilecek bir sürücüsüz arabayı görmeye kendisinin ömrünün yetmeyebileceğini söylüyor.

Marcus ve Davis (2019) yine de iyimserce yemek ve temizlik yapan, bebek bezi değiştiren robotların olabileceğini ama 2025’ten önce olanaksız olduğunu düşünüyor.

Kaynaklar

Marcus, G., & Davis, E. (2019). Rebooting AI: Building Artificial Intelligence We Can Trust. Pantheon.

25 Şubat 2020

Posted In: Bilgisayar Bilimi, Bosstown Dynamics, Boston Dynamics, derin öğrenme, Emek, Ernest Davis, Gary Marcus, güvenlik, kitap, Özgür yazılım, Rebooting AI: Building Artificial Intelligence We Can Trust, robotlar, Teknoloji Tarihi, Yapay Zeka

Bilgisayarlar işimizi elimizden mi alıyor?

George Orwell’in 1984’ü en çok satılan kitaplar listesinden düşmüyor. İnternet’in yaygınlaşmadığı ve kişisel bilgisayarların henüz belirmediği yıllarda 1984, toplumdaki bazı eğilimleri abartan bir roman olarak algılanabiliyordu. Örneğin sosyolog James B. Rule, 1973 yılında artan gözetim sistemleri üzerine oluşturulan korku hikayelerinin abartılı bir yaklaşım sergilediğini söylüyor ve bu hikayelerin gerçek olabilmesi için önünde dört büyük engelin olduğunu vurguluyordu. Birinci olarak, kişisel bilgilerin saklanması ve daha sonra bunlardan anlamlı bilgi kümeleri oluşturulabilmesi için teknik yetersizlikler vardı. İkincisi, farklı yerlerdeki bilgiyi birleştirecek merkezi bir sistem yoktu. Üçüncüsü, Orwell’in 1984’ünde bilgisayar sistemleri anlık durumları analiz edip anında yanıtlar verebiliyordu. Zamanın bilgisayarlarının gelişmişlik seviyesi düşünüldüğünde bu tamamen olanaksızdı. Dördüncüsü, 1984’de bilgisayarlar insanların her anlarını gözetleyebiliyordu ama bu 1970lerin teknolojisi için hayal bile edilemez bir durumdu.

Günümüzdeki teknolojinin bu dört engeli ortadan kaldırdığını biliyoruz. Sosyal ağlar, büyük veri, yapay zeka, giyilebilir teknolojiler, şeylerin interneti… Tam da bu nedenle 1984 bugün daha çok okunuyor. Ama bu okumayı bir adım öteye götürmemiz gerekiyor. 1984’ü andıran bir gelecek hangi toplumsal koşullarda oluşuyor? Bu soruyu sormadan, gözetim “totaliter” yönetimlerin faaliyetlerine indirgenip mülkiyet ilişkileri sorgulanmadığında sonuç kısa vadeli çıkarlar için bir boş vermişlik oluyor. Bu bağlamda, soğuk savaşın izlerini taşıyan 1984 ile karşılaştırıldığında Tahsin Yücel’in Gökdelen adlı romanı, bugünkü toplumsal ilişkilerin gelecekteki olası izdüşümlerini çok daha başarılı bir şekilde sunuyor.

Roman, 2073 yılı Türkiye’sinde geçmekte. Kitabın kahramanı Can Tezcan ülkenin önde gelen hukuk bürolarından birinin sahibi, yetenekli bir avukat ve eski bir devrimcidir. Bu yetenekli avukatın başarılı olamadığı iki dava vardır. Birincisinde müvekkili eski bir arkadaşıdır. Hukuk dışı etkenler devreye girmekte, Can Tezcan arkadaşının masumluğu konusunda hakimi bir türlü ikna edememektedir. Lehindeki tüm delillere rağmen mahkeme, başbakanın bu özel davasında ipe sapa gelmez gerekçelerle beraat talebini reddetmektedir. Can Tezcan bir zamanlar espri olarak ifade ettiği fikri artık ciddi ciddi düşünmektedir: Yargıyı özelleştirmek!

…geçen yüzyılın sonlarından beri her şey özelleştirildi bu ülkede, öncelikle yabancılara, yabancı alıcı çıkmayınca da yerli kodamanlara, yani onların taşeronlarına satıldı, dağlar, taşlar, ırmaklar, denizler, limanlar, havaalanları, gemiler, uçaklar, trenler, yollar, köprüler, fabrikalar, çöpler, okullar, üniversiteler, stadyumlar. Her şey özel kurumların elinde. Başbakan başbakanlıkta oturması karşılığında İsrailli bir kodamana kira ödüyor. Öyleyse, her şey özel kurumların elindeyse, yargı neden özelleştirilmesin ki? Evet, neden özelleştirilmesin? Yargının nesi eksik?

Böylece düzen daha tutarlı olacaktır. Çünkü “bugün yargı ne özel, ne kamusal. Daha doğrusu, kimi zaman özel gibi görünüyor, kimi zaman kamusal. Ama daha çok özel. Her şey yönetimin, yönetimin bile değil, hükümetin başındaki adamın iki dudağı arasında. Yani kamusal görüntüsü altında özel, özelden de öte, bireysel.” diyerek bu düşüncesini pekiştirmektedir. Ayrıca “bir ülkede her şey özelleştirilmişse, hukukçusundan polisine herkes özel öğretim kurumlarında yetiştiriliyorsa, yargının hâlâ bir devlet kurumu olarak kalması açık bir tutarsızlık”tır. Böylece adalet de bir meta olacaktır. Can Tezcan’ın (biraz da isteyerek) başarısız olduğu ikinci dava ise İstanbul’u ikinci bir New York yapmak isteyen ama yaşlı bir öğretmenin yüz beş metrekarelik evini elinden alamadığı için bu hayalini bütünüyle gerçekleştiremeyen Niyorklu Temel’in davasıdır. Can Tezcan’ın asıl amacı ilk davayı çözmektir. Bunun tek yolunun yargıyı özelleştirmek olduğuna inandığından kendi davasının bir an önce sonuçlandırılmasını isteyen (yargıyı satın alacak maddi gücü olan) Niyorklu Temel’i de kendi sorunun ancak yargının özelleştirilmesiyle çözülebileceği konusunda ikna eder; yargının sahibi olduktan sonra istedikleri her kararı alabileceklerdir…

Eski devrimci Can Tezcan için eski günler geride kalmıştır. O da çevresindeki bir çok insan gibi bir gökdelende oturmakta, her işini bilgisayarlarla halletmekte, canı sıkılınca da soluğu bir Avrupa şehrinde almaktadır. Zaman zaman hala devrimci olan ve sakıncalı kitaplar yazmaya devam eden arkadaşı Rıza Koç’la görüşmekte ve ona kitaplarını bastırması için maddi destekte bulunmaktadır. Önce Rıza Koç’tan, sonra başbakan Mevlüt Doğan’dan ve ardından sağ kolu Sabri Serin’den yılkı adamlarını dinler. İlk başta inanmak istemez. Yılkı atlar, başıboş atlardır. “Bir zamanlar atlar, eşekler, katırlar insanların yaşamının ayrılmaz bir parçasıyken, gün gelip iyice yaşlanıp da işe yaramaz olunca, kentlerden, köylerden uzaklara, dağlara, tepelere, ıssız bozkırlara sürülürmüş, onlar da birbirlerini bulup sürülerle dolaşırlarmış oradan oraya.” ve şimdi de bu yılkı atlarının yerini yılkı insanları almıştır. İşe yaramayan, daha doğrusu iş bulamayan insanlar doğaya terk edilmektedir. İnsanlar ya kendi istekleriyle ya da zenginlerin huzurunu kaçırmasınlar diye kentlerin dışına çıkarılmaktadır. Rıza Koç bu insanları şöyle anlatmaktadır:

insanlar gözlerden uzak yerlere, dağlara, tepelere çekilmek zorunda kalıyor nicedir, yaşlı, genç, kadın, erkek, çocuk, sürülerle, evet, sürülerle, yalınayak, yarı çıplak, pislik içinde, tarihöncesinden kalma hayaletler gibi dolaşıp duruyorlar öyle, solucan, kurbağa, sıçan, çekirge, ot, kabuk, yosun, daha ne bileyim, ne bulurlarsa yiyor, bir karga ölüsü için birbirlerine saldırıyorlar. Çiftliklere yaklaşmaları bile yasak, buraları insan azmanları ellerinde makineli tüfeklerle bekliyor; öldürdükleri de ölüden sayılmıyor, tıpkı dirilerinin diriden sayılmadığı gibi…

Ancak Sabri patronuna “bundan yalnızca kentlerin, kasabaların dışında, yarı aç, yarı tok, yarı çıplak insanları, bir zamanların yılkı atları gibi yaşayanları” anlamaması gerektiğini söyler. Tüm ücretli çalışanlar birer potansiyel yılkı insanıdır; yılkı adamlarının arasında mimarlar, mühendisler, öğretmenler de vardır. Bir yandan eğitim masrafları nedeniyle okur yazarlık oranı yirminci yüzyılın çok gerisindedir. Diğer yandan en ufak işler için diploma istenmektedir; en sıradan temizlik aygıtını kullanmak belli bir bilgi birikimi gerektirmekte ve en sıradan emekçilerin bile yüksek okul diploması vardır. Sabri bu durumu “her işe uygun makineler aramadığınız kadar, bu yüzden adam gereksinimi her geçen gün biraz daha azalıyor. Makineler geliştikçe, tepelerinde fazla adam istemez oldular; öte yandan, bu çok gelişmiş makinelere göre adam bulmak her geçen gün zorlaşıyor” diye açıklamaktadır. Bir beyaz yakalının işsiz kalıp yılkı insanlarına katılması sık gözlenen bir durumdur.

Tahsin Yücel’in Gökdelen’i gidişatımızı anlatan çarpıcı bir kitap. 1984 ya da Cesur Yeni Dünya büyük bir ihtimalle bu koşullarda oluşacak. Ama özellikle Sabri’nin sözlerine dikkat çekmek isterim: makinelerin insan gereksinimini her geçen gün azaltması ve bu makinelerin geliştikçe tepelerinde insan istemez olması… Kitabın ilk baskı yılı 2006 ama son yıllarda, özellikle de 2008 krizinden sonra benzer sözlerin çok sayıda iktisatçı ve teknoloji uzmanı tarafından dile getirildiğine şahit oluyoruz.

İnsan gibi düşünen ve dünyayı ele geçirmesinden korkulan robotları şimdilik bir kenara bırakalım. Bunun nedeni konuyu sadece bilim kurgunun ilgi alanı olarak görmem değil. “Büyük insanlık” için Gökdelen’dekine benzer bir geleceğin daha yakın ve gerçek bir tehdit olması. “Büyük insanlık” bu olasılığı ortadan kaldırırsa robotların dünyayı ele geçirip geçiremeyeceğini tartışabiliriz. Dolayısıyla konu şimdilik “büyük insanlık”ın dışındakileri, gelecekte robotlarla baş başa kalabilecekleri ilgilendiriyor.

Sabri’nin sözleri bugünkü iki eğilime işaret ediyor. Robotların insanların yerini alması ve karmaşıklaşan sistemin daha kalifiye bir iş gücüne ihtiyaç duyması. Robotların insanların yerini alıp almayacağı konusu bir süredir tartışılan ve iktisatçıları geçmişteki düşüncelerini tekrar gözden geçirmeye zorlayan bir konu. Çünkü yaygın düşünce, teknolojin bazı işleri ortadan kaldırırken yeni işler yarattığıydı. Ünlü iktisatçı Joseph Schumpeter’in ifade ettiği gibi kapitalist sistem, kendi iç kaynakları sayesinde sürekli bir devrim ve yenilenme içindeydi ve bu devingen süreklilik eskiyi yok ederken yeniyi yaratıyordu. Schumpeter’in “yaratıcı yıkım” olarak adlandırdığı bu durum kapitalist gelişmenin temeliydi. Tarım aletleri çağdaş tarım makinelerine, su değirmeni modern su tribünlerine, posta arabaları uçaklara dönüşürken eski meslekler tarih sahnesinden silinmiş ve yeni meslekler doğmuştu. 1990 sonrasında bilişim teknolojileri üzerine de çok sayıda örnek vardı.

Bilgisayarlar imalattan karar almaya kadar hızlı bir şekilde üretim süreçlerine dahil oluyor. Bu “yaratım” sürecinde yeni işler ortaya çıkıyor. Fakat istatistikler yıkım sürecinin çok daha hızlı işlediğini gösteriyor ve geçmişte olduğu gibi teknoloji bir kez daha sanık sandalyesine oturtuluyor. Teknolojinin bugünkü işsizliğe etkisi ve robotların gelecekte işsizliğe neden olup olmayacağı tartışılıyor. “Korkulanın aksine insanların işsiz kalmayacağını, robotların rutin ve basit işleri devralarak, insanların daha yaratıcı, fark yaratan ve önemli işlerle ilgilenmelerini sağlayacağını” (http://www.herkesebilimteknoloji.com/slider/robotlasacak-19-is-kolu) savunanların çok geç olmadan aksi yöndeki eleştirilere de kulak vermeleri gerekiyor. İşin ironik yanı bilişim teknolojilerinin farklılığını, yeni bir devrimin içinde olduğumuzu, eski kavramların ve açıklamaların yeterli olmadığını savunan teknoloji havarilerinin kalıpsal bir yaklaşımla geçmişte teknolojinin işsizliğe yol açtığı hakkındaki eleştirilere karşı yapılan savunmaları bugün de tekrarlıyor olmaları ve insanlara işsiz kalmamaları için çağa ayak uydurmalarını öğütlemeleri. Acaba bugün geçmişteki teknolojik gelişmelerden farklı bir durum olabilir mi?

İkinci Dünya Savaşı’ndan sonra verimlilik ve ücretlerdeki artış arasında bir paralellik ilişkisi gözlenirken 1970’lerin ortalarından sonra aynı ilişkinin gözlenememesi başlıca tartışma konularından biri (bkz. Grafik 1 ve Grafik 2). 2010 yılının başında Washington Post’ta yayınlanan bir yazıda (http://www.washingtonpost.com/wp-dyn/content/article/2010/01/01/AR2010010101196.html) ise son 10 yılda yeterli yeni iş yaratılmadığı ve önceki on yıllarla karşılaştırıldığında bunun endişelendirici bir durum olduğu belirtiliyor (bkz. Grafik 3).

 

Grafik 1: 1948-2010 (ABD)

Grafik 1: 1948-2010 (ABD)

 

Grafik 2: Verimlilik ve gerçek ücretler

Grafik 2: Verimlilik ve gerçek ücretler

 

Grafik 3: ABD'de yaratılan net iş

Grafik 3: ABD’de yaratılan net iş

Ford’a (2015) göre 1947’den 1973’e kadar altın bir çağ yaşandı. Özellikle kimya, makine ve havacılık mühendisliğindeki yenilikler ve hızla yükselen verimlilik işçileri daha değerli yaptı ve pazarlık masasına daha güçlü oturabildiler. 1980’lerdeki inovasyon ise daha çok bilişim teknolojileri sektöründe yoğunlaştı. Diğer teknolojilerden farklı olarak bilişim teknolojileri, uygun vasıflardaki işçilerin önünü açarken bazı mesleklerin vasıfsızlaşmasına neden oldu. Bu eğilim, 1990’larda da devam etti. 1990’ların ikinci yarısında, İnternet’in etkisiyle ücretlerde bir iyileşme görüldü. Ama bu iyileşme verimlilik artışının yine gerisindeydi. 2000’li yıllarda ise 1990’lardaki iyi işlerin çoğu otomasyon sistemleri ya da işlerin sınır ötesine taşınmasıyla ortadan kalktı. Şimdi de kurumlar kendi BT departmanlarını küçülterek bulut bilişim merkezlerinden hizmet satın almaya başladılar. ABD’de dört yıllık üniversite mezunlarının ücretleri lise mezunlarınınki ile karşılaştırıldığında hala çok daha yüksek. Fakat Ford (2015) sadece lisans derecesine sahip çalışanların ücretlerinin 2000 ve 2010 yılları arasında %15 düştüğünü belirtiyor. Lisans mezunlarının ücretlerdeki bu gerilemede 2008 krizinin de etkisi var. Ancak öncesinde de bir gerileme eğilimi söz konusu.

Tüm bu olumsuzlukların nedeni bilişim teknolojileri olabilir mi?

Küreselleşme, finansal sektördeki büyüme ve politikanın (serbestleşme ve örgütlü emekteki gerileme) da bu olumsuz süreçte katkısı olabilir. Teknoloji uzmanları bilfiil akıllı makinelerin geleceği hakkında düşünüp yazmış, bu makinelerin insan iş gücünün yerini alacağı, kalıcı ve yapısal işsizliğe neden olacağı endişesi duyduklarını belirtmişlerdir. Örneğin sibernetiğin babası sayılan Norbert Wiener daha 1949’da otomasyonun istihdama olumsuz etkileri konusunda uyarmaktadır. Fakat bu ve benzer uyarılar iktisatçılar tarafından fazla ciddiye alınmaz. Aynı şikayetler 1960’ta, 1990’ların başında da dillendirilir. Ama bir süre sonra yanlış alarm olduğu anlaşılır. Ancak son yıllarda durum değişmiş, en azından bir acaba ortaya çıkmıştır.

MIT’den Erik Brynjolfsson ve Andrew McAfee (2014), son 10-15 yıldaki istihdam sorunun arkasında endüstriyel robotlardan otomatik çeviri servislerine kadar bilgisayar teknolojisindeki ilerlemelerin olabileceğini, üstelik yalnız imalat, büro ve perakende işlerinde değil hukuk, sağlık, eğitim ve finansal hizmetlerdeki meslekler üzerinde de kara bulutlar dolaştığını belirtiyorlar. Brynjolfsson ve McAfee (2014), son yıllardaki büyümenin arkasında BT’nin olduğundan emin oldukları kadar iş sayısındaki zayıf artışta da teknolojik gelişmelerin etkili olduğunu ve teknolojideki hızlı değişimin ABD gibi teknolojide ileri ülkelerde eşitsizliği büyüttüğünü düşünüyorlar. İşleri kolaylaştıran, daha güvenli ve üretken yapan bilişim teknolojileri aynı zamanda çok farklı türdeki “insan” işçilere olan talebi azaltıyor. Otomasyonun ve robotların kullanımı yalnız mavi yakalı işçileri tehdit etmiyor. Web, yapay zeka, büyük veri ve ileri mantıksal analizle birçok beyaz yakalı mesleğini ortadan kaldırma potansiyeline sahip olan “insan zekasının dijitalleşmiş versiyonları” gelişiyor.

Harvard’dan Richard Freeman (2015) ise daha temkinli yaklaşıyor. Yeni işlerin yaratılmasındaki yavaşlığın küresel ticaretteki gelişmeler veya 2000’li yıllardaki finansal krizler gibi farklı biçimlerde de açıklanabileceğini çünkü teknolojinin etkilerini diğer makro ekonomik etkilerden ayrıştırmanın zor olduğunu söylüyor. “Kıyaslamalı rekabet” teorisine dayanarak insanların işsiz kalmayacağı söylenebilir. Bu teoriye göre Ali hem çok iyi bir cerrah hem de çok iyi bir marangoz olabilir. Ahmet ise Ali kadar olmasa da yine de iyi bir marangozdur. Ama Ali hastanedeki işlerinin yoğunluğu nedeniyle evinin dolaplarını Ahmet’e yaptıracaktır. Bu teoriye dayanarak, robotlar insanları işinden etse de insanların yine yapacak işi olacağını söyleyen iktisatçılar vardır. Ancak insanların yeni işleri için alacakları ücret daha az olacaktır. Bu nedenle, işsizlik konusunda kuşkulu olan Freeman (2015), ücretler konusunda iyimser değildir.

MIT’den David Autor (2010) da Freeman gibi 2000 yılından beri istihdamda bir azalma olduğunu kabul eden ama bunu doğrudan teknolojiyle ilişkilendirmeyen iktisatçılardan. Autor’a göre tüm sorun ekonomik durgunluktan kaynaklı olabilir. Yeni işlerin yaratılmasındaki yavaşlık hala gizemini korumakta ve bunu bilgisayarlara bağlamak için iktisatçıların elinde yeterli delil yok. Ancak Autor da ücretlere dikkat çekiyor. Bilgisayarlar var olan işleri değiştiriyorlar ve bu değişim her zaman iyi yönde olmuyor. 1980’lerden sonra bilgisayarlar özellikle muhasebe, büro işleri ve imalattaki tekrarlı işler gibi orta sınıf ücreti sunan görevleri devralmaya başladılar. Bu dönemde bir yandan yaratıcılık ve çoğu zaman bilgisayar destekli problem çözme yeteneği gerektiren yüksek ücretli işler hızla çoğalırken diğer yandan restoran çalışanı, apartman görevlisi, evde hasta bakıcı gibi otomatikleştirilmesi zor olan düşük vasıflı işçilere talep arttı. Dolayısıyla ekonomik durgunluk döneminde eski işlerin yok olup toparlanma dönemlerinde yerini yeni işlere bırakıyor olması kısmen doğru. Bu toparlanma döneminde orta gelirlilerin ufak bir kısmı (nitekim çoğu orta gelirli üst gelirli işler için yeterli eğitime sahip değil) üst gruba taşınırken daha büyük bir kısmı alta itiliyor ve bir kutuplaşma oluşuyor. 2007-2009 yılları arasındaki ekonomik durumun, bu yıkım sürecini artırdığı söylenebilir ama bu, öncesinde de var olan ve hala devam eden bir eğilim.

Yalnız iktisatçılar değil, teknoloji havarileri de sürekli yaratıcı yıkımdan, yıkıcı inovasyondan ve teknolojinin getirilerinden söz ediyorlar. 1700’lerde başlayan sanayi devriminin işlerin doğasını değiştirdiği, bazı işleri ortadan kaldırdığı, 1900’de ABD nüfusununda %41’i tarım sektöründe çalışırken bu oranın 2000’de sadece %2. 2 olduğu doğru. Fakat bu geçiş dönemlerinde yetenekleri işverenlerin gereksinimleriyle uyuşmayan işçiler için oldukça sancılı bir süreç yaşandığını ve yüksek vasıflı zanaatkarların yerini fabrikalardaki işçilere bıraktığını da atlamamak gerekiyor (Rotman, 2013). Bilişim teknolojileri, tarihteki örüntüyü devam ettirip eski işleri yıkarken yeni işler yaratıyor olabilir. Bu geçiş sürecinin öncelleri gibi işçi sınıfı için pek iç açıcı olmayacağı açık seçik ortada. Ama ya BT ekonomi tarihindeki örüntü devam ettirmiyorsa? Teknolojinin “rutin ve basit işleri devralarak, insanların daha yaratıcı, fark yaratan ve önemli işlerle ilgilenmelerini sağlamak” (http://www.herkesebilimteknoloji.com/slider/robotlasacak-19-is-kolu) için kullanılmadığını gösteren çok sayıda örnek var.

Rethink Robotics’in küçük ölçekli imalat tesislerinde kullanılmak üzere geliştirdiği Baxter adlı robot malzemeleri yükleme, indirme, sıralama ve taşıma için geliştirilmiş. Üretim hattındaki sıkıcı görevleri yerine getirmesi beklenen Baxter, küçük ve orta ölçekli şirketleri hedefliyor. Baxter’in benzerlerinden en büyük farkının çoklu ve daha karmaşık işleri yerine getirebilmesi için programcıların yeniden kodlamasına gerek kalmaksızın öğretilebilir olması. Ford (2015) Baxter gibi robotların rutin işleri yapan bazı işçilerin işlerini yok etmesinin yanında ABD’nin ücretlerin düşük olduğu ülkelerle rekabet edebilmesine yardımcı olabileceğini savunuyor. Nitekim hem teknolojik gelişmeler hem de 2005-2010 yılları arasında Çin’deki fabrikalarda çalışan işçilerin ücretlerinin neredeyse %20 artması sonucu bazı şirketler fabrikaları ABD’ye geri getirmeyi düşünmeye başladılar. İmalatın ABD’ye geri getirilmesi, taşımadan müşteri taleplerine anında cevap vermeye kadar çeşitli avantajlar sağlayacak. Dolayısıyla bu girişim şu an istihdamın %10’unu oluşturan imalattaki işlerin sayısını artırabilir, ABD iş piyasasına olumlu bir katkıda bulunabilir. Ama diğer yandan, ABD’nin bu hamlesi, 1995-2002 tarihleri arasında imalatta yer alan iş gücünün %15’ini kaybetmesine karşın istihdamın hala imalatta yoğunlaştığı Çin’de daha büyük sorunlar yaratabilir. Ayrıca aynı seçenek, Çin’de ucuz iş gücü üzerine kurulu şirketler için de geçerli. Örneğin elektronik imalat hizmetleri sektöründe faaliyet gösteren Foxconn 2012’de fabrikalarına bir milyon robot getirmeyi planladığını duyurdu. Ford (2015), Foxconn’un robotlarla esnek üretim süreçlerine daha kolay uyum sağlayabileceğini ve gelişen teknolojinin şirketin yeni gereksinimlerine yanıt verebileceğini söylüyor. Giyim ve ayakkabı imalatında daha ucuz iş gücü sunduğu için sermayenin Çin’den kendi ülkelerine göç etmesini sağlayan Vietnam ve Endonezya’da da benzer bir durum var. 2013’te Nike, ücretlerdeki yükselmenin finansal değerlerini olumsuz etkilediğini, “teknoloji ve inovasyon” ile emek maliyetlerini düşürme planları yaptıklarını duyurdu.

Hizmet sektöründe ise daha büyük bir yıkım gerçekleşiyor. Son yıllarda, bankaların ATM’ler ve diğer teknolojilerle şubesizleşmeye yöneldiğini gözlemleyebiliyoruz. Ancak aynı eğilim diğer alanlarda da söz konusu. Momentum Machines (http://momentummachines.com/) adlı şirket saatte 360 hamburger hazırlayıp müşterilerine sunuyor. Momentum Machines’in kurucularından Alexandros Vardakostas, dürüst (!) bir şekilde cihazlarının çalışanları daha verimli yapmayı hedeflemediğini, onları devreden çıkarmak istediğini söylüyor ve çalışan ücretlerinden tasarruf ederek restoranların daha kaliteli malzemeden yapılmış hamburgerleri aynı fiyata satabileceğini ekliyor. Sadece McDonald’s bile dünyaya yayılmış 34000 restoranında 1,8 milyon işçi çalıştırıyor. Geçmiş yıllarda, McDonald’s benzeri iş yerleri geçici bir süre çalışmak için tercih edilirken artık tam zamanlı iş arayıp bulamayanların da zorunlu olarak başvurduğu yerler. Örneğin 2011’de McDonald’s tarafından verilen bir iş ilanında 50000 açık pozisyon olmasına rağmen sadece bir günde bir milyonun üzerinde başvuru gelmiş. Momentum Machines’in geliştirdiği sistem fast food sektöründe yaygın olarak kullanılmaya başlanırsa ne olacak?

Japonya’da, 262 sushi restoranından oluşan Kura adlı bir restoran zincirinde çalışanların yerini bir otomasyon sistemi almış. Siparişler dokunmatik panellerden alınıyor, bir taşıma bandıyla müşterilere ulaşıyor, son kullanma süresi geçen ürünler otomatik olarak devreden çıkarılıyor, ücretin ödenmesi ve masanın temizlenmesi yine insansız bir sistemle gerçekleştiriliyor (https://www.youtube.com/watch?v=Ka8PDhbXj_c). Elbette tasarruf konusunda restoran müdürlerinin tasfiyesi de atlanmamış. Her restoranda bir müdür görevlendirmek yerine restoranlardaki işleyiş merkezi bir sistemden takip edilebiliyor. Bunun sonucunda Kura, rakiplerinden çok daha ucuza sushi satarak diğer restoranların (en azından şimdilik) önüne geçiyor.

Ford’un (2015) perakende sektöründeki istihdam hakkında ise üç önemli tespiti var. Birincisi, Amazon, eBay ve Netflix gibi büyük mağazalara aktarılan işler ortadan kalkmadığı, sadece değişen koşullara göre yeniden düzenlendiği görüşü yaygın. Ancak Ford (2015) bunun sadece teoride kaldığını düşünüyor. Pratikte bu işler otomasyona (dolayısıyla ortadan kaldırılmaya) daha uygun hale geliyorlar. Örneğin Amazon, büyük ambarlar için robot üreten Kiva Systems’i satın aldıktan sonra geliştirilen robotları kendi ambarlarında kullanmaya başladı (https://www.youtube.com/watch?v=_J0QZxNjBu4). Amazon’dakine benzer bir süreç ABD’nin en büyük perakendecilerinden Kroger’da da yaşanıyor. İkincisi, tamamen otomatikleştirilmiş self servis akıllı kiosklar ve otomatik satış makinelerinin yaygınlaşması. Bu akıllı makineler geleneksel perakende satış işlerini önemli ölçüde azaltacak ve sanıldığı gibi cihazların bakımı ve tamiri için yıkımı karşılayabilecek sayıda yeni iş ortaya çıkmayacak. Bu makineler çoğunlukla İnternet’e bağlı, uzaktan izleniyorlar ve herhangi bir sorunda merkezden müdahale ediliyor. Daha önemlisi işletmede gerekli olabilecek emek maliyetini olabildiğince kısmak amacıyla tasarlanmışlar. Üçüncüsü geleneksel (İnternet’te faaliyet göstermeyen) iş yerlerinin rekabet edebilmek için otomasyon ve robotlara başvuruyor, yeni çözümler geliştiriyor olması. Örneğin Walmart’ta müşterilerin kasa kuyruğuna girmediği ve barkodları telefonlarına okutup ödeme yaptığı sistemler deneniyor (http://www.reuters.com/article/us-walmart-iphones-checkout-idUSBRE8851DP20120906). Perakende sektöründeki bu gelişmelerin sonucunda yalnız robotların ve otomasyon sistemlerinin sayısı artmayacak, iş sayısı da önemli ölçüde azalacak.

Tüm bu gelişmelerin kendisinden çok uzak olduğunu, çünkü rutin bir iş yapmadığını düşünen çok sayıda beyaz yakalı olduğunu tahmin etmek zor değil. Ayrıca günümüzde bilişim teknolojileriyle yaratılan mucizeleri içeren çeşitli hikayelerde başarısız olmanın (daha doğrusu işsiz kalmanın ya da teknolojiyi paraya çevirememenin) kişinin kendi kusuru olduğu gibi bir hava yaratılmakta. Örneğin, Kerala’daki balıkçıların mobil telefonlarını kullanarak balıklarını nasıl en iyi fiyata sattıklarının öyküsü anlatılıyor (http://www.economist.com/node/9149142). Fakat kazananın her şeyi aldığı bilişim teknolojileri sektöründe (bir uygulama geliştirip köşeyi dönenler hakkında anlatılan tüm hikayelere karşın) yetenekli programcıların büyük bir kısmı için bile kayda değer bir gelir elde edebilmek zor. Ford (2015), robotlar ve self servis teknolojilerin düşük ücretli işleri ortadan kaldırması gibi giderek daha akıllı hale gelen algoritmaların da yüksek ücretli işleri tehdit ettiğini vurguluyor.
Örneğin haber siteleri günlük gazetelerin yerini almaya başladığında bunu sadece bir ortam değişikliği olarak değerlendirdik. Fakat bunun bir adım ötesinde, eldeki verilerden otomatik olarak makale üreten yazılımlar var. Narrative Science şirketinin geliştirdiği Quill adlı yazılım (https://www.narrativescience.com/quill), spordan politikaya kadar eldeki verileri derleyip dil bilgisi ve anlam yönünden hatasız, okunaklı makaleler üretebiliyor. Quill’in ürettiği makaleler, şu anda Forbes dergisi dahil dünyanın önde gelen dergilerinde kullanılıyor. Benzer yazılımlar, otomatik olarak, kişiselleştirilmiş e-postalar atabiliyor, sosyal medya mesajları yayımlayabiliyor. Kişiselleştirilmiş e-posta derken, alıcının ad ve soyadına uygun e-postalar yazmaktan söz etmiyorum. e-Postayı yazan kişinin önceki yazışmaları analiz edilerek benzer üslupta mesajlar üretilebiliyor.

Yapay zekanın büyük veri ile birleşmesiyle sistemler önceki verilerden öğrenebiliyorlar. Örneğin Google’ın sürücüsüz otomobilinde uygulanan strateji beyaz yakalı birçok iş için de uygulanabilir. Otomobili kullanan yazılım insanı taklit etmiyor, farklı bir strateji uyguluyor. Sürekli gerçek zamanlı veriyle besleniyor ve bununla arabanın hareketleri belirleniyor. Fakat otomobil devasa bir tarihsel veri yığınından öğreniyor. Ford (2015) aynı stratejinin bir çok beyaz yakalı işi içinde uygulanabileceğini savunuyor: Önce tarihsel veri yığınından rutin adımları belirlemek, sonra da beklenmedik durumlara karşı kendi kendine öğrenen bir sistem yaratmak. 1997 yılında saniyede 200 milyon pozisyon deneyebilen Deeper Blue, dünya satranç şampiyonu Garry Kasparov’u tartışmalı bir maç sonunda yendiğinde çok heyecanlanmıştık. Bu bize IBM’in çok güçlü bilgisayarları olduğunu gösteriyordu ama bunun ne işe yarayacağı belirsizdi. Fakat 2011 yılında Jeopardy! adlı bilgi yarışmasında IBM’in Watson adlı bilgisayar sisteminin eski şampiyonları devirip yarışmayı kazandıktan sonra yapay zeka ve büyük veri birlikteliğinin neler yapabileceği daha net görülebiliyor (https://www.youtube.com/watch?v=WFR3lOm_xhE). Örneğin Watson benzeri bilgisayar sistemleri tıpta hastalıkların teşhisinde kullanılabilir. Tüm uzmanlıkları kendinde toplayan bir sistem tıpta uzmanlaşmanın yarattığı zorlukları aşabilir, tek bir alanda uzman doktorun görmesinin olanaksız olduğu ilişkileri fark edebilir, bir doktordan daha hızlı ve doğru teşhis koyabilir, ama birçok doktoru da daha düşük ücretle çalışmaya zorlayabilir. Finans konusunda kullanıcıya tavsiyelerde bulunabilir. IBM’in Ross adlı robotu ise şimdilik sadece avukatlara yardımcı oluyor ve birçok hukuk şirketi bu robottan satın almak için sıraya girmiş durumda (http://www.ntv.com.tr/teknoloji/ilk-robot-avukat-goreve-basliyor,0cvqy_XBnUesBjsVu1izQQ). Doktoru da, hukukçuyu da kendi ücretli emekçisi haline getiren sistem, şimdi onların yerine robotları koymaya çalışıyor.

***

Kısacası, ekonomi tarihindeki örüntülerden yola çıkarak aynı senaryonun tekrarlanacağı, ortadan kaldırılan işlerin yerini yenilerinin alacağı öngörüsünü sağlıklı bulmuyorum. Ford’un (2015) yaptığı gibi var olan teknolojilerin uygulama alanları, sektörlerde yarattığı değişim, bilimsel araştırmaların yönelimleri incelense ve tarihteki örneklerle karşılaştırılsa çok daha faydalı olacak. Eğer ortaya şu anki uygulamaların ve teknoloji politikalarının işsizliği artırdığı yönünde güçlü delillere ulaşılabilirse buna karşı politikalar üretilebilir.

Ancak sorunun kaynağının da aynı yerde saklı olduğunu düşünüyorum. Otomasyon sistemleri ve robotlar işimizi elimizden almıyor çünkü teknoloji tarafsız değil ve gökten zembille inmiyor. Şirketlerin çıkarları, hükümetlerin yönlendirmeleri ve tüketicilerin tercihleri ile şekilleniyor, teknolojinin oluşumunda içinde geliştiği koşullar etkili oluyor. Momentum Machines örneğinde olduğu gibi en başından işçi maliyetlerinden kısmak gibi bir hedef varsa teknolojinin gelişimi de bu yönde olacaktır. Watson gibi doğal dil işleyen ve büyük veriden yararlanan sistemlerin sonraki gelişimi daha kaliteli sağlık hizmeti verebilme yönünde olabilir. Ama aynı teknoloji çağrı merkezlerindeki işçi maliyetlerini azaltmak için de ilerletilebilir. Dolayısıyla sorun teknolojinin kendisinde değil içinde geliştiği koşullarlar ve gelişimine etkide bulunan aktörlerle ilgilidir. Belki de bilişim teknolojilerinin aşırı yıkıcılığı üretim ilişkilerinde de bir yıkım gerektiriyordur. Freeman’ın belirttiği gibi asıl sorun robotlara, daha genel anlamda teknolojiye kimin sahip olacağıdır. Eğer teknolojinin tek sahibi şu anda olduğu gibi yine dünyanın en zenginleri olursa Tahsin Yücel’in Gökdelen romanındaki gibi bir dünyaya hazırlıklı olmamız gerekiyor…
Kaynaklar

Autor, D. (2010). The polarization of job opportunities in the US labor market: Implications for employment and earnings. Center for American Progress and The Hamilton Project.

Brynjolfsson, E., & McAfee, A. (2014). The second machine age: Work, progress, and prosperity in a time of brilliant technologies. WW Norton & Company.

Ford, M. (2015). Rise of the Robots: Technology and the Threat of a Jobless Future. Basic Books.

Freeman, R. B. (2015). Who owns the robots rules the world. IZA World of Labor.

Rotman, D. (2013). How technology is destroying jobs. Technology Review, 16(4), 28-35.

 

 

20 Aralık 2016

Posted In: 1984, Emek, Fikri Mülkiyet, gökdelen, işsizlik, istihdam, mülkiyet, neoliberalizm, otomasyon, Özgür yazılım, robotlar

WP Twitter Auto Publish Powered By : XYZScripts.com