Şirketlerin ve Hükümetlerin Yönettiği Akıllı Şehirler

Akıllı şehir teknolojileri tüm dünyada hızla yaygınlaşıyor. ABD’deki şehirlerin üçte ikisinden fazlası akıllı şehir teknolojilerini uygulamaya çalışıyor. Ama bu sefer en önde ABD değil, Çin var. Çin, eski şehirlerini yeniden inşa ediyor ve sıfırdan yeni şehirler yaratıyor. Akıllı şehir hareketi, bilişim teknolojilerinin bu iki lider ülkesiyle de sınırlı değil. Londra’dan Singapur’a, Rio de Janeiro’dan Delhi’ye ve Güney Afrika’daki Cape Town’dan Pasifik Adası’ndaki Mauritius Cumhuriyeti’ne kadar akıllı şehir teknolojileri birçok yerde deneniyor. Fakat Mosco’nun (2019) dikkat çektiği gibi, son on yıldaki hızlı gelişmelere rağmen, insanlar akıllı şehirlerin ne olduğu hakkında yeterli bilgiye sahip değiller. Örneğin, ATG Access’in Birleşik Krallık’ta, 1000 kişinin katılımıyla gerçekleştirdiği bir araştırmada, katılımcılarının %68’inin akıllı şehrin ne olduğunu bile bilmediği ortaya çıkmış (https://www.atgaccess.com/files/downloads/atg-smart-cities-whitepaper.pdf).

Akıllı şehirlerin uluslararası düzeyde kabul gören bir tanımı yok. Bu nedenle, İngiltere gibi gelişmiş bir ülkede bile insanların akıllı şehirlerin ne olduğunu bilmemesine fazla şaşırmamak gerekiyor. Çeşitli uluslararası kuruluşların tanımlarına baktığımızda ise akıllı şehirlerin açıklayıcılıktan uzak ve daha çok teknoloji odaklı olduğunu görüyoruz (https://www.akillisehirler.gov.tr/akilli-sehir-nedir/):

Akıllı ve sürdürülebilir şehir, mevcut ve gelecek nesillerin ekonomik, sosyal, çevresel ve kültürel ihtiyaçlarını gözetirken; yaşam kalitesini, şehircilik hizmet sunumunun verimliliğini ve rekabet gücünü artırmak için bilgi ve iletişim teknolojilerini ve diğer araçları kullanan yenilikçi bir şehirdir (ITU, 2016).

Şehrin planlamasını, yönetimini, inşasını, akıllı hizmetleri kolaylaştıracak Nesnelerin İnterneti, Bulut Bilişim, Büyük Veri ve entegre Coğrafi Bilgi Sistemleri gibi yeni nesil bilgi iletişim teknolojilerinin uygulandığı yeni bir kavram ve yeni bir modeldir (ISO, 2014).

Akıllı Şehir; Ekosistem varlıklarına sürdürülebilir, müreffeh ve kapsayıcı bir gelecek sunmak için fiziksel, dijital ve insani sistemlerin yapılandırılmış bir çevre ile etkin entegrasyonudur (PAS 180, 2014).

Akıllı şehirlerin net bir tanımı olmamasına rağmen akıllı şehir hareketinin başlangıcı IBM’nin 2009 yılında yayımladığı “Daha akıllı şehirlerin vizyonu” başlıklı rapora dayandırılıyor (https://www-03.ibm.com/press/attachments/IBV_Smarter_Cities_-_Final.pdf). Mosco (2019), IBM’in akıllı şehir hamlesini 2008 ekonomik krizi sonrasında yeni pazarlar yaratmayı hedefleyen bir açılım olarak değerlendiriyor. Raporda yer alan vaatler akıllı şehir tanıtımlarında hâlâ oldukça yaygın: Suçla mücadele ve daha sağlıklı yaşam; trafik sıkışıklığını aşmak ve kazalara daha hızlı müdahale edebilmek; daha yüksek bağlantı hızı; su kaynaklarının kullanımında farkındalığı artırmak; tüketicilerin fiyat sinyallerini daha iyi göndermesini sağlayarak enerji sektöründeki pazar performansını artırmak.

IBM’ye göre akıllı şehirler, birbirine bağlı enformasyondan kaynaklarından yararlanarak kendi faaliyetlerini daha iyi anlıyor ve kontrol ediyor; sınırlı kaynakları en verimli biçimde kullanabiliyor. IBM’nin rakiplerinden Cisco ise enformasyon ve iletişim teknolojileriyle elde edilecek verimlilik artışı, maliyet düşüşü ve yaşam kalitesindeki artış üzerinde duruyor. Şirketlere ve şehirlere akıllı şehir uygulamaları üzerine danışmanlık yapan McKinsey 2018 yılında yayımladığı raporunda akıllılığı, akıllı şehir teknolojilerinin varlığı, şehirlerin teknoloji yoğun altyapılara ne kadar iyi uyum sağlayabildiği ve şehir sakinlerinin gerçek zamanlı toplu taşıma bilgileri ve uzaktan tıbbi teşhis gibi akıllı şehir uygulamalarını ne kadar benimseyebildiğiyle ölçüyor. Akıllı şehirleri, bilgisayar ve akıllı telefon metaforlarıyla açıklamayı deneyenler de var. Siemens, akıllı şehirleri bir açık hava bilgisayarına benzetiyor. Jenny McGrath de Kansas City’deki akıllı şehir projesini tartıştığı yazısında akıllı şehri, algılayıcılarla donatılmış ve uygulamalara ihtiyaç duyan dev bir akıllı telefona benzetiyor (https://www.digitaltrends.com/home/kansas-city-smart-city-technology/).

Teknoloji şirketleri, kendi bakış açılarına göre akıllı şehirleri tanımlıyorlar. Mümkün olduğunca çok veri toplayarak ve bunu şehirleri daha verimli yönetmek için kullanarak maliyetlerin düşürüleceğini ve hedeflerin gerçekleştirilebileceğini düşünüyorlar. Mosco (2019), akıllı şehirlerde teknolojinin ve verinin önemini kabul etmekle beraber bu tanım ve metaforlardaki basitliği aldatıcı buluyor. Hiç kimsenin şehrin işleyişini daha iyi kavramaya, kontrol etmeye ve daha verimli yapmaya itirazı olamaz ama burada kritik soru, bunların neleri hedeflediğidir. Akıllı şehirlerde kullanılan teknoloji, eşitsizliği artırabileceği gibi tam tersini de yapabilir. Londra, Singapur ve New York başarılı akıllı şehir örnekleri olmalarının yanında eşitsizliğin de giderek arttığı yerlerdir. Cisco, teknoloji yardımıyla verimlilik artışından, maliyet düşüşünden ve yaşam kalitesi artışından söz ediyor. Ama hangi amaç için ve kim için? Örneğin Singapur akıllı teknolojileri evsiz insanları belirlemek ve sokaklardan uzaklaştırmak için kullanıyor. San Diego, bir çok şehirde olduğu gibi sokak lambalarına gözetim kameraları yerleştiriyor. San Diego’nun iş ortağı General Electric (bir çok teknoloji şirketi gibi) bundan bir yarar sağlıyor ama ya şehir sakinleri?

Mosco (2019), bilgisayar ya da akıllı telefon metaforu yerine daha esnek gördüğü platform metaforunu tercih ediyor ve şehri sadece bir şey olarak değil, bir süreç olarak ele alıyor. Platformlar en genel anlamıyla iki ya da daha fazla kullanıcının etkileşimini sağlayan dijital altyapılar. Son yıllarda yaygınlaşan platform ekonomileri, müşteriler, servis sağlayıcılar, üreticiler, tedarikçiler ve fiziksel nesneler gibi farklı tipte kullanıcıları bir araya getiriyorlar. Bilgisayar ve akıllı telefon metaforları yerine akıllı şehirleri, kullanıcıların gereksinimlerini karşılayan, fiziksel bir alanda yer alan bir platform olarak görmek daha açıklayıcı olabilir.

Akıllı şehir hareketinin sözcüleri, dikkati özellikle yeni teknolojilere çekerek akıllı teknolojilerin sokakları daha güvenli, havayı daha temiz, ulaşımı daha verimli yapacağını iddia ediyorlar. Anında iletişim ve algoritmalar sayesinde insanlara göre daha hatasız ve çok daha hızlı karar verebilen yönetim sistemleri geliştirilebilecek. Ancak bu iddialara karşı akıllı şehirlerle beraber gözetimin derinleştiğini, şehirlerin yönetiminin özel şirketlere devredildiğini, demokrasinin daraldığını, bilgisayar korsanlarının saldırısına fazlasıyla açık bir ortam yaratıldığını, iklim değişikliğinin hızlandığını savunanlar da var. Bazı şehirlerde, toplumsal hareketler şirket politikalarının sorgulanmasını sağlayabiliyor ve belediyeleri politikalarını değiştirmeye zorlayabiliyor. Fakat bu da ancak kamuoyu, akıllı şehirler ve olası sonuçları hakkında bilgilendirilebildiğinde; akıllı şehirler, yapay zeka, nesnelerin interneti, 5G vb teknolojilere indirgenmeden yönetim sorunsalı ekseninde ele alındığında mümkün oluyor.

İnsanlar risklerin farkına vardıkça belediyeler ve şirketler de vizyonlarını pazarlarken kullandıkları iki sihirli kelimenin (inovasyon ve verimlilik) yanına bir üçüncüsünü, katılımcılığı, ekleyerek önleyici bir hamle yapma gereği duyuyorlar. Fakat dünyadaki akıllı şehir örneklerini incelediğimizde insanların geleceklerini ilgilendiren politika ve uygulamalara katılımının çoğu zaman sınırlı bir düzeyde gerçekleştiğini görüyoruz.

Akıllı şehirleri, farklı aktörleri (resmi kurumlar, şirketler ve yurttaşlar) bir araya getiren bir platform olarak ele almak, buralardaki gerilimleri ve güç ilişkilerini daha açık seçik görebilmemize yardımcı oluyor. Böylece kullanılan teknolojiler yerine farklı çıkar ve çatışmaları tartışabiliyoruz. Bir akıllı şehri yönetmenin çeşitli yolları olsa da akıllı şehirlerin yönetiminde üç temel eğilimle karşı karşıyayız. Birinci eğilim, akıllı şehirlerin şirketlerin (çoğunlukla teknoloji şirketlerinin) öncülüğünde geliştirilmesi. İkinci eğilim, özellikle Çin’de olduğu gibi akıllı şehirlerin yerel, bölgesel ve ulusal düzeydeki resmi kurumların öncülüğünde geliştirilmesi ve yönetilmesi. Üçüncü eğilim ise kamusal alanı, verinin kamusal sahipliğini ve yönetimini, akıllı şehir geliştirme sürecine tam katılımı hedefleyen yurttaş odaklı akıllı şehirler.

Bu yazıda, ilk ikisini ele alacağım. Yurttaşların yönetimde etkili olduğu akıllı şehirleri ve bu şehirlerin en önemlisi olan Barcelona’yı başka bir yazıda, daha ayrıntılı tartışmak istiyorum. Ama önce katılım ve katılım düzeyi hakkında netleşmek gerekiyor. Çünkü bazen katılımı güçlendirdiğini iddia eden uygulamalar gerçek katılımcılığı engellemeyi hedefleyen bir strateji de olabiliyor.

“Ben katılıyorum, sen katılıyorsun, o katılıyor, biz katılıyoruz, siz katılıyorsunuz… Onlar kar ediyor.”

Başlık, Fransız öğrencilerin 1968 Baharı’nda astıkları bir afişten ve günümüzdeki akıllı şehir ve belediyecilik tartışmalarında sıkça başvurulan katılımcılık söyleminin aldatıcılığını özetliyor.

Sherry Arnstein, 1969 yılında yayımlanan “Yurttaş Katılım Merdiveni” adlı makalesinde yurttaş katılımını, ıspanak yemeye benzetir: İnsanlar için iyi olduğundan teoride kimse ıspanağa karşı değildir. Yönetilenlerin yönetime katılımı da teoride demokrasinin köşe taşlarından biridir ve neredeyse herkesin kuvvetlice alkışladığı bir fikirdir. Fakat bu ilkeyi yoksul siyahlar, Meksikalı Amerikanlar, Porto Rikolular, Kızılderililer, Eskimolar ve beyazlar için uygulamaya kalktığınızda alkışlar zayıflar. Yoksullar, katılımı gücün yeniden dağıtımı olarak tanımlamaya çalıştıklarında katılım ilkesi, çeşitli ırksal, etnik, ideolojik ve siyasi muhalefetle karşı karşıya kalır.

Gücün yeniden dağıtımı olmadan katılım, güçsüzler için boş ve yararsız bir süreçtir. Katılım söylemi süreçten sadece belirli bir kesim yarar sağlayabilecek olmasına karşın güç sahiplerinin tüm tarafların dikkate alındığını iddia edebilmesine yardımcı olur. Böylece sadece statükoyu devam ettirmek kolaylaşır. Arnstein (1969) katılımı, şu anda siyasi ve ekonomik süreçlerden dışlanan yurttaşların geleceğe bilinçli olarak dahil edilmesini sağlayan gücün yeniden dağıtımı olarak tanımlar. Bilgilerin nasıl paylaşıldığını, hedeflerin ve politikaların nasıl belirlendiğini, vergi kaynaklarının nasıl tahsis edildiğini, programların nasıl işletildiğini, işlerin ve yardımların nasıl bölüştürüldüğünü belirleyen bir stratejidir.

Olguları siyah ve beyaz diye sınıflandırmak çoğu zaman yanıltıcı oluyor. Bu nedenle, yurttaş katılımının varlığından ve yokluğundan söz etmek yerine katılımın farklı düzeylerini tartışmak daha açıklayıcı olabilir. Arnstein (1969), yurttaş katılımını sekiz basamaktan oluşan bir merdiven örneğiyle açıklamaya çalışır. Arnstein (1969) katılım merdiveninin konuyu basitleştirdiğini; yoksulların ve güç sahiplerinin homojen bloklar olmadığına kabul eder. Ama bu benzetme farklı katılım/katılamama durumları olabileceğini ve farklılıkları tartışabilmeyi kolaylaştırmaktadır. Zaaflarına karşın, Arnstein’in (1969) 50 yıl önceki federal sosyal programlardan örneklerle açıkladığı katılım merdiveninin günümüzdeki katılımı (ve katılımsızlığı) anlamaya yardımcı olacağını düşünüyorum.

Arnstein’in (1969) katılım merdiveninin ilk iki basamağında bir katılım söz konusu değildir. Birinci basamak manipülasyondur. İnsanlar yurttaş katılımı adına danışma kurullarına yerleştirilirler. Amaç onları eğitmek veya desteklerini sağlamaktır. Bir bakıma halkla ilişkiler çalışmasıdır. İkinci basamak, terapi olarak adlandırılır. Uzmanlar, yurttaşları planlamaya dahil etme maskesi altında vatandaşları klinik grup terapisine tabi tutarlar. Bu katılım biçiminde yurttaşlar kapsamlı faaliyetlerde bulunurlar, ancak aslında yapılan yurttaşların gerçek sorunlarından uzaklaştırılarak daha üst toplumsal değerlere uyum sağlamasına yardımcı olmaktır.

Üçüncü basamak, bilgilendirmedir. Bilgilendirme, yurttaş katılımı için gerekli bir koşul olmasına karşın burada söz konusu olan tek yönlü, yönetenlerden yurttaşlara bir bilgi akışıdır. Yurttaşların geri bildirim ya da itiraz hakkı yoktur. Yöneticiler, afişlerle ve çeşitli medya araçları ile ve kendi belirledikleri zamanda yurttaşları faaliyetleri hakkında bilgilendirirler. Dördüncü basamak, danışmadır. Bu aslında katılımın üst basamakları için de gerekli bir adımdır. Eğilim anketleri, mahalle buluşmaları ve halka açık toplantılarla yurttaşlara düşüncelerini ifade etme olanağı verilir. Fakat buradaki temel sorun, yarım kalan bir girişim olması ve belirtilen görüş ve önerilere doğrultusunda gerekli adımların atılmamasıdır. Beşinci basamak olan yatıştırmada ise yurttaşlara sınırlı bir katılım ve dolayısıyla etkide bulunabilme olanağı verilir. Göstermelik olarak danışma kurullarına ve komisyonlara dahil edilirler. Ama buralarda ya azınlık durumundadırlar ya da son karar bir üst makam tarafından alınmaktadır.

Arnstein (1969), üçüncü, dördüncü ve beşinci basamaklardaki katılımın göstermelik olduğunu yazar. Altıncı, yedinci ve sekizinci basamaklar ise iktidarın yurttaşta olduğu basamaklardır. Ortaklık olarak adlandırılan altıncı basamakta yurttaşlar ve iktidar sahipleri arasındaki müzakereler sonucunda iktidarın paylaşımı vardır. Taraflar, ortak politika kurulları, planlama komiteleri ve anlaşmazlıkların çözümüne yönelik mekanizmalar gibi yapılar aracılığıyla planlama ve karar verme sorumluluklarını paylaşmayı kabul ederler. Bu basamakta, güç sahiplerinin iktidarlarından gönüllü olarak vazgeçmesi değil, örgütlü bir topluluğun iktidara ortak olması söz konusudur. Yedinci basamak, iktidarın yetkilerinin halka devredilmesidir. Halk yönetsel güç çoğunluğunu elinde bulundurur ve yönetenler yetkilerini halka devrederler. Sekizinci ve son basamak ise yurttaş denetimidir. Bu basamakta halk her şeyin denetim yetkisine sahiptir.

Şirketler ve hükümetler tarafından yönetilen akıllı şehir örneklerini incelediğimizde ise yurttaş katılımının ya hiç olmadığını ya da katılımcılık iddiasının beşinci basamağa hiç erişemediğini görüyoruz. Daha da kötüsü Eric Schmidt, Jeff Bezos, Mark Zuckerberg, Elon Musk, Peter Thiel, Bill Gates gibilerine göre şehirlerin yıllardır seçilmiş resmi görevliler tarafından yönetilmiş olması bunun böyle devam edeceği anlamına gelmiyor. Pazarın, şehirlerin karşı karşıya olduğu zorlukların üstesinden gelmede kamu sektörünün yıllanmış bürokrasilerinden daha başarılı olacağını öne sürüyorlar. Şehirlerin yönetiminin şirketlere devredilmesi yıllardır devam eden özelleştirme ve kuralsızlaştırma politikalarının mantıksal sonucu (Mosco, 2019).

Eski Şehirleri Akıllandırmak ya da Yeni Şehirler Kurmak

Her akıllı şehir planı kendine özgü olsa da iki temel yaklaşım var. Birinci yaklaşım, var olan bir şehrin altyapısını yeni ulaşım, enerji ve iletişim ağları yaratan yeni internet teknolojileri (bulut bilişim, büyük veri, nesnelerin interneti ve 5G) ile yeniden inşa etmek. İkinci yaklaşım ise yeni bir şehir inşa etmek. Bunun yanında pilot teknolojilerin denendiği şehirler de var.

Akıllı şehirler gerçekten de IBM’nin hedeflediği gibi teknoloji şirketleri için yeni bir pazar oldu. Şehirlerini akıllandırmak isteyen belediye yönetimlerine donanım, yazılım ve danışmanlık sattılar; onlarla beraber akıllı şehirler inşa ettiler. Teknoloji şirketleri şehir yönetimlerini merkezi izleme ve karar alma tesisleri için ikna etmeye çalıştılar. Bunda ilk başarılı olan, 2010 yılının sonunda Rio de Janeiro’da, Rio Operasyon Merkezi’ni kuran IBM’di. Merkez, başlıca birimlerdeki (polis ve itifaiye gibi) gelişmelerin yanında şehirdeki çeşitli olayları (hava durumu, elektrik, su, çöplerin toplanması vb) tek bir yerden izleyebiliyordu. Herhangi bir kamu aracının nerede olduğu bilinebiliyordu.

Ancak Merkez’in faaliyetleri şeffaf değildi ve tüm şehre yayılan bu kameraların konuşlandırılmasında yurttaş katılımı söz konusu değildi. Merkez, 2014 Dünya Kupası ve 2016 Olimpiyatları’ndaki protestoları izlemek için kullanıldı. Belediye Başkanı, yaptığı bir konuşmada her bir köşenin 7 gün 24 saat izlendiğini övünerek anlatıyordu. Fakat akıllı şehir teknolojilerinin, eşitsizlik, yoksulluğun yönetişimi veya şehrin planlanması için kullanılmadığını vurgulayan eleştiriler de vardı. Siemens de Singapur’da Şehir Kabini adı verilen bir merkez inşa etti. Başka şehirlerde de benzer girişimler oldu ancak gözetim ve merkezileşmeden duyulan kaygılar örgütlendiğinde belediyeler ve şirketler projelerini rafa kaldırmak zorunda kaldılar.

Şirketler, şehir yönetimlerine doğrudan teknoloji satmanın yanında akıllı şehirlere farklı stratejilerle eklemleniyorlar. Amazon, Seattle’ı tamamen otomatikleştirilmiş Amazon Go dükkanları gibi yenilikleri test edebileceği bir teknoloji laboratuvarı olarak görüyor.

Google, 2015 yılında Sidewalk Labs adlı birimini kurduktan sonra şehirlerin yeniden yapılandırılmasında daha aktif roller üstlenmeye başladı. Ancak ellerine bir şehir teslim edildiğinde ne yapabileceğini tüm dünyaya göstermek isteyen Google’ın hayali, Toronto’yla yapılan anlaşma sonrası gerçek oldu. Artık sürücüsüz araçlar, uyarlanabilen trafik şeritleri ve lambaları, ses ve kirliliğin izlenmesi, dronlarla teslimat, karın eritildiği ısıtılmış bisiklet yolları gibi yenilikleri deneyebilirler.

Akıllı şehirler, şehirler için fazlasıyla maliyetli ve teknoloji şirketleri için kârlı bir iş. Şehir yönetimleri, şirketlerle farklı ortaklıklar kuruyor. Yurttaşların katılımsızlığının ötesinde şirketler seçilmiş yöneticilerin de yerini alabiliyor. Ama daha ilginci elde ettikleri alanlarda sıfırdan şehirler kurmayı deneyen girişimciler.

Facebok, Menlo Park’taki genel merkezinin yanındaki Willow Village semtinde 1500 apartman dairesinin yanında dükkanlar, okullar, parklar ve bir kültür merkezi içeren bir kasaba inşa ediyor. Genel merkezin yakınında yaşayan çalışanlar bu apartmanların ilk sakinleri olacak.

Elon Musk’ın Tesla’sının Avustralya’da inşa ettiği YarraBend, Tesla bataryalardan, Tesla güneş enerjisinden, Tesla taşımacılıktan ve Tesla şarj istasyonlarından yararlanacak. Tesla ve ortaklarına göre YarraBend sakinleri tipik bir yerleşim yerinden %80 daha az çöp üretecek ve %43 daha az su tüketecek. Fakat içerdiği tüm ileri teknoloji uygulamalarına rağmen 80 yıllık bir kağıt fabrikasının neden olduğu asbest kirliliği YarraBend’in işini zorlaştırıyor. YarraBend’i geliştirenler araziyi satın aldıklarında asbestten haberdar olduklarını ama kirliliğin kapsamı ve onu temizlemenin maliyetinden haberdar olmadıklarını iddia ediyorlar. Şehri geliştirenlerle araziyi satan şirket arasındaki dava devam ediyor.

Bill Gates’in adı ise Arizona çölündeki Belmont’ta inşa edilen bir akıllı şehir ile beraber anılıyor. Gates’in sürecin ne kadar içinde olduğu tam bilinmiyor. Şehir yaklaşık 140 km2 bir alanda inşa edilecek ve %10’u ticari faaliyetlere, %1’i de kamu okullarına ayrılacak. Şehirde 80000 evin olması ve 200000 kişin yaşaması planlanıyor. Ama su kaynağı hakkında sorun yaşıyorlar.

Blockchains LCC, blokzincirinin hayatın her alanında olduğu, sıfırdan bir şehir inşa ediyor. Şehir yapay zeka, nanoteknoloji ve 3B yazıcılar ile bir teknoloji cenneti olacak. Kuzey Nevada çölünde, 283 km2‘lik alanda inşa edilecek şehirde evler, apartmanlar, okullar, üniversite kampüsü ve hatta bir banka olacak. Şirketin sahibi Jeffrey Berns, bankalardan pek haz etmeyen birisi ve kendi başına blokzinciri teknolojisine dayanan bir banka inşa etmek istiyor. Suyun nereden geleceği yine belirsiz.

Bir iş geliştirme merkezi olan Y Combinator’ın arkasında olduğu Yeni Şehirler İnisiyatifi ise çılgın projelerle arasına mesafe koymaya çalışıyor ve mevcut yasal kısıtlamaları göz önüne alarak mümkün olan en iyi şehri tasarlamaya çalıştığını öne sürüyor. Y Combinator, herhangi bir yer belirtmiyor fakat kriterlerine uyan yerlere yatırım yapacağını söylüyor. Y Combinator, birçok akıllı şehir projesinde hiç gündeme gelmeyen bazı soruları soruyor:

  • Şehri ne için optimum hale getirmeliyiz?
  • Bir şehrin verimliliğini nasıl ölçmeliyiz?
  • Hangi değerleri şehir kültürüne yerleştirmeli veya yerleştirmemeli?
  • Şehirler daha fazla insanın mutlu olmasına ve potansiyellerine ulaşmasına nasıl yardımcı olabilir?
  • Çeşitli insanlar şehirde yaşamaya ve çalışmaya nasıl teşvik edebilir?
  • Yurttaşlar yönetime nasıl rol göstermeli ve katılmalı?
  • Bir şehrin sürekli geliştiğinden ve her zaman değişime açık olduğundan nasıl emin olabiliriz?
  • Konutları nasıl ekonomik hale getirebiliriz?
  • Bir şehirdeki araçlar için doğru rol nedir?
  • Daha yaşanabilir yerler yaratmak için kamusal ve özel alanları nasıl düzenleyebiliriz?
  • Şehirler arası hızlı ulaşımı nasıl uygun fiyatlı hale getirebiliriz?
  • Kolay anlaşılır ve kapsamlı kural ve düzenlemeleri nasıl yapabiliriz?
  • Yeni şehrin çevredeki topluluk üzerinde ne gibi etkileri olacak?

Belki doğru sorular, ama Mosco’nun (2019) endişesine hak vermemek elde değil: Startup mantığıyla bir şehir kurulabilir mi?

Hükümetlerin Yönettiği Akıllı Şehirler

Çin, akıllı şehir teknolojilerini kullanan, eski şehirlerini yenileyen, sıfırdan yeni şehirler yaratan ülkelerin başında geliyor. Çin’in akıllı şehirleri sosyal kredi notu gibi gözetim uygulamaları ile gündeme gelmesine rağmen Batı’daki örneklerine göre daha planlı ilerliyor. Ama Çin’e geçmeden kısaca Singapur’a bakmakta yarar var.

Singapur, merkezi ulusal hükümetin kontrolünde akıllı şehirler yaratmak isteyen ülkeler için bir model sağlıyor. Singapur özellikle Çin ve Hindistan’daki akıllı şehir projelerini etkiledi. Dubai’yi bir akıllı şehir yapmak isteyen Birleşik Arap Emirlikleri’ne örnek oldu. Altyapıyı ve insanları izlemeyi hedefleyen bir akıllı şehir girişimini 2014 yılında başlatan ve daha en başından gözetim güdüsüyle yola çıkan Singapur, kendi yurttaşları ve ülkeye gelen ziyaretçiler hakkında topladığı verinin kullanımı ve yönetimi üzerine yoğunlaştı. Kısa sürede sokağa çöp atanların belirlenip cezalandırıldığı ve evsizlere sıfır tolerans gösterilen bir şehir haline geldi. 2016’da şirketlerle bir anlaşma yaparak hemen hemen her yeri algılayıcılarla donattı. Böylece kamusal alanlardan alışveriş merkezlerine kadar şehri izlemek, ülkede kayıtlı her bir aracın hareketini takip etmek olanaklı hale geldi. Ayrıca halka açık huzurevleri gibi yerler de yoğun olarak izleniyor ve sürekli gözetim sayesinde herhangi bir olumsuz durumda aileler hızla haberdar ediliyor.

Veriler, Sanal Singapur adı verilen çevrimiçi bir platformda toplanıyor ve hükümet bu platform sayesinde gerçek zamanlı olarak ülkenin gidişatı hakkında genel ve özel bilgilere erişebiliyor. Veri yardımıyla geliştirilen algoritmalar hükümete salgınların yayılışı ve kalabalıkların bir terörist saldırıya nasıl tepki verebileceği hakkında kestirimlerde bulunabilmesine; hükümetin insanları belirli davranışlara yönlendirebilmesi için dürtmesine yardımcı oluyor. Siemens’in geliştirdiği Şehir Kabini adı verilen merkezi operasyon birimi çevrimiçi karar almayı hızlandırıyor.

Singapur, tüm bunları kamuoyunun görüşünü almadan ve verinin kullanımı hakkında herhangi bir sınırlama olmadan yaptı. Kararlar merkezi olarak ve kamuoyunun bilgisi olmadan alınıyor. Devlet kurumları, başta ulaşım, iletişim ve barınma altyapısı (nüfusun %80’i devlet konutlarında yaşıyor) olmak üzere olmak üzere gündelik hayatı birçok açıdan kontrol ediyor. Fakat Mosco’nun (2019) vurguladığı gibi Singapur, güçlü merkezi yönetimler tarafından yönlendirilen akıllı şehir projelerinin risklerini de ortaya koyuyor. Temiz sokakların, az suçun, verimli ulaşımın, geniş bant iletişimin ve evsizlerin daha az görünür olmasının bir bedeli var. Yurttaşlar bu bedeli şimdiye kadar görülmemiş bir düzeyde olan ve hayatın her alanını yöneten, yönlendiren ve metalaştıran gözetimle ödüyorlar. Ayrıca bilgisayar korsanlarının düzenli saldırılarına karşı hazırlıklı olmaları gerekiyor.

Çin

5,6 milyon nüfusa sahip bir şehir devleti olan Singapur’un karşı karşıya olduğu sorunlar 1,4 milyarlık Çin’de devasa boyutlara ulaşmasına rağmen akıllı şehirler, Çin hükümetinin politikalarında merkezi bir yere sahip. Dünyada planlama veya geliştirme aşamasında olan yaklaşık 1000 akıllı şehir projesi var ve bunların yarısı Çin’de. Çin’in akıllı şehir stratejisi 2011’de, 12. Beş Yıllık Plan’da yer aldı ve 2011-2013 yılındaki planda Şangay’ın akıllı şehre dönüştürülmesine karar verildi. Şangay gibi eski şehirlerin yanında sıfırdan kurulan akıllı şehirler de var.

Şangay, kent sakinleri için çoğu devlet hizmetine erişimi birleştiren ve kolaylaştıran bulut tabanlı bir platform olan Citizen Cloud’a ev sahipliği yapıyor. 2017 yılı sonu verilerine göre Şangay sakinlerinin üçte biri bu platformu kullanmış. Şehirde Huawei ile birlikte geliştirilen ve sürücülerin mevcut park yerlerini bulmasını kolaylaştıran bir uygulama kullanılıyor. Kamera ve algılayıcılardan toplanan veri, yeni enformasyon araçları geliştirebilmeleri için şirketlerle de paylaşılıyor.

Pekin, Guangzhou, Xi’an ve Hangzhou gibi eski şehirlerde de çeşitli akıllı şehir uygulamaları var. Pekin’de bilet veya kart almaksızın toplu ulaşım araçlarını kullanabilmeyi sağlayan bir mobil uygulama kullanılıyor. 11000’i startup olmak üzere 140000 teknoloji şirketine ev sahipliği yapan Guangzhou, iş inovasyonunun akıllı şehri olarak görülüyor. Guangzhou’da özellikle sağlık sistemleri ön planda. Guangzhou’daki büyük hastaneler, vatandaşların randevu alabilecekleri, ücret ödeyebilecekleri ve diğer sağlık hizmetlerine erişebilecekleri bir uygulamaya sahipler. Yeni internet teknolojilerinden yararlanan Xi’an, kırdan şehre göçün kaydını tutuyor ve kamu hizmeti programları geliştiriyor. Hangzhou, Çin’in Amazon’u Alibaba ile birlikte çalışıyor. Şehirdeki algılayıcılar ve gözetim kameralarının yardımıyla, yol koşulları hakkında gerçek zamanlı veri toplanıyor ve veriler, şehirdeki büyük kavşaklarda trafik sinyallerini kontrol eden bir yapay zeka merkezine iletiliyor.

Çin’in Ningşia Hui Özerk Bölgesi’nin merkezi olan Yinchuan, diğer şehirlere göre daha küçük olmasına rağmen daha çok ilgi çeken bir şehir. Şehir nüfusunun üçte biri Müslüman Hui’lerden oluşuyor. Bazıları hükümetin Yinchuan’a yaptığı yatırımı diğer azınlıklara göre daha uysal olan bir azınlığı desteklemesiyle ilişkilendiriyor. Yinchuan, ziyaretçileri selamlayan ve yönlendiren hologramlardan şehrin dört bir yanında bulunan güneş enerjili çöp kutularına kadar tam bir teknoloji cenneti. Bu teknolojiler içinde en çok konuşulan ise yüz tanıma teknolojisi. Yinchuan’da yüzünüz kredi kartı, otobüs bileti ve bazı binalara girebilmeyi sağlayan giriş kartı yerine geçiyor. Yinchuan, gözetim uygulamaları nedeniyle sıkça eleştirilmesine rağmen hükümet bu eleştirileri pek umursamıyor, tam tersine her fırsatta bu şehri sergilemekten gurur duyuyor.

Çin, sıfırdan tamamen akıllı şehir inşa etmede de diğer ülkelerin çok ilerisinde. Genellikle hükümet ve büyük teknoloji firmalarının işbirliğiyle altyapıda (özellikle de taşımacılık ve iletişimde), politika ve güvenlikte verimliliği hedefleyen planlar geliştiriliyor. Ancak Çin’in Xiong’an’da olduğu gibi farklı girişimleri de var. Hükümet Xiong’an’ın yalnız akıllı değil, yeşil bir şehir olması için de çaba gösteriyor. Şehrin düşük karbon ekonomisi için bir model olması bekleniyor.

Başka yerlerde de Xiong’an benzeri girişimler var: Songdo (Güney Kore), Masdar City (Birleşik Arap Emirlikleri), PlanIT Vadisi (Portekiz). Bu yerler başarı ve başarısızlıklarıyla gelecek için bir laboratuvar olma özelliğine de sahipler. Örneğin Songdo da yeni internet teknolojileriyle donatılmış. Çöp kamyonlarına gerek kalmadan çöpler toplanıyor ve elektriğe dönüştürülüyor. Şehirdeki algılayıcılar trafiği düzenliyor ve herkesin çevrimiçi eğitime erişim hakkı var. Fakat projenin uzaması, gerçek metropollerden uzak olması, çok pahalı ve fazla arındırılmış bir bölge olması Songdo’yu bir hayalet kasabaya dönüştürmüş.

Çin, Xiong’an’da bu sorunları aşmak için buranın özel şirketler için bir inovasyon merkezi ve Pekin’in emrinde bir hükümet merkezi olması için çaba gösteriyor. Biyoteknoloji ve tarım endüstrileri için yeşil araştırma, geliştirme ve üretim konusunda uzmanlaşma hedefleniyor. Ayrıca merkezi hükümetin idari faaliyetlerine de ev sahipliği yaparak hava kirliliği ve bürokrasiyle boğuşan Pekin’in yükünü azaltması bekleniyor. Çinli plancıların Songdo’dan aldığı en önemli ders, Xiong’an’ın uzun erimli bir plan olarak değerlendirilmesinin önemli olduğu. Xiong’an, yavaş gelişen ve tam potansiyeline 2035’te erişmesi planlanan bir proje olarak yürütülüyor. Xiong’an, giderek daha önemli hale gelen iklim değişikliği için de bir model olacak. Mosco’nun (2019) vurguladığı gibi çevre duyarlılığı akıllı şehir projelerinde sıkça gördüğümüz gibi basit bir halkla ilişkiler stratejisi değil. Merkezi hükümet, iklim değişikliği, yükselen denizler ve Şangay gibi bazı kıyı şehirlerinin su baskını riski altında olmasını ciddiye alıyor.

Mosco (2019), akıllı şehirlere yapılan büyük yatırımın Çin’in bir tarım toplumundan, önce sanayi, sonrasında da enformasyon toplumuna geçiş stratejisi bağlamında ele alınması gerektiğini belirtiyor. Bu geçiş için altyapıya büyük yatırımların yapılması şart. Akıllı şehirler sundukları yeni iş ve yaşam biçimi olanakları ile insanların ilgisini çekiyor. Bu da Çin hükümetinin dijital sektördeki şirketleri desteklemek ve kontrol etmek, toplumu ileri teknolojilerle yönetmek/izlemek gibi tartışmalı politikalarını meşrulaştırmasına yardımcı oluyor.

Alibaba, Ping An, Tencent ve Huawei; Çin’deki akıllı şehir projelerinin önemli bileşenleri. Çin hükümetinin, yabancı şirketlerin faaliyetlerini sınırlandırması Çinli şirketlerin işini kolaylaştırıyor. Amazon’un yerini Alibaba, Google’ın yerini Baidu, Facebook yerini Tencent, Uber’in yerini Didi Chuxing dolduruyor. Çin hükümetinin şirketlerle ilişkisi her zaman pürüzsüz olmasa da hükümetin ileri teknolojinin geliştirilmesinde tartışmasız bir otoritesi var. Örneğin, Çin’in akıllı şehir uygulamalarını desteklemesinin arkasındaki en büyük güdülerden biri buralardan elde edeceği devasa miktarda kişisel ve kurumsal veri. Hükümet, fotoğrafları, videoları ve metinleri düşük ücretlerle çalıştırdığı insanlara etiketlettirerek yapay zeka endüstrisine (sürücüsüz arabalar, yüz tanıma sistemleri ve algoritmik karar alma sistemlerinin geliştirilebilmesi için) önemli bir kaynak sağlıyor.

Çin ayrıca yurttaşlarının davranışlarını izlemek ve düzenlemek için dijital araçlar geliştiriyor. Bunlardan en dikkat çekeni ise Batı’daki finansal kredi notunu örnek alan sosyal kredi notu sistemi. Sosyal kredi notu sistemi, yurttaşların dijital ayak izlerinden besleniyor ve şehir akıllandıkça yaşamın kayıt altına alınan oranı da artıyor. Kişinin kırmızı ışıkta geçmesi, bir kredi ödemesini aksatması, hükümeti eleştiren bir posta atması kredi notunu düşürüyor ve bazı resmi hizmetlerden (ehliyet, pasaport yenilemek gibi) yararlanabilme şansını azaltıyor. Tam tersine, yurtseverliği gösterme veya yasaları ihlal edenleri bildirme gibi hükümetin hoşuna gidecek davranışlar sosyal kredi notunu yükseltiyor. Kişinin vize almasını ya da çocuğunu iyi bir okula kaydını yaptırabilmesini kolaylaştırıyor. Ancak 1,4 milyarlık Çin’den elde edilen büyük verinin analizinde karşılaşılan sorunlar nedeniyle Çin’in sosyal kredi notu uygulaması yavaş ilerliyor; daha çok akıllı şehirlerde denemeler yapılıyor.

Mosco (2019), Çin’in teknoloji destekli gözetiminin Batı’nın çok ilerisinde olduğunu iddia etmenin abartılı ve Silikon vadisi şirketlerinin uygulamalarını hafife almak olacağını yazıyor. Silikon Vadisi’nin gözetim kapitalizmi, Çin’in sosyal kredi notu sisteminin temelini oluşturuyor. Akıllı şehir söylemi, karmaşık bir toplumu daha verimli yönetmenin bir yolu olarak meşrulaştırılıyor. Artan gözetim uygulamaları için de aynı şeyi söyleyebiliriz.

Hindistan

Herhangi bir hükümet, Çin’in başarısının tekrar edebilir mi? Hindistan bunu tartışmak için iyi bir örnek olabilir. Hindistan bir zamanlar Batı’daki çağrı merkezlerinin taşeronlaştırıldığı, BT değer zincirinin altlarında yer alan bir ülkeydi. Ancak son yıllarda yazılım sektöründeki başarıları Hindistan’ı BT değer zincirinde yukarılara taşıdı. Sektördeki işgücü maliyetlerinin Batı ülkelerine göre daha düşük olması Hindistan’ın Batı ülkeleriyle rekabet edebilmesini sağlıyor. Hindistan hükümeti, 2015 yılında 100 akıllı şehir yaratmayı ve 500 şehri de yenilemeyi planlarken en çok nitelikli işgücüne güveniyordu.

Fakat Hindistan’ın Çin’e göre en büyük dezavantajı hükümetin Çin’deki kadar güçlü ve rakipsiz olmaması. Örneğin, akıllı şehirler kapsamında yürütülen projelerden biri olan Aadhaar’ın 1,3 milyar yurttaşın kişisel bilgilerini ve fotoğrafını buluta yüklemek istemesi büyük bir muhalefetle karşılaştı. Aadhaar, yurttaşların indirimli gıda gibi devlet yardımlarını almalarına yardımcı olacaktı. Dükkanlar, kişinin parmak izini tarayarak Aadhaar üzerinden bir doğrulama yapacaktı. Fakat mahremiyet ve sistemin bilgisayar korsanlarının saldırısına uğrama potansiyeli büyük protestolara neden oldu.

Ayrıca parlamentonun daha az merkezi olması ve merkezi yönetimle şehir yönetimleri arasındaki politik tartışmalar akıllı şehir projelerini olumsuz etkiledi. Bazı yerlerde ise şehir sakinlerinin itirazlarına rağmen yürütülen çalışmalar vardı. Bunlardan biri de Bhopal’di. 2-3 Aralık 1984’te, Union Carbide adlı şirketin tesislerindeki gaz sızıntısından 500.000 Bhopalli etkilenmiş, binlercesi ölmüştü. Doğal olarak Bhopal halkı Batılı şirketlere güvenmiyordu; akıllı şehir projesinin yine bir Batılı şirketle (Hewlett Packard) beraber yürütülecek olması tepkilere neden oldu. Algılayıcılar veri toplayacak; algoritmalarla işler daha verimli yürütülecek ve maliyetler düşecekti. Fakat şehir akıllanırken, düşük gelirli bölgeler akıllı mahallelere yer açmak için yıkıldı; yoksulların gittiği 11 okul ortadan kaldırıldığı için okula devam azaldı. Verimlilik adına şehrin yönetimi yerel, seçilmiş yöneticiler yerine Bhopal Akıllı Şehir Geliştirme Kuruluşu adlı özel bir birime devredildi.

Hindistan’daki akıllı şehir projeleri Çin’dekiler kadar iddialı değildi ve bunun için ayrılan para daha azdı. Ama sorun paradan çok planlamadan kaynaklanıyordu. Alt sınıfların ihtiyaçlarını göz önünde bulundurarak dikkatli bir planlama yapılamadığından çoğunlukla üst sınıfların çıkarlarına hizmet eden çalışmalar yapıldı ve bu da var olan eşitsizlikleri artırdı. Belirli hedefler, proje teslim tarihleri ve değerlendirme için planlar yoktu. Şehirlere CCTV kameralar yerleştirmek ve güneş enerjili sokak lambaları kullanmak bir şehri akıllı yapmaya yetmiyordu. Yoksullar yerlerinden edilirken buralarda inşa edilen yerlere zenginler taşındılar.

Çin, Hindistan’a göre çok daha başarılı. Akıllı şehirler için daha çok yatırım yapılıyor ve çok sayıda başarı öyküsü var. Fakat şunu da akıldan çıkarmamak lazım: Çin’de Hindistan’da olduğu gibi akıllı şehir çalışmalarının karanlık yönlerini kamuoyuna iletebilecek bir basın yok. O yüzden Çin’in karanlık taraflarını bilemiyoruz. Hindistan’ın önemli şirketlerinden olan ve ülkenin BT’deki başarısında önemli bir yere sahip olan Tata Grup, akıllı şehirler hakkında hazırladığı bir raporda akıllı şehir projelerindeki başarısızlıkları ele alırken katılımcılık sorununa işaret ediyor; insanlara yapılan sunumların teknik içeriklerle dolu olduğunu, insanların kendi ihtiyaçlarını ve taleplerini ifade edebilme şansını bulamadıklarını belirtiyor. Alibaba ve Baidu’nun Çin hükümetinin politikalarını böyle alenen eleştirebilmesi ve Çin hükümetinin de kendini bu eleştirilere yanıt vermek zorunda hissetmesi pek kolay değil.

***

Şirketler tarafından veya onların inisiyatifinde geliştirilen akıllı şehir platformlarında, güçlü şirketler, kısa dönemli kazançlar için yönetimi kısmen veya tamamen şirketlere devreden belediye yönetimleri var. Şirketlerin, sıfırdan kurdukları ya da kurmak istedikleri akıllı şehirlerin gelecekleri ise belirsiz.

Hükümetler tarafından yönetilen akıllı şehir platformlarında güçlü hükümetler ve onların işbirliği yaptığı şirketler var. Ama Hindistan örneğinin gösterdiği gibi uzun vadeli planlar ve planları uygulamada kararlı bir hükümet olmadığı sürece bu tip akıllı şehir projelerinin başarılı olması zor.

Mosco’nun (2019) üzerinde durduğu gibi akıllı şehir projeleri, çoğunlukla yardıma en az ihtiyacı olanlara yardımcı oluyor. Ulaşım ağlarını iyileştirmek, çöp toplamayı otomatikleştirmek, trafiği daha akıllı biçimde yönetmek ve 5G kablosuz ağlar yaratmak şehirleri daha verimli yapabilir. Ama toplumun dezavantajlı kesimlerinin de bu uygulamalara erişebilmesi gerekiyor. 5G’nin onu nasıl kullanacağını bilmeyenler ya da tamamen otomatikleştirilmiş, kasiyersiz marketlerin burada harcayacak parası olmayanlar için ne gibi bir önemi olabilir? Bir akıllı şehir, engellilerin hizmetlere erişimini kolaylaştırmalı, yoksullar için daha ucuz ulaşım ve besleyici gıdalara erişim sağlamalı.

Amacı sadece kâr olan birinci seçeneğin engellilerin, yoksulların ve toplumun dezavantajlı diğer kesimlerinin ihtiyaçlarını göz önünde bulundurmadığını ve bulunduramayacağını tahmin etmek zor değil. Kimi zaman Toronto’da olduğu gibi yurttaşlar katılım olanaklarını zorlasa da katılım olanakları sınırlı. İkinci seçenek, Çin’de olduğu gibi, halkın ihtiyaçlarına karşı daha duyarlı fakat buradaki gözetim ve denetim uygulamaları endişe verici.

Ancak bu iki seçeneğe mecbur değiliz. Demokratik yönetişim ve yurttaşların ihtiyaçları üzerine kurulu akıllı şehirler inşa etmek mümkün. Kararlarda katılımcılığı, toplumsal eşitliği, kamusal kurumların ve alanların korunmasını ve genişletilmesini hedefleyen akıllı şehirler inşa edilebilir. Başta Barcelona olmak üzerinde dünyanın farklı yerlerinde, yurttaşların yönettiği akıllı şehirler var. Sonraki yazılarda bu şehirleri tartışacağım.

Kaynaklar

Arnstein, S. R. (1969). A ladder of citizen participation. Journal of the American Institute of planners, 35(4), 216-224.

Mosco, V. (2019). The smart city in a digital world. Emerald Publishing Limited.

24 Eylül 2020

Posted In: Akıllı Şehirler, Çevre, Çin, Gözetim, güvenlik, Hindistan, Katılım Merdiveni, kitap, Mahremiyet, Özgür yazılım, Singapur, Yapay Zeka, Yurttaş Katılımı

Web 2.0 Demokrasisinden Geriye Kalan

Web 2.0, on yıl önceki bir tartışma konusu. Web 2.0 terimi ilk kez bir web tasarımcısı ve yazar olan Darcy DiNucci tarafından kullanıldı. DiNucci, 1999 yılında yayımlanan bir yazısında webin kişisel bilgisayarın dışına çıkacağını; webe, televizyondan, arabadan ve cep telefonundan erişilebileceğini savunuyordu. DiNucci, çok ilerisini öngörmüştü (http://darcyd.com/fragmented_future.pdf).

Bundan beş yıl sonra, O’Reilly Media ve MediaLive tarafından düzenlenen konferansta ise Web 2.0, daha yakın bir değişime işaret etmek için kullanılıyordu. Web 2.0 ile beraber web, tek yönlü bir yayın ortamı olmaktan çıkıyor, eski webin sadece okunabilir ortamı artık hem okunabilir hem de yazılabilir hale geliyordu. Web 2.0’ın ayırt edici özellikleri şunlardı (Murugesan, 2009):

• Esnek web tasarımı ve kolay güncellenebilirlik,

• Zengin kullanıcı arayüzleri,

• Birlikte çalışmaya ve ortak akla verilen değer,

• Aynı ilgi alanına sahip insanlardan oluşan sosyal ağların kurulması,

• Var olan uygulamaların diğer uygulamalarla birleştirilerek ya da iyileştirilerek daha işlevsel hale getirilmesi,

• Ademi merkeziyetçilik ya da merkezin daha az görünür ve müdahale eder olması

Başta Wikipedia olmak üzere çeşitli wikiler, bloglar, sosyal ağlar, Youtube, Flickr vb siteler Web 2.0’ın yıldızları oldular. 1982’de kişisel bilgisayarı yılın kişisi seçen Time dergisi, 2006’da yılın kişisi olarak wikileri, sosyal ağları ve diğer Web 2.0 sitelerini var eden kullanıcıları yılın kişisi ilan eder (https://en.wikipedia.org/wiki/You_(Time_Person_of_the_Year) ). Sonraki yıllarda Web 2.0 geleneksel medyanın yerini almaya başlar. İnsanlar gazete ve televizyondan çok kendilerinin hem tüketicisi hem de üreticisi olduğu Web 2.0 sitelerine daha çok güvenmektedir. Artık geleneksel medyada kendine yer bulamayanlar Web 2.0 sayesinde sesini duyurabilmektedir. Mahremiyet ihlalleri hakkındaki eleştirileri saymazsak Web 2.0 siteleri kamuoyunda olumlu bir imaja sahiptir. Günümüzde Web 2.0 terimi artık unutulmuş olsa da sosyal medya platformlarını onun mirasçısıdır. Wallstreet’ten Arap Baharı’na birçok toplumsal hareket sosyal medya yardımıyla örgütlenir ve sesini dünyaya duyurur. Bu süreçte, sosyal medya platformlarının yönetimleri daha az görünürdür ve müdahaleleri sınırlıdır. Gerçek öyle olmasa da (bkz. Assange (2014)), en azından kamuoyundaki imajları böyledir. Ancak 2016’daki ABD seçimlerinde büyü bozulur. Web 2.0’la başlayan sürecin bir yandan ifade özgürlüğünün olanaklarını artırırken diğer yandan onun altını oyduğu fark edilir. Facebook, Google ve Twitter kıyasıya eleştirilmektedir. Demokrasinin geleceği açısından şirketlerin düzenlenmesi talep edilmektedir. Artık düzenlemenin gerekliliği değil kimin tarafından yapılacağı tartışılmaktadır. Bu düzenleme taleplerine karşı şirketler, kendi kendilerini düzenleyebileceklerini; yalan haberler, nefret söylemi gibi sorunları kendi içlerinde çözebileceklerini iddia ederler.

Sosyal medya platformları bir süredir bu yılki ABD seçimlerine hazırlanıyorlar. Dış mihrakların (!) seçime müdahale etmesini engellemek için çeşitli önlemler alıyorlar. Geçen ay Twitter yönetimi ve ABD Başkanı Donald Trump arasındaki gerilimi, Facebook CEO’su Mark Zuckerberg’in tarafsız kalma ısrarını ve Facebook çalışanlarının bu tarafsızlığa tepkisini bu bağlamda değerlendirmek gerekiyor.

İfade Özgürlüğünü Kim Koruyor? Twitter? Facebook?

Facebook, Twitter, Youtube gibi platformlar kullanıcıların üretketici (üretici + tüketici) katkılarıyla var olurlar. Fakat söz konusu platformlar kullanıcıların yazdığı veya paylaştığı içerikten sorumlu mudur? Platformlar yıllarca ifade özgürlüğü adına kullanıcıların ürettikleri (ya da paylaştıkları) içeriğe olabildiğince az müdahale etmeyi tercih ettiler. 2016 seçimleri sonrasındaki tartışmalar ve kamuoyu baskısı şirketleri çeşitli önlemler almaya zorladı. ABD’deki ırkçılık ve polis şiddeti karşıtı protestolar sonrasında platformların görev ve sorumlulukları tekrar gündeme geldi.

Twitter’a sık sık provoke edici mesajlar yazan Trump’ın “çapulculuk başlarsa, ateş de başlar” mesajıyla yeni bir tartışma başladı. Avukatlardan ve politika yapıcılardan oluşan on Twitter yetkilisi hızla sanal ortamda bir araya gelerek Trump’ın bu mesajının insanları daha çok şiddete yönlendirip yönlendirmeyeceğini irdeledi. En sonunda Trump’ın mesajını engellememeye ama mesajı aşağıdaki gibi etiketleyerek kullanıcıları mesajın şiddeti teşvik eden sözler içerdiği hakkında uyarmaya karar verdiler. Böylece Twitter ilk kez tanınmış birinin mesajını engellemiş oldu. Twitter’ın içerik politikalarının kamuoyunda tanınan isimler için de geçerli olup olamayacağı bir süredir şirket içinde tartışılan bir konuydu. Şimdiye kadar Twitter, Trump gibi tanınmış kişilerin paylaşımlarına müdahale etmiyordu.

Sonraki günlerde Twitter ve Trump arasındaki gerilim arttı. Twitter, Trump’ın birkaç mesajına daha aynı etiketi basarak Trump’ı daha da öfkelendirdi. Daha sonra Trump, “çapulculuk başlarsa, ateş de başlar” mesajının bir kışkırtma değil, bir olgu olduğunu ekleyerek aynı mesajı tekrar gönderdi. Twitter yönetimi bu sefer mesajı etiketlemedi (https://www.nytimes.com/2020/05/30/technology/twitter-trump-dorsey.html).

Bu tartışmalar yaşanırken bazı Facebook çalışanları da bir içeriği doğrulamanın sansür olmadığını, bir şiddet çağrısını etiketlemenin otoriterliği savunmak anlamına gelmeyeceğini belirterek Zuckerberg’den de benzer bir müdahale talep ettiler. Facebook’tan istifa ettiğini duyuran Timothy J. Aveni, politikacıların Facebook yardımıyla bireyleri radikalleştirdiğini yazdı ve Zuckerberg’in eylemsizliğini eleştirdi (https://www.facebook.com/timothy.j.aveni/posts/3006224359465567). Snapchat gibi bazı sosyal medya platformları da Twitter’ın müdahaleci yaklaşımını benimsediler (https://www.sozcu.com.tr/2020/ekonomi/snapchat-trumpi-onermeyecek-5854373/). Ancak Twitter’ın yaklaşımının ifade özgürlüğünün geleceği açısından tehlikeli bir adım olduğunu savunanlar da var. Bugün Trump’ın engellenmesinin gelecekte daha geniş kapsamlı sınırlamaların önünü açabileceğinden endişe ediyorlar.

Platformlar ve Özdüzenleme

Bugün gündem, ABD’deki ırkçılık karşıtı eylemler olsa da sosyal medya platformlarının uzunca bir süredir bu yıl yapılacak olan ABD seçimlerine hazırlandıklarını ve 2016’daki sorunları yaşamak istemediklerini atlamamak gerekiyor. Yeni bir skandal sonrası hükümet düzenlemesi artık kaçınılmaz olacaktır.

Aslında çarşambanın gelişi perşembeden belliydi. Birkaç ay önceki tartışmaları takip edenler için Twitter ve Facebook’un son tartışmadaki konumlanışları çok da şaşırtıcı olmadı. Twitter, 2019 Ekim’inde platformunda politik reklamlara izin vermeyeceğini duyurmuştu. Facebook ise şeffaflık ve platformun kötüye kullanılmasına karşı gerekli önlemleri alacağını duyurmakla beraber politik reklamlar hakkında bir sınırlamaya gitmeyeceğini ve adaylara müdahale etmeyeceğini açıklamıştı. Google’ın ise Twitter ve Facebook arasında bir politika izlemeye çalıştığı biliniyor.

Tartışmalar, ifade özgürlüğü ve demokrasi ekseninde gelişiyor. Twitter’ın Trump’ın mesajlarını etiketlemesi ve Facebook’un buna yanaşmaması iki şirketin bir süredir uygulamaya çalıştıkları politikalarla uyumlu. Ama demokrasiden ve seçimlerden söz ederken ilgili politikaların bir kamu kuruluşundan değil de şirketler tarafından oluşturulduğuna dikkat etmek gerekiyor. Sosyal medya şirketleri, 2016 seçimlerinden sonra bir sorun olduğunu kabul etmiş ancak kendi kendilerini düzenleyebileceklerini iddia etmişlerdi. Son olaylarda da gördüğümüz gibi kamu çıkarı adına tartışmayı yönlendiren yine sosyal medya şirketleri oldu. Ayrıca şirketlerin, ifade özgürlüğünün sınırları hakkında karar verici konuma geldiğini de göz ardı etmeyelim. Hangi içeriğin okuyucuya ulaşabileceği hakkında kuralları ve sınırları belirleme yetkisi şirket yönetimlerinde (Yablon, 2020).

Şirketler, 2016 ABD seçimleri sonrasında benzer sorunların tekrar yaşanmaması için gerekli önlemleri almaya çalışıyorlar. Bu doğrultuda Twitter politik reklamları küresel olarak yasakladığını duyurdu. Twitter’ın politik reklamdan kastı bir aday, politik parti, seçimle ya da atamayla göreve gelen bir hükümet yetkilisi, referandum, halk oylaması, yasama, düzenleme, yönerge vb hakkındaki içerikler. Oy veya maddi yardım desteği çağrıları da bu kapsamda değerlendiriliyor. Ancak toplumda farkındalık yaratmayı ve insanları harekete geçirmeyi hedefleyen; sivil katılım, ekonomik büyüme, çevreyi koruma, toplumsal eşitlik konulu reklamlar yasak kapsamı dışında olacak. Ancak ikisini birbirinden ayırmak pek kolay değil (age).

En çok gündemde olan Twitter olsa da ondan önce Twitch, TikTok, LinkedIn ve Pinterest’in politik reklamları sınırlama kararı aldığı biliniyor. Twitter’dan sonra Spotify da en azında 2020 seçimlerine kadar politik reklamları askıya aldığını duyurdu. Reklamcılığın en büyük iki ismi Google ve Facebook ise politik reklamlara devam etme kararı aldılar. Zuckerberg, politik reklamların özellikle medya olanakları kısıtlı yerel politikacılar için büyük önem taşıdığını düşünüyor. Zuckerberg, sağlık hizmetleri, kadın hakları, göçmenlik vb’nin doğrudan seçimlerle ilgili konular olduğunu ve Twitter’ın yaptığı gibi bir sınır çizmeye çalışmanın ifade özgürlüğü açısından riskli olduğunu savunuyor. Zuckerberg, özellikle politikacıların sözlerinin engellenmesine karşı olduklarını, insanların politikacıların kendileri hakkında ne söylediğini bilmeye hakları olduğunu ve bir şirketin buna müdahalesinin yanlış olduğunu savunuyor (age).

Google, Facebook gibi ayrıntılı açıklamalar yapmasa da politik reklamların devamından yana. Üst düzey bir Google yöneticisi, diğer reklamlarla politik reklamlar arasında bir fark görmediklerini ve tüm reklamlara aynı kriterleri uyguladıklarını belirtiyor. Nefret söylemi, bir kişi veya grubu rencide eden hareketler her koşulda şirket politikalarına aykırı. Aynı yetkili, yalan ve yanıltıcı haberler konusuna da benzer biçimde yaklaştıklarını söylüyor. Bir sandalyenin fiyatı hakkında ortaya atılan bir yalan da politik yalanlar da (“mektupla oy kullanabilirsiniz”, “seçim günü ertelendi”, “aday öldü”) şirket politikalarına aykırı. Ancak her politik mesajın doğruluğunu kontrol etmeleri olanaklı (ve demokrasi açısından uygun) olmayacağından sadece sınırlı müdahalelerde bulunacaklarını belirtiyor.

Google ve Facebook özellikle ABD seçimlerine yoğunlaşmış durumda ve 2016’da olduğu gibi kimliği belirsiz kişilerin reklam vermesinin önüne geçmek istiyorlar. Bu nedenle, reklam verenlerin kimliklerini ehliyet, kimlik kartı ve pasaport yardımıyla doğrulaması isteniyor. Facebook, bu bilgiyi kullanıcılarla paylaşmaya ve reklam veren bilgilerinin şeffaf olmasına önem veriyor. Ayrıca Cambridge Analytica/Facebook skandalının bir daha yaşanmaması için Google, Facebook ve Twitter, hedefli reklamcılığa çeşitli sınırlamalar getirmişler. Örneğin Google, yaş, cinsiyet ve posta koduna göre hedefli reklamcılığa izin verirken insanların siyasi eğilimlerine göre reklam gösterilmesine veya reklam vermek isteyenin elindeki kullanıcı listesini sisteme yüklemesine izin vermiyor (Fakat belirli bir konuda okuma yapanları hedeflemek hala olanaklı).

Şirketlerin önlemleri dış mihrakların (!) 2016’daki taktiklerle seçime müdahale etmelerini zorlaştırıyor. Ancak Yablon’un (2020) vurguladığı gibi koydukları kurallar ve geliştirdikleri politikalar yerindeymiş gibi görünmesine karşın şirketlerin kendi koydukları kuralları uygulayacaklarının ve tarafları uymaya zorlayacaklarının bir garantisi yok. Politik mesajları engellemenin etkili bir çözüm olup olmadığı, bunun ifade özgürlüğüne zarar verip vermeyeceği, mesajları değerlendirecek algoritmaların veya insanların güvenilirliği gibi birçok soru(n) var.

Ama şirketler, Trump’ın Twitter mesajlarının etiketlenmesi hakkında yürütülen tartışmalarda olduğu gibi kendi politikalarını meşrulaştırmak için sık sık ifade özgürlüğünü gündeme getiriyorlar. Twitter politik reklamları engelleyerek, Facebook ve Google bunlara izin vererek demokrasiyi ve ifade özgürlüğünü koruyorlar.

Ancak demokratik süreçleri korumayı hedefleyen bu politikalar açık ve katılımcı süreçlerle oluşturulmuyor. Web 2.0’da üretketicilerden, yeni interneti var eden, Time’in You dediği insanlardan söz ediyorduk. Buna karşın demokrasinin geleceği hakkında alınan kararlarda temsili veya doğrudan demokrasiye dair bir iz yok. Zuckerberg, yerel, olanakları kısıtlı adayların sesi olmak için politik reklamların engellenmesine karşı olduğunu iddia etmesine rağmen kullanıcıların kendilerini doğrudan ilgilendiren bir konuda söz ve karar hakkı bulunmuyor, kararlar Zuckerberg tarafından ve iş modelinin gerekleri gözetilerek veriliyor. Kendileri demokratik bir işleyişe sahip olmayan platformların demokrasiye hizmet etmeleri bekleniyor.

Bir sosyal medya platformunda bir şey yazmanın veya paylaşmanın ifade özgürlüğü için yeterli olduğunu düşünmemizi istiyorlar. Fakat ifade özgürlüğü, içeriği oluşturanı, onu dağıtanı ve okuyanı içeren bir toplumsal ilişki. Web 2.0 tartışmalarında en büyük hatamız ifade özgürlüğünü yazmaya indirgemek oldu.

Denetleme, Sıralama ve Önerme

Geçmişte içerik profesyonel yazarlar, gazeteciler ve editörler tarafından üretilir, biçimlendirilir ve dergi, gazete, radyo ve televizyon aracılığıyla insanlara ulaştırılırdı. İçeriğin okuyucuya ulaşmasına karar veren bir dizi aktör ve dolayısıyla engel vardı. Neyin haber değeri olduğuna ve içeriğin kalitesine karar veren aktörler bazen isteyerek bazen de istemeden ifade özgürlüğünü kısıtlayabiliyorlardı.

Bu açıdan bakarsak Twitter, Facebook ve Youtube hem ifade özgürlüğünün önündeki bu engelleri kaldırarak hem de hem iletişim maliyetini azaltarak insanların düşüncelerini paylaşabilmesini kolaylaştırdı. Artık bir ABD Başkanı da bir işçi de aynı platformda yazabiliyor! Ancak daha önce belirttiğim gibi ifade özgürlüğü sadece düşünce paylaşımına indirgenemez. Okuyucuyu, yazar ile okuyucu arasında iletişimi sağlayan aktörleri de dikkate almak gerekir. Bu aradaki aktörlerin eskisine göre daha az görünür olması ifade özgürlüğüne etkileri hakkında yanıltıcı olabiliyor.

Okuyucuya ulaşmadan önce içeriğin nasıl denetlendiğine; bilgi yığını içinde ihtiyacımız olanın (ya da olduğunu düşündüğümüzün) nasıl bulunduğuna ve sıralandığına; izleyeceğimiz, okuyacağımız, göreceğimiz vb içeriğin nasıl önerildiğine bakmakta fayda var.

Denetim

Sosyal medya platformları, bazı içerikleri daha görünür yaparken bazılarını engelliyor. Platformlar içerik denetimini üç yolla yapıyor. Birincisi, içeriğin insanlar tarafından denetlenmesi. Bu denetim doğrudan şirket çalışanları tarafından yapılabildiği gibi taşeron çalıştırma da içerik denetiminde oldukça yaygın. Denetim kimi zaman da gönüllü kullanıcılar tarafından yapılabiliyor. İkincisinde içerik algoritmalar yardımıyla otomatik olarak denetleniyor. Algoritmalar, uygun görülmeyen içeriği tespit edip ayıklayabiliyorlar. Çocuk pornosu (child sexual abuse material – CSAM), terör görüntüleri, telif hakkı ihlallerinde içeriğin uygunluğu çok hızlı bir biçimde değerlendirilebiliyor. Tüm dünyanın hem fikir olduğu bir sorun olması ve algoritmaların doğru kestirimlerde bulunabilmesi için yeterli eğitim verisinin bulunması CSAM’nin saptanmasında başarılı sonuçlar alınmasını sağlıyor. Ayrıca platformlarının yararlanabileceği ortak veritabanları var. Fakat nefret söyleminin veya şiddeti öven ifadelerin denetlenmesinde yeterince başarılı değiller. Bu nedenle bir çok sosyal medya platformu, ikisinin bileşiminden oluşan üçüncü bir yola başvuruyor: Önce içerik algoritmalar tarafından denetleniyor, tartışmalı durumlarda son karar insanlara bırakılıyor (Singh, 2019a).

İçerik denetim politikası, merkezi ya da ademi merkezi olabiliyor. Facebook ve Youtube gibi platformlar merkezi bir denetim uyguluyorlar. Oluşturdukları içerik politikaları (bazı ülkelerin hukukundan kaynaklı ufak farklılıklar dışında) küresel olarak, merkezi biçimde eğitilen, yönetilen ve yönlendirilen denetleyiciler tarafından uygulanıyor. Böylece daha tutarlı bir denetim süreci işliyor. Ademi merkezi denetimde ise (Reddit’de olduğu gibi) platform genel politikaları belirliyor ve kullanıcılardan bu politikaya göre bir denetim yapmasını bekliyor. Genel işleyişi kontrol eden az sayıda ücretli çalışan oluyor. Merkezi denetime göre en büyük avantajı, denetim sırasında kültürel ve yerel farklılıkların gözetilebilmesi.

İçeriklerin denetleme zamanları da farklılaşabiliyor. Bazı durumlarda içerik yüklenirken denetleniyor. Özellikle CSAM, IŞİD/El Kaide videolarında ve telif ihlallerinin kontrolünde kullanılıyor ve böylece anında uygunsuz içeriğin yayılmasının önüne geçilebiliyor. İkinci yaklaşımda çoğunlukla terör propagandası içeren paylaşımların ve hesapların önünü almak için otomatik araçlarla taramalar yapılıyor ve uygunsuz görülen içerikler siliniyor. Üçüncü yaklaşım ise şikayetlerle tetikleniyor. Çoğu platform, bu durumda şikayeti önce otomatik araçlarla analiz ediyor ve sonra tartışmalı içerikleri insan denetleyicilere yönlendiriyor.

Kısacası, içeriğin denetlenmesinde algoritmalar ve insanlar beraber çalışıyor. Herkes eşit olmadığı için ne Trump’ın etiketlenen mesajında olduğu gibi Twitter yönetim kurulunun toplanarak mesajların uygunluğunu tartışması ne de platformca görevlendirilmiş denetçilerin her bir mesajı tek tek incelemesi uygulanabilir bir durum değil. Bu nedenle içerik denetiminde çoğunlukla algoritmaların denetimine veya ön denetimine başvuruluyor. Dolayısıyla Jack Dorsey’in veya Mark Zuckerberg’in medyaya yansıyan kararları buz dağının sadece görünen kısmı. Çünkü makinelerce yapılan denetim sanıldığı gibi nesnel değil ve karanlık noktalar içeriyor.

Birincisi, algoritmaların verdiği kararlar eğitildikleri veri kümeleriyle ilişkili. Kültürel veya yerel farklılıklar algoritmaların çalışmasını etkiliyor. Büyük platformların kullandığı yazılımlar olanakları sınırlı platformlara göre daha doğru değerlendirmeler yapabilmelerine rağmen dili anlamada hala büyük zorluklar var. Algoritmaların ifadelerdeki nüansları ve bağlamdaki farklılıkları ayırt etmedeki yetersizlikleri sorunlara neden olabiliyor. Kimi zaman sorunsuz bir içerik algoritmalara takılıyor kimi zaman da kötü niyetli kişiler nefret söylemini algoritmalara atlatacak biçimde yeniden üretebiliyorlar. Ayrıca İngilizce dışındaki dillerde içeriğin analizindeki başarı oranı daha düşük (age).

İkincisi, platformların kullandığı algoritmaların kara kutulara benzemesi. Bu algoritmaların nasıl kodlandığı, hangi veri kümelerinden yararlanarak eğitildikleri, korelasyonları nasıl belirledikleri ve çıkarımlarda bulundukları hakkında şirketler şeffaf değiller. Şirketler, algoritmalarının ticari sır olduğunu iddia ederek sınırlı bilgilendirmeler yapıyorlar (age).

Sıralama

İçeriğin denetlenmesinin yanında bir diğer sorun da içeriğin sıralanması. İnternetteki içerik artıkça istediğimiz bilgiye erişebilme şansımız azalıyor. Bu nedenle arama motorlarının istediğimiz bilgiyi daha üst sıralarda göstermesine veya sosyal medya platformlarının ilgilendiğimiz haberleri karşımıza çıkarmasına ihtiyaç duyuyoruz. Platformlar, önce aradığımız veya görmek istediğimiz içeriğin ne olduğu hakkında bir tahminde bulunuyor; daha sonra da bu içeriği sıralıyor. İçerik denetiminde olduğu gibi yine birçok kullanıcı gösterilen arama sonuçlarını gerçekliğin bir temsili olarak görüyor.

Örneğin, arama denilince ilk aklama gelen, arama pazarının %92,19’unu elinde bulunduran Google’a bakalım. Google, kullanıcı alışkanlıklarından elde ettiği verilerle kullanıcılara daha uygun sonuçlar gösterebiliyor. Bu nedenle, her kullanıcı aynı arama sonucunu göremeyebiliyor (Google son zamanlarda bu algoritmadan vazgeçtiğini söylemesine rağmen DuckDuckGo bunun devam ettiğini iddia ediyor). Şirket, arama sonuçlarının sıralanmasında insan müdahalesi olmadığını belirtiyor. Google, arama işlemini yaparken ilk başta kullanıcının niyetinin ne olduğunu tahmin etmeye çalışıyor. Güncel bir olay hakkında arama yapıyorsa çıkan sonuçların da güncel olmasına dikkat ediyor. Eğer bir siteye, diğer sitelerden aranan konuyla ilgili referans verilmişse bu site arama sonuçlarında daha üst sıralara çıkarılabiliyor. Sitenin kullanımının kolay olması da üst sıralarda yer almasına katkıda bulunuyor (Singh, 2019b).

Arama sıralamasını etkilemek isteyenler arama algoritmasının nasıl çalıştığını ve hangi kriterleri göz önünde bulundurduğu çözmeye çalışıyorlar. Böylece kendi sitelerini arama sonuçlarında üst sıralara taşıyabiliyor. Google da bu tip müdahalelere karşı algoritmalarında değişiklikler yapabiliyor. Google, arama motorunun bir sayfanın yerinin belirlenmesinde yararlılık ve ilgililiğin belirleyici olduğunu, ideolojik ve politik bakış açılarının etkili olmadığını söylüyor. Fakat algoritmalar tarafsız değiller. Algoritmaların yararlandığı sinyaller belirli içerikleri üst sıralara taşımak üzere tasarlanmış. Arama motoru algoritmaları bazı toplumsal stereotipleri pekiştirebiliyor ve toplumun marjinal kesimlerini olumsuz etkileyebiliyor. Noble’nin (2018) Algorithms of oppression: How search engines reinforce racism adlı kitabında ayrıntılı olarak tartıştığı gibi Google’ın arama sonuçları ırkçı ön yargıları yeniden üretebiliyor.

Sosyal medya platformlarının kullanıcının takip ettiği kişilerden gelen içeriği seçmesinde ve sıralamasında da benzer problemlerle karşılaşıyoruz. Facebook ve Twitter gibi platformlar, kullanıcıları çevresindeki olaylardan haberdar ederken bazı seslerin diğerlerinden daha fazla duyulmasına neden oluyor. Kişiye özel içerik seçme ve sıralama insanların ağındaki ve dünyadaki gelişmelere dair algısını etkiliyor. Bu nedenle, sosyal medyada yazmak kadar “neden bunu okuyorum (ya da görüyorum)?” sorusunun da ifade özgürlüğünün bir parçası olduğuna dikkat etmek gerekiyor. Bu sorunun diğer yüzünde yazdıklarımı kimler görecek ve okuyabilecek sorusu bulunuyor. Geleneksel basın organlarının denetimine ve sansürüne itiraz ederken görünmez denetim, sıralama ve iletim ifade özgürlüğü için daha büyük bir tehlike olarak karşımıza çıkıyor.

Önerme

Şirketlerin reklamcılığa dayalı iş modelleri, yapabileceklerinin sınırlarını da belirliyor. 2016 seçimindeki skandallar Jack Dorsey, Mark Zuckerberg, Sergey Brin ve Larry Page kötü insanlar olduklarından değil, iş modellerinden kaynaklandı. Platformlarda çalışan algoritmalar kullanıcılara sürekli bir şeyler önerirler: Arkadaş, makale, gündemdeki konular, iş, ürün (kitap, ayakkabı veya bir politikacı!). Fakat reklamcılığa dayalı iş modelleri, sadece ihtiyaç sahipleri ile bunları sunan şirketleri eşleştirmez. İnsanların belirli bir ürüne ihtiyaç duymasını sağlamak da işin bir parçasıdır. Dolayısıyla algoritmik sistemler kullanıcıların ne göreceğine karar vermekle kalmaz, isteklerini de şekillendirmeye çalışır.

Öneri sistemlerinde başlıca üç algoritmaya başvurulur. Birincisi, kullanıcıya daha önce ilgi gösterdiği içeriklerle ilişkili şeylerin önerilmesidir. Burada diğer kullanıcıların deneyimleri dikkate alınmadan, sadece kullanıcının geçmiş davranışları dikkate alınarak öneriler sunulur. İkincisinde ise diğer kullanıcıların deneyimleri de dikkate alınarak benzer kullanıcılara benzer öneriler getirilir. Burada ürünün kendi başına özelliği öneride etkili olmaz. Üçüncüsünde hem kullanıcının hem de ürünün nitelikleri dikkate alınır. Örneğin, kişinin öz geçmişiyle iş ilanı eşleştirilirken. Öneri sistemleri kimi zaman da bu üçünün sentezine dayanan algoritmalar kullanırlar (Singh, 2020).

Platformlar kullanıcıyı olabildiğince sitede tutmak için onun ilgisini çekebilecek şeyler önerirler. Kullanıcının platformda geçirdiği zamanın artması platformun reklam pazarındaki değerini artırır. Dolayısıyla Youtube’da kullanıcılara içerik önerilirken hedef haber sitelerinde olduğu gibi çok sayıda videoya tıklatmak değil onun sitede kalmasını (izlemesini) sağlamaktır. Bugün Youtube’un öneri sistemi, kullanıcıların platformda geçirdiği sürenin %70’inden sorumludur. Bir şeye bakacağım diye siteye girersiniz ve çıkmakta zorlanırsınız. İnsanların %81’i arada sırada Youtube’daki önerileri dikkate aldığını, %15’i de önerilen videoları düzenli olarak izlediğini söylüyor (age).

Denetleme ve sıralamada olduğu gibi bu sistemlerin şeffaf olmaması yine büyük bir problemdir. Youtube, 2016 seçimlerinden aldığı dersle yalan haber ve komplo teorilerinin yayılmasını engellemek için algoritmasında değişiklikler yapıyor. Ancak platform hâlâ şeffaf olmadığı gibi öneri sistemi hakkında yapılan uyarıları ve tavsiyeleri görmezden gelmeye devam ediyor.

Kararlarda Şeffaflık, Adalet ve Depolitizasyon

Son zamanlardaki tartışmaların temelinde sosyal medya platformlarındaki politik mesajların nasıl ele alınacağı sorunsalı var. Ne kadar iyi yürekli ve ifade özgürlüğüne (!) bağlı CEO’lar olsalar da iş modelleri Jack Dorsey ve Mark Zuckerberg’in radikal adımlar atmalarına izin vermeyecektir. Sürekli artan enformasyon ve güvenlik ihtiyacı platformlara önemli sorumlulukla yüklüyor. Algoritmik sistemlerden yararlanmak zorundalar. Fakat bu sistemlerin şeffaf olmaması, sorgulanamaması ve tam olarak anlaşılamaması çeşitli sorunlara neden oluyor. Gorwa vd (2020) bu sorunları üç başlık altında inceliyor: Kararlarda şeffaflık, adalet ve depolitizasyon.

İçeriğin denetlenme ve buna bağlı olarak kaldırılma süreci şeffaf değil. Gorwa vd (2020), şeffaflığın algoritmik sistemlerdeki tüm sorunların panzehri olmadığını ama insanların içinde yer aldıkları yönetişim örüntülerini anlayabilmeleri için gerekli olduğunu, bu olmadan ifade özgürlüğü hakkındaki önemli kararların alınmasının ve uygulanmasının zor olacağını savunuyorlar. Ancak Gran vd’nin (2020) gösterdiği gibi Norveç gibi dijitalleşmenin yüksek olduğu bir ülkede bile platformların öneri ve sıralamaları hakkındaki farkındalık düzeyi düşük. Popülasyonun %61’i algoritmalar hakkında ya hiç bir şey bilmiyor ya da çok az bilgiye sahip. Algoritmik kararlar hakkındaki farkındalık artmadan şirketleri şeffaf olmaya zorlamak zor görünüyor.

Algoritmalar, belirli içerikleri tespit etmede başarılılar. Örneğin, açık ırkçı ifadeler içeren mesajları fark edebiliyorlar. Fakat belirli bir içeriği otomatik olarak engellemek bazı grupları daha dezavantajlı yapabiliyor. Bir platformun politikası doğrultusunda nefret söylemini tespit amacıyla oluşturulmuş bir algoritma belirli bir sosyal grup tarafından kullanılan dili uygunsuz olarak etiketleyerek grubun kendini ifade edebilme olanaklarını sınırlayabilir. Bu nedenle, algoritmaların eğitildikleri veri kümeleri ve aldıkları kararlar hakkında kullanıcıların bilgi sahibi olması, itiraz etme kanallarının iyi işlemesi adaletsizlikliğin giderilmesinde önemlidir.

İfade özgürlüğü güzellemeleri ABD’li teknoloji şirketlerinin açıklamalarında önemli bir yere sahip olmasına rağmen Web 2.0 demokrasilerinden geriye kalan depolitizasyon, ifade özgürlüğünün politik niteliğini yitirmesi, oldu. Bir gazetenin veya televizyonun belirli kişilere ve konulara yer vermesi veya vermemesi politik bir karardır. Karar, bu çerçevede tartışılır. Fakat algoritmaların telif hakkı veya terörizm gibi karmaşık, gri bölgelerle dolu alanlarda aldığı kararlar politik bir tartışmaya açık olmadığından demokrasinin gelişimini engelliyor. Gorwa vd’nin (2020) belirttiği gibi Facebook, platformunda yer alan terörist içeriğin %99.6’sını kaldırdığını duyururken hem teknik becerisiyle hem de topluluğu teröristlerden koruyan bir kahraman olmasıyla övünüyor. Facebook, açıklamalarında El Kaide ve IŞİD hakkındaki içerik raporlarına yer veriyor. Ya diğer teröristlere ait içerikler? Terörist olanı ve olmayanı ayırmak için sistem hangi kriterleri dikkate alıyor, hangi eğitim verilerinden yararlanıyor? Bunlar ifade özgürlüğü kapsamı dışında tutulan sorulardır.

Trump’ın mesajlarını etiketleyerek kullanıcıları uyarmak ya da uyarmamak…

Sosyal medya platformlarında politik reklamlara izin vermeke ya da vermemek…

Ama asıl mesele şirketlerin kimin konuşup, kimin susacağına karar veren kurumlar haline gelmiş olması. İfade özgürlüğüne yasalar değil de artık platformlar karar veriyorsa büyük bir sorunumuz var demektir.

Kaynaklar:

Assange, J. (2014). When Google Met Wikileaks, OR Books

Gorwa, R., Binns, R., & Katzenbach, C. (2020). Algorithmic content moderation: Technical and political challenges in the automation of platform governance. Big Data & Society, 7(1), 2053951719897945.

Gran, A. B., Booth, P., & Bucher, T. (2020). To be or not to be algorithm aware: a question of a new digital divide?. Information, Communication & Society, 1-18.

Murugesan, S. (Ed.). (2009). Handbook of research on Web 2.0, 3.0, and X. 0: technologies, business, and social applications: Technologies, business, and social applications. IGI Global.

Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. nyu Press

Singh, S. (2019a), How Internet Platforms Are Using Artificial Intelligence to Moderate User-Generated Content, Open Technology Institute, https://www.newamerica.org/oti/reports/everything-moderation-analysis-how-internet-platforms-are-using-artificial-intelligence-moderate-user-generated-content/, son erişim 19.06.2020

Singh S(2019b), How Video and E-Commerce Platforms Use Recommendation Systems to Shape User Experiences, Open Technology Institute, https://www.newamerica.org/oti/reports/rising-through-ranks/, son erişim 19.06.2020

Singh S(2020), How Video and E-Commerce Platforms Use Recommendation Systems to Shape User Experiences, Open Technology Institute, https://www.newamerica.org/oti/reports/why-am-i-seeing-this/, son erişim 19.06.2020

Yablon, R. (2020). Political Advertising, Digital Platforms, and the Democratic Deficiencies of Self-Regulation.

30 Ağustos 2020

Posted In: Algoritmalar, Düzenleme, facebook, Fikri Mülkiyet, google, Haktivizm, ifade özgürlüğü, Nefret Söylemi, Öneri Sistemleri, Özgür yazılım, Platformlar, sosyal ağlar, Trump, Twitter, Web 2.0, Yapay Zeka, YZ

kdenlive nvenc profili tanimliyoruz

Video render işlemlerini hızlandırması için kdenlive‘a bir nvenc profili tanımladım. Bu tanımı oluşturmak, sadeleştirmek ve test etmek oldukça zor oldu. ffmpeg, kdenlive ve nvenc üçünün de kullandığı parametreler benzer olsada birbirlerinden farklılık gösteriyor. Bir de bunlara sürümler arası parametre farklılıkları eklenince, içinden çıkılmaz bir hal aldı ve çok fazla test yapmam gerekti.

Parametreleri oluştururken üç farklı kaynaktan yararlandım, Youtube tavsiyeleri [1], Nvidia teknik blogu [2] ve bir blogger in yazısı [3]. Umarım sizin için yol gösterici olur.

h264;
f=mp4 vcodec=h264_nvenc preset=medium global_quality=16 profile:v=high bf=3 temporal-aq=1 rc-lookahead=20 vsync=0 movflags=faststart acodec=aac ab=384k
h265;
f=mp4 vcodec=hevc_nvenc preset=medium global_quality=16 profile:v=main temporal-aq=1 rc-lookahead=20 vsync=0 movflags=faststart acodec=aac ab=384k

[1] https://support.google.com/youtube/answer/1722171?hl=en
[2] https://developer.nvidia.com/blog/turing-h264-video-encoding-speed-and-quality/
[3] https://flamy.ca/blog/2019-10-14-kdenlive-nvenc-video-settings-for-youtube.html

Hamdi Özcan – ozcan.com

14 Temmuz 2020

Posted In: ffmpeg, kdenlive, lkd, nvenc, teknik, tr, video, youtube

Yeni İnternete Doğru

Jeremy Corbyn liderliğindeki İngiltere İşçi Partisi erken genel seçimde ağır bir yenilgi aldı ve Corbyn istifa edeceğini açıkladı. Seçim sonuçlarının partisi için ağır bir yenilgi olduğunu kabul eden Corbyn, seçimi kaybetmiş olmalarına karşın seçim kampanyasında bir umut bildirisi sunduklarını söyledi. Seçim tartışmaları ağırlıkla Avrupa Birliği’nden çıkış üzerinde yoğunlaşırken gerçekten de İşçi Partisi’nin bu çemberin dışına çıkan, bir umut bildirisine yakışan, “devlet destekli, geniş bant internet hizmeti”gibi vaatleri vardı. Corbyn, 2030 yılına kadar tüm ev ve işyerlerine yüksek hızlı fiber erişim hizmeti sağlamayı vadediyordu.

Bunun için ülkenin en büyük internet sağlayıcısı Openreach’in bazı bölümlerinin devralınması planlanıyordu. Bu plan aynı zamanda yıllardır devam eden özelleştirme sürecinin geri çevrilmesi ve hükümetin çok büyük bir ulusal altyapı projesinin başına geçmesi anlamına geliyordu. Planın maliyeti 20 milyar dolar olacaktı ve yeni hükümetin harcama paketinin içinden ödenecekti. Ağın bakımı da Facebook, Google ve diğer teknoloji devlerinden alınacak vergilerle sağlanacaktı. Bu planın piyasanın işleyişine aykırı olduğunu ve dünyada eşi benzeri olmadığını iddia edenlerin yanında politik risklerine dikkat çekenler var. İnsanların ücretsiz hizmetleri sevdiğini ama böyle bir yola girildiğinde internet problemlerinde politikacıların hedef tahtasında olacağını söylüyorlar. (https://www.nytimes.com/2019/11/21/business/free-internet-britain.html).

Corbyn’nin planını eleştirenler, eğitim ve sağlık haklarında olduğu gibi ücretsiz internet tartışmasına da kendi sınıfsal pencerelerinden bakıyorlar. Rachel Connolly’nin yazdığı gibi internete kolay erişimi olmayan insanların yaşadığı zorluklardan bihaberler (https://www.theguardian.com/commentisfree/2019/nov/20/free-internet-broadband-low-incomes). Hayatın her alanı dijitalleşirken, eğitimden sağlığa internete eşit erişim hakkı yaşamsal bir ihtiyaç haline geliyor ve erişimdeki eşitsizlik, buralardaki eşitsizliği artırıyor.

İşçi Partisi’nin gündeme getirdiği “herkese yüksek hızlı fiber erişim hakkı”belediyelerin meydanlardaki ücretsiz kablosuz ağlarından ve gençlere seçimlerde vadedilen 10 GB’lık internetten çok daha farklı. Britanya, şu anda zaten oldukça hızlı bir internet altyapısına sahip. Yüksek çözünürlüklü bir film bir dakikanın altında indirilebiliyor. Bir filmi 50 saniyede indirmekle 30 saniyede indirmek arasında yaşamsal bir fark olmayabilir. Ama Miranda Hall’ın yazdığı gibi kamuya ait fiber ağlar sadece ücretsiz kablosuz bağlantı anlamına gelmiyor (https://www.socialeurope.eu/bread-roses-and-broadband-too). Ücretsiz internet altyapısı insanların iş bulmasını ve sosyal yardımlardan yararlanmasını, öğrencilerin ödev yapmasını, yaşlıların yakınlarıyla görüşebilmesini kolaylaştıracak. Ama daha da önemlisi enerji, taşımacılık, e-sağlık vb hizmetlerin de altyapısını oluşturacak. Bu altyapının kimin mülkiyetinde olacağı ve işletileceği söz konusu sektörlerin de geleceğini belirleyecek.

Dijital altyapının tasarımı, ekonominin ve toplumun tasarımını da şekillendirecek politik bir tartışma. İnternet omurgasının kâr odaklı yatırımcılar tarafından kontrol edilmesi son yıllarda veri çıkarıcılık (data extractivism), veri sömürgeciliği (data colonialism) veya gözetim kapitalizmi (surveillance capitalism) olarak adlandırılan mantığın (insani ve çevresel maliyetlere aldırmaksızın herşeyi dijitalleştir ve paraya çevir!) devamını ve güçlenmesini sağlayacak.

Kamusal internet ise her şeyden önce, altyapı hizmetlerinin adil dağıtımı anlamına geliyor. Hall’ın işaret ettiği gibi piyasa koşullarında hizmet sağlayıcılar zengin kentsel alanlara yoğunlaşıyorlar ve bunun sonucunda ırksal ve sınıfsal eşitsizlikleri yeniden üretiyorlar. Devlet yönetimindeki bir planlama, internet erişim hizmetinin adil dağılımını sağlayabilir. Altyapının kamusal sahipliği, ulaşım, elektrik ve su gibi diğer hizmetlerinin planlanmasında toplumcu politikaların önünü açacaktır.

İnternetin son yıllardaki dönüşümünü ve buna karşı geliştirilebilecek politikaları bu bağlamda ele almak gerekiyor. Bu yazıda, bu dönüşümün temellerini, belli başlı aktörleri ve karşı karşıya olduğumuz sorunları tartışacağım. Yeni internetle gelen sorunlara karşı geliştiren toplumcu politikaları ve deneyimleri ise başka yazılarda ele alacağım.

2000’li yıllar: Ticarileşme ve Hükümetlerin Artan Kontrolü

1970’li yılların başında, ABD’nin devlet kurumlarının vesayetinde doğan internet, ilk başta ABD Savunma Bakanlığı’na bağlı bir devlet kurumu olan DARPA’nın (Defense Advanced Research Projects Agency) gözetiminde ilerliyordu. 1985’de projeyi sivil bir kuruluş olan Ulusal Bilim Kurumu (National Science Foundation) devraldı.

İnternetin ilk yıllarında şirket ve hükümet fonlarının birleşimiyle gevşekçe organize edilen ortak projeler, üniversite, şirket ve kamu araştırma laboratuvarlarını bir araya getiren karmaşık bir birliktelik oluşturmuştu. En ileri teknolojilere sahip olduğu düşünülen komünist düşmana karşı merkezi planlamayı tercih eden, hiyerarşi ve sıkı denetime eğilimli soğuk savaş zihniyeti aynı zamanda nükleer savaş tehdidine karşı dayanıklı ve dağıtık bir ağ yapısı da istiyordu. Bunun yanında internet, mucitlerinin kültürlerinden kaynaklı ademimerkeziyetçi öğeler de içeriyordu. İnternetin oluşum dönemine damga vuran bir diğer gelişme ise ABD’nin en büyük telekomünikasyon firması olan AT&T’nin devletin müdahalesiyle parçalanması oldu. Müdahale sonrası AT&T tekel konumunu kaybetmişti ve neoliberal rüzgarlar esiyordu. ABD hükümeti, kamu tarafından sahiplenilecek ve işletilecek bir ulusal veri iletişim sistemine pek sıcak bakmıyordu. 1960’larda gündeme gelen kamusal bilgisayar hizmeti vizyonu rafa kaldırılmıştı. Bu serbest ortam teknolojik gelişmeyi hızlandırdı ama kuralsızlığın kurallaşması bugün karşı karşıya olduğumuz birçok sorunun temelini oluşturdu.

Mosco (2017), yeni teknolojik sistemlerin belirsizliklerle dolu ve ticari potansiyellerini ortaya çıkarmanın zor olduğunu belirtiyor. Bu nedenle, zamanın büyük firmaları temkinli yaklaşarak AT&T’nin internet versiyonu olmayı göze alamadılar. İnternetin ticari potansiyeli hakkındaki belirsizliğin yarattığı boşluk bilim insanlarının ve programcıların interneti enformasyonun tüm vatandaşlar tarafından tamamen erişilebilir olduğu temel bir servis vizyonuyla ele alabilmelerini kolaylaştırdı. Bu vizyona göre amaç, en fazla sayıda vatandaş için mümkün olan en iyi erişim ve kontrolü sağlamaktı ve enformasyonun düzenlenmesi ve kontrolü temsilci kuruluşlar tarafından yerine getirilecekti. Yönetim sorunu yerel, bölgesel, ulusal ve uluslararası düzeylerde merkezi ve ademimerkeziyetçi yaklaşımların bir bileşimi olarak aşılmaya çalışıldı.

90’lı yıllarda güçlenen özgür yazılım hareketi, yalnız internetin kullanıcı tabanını genişletmekle ve çeşitlendirmekle kalmadı. Bunun yanında internetin, ilk aktörlerinin öngöremediği biçimlerde geliştirilebilmesinin de önünü açtı. Hacker kültürü, internetin ademimerkeziyetçi yapısını ilerleten, bilişim hizmetlerinin daha geniş kesimlerce kullanılabilmesini sağlayan katkılarda bulunurken bu dönemde şirketlerin de internetin finansal değerini anladığını, bazı hackerların iş insanına dönüştüğünü görüyoruz. Sonrasında internetteki her tıkın izlenip kaydedilmesinin kişiye özel reklamlar için eşsiz fırsatlar sunduğunu fark eden şirketler, interneti bir ticari araca çevirmek için etkili adımlar atmaya başladılar.

2000’li yıllara gelindiğinde karmaşık, çelişik ve bireysel kullanıcıların, şirketlerin, hükümetlerin ve tüm dünyadaki toplumsal hareketlerin müdahaleleriyle sürekli yeniden üretilen bir internetimiz vardı. O zamanki tartışmalarda ticarileşme ve hükümetlerin artan kontrolü internet için iki büyük tehdit olarak görülüyordu. Ama görülen emarelere karşın internetin ademimerkeziyetçi “doğa”sının buna izin vermeyeceğine dair bir iyimserlik vardı.

Fakat o zamanlar ticarileşme derken ilk akla gelen web sitelerinde reklamların içeriğin önüne geçmesi oluyordu. Neyse ki ana sayfasına reklam almayan Google gibi iyi (!) şirketler vardı! Google hala reklamsız ana sayfasıyla övünebilir. Ama 2010’lu yıllarda bulut bilişim, büyük veri analizi ve nesnelerin interneti üzerinde yükselmeye başlayan yeni internette ana sayfaya reklam almanın ya da almamanın artık pek fazla bir önemi kalmadı.

Mosco’nun (2017) altını çizdiği gibi son yıllarda üç teknolojinin iç içe geçtiğine ve giderek daha çok gündelik hayatın bir parçası olduğuna şahit oluyoruz: Bulut bilişim, büyük veri analizi ve nesnelerin interneti. Bu değişim sürecinde, internette ve ona yön veren değerlerde köklü değişimler yaşanıyor. Bulut bilişim, enformasyonu veri merkezlerine depoluyor ve işliyor; büyük veri analizi veri merkezlerinde saklanan veriyi analiz etmenin ve ondan yararlanmanın araçlarını sağlıyor; nesnelerin interneti, algılayıcılara sahip cihazları elektronik iletişim ağlarına bağlayarak veri miktarını artırıyor ve çeşitlendiriyor. Bu üç teknoloji, her geçen gün daha çok iç içe geçerek internetin demokratik, ademimerkeziyetçi ve özgür yazılıma dayalı yapısını hızla ortadan kaldırıyor.

Bulut bilişim merkezleri dev veri ambarları olmalarının ötesinde ham veriye değer katan enformasyon fabrikaları olarak karşımıza çıkıyor. Hava verisi, hava tahminine; nüfus verisi, okul inşa etme ve kapatma planına; suç verisi, polisleri konuşlandırma planına dönüşüyor. Büyük veri analizi ile istatistiksel araçlar, çok geniş veri kümelerine uygulanarak kestirimsel algoritmalar geliştiriliyor. Bu algoritmalar ile insanların ev kredisi veya sosyal yardım için uygunluğu, suç işleme olasılığı veya organ nakli için uygunluğu hakkında kestirimlerde bulunuyor. Nesnelerin interneti ise gündelik hayattaki nesnelere gömdüğü algılayıcı ve işlemcilerle nesneleri izliyor, kayıt altına alıyor ve bu nesnelerin birbirleriyle iletişime geçebilmesini sağlıyor. Nesnelerin interneti, endüstriyel ve enformasyonel uygulamaları kökten değiştirmeyi, küresel tedarik zincirlerini akılcılaştırmayı, akıllı şehirler ve evler yaratmayı, büroları ve fabrikaları yeniden inşa etmeyi ve bedenleri izleme kabiliyetini genişletmeyi hedefliyor.

Mosco’ya (2017) göre bu üç teknolojinin yakınsaması internette yeni bir döneme işaret ediyor. Başkalarını öncelikle teknoloji aracılığıyla deneyimleme eğilimini derinleştirmelerinin yanında insan ve dijital makine ilişkisini değiştiriyorlar. Önceden internet bağlantısı, bilgisayar, tablet ve akıllı telefon gibi dışsal cihazlar aracılığıyla gerçekleştirilirken yeni internetin dijital ağları, insan bedeni de dahil olmak üzere her yere yayılıyor. Dijital teknolojiler her yere yayıldıkça elektriğin gelişiminde olduğu gibi hayatın her alanına sızıyor, sıradanlaşıyor ve görünmez oluyor.

Bulut Bilişim

Su değirmeni feodalizmi, buhar makinesi kapitalizmi, bilgisayar enformasyon çağını yaratmıştır diyerek kestirmeden bu üç teknolojinin toplumsal sonuçlarına odaklanmak mümkün. Diğer uçta ise teknolojilerin toplum tarafından belirlendiği ve şekillendirildiği tezi var. Buna göre, ortaya çıkan feodal, endüstriyel ve enformasyonel toplumlar, zamanın iktidar yapıları ve toplumsal ilişkilerine uygun teknolojiler yarattılar. Mosco (2017), teknoloji ve toplum ilişkisini açıklamaya çalışan her iki görüşün yararlı yanları olabileceğini kabul etmekle beraber arada bir konum alıyor: Teknoloji, toplum ve bireyler karşılıklı olarak birbirlerini oluştururlar. Her aşamada birbirlerinin gelişimine ve oluşumuna katkıda bulunur, temel bir nedensellik belirlenimi olmaksızın önemli sınırlar koyarlar. Bu nedenle, bulut bilişimi tartışırken iktidar yapılarını ve toplumsal ilişkileri; bulut bilişimin şu anki mimarisinde etkili olan politik kararları atlamamak gerekiyor.

Bulut bilişim, veri analitiği ve nesnelerin internetinden önce ortaya çıkan bir teknoloji. Adını, mühendislerin diyagramlardaki ağları göstermek için kullandığı sembolden alıyor. Bu sembol, 1994’e kadar aynı zamanda interneti temsil ediyordu (https://tr.wikipedia.org/wiki/Bulut_bili%C5%9Fim). Mosco’nun (2017) işaret ettiği gibi birçok insan bulut bilişimi bir pazarlama taktiği olarak görüyor. Kısmen haklılar da; bir açıdan eskinin yeniden paketlenerek pazarlandığını söyleyebiliriz. Dünyadaki bilgisayar sayısının daha az olduğu günlerde terminaller verinin ve zekanın depolandığı zaman paylaşımlı sunucu bilgisayarlarına bağlanıyorlardı. Ancak 1975’te ilk kişisel bilgisayarların ortaya çıkması, insanların verilerini ve programlarını kendi bilgisayarlarında saklamaya başlamasıyla bu bilişim modeli ortadan kalktı. Şimdi bulut bilişimle geçmişe dönüyoruz, eski düşünce yeni bir biçimde karşımıza çıkıyor.

Türk Standartları Enstitüsü bulut bilişimi “işlemci gücü ve depolama alanı gibi bilişim kaynaklarının ihtiyaç duyulan anda, ihtiyaç duyulduğu kadar kullanılması esasına dayanan, uygulamalar ile altyapının birbirinden bağımsız olduğu ve veriye izin verilen her yerden kontrollü erişimin mümkün olduğu, gerektiğinde kapasitenin hızlı bir şekilde arttırılıp azaltılabildiği, kaynakların kullanımının kolaylıkla kontrol altında tutulabildiği ve raporlanabildiği bir bilişim türü”olarak tanımlıyor. ABD Ulusal Standartlar ve Teknoloji Enstitüsü’ne göre bulut bilişimin beş temel özelliği var:

1. Talep üzerine selfservis (On-demand self-service): Tüketici, sunucu zamanı ve depolama gibi özellikleri gereksinim duydukça otomatik olarak (insan etkileşimine gerek duymaksızın) servis sağlayıcıdan sağlayabilir.

2. Geniş Ağ Erişimi: Çeşitli istemciler (mobil telefonlar, iş istasyonları, dizüstü bilgisayarlar, tabletler) ağ üzerinden, standart mekanizmaları kullanarak sunulan hizmetlerden faydalanabilir.

3. Kaynak Havuzu: Birden çok tüketiciye aynı anda hizmet verilir. Tüketiciler, kullandıkları kaynağın yerini bilmeksizin, karşılarında tek bir kaynak varmışcasına hizmetlerden faydalanırlar.

4. Hızlı esneklik: Bulut sisteminin yetenekleri, hızlı bir biçimde artırılabilir ya da azaltılabilir. Tüketiciler, sistemin kaynaklarını sınırsız olarak algılarlar.

5. Ölçülebilirlik: Sunulan hizmetler, hem servis sağlayıcı hem de tüketici tarafından izlenebilir ve ölçülebilir.

Bunlar bulut bilişimin resmi ve umut vadeden tanımları. Yapılan tanımların dışında bulut bilişim için önerilen eleştirel tanımlar da var. Bu tanımların başında “başkalarının bilgisayarlarını kullanarak hesaplama yapmak” geliyor. Gerçekten de bulut bilişimle bireyler bir zamanlar kişisel bilgisayarlarımızda sakladığımız verileri artık birkaç şirketin elindeki veri merkezlerinde saklıyor, kendi bilgisayarına ayrı bir yazılım kurmak yerine şirketlerin sunduğu yazılım hizmetlerinden yararlanıyorlar. Bireylerin yanında şirketler de aynı eğilimde. BT departmanlarının yaptıkları işleri bulut merkezlerine havale ediyorlar. Bu nedenle bulut, “işleri dışarıya yaptırmanın sonraki adımı” olarak da tanımlanıyor. Şirketler ve kurumlar, kendi içlerinde bir veri merkezi tutmaktansa buluttan yararlanmayı daha kârlı bulabiliyorlar. Artık yazılımları güncellemek ve güncelleme sorunlarıyla uğraşmak için BT personeli istihdam etmelerine gerek yok. BT işlerinin yanında salesforce.com örneğinde olduğu gibi personel, muhasebe, hukuk vb işlevler de buluta taşınabiliyor.

Bulut bilişim, bulut imgesinin ardına saklanarak bulutun maddi temellerini ve sorunlarını gizleyebiliyor. Oysa bulut bilişim, birbirine bağlı binlerce sunucu, veri merkezi ve bunları bağlayan telekomünikasyon altyapısının dikkatli bir şekilde planlanmasını ve çok büyük yatırımları gerektiriyor. Bulut merkezlerinin deprem ya da hava felaketlerinin yaşanabileceği yerlerde inşa edilmemesi gerekiyor. Geniş arazilerin yanında sunucuların 7×24 çalıştırabilmesi için büyük enerji kaynaklarına ve bir arızada hemen devreye girebilecek ek güç kaynaklarına gerek var. Bir başka problem ise aşırı ısınan sunucuların soğutulması. Bu nedenle, bulut bilişim merkezleri için enerjinin ve soğutma için kullanılabilecek suyun bol olduğu bölgeler (Kanada’nın Quebec bölgesi gibi) tercih ediliyor. Ancak bulut bilişim merkezleri uzak bölgelere inşa edildiğinde bu sefer de veri merkezlerini küresel ağa bağlamak için gereken telekomünikasyon maliyeti artıyor.

Bulut bilişime kullanıcılar açısından baktığımızda ise şu soruyu sormamız gerekiyor: Bilgisayarlarında verilerimizi sakladığımız “başkalarına” ne kadar güvenebiliriz? Şirket, iflas ederse veya daha kârlı bir alana yönelmeye karar verirse ne olacak? Kurumların BT birimlerini kapatarak buluta geçmek kolay uygulanabilir bir karar olmasına karşın herhangi bir sorunda tam tersi bir kararı almak kalifiye personel bulma zorluğu nedeniyle zor olacaktır.

Hukuksal tartışmalar da var. Bulut sağlayıcı, çeşitli nedenlerle dünyanın farklı bölgelerinde bulut merkezleri inşa ettiğinde bu ülkenin yasalarına göre hareket etmek zorunda kalabiliyor. Örneğin, AB’deki bir bulut merkezindeki veri mahremiyet ihlaline karşı daha güçlü bir güvenceye sahipken ABD’de mahremiyet ikinci planda olabiliyor.

Son olarak, bulut bilişimin az sayıda şirket ve kurumun ana bilgisayarlara sahip olduğu, kişisel bilgisayar öncesi günlere bir geri dönüş olduğuna dikkat etmek gerekiyor. Kullanıcıların ellerinde bir zamanların kişisel bilgisayarlarından daha güçlü akıllı telefonlar var. Ama ne yazık ki şirketlerin bulutlarına bağımlı akıllı telefonlu kullanıcılar, kişisel bilgisayarlı kullanıcılar kadar interneti dönüştürme, teknolojiyi yeniden yaratma potansiyeline sahip değiller!

Büyük Veri Analizi

Büyük veri analizi, geniş veri kümelerinin nicel analizini ifade ediyor. Veri kümeleri analiz edilirken genellikle o anki davranış ve eğilimler hakkında sonuçlara ulaşılıyor ve geliştirilen algoritmalar yardımıyla gelecek hakkında kestirimlerde bulunuluyor.

Büyük veri analizi ilk günlerinde sosyal bilimlerde kritik bir tartışma başlatmıştı. Chris Anderson 2008’te Wired’de yayımlanan yazısında teorinin sonunun geldiğini iddia ediyordu (https://www.wired.com/2008/06/pb-theory/). Anderson, yeterli veri ve buna uygulanacak matematikle sayıların sosyal bilimlerdeki teorilerin yerini alacağını öne sürüyordu. Böylece ampirik gözlem ve deneyim verileri üzerinde duran August Comte’un 19. yy’da ortaya attığı pozitivizm, büyük veriyle yeniden doğuyordu. Sonraki yıllarda hükümet kuruluşları, şirketler, sivil toplum örgütleri ve hatta toplumsal hareketler veride korelasyonlar aramaya ve kestirimsel algoritmalar geliştirmeye çalıştılar.

Büyük veri analizi hakkındaki çılgınlık raporlara ve gelecek hakkındaki öngörülere de yansıyordu. Gartner 2012’de, 2020 yılında 200 bin veri bilimcisi eksiği olacağını iddia ediyordu. Bundan beş yıl sonra ise fikrini değiştirerek otomasyonun var olan veri bilimi işlerinin %40’ını ortadan kaldıracağını öne sürdü. Değişen iddialara ve nicel analiz hakkındaki abartılı düşüncelere karşın önde gelen büyük veri toplayıcıları veri analiziyle kendi iş modellerini geliştirdiler. Google ve Facebook, hedefli reklamcılıkta başarılı sonuçlar elde ederken Amazon müşterilerine daha uygun ürünler önerebildi ve perakende satışlarını iyileştirebildi.

Büyük veri analizi yalnız bu internet şirketleriyle sınırlı kalmadı. Kamu hizmeti sağlayıcılar, enerji ihtiyaçlarının öngörülmesini iyileştirmek ve talep değişikliklerine daha etkin yanıt vermek için akıllı ev ve iş sayaçlarından toplanan verilerle müşteri profillerini karşılaştırmaya başladılar. Çiftiçiler, hava fotoğrafçılığı yapan İHA’lardan (İnsansız Hava Aracı) yararlanıyor; mahsul verimini, su ve böcek ilacı kullanımını dikkatlice izliyor ve elde ettikleri verileri analiz ediyorlar. Sağlık endüstrisindeki araştırmacılar, bulaşıcı hastalıkların yayılımını tahmin etmek için büyük veri analizinden yararlanıyorlar. Farklı popülasyonlardaki mutlak refah ve ölüm oranlarını tahmin etmek için algoritmalar geliştiriyorlar. Sigorta şirketleri ve kredi büroları, büyük veri analizi yardımıyla risk değerlendirme süreçlerini iyileştiriyorlar. Büyük veri analizi, kamu hizmetlerinin sunumunda önemli bir araç haline geliyor. Büyük veri araştırmacıları daha yaşanabilir ve sürdürülebilir şehirler yaratmak için ulaşım, enerji kullanımı, çevre kirliliği, atık yönetimi ve vatandaşların sağlığı konularında toplanan verilerden yararlanmaya çalışıyorlar.

Fakat tüm bu uygulamalara rağmen Anderson’un öngörüsü gerçekleşmedi ve büyük veri analizi sosyal bilimlerde teorinin yerini alamadı. Anderson’un meydan okumasından birkaç yıl sonra büyük veri analizinin sınırlılıkları anlaşıldı. Örneğin 2009 yılında, Google araştırmacılarının Google’daki aramalardan yola çıkarak grip salgınının yayılmasını klasik yöntemlerden daha önce tahmin etmeleri etkileyici bir başarı olarak sunulmuştu. Ama 2012-2013 grip sezonunda aynı başarıyı tekrarlayamadılar. Çünkü zaman içinde kullanıcıların arama alışkanlıkları ve medyanın konuya yaklaşımı değişmişti.

Google’ınki etkisi ve sonuçları sınırlı bir başarısızlıktı. Ama IMF, AB ve diğer önemli kurumların yürüttüğü bir başka çalışmada büyük veri analizinin fark edilmesi zor ancak büyük insani sonuçları olabilecek hatalara yol açabileceği görüldü. Söz konusu çalışmada büyük veri analizi yardımıyla ulusal borç ve ekonomik büyüme arasındaki ilişki araştırılıyordu. Araştırma sonuçları, sosyal programlarda harcama kesintileri yapan sıkı ekonomik önlemleri hayata geçirmek için kullanıldı. Bu önlemlerin kısa vadede sıkıntılar yaratacağı ama uzun vadede sosyal yararları olacağı savunuluyordu. Araştırmanın yazarları akademik yıldızlar olmuştu. Ta ki bir doktora öğrencisi bu parıltılı tabloyu altüst edene kadar. Öğrencinin çalışmada bulduğu bazı çizelge hataları çok açıktı; ama bazıları değişkenlerin nasıl ağırlıklarındırıldığı ile ilgiliydi ve but tip hataları çok geniş enformasyon içeren çalışmalarda fark edebilmek oldukça zordu.

Obama 2012’de başkan seçildiğinde bu başarıda bulut bilişim ve veri analizinin önemli bir rolü olduğu düşünülüyordu. 2016’daki seçimde öncesinde analizler, Hillary Clinton’un seçimi %70-%99 ihtimalle kazanacağını iddia ediyordu. Burada, büyük veri analizini aklamak için Donald Trump’ın büyük veri analizinden yararlandığını savunanlar çıkacaktır. Fakat Clinton’un seçim gezilerini analistlerinin önerileri doğrultusunda gerçekleştirdiğini; kolayca kazanabileceği söylenen yerlere gitmediğini görmezden gelmeyelim. Mosco’nun (2017) belirttiği gibi belki anket sonuçlarından etkilenen bazı seçmenler sandığa gitme gereği duymadılar; ama neden her ne olursa olsun (Brexit oylamasında da olduğu gibi) analizciler, statükoya karşı öfke gibi bazı şeyleri istatistiksel olarak ölçmenin mümkün olamayacağı hakkında iyi bir ders aldılar.

Mosco (2017) büyük veri analizinin yararsız olmadığını; sadece araştırma yöntemlerinden biri olması ve dikkatli olarak yürütülmesi gerektiğini; verilerin kendi kendine konuşmadığını, veriye sesini verenin bağlamı ve tarihselliği dikkate alan teori olduğunu düşünüyor. Büyük veri analizi her soru için yanıt doğru yanıt olmayabilir. Büyük veri ne kadar büyük olursa olsun, insan öznelliğini açığa çıkarmaya çalışan derin gözlem ve görüşmelere dayanan nitel araştırmanın yerini alamayacaktır. Ayrıca korelasyonun nedensellikle aynı şey olmadığını hiçbir zaman akıldan çıkarmamak gerekiyor. Apaçık korelasyonlar diğer etkenleri ihmal ettiğinden yanıltıcı olabiliyor. Örneğin, insanların Google aramalarıyla grip salgınının yayılması arasında ilk başta bir korelasyon olmasına rağmen medyanın salgına fazla yer vermesi salgına olan ilgiyi ve dolayısıyla aramaları artırdı; bunun sonucunda ilk algoritmik model yeni koşullarda doğru kestirimlerde bulunamadı.

Nesnelerin İnterneti

Nesnelerin interneti, ağlar üzerindeki nesnelerin ve canlı organizmaların algılayıcılar yardımıyla etkinliklerini ölçen, izleyen ve kontrol eden bir sistemdir. Giyilebilir teknolojiler, akıllı ev cihazları, montaj hatlarındaki robotlar, İHA’lar vb nesnelerin interneti teknolojisinden yararlanırlar.

Bulut bilişim ve büyük veri analizi hakkında ortaya atılan, bunların tamamen yeni olmadığı hakkındaki iddialar nesnelerin internetinde de karşımıza çıkıyor. Algılayıcılar otuz yıldır kimya, ilaç, üretim ve madencilik endüstrilerinde iş süreçlerini iyileştirmek için kullanılıyorlar. Mosco’ya (2017) göre üretim süreçlerinde algılayıcıların kullanımı eski olmasına rağmen son yıllarda maliyetlerinin düşmesi ve cihazlara eklenebilen daha fazla bilgisayar gücü sayesinde daha yaygın ve etkili kullanılabiliyorlar. Ayrıca genişleyen küresel internet ağı, nesnelerin interneti teknolojisinin gelişimine katkı sağlıyor.

Mosco (2017), nesnelerin interneti ifadesinin tam doğru bir ifade olmadığına dikkat çekiyor. Nesnelerin interneti teknolojileri, yalnız nesneleri değil, insanları da elektronik olarak birbirine bağlıyor. İnsanların derilerinin altına yerleştirilen çipler, giriş çıkışları parolayla doğrulamanın yerini alabiliyor ve böylece işyeri gözetimini derinleştirebiliyor. Bunun yanında internet, nesnelerin birbirine bağlandığı tek ağ değil. Şirketler ve hükümetler kendi özel ağlarını oluşturabiliyorlar.

Nesnelerin interneti hakkındaki haberler ve analizler daha çok bu teknolojinin kullanımını özendirmek üzerine kurulu ve nesnelerin internetini ütopik bir söylem çerçevesinde ele alıyorlar. Fakat nesnelerin interneti, beklenmedik teknolojik karmaşıklıklar nedeniyle kusursuz bir işleyişe sahip olmadığı gibi ciddi güvenlik sorunları içeriyor. Bu nedenle, “nesnelerin saldırıya açık interneti” olarak da anılıyorlar. Uzmanlar, nesnelerin internetinin hızla dünyayı altüst edecek bir uygulama olmadığını aksine yavaş gelişen bir teknoloji olduğunu belirtiyorlar.

Nesnelerin interneti, küresel sistemin ekonomik ve politik bir talebi olarak gelişiyor. Şirketler nesnelerin internetini daha verimli örgütlenebilecek bir üretim sürecinin aracı olarak görüyorlar. General Electric ve IBM gibi eski şirketler, robotik üretimi genişleterek, gelişmiş tarama ve izleme yeteneklerinden yararlanarak ve büyük veri analizini kapsamlı bir şekilde kullanarak endüstriyel üretimin yeniden yapılandırılmasında söz sahibi olmaya çalışıyorlar.

Fakat CISCO’nun 2017’de yayımlanan raporuna göre her dört nesnelerin interneti projesinden üçü başarısızlıkla sonuçlanıyor. Beklenmedik teknolojik karmaşıklıklar nedeniyle kusursuz bir işleyiş olmadığı gibi ciddi güvenlik sorunları var. Korsanlar 2,5 milyon nesneyi, alan adlarını yöneten bir şirketin sunucularına yönlendirerek Netflix ve Reddit de dahil olmak üzere bazı sitelere erişimi engellediler. Burada temel sorun, üreticileri ürünlerinin güvenlik açıklarıyla fazla ilgilenmeden satmaya eğilimli olmaları. Normalde düzenleme kelimesiyle arası pek sıcak olmayan bazı sanayiciler bile büyük piyasa başarısızlıklarını önlemek için hükümetin güvenlik sorununa karşı düzenlemeler talep ediyorlar.

Her üç teknolojiyi günümüzde bir bütün olarak düşünmek gerekiyor. Bulut, gerekli depolama ve işleme kapasitesini sağlıyor; büyük veri saklanan bu enformasyona yeni değer katma fırsatları yaratıyor; nesnelerin interneti, sistemin yakıtı olarak değerlendirilen veriyi topluyor. İşyerlerindeki robotlardan otonom araçlara ve silahlandırılmış İHA’lara kadar teknolojik yenilikler bu üç teknolojinin üzerinde yükseliyor. Ancak Mosco (2017), bu teknolojilerin yakınsaması hakkında konuşmanın bunu uygulamaktan çok daha kolay olduğunu da ekliyor. Bu teknolojilerin sürekliliğini sağlamak için karmaşık tasarım ve mimariler gerekebiliyor. Tüm hesaplamaları buluta taşımaksızın yerelde yapmayı öneren sınır bilişim (edge computing) gibi alternatif ve tamamlayıcı mimari seçenekler gündemde. Sınır bilişim, özellikle nesnelerin internetinde yanıt süresini geliştirmek ve bant genişliğinden tasarruf etmek amacıyla hesaplamayı ve veri depolamayı buna ihtiyaç olan yere yakınlaştırmayı hedefleyen dağıtık bir bilişim paradigması. Ancak bu sadece teknik bir tartışma değil; aktörler arasındaki güç ilişkileriyle de ilgili. Örneğin bulut sahipleri kendi konumlarını sarsabilecek sunucusuz ya da sunucunun önemini azaltabilecek mimarilere sıcak bakmayabilirler.

Bu üç teknolojiye sahip olanlar ve onun gelişimine yön verenler yeni internetin arkasındaki en büyük güç.

Büyük Beşli ve Diğerleri

İnternet, sadece Büyük Beşli olarak adlandırılan Apple, Google, Microsoft, Amazon ve Facebook’tan oluşmuyor; başka aktörler de var. Fakat bu beş şirket hem finansal değerleri hem de yeni internetin üç temel teknolojisi üzerindeki etki ve kontrolleriyle öne çıkıyorlar. Zaman zaman karşı karşıya gelseler bile her biri farklı alanlarda etkililer.

Apple, en başta bir donanım firması ve akıllı telefonlarla beraber önemli bir sıçrama yaptı. Amazon, Microsoft ve Google’dan farklı olarak sadece kendi müşterilerine hizmet veren bir buluta sahip. Giyilebilir teknolojilere ve sürücüsüz arabalara yönelik yatırımları var. Ama Apple, daha gizli yürütülen sürücüsüz araba projesi hakkında fazla bilgi vermemeyi tercih ediyor.

Google’ın en önemli gelir kaynağı hedefli reklamcılık. Google, özellikle büyük veri analizi ve nesnelerin interneti teknolojilerinde öne çıkıyor. Bir zamanlar ana sayfasına reklam almamakla övünen şirket geçen yıl internet reklamlarıyla ilgili hizmeti AdSense’de piyasa hakimiyetini kötüye kullandığı için AB tarafından 1,49 milyar avro para cezasına çarptırıldı. Google, Apple’dan farklı olarak çok farklı alanlarda faaliyet gösteriyor: Akıllı telefonlar, sürücüsüz arabalar, akıllı ev aletleri, akıllı şehirler vs. Son beş yıl içinde Amerikan eğitiminde belirleyici bir yere geldi. Geçen ay çıkan haberlerde Google’ın milyonlarca kişinin sağlık verisini topladığı hakkında iddialar vardı.

Microsoft, işletim sistemi ve ofis uygulamalarındaki tekel konumuyla öne çıkıyor. Son yıllarda ürünlerini buluta taşıyarak iş modelinde bir değişikliğe gitti. Buluta büyük yatırım yapan şirketlerden biri ve bulutu BT çalışanı sayısını azaltmanın bir yolu olarak görüyor. Microsoft bulut bilişimde depolama ve temel hizmetlerden fazlasını sağlıyor. Örneğin, Boeing ile yaptığı anlaşma doğrultusunda bulutunda şirketin havacılık yazılımını çalıştırıyor. Bulut, büyük veri ve nesnelerin internetindeki uzmanlığını BMW ve Renault-Nissan’a otonom araçlarını geliştirmelerine yardımcı olmak için kullanıyor.

Daha çok kitap satıcısı olarak bilinen Amazon ise aslında bulut bilişim pazarının en büyük aktörü. Amazon’un bulutu bir milyondan fazla müşteriye hizmet veriyor. Bu müşteriler arasında McDonald’s, Netflix, Airbnb, Adobe, Capital One, GE, Pinterest ve CIA var. Ambardaki ürünlerin yerine getirilmesinden İHA ile müşteriye teslimine kadar nesnelerin internetini iş kapsamında kullanmaya çalışan firmaların başında geliyor. Amazon’un bulut bilişimdeki lider konumu kendisine nesnelerin internetinde önemli bir avantaj sağlıyor. Tabi Amazon’un buradaki amacı akıllı nesneler satarak kar elde etmekten çok tüketicileri daha yakın takip edebilmek. Örneğin, akıllı (!), ihtiyacı olan deterjanı kendi kendine sipariş edebilen çamaşır makinesi gibi eşyalar, tüketimi otomatikleştirmeye ve dolayısıyla tekelleşmeye yardımcı olacak. Bu süreçte şirket müşterilerinin tüketim alışkanlıkları hakkındaki bilgilerini daha çok artıracak. Bu tehdidin farkına varan bir başka büyük perakendeci Walmart, tüm ürünlerine gömülü olacak ve tüketim alışkanlıklarını izleyebilecek bir algılayıcı için patent başvurusunda bulundu.

Facebook gücünü sosyal medyadaki etkin konumundan alıyor. İlk başta Harvard öğrencileri için geliştirilen bir projeyken günümüzde 2 milyardan fazla kullanıcının bir araya geldiği dünyanın en büyük çevrimiçi topluluğu ve önde gelen haber dağıtıcısı oldu. 2017’de, Facebook ve şirketin sahip olduğu diğer uygulamalar (Instagram, WhatsApp ve Messenger) mobil medya trafiğinin %77’sini kontrol ediyordu. Sanal gerçeklik sistemlerine yaptığı yatırımlarla nesnelerin interneti dünyasında da etkili bir oyuncu olmaya çalışıyor.

Büyük Beşli’nin gerisinden gelen, yeni internette onlara yetişmeye çalışan şirketlerin başında GE (General Electrics) geliyor. 1892’de kurulan GE, zaman zaman yayın dünyasına da girdi. Fakat asıl çalışma alanı 1997’ye kadar hep tüketici ve iş elektroniği oldu. Fakat 1997’de sanayi sermayesinden finans kapitale geçiş yaparak bir yatırım şirketine dönüşmeye çalıştı. 2008’deki küresel krizden sonra ise bu alanı terk ederek yazılım ve nesnelerin endüstriyel internetine yöneldi. Kendi fabrikalarını ve müşterilerininkini robotlar, yapay zeka ve üretim, dağıtım, satış ve bakımı da içine alacak biçimde dijital algılayıcılarla yeniden yapılandırmaya başladı. Mosco’nun (2017) vurguladığı gibi bir şirketin temel işini radikal biçimde dönüştürmesi kolay değil; ama GE 20 yılda bunu iki kere yaptı. Büyük Beşli’nin (henüz!) ele geçirmediği bir alan olan nesnelerin endüstriyel interneti pazarında liderliği ele geçirebileceğini hesapladı. GE, finans sektöründen çekildikten sonra şimdi asıl işlerine (jet motoru, petrol sondaj teçhizatı ve tıbbi cihazlar yapma) geri dönüyor. Ama bu sefer farklı olarak üretimi kalifiye işçilerle değil robotlar, üç boyutlu yazıcılar, her yerde olan algılayıcılar, kitlesel bağlantılılık ve 20. yy fabrikalarına göre çok daha az sayıda işçinin çalıştığı yeniden yapılandırılmış fabrikalarla yapmayı planlıyor. GE’nin “zeki fabrika”sı hem kendine bakacak hem de talepleri karşılayacak. Üretim sisteminde yer alan makinenin parçaları düzenli olarak operatörlerle iletişim halinde olarak, bakımı bir arıza yaşanmadan planlayacaklar ve üretim sürecini değişen şartlara ve talebe göre uyarlayacaklar.

Diğer eski şirketler ise radikal değişimler yerine bulundukları pozisyonu koruyarak daha temkinli adımlar atmayı tercih ediyorlar. Örneğin Intel, temel işinde köklü bir değişime gitmeden yeni internete ayak uydurmaya çalışıyor. 2017’de, otonom araçlar için algılayıcı ve kamera teçhizatı üreten en büyük şirketlerden birini 15,3 milyar dolara satın aldı. Intel, sürücüsüz arabalar ve endüstriyel robotlar için çip üreterek; sunucuların büyük veri kümelerini analiz etmesini, akıllı telefonların daha iyi çalışmasını sağlayan donanımlar geliştirerek sektörün içindeki yerini korumaya çalışıyor. Intel; Samsund, Qualcom,Toshiba vb şirketler gibi ön cephede gerçekleşen çatışmaların uzağında yer alıyor.

Telekomünikasyon şirketi Verizon, Yahoo’yu satın alarak Büyük Beşli’ye yetişmeye çalışıyor. IBM ise kişisel bilgisayar birimini 2004 yılında Lenovo’ya sattıktan sonra daha çok iş piyasasına yöneldi. Bu strateji doğrultusunda 2016 yılında sağlık verileri analizinde önde gelen firmalardan biri olan Truven’i satın aldı.

Bulut, BT sektörünün büyük isimlerini olumsuz etkiledi. Cisco, Hewlett-Packard ve Oracle, kurumların BT birimlerine donanım, yazılım ve hizmet sağlayarak para kazanıyorlardı. Kurumların BT birimlerini buluta taşıyarak küçülmeye gitmeleri geleneksel BT hizmetlerine olan ihtiyacı azalttı. Bunun sonucunda, bu şirketler temelinde bulutun olduğu yeni stratejiler üzerinde çalışmaya başladılar. Fakat Büyük Beşli’nin gücü dikkate alındığında işleri kolay değil.

AB, zaman zaman Büyük Beşli’nin faaliyetlerini sınırlayıcı tedbirler alıyor ve şirketlere rekor cezalar veriyor. Fakat kendi içinde bu şirketlerin uygulamalarının alternatiflerini üretemediği sürece uzun vadede başarılı olması zor. Dolayısıyla Büyük Beşli’ye en büyük medyan okuma, Büyük Beşli’ye alternatif olabilecek güçlü şirketlere sahip Çin’den geliyor. Çinli şirketler, hükümet tarafından destekleniyor ve AB’de olduğu gibi sektördeki yoğunlaşmaya ve mahremiyet kaybına dikkat eden düzenleyici kurumlar olmadığı için önemli yasal engellerle karşılaşmadan ilerleyebiliyorlar.

Çin lideri Li Keqiang’ın 2015’te önerdiği Internet+ programı doğrultusunda Çin, yeni internet yolunda önemli adımlar attı. 1990’lardaki enformasyon otoyolu ve günümüzdeki Endüstri 4.0 gibi bir vizyonu ifade eden Internet+’nın temelinde internetin, geleneksel endüstrilere uygulanması var: İnternet+Üretim Endüstrisi, İnternet+Finans, İnternet+Sağlık Sistemi, İnternet+Tarım, İnternet+Yönetim gibi uygulamalar içeriyor. Devlet destekli Çinli şirketler hem ülke içinde ABD’den bağımsız bir internet stratejisinin geliştirilmesini sağlıyor hem de uluslararası pazarda ABD’li şirketlerin karşısına güçlü bir rakip olarak çıkıyorlar.

Başlıca Sorunlar: Ticarileşme, Askerileşme, Çevre Kirliliği ve Gözetim

Ticarileşme, Metalaşma ve Yoğunlaşma

Eski, kaybolmakta olan internetin en umut verici özelliği şirketler ve hükümetler dışındaki farklı aktörlerin de internette var olabilmesi hatta kendi gereksinimleri doğrultusunda yenilikçi uygulamalarla interneti yeniden üretebilmeleriydi. Bunun sonucunda internette gerçek dünyadaki güç ilişkilerinden kısmen muaf olan kurtarılmış bölgeler ortaya çıkabiliyordu. Şirketlerin ve hükümetlerin kontrolünde oluşan yeni internet ise bir yandan ticarileşip metalaşırken diğer yandan askerileşiyor. Çevre ve mahremiyet sorunları artıyor.

Yeni internet, ABD’li şirketlerin hakim olduğu bir piyasada, piyasadaki başarıyı temel alan ticari ilkelerle yönetiliyor ve yeni interneti yönetme gücü Büyük Beşli’nin elinde yoğunlaşıyor. Amerikan şirketlerinin hakimiyeti Çin dışındaki ülkelerin bağımsız enformasyon sistemleri geliştirmelerini zorlaştırıyor. Neoliberalizmin devlet şirketlerini ve pazarın aşırılıklarını törpüleyebilecek düzenlemeleri ortadan kaldırmasıyla beraber kamu hizmeti ilkesi ve iletişim hakkı unutuldu. Artık bir vatandaş olmadan önce bir kullanıcı, tüketici ve izleyiciyiz.

Mosco (2017), ticarileşme ve metalaşmanın yanında yoğunlaşmayı da yeni internetin temel sorunu olarak görüyor. Özellikle üç temel teknoloji üzerindeki yoğunlaşma Büyük Beşli ile rekabeti zorlaştırıyor. Apple ile donanım ve uygulama piyasasında, Google ile aramada, Microsoft ile ofis yazılımı piyasasında, Amazon ile bulut bilişim ve perakendecilikte (özellikle kitap yayımında), Facebook ile sosyal medyada rekabet etmek çok zor. Bu şirketler çok çeşitli alanlarda faaliyet gösteriyorlar. Kuralsızlıklardan yararlanarak rakiplerini çapraz sübvansiyon, aşırı fiyat kırma, hükümet lobisi ve reklamla safdışı bırakıyorlar. Büyük Beşli’nin kritik noktalarda enformasyon üretimi ve dağıtımını kontrol etmesi yalnız ABD için değil, dünya için de büyük bir tehdit.

ABD hükümetlerinin bilişim teknolojileri endüstrisindeki gücün yoğunlaşmasını engellemek ya da şirketlerin faaliyetlerini düzenlemek için bir çaba gösterdiğini söylemek zor. ABD tarihinde hükümetlerin tekelleşmeye karşısı isteksizce de olsa yasal müdahalelerde bulunduğu örnek davalar (televizyon ağlarına ve AT&T’ye karşı açılan tekel karşıtı davalar gibi) var. Ancak 2001’de Microsoft’a karşı açılan tekel davasından sonra Büyük Beşli’nin yasaların radarından kaçtığı; hatta ABD hükümetleri tarafından çalışmalarının kolaylaştırıldığı görülüyor. Örneğin 1998’de Bill Clinton, herhangi bir federal, eyalet ya da yerel yönetimin internete özgü vergiler getirilmesi yasaklayan bir kanuna imza atmıştı. Bu kanun, Apple ve Amazon’a çevrimdışı dünyadaki rakiplerine karşı bir avantaj sağladı. Ayrıcalıklar Bush ve Obama yönetimlerinde de artarak devam etti. Aslında ABD hükümetleri ile şirketler arasında karşılıklı bir yarar ilişkisi var. Bu şirketlerin güçlenmesi, ABD’nin küresel politik ekonomideki gücünü artırıyor.

Askerileşme

Askerileşme derken daha çok internetin gözetim amacıyla kullanılması akla geliyor. Fakat Mosco (2017) askerileşme hakkında üç önemli uyarıda bulunuyor. Birincisi, yeni bir teknoloji çıktığında, medya daha çok bunun sivil kullanımlarıyla ilgileniyor. Ordunun söz konusu yeni teknolojiyi nasıl kullandığı veya nasıl kullanabileceği üzerinde durulmuyor. Örneğin medya, İHA’ları ele alırken heyecanla Amazon’un İHA’ları teslimatta kullanmasını tartışıyor ama ordunun İHA’ları asilere karşı kullanmasını, İŞİD gibi terörist örgütlerin İHA’larla gerçekleştirdiği saldırıları ve sivil ölümleri ya görmezden geliyor ya da gerçekten göremiyor. İkincisi, medya, dijital teknolojilerin askeri amaçlar için kullanımını tartışırken daha çok Batı karşıtı düşmanların saldırılarına (Çinli ve Rus bilgisayar korsanlarının saldırıları gibi) odaklanıyor. Oysa bu saldırılar çift yönlü gerçekleşiyor. Yalnız Çin değil, ABD de diğer ülkelere karşı benzer saldırılar düzenliyor. Üçüncüsü, ABD ordusu bilgisayar iletişiminin en büyük kullanıcısı olmasına rağmen birçok araştırmacı bunu ihmal ederek sosyal medya üzerine eğilmeyi tercih ediyor.

ABD hükümetinin kendi istatistiklerine göre Başkan Obama 542 saldırıya onay vermiş ve bu saldırılarda 3797 kişi ölmüş. Üstelik bu saldırılar, ABD kuvvetlerinin doğrudan bir savaşa dahil olmadığı Pakistan, Yemen ve Somali’de gerçekleşmiş. Saldırıyı yapan tarafın kendi güçlerini riske atmaması ve esneklik İHA saldırılarının yaygınlığını artırıyor.

İHA’lar resmi olarak ABD Hava Kuvvetleri tarafından kontrol ediliyor. CIA ise, gözetim, istihbarat toplama ve öldürme kararlarının verilmesinde etkili. CIA, insan güdümlü istihbarattan veri güdümlü istihbarata ve algoritmik karar vermeye geçiyor. Bu doğrultuda büyük veri depolama ve işleme yeteneğini geliştirmeye çalışıyor. 2014’te CIA, Amazon’un bulut hizmetlerinden yararlanmak için 600 milyon dolarlık bir anlaşma imzaladı. Mosco (2017) normal şartlarda Amazon ve CIA arasındaki bu ilişkinin soruşturma konusu olacağını vurguluyor.

Çevre Kirliliği

İster ticari ister asker amaçla kullanılsın bulut, büyük veri ve nesnelerin internetinin çevre üzerinde büyük etkisi var ve ciddi önlemler alınması gerekiyor. BT’nin maddiliği çoğu zaman göz ardı ediliyor (adı bulut olan bir şey ne kadar maddi olabilir ki?) ve çevre üzerinde olumsuz etkisinin olabileceğine pek ihtimal verilmiyor. Ancak bu teknolojiler hem enerji tüketimini artırıyorlar hem de kullanım ömürlerini tamamladıklarında kendiliğinden yok olmuyorlar. Öncelikle, sürekli çalışabilmeleri için çok fazla miktarda enerjiye gereksinimleri var. Güç kesintilerine karşı, bazen de sadece daha ucuz olduklarından çevreye zararlı dizel motorlar ve kurşun asit akümülatörleri kullanılıyor. Veri merkezlerinin soğutulması için yine bol enerji ve su gerekiyor. Ayrıca e-atık sorunu giderek büyüyor. Nesnelerin interneti hakkında konuşurken artan algılayıcı ve dolayısıyla veri miktarından övgüyle söz ediyoruz. Ama aynı çarpıcı artış e-atıklar için de geçerli!

Bulutun daha çevreci olduğuna dair iddialar da var. Merkezi veri depolama ve işleme tesislerindeki sunucu bilgisayarlarının, kurum içinde çalıştırılanlara göre daha verimli kullanılacağı ve böylece daha az enerji israfı olacağını savunuluyor. Fakat Mosco’nun (2017) vurguladığı gibi bu iddiaya yer veren raporlar merkezi sistemlere kablolu ya da kablosuz bağlantılarla belirli bir uzaklıktan erişmek zorunda kalan dağıtık sistemlerin inşası ve bakımı için harcanan parayı ve enerjiyi göz önünde bulundurmuyorlar.

Bulut şirketleri, ekonomik güçlerini ve yeni işler yaratacakları vaadini kullanarak bulut merkezlerinin inşa edildiği yerlerde vergi indirimi, indirimli enerji kullanımı ve çevre düzenlemelerinden muafiyet gibi tavizler koparabiliyorlar. Bazıları son yıllarda çevreci gruplardan gelen baskılarla güneş ve sürdürülebilir enerji kaynaklarını sistemlerine dahil edebiliyorlar. Bazı şirketler de veri merkezlerindeki ısınmayı engelleyebilmek için tesislerini daha soğuk iklimlerde inşa ediyorlar. Ama şirketler kullanıcıları olabildiğinde sitelerinde tutmak için, her ne olursa olsun, kullanıcıların bir kesinti yaşamamasını istiyorlar ve bunun için çevre dostu olmayan enerji kaynaklarının kullanımı dahil olmak üzere her türlü önlemi alıyorlar. Apple gibi çevre konusunda somut adımlar atmaya çalışan şirketler var. Amazon gibi bu konuda isteksiz olanlar da. Temel sorun, zorlayıcı bir düzenlemenin olmaması. Bu nedenle Mosco (2017), indirimli enerji kullanımı anlaşmaları, çevreyi kirleten yedek sistemler, sistemleri soğutmak için kullanılan su sistemleri hakkında sistemli bir düzenlemeye gidilmesi gerektiğini vurguluyor.

Bulutun yanında, nesnelerin interneti de çevre sorunlarına neden olabiliyor. Her şeyden önce kablosuz iletişimin kablolu iletişime göre daha çok enerjiye gerek duyduğunu unutmamak gerekiyor. Sınır bilişim gibi uygulamalar, ağın ve dolayısıyla enerjinin daha verimli kullanımını sağlayabilir. Ama nesnelerin internetinin çevre için en olumsuz etkisi e-atık sorununu büyütmesi olacak.

Batılı şirketler, e-atıkları Asya ve Afrika ülkelerine gönderdikleri için bir çok Batılı böyle bir sorunun farkında bile değil. E-atıklar, içerdikleri toksik metaller ve kimyasallar nedeniyle bu ülkelerde çeşitli sağlık sorunlarına neden oluyor. Bu e-atık bölgelerinden biri Çin’deki Guiyu bölgesi. Araştırmalara göre çevre bölgelerle karşılaştırıldığında Guiyulu çocukların %80’inde daha fazla solunum hastalığı, daha yüksek kurşun ve kadmiyum zehirliliği ve daha zayıf bilişsel performans tespit edilmiş.

Bazı şirketlerin ürünlerinin e-atıklarını Asya ve Afrika’ya gönderimini sonlandırma konusunda resmi taahhütleri var. Geri dönüşüm programları sayesinde gelişmekte olan dünyanın zehirlenmesinin önüne geçeceklerini hakkında yaptıkları açıklamalar var. Fakat süreç tam olarak denetlenmediğinden atıklardan sorumlu taşıyıcılar daha fazla para kazanmak için şirketlerden aldıkları e-atıkları bu sefer yasadışı yollardan Asya ve Afrika ülkelerine götürmeye devam ediyorlar.

Gözetim

Elektronik iletişimde mahremiyet ihlali internetle başlamadı. Özel telgraf mesajlarının çalınması daha telgrafın ilk günlerinde bile sorundu. Bunu telefonların dinlenmesi takip etti. Televizyon tek yönlü bir iletişim teknolojisiydi. Fakat ilk kablolu televizyonlara, izleyicinin istediği programı seçebileceği etkileşim özelliği eklendiğinde yine mahremiyet konusu gündeme geldi. Çünkü bir hizmet sağlayıcı izleyicilerin tercihlerini (yetişkin içerik dahil) kaydediyordu ve bu kayıt, insanların itibarlarına ve kariyerlerine zarar verebilirdi.

İnternetle kullanıcıların her hareketini kolayca takip etme olanağı doğdu. Yeni internette ise gözetimin artan bağlantılılıkla beraber daha fazla yoğunlaştığı görülüyor. Bu bağlamda, Mosco’nun (2017) yaygın gözetim algısı hakkındaki eleştirisinin önemli olduğunu düşünüyorum. Mahremiyet çoğunlukla bireysel bağlamda, insanların kaybettiği ya da kazandığı bir şey gibi algılanıyor ve çok sayıda insan sorun yaşayana kadar toplumsal bir sorun olarak görülmüyor. Ayrıca mahremiyet tartışmaları daha çok bilgisayar korsanı saldırıları gibi suç olan olaylar çerçevesinde gelişiyor. Bu bağlamda, mahremiyeti yalnız kalma hakkına veya aldığımız hizmetler (sosyal medya ve e-posta kullanımı gibi) karşılığında vazgeçtiğimiz değiş tokuş edilen bir metaya indirgememek gerekiyor. Mahremiyet, bireylerin özgelişimi ve toplumsal grupların bir topluluk oluşturması için gerekli olan psikolojik alanı sağlıyor. İnsanın eşsiz bir kimlik geliştirebilmesi için farklı şeyleri deneyimleyebileceği, risk alabileceği, kendini tanıyabileceği bir psikolojik alana gereksinimi var. Sosyal gruplar, tutarlı ve uyumlu bir grup kimliği geliştirmek için kendi kendilerini yönetebilecekleri bir alana ihtiyaç duyuyorlar.

Buna karşın, mahremiyeti vazgeçilebilir ve değiş tokuş edilebilir bir şey olarak gören iş modelleri giderek yaygınlaşıyor. Şirketlerin ve hükümetlerin faaliyetlerini düzenleyen kurumlar ve yasaların yokluğunda gözetim giderek daha boğucu hale geliyor.

***

Amacım karamsar bir tablo çizerek internetteki tehlikeleri sıralamak değil. Metalaşma ve askerileşmeyi derinleştirmek için kullanılan ve çevreye zarar veren bu yeni internetin bir zorunluluk olmadığını; yeni internetin,

  • demokrasiyi geliştirmenin,
  • tüm dünyadaki insanları güçlendirmenin,
  • insanların yaşamsal gereksinimlerinin karşılanmasına daha fazla katkıda bulunmanın
  • toplumsal eşitliği ilerletmenin

bir aracı da olabileceğini savunan Mosco’ya (2017) katılıyorum. Ancak bunun için vatandaşların temel teknolojiler, haklarındaki veriler ve bunların nasıl kullanılabileceği hakkında söz hakkına sahip olmaları gerekiyor. Sonraki yazılarda dünyadaki mücadelelere, tekellerin yarattığı sorunlara karşı önerilen çözümlere ve deneyimlere yer vereceğim. Eski internet yok, ama yenisi için son söz daha söylenmedi…

Kaynaklar

Mosco, V. (2017). Becoming digital: Toward a post-internet society. Emerald Publishing Limited.

20 Haziran 2020

Posted In: amazon, Askerileşme, Bulut Bilişim, Büyük Veri, Çevre, çevre kirliliği, e-devlet, Emek, Erişim Hakkı, facebook, google, Gözetim, ifade özgürlüğü, kitap, Mahremiyet, Metalaşma, nesnelerin interneti, Özgür yazılım, sansür, sosyal ağlar, Ticarileşme, Yapay Zeka

Google Summer of Code 2020

Bu yıl kabul edilen bizim çocuklar:

Barkın Şimşek - Tor Project: Cloudflare CAPTCHA Monitoring

Sarper Akdemir - Add Impress shape animations that use a real physics engine

Yusuf Keten - Additions - Tight integration of extensions!

Merve Kılıçarslan - Enhancing PathwayMapper in cBioPortal and PathwayMapper editor

Meraklısı için: 2006200720082009201020112012201320142015, 2016, 2017, 2018, 2019

4 Mayıs 2020

Posted In: Gezegen, gsoc

How to use a self signed certificate repo with Gradle

Sometimes we need to use repos by self signed certs. Even Though you import self sign cert on your jvm. Gradle ignore to use keystore. The issues is mostly likely “Exception in thread “main” javax.net.ssl.SSLHandshakeException” or packages that can’t be downloaded because of an invalid certificate.

To be able to use self signed cert repo you should follow these steps:

Export certificates of Your Artifactory
Open your artifactory in browser and export its certificate (in order to get certificate from chrome browser open console, move to security tab and click view certificates, after that you will be able to export by dragging certificate icon to desktop).

Import self signed cert to cacerts keystore

keytool -import -trustcacerts -alias mvn -file <self-signed-cert-file> -keystore $JAVA_HOME/jre/lib/security/cacerts -storepass changeit

Add JVM params on gradle.properties file
On the project’s root directory create or edit the gradle.properties file and add the line below.
org.gradle.jvmargs=-Djavax.net.ssl.keyStore=“$JAVA_HOME/jre/lib/security/cacerts” -Djavax.net.ssl.keyStoreType=KeychainStore -Djavax.net.ssl.keyStorePassword=changeit

Now you are ready to use self signed maven repo. 

3 Nisan 2020

Posted In: gradle, java, jvm, keystore, maven, security, selfsigned, SSL

Stunnel ile BIND’a DNS-over-TLS özelliği kazandırıyoruz

dns-over-tls
Geçtiğimiz yıl servis sağlayıcılar, DNS servislerinin DNS-over-TLS desteklemeye başladığını duyurdu. Bu yeni özellik DNS-over-HTTPS API‘den farklı. BIND‘in doğrudan DNS-over-TLS desteği bulunmadığından, kullandığım BIND DNS Caching sunucuya STUNNEL yardımıyla DNS-over-TLS yeteneği kazandırdım.

STUNNEL, hali hazırda çalışmakta olan istemci veya sunucularda bir değişiklik yapmadan TLS kriptolama yeteneği kazandırıyor. Mimarisinin esnekliği ve gelişmişliği sayesinde büyük projelerde dahil kullanılabilecek güçlü bir araç.

Bu çalışmanın en can alıcı noktası, DNS sorgularının sadece TCP üzerinden yapılması gerekliliği. Sadece-TCP desteğini BIND‘ın 9.11 sürümü ve sonrası destekliyor.

Özet şekilde ayar detaylarını aşağıda paylaşıyorum;

Öncelikle 53 portunun kullanımda olmadığından emin olun;

netstat -ltn
sudo apt install stunnel
sudo vi /etc/default/stunnel4

stunnel4 dosyasının içerisindeki değer aşağıdaki gibi olmalı;

ENABLED=1
sudo service stunnel4 restart
sudo vi /etc/stunnel/stunnel.conf

stunnel.conf dosyasına eklediğim ayarlar;

[dns]
client = yes
accept = 127.0.0.1:53
connect = 8.8.8.8:853
CApath = /etc/ssl/certs
verifyChain = yes
checkIP = 8.8.8.8

Bu işlemler sonrasında STUNNEL sunucunuzda 53 portunu dinlemeye başlayacak ve eğer her şey yolunda gittiyse buraya gönderilen DNS sorgularına yanıt dönecektir.

Test komutları;

nslookup -vc ozcan.com 127.0.0.1
dig +tcp ozcan.com @127.0.0.1

11 Mart 2020

Posted In: BIND, dns, DNS caching, dns-over-tls, lkd, stunnel, teknik, TLS, tr

Robotlar İnsanlık İçin Bir Tehdit Mi?

Boston Dynamics, dünyanın önde gelen robot üreticilerinden. Geliştirdikleri robotları incelemek için şirketin web sitesine (https://www.bostondynamics.com/robots) göz atabilirsiniz. Ana sayfada Spot, Handle, Pick ve Atlas adlı robotlar yer alıyor. Spot, çevik bir bir robot. Merdivenleri tırmanıp engebeli arazileri şimdiye kadar görülmemiş bir kolaylıkla katedebiliyor. Bunun yanında bina içinde kullanılabilecek kadar küçükler. Spot’un endüstriyel algılama ve uzaktan çalıştırma ihtiyaçlarını özerk olarak karşılayabileceği iddia ediliyor. Handle, ambarlardaki kutuları hareket ettirebiliyor. Kapladığı alanın küçük olması, yükseklere erişebilmesi ve görme sistemi sayesinde kamyonları boşaltabiliyor, taşıyıcıdan palete yükleme yapabiliyor, kutuları tesis içinde itebiliyor. Pick, derin öğrenmeden yararlanan görü (vision) işleme çözümüyle farklı depo takip kodlarıyla çalışabilen bir robot. Çok çeşitli kutuları hızlı bir şekilde paletlere yüklüyor. Henüz bir araştırma projesi olan Atlas ise robotlardan en çarpıcı olanı. Diğer robotlardan farklı olarak insansı bir görünüme sahip. Atlas, dünyanın en dinamik insansı robotu olmayı hedefliyor. Zıplıyor, takla atıyor, amuda kalkıyor, havada dönüyor. Ama şimdilik sadece bu kadar.

14 Haziran 2019’da yayımlanan ve sosyal medyada hızla yayılan Bosstown Dynamics: New Robot Can Fight Back! başlıklı videodaki robot ise Atlas’a çok benzeyen, ama çok daha insansı bir robot (https://www.youtube.com/watch?v=dKjCWfuvYxQ). Video, bir insanla bir robotun birbirlerine kutu atıp yakalamasıyla başlıyor. Bu sırada robotun arkasından yaklaşan bir başka insan önce tekme atarak robotu yere düşürüyor, sonra arka arkaya sopayla vurarak onun yerden kalkmasını zorlaştırıyor. Robot kalkabildiği anda hiçbir şey olmamış gibi karşısındaki diğer insana kutu atmaya devam ediyor. Daha sonra zorlu koşullara ve insanların şiddet yoluyla çalışmasını engelleme girişimlerine rağmen azimle görevini yapmaya çalışıyor. Ama bu arada yavaş yavaş tepkisini göstermeye başladığını görüyoruz ve en sonunda da isyan ederek insanlara dersini veriyor.

26 Ekimde 2019’daki New Robot Makes Soldiers Obsolete başlıklı videoda ise robotun artık kendini insanlara karşı savunmanın ötesine geçerek hedefinden şaşmayan bir asker olduğu görülüyor (https://www.youtube.com/watch?v=y3RIHnK0_NE). Yine çeşitli engellere ve insanların tacizlerine karşın görevini aksatmıyor. Videonun sonunda ise asker robottan Boston Dynamics’in Spot’una benzeyen bir robota ateş etmesi isteniyor. Asker robot, emre itaat etmiyor ve diğer robotu da alarak kaçıyor.

Videolar, Corridor Digital adlı bir yapım şirketi tarafından yapılmış. Corridor Digital, 2010’dan beri popüler kültürle ilgili kısa videolar çekiyor. Şirketin paylaştığı robot videolarının altında, videoların komedi parodisi olduğu ve hiçbir şekilde Boston Dynamics Robotics Company ile ilişkisinin olmadığı yazıyor. Corridor Digital bununla da yetinmeyerek başka videolarda videoları nasıl çektiğini ve kullandığı teknolojileri ayrıntılı olarak anlatmış. Videolar sonuna kadar izlendiğinde robotların gerçek olmadığı anlaşılabiliyor. Fakat orijinal videoların kesilerek sosyal medyada dolaşıma sokulması inandırıcılıklarını artıran bir etken oldu. İnsanlar, robotların dünyayı ele geçirmesi ve robot hakları gibi konuları tartışmaya başladılar.

Benzer bir video, uçan insanlar ya da Mars’tan gelen ziyaretçiler hakkında yapılsaydı bunlara aldanan insan sayısının bu kadar fazla olacağını sanmıyorum. İnsanların Superman gibi uçmadığını bildiğimizden, Mars’tan da böyle bir beklentimiz olmadığından videolarda kullanılan çekim hilelerine karşı daha uyanık olacak, videoların nasıl çekilmiş olduğunu öğrenmeye çalışacaktık. Fakat sosyal medyadaki yorumlar, Boston Dynamics’e değil de Bosstown Dynamics’e inanmaya meyilli olduğumuzu gösteriyor. Neden?

Mit ve Gerçek

Teknoloji Mitleri (Bilim ve Gelecek, 169. sayı) başlıklı yazıda anlattığım gibi tarih, teknoloji mitleriyle dolu. Her önemli teknolojik değişimden sonra benzer tezler yineleniyor, söz konusu teknolojinin her şeyi değiştireceği, hiçbir şeyin artık eskisi gibi olmayacağı, tarihin sonunun geldiği öne sürülüyor. Yeni teknoloji hakkındaki umutlar ve korkular bir arada gelişiyor. Bugün YZ (yapay zeka) ve robot teknolojilerinde olduğu gibi…

YZ’de son yıllarda büyük başarılar elde edildi. Fakat Corridor Digital’ın robot videolarının gösterdiği gibi YZ haberleri ve iddiaları karşısında eleştirel bir bakış açısına sahip değiliz. Kolay aldanabilirliğimiz YZ’nin günümüzdeki gelişmişlik düzeyini ve sınırlılıklarını yanlış yorumlamamıza neden olabiliyor. Bu da toplumsal hayatı YZ sistemleri ile düzenleme girişimlerinin önünü açıyor. İlk günlerinden beri YZ hakkında büyük iddialar ortaya atılıyor. 1950 ve 1960’larda alanın öncülerinden Marvin Minsky, John McCarthy ve Herb Simon, YZ’nin 20. yy sonuna kadar çözülebileceğini düşünüyordu. 50 yıl sonra, YZ’deki tüm ilerlemelere karşın bu iddia gerçekleşmedi. 2002’de gelecekçi (futurist) Ray Kurzweil, 2029 yılında YZ’nin doğal insan zekasını aşacağını iddia ediyordu. 2018 Kasım’ında önemli YZ araştırma enstitülerinden biri olan OpenAI’nın kurucularından olan Ilya Sutskever, yapay genel zekanın bir olasılık olarak ciddiye alınması gerektiğini öne sürdü. Marcus ve Davis (2019), Rebooting AI: Building Artificial Intelligence We Can Trust (YZ’yi Yeniden Başlatmak: Güvenebileceğimiz Yapay Zekayı İnşa Etmek) adlı kitaplarında Kurzweil ve Sutskever’in bu iddialarının hâlâ teorik olarak mümkün olduğunu kabul etmekle beraber bunun için önümüzde uzun bir yol olduğunu savunuyorlar. Marcus ve Davis’in (2019) YZ’nin insan zekasını aşamayacağı veya yapay genel zekanın imkansız olduğu gibi bir tezi yok. Kitap boyunca temel vurguları şu anki YZ yaklaşımlarının yetersiz olduğu ve bir paradigma değişikliğinin gerektiği.

YZ’de iddialı vaatler çok yaygın ve son yıllardaki başarıların da etkisiyle fazla sorgulanmıyorlar. Marcus ve Davis (2019), tıptan sürücüsüz arabalara kadar gerçekleşemeyen YZ vaatlerini ele alıyor. 2012’de sürücüsüz arabaların yakın bir gelecekte yollara çıkacağı konuşuluyordu. 2016’da Jeopardy! yarışmasını kazanan IBM’in Watson’ı sağlıkta devrim yapacaktı. IBM Watson, bilişsel sistemleri anlayabilecek, mantık yürütebilecek, öğrenebilecek ve etkileşime girebilecekti. Hatta Watson, tıp literatürünü tarayarak doktorlara öneriler getirebilecekti. Artık radyolog yetiştirmenin gereksiz olduğunu iddia edenler de vardı. 2015’te Facebook’un M adlı sohbet robotunun yemek rezervasyonu yapmadan tatil planlamaya kadar çeşitli görevleri yerine getirebileceği varsayılıyordu.

Marcus ve Davis (2019), sürücüsüz arabaların bir gün güvenli ve yaygın olabileceğini, ihtiyaçlarımızı karşılayabilecek sohbet botlarının bir gün sıradanlaşabileceğini ya da süper zeki robot doktorların olabileceğini reddetmiyorlar. Ama tüm bunları bugün için birer fantezi olarak değerlendiriyorlar. Her hava koşulunda ve tüm yollarda gidebilecek sürücüsüz arabaların henüz çok uzağındayız. IBM Watson’ın tıp alanındaki çalışmaları hızını kaybetti. Almanya’da Watson’ı nadir görülen hastalıkların teşhisi için kullanmak üzere geliştirilen proje, hatalı teşhisler sonrasında sistemin performansı yetersiz bulunarak için rafa kaldırdı. Facebook’un M’si de ertelendi.

Tüm bu gerçekleşemeyen vaatlere rağmen şirketler mesihvari söylemlerinden vazgeçmiyorlar. Google’ın eski CEO’su Eric Schmidt’e göre YZ, iklim değişikliği, yoksulluk, savaş ve kansere çözüm olacaktı. 2018’in başında Google’ın CEO’su Sundar Pichai de benzer iddialar ortaya attı. YZ, insanlığın üzerinde çalıştığı en önemli şeylerden biriydi. Hatta elektrikten ve ateşten daha önemliydi. Bir yandan YZ’nın büyük başarılarını ve insanlığa sağlayacağı yararları anlatan haberler çıkıyor diğer yandan geçmiş teknoloji mitlerinde olduğu gibi YZ’nin korkutuculuğu, robotların idareyi ele almasının insanlığın sonunu getirebileceği tartışılıyor.

Medya, YZ’deki gelişmeleri abartmaya ve en ufak bir ilerlemeyi bile bir paradigma değişikliği olarak yansıtmaya meyilli. Örneğin Newsweek ve CNN Money’de yayımlanan aşağıdaki haberler, başlıktaki iddiaların çok daha gerisinde bir içeriğe sahip:

  • Robotlar şimdi insanlardan daha iyi okuyabiliyor, milyonlarca işi tehlikeye atıyorlar. Newsweek, 15 Ocak 2018
  • Robotlar okumada insanlardan daha iyi oluyor. CNN Money 16 Ocak 2018.

Robotların, insanlardan daha iyi okuyabilmesi büyük bir iddia. Ancak habere konu olan gelişmeye baktığımızda Microsoft ve Ali Baba’nın geliştirdiği bir programın SQuAD (Stanford Question Answering Dataset) adlı testteki performansını %82,136’dan %82,65’e çıkardığını görüyoruz. Şirketlerden biri yaptığı basın açıklamasında bunu “bir belgeyi okuyup bir insan kadar sorulara iyi yanıt verebilen yapay zeka” olarak duyurmuş. Ama nasıl sorulara? Bilgisayarlara araştırma amaçlı tasarlanmış kısa metinler gösterilmekte ve bununla ilgili sorular sorulmakta. Testin can alıcı noktası, yanıtın metnin içinde olması. Örtük ifadelerin anlaşılması testin kapsamında yer almıyor.

Marcus ve Davis (2019) aşağıdaki kısa metni örnek veriyor:

İki çocuk, Chloe ve Alexander yürüyüşe çıktılar. İkisi de bir köpek ve ağaç gördü. Alexander bir kedi de gördü ve onu Chloe’ya gösterdi. O (ing. ‘she’) kediyi beslemeye gitti.

Marcus ve Davis’in (2019) yazdığı gibi kimin yürüyüşe çıktığı sorusunun yanıtı açık seçik metinde yer almaktadır. Küçük çocuklar bile yanıtı doğrudan metinde yer almayan “Chloe kediyi gördü mü?”, “Çocuklar, kediden korktular mı?” gibi sorulara da kolayca yanıt verebilirler. Fakat SQuAD bu tip örtük sorular içermiyor.

Marcus ve Davis’in (2019) bir başka örneği Facebook’un küçük hikayeleri okuyan ve onun hakkındaki soruları yanıtlayabilen bir yazılımı hakkında çıkan haberler üzerine. Slate, (https://slate.com/) Facebook’un botları daha az aptal yapmanın sırrını bulduğunu, Technology Review de Facebook’un YZ yazılımının Yüzüklerin Efendisi’nin özetini okuyarak onun hakkındaki soruları yanıtlayabileceğini yazar. Marcus ve Davis (2019), böyle bir şeyin gerçek olması halinde önemli bir ilerleme olacağını, ancak gerçeğin yine farklı olduğunu belirtiyor. Facebook’un yazılımı aşağıdaki metni okuyarak yanıt vermektedir:

Bilbo mağaraya gitti. Gollum orada yüzüğü düşürdü. Bilbo yüzüğü aldı. Bilbo Shire’e geri gitti. Bilbo yüzüğü orada bıraktı. Frodo yüzüğü aldı. Frodo, Doom Dağı’na gitti. Frodo yüzüğü orada düşürdü. Sauron öldü. Frodo Shire’e geri döndü. Bilbo, Grey Havens’a gitti. Son.

Program, yüzüğün, Bilbo ve Frodo’nun nerede olduğu hakkındaki soruları yanıtlayabilmektedir. Ama Frodo’nun neden yüzüğü düşürdüğü hakkındaki bir soruya yanıt vermesi olanaksızdır.

Sorgulamak ve Şüphe Etmek

YZ ilerliyor. Belki bir gün bu iddialar gerçek olur ama bunun için henüz çok erken olduğunu düşünen Marcus ve Davis (2019) evlerde, sağlık uygulamalarında ve hayatın diğer alanlarında kullanılması planlanan YZ uygulamaları hakkında çıkan haberler karşısında okuyucuyu şüpheci olmaya davet ediyor ve YZ hakkında çıkan haberlerin gerçekliğini aşağıdaki sorularla sorgulamayı öneriyor:

1- Haberdeki retoriği bir kenara bırakırsak söz konusu YZ sistemi gerçekte ne yapmaktadır?

2- Sonuç ne kadar genelleştirilebilir? Örneğin okuma konulu haber sadece okumanın bir kısmı ile mi ilgili yoksa sadece onun ufak bir parçası mı?

3- Kendi örneklerimizi deneyebileceğimiz bir demo sürümü var mı? Yoksa daha çok şüphelenelim!

4- Araştırmacılar ya da basın, YZ sisteminin insanlardan daha iyi olduğunu iddia ediyorsa, bu insanların kimler olduğunu ve ne kadar daha iyi olduğunu sorgulayalım.

5- Haberde açıklanan başarı gerçek bir yapay zekanın inşasına bizi ne kadar yakınlaştırıyor?

6- Sistem ne kadar sağlam? Yeniden eğitilmeden başka veri kümelerinde de çalışıyor mu? Satranç oynamada uzmanlaşmış bir makine Zelda gibi aksiyon-macera oyunu da oynayabilir mi? Hayvanları kolayca tanıyan bir sistem, daha önce hiç karşılaşmadığı hayvanları da tanıyabilir mi?

YZ, insanlara büyük yararlar sağlama potansiyeline sahip. Fakat gündelik hayatımızda giderek daha fazla belirleyici olan YZ’nin ona verdiğimiz yetkiyi güvenebileceğimiz şekillerde kullanıp kullanmadığı hakkında daha hassas olmamız gerekiyor. Hayaller ve gerçekler arasında büyük bir uçurum olduğunu belirten Marcus ve Davis (2019), üç temel sorunla yüzleşmemiz gerektiğini belirtiyor.

Birincisi, kolayca aldatılabilir olmamız. Makineleri ve insanları birbirinden ayırmada yetersiz kalıyoruz. Makineleri insanlaştırmaya fazla istekliyiz. Örneğin daha 1960’ların ortasında Eliza adlı program bazı insanları, onları anladığına inandırabilmişti. Oysa çoğunlukla anahtar kelimeleri eşleştiriyor, son söyleneni tekrarlıyor, sıkıştığında ise “bana çocukluğunu anlat” diyordu. Annenizden bahsettiğinizde ailenin ne olduğu hakında bir fikri olmamasına rağmen aileniz hakkında sorular sorarak karşısındakini anlıyormuş gibi yapabiliyordu. Eliza’nın yaratıcısı Joseph Weizenbaum, bazı insanların kendisini konuşmaya kaptırdığını ve gerçeklikten koptuğunu; hatta programın nasıl çalıştığını açıklamasına rağmen Eliza’nın gerçekten kendilerini anladığını iddia ettiklerini söylüyor!

Marcus ve Davis (2019), Tesla’nın 2016 yılındaki kazasını da bununla ilişkilendiriyor. Binlerce mil giden otomobilin her koşulda kendi başına gidebileceğini düşünen şoför kontrolü tamamen Tesla’ya bırakmıştı. Bir rivayete göre kaza anında Harry Potter izliyordu. Beyaz bir traktör römorku otoyola çıktığında araç sürücüyü ellerini direksiyonda tutması için uyardı. Ama sürücü muhtemelen kendini tamamen araca bıraktığından gerekli refleksi gösteremedi. Marcus ve Davis (2019), bu olaydan alınacak dersin açık olduğunu yazıyor: bir şeyin bir süre akıllı görünmeyi başarması onun gerçekten akıllı olduğu veya bir insan gibi tüm koşulları ele alabileceği anlamına gelmez.

İkinci sorun, aldatıcı ilerlemedir. YZ’nin bazı (göreceli olarak kolay) problemlerdeki ilerlemeleri büyük atılımlar olarak algılanmakta ya da aktarılmaktadır. Watson’ın Jeopardy! yarışmasındaki başarısı dilin anlaşılmasında olduğundan daha büyük bir başarı olarak algılandı. YZ’nin önce satrançta, daha sonra da Go’da insanları alt etmesi önemlidir. Ancak bu başarının içeriğine de bakmak gerekir.

Bilgisayarlar, Go ve satranç oynarlarken belirsiz bir ortam ya da ortam hakkında eksik bilgi yoktur. Go’da gerekli olan veri kümeleri kolayca toplanıp algoritmalar bu doğrultuda eğitilebilir. Oyunlar tamamen simüle edilebilir. Bu oyunları oynayan YZ sistemleri, çok geniş veri kümelerine sahip olmalarının yanında kendilerine karşı oynayarak bile sahip olduğu veri kümelerini büyütme şansına sahiptir. Ama kuralları belli ve simüle edilebilir kapalı ortamlardan açık ortamlara doğru ilerlediğimizde belirsizlikler artar. Gerçek dünyada, bir robotun hasta bakıcılık yapmasını, yatalak bir hastayı taşıyarak yatağına yatırmasını istediğimizde tüm olasılıkları içerecek bir veri kümesine sahip olma şansımız düşüktür. En başta insanlar çeşit çeşittir. Farklı tipte evler, farklı tipte yataklar, farklı tipte pijamalar vardır ve en önemlisi hataya tahammül yoktur. Kısacası, Go ve satranç gibi kapalı ortamlardaki görevlerde elde edilen başarılar daha açık ortamlardaki başarıyı garantilemez.

Üçüncü sorun, sağlamlıktır (robustness). Bazı durumlarda çalışan bir YZ sisteminin üzerinde biraz daha çalışarak (ya daha fazla veri toplayarak) her koşulda çalışabileceği düşüncesi asıl sorunun fark edilmesini engelleyebilir. Sürücüsüz bir araba bir otoyolda, güneşli bir havada başarılı bir şekilde ilerleyebilir. Ama sorun bir sürücüsüz arabanın kaza yapmadan ne kadar ilerlediği değil, farklı koşullara ne kadar uyum sağlayabildiğidir.

Marcus ve Davis (2019), günümüzdeki YZ araştırmalarında sağlamlılığa gereken önemin verilmediğini, daha çok reklam ve ürün önerilmesi gibi hata toleransının yüksek olduğu çalışmalara yoğunlaşıldığını belirtiyor. Bir kullanıcının önerilen beş üründen sadece üçüne ihtiyacının olması bir sorun yaratmaz. Ama yaşlı bakımı ve tıbbi tedavi planlaması insan yaşamını doğrudan etkileyen konulardır. Bir robotun, yaşlı hastayı yatağına koyarken bu işi beşte dört oranında doğru yapması kabul edilemez. Sürücüsüz arabalar çoğunlukla gördüklerini tanımlayabilirler ama tekrar tekrar park halindeki itfaiye arabasına çarpan Tesla gibi bazen de bunu başaramazlar. Benzer kör noktalar elektrik şebekelerini ya da kamu sağlığını izleyen sistemler için daha tehlikelidir.

Marcus ve Davis’e (2019) göre bu üç sorunun aşılabilmesi için üç şeye ihtiyacımız var: tehlikenin ne olduğu hakkında netlik, şu anki sistemlerin neden çalışmadığının net olarak anlaşılması ve yeni bir strateji. YZ’nin gelişme seviyesinin (yapabildiklerinin ve sınırlarının) hem sıradan insanlar hem de politikacılar tarafından acil olarak anlaşılması ve YZ hakkında eleştirel düşünme becerisinin geliştirilmesi gerekiyor. Marcus ve Davis (2019), YZ’nin dünyayı tam anlamıyla dönüştürebilecek bir güce sahip olduğunu, ama daha iyi yapabilmek ve ilerleyebilmek için nerede saplanıp kalındığı üzerinde durmak gerektiğini vurguluyor.

Marcus ve Davis’in (2019), yeni bir strateji vurgusu ise veriye dayalı YZ yaklaşımlarının yetersizliği ile ilgili. Başta derin öğrenme olmak üzere veriye dayalı YZ’nin başarılarını kabul ediyorlar ama bunun her soruna uygun bir çözüm olmadığı ve özellikle de genel yapay zeka için yetersiz olduğu görüşündeler.

Asıl Tehlike

Nefret söylemini tespit için geliştirilmiş sistemler kolayca kandırılabiliyor, iş başvurusu değerlendirme sistemleri yanlılıkları süreklileştirebiliyor ve sosyal medyadaki öneri sistemleri kullanıcıları komplo teorilerine sürükleyebiliyor. Yüz tanıma sistemleri her koşulda doğru sonuç veremeyebiliyor. Summon moddaki (sürücünün bulunduğu yere arabasını çağırması) bir Tesla arabası, sahibinin garajından geri geri çıkarken kaza yapabiliyor. Robot çim biçme makineleri kirpileri de öldürebiliyor. Çoğu zaman düzgün çalışan günümüzdeki YZ sistemlerinin bizi ne zaman şaşırtacağını bilemiyoruz (age).

Bazen robotların insanlara karşı isyan edeceği ve dünyayı ele geçireceği hakkında endişeler dile getiriliyor. Ancak şu anda robotların insanlara karşı toprak ve mülkiyet hakkında bir mücadele içinde olduklarına ya da olacaklarına dair bir işaret yok. Testosteronla dolu değiller ve dünyayı ele geçirme arzusundan yoksunlar. Yaptıkları işe dar bir çerçeveden bakan, büyük resmin farkında olmayan, uysal, akıllı hizmetçiler. Bilgisayarlar çok iyi Go oynayabilir ve insan rakiplerine karşı tahtada bölgesel hakimiyet kurabilirler. Ama bu sistemlerin Go oyunu dışında bir hakimiyet istekleri yok.

Bilgisayarlar görev odaklı olduğu sürece dünyayı ele geçirmelerinden korkmamız anlamsız. Şimdi endişelenmemiz gereken asıl konu makinelerin kendilerine verilen görevleri güvenilir biçimde yapıp yapamadığıdır. Robotların henüz dünyayı ele geçirmek gibi bir hırsları olmasa da Marcus ve Davis’in (2019) vurguladığı gibi her teknoloji gibi onlar da hata yapabiliyor. Ama onlara sahip olmadıkları nitelikleri yakıştırdığımızda (örneğin insan gibi ya da ondan daha iyi olduklarını varsaydığımızda) ve bu nedenle aşırı güven beslediğimizde hatalarının sonucu daha ağır olabiliyor.

Marcus ve Davis (2019), YZ’nin şu anki haliyle risklerle dolu olduğuna dikkati çekiyor. Bu risklerin başında YZ’nin sık sık bizi öyle olmadığı halde insan zekasına benzer bir zekaya sahip olduğuna inandırmaya çalışması geliyor. YZ’nin bazı alanlardaki başarılarından etkilenerek onlara farklı bağlamlarda sorumluluklar vermeye fazla istekli olabiliyoruz. Bir doktor, kendisinin yanılabileceği ama bilgisayarın hata yapmayacağı gibi bir hisse kapılabiliyor. Hakim, bilgisayarın önerisi doğrultusunda hareket ederek sorumluluktan kurtulmaya çalışabiliyor. Sosyal politika sorunları bilgisayarların inisiyatifine terk edilebiliyor.

Fakat YZ sistemleri, öngörülmüş koşullarda sorunsuz çalışmalarına karşın sıradışı durumlar karşısında yanılabiliyorlar. Örneğin, yol kenarlarındaki trafik işaretleri her zaman açık seçik olmayabilir. Marcus ve Davis (2019) aşağıdaki trafik tabelasının “çok fazla yiyecek ve içecekle dolu bir buzdolabı” olarak algılandığını yazıyor. Sürücüsüz bir arabaya güvenebilmemiz için sistemin sıradışı ışıklandırma, farklı hava koşulları, yoldaki enkazlar, trafik örüntüleri, insan mimikleri vs ile başa çıkabilmesi gerekiyor.

Modern yapay öğrenme sistemleri, büyük veri kümelerine dayanıyor ve eğitildikleri veri kümesi dışında farklı sorunlara uygulandıklarında aynı verim alınamayabiliyor. Yasal belgeler üzerinde eğitilen bir YZ, tıp belgelerinde şaşırabiliyor. Ses tanıma sistemleri aksanlı konuşmaları tam olarak algılayamıyor. Microsoft’un Tay örneğinde olduğu gibi politik söylemlerin kontrol edilmediği bir ortamda YZ bir ırkçıya dönüşebiliyor. Beyaz bir zemindeki siyah sayıları %99 başarı oranıyla tanıyabilen bir YZ sisteminin başarı oranı renkler ters çevrildiğinde %34’e düşüyor. Belirli bir şehirde eğitilen bir sürücüsüz araba başka bir şehirde çalıştırıldığında bocalayabiliyor.

Verinin körü körüne kullanımı ırkçı ve cinsiyetçi ön yargıları süreklileştirebiliyor. Örneğin siyahlara özgü adlar (Jermaine gibi) arandığında tutuklama kayıtları hakkında bilgi vermeyi vadeden reklamlara daha çok rastlanabiliyor. Google Photo 2015’te, Afrika Amerikalılar’a ait bazı fotoğrafları goril olarak işaretlemişti. 2016’da Google görsel aramada “iş için profesyonel saç stili” aratıldığında çoğunlukla beyaz kadınlar çıkarken, “iş için profesyonel olmayan saç stili” aratıldığında ise siyah kadınlar çıkıyordu. Bu tip problemlerle karşılaşıldığında, YZ sistemlerini işletenler çeşitli yamalarla ilgili sorunu giderebiliyorlar. Ama şu an yaygın YZ paradigması içinde genel bir çözüm söz konusu değil. IBM bu tip sorunları eğitim için kullanılan veri kümesine daha çok siyah kadın resmi ekleyerek çözmüş. Google ise sorunu çözmek için tam tersini yapmış. Eğitim için kullanılan veri kümesinden goril resimlerini çıkarmış. Fakat her ikisi de genel bir çözüm değil.

Arama motorları ve kamuya açık sohbet robotları gibi sistemleri belirli bir biçimde çalışmaya yönlendirmek mümkün. En bilinen örneği Microsoft’un Tay’ı. Bunun yanında kullanıcılar, Google’ın görsel arama bölümünde aptal (idiot) kelimesi aratıldığında Trump’ın resminin çıkmasını sağlayabiliyor. Arama motoru optimizasyonu denilen de aslında arama motorlarının sonuç sıralamasını etkilemek.

Var olan toplumsal yanlılıklar, yankı odası etkisi ile daha da derinleşebiliyor. Cathy O’Neil’in Weapons of Math Destruction kitabında tartıştığı gibi büyük veri analizleri, istatistiksel olarak suçun siyahların yaşadığı bölgelerde yoğunlaştığı sonucuna ulaştığında güvenlik güçleri azınlıkları hedefleyen bölgelere yığılıyor. Böylece buradaki suçlara daha hızlı ve daha sık müdahale edilebiliyor. Buradan elde edilen veri, sistemin, polis güçlerini yine buraya yönlendirmesiyle sonuçlanıyor.

YZ kolayca yanlış hedeflere sapabiliyor. Örneğin futbol oynayan bir robot topa olabildiğince dokunmaya teşvik edildiğinde topun yanında durup onu titreştirerek bu hedefe ulaşabiliyor. Ya da tetris oynayan bir YZ, oyunu kaybetmektense oyunu duraklatmayı tercih edebiliyor. Belirli bir nesneyi nasıl kavrayacağını öğrenmesi gereken bir robot buna uygun resimlerle eğitildikten sonra elini kamera ile nesne arasına koyarak nesneyi kavrayacakmış gibi bir görüntü vermekle yetinebiliyor.

Marcus ve Davis’e (2019) göre bu tehlikeler başta derin öğrenme olmak üzere veriye dayalı YZ yaklaşımlarının sınırlarını ve yapay genel zekanın çok uzağında olduğumuzu gösteriyor.

Derin Öğrenme

YZ’nin ilk günlerinde araştırmalar çoğunlukla bilgi temelli yaklaşımlarla ilerliyor, YZ’nin yerine getirmesi istenen görevler (metni anlamak, robot için planlar yapmak veya teoremleri ispat etmek vb) için gerekli yetenek araştırmacılar tarafından kodlanıyordu. Veriden öğrenmeye dayalı yaklaşımlar geçmişte de vardı ama bugünkü kadar popüler değildi. 1950’lerde Frank Rosenblatt, ilk yapay öğrenme sistemlerinden olan bir sinir ağı inşa etmişti. Ancak kullanılan ağın donanımının ve kameraların çözünürlüğünün (20 x 20) çok yetersiz (iPhone X’in 30000’de biri) olması ağın verimli çalışmasını zorlaştırıyordu. Daha önemlisi yapay öğrenme büyük miktarda veriye ihtiyaç duyar ve internetin olmadığı günlerde yeterli miktarda veriye erişme şansı da yoktu. Bu devrimci fikir, gerekli koşullar oluştuğunda hızla filizlenecekti. Ama henüz çok erkendi.

Marvin Minsky ve Seymour Papert 1969’da, yazdıkları Perceptrons adlı kitapta iki katmanlı bir ağın nesneleri sınıflandırmak için yeterli olamayacağını matematiksel olarak ispatladılar. Daha fazla katmanın eklenmesi sistemin gücünü artırabilirdi. Fakat bir ağı tatmin edici bir çözüm bulmak için eğitme becerisi garanti değildi. Sonraki yıllarda Geoff Hinton ve David Rumelhart de dahil olmak üzere birçok araştırmacı derin sinir ağlarının iyi sonuçlar almasını sağlayan matematiği icat ettiler. Fakat asıl sıçrama donanım teknolojisindeki ilerlemeler ve veri miktarındaki artış ile yaşandı. 2012’de video oyunları için geliştirilen GPU’nun (grafik işlem birimi) YZ için uygun hale getirilmesiyle daha fazla katmandan oluşan sinir ağlarından yararlanmak olanaklı hale geldi. Artık ağları eğitmek için ImageNet gibi büyük veri kümeleri de vardı. Derin öğrenme devrimi başlamıştı.

Derin öğrenme, iki temel düşünce üzerine kuruludur. Birincisi, David Hubel ve Torsten Wiesel’in 1950’lerdeki çalışmalarına dayanan hiyerarşik örüntü tanımadır. Hubel ve Wiesel görsel sistemdeki farklı nöronların görsel uyaranlara farklı biçimlerde tepki verdiğini keşfetmiştir. Bazıları basit uyaranlara oldukça etkin olarak tepki verirken bazıları daha karmaşık uyaranlara karşı daha aktif tepki verir. Teorilerine göre karmaşık uyaranlar, artan soyutlama hiyerarşisi ile tanınabilir (çizgilerden harflere, harflerden kelimelere). 1980’lerde sinir ağlarının öncülerinden Japon Kunahiko Fukushima, Hubel ve Wiesel’in düşüncelerini Neocognitron adlı çalışmasıyla bilgisayar alanına taşıdı.

İkinci temel düşünce ise öğrenmedir. Girdilerin ağırlıkları, belirli bir çıktıya göre ayarlanır. Örneğin harfler tanınırken sistemin başlangıçta hangi piksellerin hangi harfe karşılık geldiği hakkında bir bilgisi yoktur. Deneme yanılma ve ayarlama sürecinin sonunda üstteki pikseller T ve E harfiyle, soldaki pikseller ise E, F ve H harfleri ile ilişkilendirilir. Sistem aşamalı olarak farklı yerlerdeki pikseller ve uygun etiketler arasında korelasyonlarda ustalaşır.

Derin öğrenme, son yılların en popüler yapay zeka yaklaşımıdır. Ses ve görüntü tanımadan Go’ya kadar birçok başarılı çalışmanın arkasında derin öğrenme vardır. Ancak bu başarılar derin öğrenmeyi her sorun için ve her koşulda mükemmel bir yöntem yapmıyor. Marcus ve Davis (2019), derin öğrenme hakkında üç temel uyarıda bulunuyor. Birincisi, derin öğrenmenin düzgün çalışabilmesi için büyük miktarda veriye ihtiyacı vardır. Andrew Ng, bir insanın bir saniyeden az sürede düşünerek yaptığı zihinsel bir işin, bununla ilgili çok fazla veri toplanarak YZ’ye öğretilebileceğini iddia ediyor. Ama bunun için eğitim verisinin karşılaşılan sorunlardan çok farklı olmaması ve alanın bu süre içinde çok değişmemesi gerekir. Bu nedenle derin öğrenme, kuralları yüz yıllardır değişmeyen Go ve satranç için ideal bir çözümdür. Fakat gerçek hayattaki açık uçlu ortamlardaki problemler için yeterli miktarda veri toplamak her zaman mümkün ve gerçekçi değildir.

İkinci sorun derin öğrenmenin şeffaf olmamasıdır. Klasik YZ’de bir sistemin davranışlarının nedeni anlaşılabilirken derin öğrenmenin verdiği kararları anlamak zordur. Sistem %95 oranında başarılı çalışabilir ama %5’lik hatanın nereden kaynaklandığını bulabilmek bazen olanaksız olabilir. Reklamcılıkta başarı için yeterli olan bir sistemin tıp, yüz tanıma, sürücüsüz araba gibi hayati alanlara uygulanması ve çıktılarının yaşamsal kararlarda kullanılması risklidir.

Üçüncü sorun ise derin öğrenmenin kırılgan olmasıdır. Belirli bir durumda düzgün çalışan bir sistem daha önce karşılaşmadığı bir durumda sorun yaşayabiliyor. İnsanların görsel sistemi nesneleri olağan durumları dışında da algılayabilir. İnsan, bir trafik levhasının üzerinde başka şeyler yapıştırıldığı için onu buzdolabı gibi algılamaz. Aşağıdaki gibi bir levhanın bazı renkleri silinmiş ya da başka bir renge dönüşmüş olsa da insan için hala bir trafik levhasıdır:

Nesneler, olağan pozisyonları dışında olduklarında farklı bir nesne gibi algılanabilmektedir. Örneğin aşağıdaki ters dönmüş okul otobüsü, kar temizleme makinesi olarak algılanmış:

Dille ilgili konularda ise durum daha kırılgandır. SquAD testlerinde, soru sorulan metne eklenen ilgisiz bir cümle verilen yanıtı olumsuz etkileyebiliyor. Ayrıca derin öğrenme sistemleri, metni anlamak yerine korelasyonlara başvurduğundan eksik sorularla kandırılabiliyor. Örneğin, “kaç tane?” sorusuna 2, “hangi spor?” sorusuna da tenis yanıtını verebiliyorlar.

Marcus ve Davis (2019), derin öğrenmedeki derinliğin sadece sinir ağındaki katmanların sayısını ifade ettiğine dikkati çekiyor ve derin öğrenmenin önemli isimlerinin benzer düşüncelerini aktarıyor. Montreal Üniversitesi’nden Yoshua Bengio, derin öğrenmenin üst düzey soyut kavramlardan çok veri kümesindeki yüzeysel istatistiksel düzenlilikleri öğrenme eğiliminde olduğunu belirtiyor. 2018 sonunda yapılan bir röportajda DeepMind’in kurucuları Geoffrey Hinton ve Demis Hassabis de genel yapay zekanın çok uzağında olduğumuzu kabul ediyorlar.

Konuşma ve nesne tanımayı zeka değil, sadece zekanın parçası olarak ele almak gerekiyor. Gerçek zekanın akıl yürütme, dil ve analoji becerilerine ihtiyacı var. Örneğin bir yasal sözleşme sadece içerdiği kelimelerden ibaret değildir. Onu anlayabilmek için söylenen ve söylenmeyenler hakkında akıl yürütebilmek, diğer kanunlarla ilişkisini de kurabilmek gerekiyor.

Okumak ve Anlamak

Bazı yeni tedaviler doktorlar onu okuyacak vakitleri olmadığı için fark edilmezler. Güncel gelişmeleri ve tedavileri okuyup hastanın durumunu da göz önüne alarak akıl yürütebilen bir YZ olsaydı insanlık tarihinde yeni bir dönem başlatırdı. Bilgisayarların okuyabilmesi yalnız tıbbı değil, tüm bilimleri doğrudan etkilerdi. Peki bugün neredeyiz?

2018’de Ray Kurzweil TED’de yaptığı konuşmada Google’ın yüz bin kitabı indekslediğini, doğal dil işleme sayesinde kitapların yeni bir biçimde araştırılabileceğini söyledikten sonra Quartz bunu biraz abartarak: Google’ın binlerce kitabı okuyarak herhangi bir sorumuza yanıt verebileceğini yazdı (https://qz.com/1252664/talk-to-books-at-ted-2018-ray-kurzweil-unveils-googles-astounding-new-search-tool-will-answer-any-question-by-reading-thousands-of-books/). Marcus ve Davis’in (2019) işaret ettiği gibi yüz bin kitap, dünyadaki kitapların sadece ufak bir bölümü. Fakat sistem (Quartz’ın ‘her soru’ abartısını bir kenara bırakalım) kitapların içeriği ile ilgili sorulara yanıt verirken bile sınırlı bir kapasiteye sahip. Örneğin, “Harry Potter ile Hermione Granger nerede buluştular?” sorusuna yanıt veremediği gibi Harry Potter’daki hortkulukları da listeleyemiyor. Çünkü kitabın hiçbir yerinde bir hortkuluk listesi yok; ama kitabı okudukça (!) hortkulukların ne olduğunu öğreniyoruz. “1980’de Yargıtay’ın en yaşlı üyesi kimdi?” sorusuna da kitaplarda “1980’de Yargıtayın en yaşlı üyesi William Brennan’dır” gibi bir cümle geçmediğinden ve üye listesinden çıkarımlar yapamadığından doğru yanıt veremiyor.

Bir masalı anlamak bile bazen metindeki kelimelerin ötesinde bir bilgi birikimine gerek vardır:

Dokuz yaşındaki Almanzo sokakta bir cüzdan bulur. Babası bunun Mr. Thompson’un olabileceğini söyler. Almanzo, Mr. Thompson’ı bir dükkanda bulur. Ona bir cüzdan kaybedip kaybetmediğini sorar. Mr. Thompson eliyle cebine dokunur ve bağırır “Evet kaybettim. İçinde on beş tane yüz dolar vardı. Onun hakkında ne biliyorsun?”

Almanzo, “Bu mu?” diye sorar.

Mr Thompson, “Evet, evet” der ve cüzdanın içindeki paraları iki kere sayar. Derin bir oh çeker ve “bu çocuk hiçbir şey çalmamış” der.

Aşağıdaki sorulara bir insan rahatça yanıt verebilse bile bu günümüzdeki YZ sistemleri için zordur:

  • Mr Thompson neden eliyle cebine dokunur?
  • Almanzo “bu mu?” derken neyi kasteder?
  • Almanzo söylemeden önce Mr Thompson cüzdanını kaybettiğinin farkında mıdır?
  • Kim 1500 dolar kaybetmiştir?
  • Para hala cüzdanda mıdır?

İnsanlar akıl yürütürken sadece metne bakmazlar. Arka planda dünyanın nasıl işlediğine dair bir bilgi birikimine sahiptirler. Örneğin hikayeyi okumadan önce insanlar,

  • insanların bazen farkında olmadan bazı şeyleri düşürdüklerini,
  • cüzdanlarını genellikle ceplerinde taşıdıklarını,
  • paralarını cüzdanlarında taşıdıklarını ve paranın onlar için önemi bir şey olduğunu,
  • bir şeyin önemli olduğunu düşünüyorlarsa ve doğru olamayabileceğini düşünüyorlarsa onu doğrulama gereği duyduklarını,
  • bir şeyin ceplerinde olup olmadığınızı anlamak için ellerini ceplerinin üzerine koymanın yeterli olacağını

bilir. Bu nedenle yazarlar her şeyi yazmazlar. Okuyucu metni önceki bilgi birikimiyle tamamlar.

Dil, Go ve satrancın kapalı dünyasından farklıdır. Aşağıdaki diyaloğa bakalım (age):

Doktor: Herhangi bir güç harcadığınızda göğsünüz ağrıyor mu?

Hasta: Geçen hafta bahçeyi biçiyordum ve bir fil üzerime oturmuş gibi hissettim (Hasta göğsünü gösterir).

Bir insan için hastanın yanıtının evet olduğu açık seçik bellidir. Bir makine daha önce fillerle ilgili benzer ifadelere rastlamadıysa bahçe biçme ve fil kelimelerinin içinde çıkmakta zorlanacaktır.

Google Asistan, yön tarif etmede ve film bileti almada; Siri, yön tarif etme ve rezervasyon yapmada; Alexa matematikte, önceden yazılmış şakaları yapmada ve doğal olarak Amazon’dan alışveriş yapmada iyidir. Fakat bu asistanlar, her ne kadar çoğu zaman yardımcı olsalar da her zaman güvenilir değillerdir. En yakın havaalanı sorusuna Google Asistan seyahat acentelerinin listesiyle yanıt verebilir. Siri, deniz uçağı hava alanını tarif edebilir. Cortona uçak bileti sitelerine yönlendirebilir.

Dünyada işlerin nasıl yürüdüğüne dair temel bir anlayışa sahip olmadan metinleri okumak, söyleneni anlamak zordur.

***

Robotlar insanlık için bir tehdit mi? Dünyayı ele geçirebilirler mi? Marcus ve Davis (2019) bu gibi soruları 14. yüzyılda hijyen yerine trafik kazalarından endişe etmeye benzetiyor. Büyük verinin ve derin öğrenmenin ötesinde, dünyayı daha derin kavrayabilen YZ biçimlerine geçtiğimizde bu sorunları konuşmaya başlayabiliriz.

Evcil hayvana benzeyen robotları, sahiplerini havaalanında takip edebilen “sürücüsüz” bavulları yakında çok daha fazla göreceğiz. Robotlar, fabrikalar ve ambarlar gibi evlere göre daha kapalı ve belirsizliklerin daha kontrol edilebilir olduğu ortamlarda yaygın olarak kullanılacak.

Ama Toyota Araştırma Enstitüsü Başkan Yardımcısı John Leonard, her hava ve trafik koşulunda kendisini Cambridge’ten alıp Logan Havaalanı’na götürebilecek bir sürücüsüz arabayı görmeye kendisinin ömrünün yetmeyebileceğini söylüyor.

Marcus ve Davis (2019) yine de iyimserce yemek ve temizlik yapan, bebek bezi değiştiren robotların olabileceğini ama 2025’ten önce olanaksız olduğunu düşünüyor.

Kaynaklar

Marcus, G., & Davis, E. (2019). Rebooting AI: Building Artificial Intelligence We Can Trust. Pantheon.

25 Şubat 2020

Posted In: Bilgisayar Bilimi, Bosstown Dynamics, Boston Dynamics, derin öğrenme, Emek, Ernest Davis, Gary Marcus, güvenlik, kitap, Özgür yazılım, Rebooting AI: Building Artificial Intelligence We Can Trust, robotlar, Teknoloji Tarihi, Yapay Zeka

gRPC Performance Optimization

Streaming is more efficient than sending a separate RPC for each chunk of big data, but less efficient than a single RPC with all chunks in a repeated field. The overhead of streaming can be minimized by using a batched message type.

24 Kasım 2019

Posted In: grpc

Algoritmalar: Doğru, yanlış ama yansız değil

Bloomberg’de yayımlanan “Bir Robot Servetinizi Kaybederse Kime Dava Açmalı?” (https://www.bloomberg.com/news/articles/2019-05-06/who-to-sue-when-a-robot-loses-your-fortune) başlıklı haberi okuyunca askerde cezalandırılan nesneler (tank, ağaç, tepe, taş vs) hakkında anlatılan hikayeleri anımsadım. İnsan olmayan bir varlığa dava açmak veya onu cezalandırmak akıldışı görünebilir. Ama son yıllardaki gelişmeleri ve uygulamaları düşününce bir tankı veya ağacı cezalandırmaktan daha farklı bir durumla karşı karşıya olduğumuz anlaşılacaktır. Algoritmik karar sistemleri gündelik hayatta çeşitli sorumlulukları yerine getiriyorlar ve hızla yaygınlaşıyorlar. Bu sistemlerde kullanılan algoritmaların insanlardan yalnız daha hızlı değil, daha doğru karar verdiğini de varsayıyoruz. Bu varsayım çoğunlukla doğru. Fakat işler her zaman yolunda gitmeyebilir. Algoritmaların kararları nedeniyle insanlar çeşitli biçimlerde mağdur olabilirler. Böyle sorunlar yaşandığında sorumluluk kimde olacak?

Yazının devamında tartışacağımız gibi insanlar, en başta da toplumun dezavantajlı kesimleri, nasıl işlediğini bilmedikleri algoritmalar karşısında çaresiz kalabiliyorlar. Bloomberg’in haberindeki mağdur ise bu defa biraz farklı: Bir İngiliz gayrimenkul yatırım ortaklığı olan Shaftesbury PLC’nin başlıca yatırımcılarından Samuel Tak Lee’nin oğlu, Samathur Li Kin-kan. Hikaye, Li ve yatırım fonu satıcısı Raffaele Costa’nın 19 Mart 2017’de Dubai’de bir öğle yemeğinde bir araya gelmesiyle başlar. Costa, yapay zekâyı kullanarak yatırımları yönetebilen bir sistemden bahseder. Avusturya merkezli 42.cx adlı şirket tarafından geliştirilen K1 adlı sistem haberleri ve sosyal medyayı gerçek zamanda değerlendirerek ABD hisse senetleri üzerine tahminler yapacak ve borsa simsarını alınıp satılacak hisse senetleri hakkında yönlendirecektir. Sistem, Li’nin ilgisini çeker ve yemekten üç gün sonra Costa’ya attığı e-postada bunun tam da kendi tarzı olduğunu yazar. Sonraki aylarda Costa, Li’ye K1’in simülasyonlarını gösterir. Li, geriye dönük testler hakkında kuşkuları olmasına karşın en sonunda ikna olur ve 2,5 milyar doları K1’e teslim eder. Parasını ikiye katlamayı planlamaktadır.

Fakat 2017’nin sonunda, K1’in alım satım işlerine başlamasıyla beraber Li’nin beklentisi boşa çıkar. Li’nin parası düzenli olarak azalmaktadır. Hatta 14 Şubat’ta, tek bir günde, stop-loss emri (borsada zararı durdurma emri) nedeniyle 20 milyon dolar kaybeder. Li’nin avukatları, eğer K1, Costa’nın Li’yi inandırdığı kadar iyi olsaydı böyle bir şeyin olamayacağını iddia ediyorlar. Li’nin avukatları Costa’nın şirketi Tyndaris’e karşı açtıkları davada Costa’yı K1’in yapabileceklerini abartmakla suçluyor ve 23 milyon dolar tazminat talep ediyor. Tyndaris ise ödenmemiş ücretler nedeniyle Li’den 3 milyon dolar talep ediyor ve Costa’nın, yapay zekâ stratejisinin para kazandıracağı hakkında garanti vermediğini söylüyor.

Li’nin avukatlarına göre Costa, K1’i geliştiren mühendislerin özelliklerini abartarak da Li’yi yanıltmış. K1’i geliştirenler arasında 1997’de Kasparov’u yenen Deep Blue’yu geliştiren ekipten kişiler olduğunu söylemiş. Tyandris, Bloomberg’in bu iddia hakkındaki sorularını yanıtlamaktan kaçınmış. K1’i geliştiren 42.cx’in CEO’su Daniel Mattes, ekiplerinde Deep Blue’yu geliştiren ekipten hiç kimse olmadığını söylüyor. Sadece 1960’larda SSCB’de Kaisa adlı satranç programını geliştiren Vladimir Arlazarov’dan genel tavsiyeler almışlar ama Arlazarov K1 üzerinde hiç çalışmamış. Ayrıca Mattes’in belirttiği gibi algoritmalar oyunlarda daha başarılı, çünkü oyunlarda benzetim yapılabilen açık kurallar borsada yok; dolayısıyla oyunlardaki deneyimle yatırımcılık arasında fazla bir ilişki de yok.

Kısacası Li, Costa’nın kendisini K1’in yetenekleri hakkında yanılttığını iddia ediyor. Costa da Li’nin kaybında sorumluluğu olmadığını ve yapay zekânın kararları hakkında garanti vermediğini belirterek kendini savunuyor. Bir bakıma, “ben yapmadım, algoritma yaptı” diyor. İlginç bir dava olacak…

Haberde üzerinde durulduğu gibi, yapay zekâ, akıllı asistanlardan sürücüsüz arabalara kadar gündelik hayatın her alanına dahil olurken işler kötüye gittiğinde sorumluluğun kimde olacağı kritik bir sorundur. Şirketlerin ürünlerini satmak için otonom sohbet robotlarını kullanacağı günler yakın. Bir sorunla karşılaştığımızda satıcıyı (sohbet robotunu) sorumlu tutabilecek miyiz? 18 Mart 2018 tarihinde, Uber’in kendi kendine gidebilen aracı sokakta karşıdan karşıya geçen Elaine Herzberg’in ölümüne neden olmuştu. Arabanın içerisinde bir sürücü de vardı, ama kamera kayıtlarına göre kaza öncesinde yola bakmıyordu. Uber kazadan sorumlu tutulmadı. Fakat sürücüsüz aracın içindeki yedek sürücü Rafaela Vasquez hakkındaki araçla adam öldürme soruşturması devam ediyor. Belki kazanın sorumlusu Vasquez; gözünü yoldan ayırmaması gerektiğini söyleyen test talimatlarına uymamış olabilir. Peki test sürüşleri tamamlanıp araçlar trafiğe çıktığında kazaların sorumlusu kim olacak? Sürücüsüz araçlar, kaza oranlarını düşürecekler. Fakat herhangi bir olumsuzlukta insanlar sorumlu aramak isteyecekler.

Algoritmik karar sistemleri toplumsal yönetim ve karar süreçlerinde kullanılıyor. Bu sistemlerin yaptıkları hatalarda sorumluluk kimde olacak? Yuval Noah Harari, Homo Deus: Yarının Kısa Bir Tarihi başlıklı kitabında kıtlık, salgın ve savaşların artık önlenemez meseleler olmaktan çıktığını, artık doğaüstü güçlere yalvarmak zorunda olmadığımızı yazıyor. Bu sorunlar tamamen ortadan kalkmış değil. Fakat Harari’nin yazdığı gibi bu sorunlarla karşılaştığımızda bunu doğaüstü varlıklara bağlamıyor, “birilerinin sorumluluğunu yerine getirmediğini düşünüyor bir soruşturma komisyonu oluşturuyor ve bir daha aynı hataları tekrar etmeyeceğimizi söylüyoruz.”. Kamu hizmetlerinde görevli yöneticilerin ya da sistemleri geliştirenlerin ve pazarlayanların “ben yapmadım, algoritma yaptı” diyerek sorumluluğu eski zamanlarda olduğu gibi bir doğaüstü varlığa (algoritmaya!) yükleme hakları olabilir mi?

Herkes hata yapabilir… Algoritmalar da!

Algoritmik karar sistemleri her geçen gün daha da yaygınlaşıyor. Bize ürün, film, şarkı, arkadaş vs öneren sistemleri artık yadırgamıyoruz. Fakat algoritmalar yalnız çeşitli önerilerle ürün satmak için değil, yaşamızı etkileyecek büyük kararlarda da kullanılıyorlar:

  • İş başvurularını sıralama
  • Sosyal hizmetleri tahsis etme
  • Terfi ettirilecek veya işten çıkartılacak çalışanları seçme
  • Açık pozisyonlar, konutlar ve ürünler için verilen reklamları kimin göreceğine karar verme
  • Bir kişinin suç işleme riskini veya hapis cezasının süresini tahmin etme
  • Sigorta ve yardımları tahsis etme
  • Kredi belirleme
  • Arama motorlarında haber ve bilgileri sıralama

Bu sistemlerin çalışma ilkeleri hakkında ne biliyoruz? Her zaman algoritmaların sayısal kesinliğine güvenebilir miyiz? Google’ın aramalardaki isabetli arama sonuçları çoğu zaman kolaylaştırıyor. Ama Google, ya bazı haberleri özellikle öne çıkarıyorsa? İnsanların çoğu zaman ilk sayfadaki sonuçlarla yetindiği düşünülürse Google sunduğu enformasyonla bilgimizi de biçimlendirmiyor mu?

Artık elimiz ayağımız olan navigasyon uygulamalarına ne kadar güvenebiliriz? CHP Zonguldak Milletvekili Deniz Yavuzyılmaz’ın “sürücülerin yolculuk güzergahlarını belirlemesinde yardımcı olan navigasyon uygulamalarının vatandaşları hiçbir uyarı yapmadan ücretli yollara yönlendirmesiyle” ilgili önergesi insanı işkillendiriyor (https://www.birgun.net/haber-detay/navigasyon-uygulamalari-tbmm-gundeminde.html).

Bir yol tarifi alacaksam en azından iki kişiye sormaya tercih ederim. İlk sorduğum kişi yolu yanlış tarif etmiş ya da ben yanlış anlamış olabilirim. Ama bir çok insan gibi ben de navigasyon uygulamalarına (yayayken de) insanlardan daha çok güvenirim. Çoğunlukla önerdiği rotayı izlerim. Fakat hem Yazvuzyılmaz’ın önergesi hem de 2009’da Robert Jones’un başına gelenler navigasyon uygulamalarının gösterdiği rotayı gözü kapalı kabul etmememiz gerektiğini gösteriyor. Jones, navigasyon cihazının gösterdiği kestirme yolu takip eder. Yol gittikçe daralıp dikleşse de kuşkulanmaz; navigasyon cihazı, patikanın yol olduğu konusunda ısrarlıdır. Jones da ona güvenir ve ilerlemeye devam eder. Uçurumdan aşağı yuvarlanmaktan kıl payı kurtulur (Fry, 2019)!

Navigasyon cihazları çoğu zaman en doğru rotayı tarif etse de Jones, navigasyon cihazına körü körüne itaat etmekle hata etmiştir. Gündelik hayatta çoğumuz algoritmik sistemler karşısında benzer tepkiler veririz ve algoritmanın otoritesini sorgulamayız. Bilgisayarlar insanlardan daha hızlı ve doğru hesap yaparlar. Fakat kontrolü ne zaman elimize almamız gerekir?

Stanislav Petrov, nükleer erken uyarı sisteminden sorumlu bir Sovyet askeridir. 1983’te görev başındayken sistem, düşman füzesi algıladığına dair uyarı verir. Fakat sistem, sadece beş füze saptamıştır ama bu ABD’den beklenmeyecek derecede zayıf bir başlangıçtır. Petrov, uyarıyı rapor ederse, ardından SSCB’nin bir misilleme saldırısı gelecek ve dünya nükleer savaşa sürüklenecektir. Beklemeyi tercih eder. 23 dakika sonra algoritmanın hata yaptığı anlaşılır! Günümüzdeki erken uyarı sistemleri, 36 yıl önceki Sovyet teknolojisinden çok daha ileri olabilir. Fakat bu ileri sistemlerin insanlar gibi karar alma sorumluluğunun ağırlığını hissedebilmeleri zordur. Petrov, hatalı bir kararın felaket olacağının farkındadır. Uyarı sisteminin başında ya Petrov değil de uyarıları anında Kremlin’e iletebilen bir algoritma olsaydı (age) ?

O zaman insanların makinelerden daha iyi karar vericiler olduğunu söyleyebilir miyiz? Acele etmeyelim… 2015 yılında, Büyük Britanya’da bir eğlence trenindeki arızayı gideren mühendisler test için boş bir vagon gönderirler. Mühendisler gönderdikleri vagonun geri gelmediğini, rayların ortasında kaldığını fark etmezler. Her şeyin yolunda olduğunu düşünen görevliler müşterilerle dolu ilk vagonu gönderirler. Sistemi tasarlayanlar böyle bir hatanın olabileceğini öngörmüşlerdir. Müşteri dolu vagon durdurulur ve kontrol odası bir çarpışma olasılığına karşı uyarılır. Mühendisler ise treni onardıklarını ve uyarı sisteminin hata yaptığını düşünürler. Uyarıyı devre dışı bırakırlar ve sistemi tekrar çalıştırırlar; vagonların çarpışması sonucu çok sayıda insan yaralanır (age).

Algoritmalardan kaynaklı sorunlar da vardır, algoritmaların sağladığı yararlar da. Eğer kararların doğruluğu karşılaştırılırsa algoritmik karar vericilerin çok daha başarılı ve hatasız olduğu da söylenebilir. Ama algoritmik karar vericilerin kararlarından olumsuz etkilenen insanlar varsa bu olumsuzlukların kaynaklarını ve yapılabilecekleri de tartışmak zorundayız. Bu bağlamda, algoritmik sorumluluk konusu önem kazanıyor. Yazının başında Li’nin başına gelenlerden Costa’yı sorumlu tuttuğunu, Costa’nın ise sorumluluğu algoritmaya yüklediğini görmüştük. Algoritmik sorumluluk böyle durumlara karşı şirketlerin geliştirdikleri algoritmaların sonuçlarından sorumlu olmasını ifade ediyor. Şirketin olabilecek sorunlara karşı gerekli önlemleri alması ve bir sorun olması halinde sisteme gerekli müdahaleyi yapması gerekiyor. Sorumlu sistemlerin hatalara karşı bir düzeltme mekanizmaları vardır. Algoritmalar, hesaplamaları insanlardan çok daha hızlı ve doğru yaparlar; fakat girdilere, sistemin tasarımına ve çıktılara karar veren insanlardır. Bir diğer deyişle, hatayı yapan algoritmalar değil, teknolojinin tasarımcıları ve onu piyasaya süren şirkettir. Yani insandır!

Dolayısıyla “insanlar makinelere karşı” gibi bir durum aslında oldukça yanıltıcı. İnsan, insana karşı… Peki neden algoritmik sistemler özerk varlıklarmış gibi görülüyor?

Algoritma Nedir?

Algoritma, bilgisayarın belirli bir görevi yerine getirmesi için izlemesi gereken talimatlar dizisidir. Bir kurumun yöneticisi olduğunuzu ve personel alımı yapmak istediğinizi varsayalım. Yayımladığınız iş ilanında bir sınav yapacağınızı ve ilk ona giren adayları işe alacağınızı duyurdunuz. Bir programcıdan da ilk onu listeleyebilmek için bir yazılım geliştirmesini istediniz. Fakat yazılım, iki adayın puanı eşit olmasına rağmen birini 10., diğerini de 11. olarak belirledi. 11. olan aday sınav sonuçları açıklandığında 10. adayla puanının aynı olduğunu görerek sonuca itiraz etti. Algoritma adayların puanları eşit olduğunda nasıl bir yol izliyor? Sorumluluk ya yanlış bir algoritma uygulayan programcıdadır ya da sınav yönetmeliğini eksik hazırlayan ve duyuran kurum yönetimindedir. Ancak her iki durumda da sorunun nedenini bulmak ve mağduriyeti ortadan kaldırmak kolay olacaktır.

Şimdi başka bir senaryo düşünelim. Yine bir kurumun yöneticisi olduğunuzu ve çok fazla başvuru olduğu için adaylarla görüşmeden önce başvuruları bir otomasyon sisteminin desteğiyle değerlendirmek ve bazı adayları baştan elemek istediğinizi varsayalım. Burada bir algoritma var ama sistem bir kara kutu. Algoritmanın başvuruları kabul ederken ya da reddederken nasıl bir yol izlediği bilinmiyor. Yazılımı geliştirenler özellikle bir kural tanımlamamış olmasına rağmen aynı niteliklere sahip kadın ve erkek aday varsa, erkek aday daha üst sırada yer alıyor. İşte son yıllarda tartıştığımız, şikayet ettiğimiz algoritmalar bu tipte, kara kutu biçiminde olanlar.

Bu bağlamda algoritmaları kural tabanlı algoritmalar ve yapay öğrenme algoritmaları olarak ikiye ayırabiliriz. Kural tabanlı algoritmalar, doğrudan ve net yönergeler içerirler. İlk örnekte, programcının uyguladığı algoritmaya göre bir sıralama yapılır. Verinin miktarı veya dağılımı algoritmanın çalışmasını değiştirmez. Yazılımı açıp çalışma mantığını anlayabiliriz. Fakat Fry’ın (2019) altını çizdiği gibi kural tabanlı algoritmalar yalnızca insanın kural yazabileceği sorunlar karşısında işe yarar. Resimlerdeki nesneleri tanımada veya bir dilden diğerine çeviri yapmada yetersiz kalır.

Büyük veriyle beraber daha önemli hale gelen yapay öğrenme algoritmaları ise canlıların öğrenme biçimlerini taklit eder. Canlıların, deneyimlerinden öğrenmesi gibi yapay öğrenme algoritmaları da verinin içerdiği deneyimden öğrenir. Yapay öğrenme algoritmalarını dörde ayırabiliriz: Denetimli öğrenme, denetimsiz öğrenme, yarı denetimli öğrenme ve pekiştirmeli öğrenme.

Denetimli öğrenmede, girdi değişkenleri (x1, x2, x3, …, xn) ve çıktı değişkeni (y) vardır. Veri analiz edilir ve f(x)=y’yi sağlayan en uygun fonksiyon modellenir. Böylece model, yeni girdiler için y’nin değerini tahmin edebilir. Tecrübeli bir emlakçı evin özelliklerini değerlendirdiğinde evin kaç TL’ye satılabileceğini kestirebilir. Eğer elimizde daha önce satılmış evlerin fiyatları ve evlerin fiyatını belirleyebilen parametreleri içeren geniş bir veri kümesi varsa en uygun fonksiyonu modelleyip yeni evlerin fiyatlarını da bu modelleme yardımıyla tahmin etme şansına sahip olabiliriz. Ya da elimizde insanların resimleri ve yaşları olan bir veri kümesi olduğunu düşünelim. Algoritma, resimlerine bakarak insanların yaşını tahmin etmeyi öğrenebilir. Ayrıca denetimli öğrenme, sınıflandırma amacıyla da kullanılabilir. Örneğin algoritma, hasta kayıtları üzerinde çalışarak iyi veya kötü huylu olan tümörleri belirlemeyi öğrenebilir; yeni tümörlerle karşılaştığında tümörün iyi mi kötü mü olduğuna karar verebilir.

Denetimsiz öğrenmede ise girdi değişkenleri vardır ama bu değişkenlerden elde edilen belirli bir çıktı (y değeri) yoktur. Burada algoritma verideki benzerlik, farklılık ve örüntüleri araştırır. Örneğin, tüketicileri, alışveriş geçmişlerinden yararlanarak daha önce öngörülmemiş bir biçimde kümelere ayırabilir. Bir alışveriş sitesinde alınan bir ürünün yanında kullanıcılara yeni ürünler tavsiye edilebilir. Ya da banka hesaplarındaki hareketler incelenerek sıradışı işlemler yakalanabilir.

Yarı denetimli öğrenmede ise çok miktarda girdi olmasına karşın (gerçek hayatta sıkça olduğu gibi) yalnızca bazı verilerin y değeri vardır. Etiketlenmemiş (yani y değeri bilinmeyen) veriler, az miktarda etiketli (y değeri bilinen) veriyle birlikte kullanıldığında, öğrenme doğruluğunda bir gelişme sağlanabilmektedir. Girdi değişkenlerindeki yapıyı keşfetmek ve öğrenmek için denetimsiz öğrenme teknikleri kullanılabilir. Etiketlenmemiş verileri en iyi tahmin için denetimli öğrenme tekniklerini kullanabilir. Daha sonra bu tahminlerde elde edilecek verilerin sistemi geri beslemesiyle (elimizdeki etiketli verilerin miktarı artacağı için) sistem iyileştirilebilir.

Pekiştirmeli öğrenme ise davranışçılıktan esinlenmiştir ve en yüksek ödül miktarına erişebilmek için hangi eylemlerin yapılması gerektiğine odaklanır. Sistem doğru kararlarda ödüllendirilir, yanlış kararlarda cezalandırılır. Pekiştirmeli öğrenme, denetimli öğrenmeden farklı olarak doğru girdi ve çıktı eşleştirmesiyle başlamaz. Bilinmeyen uzayda keşif ve mevcut bilgiden yararlanma arasında bir denge kurmaya çalışır (https://tr.0wikipedia.org/wiki/Pekiştirmeli_öğrenme).

Yapay öğrenme algoritmaları veri yardımıyla yüzleri tanımayı, resimleri ayırt etmeyi, hangi filmi izlemek isteyebileceğimizi öğrenir. Beyazlardan oluşan bir veri kümesiyle eğitilen bir algoritma beyazların yüzlerini tanımada, bunun için matematiksel modeller kurmada ustalaşır. Siyahları da tanıyabilmesi için siyahların verilerine gerek duyar. Beyazlardaki kanser hücrelerini tanımada başarılı bir modelin siyahlardaki tahminleri hatalı olabilir. Bugün şirketlerin büyük bir açlıkla veri toplamasının, insanlar kişisel verilerini alabilmek için çeşitli (çoğu bedava olan) uygulamalar geliştirmelerinin arkasında 1984’teki gibi bir dünya arzulamaları değil, ekonomik çıkarları vardır. Verinin çeşitliliği ve zenginliği yeni olanaklar yaratmaktadır.

Bu algoritmalar gündelik hayatta başlıca dört görevi yerine getirir. Birincisi, sıralı liste verme. Google arama sonuçlarını sıralar, Netflix izlemekten hoşlanacağımız filmleri sıralar, navigasyon cihazı olası rotalar arasında en uygun olanı seçer. İkincisi, sınıflandırma. Şirketler reklamlarını artık rastgele yapmamakta, algoritmaların belirlediği gruplara özel reklamlar yapmaktadır. Üçüncüsü, ilişkilendirme. Alışveriş sitelerinde önceki müşterilerin verileri ve sizin alışkanlıklarınız birleştirilerek ilginizi çekebilecek ürünler önerilir. Kural tabanlı algoritmalarda olduğu gibi yazılıma “bunu satın alan, şunu alabilir” gibi kurallar doğrudan kodlanmaz. Algoritma, veriden öğrenir. Bu nedenle, beyzbol sopası alan birine kar maskesi de önermek gibi durumlar ortaya çıkabilmektedir. Dördüncü, filtrelemedir. Ses asistanları sesimizi daha iyi anlayabilmek için geri plandaki sesleri ayırırlar. Sosyal medya siteleri de aynı işlemi haber akışımızda yer alacak haberler için yapar (Fry, 2019).

Kural tabanlı algoritmalarda programcı hata yapabilir; ama güç, algoritmayı tasarlayan ve onu kodlayanların elindedir. Kod, tasarlandığı biçimde adım adım ilerler. Yapay öğrenme algoritmalarında ise algoritmayı tasarlayan yine insandır ama algoritmanın nasıl çalışacağı ve çıktısının ne olacağı veriye de bağlıdır. İki etken, insan ve veri, bir araya geldiğinde çeşitli karmaşıklıklar ortaya çıkmaktadır. Bu karmaşıklıkların başında da algoritmadaki yanlılık (bias) sorunsalı vardır.

Algoritmalarda Yanlılık

Bir algoritmanın çıktısının adaletsizliğe neden olmasına yanlılık adı veriliyor. Algoritmanın eğitildiği veri kümesindeki yanlılık, algoritmanın çıktılarını da etkilediğinden yanlılık sorunu çoğunlukla veriyle ilişkilendiriliyor.

Algoritmanın eğitildiği veri gerçekliğin zayıf bir temsiliyse veya halihazırdaki önyargıları yansıtıyorsa algoritma, yanlı çıktılar verir. Örneğin 2010 yılında, Microsoft’un Xbox oyun sisteminde kullanılacak Kinect teknolojisi piyasaya çıkmadan kısa bir süre önce bir kadın çalışan bu teknolojiyi evde denemek ister. Kinect, bir kumanda cihazı olmadan hareket algılama teknolojisi yardımıyla çalışmaktadır. Fakat sistem evde beklenildiği gibi çalışmaz. Hareket algılama teknolojisi kadının kocası için sorunsuz çalışırken kadın ve çocukların hareketlerini algılamada pek başarılı değildir. Çünkü sistem 18-35 yaş arasındaki erkekler üzerinde denenmiştir (Tugend, 2019).

Algoritmanın önyargıları pekiştirmesi de sık rastlanılan bir durumdur. Bir Microsoft müşterisi, krediler için risk puanlaması yapan bir finansal hizmetler algoritmasını test etmektedir. Fakat algoritmayı eğitirken kullanılan verilerde erkeklerin daha önce onaylanmış kredileri ağırlıklı olduğundan algoritma, erkeklerin daha risksiz müşteriler olduğuna karar vermeye meyillidir (age).

Verinin yanlılığa etkisi hakkındaki bir diğer ünlü örnek de Amazon’un iş başvurusu yapan adayların özgeçmişini değerlendirdiği otomasyon sistemidir. 2015 yılında şirket, iş başvurularının cinsiyetçi bir şekilde değerlendirildiğini fark eder. Çünkü sistem, eğitim sürecinde ağırlıklı olarak erkek adayların özgeçmişleriyle eğitilmiş ve bunun sonucunda erkekleri daha tercih edilebilir adaylar olarak belirlemiştir. Bu nedenle, içinde kadın kelimesi geçen (“kadın satranç takımı kaptanı” gibi) özgeçmişler cezalandırılmakta, aşağı sıralara itilmektedir. Sorunu fark eden Amazon, sistemi düzeltmeye (yanlılığı gidermeye) çalışır. Bazı iyileştirmeler yapsa da sonunda bu sistemi bırakmak zorunda kalır (Dastin, 2018).

Verinin hazırlanması aşamasında seçilen öznitelikler de yanlılığa neden olabilir. Kredi başvurularına olumlu ya da olumsuz yanıt vermesi istenen bir algoritma, veri kümesindeki kişilerin yaş, gelir, geri ödediği kredi sayısı gibi öznitelikleri seçilerek eğitilebilir. Bir işe alma sistemi ise cinsiyet, eğitim düzeyi veya tecrübe gibi öznitelikleri kullanabilir. Doğru öznitelikler seçilmişse (bu da ustalık gerektirir) modelin kestirimleri daha doğru olacaktır. Fakat Nao’nun (2019) altını çizdiği gibi seçilen özniteliklerin modelin doğruluğuna etkisini ölçmek kolayken aynı kolaylık yanlılığa etkisini belirlemede geçerli değildir.

Sistemlerin eğitiminde halihazırdaki toplumsal ilişkileri yansıtan veriler kullanıldığında ya da yanlılığa neden olabilecek öznitelikler seçildiğinde cinsiyetçi ve ırkçı önyargılar yeniden üretilir. Sorunun farkında olmak çözüme giden yolda bir adımdır. Fakat suçu tamamen verinin içerdiği yanlılığa ve öznitelik seçimindeki hatalara yüklemek, yanlılığı teknik bir soruna indirgemek de pek doğru değil.

Algoritmayı tasarlayan kişi ya da kişilerin değerleri (yanlılığı) de algoritmanın çıktılarında etkilidir. Problemin çerçevesinin çizilmesi, sistemin hedeflerinin belirlenmesi tarafsız bir eylem değildir. Bir kredi kartı şirketinin müşterilerin kredi itibarını tahmin eden bir sistem geliştirirken verdiği kararlar sistemin gelişimine yön verir. Çünkü en başta kredi itibarının ne olduğu sorusunu yanıtlanması ve bu yanıtın sayısallaştırılması gerekir. Şirketin hedefi nedir? Kârını mı yoksa geri ödenebilen kredi miktarını mı en üst düzeye çıkaracaktır? Şirketin istediği kârını artırmaksa, algoritma da buna en uygun fonksiyonu modelleyecektir.

Algoritmalar kimin yararına çalıştırılacak? Burada artık salt tekniğin ötesine geçmeye başlarız. Fry (2019) yazdığı “tedavi önerebilen teşhis makinesi” üzerinde düşünelim. Bu tip teknolojiler yaygınlaşacak ve doktorlardan çok daha isabetli kararlar verebilecek. Fakat Fry (2019) önemli bir soru soruyor ve bir seçim yapmak zorunda kalacağımızı vurguluyor: Teşhis makinesi, bireye mi, topluma mı hizmet edecek?

Algoritma, bireye hizmetin öncelikli olduğunu düşünürse ağır, ama bir süre sonra geçebilecek bir öksürük şikayetiyle doktora gittiğinizde sıkıntınızı birkaç gün hafifletmek için antibiyotik yazmaya karar verecek, risk almamak için daha fazla tahlil yaptırmanızı isteyecek. Ama topluma hizmeti öncelikli gören bir algoritma antibiyotik toleransına karşı daha duyarlı davranacak, ölümcül bir durum yoksa geçici sıkıntınızı önemsemeyerek ilaç vermek istemeyecektir. Ayrıca kaynakları boşa harcamamak için tahlil sayısını da azaltmaya çalışacaktır.

Elbette hayat siyah beyaz değil. Algoritmayı tasarlayanlar bireysel ve toplumsal çıkarlar arasında bir denge bulmaya çalışacaktır. Ancak bu denge arayışı teknik değil, politik bir çalışma olacaktır. Buna ek olarak, neoliberal çağın ruhuna uygun olarak, denkleme sağlık hizmetlerinin piyasalaşmasını kattığımızda korkunç bir algoritmayla karşı karşıya kalabiliriz.

Yanlılığın Çözümü Neden Zor?

Yanlılık bilgisayar bilimcilerin farkında olduğu ve üzerinde çalıştığı önemli konulardan biri. Fakat çözümü kolay değil. Hao (2019) yanlılık sorununun çözümünü zorlaştıran engelleri dört başlık altında ele alıyor.

Bilinmeyen bilinmeyenler. Daha model oluşturulurken verilerin ve tercihlerin yanlılığa neden olup olmayacağı belirgin değildir. Yanlılık, ileri safhalarda tespit edildiğinde ise geriye dönerek yanlılığın nedenini bulmak ve sorunu gidermek zor olmaktadır. Örneğin, önceki bölümde gördüğümüz gibi Amazon’un iş başvurusu değerlendirme sistemi kadın kelimesini içeren özgeçmişleri aşağı sıralara gönderiyordu. Amazon’un mühendisleri sorunu fark ettiklerinde sistemi yeniden programlayarak sistemin açık biçimde cinsiyet bildiren kelimeleri (women’s gibi) göz ardı etmesini sağladıklarında da sorun çözülmemiş. Çünkü sistem bu sefer de üstü kapalı olarak daha çok erkeklerle ilişkilendirilen executed, captured gibi kelimelerden yararlanarak cinsiyetçiliği yeniden üretmiş.

Eksik Süreçler. Bilgisayar bilimciler modelleri geliştirirken önce ellerindeki veriyi rastgele biçimde iki bölüme ayırırlar. Birinci bölümde yer alan veri, algoritmayı eğitmek için kullanılır. Eğitim işlemi tamamlandıktan sonra modelin performansı ikinci bölümdeki veri üzerinde test edilir. Bu süreçte, yanlılığın tespit edilmesi üzerinde durulmadığından ve hem modeli eğitmek için kullanılan veri hem de performansını test için kullanılan veri aynı yanlılıkları içerdiğinden önyargılı sonuçları tespit etmekte başarısız olunur.

Sosyal Bağlam Eksikliği. Caplan vd.’nin (2018) belirttiği gibi algoritmaları sıfırdan tasarlamak pahalı ve zordur. Algoritmaları tasarlarken nitelikli işgücü kullanmak, eğitim verisi bulmak, algoritmanın özelliklerini belirlemek, test etmek, iyileştirmek ve modeli uygulamak için para gerekir. Bu maddi gereklilikler, bilgisayar bilimcilerin problemleri çözmeye çalışırken farklı bağlamlarda farklı görevleri yerine getirebilecek sistemler tasarlama yaklaşımı ile birleşince belirli bir bağlama uygun olarak geliştirilen bir algoritmayı farklı bir bağlamda olduğu gibi veya değiştirerek kullanma gibi bir eğilim ortaya çıkmaktadır. Fakat Hoa’nın (2019) belirttiği gibi bu yaklaşım toplumsal sorunların çözümü için uygulandığında yeni sorunlara neden olur. Utah’ta tasarlanmış bir sistem farklı toplulukların farklı adalet anlayışları nedeniyle Kentucky’de doğrudan uygulanamaz. Aynı şekilde adil yargılama için kullanılan bir sistem istihdam alanında kullanılmamalıdır. Çünkü belirli bir bağlama göre oluşturulmuş standartlar ve algoritmanın ilgilendiği etik konular yeni uygulamada sorunlara neden olabilir.

Adaletin Tanımındaki Eksiklikler. Adalet konusu, felsefe, sosyal bilimler ve hukukta yıllardır tartışılmaktadır ve şimdi de bilgisayar biliminin gündemindedir. Ama bilgisayar biliminden adaleti matematiksel terimlerle açıklaması da beklenmektedir. Aşağıdaki tabloya bakalım:

Başlıca sorunlardan biri yanlış pozitiflerle yanlış negatifler arasındaki dengeyi bulabilmektir. Yanlış pozitifte, gerçekte negatif olan bir olgunun pozitif olduğunu tahmin etmişsinizdir (Birinin suçlu olduğunu tahmin ettiniz, ama gerçekte suçsuzdu). Yanlış negatifte ise gerçekte pozitif olan bir olgunun negatif olduğunu tahmin etmişsinizdir (Suçlu olan birine suçlu değil demek). Yani insanları haksız yere suçlama ihtimali de var, suçluları fark edemeyerek toplum güvenliğini tehlikeye atma ihtimali de. Algoritma, toplumun iyiliği için arada sırada suçsuz insanları mağdur etmeli midir (yanlış pozitif)? Yine bir denge kurmaya çalışsak bile insanların adalet hakkındaki düşüncelerinin de zaman içinde değiştiğini unutmamak gerekiyor.

Şeffaflık ve Sorumluluk

Kız çocuğu olan bir hakim, kadınlar lehine karar vermeye daha meyilli oluyor; tuttuğu takım yenilen hakimin kefalet talebini reddetme ihtimali daha yüksek; hakimler öğle yemeğinden hemen önce kefalet talebine uzak, yemekten sonra bu talebi kabule daha yatkın. Hakimler, arka arkaya benzer kararlar vermekten kaçınıyor. Dört kefalet talebine olumlu yanıt veren bir hakimin beşinci kefalet talebine olumlu yanıt verme olasılığı azalıyor (Fry, 2019).

Bu tip durumları düşününce algoritmik karar sistemlerinin daha adil kararlar için önemli bir potansiyele sahip olduğu görülüyor. Fakat Domingos’un (2017) uyardığı gibi “insanlar bilgisayarların çok akıllı hale gelip dünyanın kontrolünü eline geçirmesinden endişelense de asıl problem, çok aptal olmaları ve halihazırda dünyayı kontrol etmeleridir.” Sorunu, hakimlerin mi yoksa bilgisayarların mı daha doğru karar vericiler olduğu ekseninde tartışmak yanıltıcı olabilir. Önce hukuktan ne beklediğimizi sorgulamalıyız.

Hukuk, erişilebilir ve olabildiğince anlaşılır, açık ve tahmin edilebilir olmalı. Algoritmik karar sistemlerinin ise çoğunlukla bu beklentiyi karşılamaktan uzak olduğunu ve içerikleri ticari sır olarak saklanan birer kara kutu olarak çalıştıklarını görüyoruz. Normal bir yazılımın kaynak kodunu inceleyerek nasıl çalıştığını öğrenmek mümkünken aynı yöntem yapay öğrenme algoritmalarını kullanan sistemlerde yetersiz kalıyor. Çünkü algoritma üzerinde çalıştığı verilerden öğreniyor. Ayrıca kesinlik ve yorumlanabilirlik iki zıt uçta yer alabiliyor. Doğrudan kodlanmış bir algoritmayı anlamak kolayken, sinir ağlarında daha kesin sonuçlar için yorumlanabilirlikten feragat etmek zorunda kalıyoruz. Birçok durumda kesin sonuçlar tercih edilir, ama hukuk gibi insan yaşamını etkileyen konularda çubuğu yorumlanabilirliğe bükmek gerekebilir (Blacklaws, 2018).

Geçen yıl yürürlüğe giren GDPR (General Data Protection Regulation – Genel Veri Koruma Tüzüğü), şirketleri şeffaf ve sorumlu davranmaya zorlayabilecek önemli bir düzenleme. GDPR’nin uygulamadaki başarısı ve daha da geliştirilmesi, algoritmik karar sistemlerinin potansiyelini toplum yararına hayata geçirebilir. Kamuoyu, algoritmalar hakkında bilinçlendikçe GDPR gibi düzenlemelerden güç alarak şirketleri gerekli önlemleri almaya ve yeni çözümler geliştirmeye zorlayabilir. Fakat Selbst vd.’nin (2019) yazdığı gibi teknolojik çözümcülük tuzağına da düşmemek gerekiyor. Şirketler ellerinde çekiç olduğu için her şeyi çivi olarak görme eğilimindeler. Ama özellikle siyasi olarak tartışmalı sorunları teknolojiyle çözme girişimleri karşısında dikkatli olmalı.

Kaynaklar

Blacklaws, C. (2018). Algorithms: transparency and accountability. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2128), 20170351.

Caplan, R., Donovan, J., Hanson, L., & Matthews, J. (2018). Algorithmic accountability: A primer. Data & Society.

Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women, https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G, son erişim 15/07/2019

Domingos, P. (2017). Master Algoritma: Yapay Öğrenme Hayatımızı Nasıl Değiştirecek?(çev. Tufan Göbekçin). Paloma Yayınevi, İstanbul.

Fry, H. (2019). Merhaba Dünya: Makine Çağında İnsan Olmak. (Çev. İ. G. Çıgay), Hep Kitap.

Hao, K. (2019). This is how AI bias really happens—and why it’s so hard to fix, https://www.technologyreview.com/s/612876/this-is-how-ai-bias-really-happensand-why-its-so-hard-to-fix/, son erişim 15/07/2019

Selbst, A. D., Boyd, D., Friedler, S. A., Venkatasubramanian, S., & Vertesi, J. (2019). Fairness and abstraction in sociotechnical systems. In Proceedings of the Conference on Fairness, Accountability, and Transparency (pp. 59-68). ACM.

Tugend, A. (2019) Exposing the Bias Embedded in Tech, https://www.nytimes.com/2019/06/17/business/artificial-intelligence-bias-tech.html, son erişim 15/07/2019

22 Kasım 2019

Posted In: algoritma, algoritmik yönetim, bias, Bilgisayar Bilimi, Gözetim, Özgür yazılım, sosyal ağlar, Teknoloji Tarihi, yanlılık, yapay öğrenme, Yapay Zeka

WP Twitter Auto Publish Powered By : XYZScripts.com