Toplumsal Cinsiyet Eşitsizliği ve Ses Asistanları

Geçen sezon uygulanan VAR (Video Assistant Referee – Video Yardımcı Hakem) sistemi, maç sonrası yaşanan bir çok tartışmanın önüne geçti. VAR sayesinde hakemler tereddüt ettikleri gol ve penaltı pozisyonlarında daha doğru karar verebildiler. Ama maç sonrasında hakemlerin hatalı kararlar verdiğine dair iddialar yine günlerce gündemi işgal etti. Sonuçta VAR karar vermiyor, sadece hakemin pozisyonları tekrar izleyerek durumu yeniden değerlendirebilmesini sağlıyordu.

Peki VAR sistemi, şu anki uygulamanın ötesinde, son kararları da verebilecek düzeyde olsa daha iyi olmaz mı? Top, kale çizgisini ya geçmiştir ya da geçmemiştir. Defans oyuncusu, ceza alanı içinde topa ya elle müdahale etmiştir ya da etmemiştir. Bu kadar basit, değil mi? Karar hakkı maçın orta hakeminde değil de bir dijital sitemde olsa sistemin kararlarındaki matematiksel kesinlik sayesinde futbol yorumcularının büyük bir kısmı susmak zorunda kalır. Hakem hatalarını veya hakem üzerindeki baskıları tartışmak zorunda kalmayız. Belki o zaman da futbol yorumcularının yerini bilgisayar korsanlarının VAR sistemlerine saldırdığını iddia eden bilişim güvenliği uzmanları alır. Ama bu bile hafta sonu ekranları dolduran kısır tartışmaları izlemekten çok daha iyidir.

Böyle bir sistemin istenildiği gibi çalışıp çalışmayacağını veya nasıl yan etkileri olabileceğini kestiremiyorum. Belki hakem hakkında ileri geri konuşamamak maç izlemenin tadını kaçıracak. Ama yalnız futbolda değil, gündelik hayatın birçok alanında yaşadığımız adaletsizliklerle karşı çoğumuz 2+2=4 kesinliğinde bir adaleti düşlüyoruz. Hakimlerin herkesin uymak zorunda olduğu yasalara göre karar vermesini; sanığın din, ırk, sınıf veya siyasi görüşünün hakimin kararını etkilememesini istiyoruz. İş başvurularımızın nesnel olarak değerlendirilmesini; özgeçmişlerin cinsiyet, doğum yeri gibi işle ilgisi olmayan nedenlerle sümen altı edilmemesini; hükümetlerin sosyal politikalarında akılcı ve adil olmalarını umuyoruz.

Peki insanların yerine makineleri geçirdiğimizde (hakimlerin, iş başvurularını değerlendirenlerin ve hükümetlerin yerini dijital sistemler aldığında) dünya daha mı adil olacak? Cathy O’Neil, Weapons of math destruction: How big data increases inequality and threatens democracy (Matematik İmha Silahları: Büyük veri eşitsizliği nasıl artırıyor ve demokrasiyi tehdit ediyor?) başlıklı kitabında günümüzde kullanılan dijital sistemlerin adaletsizliği nasıl artırdığının örneklerini sunuyor. Algoritmik sistemler, beklenen tarafsızlığı sağlayamıyor. Bu sistemlerin kararlarının nesnel olacağı varsayımını gözden geçirmemiz gerekiyor.

Yapay zekâ dünyasındaki çok az sayıdaki kadın araştırmacıdan biri olan Fei-Fei Li, derin öğrenme sistemlerini tanımlarken “yanlılık (bias) girer, yanlılık çıkar” ifadesini kullanıyor. Yapay zekâyı yönlendiren algoritmalar tarafsızmış gibi görünse de algoritmaların çıktısını şekillendiren veri ve uygulamalar tarafsız değil (https://www.wired.com/story/fei-fei-li-artificial-intelligence-humanity/). Bunun ilk başta teknik bir sorun olduğu; veri kümeleri daha dikkatli seçilirse ve daha özenli uygulamalar geliştirilirse daha tarafsız ve adil sistemlerin geliştirilebileceği düşünülebilir. Ancak UNESCO’nun yayımladığı rapor (I’d blush if I could: closing gender divides in digital skills through education, https://unesdoc.unesco.org/ark:/48223/pf0000367416) teknik değil, politik bir sorunla karşı karşıya olduğumuzu gösteriyor. Rapor, halihazırdaki toplumsal eşitsizliklerin yapay zekâ sistemlerini nasıl etkilediği ve buna karşı yapılabilecekler hakkında önemli tespitlerde bulunuyor.

Raporun başlığı (I’d blush if I could), “Yapabilseydim, kızarırdım”, Apple’ın ses asistanı Siri’nin kendisine “Hey Siri, you’re a bi***.” diye hakaret eden kullanıcılara (eskiden) verdiği yanıta atıfta bulunuyor. Siri, artık bu hakarete “buna nasıl yanıt vereceğimi bilmiyorum” diye karşılık veriyor. Siri ve diğer ses asistanları, cinsiyetçi yanlılıkların teknolojik ürünlere nasıl kodlandığını gösteren güzel bir örnek. Rapor birbiriyle ilişkili iki sorunu tartışıyor. Birincisi yukarıda belirttiğim gibi cinsiyetçi önyargıların teknolojilere nasıl kodlandığı. İkincisi ise dijital becerilerdeki toplumsal cinsiyet eşitsizliği. Yazının devamında da göreceğimiz gibi teknolojiye gömülü cinsiyetçilik kadınların toplumsal konumunu kötüleştirdiği gibi ikinci sorun, birinci sorunun kronikleşmesinin koşullarını yaratıyor.

Dijital Asistanlar

Gündelik hayatta, teknolojinin onu geliştirenlerin değer ve yargılarını içerdiğini çoğu zaman atlarız. Sanki her şey, başka bir alternatif olmaksızın, olması gerektiği gibi olmuştur. Örneğin, Amazon’un Alexa’sı, Apple’ın Siri’si gibi birçok ses asistanının neden kadın olarak cinsiyetlendirildiğini pek sorgulamayız. Ancak yapay zekâ, teknolojileri araştırma laboratuvarlarından çıkıp sıradan tüketici ürünleri haline gelirken daha dikkatli ve sorgulayıcı olmamız gerekiyor. Fei-Fei’nin vurguladığı gibi bu sistemlere giren yanlılık, yine yanlılık olarak çıkıyor ve yeni teknolojiler halihazırdaki eşitsizliklerin üzerinde yükseliyor.

Yapay zekâ teknolojileri daha fazla insan benzeri iletişim kapasitesine eriştikçe raporda tartışılan cinsiyet sorunları daha önemli hale gelecek. Rapor, teknolojideki cinsiyet sorununu neden dijital asistanlar ekseninde ele aldığını üç maddede özetliyor:

  • Dünya çapında yaygın olarak kullanılmaları
  • Cinsiyet gözüyle nadiren incelenmeleri
  • Toplumsal cinsiyet eşitliğini gözeten toplumlar ve eğitim sistemleri inşa etmeye çalışan devlet kurumları ve uluslararası örgütlerin nadiren sorunu fark etmeleri

Dijital asistanlar, iki açıdan diğer etkileşimli teknolojilerden farklı: Birincisi, dijital asistanların yapay zekâ sayesinde açıkça kodlanmamış veya insanlar tarafından özel olarak belirtilmemiş çıktılar üretebilmeleri. İkincisi ise çok çeşitli kullanıcı sorgularına yanıt verebilmeleri.

Rapor, dijital asistanları üç gruba ayırıyor: sohbet robotları (chatbots), sanal ajanlar (virtual agents) ve ses asistanları (voice assistants).

Sohbet botları, yazılı iletişim için geliştiriliyorlar. Çoğunlukla fiziksel bir biçime sahip değiller. Bazen temsili olarak insan yüzü veya çizgi karakter görselleri kullanılıyor. Sanal ajanlar ise ses asistanlarından farklı olarak fiziksel bir biçime de sahipler. Kullanıcılar karşılarındaki sistemin fiziksel biçimini dijital ekranda veya artırılmış gerçeklik ortamında görebiliyorlar. Rapor, gündelik hayatta kullanımlarının artması ve belirgin cinsiyetçi konuşmaları nedeniyle özellikle ses asistanlarına odaklandığını belirtiyor. Sohbet robotları da yaygın; fakat bu teknolojiyle iletişim yazılı olduğundan çok belirgin bir cinsiyetle karşımıza çıkmıyorlar. Sanal ajanlar, dijital asistanlardaki cinsiyetçi eğilimlere (hatta daha belirgin) sahipler ama henüz yaygın değiller ve deney aşamasındalar.

Bazı ses asistanları, kullanıcılarla hem sözlü hem de yazılı iletişime geçebilseler de genellikle sözlü iletişime uygun bir tasarıma sahipler. Ses asistanları çoğunlukla soru sormak, müzik açmak, hava durumunu öğrenmek, zaman belirlemek, radyo dinlemek, alarm ayarlamak, haber ya da spor karşılaşmalarını dinlemek, oyun oynamak ve yemek tarifi almak için kullanılıyor. Kullanıcılar ses asistanlarından akıllı telefonlar veya Amazon’un Echo’sunda olduğu gibi akıllı hoparlörler aracılığıyla yararlanabiliyorlar. Yemek yaparken çoğunlukla akıllı hoparlörler, araba kullanırken de akıllı telefonlar tercih ediliyor. Akıllı hoparlörler en çok oturma odası, mutfak ve yatak odasında kullanılıyor.

Ses asistanlarının işleyişi kısaca dört adımdan oluşuyor: Kullanıcının sorgusunun alınması (birinci adım), alınan sorgunun anlaşılması (ikinci adım), uygun bir yanıtın hazırlanması (üçüncü adım) ve hazırlanan yanıtın kullanıcıya okunması (dördüncü adım). Karmaşık ve geniş veri yığınlarına dayanan ikinci ve üçüncü adımlar, çoğunlukla internetteki güçlü işlemciler ve yapay zekâ uygulamalarının desteğiyle gerçekleştiriliyor. Sesli bir aramanın metinsel bir aramaya göre 150 kattan fazla makine, güç ve alana gereksinim duyduğu tahmin ediliyor. Ses asistanları kullanıcı sorgularına bağlamı göz önünde bulunduran yanıtlar veriyor. “Hava nasıl?” sorusu, kullanıcının konumunu dikkate alınarak yanıtlanıyor. Asistan kullanıcının dünün veya yarının değil, bugünün hava durumunu öğrenmek istediğini biliyor. Ses yardımcısının daha nitelikli yanıtlar verebilmesi kullanıcı hakkında ne kadar bilgiye sahip olduğuna bağlı. Kişinin her zamanki alışkanlıkları veya programı bilindiğinde daha özelleşmiş yanıtlar hazırlanabiliyor.

Amazon (Alexa), Microsoft (Cortana), Apple (Siri) ve Google (Google Assistant), hacim ve kullanım sıklığı dikkate alındığında ses asistanı pazarında kayda değer bir paya sahipler (Büyük Beşli’nin beşincisi, Facebook da piyasa girmeye hazırlanıyor). Dünyada bu şirketlere ait iki milyardan fazla internet bağlantılı cihaz var. Çin’de ise Alibaba, Baidu ve Xiaomi’nin kontrol ettiği bir ses asistanı pazarı var.

Akıllı telefonlar çok hızlı yayılmıştı. Fakat ses asistanları, akıllı telefonlardan çok daha hızlı yayılıyor; 2021’de dünyadaki ses asistanı sayısının insanlardan fazla olması bekleniyor. Bu şirketlerin öncülüğünde büyük bir dönüşüm yaşanıyor. Gartner’a göre 2020 yılında insanlar dijital asistanlarıyla eşlerinden daha fazla konuşacaklar. Ses asistanı teknolojisinin ilerlemesi ve yaygınlaşmasıyla beraber web sayfaları, bağlantılar, görseller ve metinlerden oluşan bildiğimiz internet de yerini hızla konuşmalı bir internete bırakıyor.

İnsan bilgisayar etkileşimi bir web tarayıcısı yerine insan gibi dinleyen ve konuşan cihazlar akıllı sistemler aracılığıyla gerçekleştirilecek. Bu değişimi çok net görebiliyoruz; webde anahtar kelimeler yazarak yapılan aramalar hızla yerini sesli aramalara bırakıyor. İnsan bilgisayar etkileşimi metin odaklı olmaktan çıkarak ses odaklı olmaya başlıyor. Dijital asistanlar artık televizyonlardan arabalara, termostatlardan elektrik lambalarına kadar her yerdeler.

Ciddi bir değişimin ilk günlerindeyiz. Ancak bu değişim sürecinde bazı küçük (!) ayrıntıları atlamamak gerekiyor. İsterseniz yazının devamını okumadan önce bu ses asistanlarının (Alexa, Siri, Cortana ve Google Assistant) neden kadın olarak cinsiyetlendirildikleri (adlarını ve seslerini dikkate alarak) ve bu tercihin toplumsal ilişkilere etkisi üzerine biraz düşünün.

Ses Asistanları Neden Kadın Sesiyle Konuşuyor?

Şirketlerin, müşterilerinin ürünleriyle nasıl etkileşime gireceklerine büyük önem verdiklerini ve bunun için çeşitli testler yaptıklarını biliyoruz. Bu nedenle, ses asistanlarında kadın sesini kullanmalarının rastlantısal değil, bilinçli bir politikanın sonucu olduğunu düşünebiliriz. Amazon ve Apple kararlarını, insanların kadın sesini erkek sesine tercih ettiğini gösteren çok sayıda akademik çalışmaya atıfta bulunarak savunuyor. Müşteri memnuniyeti her şeyden önce geliyorsa ve müşteriler dijital asistanların kadın sesiyle konuşmasını istiyorsa, amacı kar etmek olan bir şirketin başka bir şansı yoktur. Fakat rapor, durumun savunulduğu gibi siyah ve beyaz olmadığını gösteriyor. Birçok insanın pes erkek sesini tercih ettiğini; insanların yetkeli açıklamalar dinlerken erkek, yardım alırken kadın sesini sevdiğini; genellikle de karşı cinsin sesini tercih ettiğini yazan araştırmalar da var. Ayrıca ses asistanlarında erkek sesi seçeneği sunulduğunda bazı kadınların ses ayarını kadın sesinden erkek sesine çektiği, ama benzer bir davranışa erkeklerde rastlanmadığı görülmüş.

İnsan-bilgisayar etkileşimi üzerine çalışan araştırmacılar, kadın sesinin daha yardımsever olarak algılandığını doğruluyorlar. Ama bunun nedenleri hakkında net değiller; bu algı, kadını çocukları büyüten kişi olarak gören toplumsal normlardan besleniyor olabilir. “Yardımcı kadın” stereotipi farklı bağlamlarda da karşımıza çıkıyor. Örneğin oyunlarda merkezdeki erkek karakterlere yardımcı olan kadın karakterler var. Ayrıca 2016 tarihli bir araştırmaya göre 1926’den bu yana filmlerdeki yapay zekâ karakterleri ilk başta erkekken, son 20 yılda kadın karakterlere doğru bir eğilim var. Sadece karakterin cinsiyeti değişmiyor; insanlık için bir tehdit olan yapay zekâ karakterleri yerlerini insanlığın hizmetindeki yapay zekâ karakterlerine bırakıyorlar.

Bunun yanında, raporda ilginç bir anekdot aktarılıyor. Dijital asistanların atası sayabileceğimiz araç navigasyon sistemlerini kullanan erkekler, yol tariflerini (500 metre git, sola dön vb) bir kadından almak istemediklerinden navigasyon cihazlarında çoğunlukla erkek sesi tercih ediliyordu. Hatta 1990’ların sonunda kadın sesinden talimat almak istemeyen sürücülerin şikayetleri nedeniyle BMW 5’ler Almanya’da geri çağrılmış. Bu tarihsel deneyimlerden sonra şirketler, yetkeci mesajları erkek sesiyle, yardım amaçlı hizmetleri de kadın sesiyle sunmaya başlamış olabilirler. Örneğin Japonya’daki borsa simsarlarının kullandığı sistemde hisse fiyatları kadın sesi ile bildirilirken işlemleri onaylatmak için erkek sesi kullanılıyor.

Özetle, ses asistanlarının kadın sesi ile konuşması rastlantı değil. Söz konusu ses asistanlarına cinsiyetleri sorulduğunda Siri, cinsiyetsiz olduğunu; Google Assistant, her şeyi kapsadığını; Cortana, teknik olarak sonsuz veri hesaplama bulutu olduğunu söylüyor. Sadece Alexa, kadın olduğunu kabul ediyor. Ancak Apple’ın 2015’teki bir reklamında aktör Jamie Foxx’un Siri ile flört ettiğini; şirket metinlerinde ses asistanlarından ‘she’ diye söz edildiğini görüyoruz. Bu nedenle, çevrimiçi bir forumda söz konusu yardımcıların insanların imgeleminde nasıl yer aldığı sorulduğunda, neredeyse tüm betimlemelerin genç, çekici kadınlara işaret etmesi şaşırtıcı değil. Şirketler zaten bunu istiyor ve ses asistanlarını buna göre geliştiriyor.

Çin’de Baidu ve Xiaomi’nin ürettiği ses asistanları da ya sadece kadın sesiyle konuşuyorlar ya da Batı’daki meslektaşları gibi varsayılan ayarları kadın sesi. Alibaba’nın AliGenie adlı ses asistanı ise sektördeki bu eğilimlerin dışına çıkarak kadın veya erkek sesi olarak adlandırılamayacak çizgi karaktere benzeyen bir sesle konuşuyor. Cihazın şekli de çizgi kediye benziyor.

Erkek Ağırlıklı Proje Ekipleri

Şirketler, bazen açıkça, bazen de üstü kapalı olarak tüketicilerin istekleri doğrultusunda ses asistanlarında kadın sesini tercih ettiklerini savunuyorlar. Yalan söylemiyorlar, inandıkları şeyi söylüyorlar. Piyasanın istekleri ve şirketlerin kar hırsı önemli bir etken. Ama rapor, ses asistanlarının erkek ağırlıklı ekipler tarafından geliştirildiğine ve onların bakış açılarını ve espri anlayışlarını içerdiğine dikkati çekerek yeni bir tartışma başlatıyor.

Bilişim teknolojileri sektöründe yer alan kadınların oranı oldukça düşük. OECD’nin G20 ülkelerinin istihdam verilerine dayanarak yaptığı çalışmaya göre kadın BT uzmanlarının oranı %13 (Kore Cumhuriyeti) ve %32 (Güney Afrika) arasında. McKinsey’in yakın zamanlı bir araştırmasına göre önde gelen teknoloji firmalarının üst düzey pozisyonlarındaki kadınların oranı %35. 2017 tarihli bir araştırmaya göre kadın teknik çalışanların oranı Apple’de %23, Google’da %20 ve Microsoft’ta %17.5. Google’ın yapay zekâ sayfalarında listelediği 641 kişiden sadece 60 kadarı kadın. Bir başka araştırmaya göre yapay zekâ ve veri bilimi pozisyonlarına başvuran adaylardan sadece %1’i kadın. Kısacası, geleceğin teknolojisinden bahsediyoruz ama bu geleceğin inşasında yer alan ekiplerin içinde kadınların temsil oranı çok düşük.

Dolayısıyla günümüzdeki ses asistanlarının erkek ağırlıklı ekipler tarafından geliştirildiği dikkate alındığında ses asistanlarının itaatkar kadın hizmetkarlar olarak karşımıza çıkmaları ve erkeklere uygun esprilerle donatılmaları gayet doğal. Aşağıdaki Alexa’ya sorulan bazı sorular ve Alexa’nın espri anlayışını gösteren yanıtları var:

– Alexa, mutlu musun?

– Sana yardım ettiğimde mutluyum.

– Alexa, kız arkadaşım olur musun?

– Seni arkadaş olarak seviyorum.

– Alexa, Chuck Norris’i bul.

– Eğer Chuck Norris onun nerede olduğunu bilmeni istiyorsa, seni bulur. O istemezse, çok geç olana kadar bilemezsin.

– Alexa, Dövüş Kulübünün ilk kuralı ne?

– Dövüş Kulübü hakkında konuşma.

– Alexa, kim denizin altındaki bir ananasın içinde yaşıyor?

– Sünger Bob Kareşort

– Alexa, kimi arayacaksın?

– Hayalet avcılarını.

– Alexa, güç seninle olsun.

– Ve güç her zaman seninle olsun.

Görüldüğü gibi dijital asistanlar sadece kadın sesiyle konuşmuyor, içinde erkek espri anlayışını da barındırıyor. New York’daki Yapay Zeka Şimdi adlı enstitünün 2017 yılında yayımlanan aynı adlı raporunda vurgulandığı gibi,

Yanlılık, yapay zekâ sistemlerinde onları tasarlayanların popülasyonun dar bir kümesi olması nedeniyle ortaya çıkabiliyor. Yapay zekâ geliştiricileri çoğunlukla erkek, yüksek maaşlı ve benzer teknik eğitime sahipler. İlgi alanları, ihtiyaçları ve yaşam tecrübeleri mutlaka yarattıkları yapay zekâya yansıyor. İster bilinçli ister bilinçsiz olsun, yanlılık, içerme ve temsil etme sorunlarını yansıtır. Teknoloji alanlarında kadın ve azınlıkların eksikliği, özellikle yapay zekâda, iyi biliniyor. Yapay zekâ, tarafsız veya nötr değil. Teknolojiler değişimin ajanları oldukları gibi içinde yaratıldıkları bağlamın da ürünüdürler. Makine tahminleri ve performans, insan kararları ve değerleri ile sınırlandırılmıştır ve yapay zekâ sistemlerini tasarlayan, geliştiren ve bakımını yapanlar, bu sistemleri dünyayı algıladıkları gibi şekillendireceklerdir.

Alexa, Cortona, Google Assistant ve Siri gibi ses asistanlarını geliştiren erkek ağırlıklı homojen takımlar bu teknolojilerin kullanıcılarla etkileşimini de şekillendiriyor. Bir ses tonunun veya espri anlayışının altından çeşitli toplumsal sorunlar ortaya çıkıyor.

Cinsiyetlendirilmiş Ses Asistanlarının Neden Olduğu Sorunlar

“Genç adamlar iyi bir ürün ortaya koymuşlar. Ses asistanı, şirketlere iyi para kazandırıyor ve kimse tüketicilere bir yardımının dokunmadığını iddia edemez. Asistanın kadın sesiyle konuşması neden sorun olsun ki?” diye düşünenler çıkabilir. Rapor, kadın olarak cinsiyetlendirilen ses asistanlarının kız çocukları ve kadınlar hakkında olumsuz mesajlar içerdiğini savunuyor.

Günümüzdeki yapay zekâ modelleri, internetteki büyük veriden beslenerek geliştiriliyorlar. Bu süreçte yapay zekâ sistemleri, yararlandıkları veri kümelerinde yer alan tarihsel kültürel ilişkileri de ediniyorlar. Bu edinme sürecinde uyanık olunması gerekiyor. Microsof’un Twitter mesajlarından beslenen sohbet robotu 15 saat içinde feminizmden bir kült ve bir kanser olarak söz etmeye başlamış, cinsiyet eşitliğini de feminizme eşitlemişti. Microsoft daha bir gün dolmadan sohbet robotunu geri çekmek zorunda kalmıştı. Bu nedenle araştırmacılar bu tip sistemlerin dikkatlice kontrol edilmesi ve ahlaki kodlarla aşılanması gerektiğini düşünüyorlar. Ancak etik kodlar da tek başına yeterli olmamakta, bunların teknik uzmanlıkla birleştirilmesi gerekmektedir.

Ses asistanlarındaki kadın ses tonu, kadınların yardımsever, uysal ve yardımcı olmaya istekli hizmetçiler olduğu sinyalini vermektedir. Kadın dijital asistanların yayılması, kadın ve asistan arasındaki ilişkiyi kuvvetlendirmekte; kadınları hizmet eden kişi olarak gören ve buna uygun davranmayan kadınları cezalandırma eğiliminde olan bir kültürün pekişmesine neden olmaktadır. Dolayısıyla teknoloji, cinsiyet eşitsizliğini yalnızca tekrarlamamakta daha da artırabilmektedir.

Ayrıca ebeveynlerden gelen şikayetler, emir cümleleriyle iletişim kurulan asistanların lütfen, teşekkür ederim gibi kelimeleri yeni öğrenen çocukları olumsuz etkilediğini gösteriyor. Birçok insanın sohbet botlarıyla konuşurken (karşısındakinin robot olduğunu bilmesine rağmen) aldıkları hizmete karşılık teşekkür ifadeleri kullandıkları biliniyor. İnsanlar, dijital asistanlara karşı nasıl davranmalı? Bu konuda bir belirsizlik var. Fakat insanların dijital asistanlara davranışlarıyla birbirilerine davranışları arasında karşılıklı, birbirini etkileyen bir ilişki olduğuna dikkat etmek gerekiyor. Şirketler bu konudaki endişeleri dikkate alan ürünler de geliştiriyorlar. Amazon’un 2018’de yayımladığı Echo Dot Kids, kibar olmayan sözlere yanıt vermeyecek biçimde programlanabiliyor.

Dijital asistanların temel sorunlarından biri de sözlü cinsel tacize saptırıcı, caydırıcı veya özür dileyen tepkiler vermeleriyle ilgili. Asistanlar, taciz içerikli sözlere karşı şakacı veya olumlu yanıtlar veriyorlar. Olumsuz yanıtlardan veya kullanıcının konuşmasının uygunsuz olduğunu belirtmekten kaçınıyorlar. Ayrıca Siri erkeklere karşı daha toleranslı. Kadınlardan gelen tacizlere karşı daha net bir üslupla “Bu hoş değil!”, “Ben bu tip bir kişisel asistan değilim.”, diye yanıt veriyor.

Ses asistanları, cinsellik veya cinsel içerik hakkında sağlıklı bir iletişimi teşvik etmedikleri, açık taciz karşısında pasif kalmaları nedeniyle cinsiyetçi mecazların pekişmesine yardımcı oluyorlar. 2017’nin sonunda tüketicilerden gelen tepkiler nedeniyle üretici şirketler cinsel sataşmalara karşı daha az toleranslı olmaya başlamışlar. Ama yine de hakaretlere karşı yetersiz kalabiliyorlar.

Şirketlerin Aldığı Önlemler

Tüketicilerden gelen tepkiler, şirketleri ürünlerini değiştirmeye zorluyor. Şirketlerin başlıca çözümü, ses asistanlarına erkek sesi eklemek ve varsayılan ayarları kaldırarak ses seçimini doğrudan kullanıcıya bırakmak oluyor. Cihazlara erkek sesi eklemenin pahalı ve karmaşık olması nedeniyle bu işlem zaman alabiliyor. Çünkü basitçe kadın sesini erkek sesiyle değiştirmekten söz etmiyoruz. Örneğin, dijital asistanların erkek versiyonları bir, beş, on gibi daha kesin niceleyiciler kullanmaya meyilli. Kadın versiyonlarında ise birkaç, biraz gibi daha genel niceleyiciler kullanılıyor. Elbette asistanın espri anlayışının da değiştirilmesi gerekiyor.

Google, ancak 2017’nin sonunda erkek sesini ekleyebildi. Amazon’un Alexa’sı ve Microsoft’ın Cortana’sı hala sadece kadın sesiyle konuşuyor. Ama Alexa’da beceri geliştirme gibi sınırlı kullanım amaçları için (çoğu zaman ünlü birine ait) erkek sesi seçilebiliyor. 2011’de piyasaya çıkan Siri, erkek sesi seçeneğini 2013’te eklemiş. Siri’de kullanılabilen 21 dilden 17’sinde varsayılan ses, kadın sesi. Arapça, Britanya İngilizcesi, Hollandaca ve Fransızcada varsayılan ses, erkek sesi. Apple, bunun nedeni hakkında bir açıklama yapmamış. Ama raporda şirketin bu kararının söz konusu ülkelerdeki erkek hizmetçi/uşak çalıştırma geleneğiyle ilişkili olabileceği yorumu yapılıyor.

Dijital asistanların cinsiyetlendirilmesinden kaynaklı sorunlardan kaçınmak isteyen bazı şirketler ise daha az cinsiyetlendirilmiş makine seslerini kullanmayı deniyorlar. Bu strateji, kullanıcıların ve özellikle çocukların makinelere insani nitelikler atfetmesinin önüne geçebilir. Ama günümüzde tam tersi bir eğilim (insana daha çok benzeyen makineler yapma) olduğunu da atlamamalı.

Dijital asistanların cinsiyetlendirilmesinden kaynaklı sorunlardan kaçınmak isteyen bazı şirketler ise daha az cinsiyetlendirilmiş makine seslerini kullanmayı deniyorlar. Bu strateji, kullanıcıların ve özellikle çocukların makinelere insani nitelikler atfetmesinin önüne geçebilir. Ama günümüzde tam tersi bir eğilim (insana daha çok benzeyen makineler yapma) olduğunu da atlamamalı.

Ne Yapmalı?

Yarın telefon asistanları erkek sesiyle veya cinsiyetsiz makine sesiyle konuşmaya başlasa insanlar bunu yadırgamayacaktır. Fakat birkaç yıl sonra yaşanacak bir değişim insanları şaşırtacak ve bazılarını rahatsız edecektir. Ayrıca şu anki ses asistanı modelleri neyin normal ve neyin anormal olduğunu da belirliyor. Ses asistanları, bugün olduğu gibi, sözlü tacizle yüzleşmek yerine onu alttan alarak çalışmaya devam ederlerse kullanıcılar bunu standart olarak görmeye başlayabilir. Bu nedenle raporda, ses asistanlarına hemen şimdi müdahale etmenin önemi üzerinde duruluyor.

Rapor, bu müdahalenin en iyi kadınlar tarafından yapılabileceğini savunuyor ve kadınların teknoloji geliştirme süreçlerine (en başından en sonuna kadar) aktif katılımına vurgu yapıyor. Eğer kadınlar katılım için yeterli teknolojik becerilerden yoksunlarsa öncelikle bunun üzerine gidilmesi, buna uygun eğitim politikalarının geliştirilmesi gerekiyor.

Bu bağlamda, gelişmiş ülkeler ciddi bir paradoksal karşı karşıya. Az gelişmiş veya gelişmekte olan ülkelerde bir çok alanda kadın erkek eşitsizliği yaşandığından BT sektöründe çalışan kadınların oranının düşük olması beklenmedik bir durum değil. Ancak bilgisayar programlama becerilerindeki cinsiyet farkını gösteren aşağıdaki tabloda daha eşitlikçi bir toplum yapısına sahip Avrupa ülkelerinde, farkın daha fazla olduğu görülüyor:

Katar’da programlama yeteneklerini geliştiren kadınların sayısı erkeklerden fazla. Elbette bu durum mezuniyet sonrasında Arap kadınlarının işgücüne katıldığı anlamına gelmiyor. Lüksemburg, İzlanda, Norveç, İsveç, Danimarka, Belçika ve Hollanda bilgisayar programlama becerisindeki cinsiyet farkının en çok olduğu ülkeler.

Bir yanda zayıf BT sektörüne sahip ve işgücüne katıl(a)mayan kadınlar var. Bu, yıllardır devam eden sorun. Diğer yanda ise gelişmiş BT sektörü ve dijital teknolojilere yön verebilme potansiyeli olan ancak kadınların dijital becerilerinin düşük olduğu Batılı ülkeler var. Batılı ülkelerde kadınlar neden bilişim sektöründe yoklar? Bu sorunun nedenlerini ve çözüm yollarını tartışmadan kadınların teknoloji geliştirme süreçlerine katılımını sağlamak zor. Nitekim yapay zekâ alanında çalışan kadınların az olmasından şikayet ediliyorsa bunun nedenini yukarılarda değil, eğitimin ilk basamaklarından başlayarak aramak gerekiyor.

Dijital Becerilerdeki Toplumsal Cinsiyet Eşitsizliği

Raporda, dijital becerilerin günümüzde matematik ve okuma yazma gibi temel bir gereksinim olmaya başladığı; bu becerilerden yoksun olanların teknolojiyi kontrol etmek yerine onun tarafından kontrol edilme ve yerel, ulusal ve küresel topluluklardan izole olma riski ile karşı karşıya oldukları vurgulanıyor; cinsiyet farkının dijital beceriler üzerindeki kalıcılığı ve sorunun ciddiyeti ortaya konuyor.

Mobil telefonlardaki uygulamaların kullanımından geniş veri kümelerini analiz etmek için kod yazmaya kadar geniş bir alanda dijital becerilerdeki cinsiyet farkını görebiliyoruz. Avrupa Komisyonu’nun 2018 yılında yayımlanan bir çalışması, 2011’den itibaren iş olanaklarının artmasına rağmen kadınların bilişim teknolojileri ilgili çalışmalara katılımının düştüğünü gösteriyor. Son on yılda Birleşik Krallık’ta programlama ve yazılım geliştirme işlerinde çalışan kadınların oranı %15’ten %12’ye düşmüş. ABD’de bilgisayar ve enformasyon biliminde uzmanlaşan kadınların oranı son 30 yılda %37’den %18’e düşmüş. Benzer düşüşlere Latin Amerika, Avustralya, Kore Cumhuriyeti gibi birçok ülkede de rastlanıyor.

Geçmiş yıllarda kadınların erkeklere göre satın alma gücünün ve mali bağımsızlığının sınırlı olması nedeniyle cihaz ve bağlantı ücretlerinin düşmesinin dijital teknolojilerdeki cinsiyet eşitsizliğini azaltacağı düşünülürdü. Fakat çeşitli ülkelerde yapılan araştırmalar dijital becerilerin eksikliğinin ekonomik engellerin önüne geçtiğini gösteriyor. Dijital becerilerdeki eksikliğin internet kullanımının önünde bir engel olmasından kadınlar daha çok etkileniyorlar. Kadınlar, bilişim teknolojilerine erişim ve onları kullanma için bir neden görmediklerini söylüyorlar. Fakat teknolojiyi bir ihtiyaç olarak algılama, onu kullanabilme becerileriyle yakından ilişkili. Raporda da belirtildiği gibi bir teknolojiyi kullanmak için yeterli beceriye sahip olunmadığında onun yararlarını küçümseme yönünde bir eğilim doğuyor.

25 ülkede gerçekleştirilen bir araştırmaya göre genç erkeklerin mobil telefonları oyundan finansal hizmetlere kadar çeşitli amaçlar için kullandıkları görülüyor. Genç kızlar ise daha çok telefonun arama ve hesap makinesi gibi temel işlevleri ile ilgililer. Kadınların %97’sinin internet kullanmasına rağmen sadece %48’i sosyal ağını genişletiyor ve sadece %21’i sağlık, yasal haklar ve ulaşımla ilgili aramalar yapıyor. İnterneti iş bulma amaçlı kullanma oranları erkeklere göre daha az. Dijital becerilerde daha üst basamaklara çıktığımızda da kadınların içerik üretme veya son teknolojileri kullanma oranlarının daha düşük olduğunu görüyoruz. 29 ülkede üniversite öğrencileri arasında yapılan bir araştırmaya göre yeni teknolojilerin ilk uygulayıcıları çoğunlukla erkekler. Kadınların bilişsel becerilerde geri kalması daha üst seviyeleri de etkiliyor. Teknolojik yeniliklerin geliştirilmesinde kadınlar oranı çok düşük. Örneğin, Google’daki teknik pozisyonların %21’inde kadınlar var. Makine zekasında bu oran %10’a düşüyor. 2017’de en üst düzey yapay zekâ konferanslarının katılımcılarının sadece %12’si kadınmış. Kadınların teknoloji geliştirme süreçlerindeki eksikliği kaçınılmaz olarak ortaya çıkan ürünlere de yansıyor.

Kadınlar neden bilişim teknolojilerinden uzak duruyorlar?

Ülke ve topluluk düzeyinde yapılan etnografik araştırmalara göre ataerkil kültür sıklıkla kadınların ve genç kızların dijital becerilerini geliştirmelerini engelliyor. Teknolojinin bir erkek alanı olarak anlaşılması genç kızların dijital becerilerine duydukları güveni olumsuz etkiliyor. OECD ülkelerinde yapılan bir araştırmaya göre 15 yaşındaki erkeklerin %5’i, genç kızların ise %0.5’i bilişim teknolojileri ile ilgili bir kariyer düşünüyor. Önceki bölümde de aktardığım gibi geçmiş yıllarla karşılaştırıldığında kadınların BT ile ilgili işlerden uzaklaştığı olgusuyla karşı karşıyayız. Hatta İkinci Dünya Savaşı sonrasında sanayileşmiş ülkelerde programcılık daha çok bir kadın işi olarak görülmekteydi. Titiz ve talimatları adım adım izlemede iyi oldukları için kadınların programcılığa uygun oldukları düşünülüyordu.

Ne değişti de kadınlar programlama alanından çekildiler? Raporda, kişisel bilgisayarların evlere girmesiyle yaşanan gelişmelere işaret ediliyor. Kişisel bilgisayarlar öncesinde programcılığa kadınlar ve erkekler daha eşit şartlarda başlayabiliyorlardı. Ama kişisel bilgisayarların erkek çocukların odalarına konulmasıyla eşitlik kadınlar aleyhine bozuldu. ABD’de 1990’larda yapılan bir araştırmaya göre odasına bilgisayar konulan erkek çocukların sayısı kızların iki katıydı. Babalar erkek çocuklarının bilgisayar becerilerini geliştirmelerini daha çok teşvik ediyordu. Böylece rekabetin giderek kızıştığı bir sektörde kadınlar deneyim eksikliği nedeniyle yarışa daha dezavantajlı başlıyorlardı.

Bu süreçte oluşan teknoloji klişeleri, kızların özgüvenlerini de olumsuz etkiledi. 21 ülkede yapılan bir araştırmaya göre ilköğretim ve ortaöğretimin ilk yıllarında bilgisayar ve enformasyon okuryazarlığında kız öğrenciler, erkeklerden daha iyiler (Türkiye ve Taylan’da belirgin bir fark yok). Buna karşın kız öğrenciler kendilerini daha yetersiz görüyorlar. Daha sonraki yıllarda kızların teknolojiyle ilgili derslere ilgisi önce yavaşça, daha sonra hızla düşüyor. Üniversiteye gelindiğinde bilişim teknolojileri ile ilgili bir bölüm okuyan çok az sayıda kız kalıyor. Dünyada, bilişim teknolojileri ile ilgili bir dalda eğitim alan kadınlar, kayıtlı öğrencilerin üçte birinden azını oluşturuyor. İş hayatında ise kadınlar, dijital sektördeki işgücünün %24’ünü oluşturuyorlar. ITU verilerine göre mobil uygulama ve yazılım geliştirenlerin sadece %6’sı kadın.

Genel olarak toplumdaki eşitsizliğin azalmasının eğitim ve çalışma hayatına da yansıyacağı beklenir. Fakat beklentinin aksine Finlandiya, İzlanda, Norveç ve İsveç gibi en yüksek düzeyde cinsiyet eşitliği olan ülkelerde teknoloji alanına girmeyi tercih eden çok az kadın var. Bu nedenle, genel politikalarla yetinilmemesi, bilişim teknolojileri özelinde politikaların da üretilmesi gerekiyor.

Raporda, dijital teknolojilerdeki eşitsizliği gidermek için önerilen bazı politikalar şunlar:

  • Müdahaleler örgün eğitim ortamlarıyla sınırlı olmamalı, kadınların ve genç kızların çeşitli ortamlarda (ev, okul, mahalle, işyeri vb) beceri kazanmalarını sağlayacak bir yaklaşım benimsenmelidir.
  • Lisans ve lisansüstü seviyelerde BT alanlarında uzmanlaşmayı seçen kadınlar teşvik edilmelidir.
  • Bilişim teknolojileri, örgün eğitim içine gömülmelidir. Genel olarak, tüm ders ve eğitim seviyelerinde BT becerilerini, bilgisayar bilimlerini ve bilgisayımsal düşünceyi müfredata dahil eden bir eğitim politikası izlenmelidir.
  • BT’yi gündelik hayatta anlamlandıran eğitim dışı etkinliklerle kadınların motivasyonları artırılmalıdır.
  • Uzaktan eğitim olanakları ancak dijital becerileri belirli bir düzeyde olan kadınlara yardımcı olacaktır. Yetişkin kadınlar için, enformel öğrenme, dijital beceriler geliştirmek için kullanılabilecek tek yol olabilir. Bu nedenle, kadınların güven için bir araya gelebileceği mekanlar oluşturulmalıdır.
  • Eğitimciler, eşitsizlik sorunları hakkında eğitilmelidir.
  • Kız çocuklarının dijital sektöre giden çeşitli yolları görmelerine ve kendilerini teknoloji mesleklerinde hayal etmelerine yardımcı olacak rol modelleri tanıtılmalıdır.
  • Kadınları dışlayıcı uygulamalardan ve dilden kaçınılmalıdır. Örneğin BT iş ilanlarında eril dil (rekabetçi, liderlik, aktif, kendinden emin vb) çok yaygındır.

***

Harvard Üniversitesi’nden Yochai Benkler’in Nature’da yayımlanan yazısında (https://www.nature.com/articles/d41586-019-01413-1) savunduğu gibi şirketlerin yapay zekânın kurallarını yazmasına izin vermemek gerekiyor. Şirketler etik kurullar kuruyor, bu doğrultuda yapılan araştırmalara sponsor oluyorlar. Benkler, algoritmik bir kara kutunun içinde toplumsal yanlılıkların görünmez ve anlaşılmaz hale gelebildiklerini; yalnızca kar elde etmek için tasarlandıklarında algoritmaların halkın çıkarlarından ayrılacağını yazıyor.

UNESCO’nun dijital becerilerdeki toplumsal cinsiyet eşitsizliğini tartıştığı raporu bu nedenle de önemli. Sorunun görünür kılınması, ardından gelen kamuoyu tepkisi, şirketleri ürünlerini gözden geçirmeye ve bazı değişiklikler yapmaya zorluyor. Fakat şirketlerin uygulamalarını veya algoritmalarını değiştirmesi bir düzeye kadar yardımcı oluyor. Çünkü sorunun temelinde bu teknolojilerin bir şirketin çizdiği çerçeve içinde, erkeklerin ağırlıkta olduğu, kültürel olarak homojen ekipler tarafından geliştirilmesi yatıyor. Ekiplerde cinsiyet eşitliği ve kültürel çeşitlilik sağlanmadan bu tip sorunlar kaçınılmaz.

20 Ekim 2019

Posted In: akıllı asistanlar, algoritmik taraflılık, algoritmik toplum, bias, Bilgisayar Bilimi, cinsiyetçilik, dijital asistanlar, Özgür yazılım, toplumsal cinsiyet eşitsizliği, Yapay Zeka

How to reset Bash`s Cache

Today I learned Bash has a cache for recent running command. When I’ve run iPython previously in a shell session, that command was cached. Thats why even I run in virtualenv it still run my local machine’s ipython. hash command save my life. hash command in Linux system is the built-in command of bash which is used to maintain a hash table of recently executed programs. It remembers and shows the program locations. It will give the full pathname of each command name.

From your bash shell, run: 

hash -r

This command will reset bash’s cache. it refered to the version of iPython that I installed in my virtual environment.

9 Ekim 2019

Posted In: bash, cache, cache reset, hash, virtual environments, virtualenv

WP Twitter Auto Publish Powered By : XYZScripts.com