Logo image
Logo image

Algokrasiye Hoş Geldiniz: Algoritmik Önyargının Gücü

4 dakika
Algokrasiye Hoş Geldiniz: Algoritmik Önyargının Gücü
Algoritmik önyargı, insanların verdiğimiz kararların bir kısmı üzerinde sahip olduğu yanlış kontrol duygusunu ifade eder.
Son Güncelleme: 10 Ocak, 2024

Bir iş arayın. Müşteri hizmetlerine şikayette bulunun. Bir kredi veya diğer bankacılık ürünü hakkında bilgi verin. Uçak veya otel bileti rezervasyonu yapın. Sosyal medyanıza girdiğinizde gördüğünüz haberler, bilgiler, reklamlar… Algoritmalar, sonsuz günlük işlerin arkasında ve hayal ettiğimizden daha fazla sektörde yer alıyor ve algoritmik önyargı olarak bilinen bir olguya yol açıyor.

Bunlar, biz fark etmeden dünyayı giderek daha fazla yönlendiren sessiz mekanizmalardır. Ve hepsinden çarpıcı olanı, onlara sağladığımız verilerle giderek daha etkili olmayı öğrenmeleridir. Sürekli olarak “kullanıcı” olarak kodlanan insana uyum sağlıyorlar ve çabayı minimuma indirecek şekilde giderek kişiselleşen, hızlı ve tatmin edici bir deneyim sunmaya çalışıyorlar.

Dokunaçları flört uygulamalarına ulaşıyor ve hatta tercihlerimize dayalı olduğu iddia edilen bir dizi çok özel adayı bize sunarak partner seçimimize aracılık bile edebiliyor. Dijital dünyaya yapılan bu girişim, algoritmik önyargının siyasi kararlarımızı bile etkilediğine inanılıyor

Algoritmalar hayatımızı kolaylaştırmaya çalışır ancak gerçekte bizim yerimize karar verirler.

Some figure
Algoritmalar bizi bir bilgi balonunun içinde tutsak edebilir.

Algoritmik önyargı nedir?

Algoritmalar hayatımızı kolaylaştırabilir. Örneğin bir doğa aşığı ve çevre savunucusuysanız, sosyal medyada bu konuyla ilgili giderek daha fazla bilgi bulmanız çok muhtemeldir. Bu mutlaka kötü bir şey değil elbette. Ancak endişeleriniz tamamen sağlıklı olmadığında işler değişir.

Molly Russell’ın korkunç vakasını unutmayalım. Bu genç intiharla ilgili konular arıyordu ve bir zaman geldi ki sosyal ağlarının ona gösterdiği her şey bu temayla ilgili içerikti. Neredeyse farkına bile varmadan, diğer trendlerin ve çeşitli içeriklerin artık içeri girmediği bir bilgi balonunun içinde tutsak kalabiliriz.

Algoritmik önyargı, günlük hayatımıza sızan ve bize neredeyse hiçbir zaman tarafsız olmayan verileri ısrarla sunan rahatsız edici bir kod nedeniyle aldığımız bilgiler ve aldığımız kararlar üzerindeki yanlış kontrol duygumuzu ifade eder. Ancak şunu da unutmayalım ki, neredeyse her zaman gizli çıkarlar vardır.

Siz karar vermiyorsunuz; algoritma sizin yerinize karar veriyor

Yapay zekanın normalleşmesinde giderek daha sık gördüğümüz bir olgu var. Yapay zeka bize sahte bir kontrol ve öz yeterlilik duygusu veriyor. Tezlerimizde, akademik çalışmalarımızda, bitmek bilmeyen günlük işlerimizde bize yardımcı olacak ChatGPT kullanımı normalleştiğinde bu duygu çok daha artacaktır.

Kendimizi daha verimli hissedeceğiz ama gerçekte bizi ilgilendiren görevleri yerine getirecek olan o chatbot olacak. Bu her zaman olumsuz değildir ancak yukarıda bahsedilen algoritmik önyargıyı artırır. Yani öyle olmadığı halde hiçbir müdahale olmadan karar verip hareket ettiğimiz algısı.

Algoritmalar adil değil

Cathy O’Neil, Weapons of Mathematical Destruction (2016) adlı çok popüler bir kitap yazan bir matematikçidir. Bu yazıda algoritmaları “kitle imha silahları” olarak tanımladı. Yeni başlayanlar için, bu hesaplamalı değerler ahlaki ve kültürel önyargılardan muaf değil, bunların ardındaki çıkarlardan bahsetmeye bile gerek yok.

Kitapta, bir öğretmenin algoritma tarafından olumsuz değerlendirilmesi sonucu işten atılan bir öğretmenin durumunu anlatıyor. Bu değerlendirmede kişisel mesajlardan, tıbbi raporlardan ve daha fazlasından elde edilen veriler analiz edildi. Aynı şey ipotek veya yardım tahsisi değerlendirilirken de olur. Örneğin belirli etnik gruplar her zaman dezavantajlı durumda olacaktır.

Ancak çoğu şirket ve kuruluş bu hızlı analizleri doğrulamaktadır. Algoritma önyargısı, onları, bir algoritmanın analiz ettiği şeyin adil olmasa bile her zaman geçerli olacağı sonucuna varmaya yönlendiriyor ve çoğu zaman bu veriler kişisel olarak derlenmiyor bile.

Sohbet robotları ve algoritmalar içeren teknoloji kalıcı olacak ve görevlerimizin ve kararlarımızın büyük bir bölümünü etkileyecek.

Algokrasi: Politikanın hizmetinde algoritmalar

Politikacıların halkın gerçek sorunlarından bazen uzak olabileceği düşünülür. Bir diğer eleştiri ise danışmanlara aşırı harcama yapmaları hatta karar alırken hata yapabilme olasılıklarıdır.

Geçtiğimiz günlerde Deloitte danışmanlık firmasının yayınladığı bir araştırma bize çok çarpıcı bir şeyi anlattı. Algoritmaların ve yapay zekanın bazı görevlerin önemli bir kısmını üstleneceği bir gelecek olabilir. Büyük teknoloji şirketlerinin hakkımızda topladığı verileri cep telefonlarımızla kolayca analiz edebiliyorlar. Bu şekilde daha uygun sosyal tepkiler verme ihtiyaçlarımızı bilecekler.

Aynı şekilde yapay zeka da herhangi bir yönetimin sahtekarlık yapmaması için eğitilebilir. Analitik kapasitesi çok sayıda danışmanın yerini alacak ve kamu kurumlarının sonsuz iş yükünden kurtaracaktır. Çalışmaların yerini alacak algoritmaların gücü olarak anlaşılan algokrasi, bize çok distopik görünebilir, ancak bu gerçek bir olasılık.

Utrecht Üniversitesi, algoritmaların devlet kurumlarının tüm bürokratik yönlerinin yerini almasına izin vermenin faydalı olabileceğini gösteren bir çalışma yürüttü. Nedeni? Vatandaşlar, bir makinenin yürütebileceği çalışmaya daha fazla güvenme eğilimindedir (başka bir bariz önyargı).

Some figure
Algoritmaları programlayan büyük şirketler, hedefleri ve mekanizmaları konusunda şeffaf olmayabilir.

Çözüm

Algoritmik önyargı kalıcı olmaya devam ediyor ve giderek güçleniyor. Yaptığımız alışverişlerin, sosyal ağlarda dikkat ettiğimiz kişilerin ya da doğru olduğunu düşündüğümüz fikirlerin çoğunun irademizin ürünü olduğunu düşünmeye devam edeceğiz. Kendimizi özgür zihinlere sahip olarak algılamaya devam edeceğiz, ancak gerçekte sessizce giderek daha fazla koşullandırılmış olacağız.

Bunu özellikle sosyal karşılaştırmaya dayalı dijital bir evrende yaşadıkları için giderek mutsuzlaşan gençlerde görüyoruz. Algoritmaların kendi kendine ortaya çıkan varlıklar olmadığını anlamalıyız. Aksine, arkalarında bunları programlayan büyük şirketler var. Ve bu tür programlamanın her zaman bir amacı vardır.

İnsanların ve yapay zekanın birlikte çalıştığı bir geleceğe doğru gidiyorsak, yapay zekayı eğiten ve programlayanların şeffaf olmasına ve daha etik, adil, ahlaki ve sağlıklı değerlerden yola çıkmasına ihtiyacımız var. Kullanıcıların davranışlarını giderek değiştiren bu mekanizmaları mutlaka düzenlememiz gerekiyor.


Tüm alıntı yapılan kaynaklar, kalitelerini, güvenilirliklerini, güncelliklerini ve geçerliliklerini sağlamak için ekibimiz tarafından derinlemesine incelendi. Bu makalenin bibliyografisi güvenilir ve akademik veya bilimsel doğruluğa sahip olarak kabul edildi.


  • Lorenz, Lukas & Meijer, Albert & Schuppan, Tino. (2020). The Algocracy as a new ideal type for government organizations: Predictive olicing in Berlin as an empirical case. Information Polity. 26. 1-16. 10.3233/IP-200279.
  • Informe Deloitte: How artificial intelligence could transform government: https://www2.deloitte.com/us/en/insights/focus/cognitive-technologies/artificial-intelligence-government-summary.html