Algoritmalar bizi nasıl yönlendiriyor? / Sabah uyandığınızda telefonunuzu elinize alıyorsunuz. Sosyal medya uygulaması tam da ilginizi çekecek bir videoyla açılıyor. Ardından hoşunuza gidecek haberler…
Satın almak isteyebileceğiniz ürünler…
İzlemeniz önerilen videolar…
Dinlemeniz tavsiye edilen şarkılar…
Gitmeniz önerilen restoranlar…
Bir süre sonra şu soruyu sormayı unutuyoruz:
Bunları gerçekten ben mi seçtim?
Yoksa görünmez algoritmalar benim yerime karar vermeye mi başladı?
Yapay zekâ etikçisi Jen Golbeck ile belgesel yönetmeni ve TED Fellow Shalini Kantayya, How Algorithms Manipulate You (and How to Fight Back) başlıklı söyleşilerinde tam da bu soruyu tartışıyorlar. Onlara göre dijital dünyanın en büyük problemi teknoloji değildir. Asıl problem, teknolojinin insan davranışını görünmez biçimde yönlendirebilmesidir.
Bugün artık yalnızca internette gezinmiyoruz; aynı zamanda internette iz bırakıyor, veri üretiyor ve algoritmalar tarafından sürekli analiz ediliyoruz.
Algoritmalar Bizi Tanıyor mu, Yoksa İnşa mı Ediyor?
Algoritmalar bizi nasıl yönlendiriyor? / Çoğumuz algoritmaların yalnızca tercihlerimizi öğrendiğini sanıyoruz. Gerçekte ise algoritmalar sadece bizi tanımakla kalmıyor; zamanla bizi şekillendirmeye de başlıyor.
Bir video izliyorsunuz. Algoritma benzer videolar öneriyor. Bir süre sonra farklı görüşleri görmez oluyorsunuz. Sonunda dünya, sadece sizin inandığınız fikirlerden oluşuyormuş gibi görünmeye başlıyor.
Psikolojide buna doğrulama yanlılığı (confirmation bias) denir.
Algoritmalar bu eğilimi güçlendirdiğinde, düşünce dünyamız daralır. Farklı bakış açıları yerine, sürekli kendi fikirlerimizin yankısını duyarız.
İnternet böylece bilgi denizi olmaktan çıkar; kişisel yankı odasına dönüşebilir.
Ücretsiz Hizmetin Gerçek Bedeli: Sizsiniz
Sosyal medya platformlarının büyük bölümü ücretsizdir. Peki milyarlarca dolarlık şirketler nasıl gelir elde ediyor? Cevap oldukça nettir:
Verilerimizle.
Hangi haberi okuduğumuz… Hangi videoda durduğumuz… Neye güldüğümüz… Nerede bulunduğumuz… Kimlerle konuştuğumuz… Ne zaman uyandığımız… Hatta ekranda hangi görüntüye birkaç saniye daha fazla baktığımız…
Bütün bunlar dijital davranış izlerine dönüşür.
Bu veriler yalnızca reklam göstermek için değil, gelecekteki davranışlarımızı tahmin etmek ve etkilemek için de kullanılabilir.
Veri, dijital çağın yeni petrolü olarak görülür; fakat petrol yer altından çıkarılırken veri doğrudan insan hayatından çıkarılmaktadır.
Beynimizin Açıkları Algoritmaların Gücüne Güç Katıyor
Algoritmalar bizi nasıl yönlendiriyor? / bizi kontrol etmiyor; beynimizin doğal eğilimlerinden yararlanıyor. İnsan beyni yeni olana yönelir. Belirsizliği sever. Ödülü beklemeyi sever. Ara sıra gelen ödüller ise bağımlılığı artırır.
Bu nedenle sonsuz kaydırma (infinite scroll), bildirimler ve rastlantısal içerik akışı tesadüf değildir. Davranış psikolojisindeki değişken oranlı pekiştirme ilkesi, sosyal medya tasarımının önemli unsurlarından biridir.
Kumar makinelerinde çalışan sistem ile sosyal medya akışının benzer yönleri bulunduğunu gösteren araştırmalar da bu nedenle dikkat çekmektedir.
Sorun iradesizlik değildir.
Sorun, beynimizin evrimsel olarak bu tür ödül sistemlerine duyarlı olmasıdır.
Mahremiyet Sadece Gizlilik Değildir
Birçok kişi şöyle düşünür: “Benim saklayacak bir şeyim yok.” Oysa mahremiyet yalnızca suç işleyenlerin ihtiyacı değildir. Mahremiyet, insanın özgür düşünebilmesinin temel şartlarından biridir.
Her davranışımızın izlendiğini bildiğimiz bir dünyada;
- farklı fikirleri araştırmaktan,
- hata yapmaktan,
- yeni şeyler denemekten çekinmeye başlayabiliriz.
Özgürlük yalnızca konuşabilmek değil; izlenme baskısı hissetmeden düşünebilmektir.
Yapay Zekâ Hangi Kararları Vermemeli?
Algoritmalar bizi nasıl yönlendiriyor? / Jen Golbeck’in en önemli uyarılarından biri şudur: Her karar yapay zekâya bırakılmamalıdır. Bir algoritma kredi değerlendirmesi yapabilir. İşe alım sürecini filtreleyebilir. Hastalık riskini hesaplayabilir.
Fakat bunları yaparken kullandığı veriler önyargılıysa, sonuçlar da önyargılı olacaktır.
Geçmişte ayrımcılık içeren verilerle eğitilen bir sistem, gelecekte aynı ayrımcılığı “bilimsel karar” gibi yeniden üretebilir.
Bu nedenle yapay zekâ yalnızca teknik değil; etik bir meseledir.
Teknoloji ne yapabiliyor sorusundan önce, teknoloji neyi yapmamalıdır? sorusu sorulmalıdır.
Dijital Vatandaşlık Yeni Bir Okuryazarlık Türüdür
Eskiden okuma yazma bilmeyen insanlar bilgiye ulaşamıyordu. Bugün ise dijital okuryazarlığı olmayan insanlar bilgiye ulaşıyor; fakat bilginin kendilerini nasıl yönlendirdiğini fark edemiyor.
Bu nedenle geleceğin en önemli becerilerinden biri algoritmik farkındalık olacaktır.
Bir haber neden önüme çıktı? Bu video neden önerildi? Bu reklam beni neden hedef aldı?
Bu soruları sorabilen bireyler, dijital dünyanın pasif kullanıcıları değil; bilinçli vatandaşları olacaktır.
Algoritmalara Karşı Nasıl Direnebiliriz?
Tam anlamıyla kaçmak mümkün olmayabilir; ancak etkilerini azaltmak mümkündür.
Bunun için bazı temel alışkanlıklar geliştirilebilir:
-
Kullandığınız uygulamaların gizlilik ayarlarını düzenleyin.
-
Farklı görüşleri bilinçli olarak takip edin.
-
Bildirimleri sınırlayın.
-
Sonsuz kaydırma yerine belirli sürelerle kullanım alışkanlığı oluşturun.
-
Arama motorlarında ve sosyal medyada tek kaynağa bağımlı kalmayın.
-
Dijital diyet uygulayarak ekran dışındaki hayata düzenli zaman ayırın.
En önemlisi de şunu unutmayın: Algoritmalar dikkatinizle beslenir.
Dikkatinizi yöneten, hayatınızı da yönetecektir.
Sonuç
Algoritmalar bizi nasıl yönlendiriyor? / İnsanlık tarihinin hiçbir döneminde davranışlarımız bu kadar ayrıntılı biçimde ölçülmemişti. Hiçbir çağda tercihlerimiz bu kadar hassas biçimde tahmin edilmemişti. Ve hiçbir dönemde görünmez sistemler, kararlarımız üzerinde bu kadar etkili olmamıştı.
Bu yüzden dijital çağın özgürlük mücadelesi yalnızca kişisel verileri koruma mücadelesi değildir. Aynı zamanda dikkatimizi, düşünme biçimimizi ve irademizi koruma mücadelesidir.
Teknoloji hayatımızı kolaylaştırabilir. Yapay zekâ üretkenliğimizi artırabilir. Algoritmalar bilgiye ulaşmamızı hızlandırabilir. Ancak hiçbir algoritma, insanın vicdanının, eleştirel aklının ve özgür iradesinin yerine geçmemelidir.
Çünkü gerçek özgürlük, internete bağlanabilmekten önce, kendi kararlarımızı verebilmektir.
Dijital dünyada en değerli veri yalnızca kişisel bilgilerimiz değildir; en değerli veri, bağımsız düşünebilen insan zihnidir. Onu koruyabildiğimiz ölçüde teknolojiyi yönetebiliriz. Aksi hâlde teknoloji bizi yönetmeye başlar.
Kaynaklar
- Jen Golbeck & Shalini Kantayya. How Algorithms Manipulate You (and How to Fight Back) (TED).
- Shoshana Zuboff. The Age of Surveillance Capitalism. PublicAffairs, 2019.
- Cathy O’Neil. Weapons of Math Destruction. Crown, 2016.
- Daniel Kahneman. Thinking, Fast and Slow. Farrar, Straus and Giroux, 2011.
- Cass R. Sunstein. #Republic: Divided Democracy in the Age of Social Media. Princeton University Press, 2017.
- Richard H. Thaler & Cass R. Sunstein. Nudge. Yale University Press, 2008.
Tavsiye Edilen Makaleler
Algoritmaların Dikkatle Dansı – Dikkatimizi Bizden Daha mı İyi Tanıyorlar?
Yanlış Yönlendirme Sanatı – Dikkatin Ne Kadar Kontrolün Altında?
Dikkat Ekonomisi Hafızanızı Nasıl Ele Geçiriyor?
