Yapay Zekânın Vicdanı Var mı? Algoritmaların Ahlakı, Suçları ve Sınırları

Yapay zekânın vicdanı var mı? Bir yapay zekâ, binlerce hukuk kararını inceleyerek sanığın yeniden suç işleme ihtimalini hesaplayabilir. Bir doktorun gözden kaçırdığı hastalığı fark edebilir, dolandırıcılık girişimini saniyeler içinde belirleyebilir. Aynı teknoloji bir annenin sesini taklit ederek çocuğundan para isteyebilir, masum bir insanı hiç söylemediği sözleri söylemiş gibi gösterebilir.

Buradaki temel soru artık yapay zekânın ne yapabildiği değildir. Asıl soru şudur: Neyi yapmaması gerektiğine kim karar verecek? Çünkü bir makine, ahlaki kurallara uygun cevaplar üretebilir; fakat verdiği kararın vicdani ağırlığını hissedemez.

Yapay Zekânın Gerçekten Vicdanı Var mı?

Vicdan yalnızca doğru ile yanlışı ayıran kurallar bütünü değildir. İnsan, verdiği kararın başkasında oluşturduğu acıyı anlayabilir, pişmanlık duyabilir ve davranışının sorumluluğunu üstlenebilir. Yapay zekâ ise üzülmez, utanmaz, merhamet etmez ve vicdan azabı çekmez.

Bir sistemin “Bunu yapmak etik değildir” demesi, onun ahlaki bir bilince sahip olduğunu göstermez. Yapay zekâ, eğitim verilerindeki insan ifadelerini, kendisine konulan güvenlik kurallarını ve muhtemel cevap örüntülerini kullanır. Ahlaki konuşmayı taklit edebilir; fakat ahlakın gerektirdiği içsel sorumluluğu yaşayamaz.

Bu nedenle yapay zekânın “vicdanından” değil, insanlar tarafından belirlenen etik sınırlarından söz edebiliriz.

Yapay Zekâ Suça Nasıl Alet Ediliyor?

Yapay zekâ yeni suç türleri icat etmekten çok, bilinen suçları daha hızlı, ucuz ve inandırıcı hâle getiriyor.

1. Ses ve görüntü taklidi

Dolandırıcılar, bir kişinin kısa ses kayıtlarından yararlanarak onun sesine benzeyen yapay konuşmalar üretebiliyor. Mağdura, çocuğu veya yöneticisi arıyormuş gibi ulaşılarak acil para göndermesi istenebiliyor. FBI, yapay zekâyla üretilmiş ses mesajlarının üst düzey kamu görevlilerini taklit etmek için de kullanıldığı konusunda uyarıda bulundu. (FBI)

2. Daha inandırıcı dolandırıcılık mesajları

Eskiden yazım hatalarından anlaşılabilen sahte mesajlar, yapay zekâ sayesinde düzgün, kişiye özel ve ikna edici biçimde hazırlanabiliyor. Suçlular farklı dillerde mesaj üretebiliyor, mağdurun mesleğine veya ilgilerine göre iletişim kurabiliyor. Europol, üretken yapay zekânın sosyal mühendislik yöntemlerini daha etkili hâle getirdiğini belirtiyor. (Europol)

3. Sahte belge ve kimlik üretimi

Yapay görüntüler; sahte kimlik, özgeçmiş, diploma ve doğrulama belgeleri hazırlamakta kullanılabiliyor. Deepfake teknolojisi, görüntülü kimlik kontrolü yapan sistemleri yanıltma girişimlerini de güçlendirebiliyor.

4. İtibar suikastı ve dezenformasyon

Bir siyasetçi, öğretmen, iş insanı veya sıradan vatandaş hiç söylemediği bir sözle, hiç bulunmadığı bir görüntünün içine yerleştirilebilir. Sahte içerik ortaya çıkarıldığında bile görüntünün bıraktığı ilk izlenim tamamen silinmeyebilir. Böylece yapay zekâ yalnızca bireyleri değil, seçimleri ve toplumsal güveni de hedef alabilir.

5. Çocuk istismarı ve dijital şantaj

Yapay yollarla üretilen mahrem görüntüler, özellikle çocuklar ve gençler üzerinde şantaj aracı olarak kullanılabiliyor. Gerçekte çekilmemiş bir görüntünün sahte olması, mağdurun yaşadığı psikolojik ve toplumsal zararı ortadan kaldırmıyor.

Algoritma Ahlaki Karar Verebilir mi?

Yapay zekânın vicdanı var mı? Bir algoritma, belirlenmiş ölçütlere göre seçenekleri karşılaştırabilir. Ancak ahlaki kararlar her zaman sayılara indirgenemez. Adalet yalnızca çoğunluğa en fazla yararı sağlamak değildir; bazen tek bir insanın hakkını çoğunluğa karşı korumaktır.

Yapay zekânın ahlaki kararlarındaki temel sınırlar şunlardır:

Eğitildiği veriler toplumdaki ayrımcılığı ve önyargıları taşıyabilir.
Aynı davranışın anlamı kültüre, niyete ve şartlara göre değişebilir.
Algoritma kararının nedenini her zaman açık biçimde gösteremeyebilir.
Merhamet, fedakârlık ve insan onuru matematiksel puanlara kolayca çevrilemez.
Sistem hata yaptığında sorumluluğun kime ait olduğu belirsizleşebilir.

Örneğin işe alım algoritması geçmişte daha çok erkeklerin seçildiği verilerle eğitilmişse erkek adayları daha uygun görebilir. Sistem bunu bilinçli bir cinsiyetçilikle yapmaz; fakat ortaya çıkan sonuç yine de ayrımcı olabilir. Niyetinin bulunmaması, verdiği zararı ortadan kaldırmaz.

Yapay Zekâ İnsan Kararlarının Vicdanı Olabilir mi?

Yapay zekânın vicdanı var mı? Yapay zekâ vicdan olamaz; fakat insan vicdanını uyaran bir yardımcı olabilir. Bir kararın kimlere zarar verebileceğini gösterebilir, gözden kaçan ayrımcılık ihtimallerini işaretleyebilir, alternatif sonuçlar üretebilir ve karar verene unuttuğu soruları hatırlatabilir.

Ancak son karar bütünüyle makineye bırakıldığında tehlikeli bir “sorumluluk boşluğu” oluşur. Doktor “Sistem böyle önerdi”, hâkim “Algoritma yüksek risk verdi”, yönetici ise “Adayı bilgisayar elemiş” diyerek kendi sorumluluğundan kaçamaz.

UNESCO, yapay zekânın insanın nihai sorumluluğunu ve hesap verebilirliğini ortadan kaldırmaması gerektiğini özellikle vurgulamaktadır. Avrupa Birliği Yapay Zekâ Yasası da insan hakları ve güvenlik açısından kabul edilemez risk taşıyan bazı uygulamaları yasaklamakta; yüksek riskli sistemler için insan denetimi öngörmektedir. (UNESCO, Avrupa Birliği)

Sonuç: Vicdan Makineye Devredilemez

Yapay zekânın vicdanı var mı? Yapay zekâ kullanan her kurum, önemli bir karar öncesinde şu soruları sormalıdır: Sistem hangi verilerle eğitildi? Kimleri yanlış değerlendirebilir? Karara itiraz edilebiliyor mu? Sonuç açıklanabiliyor mu? Hata meydana geldiğinde sorumluluğu kim üstlenecek?

Bireyler de sesli veya görüntülü bir yardım talebi aldıklarında tanıdıkları kişiyi başka bir kanaldan arayarak doğrulamalı, aile içinde bir güvenlik kelimesi belirlemeli ve aciliyet duygusuyla para göndermemelidir. Yapay içeriklerin çoğaldığı bir dünyada yalnızca “Gördüğüme inanırım” anlayışı yeterli değildir.

Yapay zekâya ahlak kuralları öğretilebilir, zararlı davranışları sınırlanabilir ve insan haklarını gözeten sistemler geliştirilebilir. Fakat vicdan; kodlanan bir komut değil, özgür irade, empati ve sorumlulukla oluşan insanî bir yetidir. Bu nedenle geleceğin temel ilkesi açık olmalıdır: Yapay zekâ karar süreçlerine yardım edebilir; fakat insan, kararının ahlaki sorumluluğunu hiçbir zaman makineye devredemez.