"Ümitvar olunuz, şu istikbal inkılâbı içinde en yüksek gür sada İslâm'ın sadası olacaktır."

Piyasalar

Yapay zekada ayrımcılık tehlikesi

02 Eylül 2023, Cumartesi 23:54
Yapay zeka günümüzde fazla alanda kullanıma girerken algoritmaların yanlış değerlendirmelerinin ayrımcılığa yol açıyor. Avrupa ve ABD’de yanlış programlanmış algoritmalar nedeniyle zor durumda kalan binlerce kişiden hakları olan sosyal yardımları geri ödemeleri istendi.

Yapay zeka (YZ), gündelik hayatta giderek daha fazla alanda kullanıma girerken dezavantaj ve riskleriyle ilgili tartışmalar da artıyor. Bunlardan biri, kişiler için önem taşıyan kararlarda yapay zekanın ayrımcı kalıplara başvurma tehlikesi. Alman hükümetinin Ayrımcılıkla Mücadele Bağımsız Temsilcisi Ferda Ataman, YZ’nin ayrımcılığa olası katkılarıyla ilgili hazırlattığı bilirkişi raporunun sonuçlarını Berlin’de açıkladı. Raporun sonucunu “Yapay zeka pek çok şeyi kolaylaştırıyor, maalesef ayrımcılığı da” diye özetleyen Ataman, kendi kendine öğrenme özelliğine sahip algoritmik karar alma sistemleri (ADM) yoluyla ortaya çıkabilecek olası dezavantajlara karşı insanları korumayı hedeflediklerini belirtti. İngilizce kısaltması ADM (algorithmic decision making systems) olan algoritmik karar alma sistemleri, verilere dayalı hesaplama yaparak karar veren makine ya da yazılımlar. Ferda Ataman, ADM’lerin tipik kullanım alanları arasında bankacılık, işe alımlar, sigortacılık ve devletin sosyal yardım ödeneklerini sayıyor. 

Kara kutu

Teknolojinin yanlış kullanımının nelere yol açabileceğinin örneği, 2019’da Hollanda’da yaşandı. 20 binden fazla kişiden, devletten aldıkları çocuk yardımı paralarını geri ödemeleri istendi, aksi takdirde yüksek para cezaları ödeyecekleri bildirildi. Bu ihtardan etkilenen kişiler arasında çifte vatandaşlar öne çıkıyordu ve olayda yazılımdaki ayrımcı bir algoritmanın rol oynadığı ortaya çıktı. ABD’de yanlış programlanmış algoritmalar nedeniyle Apple kredi kartı sahipleri arasında kadınlar, kredi başvurularında sistematik olarak dezavantajlı konuma düşmüştü. Avustralya’da da yine yapay zeka destekli sistemdeki hata nedeniyle yüz binlerce kişiden, hakları olan sosyal yardımı geri ödemeleri istenmişti. Hukukçu Indra Spiecker ve Emanuel V. Towfigh’in hazırladığı bilirkişi raporunda YZ tabanlı sistemlerin karakteri “kara kutu” olarak nitelendiriliyor ve algoritmanın aldığı kararlardan etkilenenlerin, karşılaştıkları dezavantajın nereden kaynaklandığını sorgulamasının fiilen imkânsız olduğu kaydediliyor. Raporda, ayrımcılık potansiyelinin sistemin içinde halihazırda var olan, önemsiz gibi görünen, hatalı, gerçek amaca hizmet etmeyen ya da çarpıtılmış bir veriden kaynaklanabildiğine işaret edilerek posta kodu örneği veriliyor. Veri olarak ayrımcı özelliği olmayan bir posta kodu, belirli bir semtte göçmen kökenliler yoğun olarak yaşıyorsa, kökene dayalı ayrımcılığa zemin hazırlayabiliyor.

Haber Merkezi

Okunma Sayısı: 2052
YASAL UYARI: Sitemizde yayınlanan haber ve yazıların tüm hakları Yeni Asya Gazetesi'ne aittir. Hiçbir haber veya yazının tamamı, kaynak gösterilse dahi özel izin alınmadan kullanılamaz. Ancak alıntılanan haber veya yazının bir bölümü, alıntılanan haber veya yazıya aktif link verilerek kullanılabilir.

Yorumlar

(*)

(*)

(*)

Küfür, hakaret, rencide edici cümleler veya imalar, inançlara saldırı içeren, imla kuralları ile yazılmamış, Türkçe karakter kullanılmayan ve tamamı büyük harflerle yazılmış yorumlar onaylanmamaktadır. İstendiğinde yasal kurumlara verilebilmesi için IP adresiniz kaydedilmektedir.
    (*)

    Namaz Vakitleri

    • İmsak

    • Güneş

    • Öğle

    • İkindi

    • Akşam

    • Yatsı