Yapay zeka (YZ), gündelik hayatta giderek daha fazla alanda kullanıma girerken dezavantaj ve riskleriyle ilgili tartışmalar da artıyor. Bunlardan biri, kişiler için önem taşıyan kararlarda yapay zekanın ayrımcı kalıplara başvurma tehlikesi. Alman hükümetinin Ayrımcılıkla Mücadele Bağımsız Temsilcisi Ferda Ataman, YZ’nin ayrımcılığa olası katkılarıyla ilgili hazırlattığı bilirkişi raporunun sonuçlarını Berlin’de açıkladı. Raporun sonucunu “Yapay zeka pek çok şeyi kolaylaştırıyor, maalesef ayrımcılığı da” diye özetleyen Ataman, kendi kendine öğrenme özelliğine sahip algoritmik karar alma sistemleri (ADM) yoluyla ortaya çıkabilecek olası dezavantajlara karşı insanları korumayı hedeflediklerini belirtti. İngilizce kısaltması ADM (algorithmic decision making systems) olan algoritmik karar alma sistemleri, verilere dayalı hesaplama yaparak karar veren makine ya da yazılımlar. Ferda Ataman, ADM’lerin tipik kullanım alanları arasında bankacılık, işe alımlar, sigortacılık ve devletin sosyal yardım ödeneklerini sayıyor. 

Kara kutu

Teknolojinin yanlış kullanımının nelere yol açabileceğinin örneği, 2019’da Hollanda’da yaşandı. 20 binden fazla kişiden, devletten aldıkları çocuk yardımı paralarını geri ödemeleri istendi, aksi takdirde yüksek para cezaları ödeyecekleri bildirildi. Bu ihtardan etkilenen kişiler arasında çifte vatandaşlar öne çıkıyordu ve olayda yazılımdaki ayrımcı bir algoritmanın rol oynadığı ortaya çıktı. ABD’de yanlış programlanmış algoritmalar nedeniyle Apple kredi kartı sahipleri arasında kadınlar, kredi başvurularında sistematik olarak dezavantajlı konuma düşmüştü. Avustralya’da da yine yapay zeka destekli sistemdeki hata nedeniyle yüz binlerce kişiden, hakları olan sosyal yardımı geri ödemeleri istenmişti. Hukukçu Indra Spiecker ve Emanuel V. Towfigh’in hazırladığı bilirkişi raporunda YZ tabanlı sistemlerin karakteri “kara kutu” olarak nitelendiriliyor ve algoritmanın aldığı kararlardan etkilenenlerin, karşılaştıkları dezavantajın nereden kaynaklandığını sorgulamasının fiilen imkânsız olduğu kaydediliyor. Raporda, ayrımcılık potansiyelinin sistemin içinde halihazırda var olan, önemsiz gibi görünen, hatalı, gerçek amaca hizmet etmeyen ya da çarpıtılmış bir veriden kaynaklanabildiğine işaret edilerek posta kodu örneği veriliyor. Veri olarak ayrımcı özelliği olmayan bir posta kodu, belirli bir semtte göçmen kökenliler yoğun olarak yaşıyorsa, kökene dayalı ayrımcılığa zemin hazırlayabiliyor.

Haber Merkezi