Ankara'da gündem yapay zeka: Uygulamalar ayrımcılığın önünü açıyor

ABD merkezli Yapay Zeka ve Dijital Politika Merkezi Başkanı Merve Hickok, Türkiye Büyük Millet Meclisi Yapay Zeka Araştırma Komisyonu toplantısında yapay zeka sistemlerinin potansiyel tehlikeleri hakkında önemli uyarılarda bulundu. Hickok, yapay zeka teknolojilerinin hızla hayatımıza entegre olmasına rağmen sistemlerin hala birçok etik ve güvenlik sorunu barındırdığını belirtti.

Yapay zeka sistemlerinin, kadınlar, yaşlılar, engelliler ve etnik azınlıklar gibi gruplara karşı daha ön yargılı ve negatif kararlar verdiğini vurgulayan Hickok, özellikle yüz tanıma sistemlerinin koyu tenli insanlarda büyük hatalar yapma eğiliminde olduğunu ifade etti. Hickok, bu tür hataların güvenlik güçleri tarafından kullanıldığında haksız yere tutuklamalara yol açabileceğini belirtti.

YAPAY ZEKA VE SAĞLIK RİSKİ

Hickok, kontrollü ve güvenli bir şekilde kullanılmayan yapay zeka sistemlerinin sağlık alanında ciddi sorunlara yol açabileceğini de sözlerine ekledi.

Yapay zeka sistemlerinin devletler tarafından kullanımının bazen büyük skandallara yol açabileceğini belirten Hickok, Hollanda örneğini verdi. Hollanda Vergi Kurumu tarafından kullanılan algoritmanın binlerce insanı çoğunlukla göçmenleri yanlışlıkla vergi kaçakçısı olarak işaretlediğini ve bu durumun büyük bir toplumsal krize yol açtığını anlattı. Hickok, “Binlerce insan bu nedenle iflas etti, aileleri parçalandı ve Hollanda Hükümeti istifaya kadar gitti” dedi.

YAPAY ZEKA VE BİLİNÇ

Hickok, üretken yapay zeka sistemlerinin bilinçten yoksun olduğunu söyledi. Özellikle ChatGPT örneği üzerinden yapılan açıklamada yapay zekanın verdiği cevapların arka planda sadece bir sonraki kelimeyi tahmin etme süreciyle oluşturulduğu ancak cevapların insan gibi anlamlı bir şekilde anlaşılmadığına dikkat çekti. Hickok, mevcut yapay zeka teknolojilerinin bilincin ötesinde yalnızca veri işlemeye dayalı olarak çalıştığını belirtti ve yapay zekanın şu anki mimarisiyle bilinç geliştiremeyeceğini düşündüğünü ifade etti.