Uzmanlar yapay zekada önyargılarla mücadele için daha fazla çeşitlilik çağrısında bulunuyor
Siyah olan Lawrence, "Son 25 yılda birçok yapay zeka projesinde çalıştım, [meslektaşlarımın] en fazla ikisi bana benziyordu" dedi.
Lawrence, yapay zekanın toplumumuzu hızla yeniden şekillendirme vaadini taşıdığını, ancak bu vaatle birlikte, gelişmekte olan teknolojiye kodlanabilecek önyargılarla yüzleşme ve bunları ortadan kaldırma zorluğunun da geldiğini söyledi.
Lawrence, yapay zekanın sistemik ırkçılığa nasıl katkıda bulunduğunu inceleyen "Hidden in White Sight" adlı kitabın yazarıdır.
YZ, üzerine inşa edildiği veriler tarafından bilgilendirilir ve zaman zaman bu veriler ırkçı, cinsiyetçi ve kusurlu olabilir.
Ağustos ayında Detroit'te siyahi bir anne, sekiz aylık hamileyken memurların yüz tanıma teknolojisi aracılığıyla kendisini bir suçla ilişkilendirmesi nedeniyle haksız yere tutuklandığını söyleyerek şehri dava etti. Detroit polis şefi daha sonra "kötü soruşturma çalışmasını" suçladı.
2022 yılında yapılan bir araştırma, yapay zeka tarafından eğitilen bir robotun siyah erkekleri suçlu ya da kadınları ev kadını olarak tanımlama olasılığının daha yüksek olduğunu ortaya koydu. Araştırmacı ekip, bu tür teknolojilerin sürekli kullanımının ırkçılığı ve kadın düşmanlığını körükleyen "kötü huylu stereotipleri güçlendirme" riski taşıdığı sonucuna vardı.
New York'ta yerel sağlık departmanı kısa bir süre önce, sonuçların genellikle beyaz olmayan insanlar için zararlı olduğunu söyledikleri için ırka göre ayarlanan klinik algoritmalara meydan okuyan bir koalisyonu genişletti. New York Şehri Sağlık ve Zihinsel Hijyen Departmanı'ndan yapılan açıklamaya göre, bu algoritmaların beyaz olmayan bir kişinin sağlığını olduğundan fazla tahmin ettiği ve bunun da tedavide gecikmeye neden olabildiği gösterilmiştir.
ChatGPT ve diğer yapay genel zeka (AGI) modellerinin arkasındaki şirket olan OpenAI'nin bir sözcüsü CNN ile paylaştığı bir açıklamada, önyargının sektör genelinde önemli bir sorun olduğunu ve OpenAI'nin kendini "modellerimizdeki önyargı ve diğer riskleri araştırmaya ve azaltmaya" adadığını söyledi.
"Önyargıyı azaltmak ve zararlı çıktıları hafifletmek için modellerimiz üzerinde sürekli olarak yineleme yapıyoruz" diyen şirket, piyasaya sürülen her yeni model için OpenAI'nin bu hedeflere ulaşmak için nasıl çalıştıklarına dair araştırmalar yayınladığını da sözlerine ekledi.
Lawrence, yapay zekanın beyaz olmayan insanların deneyimlerini yansıtmasını sağlamanın en iyi yolunun, sürecin her adımında istihdam edilmelerini ve katılımlarını sağlamak olduğunu söyledi.
Lawrence, "YZ çözümlerini uygulama ve tasarlama sürecine katılan çok fazla Siyah insan ya da veri bilimcisi yok," dedi. "Masada yer almalarını sağlamanın tek yolu onları eğitmektir."
Çeşitliliğin artırılması
Araştırmalar, teknoloji alanlarındaki çeşitlilik ve temsil eksikliğinin üniversiteden çok önce başladığını ortaya koymuştur. Code.org Advocacy Coalition tarafından hazırlanan 2023 raporuna göre, beyaz olmayan öğrenciler genellikle lisede temel bilgisayar bilimleri derslerine daha az erişebilmektedir.
Sırasıyla Asyalı öğrencilerin %89'u ve Beyaz öğrencilerin %82'si bu derslere erişebilirken, Siyah ve Hispanik öğrencilerin %78'i ve Amerikan yerlisi öğrencilerin %67'si aynı ayrıcalığa sahipti.
Harvard Üniversitesi Berkman Klein İnternet ve Toplum Merkezi'nde öğretim görevlisi olan Andres Lombana-Bermudez, "Bu fırsatlar eşit olarak dağıtılmıyor ve bu bir sorun" dedi.
Lombana-Bermudez, erişimdeki bu eşitsizliğin, üniversite düzeyinde bilgisayar bilimleri ve yapay zeka eğitimi alan daha az sayıda beyaz olmayan insana da yol açabileceğini söyledi.
2022 Bilgisayar Araştırma Derneği'nin Taulbee Anketi'ne göre, 2022 yılında Amerika Birleşik Devletleri'nde bilgisayar bilimleri, bilgisayar mühendisliği veya bilişim alanındaki tüm doktoraların üçte ikisinden fazlası, etnik kökeni bulunmayan ABD'de daimi ikamet etmeyen kişilere verildi.
Derecelerin yaklaşık %19'u Beyaz doktora adaylarına ve %10,1'i Asyalı adaylara verilirken, Hispanik mezunlar için bu oran sadece %1,7 ve Siyah mezunlar için %1,6 oldu.
Lawrence, yapay zeka alanının çeşitlendirilmesinin teknolojiyi daha güvenli ve etik hale getirebileceğine inandığını söyledi.
Lawrence, bir gün bu alandaki temsili artırma umuduyla, siyahi çocukları küçük yaşlardan itibaren yapay zeka ve makine öğrenimi konusunda eğitmek için çalışan AI 4 Black Kids adlı kar amacı gütmeyen kuruluşu kurduğunu söyledi.
"Yapay zeka o kadar az tarihsel bakış açısıyla eğitiliyor ki... benim için amaç, bu sürece daha fazla Siyah insanın dahil olması" dedi.
Lawrence, kar amacı gütmeyen kuruluşun 5 ila 19 yaş arasındaki çocuklara mentorluk programlarının yanı sıra burslar ve üniversite danışmanlığı sunduğunu söyledi.
Lombana-Bermudez, yapay zekada önyargılarla mücadelenin sadece ırksal çeşitliliği değil, düşünce çeşitliliğini de artırmayı gerektirdiğini söyledi. Sosyologları, avukatları, siyaset bilimcileri ve diğer beşeri bilimler odaklı akademisyenleri YZ ve etik konusundaki tartışmalara katkıda bulunmaya teşvik ediyor.
Lombana-Bermudez, gelecek nesillerin teknolojiyle birlikte büyüdükleri için önyargı ve erişilemezlik sorunlarının bazılarını hafifletebileceğini umduğunu söyledi.
"Bunun değişeceğini ve gelecekte daha iyi teknolojilere sahip olacağımızı umuyorum" dedi. "Ama bu bir mücadele ve kolay değil. Karmaşık bir durum."
Ayrıca okuyun:
- Saarland ekonomik çöküşle mi karşı karşıya?
- İklim rekorları yılı: aşırılıklar yeni normal
- Dr Gras Stoner Üniversitesi'ni kurdu
- 3 milyar dolarlık Saar Fonu anayasaya aykırı
Kaynak: edition.cnn.com