Experții cer mai multă diversitate pentru a combate prejudecățile în inteligența artificială
"Am lucrat la multe proiecte de inteligență artificială în ultimii 25 de ani, nu mai mult de doi [dintre colegii mei] semănau cu mine", a declarat Lawrence, care este de culoare.
Inteligența artificială are promisiunea de a ne remodela rapid societatea, dar odată cu această promisiune, a spus Lawrence, vine și provocarea de a înfrunta și demonta prejudecățile care pot fi codificate în tehnologia emergentă.
Lawrence este autorul cărții "Hidden in White Sight", care examinează modul în care IA contribuie la rasismul sistemic.
Inteligența artificială este informată de datele pe care este construită și, uneori, aceste date pot fi rasiste, sexiste și defectuoase.
În august, o mamă de culoare din Detroit a dat în judecată orașul după ce a declarat că a fost arestată pe nedrept în timp ce era însărcinată în opt luni, deoarece ofițerii au asociat-o cu o infracțiune prin intermediul tehnologiei de recunoaștere facială. Ulterior, șeful poliției din Detroit a dat vina pe "munca de investigație slabă".
Un studiu din 2022 a constatat că un robot antrenat de inteligența artificială era mai predispus să asocieze bărbații de culoare cu faptul că sunt infractori, sau femeile cu faptul că sunt casnice. Echipa de cercetători a concluzionat că utilizarea în continuare a unei astfel de tehnologii risca să "amplifice stereotipurile maligne" care alimentează rasismul și misoginismul.
În New York, departamentul local de sănătate a extins recent o coaliție care contestă algoritmii clinici care se ajustează în funcție de rasă, deoarece spun că rezultatele sunt adesea dăunătoare pentru persoanele de culoare. S-a demonstrat că acești algoritmi supraestimează starea de sănătate a unei persoane de culoare, potrivit unei declarații a Departamentului de Sănătate și Igienă Mintală din New York, ceea ce poate cauza o întârziere a tratamentului.
Într-o declarație împărtășită cu CNN, un purtător de cuvânt al OpenAI, compania din spatele ChatGPT și a altor modele de inteligență generală artificială (AGI), a declarat că prejudecata este o problemă semnificativă în întreaga industrie și că OpenAI este dedicată "cercetării și reducerii prejudecăților, precum și a altor riscuri, în modelele noastre".
"Ne perfecționăm continuu modelele pentru a reduce părtinirea și pentru a atenua ieșirile dăunătoare", a declarat compania într-o declarație, adăugând că, pentru fiecare nou model lansat, OpenAI publică cercetări privind modul în care lucrează pentru a atinge aceste obiective.
Cel mai bun mod de a ne asigura că IA reflectă experiențele persoanelor de culoare, a spus Lawrence, este să ne asigurăm că acestea sunt angajate și implicate în fiecare etapă a procesului.
"Cu siguranță nu aveți mulți oameni de culoare sau oameni de știință de date care să participe la procesul de implementare și proiectare a soluțiilor de inteligență artificială", a spus el. "Singurul mod în care îi puteți face să aibă locuri la masă, trebuie să îi educați".
Creșterea diversității
Studiile au constatat că lipsa de diversitate și de reprezentare în domeniile tehnologice începe cu mult înainte de facultate. Elevii de culoare au, în general, mai puțin acces la cursuri fundamentale de informatică în liceu, a constatat un raport 2023 al Code.org Advocacy Coalition.
În timp ce 89% dintre elevii asiatici și, respectiv, 82% dintre elevii albi au avut acces la aceste cursuri, 78% dintre elevii de culoare și hispanici și 67% dintre elevii nativi americani au avut același privilegiu.
"Aceste oportunități nu sunt distribuite în mod egal, iar aceasta este o problemă", a declarat Andres Lombana-Bermudez, cadru didactic asociat la Berkman Klein Center for Internet and Society de la Universitatea Harvard.
Această disparitate în ceea ce privește accesul poate duce, de asemenea, la mai puține persoane de culoare care studiază informatica și inteligența artificială la nivel universitar, a spus Lombana-Bermudez.
În 2022, mai mult de două treimi din toate doctoratele în informatică, inginerie informatică sau informatică din Statele Unite au fost acordate unor rezidenți nepermanenți din SUA pentru care nu există o etnie disponibilă, potrivit sondajului Taulbee Survey al Asociației de Cercetare în Informatică din 2022.
Aproape 19% din diplome au fost acordate candidaților la doctorat albi și 10,1% candidaților asiatici, în comparație cu doar 1,7% pentru absolvenții hispanici și 1,6% pentru absolvenții de culoare.
Lawrence a declarat că, în opinia sa, diversificarea domeniului inteligenței artificiale ar putea face ca tehnologia să fie mai sigură și mai etică.
Lawrence a spus că a înființat organizația non-profit AI 4 Black Kids, care se ocupă de educarea copiilor de culoare despre inteligența artificială și învățarea automată de la o vârstă fragedă, în speranța de a crește într-o zi reprezentarea în acest domeniu.
"IA este antrenată pe atât de puține puncte de vedere istorice... scopul pentru mine este ca mai mulți oameni de culoare să fie implicați în acest proces", a spus el.
Organizația non-profit oferă programe de mentorat pentru copii cu vârste cuprinse între 5 și 19 ani, precum și burse și consiliere pentru facultate, a spus Lawrence.
Combaterea prejudecăților în IA necesită nu doar creșterea diversității rasiale, ci și a diversității de gândire, a spus Lombana-Bermudez. El încurajează angajarea sociologilor, avocaților, politologilor și a altor tipuri de cadre universitare orientate spre științele umaniste pentru a contribui la conversația despre IA și etică.
Lombana-Bermudez a spus că speranța sa este că generațiile viitoare pot atenua unele dintre problemele de prejudecată și inaccesibilitate, deoarece cresc alături de tehnologie.
"Am speranța că acest lucru se va schimba și că, în viitor, vom avea tehnologii mai bune", a spus el. "Dar este o luptă și nu este ușor. Este complexă".
Citește și:
- Se confruntă Saarlandul cu un colaps economic?
- Dr. Gras a fondat universitatea Stoner
- Fondul Saar de 3 miliarde de euro este neconstituțional
- Arestările precaute arată amenințarea teroristă islamistă
Sursa: edition.cnn.com