Guvernul SUA intenționează să se implice total în utilizarea inteligenței artificiale. Dar nu are un plan, spune un organism de supraveghere guvernamental.

Guvernul SUA intenționează să se implice total în utilizarea inteligenței artificiale. Dar nu are un plan, spune un organism de supraveghere guvernamental.

Lipsa unui standard la nivel guvernamental privind achizițiile de inteligență artificială ar putea submina securitatea americană, a scris Government Accountability Office (GAO) într-o analiză mult așteptată a aproape două duzini de utilizări actuale și planificate ale inteligenței artificiale de către aproape două duzini de agenții. GAO este cel mai important organism de control al responsabilității guvernului.

Raportul de 96 de pagini publicat marți marchează cel mai cuprinzător efort depus până acum de guvernul SUA pentru a cataloga cele peste 200 de moduri în care agențiile non-militare folosesc deja inteligența artificială sau învățarea automată și cele peste 500 de aplicații planificate pentru IA aflate în lucru.

Raportul vine în contextul în care dezvoltatorii de inteligență artificială au lansat modele de inteligență artificială din ce în ce mai sofisticate și în timp ce factorii de decizie politică se străduiesc să elaboreze reglementări pentru industria inteligenței artificiale în cele mai sensibile cazuri de utilizare. Guvernele din întreaga lume au subliniat beneficiile AI, cum ar fi potențialul său de a găsi leacuri pentru boli sau de a spori productivitatea. Dar și-au exprimat, de asemenea, îngrijorarea cu privire la riscurile sale, inclusiv pericolul de a deplasa lucrători, de a răspândi dezinformări electorale sau de a afecta populațiile vulnerabile prin prejudecăți algoritmice. Experții au avertizat că inteligența artificială ar putea duce chiar la noi amenințări la adresa securității naționale, oferind actorilor rău intenționați noi modalități de a dezvolta atacuri cibernetice sau arme biologice.

Sondajul amplu al GAO a solicitat răspunsuri de la 23 de agenții, de la departamentele de justiție și de securitate internă la Administrația de securitate socială și Comisia de reglementare nucleară. Potrivit raportului, guvernul federal utilizează deja inteligența artificială în 228 de moduri distincte, aproape jumătate dintre aceste utilizări fiind lansate în ultimul an, ceea ce reflectă adoptarea rapidă a inteligenței artificiale în cadrul guvernului american.

Marea majoritate a utilizărilor guvernamentale actuale și planificate ale inteligenței artificiale identificate de GAO în raportul său, aproape șapte din zece, sunt fie legate de știință, fie menite să îmbunătățească gestionarea internă a agențiilor. Administrația Națională pentru Aeronautică și Spațiu (NASA), de exemplu, a declarat pentru GAO că folosește inteligența artificială pentru a monitoriza activitatea vulcanilor din întreaga lume, în timp ce Departamentul Comerțului a declarat că folosește IA pentru a urmări incendiile de pădure și pentru a număra automat păsările marine și focile sau morsele fotografiate în fotografii realizate cu drona.

Mai aproape de casă, Departamentul pentru Securitate Internă a declarat că folosește inteligența artificială pentru a "identifica activitățile de interes la graniță" prin aplicarea tehnologiilor de învățare automată pe baza datelor obținute de camere și radare, potrivit raportului GAO.

Agențiile care adoptă IA

Raportul evidențiază, de asemenea, sutele de moduri în care agențiile federale folosesc AI în secret. Agențiile federale au fost dispuse să dezvăluie public aproximativ 70% din totalul de 1.241 de cazuri de utilizare a IA active și planificate, se arată în raport, dar au refuzat să identifice peste 350 de aplicații ale tehnologiei, deoarece au fost "considerate sensibile".

Unele agenții au fost extraordinar de rezervate în ceea ce privește utilizarea IA: Departamentul de Stat a enumerat 71 de cazuri diferite de utilizare a tehnologiei, dar a declarat GAO că nu a putut identifica public decât 10 dintre ele.

Deși unele agenții au raportat relativ puține utilizări ale IA, aceste câteva aplicații au atras unele dintre cele mai multe analize din partea organismelor de supraveghere guvernamentală, a grupurilor de protecție a libertăților civile și a experților în IA, care au avertizat cu privire la rezultatele potențial dăunătoare ale IA.

De exemplu, departamentele de justiție și de securitate internă au raportat în total 25 de cazuri de utilizare curentă sau planificată a IA în raportul GAO de marți, o fracțiune infimă din cele 390 de cazuri de utilizare a IA ale NASA sau 285 ale Departamentului Comerțului. Dar acest număr mic ascunde cât de sensibile pot fi cazurile de utilizare ale DOJ și DHS.

Nu mai departe de luna septembrie, GAO a avertizat că agențiile federale de aplicare a legii au efectuat mii de căutări de recunoaștere facială cu ajutorul IA - însumând 95 % din astfel de căutări la șase agenții americane din 2019 până în 2022 - fără a avea cerințe de formare corespunzătoare pentru funcționarii care efectuează căutările, subliniind potențialul de utilizare abuzivă a IA. Experții în materie de confidențialitate și securitate au avertizat în mod obișnuit că o încredere prea mare în AI în cadrul poliției poate duce la cazuri de identitate greșită și arestări eronate, sau la discriminarea minorităților.

(Raportul din septembrie al GAO privind recunoașterea facială a coincis cu un raport al inspectorului general al DHS, care a constatat că mai multe agenții, printre care Customs and Border Patrol, US Secret Service și Immigration and Customs Enforcement, au încălcat probabil legea atunci când funcționarii au cumpărat istoricul de geolocalizare al americanilor de la brokeri de date comerciale fără a efectua evaluările necesare privind impactul asupra vieții private).

În timp ce oficialii apelează din ce în ce mai mult la IA și la analiza automată a datelor pentru a rezolva probleme importante, Biroul de management și buget, care este responsabil de armonizarea abordării agențiilor federale cu privire la o serie de aspecte, inclusiv achiziția de IA, nu a finalizat încă un proiect de memorandum care să sublinieze modul în care agențiile ar trebui să achiziționeze și să utilizeze în mod corespunzător IA.

"Lipsa de îndrumare a contribuit la faptul că agențiile nu au implementat pe deplin practicile fundamentale în gestionarea IA", a scris GAO. Acesta a adăugat: "Până când OMB nu va emite îndrumările necesare, agențiile federale vor dezvolta probabil politici inconsecvente privind utilizarea IA, care nu se vor alinia la practicile cheie și nu vor fi benefice pentru bunăstarea și securitatea publicului american".

Conform unei legi federale din 2020 care se referă la IA în guvern, OMB ar fi trebuit să emită un proiect de orientări către agenții până în septembrie 2021, dar nu a respectat termenul și a emis proiectul de memorandum abia doi ani mai târziu, în noiembrie 2023, potrivit raportului.

OMB a declarat că a fost de acord cu recomandarea organismului de supraveghere de a emite îndrumări privind IA și a precizat că proiectul de îndrumare pe care l-a publicat în noiembrie a fost un răspuns la ordinul executiv al președintelui Joe Biden din octombrie care se ocupă de siguranța IA.

Abordarea lui Biden privind IA

Printre prevederile sale, recentul ordin executiv al lui Biden privind AI cere dezvoltatorilor "celor mai puternice sisteme de AI" să împărtășească rezultatele testelor modelelor lor cu guvernul, potrivit unui rezumat al directivei de la Casa Albă. În acest an, o serie de companii de vârf din domeniul IA au promis, de asemenea, administrației Biden că vor solicita testarea externă a modelelor lor de IA înainte de a le face publice.

Ordinul executiv al lui Biden se adaugă la setul tot mai mare de cerințe pentru agențiile federale atunci când vine vorba de politicile privind IA, însărcinând, de exemplu, Departamentul Energiei să evalueze potențialul ca IA să exacerbeze amenințările care implică arme chimice, biologice, radiologice sau nucleare.

Raportul GAO de marți a identificat o listă cuprinzătoare de cerințe legate de IA pe care Congresul sau Casa Albă le-a impus agențiilor federale începând cu 2019 și a evaluat performanța acestora. Pe lângă faptul că a reproșat OMB că nu a reușit să prezinte un plan la nivel guvernamental pentru achizițiile de IA, raportul a constatat deficiențe în cazul câtorva alte agenții în ceea ce privește abordarea IA. Până în septembrie, de exemplu, Oficiul pentru Managementul Personalului nu a pregătit încă o prognoză necesară a numărului de roluri legate de IA pe care guvernul federal ar putea avea nevoie să le ocupe în următorii cinci ani. De asemenea, potrivit raportului, 10 agenții federale, de la Departamentul Trezoreriei la Departamentul Educației, nu aveau planuri obligatorii pentru actualizarea în timp a listelor de cazuri de utilizare a inteligenței artificiale, ceea ce ar putea împiedica publicul să înțeleagă modul în care guvernul SUA utilizează inteligența artificială.

Citește și:

• Telefónica vizează lansarea pe piață a telefoniei cu holograme
• vzbv: Companiile de internet continuă să trișeze în ciuda interdicției
• Telefónica vizează lansarea pe piață a telefoniei cu holograme în 2026
• Abia dacă s-a îmbunătățit echilibrul ecologic al sistemelor informatice ale guvernului federal

Sursa: edition.cnn.com