El Gobierno de EE.UU. tiene previsto apostar por la inteligencia artificial. Pero le falta un plan, dice un organismo de control gubernamental.
La falta de una norma de ámbito gubernamental sobre las compras de inteligencia artificial podría socavar la seguridad estadounidense, según la Oficina de Rendición de Cuentas del Gobierno (GAO) en una esperada revisión de los usos actuales y previstos de la inteligencia artificial por parte de casi dos docenas de agencias. La GAO es el principal organismo de control de la rendición de cuentas del Gobierno.
El informe de 96 páginas publicado el martes supone el esfuerzo más exhaustivo del gobierno de EE.UU. para catalogar las más de 200 formas en que los organismos no militares ya utilizan la inteligencia artificial o el aprendizaje automático, y las más de 500 aplicaciones previstas para la IA.
Esta iniciativa se produce en un momento en el que los desarrolladores de IA han lanzado modelos cada vez más sofisticados y los responsables políticos se afanan por elaborar normativas para la industria de la IA en los casos de uso más delicados. Los gobiernos de todo el mundo han destacado las ventajas de la IA, como su potencial para encontrar curas de enfermedades o mejorar la productividad. Pero también se han preocupado por sus riesgos, como el peligro de desplazar a trabajadores, difundir información electoral errónea o perjudicar a poblaciones vulnerables mediante sesgos algorítmicos. Los expertos han advertido de que la IA podría incluso suponer nuevas amenazas para la seguridad nacional, al ofrecer a los malintencionados nuevas formas de desarrollar ciberataques o armas biológicas.
La amplia encuesta de la GAO buscaba respuestas de 23 organismos, desde los Departamentos de Justicia y Seguridad Nacional hasta la Administración de la Seguridad Social y la Comisión Reguladora Nuclear. Según el informe, el gobierno federal ya utiliza la IA de 228 formas distintas, y casi la mitad de esos usos se han puesto en marcha en el último año, lo que refleja la rápida adopción de la IA en el gobierno estadounidense.
La inmensa mayoría de los usos actuales y previstos de la IA que la GAO señala en su informe, casi siete de cada diez, están relacionados con la ciencia o tienen por objeto mejorar la gestión interna de los organismos. La Administración Nacional de Aeronáutica y del Espacio (NASA), por ejemplo, declaró a la GAO que utiliza la inteligencia artificial para vigilar la actividad volcánica en todo el mundo, mientras que el Departamento de Comercio afirmó que emplea la IA para hacer un seguimiento de los incendios forestales y para contar automáticamente las aves marinas y las focas o morsas que aparecen en las fotos de los drones.
Más cerca de nosotros, el Departamento de Seguridad Nacional afirma que utiliza la IA para "identificar actividades fronterizas de interés" aplicando tecnologías de aprendizaje automático a los datos de cámaras y radares, según el informe de la GAO.
Agencias que adoptan la IA
El informe también destaca los cientos de formas en que las agencias federales utilizan la IA en secreto. Las agencias federales estaban dispuestas a revelar públicamente alrededor del 70% del total de 1.241 casos de uso de IA activos y previstos, según el informe, pero se negaron a identificar más de 350 aplicaciones de la tecnología porque se "consideraban sensibles".
Algunos organismos se mostraron extraordinariamente herméticos sobre su uso de la IA: el Departamento de Estado enumeró 71 casos diferentes de uso de la tecnología, pero dijo a la GAO que sólo podía identificar públicamente 10 de ellos.
Aunque algunas agencias informaron de relativamente pocos usos de la IA, ese puñado de aplicaciones ha atraído la mayor parte del escrutinio por parte de los organismos de control del gobierno, grupos de libertades civiles y expertos en IA que advierten de resultados potencialmente perjudiciales de la IA.
Por ejemplo, los Departamentos de Justicia y Seguridad Nacional informaron de un total de 25 casos de uso actuales o previstos para la IA en el informe del martes de la GAO, una pequeña fracción de los 390 de la NASA o los 285 del Departamento de Comercio. Pero ese pequeño número oculta lo delicados que pueden ser los casos de uso del DOJ y el DHS.
Ya en septiembre, la GAO advirtió que las agencias federales de aplicación de la ley han realizado miles de búsquedas de reconocimiento facial impulsadas por IA -que ascienden al 95% de tales búsquedas en seis agencias estadounidenses de 2019 a 2022- sin tener requisitos de capacitación adecuados para los funcionarios que realizan las búsquedas, lo que destaca el potencial de uso indebido de la IA. Los expertos en privacidad y seguridad han advertido sistemáticamente de que confiar demasiado en la IA en el ámbito policial puede dar lugar a casos de error de identidad y detenciones erróneas, o de discriminación contra las minorías.
(El informe de septiembre de la GAO sobre el reconocimiento facial coincidió con un informe del inspector general del DHS en el que se concluía que varias agencias, entre ellas la Patrulla de Aduanas y Fronteras, el Servicio Secreto de EE.UU. y el Servicio de Inmigración y Control de Aduanas, probablemente infringieron la ley cuando compraron historiales de geolocalización de estadounidenses a intermediarios de datos comerciales sin realizar las evaluaciones de impacto sobre la privacidad exigidas).
Aunque los funcionarios recurren cada vez más a la IA y al análisis automatizado de datos para resolver problemas importantes, la Oficina de Gestión y Presupuesto, que es responsable de armonizar el enfoque de las agencias federales en una serie de cuestiones, incluida la adquisición de IA, aún no ha finalizado un proyecto de memorando que describa cómo las agencias deben adquirir y utilizar adecuadamente la IA.
"La falta de directrices ha contribuido a que los organismos no apliquen plenamente las prácticas fundamentales en la gestión de la IA", escribió la GAO. Y añadía: "Hasta que la OMB no publique las orientaciones necesarias, es probable que los organismos federales desarrollen políticas incoherentes sobre su uso de la IA, que no se ajustarán a las prácticas fundamentales ni serán beneficiosas para el bienestar y la seguridad del público estadounidense."
Según una ley federal de 2020 que aborda la IA en el gobierno, la OMB debería haber emitido un borrador de directrices para las agencias en septiembre de 2021, pero no cumplió el plazo y solo emitió su borrador de memorando dos años después, en noviembre de 2023, según el informe.
La OMB dijo que estaba de acuerdo con la recomendación del organismo de control de publicar directrices sobre IA y afirmó que el borrador de directrices que publicó en noviembre era una respuesta a la orden ejecutiva de octubre del presidente Joe Biden relativa a la seguridad de la IA.
El planteamiento de Biden sobre la IA
Entre sus disposiciones, la reciente orden ejecutiva de Biden sobre IA exige a los desarrolladores de "los sistemas de IA más potentes" que compartan los resultados de las pruebas de sus modelos con el gobierno, según un resumen de la directiva publicado por la Casa Blanca. Este año, varias de las principales empresas de IA también prometieron al gobierno de Biden que solicitarían pruebas externas de sus modelos de IA antes de hacerlos públicos.
La orden ejecutiva de Biden se suma al creciente conjunto de requisitos para las agencias federales en lo que respecta a las políticas de IA, por ejemplo, encargando al Departamento de Energía que evalúe el potencial de la IA para exacerbar las amenazas que implican las armas químicas, biológicas, radiológicas o nucleares.
El informe de la GAO del martes identificó una lista completa de requisitos relacionados con la IA que el Congreso o la Casa Blanca han impuesto a las agencias federales desde 2019 y calificó su desempeño. Además de culpar a la OMB por no presentar un plan para todo el gobierno para las compras de IA, el informe encontró deficiencias con un puñado de enfoques de otras agencias para la IA. En septiembre, por ejemplo, la Oficina de Gestión de Personal aún no había elaborado la previsión necesaria sobre el número de puestos relacionados con la IA que la Administración federal podría necesitar cubrir en los próximos cinco años. Además, según el informe, 10 organismos federales, desde el Departamento del Tesoro hasta el Departamento de Educación, carecían de los planes necesarios para actualizar sus listas de casos de uso de la IA a lo largo del tiempo, lo que podría dificultar la comprensión por parte del público de la forma en que la Administración estadounidense utiliza la IA.
Lea también:
- Telefónica se fija como objetivo lanzar al mercado la telefonía con hologramas
- vzbv: Las empresas de Internet siguen haciendo trampas pese a la prohibición
- Telefónica prevé lanzar al mercado la telefonía con hologramas en 2026
- Apenas mejora el equilibrio ecológico de los sistemas informáticos de la Administración federal
Fuente: edition.cnn.com
