The U.S. government plans to comprehensively promote the application of artificial intelligence. But government regulators say there is a lack of plans
Ein regierungsweites Fehlen von Standards für die Beschaffung künstlicher Intelligenz könnte die Sicherheit der USA gefährden, schrieb das U.S. Government Accountability Office (GAO) in einem lang erwarteten Bericht über den aktuellen und geplanten Einsatz künstlicher Intelligenz durch fast zwei Dutzend Behörden. Das Government Accountability Office ist die oberste Aufsichtsbehörde der Regierung zur Rechenschaftspflicht.
Der am Dienstag veröffentlichte 96-seitige Bericht stellt die bisher umfassendste Anstrengung der US-Regierung dar und untersucht mehr als 200 Arten, wie nichtmilitärische Behörden bereits künstliche Intelligenz oder maschinelles Lernen nutzen, und über 500 geplante Anwendungen künstlicher Intelligenz sind im Gange. Geheim eingestuft.
Während KI-Entwickler immer komplexere KI-Modelle veröffentlichen, bemühen sich politische Entscheidungsträger darum, Vorschriften für die KI-Branche in den sensibelsten Anwendungsfällen zu schaffen. Regierungen auf der ganzen Welt haben die Vorteile künstlicher Intelligenz hervorgehoben, beispielsweise ihr Potenzial, Heilmittel für Krankheiten zu finden oder die Produktivität zu steigern. Aber sie machen sich auch Sorgen über die Risiken, einschließlich der Gefahren der Verdrängung von Arbeitnehmern, der Verbreitung von Fehlinformationen über Wahlen oder der Schädigung schutzbedürftiger Gruppen durch algorithmische Voreingenommenheit. Experten warnen, dass künstliche Intelligenz böswilligen Akteuren sogar neue Möglichkeiten zur Entwicklung von Cyberangriffen oder biologischen Waffen eröffnen könnte, was neue Bedrohungen für die nationale Sicherheit darstellen könnte.
Im Rahmen der weitreichenden Untersuchung des GAO wurden 23 Behörden um Antworten gebeten, darunter das Justizministerium, das Heimatschutzministerium, die Sozialversicherungsbehörde und die Nuklearregulierungskommission. Die Bundesregierung nutzt KI bereits auf 228 verschiedene Arten, wobei fast die Hälfte dieser Einsätze im vergangenen Jahr begonnen wurde, was die schnelle Einführung von KI in der US-Regierung widerspiegelt, heißt es in dem Bericht.
In seinem Bericht stellte das GAO fest, dass die überwiegende Mehrheit der aktuellen und geplanten KI-Anwendungen in der Regierung – fast sieben von zehn – entweder wissenschaftsbezogen sind oder auf die Verbesserung des internen Behördenmanagements abzielen. Beispielsweise teilte die NASA dem GAO mit, dass sie KI einsetzt, um vulkanische Aktivitäten auf der ganzen Welt zu überwachen, während das Handelsministerium angab, KI zu verwenden, um Waldbrände zu verfolgen und automatisch die Anzahl der Seevögel, hier im Bild, der Robben oder Walrosse zu berechnen. Drohnenfoto.
Näher an der Heimat sagte das Heimatschutzministerium, es nutze künstliche Intelligenz, um „interessante Grenzaktivitäten zu identifizieren“, indem es Techniken des maschinellen Lernens auf Kamera- und Radardaten anwendet, heißt es in dem GAO-Bericht.
Organisationen, die künstliche Intelligenz einsetzen
Der Bericht beleuchtet auch Hunderte von Möglichkeiten, wie Bundesbehörden künstliche Intelligenz heimlich einsetzen. Bundesbehörden seien bereit, etwa 70 % von 1.241 aktiven und geplanten KI-Anwendungsfällen öffentlich offenzulegen, lehnten es jedoch ab, mehr als 350 Anwendungen der Technologie offenzulegen, da sie „als sensibel gelten“, heißt es in dem Bericht.
Einige Behörden äußerten sich verschwiegen über den Einsatz von KI: Das Außenministerium listete 71 verschiedene Anwendungsfälle für die Technologie auf, teilte dem GAO jedoch mit, dass es nur 10 davon öffentlich nennen könne.
Während einige Behörden von relativ wenigen Einsätzen von KI berichten, wurden diese wenigen Anwendungen von staatlichen Regulierungsbehörden, Bürgerrechtsgruppen und KI-Experten intensiv geprüft, die davor gewarnt haben, dass KI schädliche Folgen haben kann.
Beispielsweise meldeten die Ministerien für Justiz und Heimatschutz im GAO-Bericht vom Dienstag insgesamt 25 aktuelle oder geplante KI-Anwendungsfälle, ein Bruchteil der 390 der NASA oder der 285 des Handelsministeriums. Aber diese kleine Zahl täuscht über den Grad der Sensibilität bei DOJ und DHS hinweg. Jeder Anwendungsfall ist in Ordnung.
Erst im September warnte das US Government Accountability Office (GAO), dass Strafverfolgungsbehörden des Bundes Tausende von KI-gestützten Gesichtserkennungsdurchsuchungen durchgeführt hatten – sechs solcher Durchsuchungen bei sechs US-Behörden zwischen 2019 und 2022. 95 % – ohne angemessene Schulungsanforderungen für KI. Beamte, die die Durchsuchung durchführten, wiesen auf die Möglichkeit eines Missbrauchs von KI hin. Datenschutz- und Sicherheitsexperten haben oft davor gewarnt, dass ein übermäßiger Einsatz künstlicher Intelligenz bei der Polizeiarbeit zu Identitätsverwechslungen und unrechtmäßigen Verhaftungen oder zur Diskriminierung von Minderheiten führen könnte.
(Der Bericht des Government Accountability Office vom September zur Gesichtserkennung, der mit dem Inspector General Report des Department of Homeland Security übereinstimmt, stellte fest, dass mehrere Behörden, darunter die Zoll- und Grenzpolizei, der US-Geheimdienst und die Einwanderungs- und Zollbehörde, das Gesetz Möglicherweise wurde beim Kauf der Geolokalisierungshistorien von Amerikanern in den USA ein Verstoß begangen. Kommerzielle Datenbroker haben es versäumt, die erforderlichen Datenschutzfolgenabschätzungen durchzuführen.)
Während Beamte zunehmend auf künstliche Intelligenz und automatisierte Datenanalysen zurückgreifen, um wichtige Probleme zu lösen, muss das Office of Management and Budget, das die Ansätze der Bundesbehörden zu einer Reihe von Themen, einschließlich der Beschaffung künstlicher Intelligenz, koordiniert, noch einen Memoentwurf fertigstellen, in dem dargelegt wird, wie Agenturen vorgehen sollten sich künstliche Intelligenz richtig aneignen und nutzen.
„Der Mangel an Leitlinien hat dazu geführt, dass die Behörden es versäumt haben, grundlegende Praktiken für den Umgang mit künstlicher Intelligenz angemessen umzusetzen“, schrieb das GAO. „Bundesbehörden können Richtlinien für den Einsatz künstlicher Intelligenz entwickeln, bis das OMB die erforderlichen Leitlinien herausgibt“, fügte es hinzu. Es handelt sich um eine inkonsistente Politik, die nicht mit den gängigen Praktiken vereinbar ist und sich nachteilig auf das Wohlergehen und die Sicherheit der amerikanischen Öffentlichkeit auswirkt.“
Gemäß einem Bundesgesetz aus dem Jahr 2020, das künstliche Intelligenz in der Regierung abdeckt, sollte OMB den Behörden bis September 2021 Leitlinienentwürfe vorlegen, versäumte jedoch die Frist und gab das Memo erst zwei Jahre später, im November 2023, heraus, heißt es in dem Bericht.
OMB sagte, es stimme der Empfehlung der Regulierungsbehörde zu, Leitlinien zur künstlichen Intelligenz herauszugeben, und sagte, der im November veröffentlichte Leitlinienentwurf sei eine Reaktion auf die Durchführungsverordnung von Präsident Joe Biden vom Oktober zur Sicherheit künstlicher Intelligenz.
Bidens Ansatz zur künstlichen Intelligenz
Laut einer Zusammenfassung der Richtlinie im Weißen Haus verlangt Bidens jüngste Durchführungsverordnung zu künstlicher Intelligenz, dass Entwickler der „leistungsfähigsten künstlichen Intelligenzsysteme“ Testergebnisse ihrer Modelle mit der Regierung teilen müssen. In diesem Jahr haben sich auch einige führende KI-Unternehmen gegenüber der Biden-Regierung verpflichtet, KI-Modelle von außen testen zu lassen, bevor sie sie der Öffentlichkeit zugänglich machen. Bidens Durchführungsverordnungen stellen zunehmende Anforderungen an die Bundesbehörden in Bezug auf die Politik der künstlichen Intelligenz, indem sie beispielsweise das Energieministerium dazu verpflichten, das Potenzial künstlicher Intelligenz zur Verschärfung chemischer, biologischer, radiologischer oder nuklearer Bedrohungen zu bewerten.
Der GAO-Bericht vom Dienstag enthält eine umfassende Liste der KI-bezogenen Anforderungen, die der Kongress oder das Weiße Haus seit 2019 an Bundesbehörden gestellt hat, und bewertet deren Leistung. Der Bericht warf der OMB nicht nur vor, dass sie keinen regierungsweiten KI-Beschaffungsplan entwickelt hatte, sondern stellte auch Mängel in den KI-Ansätzen mehrerer anderer Behörden fest. So hatte das Amt für Personalmanagement bis September noch nicht die notwendigen Prognosen für die Zahl der KI-bezogenen Stellen erstellt, die der Bund in den nächsten fünf Jahren möglicherweise besetzen muss. Zehn Bundesbehörden, vom Finanzministerium bis zum Bildungsministerium, verfügen nicht über die notwendigen Pläne, ihre Listen mit Anwendungsfällen für künstliche Intelligenz im Laufe der Zeit zu aktualisieren, was das öffentliche Verständnis dafür beeinträchtigen könnte, wie die US-Regierung künstliche Intelligenz einsetzt, heißt es in dem Bericht.
Read also:
- Telefónica targets market launch for hologram telephony
- vzbv: Internet companies continue to cheat despite ban
- Telefónica targets market launch for hologram telephony in 2026
- Barely any improvement in the eco-balance of the federal government's IT systems
The lack of standards for procurement of artificial intelligence by the U.S. government could potentially threaten the nation's security, according to a report by the U.S. Government Accountability Office (GAO).
Despite the increasing use of artificial intelligence in various U.S. government agencies, there is a need for regulatory guidance in sensitive applications, as warned by experts.
Source: edition.cnn.com
