Die US-Regierung plant, KI in vollem Umfang zu nutzen. Aber es fehlt ein Plan, sagt ein Regierungsbeobachter
Das Fehlen eines regierungsweiten Standards für KI-Käufe könnte die amerikanische Sicherheit untergraben, schrieb das Government Accountability Office (GAO) in einer lang erwarteten Überprüfung der aktuellen und geplanten KI-Nutzung von fast zwei Dutzend Behörden. Das GAO ist die oberste Kontrollinstanz für die Rechenschaftspflicht der Regierung.
Der 96-seitige Bericht, der am Dienstag veröffentlicht wurde, ist der bisher umfassendste Versuch der US-Regierung, die mehr als 200 Arten zu katalogisieren, in denen nicht-militärische Behörden bereits künstliche Intelligenz oder maschinelles Lernen einsetzen, sowie die mehr als 500 geplanten Anwendungen für KI, die in Arbeit sind.
Dies geschieht in einer Zeit, in der KI-Entwickler immer ausgefeiltere KI-Modelle auf den Markt bringen und sich die politischen Entscheidungsträger darum bemühen, Vorschriften für die KI-Industrie in den sensibelsten Anwendungsfällen zu entwickeln. Regierungen auf der ganzen Welt haben die Vorteile der KI hervorgehoben, wie z. B. ihr Potenzial, Heilmittel für Krankheiten zu finden oder die Produktivität zu steigern. Sie haben sich aber auch über die Risiken der KI Gedanken gemacht, etwa die Gefahr der Verdrängung von Arbeitnehmern, die Verbreitung von Fehlinformationen bei Wahlen oder die Schädigung gefährdeter Bevölkerungsgruppen durch algorithmische Verzerrungen. Experten warnen sogar davor, dass KI zu neuen Bedrohungen für die nationale Sicherheit führen könnte, indem sie böswilligen Akteuren neue Möglichkeiten zur Entwicklung von Cyberangriffen oder biologischen Waffen bietet.
In der breit angelegten Umfrage des GAO wurden 23 Behörden befragt, von den Ministerien für Justiz und Innere Sicherheit bis hin zur Sozialversicherungsanstalt und der Atomaufsichtsbehörde. Die Bundesregierung nutzt KI bereits auf 228 verschiedene Arten, wobei fast die Hälfte dieser Anwendungen innerhalb des letzten Jahres eingeführt wurde, so der Bericht, was die rasche Akzeptanz von KI in der US-Regierung widerspiegelt.
Die überwiegende Mehrheit der aktuellen und geplanten Anwendungen von KI in der Regierung, die das GAO in seinem Bericht identifiziert hat - fast sieben von zehn - sind entweder wissenschaftsbezogen oder dienen der Verbesserung des internen Behördenmanagements. Die National Aeronautics and Space Administration (NASA) beispielsweise teilte dem GAO mit, dass sie künstliche Intelligenz einsetzt, um die Vulkanaktivität auf der ganzen Welt zu überwachen, während das Handelsministerium erklärte, dass es KI zur Verfolgung von Waldbränden und zur automatischen Zählung von Seevögeln, Robben oder Walrossen auf Drohnenfotos einsetzt.
Das Ministerium für Innere Sicherheit (Department of Homeland Security) verwendet laut GAO-Bericht KI zur "Identifizierung von Grenzaktivitäten von Interesse", indem es maschinelle Lerntechnologien auf Kamera- und Radardaten anwendet.
Agenturen, die KI einsetzen
Der Bericht hebt auch die Hunderte von Möglichkeiten hervor, wie Bundesbehörden KI im Geheimen einsetzen. Dem Bericht zufolge waren die Bundesbehörden bereit, etwa 70 % der insgesamt 1.241 aktiven und geplanten KI-Einsatzfälle öffentlich bekannt zu geben, weigerten sich aber, mehr als 350 Anwendungen der Technologie zu nennen, weil sie als sensibel" eingestuft wurden.
Einige Behörden waren außerordentlich wortkarg, was den Einsatz von KI anging: Das Außenministerium listete 71 verschiedene Anwendungsfälle für die Technologie auf, teilte dem GAO jedoch mit, dass es nur 10 davon öffentlich benennen könne.
Obwohl einige Behörden nur relativ wenige Anwendungen von KI meldeten, wurden diese wenigen Anwendungen von Regierungsbeobachtern, Bürgerrechtsgruppen und KI-Experten, die vor potenziell schädlichen KI-Effekten warnten, mit am stärksten unter die Lupe genommen.
Das Justizministerium und das Ministerium für Innere Sicherheit meldeten im Bericht des Obersten Rechnungshofs vom Dienstag insgesamt 25 aktuelle oder geplante Anwendungsfälle für KI, ein winziger Bruchteil der 390 der NASA oder der 285 des Handelsministeriums. Aber diese geringe Zahl täuscht darüber hinweg, wie sensibel die Anwendungsfälle des DOJ und des DHS sein können.
Erst im September hatte der GAO davor gewarnt, dass die Strafverfolgungsbehörden des Bundes Tausende von KI-gestützten Gesichtserkennungsdurchsuchungen durchgeführt haben - 95 % dieser Durchsuchungen in sechs US-Behörden im Zeitraum von 2019 bis 2022 -, ohne dass die Beamten, die diese Durchsuchungen durchführen, entsprechend geschult wurden, was das Potenzial für den Missbrauch von KI verdeutlicht. Datenschutz- und Sicherheitsexperten haben immer wieder davor gewarnt, dass ein zu starker Einsatz von KI in der Polizeiarbeit zu Verwechslungen, unrechtmäßigen Verhaftungen oder zur Diskriminierung von Minderheiten führen kann.
(Der Bericht des Obersten Rechnungshofs vom September über Gesichtserkennung fiel mit einem Bericht des Generalinspekteurs des US-Heimatschutzministeriums zusammen, in dem festgestellt wurde, dass mehrere Behörden, darunter die Zoll- und Grenzschutzbehörde, der US-Geheimdienst und die Einwanderungs- und Zollbehörde, wahrscheinlich gegen das Gesetz verstoßen haben, als Beamte die Geolokalisierungsdaten von Amerikanern von kommerziellen Datenmaklern kauften, ohne die erforderlichen Datenschutzfolgenabschätzungen durchzuführen).
Während sich Beamte zunehmend der KI und der automatisierten Datenanalyse zuwenden, um wichtige Probleme zu lösen, hat das Office of Management and Budget, das für die Harmonisierung der Herangehensweise der Bundesbehörden an eine Reihe von Fragen, einschließlich der KI-Beschaffung, verantwortlich ist, noch keinen Entwurf für ein Memo fertiggestellt, in dem dargelegt wird, wie die Behörden KI ordnungsgemäß erwerben und nutzen sollten.
"Das Fehlen von Leitlinien hat dazu beigetragen, dass die Behörden grundlegende Praktiken im Umgang mit KI nicht vollständig umsetzen", schrieb das GAO. Es fügte hinzu: "Solange das OMB nicht die erforderliche Anleitung herausgibt, werden die Bundesbehörden wahrscheinlich uneinheitliche Richtlinien für den Einsatz von KI entwickeln, die nicht mit den wichtigsten Praktiken übereinstimmen oder dem Wohlergehen und der Sicherheit der amerikanischen Öffentlichkeit zugute kommen."
Gemäß einem Bundesgesetz aus dem Jahr 2020, das sich mit KI in der Regierung befasst, hätte das OMB bis September 2021 einen Entwurf für Richtlinien an die Behörden herausgeben sollen. Es hat jedoch die Frist verpasst und seinen Entwurf für ein Memo erst zwei Jahre später, im November 2023, veröffentlicht, so der Bericht.
Das OMB erklärte, es stimme der Empfehlung des Watchdogs zu, Leitlinien zu KI herauszugeben, und sagte, der im November veröffentlichte Leitlinienentwurf sei eine Reaktion auf die Exekutivanordnung von Präsident Joe Biden vom Oktober, die sich mit der Sicherheit von KI befasst.
Bidens KI-Ansatz
Bidens jüngste KI-Durchführungsverordnung sieht unter anderem vor, dass die Entwickler der leistungsfähigsten KI-Systeme" die Testergebnisse ihrer Modelle mit der Regierung teilen müssen, so eine Zusammenfassung der Richtlinie durch das Weiße Haus. In diesem Jahr versprachen einige führende KI-Unternehmen der Biden-Administration, ihre KI-Modelle extern testen zu lassen, bevor sie sie für die Öffentlichkeit freigeben.
Die Biden-Verfügung ergänzt die wachsenden Anforderungen an die Bundesbehörden in Bezug auf die KI-Politik, indem sie beispielsweise das Energieministerium beauftragt, das Potenzial von KI zur Verschärfung von Bedrohungen durch chemische, biologische, radiologische oder nukleare Waffen zu bewerten.
Der GAO-Bericht vom Dienstag enthält eine umfassende Liste von KI-bezogenen Anforderungen, die der Kongress oder das Weiße Haus den Bundesbehörden seit 2019 auferlegt hat, und bewertet deren Leistung. Der Bericht bemängelt nicht nur, dass das OMB keinen regierungsweiten Plan für KI-Beschaffungen vorgelegt hat, sondern stellt auch Unzulänglichkeiten bei einer Handvoll anderer Behörden im Hinblick auf KI fest. Im September hatte beispielsweise das Office of Personnel Management noch keine Prognose über die Anzahl der KI-bezogenen Stellen erstellt, die die Bundesregierung in den nächsten fünf Jahren besetzen muss. Und dem Bericht zufolge fehlten bei 10 Bundesbehörden, vom Finanzministerium bis zum Bildungsministerium, die erforderlichen Pläne für die Aktualisierung ihrer Listen von KI-Anwendungsfällen im Laufe der Zeit, was die Öffentlichkeit daran hindern könnte zu verstehen, wie die US-Regierung KI einsetzt.
Lesen Sie auch:
- Telefónica plant die Einführung eines holografischen Telefons
- vzbv: Internetkonzerne betrügen trotz Verbot weiter
- Telefónica will bis 2026 holografische Telefone auf den Markt bringen
- Die ökologische Bilanz der IT-Systeme des Bundes zeigt kaum Verbesserungen
Quelle: edition.cnn.com
