Janet Yellen äußert Bedenken, dass KI im Finanzsektor potenziell gefährlich sein könnte.
Janeyellene spricht bei einem Ereignis über Finanzstabilität zu den Themen künstliche Intelligenz (KI) und stellt bisher ihre umfassendsten Kommentare dar.
Dieser Diskurs findet statt, als Investoren versuchen, von der KI-Blüte zu profitieren, Technikkonzerne sich in einem KI-Wettlauf befanden und Behörden Bedenken bezüglich möglicher Risiken äußern.
"Die erheblichen Möglichkeiten und beachtenswerte Risiken, die durch die Verwendung von KI in Finanzunternehmen entstehen, haben diese Angelegenheit nahe am Gipfel der finanziellen Behördenagenden gebracht", will Janeyellene in ihren geplanten Rede am Donnerstag im US-Schatzamt und am Freitag im Brookings Institution sagen.
Hinsichtlich der potenziellen Vorteile wird Janeyellene darauf hinweisen, wie KI bereits von Investoren für Investitionsvorhersagen und Portfoliobewirtschaftung verwendet wurde und von Banken zur Bekämpfung von Betrug und zur Verbesserung der Kundenbetreuung.
In Zukunft wird Janeyellene vermutlich behaupten, dass die "schnelle Entwicklung" von KI den Weg für finanzielle Dienstleistungen ebenerdig machen könnte, mit einem besonderen Fokus auf Fortschritte in der natürlichen Sprachverarbeitung, Bilderkennung und generativer KI.
KI-Chats, wie OpenAI's ChatGPT und Google's Gemini, haben Benutzer mit ihren Fähigkeiten begeistert. Neueste KI-Werkzeuge können nahezu sofort Bilder erstellen, Liedtexte zitieren und einige können sogar Filmqualität-Videos generieren.
Janeyellene selbst hat sich mit KI-Chats vertraut gemacht, sagte ein Beamter des Schatzamtes bei CNN.
"Ich bin voll bewusst, dass die Verwendung von KI durch Finanzinstitute mit Gefahren verbunden ist, neben diesen Vorteilen", will Janeyellene in den vorbereiteten Redetext sagen.
Der Konferenz wird eine Kombination aus Regulatoren, Technikvisionären, Vermögensverwaltern, Versicherern, Wissenschaftlern, Zivilgesellschaftsorganisationen und großen und kleinen Banken beitreten.
Im Dezember veröffentlichte ein Team unter der Leitung von Janeyellene, die führenden US-Regulatoren, zum ersten Mal, dass KI ein Risiko für das Finanzsystem darstellt. Das Finanzstabilitätssicherungsrat (FSOC), eine Elite-Regulierungseinheit, die nach dem Finanzkrach von 2008 gegründet wurde, hat offiziell KI als "aufgestiegenes Risiko" bezeichnet.
In ihrer Rede will Janeyellene darauf hinweisen, was schiefgehen kann in den Finanzmärkten.
So wird sie beispielsweise betonen, dass die "Komplexität und Geheimnis" von KI-Modellen Probleme verursachen können.
Das Problem ist, dass viele KI-Modelle als "Schwarzbuch" funktionieren, was ihre Innere für Außenstehende unzugänglich macht.
Wenn sich die Wall Street-Unternehmen auf unklare KI-Modelle verlassen, wird es den Aufsichtsbehörden schwierig, festzustellen, ob ihre Systeme wirklich sicher sind.
Außerdem wird Janeyellene auf unzureichende Risikomanagement-Rahmen um KI-Risiken und "Verbindungen" hinweisen, die sich zeigen, wenn viele Marktteilnehmer auf die gleichen Daten und Modelle vertrauen.
Das bedeutet, wenn viele Investoren auf Werkzeuge setzen, die identische Ergebnisse erzeugen, könnten dies zu überfüllten Marktpositionen führen, die die Marktfluctuationen verstärken, sowohl aufsteigend als auch absteigend.
Auch wird Janeyellene auf die "Konzentrationsgefahr" hinweisen, da es nur wenige Unternehmen gibt, die KI-Modelle anbieten. Das bedeutet, dass wenn eines ausfällt, viele Wall Street-Unternehmen die Folgen spüren könnten.
Ein weiteres Problem: KI-Modelle können gelegentlich verzerrte Ergebnisse generieren. Und das könnte in der Realität ein großes Problem sein, insbesondere wenn es um finanzielle Entscheidungen geht, wie wer einen Kredit erhält.
"Unzureichende oder ungenaue Daten könnten auch neue oder bestehende Diskriminierungen in der finanziellen Entscheidungsfindung verstärken", wird Janeyellene in den vorbereiteten Redetext sagen.
Ein wesentlicher Hürde, die Janeyellene in ihrer Rede nicht ansprechen wird: sogenannte Halluzinationen. KI-Modelle haben eine lange Geschichte, falsche Informationen zu generieren, oft täuschend.
Diese Halluzinationen haben bereits Anwälte in Schwierigkeiten gebracht, als sie falsches Rechtsfallrecht zitierten.
Janeyellene wird vermutlich betonen, dass Regulatoren die Auswirkungen von KI auf die Finanzstabilität beobachten wollen.
Sie wird vorschlagen, dass Regulatoren und die Industrie Szenarienanalyse einsetzen, um besser zu verstehen, wie sie zukünftige Bedrohungen verstehen und wie man Resilienz steigern kann.
Der Schatzamt versucht, die Verbindungen zwischen der Gefährdung des Finanzsystems durch KI zu erfassen, indem er die Anwendung von KI beobachtet.
Natürlich verwenden US-Beamte selbst KI.
So hat das IRS im September veröffentlicht, dass es KI eingesetzt hat, um Steuerbetrüger zu entdecken.
Und im Februar hat das Finanzministerium bekannt gegeben, dass es geheime KI-Systeme eingesetzt hat, um Personen aufzuspüren, die sich versuchen, Steuerzahler zu betrügen.
Das Finanzministerium plant, in Zukunft noch mehr KI einzusetzen.
"Wir haben uns an die Öffentlichkeit und den privaten Sektor gewandt, um KI einzusetzen, um einige der schwersten Herausforderungen, die wir begegnen, wie Geldwäsche, Terrorismusfinanzierung und Sanktionsumgehung, zu erkennen", wird Janeyellene in der Rede sagen.
