- Neues EU-Gesetz über KI in Kraft - was ändert sich?
Die EU-Verordnung über künstliche Intelligenz (KI-Verordnung) ist in Kraft getreten. Die Mitgliedstaaten haben nun zwei Jahre Zeit, um ihre Bestimmungen in nationales Recht umzusetzen. Die Verordnung zielt darauf ab, die KI innerhalb der Europäischen Union schärfer und einheitlicher zu regulieren und so die Grundrechte, Demokratie und Rechtsstaatlichkeit besser vor dieser Technologie zu schützen. Was die Verordnung bedeutet:
Was ist eigentlich Künstliche Intelligenz?
Künstliche Intelligenz bezieht sich in der Regel auf Anwendungen, die auf maschinellem Lernen basieren, wobei Software große Datensätze durchforstet, um Muster zu finden und Schlüsse zu ziehen. Dies kann menschliche Fähigkeiten wie logisches Denken, Lernen, Planung und Kreativität imitieren und Maschinen in die Lage versetzen, ihre Umgebung wahrzunehmen und darauf zu reagieren.
KI wird bereits in vielen Bereichen eingesetzt. Beispielsweise können solche Programme Computertomographien schneller und genauer als Menschen analysieren. Selbstfahrende Autos versuchen, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und Chatbots oder automatische Playlists von Streaming-Diensten arbeiten ebenfalls mit KI.
Why does the EU need such a law?
Die Verordnung soll den Einsatz von KI in der Europäischen Union sicherer machen. Sie soll sicherstellen, dass KI-Systeme so transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich wie möglich sind. Ein wichtiger Aspekt ist, dass KI-Systeme von Menschen und nicht nur von anderen Technologien überwacht werden.
What rules does the law contain?
Die Regelungen kategorisieren KI-Anwendungen in verschiedene Risikogruppen. Systeme, die als besonders risikoreich eingestuft werden, wie jene, die in kritischen Infrastrukturen oder im Bereich Bildung und Gesundheit eingesetzt werden, müssen strenge Anforderungen erfüllen. Anwendungen mit niedrigerem Risiko haben weniger Verpflichtungen.
KI-Anwendungen, die die Werte der EU verletzen, sind verboten. Darunter fällt beispielsweise die Bewertung von Sozialverhalten ("Social Scoring"), wie es in China praktiziert wird, um Bürger aufgrund ihres Verhaltens zu kategorisieren.
What does this mean for consumers?
Die Verordnung soll Verbraucher besser vor risikoreichen KI-Anwendungen schützen. Gesichts recognition in öffentlichen Räumen, wie beispielsweise durch Videoüberwachung an öffentlichen Plätzen, ist generally nicht erlaubt. Emotions recognition am Arbeitsplatz und in Bildungseinrichtungen ist ebenfalls in der EU verboten.
Darüber hinaus müssen KI-Anwendungen transparenter gekennzeichnet werden. Verbraucher können so leichter erkennen, wo Künstliche Intelligenz eingesetzt wird. Private Individuals, die Verstöße gegen die Regelungen entdecken, können Beschwerden bei den nationalen Behörden einreichen.
What changes exactly from August 1st?
Initially, not much. The AI act will be phased in gradually. Some provisions, such as the ban on AI systems presenting "unacceptable risks," must be implemented promptly by member states. These are systems deemed a threat to humans, and their ban will apply after six months.
A code of conduct for providers of AI models should be finalized by April next year, as announced by the EU Commission before the act came into force.
After two years, most points of the law must be fully implemented. However, high-risk systems will have more time to meet the requirements, with their obligations applying after three years.
What happens if someone does not follow the rules?
Upon violations, severe penalties apply: For instance, the use of prohibited technology can result in fines of up to €35 million or, for companies, up to 7% of their global annual turnover of the preceding fiscal year. However, the exact penalty amount must be determined within this range by the countries, as the Commission announced.
For other legal infringements, fines of up to €15 million or, for companies, up to 3% of their global annual turnover of the preceding fiscal year may apply.
Is there criticism of the law?
Experts have repeatedly debated whether AI would receive a boost or if its development might even be hindered by the law. Ultimately, this likely depends on the respective national implementation. Green Party Bundestag member Tobias Bacherle called for a regulation of AI-supported biometric surveillance in Germany, warning that it could easily be misused to undermine freedom rights if it falls into the wrong hands.
Federal Digital Minister Volker Wissing believes some of the EU law's provisions go too far. "I would have wished for a more innovation-friendly regulation," the FDP politician told the German Press Agency. "But in the end, a compromise is better than no regulation at all." Now, Germany aims for a "bureaucracy-light" implementation.
Earlier, it was criticized that many provisions could quickly become outdated due to the rapid technological development of AI applications and the gradual implementation of the regulations. The Commission announced that it will conduct an annual review to determine if the list of "high-risk" applications needs to be revised or expanded.
