Am 2. August hat das Büro für Künstliche Intelligenz der Europäischen Kommission zusammen mit nationalen Behörden mit der Durchsetzung des EU AI-Acts begonnen. Es sind Transparenzvorschriften in Kraft getreten: Bestimmte KI-Systeme müssen ihre Nutzerinnen und Nutzer darüber in Kenntnis setzen, dass sie mit KI interagieren. Gleiches gilt für KI-erzeugte Inhalte oder Veränderungen von Inhalten, die von einer KI vorgenommen worden sind. Das bedeutet auch, dass sogenannte Deepfakes, das heißt Bilder, Videos und Audiodateien, die mittels KI erstellt oder bearbeitet wurden, eine entsprechende Kennzeichnung erhalten müssen. Mit diesen Maßnahmen verfolgt die EU-Kommission das Ziel, Täuschungen und Manipulationen vorzubeugen. Verknüpft ist das auch mit der Hoffnung, dass Unternehmen, die KI im Einsatz haben, mehr Rechtssicherheit im Zusammenhang mit ihren Nachweispflichten bekommen. Betroffen sind Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI). Laut Angaben der Kommission können diese zahlreiche verschiedene Aufgaben erfüllen und in einer Vielzahl von Werkzeugen und Diensten, einschließlich KI-Agenten, eingesetzt werden.
Die Vorschriften gelten auch für die fortgeschrittensten GPAI-Modelle, die systemische Risiken bergen können. Ihre Anbieter müssen zusätzliche Verpflichtungen erfüllen, um Risiken von Schäden großen Ausmaßes zu begegnen, so etwa Risiken im Zusammenhang mit chemischen, biologischen, radiologischen und nuklearen Zwischenfällen, Kontrollverlust, Cyberstraftaten, schädlicher Manipulation und Bedrohungen der Grundrechte. Darüber hinaus geht es auch um Risiken, die laut Angaben der Kommission in jüngster Zeit die Aufmerksamkeit der Öffentlichkeit auf sich gezogen haben, darunter Risiken für die Cybersicherheit in Europa und im Zusammenhang mit KI, die sich der menschlichen Kontrolle entzieht.
Die Pflichten umfassen die Bereitstellung von Informationen für Behörden und nachgelagerte Anbieter sowie eine hinreichend detaillierte Zusammenfassung der Inhalte, die für das Training der KI verwendet werden. Vorhanden sein muss zudem eine urheberrechtliche Regelung. Bezug nimmt die EU-Kommission auch auf verbotene Praktiken, für die es nun ebenfalls Transparenzpflichten gibt. Verboten sind besonders schädliche Systeme, darunter Systeme, die Menschen manipulieren, Schwächen auf schädliche Weise ausnutzen oder Menschen unfair in einer Weise bewerten, die ihre Rechte gefährdet. Die Anwendung der Vorschriften für Hochrisiko-KI-Systeme ist im Rahmen des KI-Omnibus-Paketes auf Dezember 2027 verschoben worden. Außerdem wurden die Vorschriften für Hochrisiko-KI-Systeme, die in regulierte Produkte integriert sind, auf August 2028 verschoben.
Bild: Thanks to Igor Omilaev on Unsplash