EU will sichere und transparente KI

Am 14. Juni nahm das Europäische Parlament seine Verhandlungsposition zum Gesetz über künstliche Intelligenz (KI) an. Damit können nun die Gespräche mit den EU-Mitgliedstaaten über die endgültige Form des Gesetzes beginnen.

Laut einer aktuellen Pressemeldung sollen die Vorschriften dafür sorgen, dass in der EU entwickelte und eingesetzte KI in vollem Umfang den Rechten und Werten der Europäischen Union entspricht. Das umfasst, dass sie von Menschen beaufsichtigt wird, Anforderungen an Sicherheit, Datenschutz und Transparenz genügt, niemanden diskriminiert und weder Gesellschaft noch Umwelt schädigt.

Die Vorschriften richten sich nach dem Grad der Gefahr, die von künstlicher Intelligenz möglicherweise ausgeht. Je nachdem, wie groß diese Gefahr ist, gelten künftig Pflichten für Anbieter und Nutzer. KI-Systeme, die die menschliche Sicherheit in inakzeptabler Weise gefährden, sollen demnach verboten werden, wie z.B. solche, die für „Social Scoring“ (Klassifizierung natürlicher Personen auf der Grundlage ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale) verwendet werden. Die Abgeordneten fordern Verbote für weitere KI-Anwendungen, die in die Privatsphäre eingreifen und diskriminieren, nämlich für biometrische Systeme, vorausschauende Polizeiarbeit, in der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen verwendete Emotionserkennungssysteme und das ungezielte Auslesen von Gesichtsbildern aus dem Internet.

Die Abgeordneten sorgten dafür, dass KI-Systeme, die die Gesundheit, die Sicherheit und die Grundrechte von Menschen bzw. die Umwelt erheblich gefährden, nun als Hochrisiko-Anwendungen gelten. In die entsprechende Liste wurden KI-Systeme aufgenommen, die zur Beeinflussung von Wählern und Wahlergebnissen sowie in Empfehlungssystemen von Social-Media-Plattformen eingesetzt werden.

Pflichten für KI-Systeme zur allgemeinen Verwendung

Anbieter von Basismodellen – einer Neuentwicklung im KI-Bereich, die rasante Fortschritte macht – müssen künftig Risiken (für Gesundheit, Sicherheit, die Grundrechte von Personen, die Umwelt oder für Demokratie und Rechtsstaatlichkeit) abschätzen und mindern sowie ihre Modelle in der entsprechenden EU-Datenbank registrieren, bevor sie auf den EU-Markt kommen. Generative KI-Systeme, die auf solchen Modellen beruhen, wie ChatGPT, müssen Transparenzanforderungen erfüllen, d.h., sie müssen offenlegen, dass die Inhalte KI-generiert sind, was auch dazu beiträgt, sogenannte Deepfake-Fotos von echten Abbildungen zu unterscheiden. Zusätzlich müssen sie dafür sorgen, dass keine rechtswidrigen Inhalte erzeugt werden.

Förderung von Innovationen und Schutz der Bürgerrechte

Um KI-Innovationen zu fördern und kleine und mittlere Unternehmen zu unterstützen, fügte das Parlament Ausnahmeregelungen hinzu, die für Forschungstätigkeiten und KI-Komponenten gelten, die im Rahmen von quelloffenen Lizenzen bereitgestellt werden. Die neuen Vorschriften fördern sogenannte Reallabore, in denen Behörden KI-Anwendungen unter realen Bedingungen testen können, bevor sie eingesetzt werden.

Das Parlament will außerdem das Recht der Bürgerinnen und Bürger stärken, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf dem Einsatz hochriskanter KI-Systemen beruhen und ihre Grundrechte erheblich beeinträchtigen. Die Abgeordneten wollen darüber hinaus ein Europäisches Amts für künstliche Intelligenz einrichten, das die Umsetzung des KI-Regelwerks überwachen soll. (sg)