Gesichtserkennungsmaske über dem Gesicht eines Mannes. Foto: Artem, Adobe Stock, Informationen zu Creative Commons (CC) Lizenzen, für Pressemeldungen ist der Herausgeber verantwortlich, die Quelle ist der Herausgeber
KI Regulierung: Verbraucherrechte jetzt oder nie
Betroffene brauchen Recht auf Auskunft und Erklärung
Ausnutzung persönlicher Schwächen und Manipulation durch KI müssen verboten werden
Effektive Rechtsdurchsetzung: Verbandsklagen für Missbrauch von KI ermöglichen
Berlin, 23. Oktober 2023
Der #Konsumalltag wird immer stärker durch Künstliche Intelligenz (KI) wie Shopping Assistenten oder ChatGPT beeinflusst. Bei der Regulierung von KI müssen daher die Belange von Verbrauchern berücksichtigt werden. In Brüssel sind die Verhandlungen für den Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AI Act), jetzt auf der Zielgeraden. Der Verbraucherzentrale Bundesverband (vzbv) fordert: Verbraucher müssen besonders geschützt werden und starke Rechte bekommen.
»Künstliche Intelligenz wird den Konsumalltag weiter radikal verändern. Damit uns die technische Entwicklung nicht davongaloppiert, braucht es verbindliche Regeln und starke Verbraucherrechte gegenüber KI Betreibern«, sagt Ramona Pop.
»Auf EU Ebene werden jetzt die Weichen gestellt, wie und nach welchen Regeln KI in den nächsten Jahrzehnten unser Leben bestimmt. Das Europäische Parlament, der Rat der Europäischen Union und die Europäische Kommission müssen die Chance ergreifen und den AI Act im Sinne der Menschen gestalten. Nur auf dieser Basis wächst Vertrauen in KI und damit die gesellschaftliche Akzeptanz dieser Technologie«, so Pop.
Schon heute wird KI in sensiblen Lebensbereichen eingesetzt, etwa als Mental Health Berater. Generative KI Systeme wie #ChatGPT können die Entscheidungen von Verbrauchern beeinflussen, zum Beispiel Kaufentscheidungen beim #Onlineshopping. Dabei besteht die Gefahr, dass KI die Verbraucher manipuliert und übervorteilt.
Verbraucher brauchen ein Recht auf Auskunft und Erklärung gegenüber Betreibern von Hochrisiko KI Systemen.
»Nur, wenn Betroffene wissen, welche Daten verwendet werden und wie die Entscheidung zustande kam, können sie sich wehren und ihre Rechte wahrnehmen«, sagt Pop. Wichtig sei auch ein Recht auf Beschwerde bei den Aufsichtsbehörden.
Der AI Act verbietet zwar den Einsatz von KI zur subtilen Manipulation sowie zum Ausnutzen von Schwächen von älteren Menschen, Minderjährigen und Menschen mit Behinderungen. Der vorgesehene Schutz ist aber lückenhaft.
»Wenn menschliches Verhalten in Echtzeit analysiert wird, ist jede:r situativ verwundbar«, sagt Pop. Wenn KI erkennt, dass eine Person zu Spielsucht neigt, müde ist, gestresst oder in Trauer, dürfe das nicht ausgenutzt werden. »Alle Verbraucher müssen geschützt werden – auch vor finanziellen Schäden.« Mit generativen KI Systemen wie #ChatGPT wird ein umfassendes Verbot noch wichtiger, weil Verbraucher damit besonders leicht manipuliert oder Falschinformation generiert werden können.
Betroffene haben oft weder die Ressourcen noch die Fähigkeiten ihre Rechte gegenüber Betreibern von KI Systemen vor Gericht durchzusetzen. Darum muss der AI Act in den Anhang der europäischen Verbandsklagen Richtlinie aufgenommen werden. »Institutionen wie der vzbv müssen die Möglichkeit haben, Klagen gegen bestimmte KI Betreiber im Namen geschädigter Verbraucher zu führen und Entschädigungen einzufordern«, sagt Pop.
Seit April 2021 wird in Brüssel ein Rechtsrahmen für KI, der Artificial Intelligence Act (AI Act), verhandelt. Dieser soll Regeln und Qualitätsvorgaben für Betreiber von KI Systemen definieren. Der Rat hatte sich bereits am 6. Dezember 2022 auf eine Position zum AI Act geeinigt. Das Europäische Parlament folgte am 14. Juni 2023. Im Rahmen der Trilog Verhandlungen findet am Dienstag, 24. Oktober die entscheidende Verhandlung zwischen Rat, Europäischem Parlament und Europäischer Kommission statt. Eine Einigung soll bis Ende 2023 erfolgen.
Verbraucherzentrale Bundesverband e. V., mehr …
Rudi-Dutschke-Straße 17
10969 Berlin
Telefon +4930258000
Telefax +493025800518
E-Mail info@vzbv.de
www.vzbv.de
Externer Inhalt, Location Verbraucherzentrale Bundesverband e. V.
Beim Klick auf das Bild wird eine Anfrage mit Ihrer IP Adresse an Google gesendet, Cookies gesetzt und personenbezogene Daten zu Google übertragen und dort verarbeitet, siehe auch die Datenschutzerklärung.
