KI-Verordnung: Maschine unter Kontrolle

Ist sie nun intelligent oder nicht? Unabhängig von dieser philosophischen Frage begleitet uns die künstliche Intelligenz (KI) in vielen Lebens- und Arbeitsbereichen. Vom Onlinehandel bis zur beruflichen IT- und Cybersicherheit ist KI im Einsatz. Sie erleichtert unser Leben – und macht es gleichzeitig gläsern. Denn durch KI können Arbeitnehmer:innen am Arbeitsplatz genauso durchleuchtet werden wie Menschen, die im Netz shoppen. Die meisten Onlinekäufer:innen kennen den Satz „Kunden, die diesen Artikel gekauft haben, kauften auch …“ und die Hinweise auf Produkte, die möglicherweise ebenfalls gut zum Geschmack der Person passen würden. Auch hier ist die KI im Einsatz. Doch wo von Menschen geschaffene Computerprogramme und Algorithmen für Menschen Arbeiten übernehmen, Ratschläge geben oder auch nur dazu dienen, sich die Zeit mit Social Media zu vertreiben, braucht es eine gesetzliche KI-Verordnung, die Grenzen abstecken. Auch, wenn nicht alle die Furcht vor der KI teilen.

Weltweit erste KI-Verordnung

Die Schaffung notwendiger gesetzlicher Rahmenbedingungen im Zusammenhang mit KI wurde im Frühjahr 2021 von der Europäischen Union in Angriff genommen. Mit einer Vorlaufphase von vier Jahren wurde damals der „Vorschlag für eine KI-Verordnung zur Festlegung von Harmonisierungsvorschriften für künstliche Intelligenz“ präsentiert. Ziel war es, neben der Förderung von KI auch die Sicherheit und die Grundrechte der EU-Bürger:innen in der digitalen Gesellschaft zu wahren. Die EU-Kommission legte einen Vorschlag für den Rechtsrahmen vor. Der sogenannte Artificial Intelligence Act (KI-Verordnung) könnte das weltweit erste KI-Gesetz werden. Darüber abgestimmt hat bereits das EU-Parlament, nun beginnen Gespräche mit den EU-Mitgliedstaaten im Rat über die endgültige Ausgestaltung des Gesetzes. Bis Jahresende soll eine Einigung auf dem Tisch liegen.

Warum eine KI-Verordnung für Rechtssicherheit sorgen muss, erklärt Angela Pfister, Ökonomin in der volkswirtschaftlichen Abteilung des ÖGB, im Gespräch mit Arbeit&Wirtschaft so: „Der Einsatz von künstlicher Intelligenz kann zu Verletzungen der Grundrechte, zu Überwachung oder schwerer Diskriminierung führen. KI-Anwendungen, die ethisch verwerflich sind, müssen verboten werden.“ „Gute“ Beispiele für Verletzungen der Grundrechte sind etwa KI-gestützte Waffensysteme oder Systeme der Massenüberwachung, wie etwa Gesichtserkennung im öffentlichen Raum.

„Die KI-Verordnung der EU ist zwar fundamental für die Regulierung von künstlicher Intelligenz in der EU. Sie ist aber nicht geeignet, einen wirksamen Schutz der Arbeitnehmer:innen zu gewährleisten“, so Pfister. Der Fokus bei der Verordnung sei zu sehr auf den Markt ausgerichtet. Daher brauche es eine eigene Richtlinie zum Schutz der Arbeitnehmer:innen. Was diese leisten soll? Sie soll verpflichtende Mindeststandards schaffen, wenn KI-Technologien in der Arbeit eingeführt werden. Außerdem, so Pfister, müsse sie unabhängige Kontrollmechanismen vorsehen. Besonders wichtig: Eine Richtlinie zum Schutz der Arbeitnehmer:innen müsse deren Mitbestimmungsrechte stärken und garantieren, dass sie diese auch durchsetzen können.

Vetoplayer Betriebsrat

Wie werden KI-Anwendungen am Arbeitsplatz aktuell gesetzlich geregelt und die Arbeitnehmer:innen vor missbräuchlicher Verwendung geschützt? In Österreich gibt es dazu keine eigene Regelung, sondern es wird auf bestehende Gesetze und Verordnungen zurückgegriffen. So gelten insbesondere die Mitbestimmungsrechte des Betriebsrats nach dem Arbeitsverfassungsgesetz (ArbVG), die Datenschutzrechte nach der Datenschutz-Grundverordnung (DSGVO) und des Datenschutzgesetzes (DSG) sowie die Persönlichkeitsrechte und Rechte zum Schutz der Arbeitnehmer:innen.

Dem Betriebsrat fällt bei der Einführung und Anwendung von KI-Systemen eine zentrale Rolle zu: Bei Systemen, die wegen ihrer Kontrolleignung die Menschenwürde berühren, hat der Betriebsrat ein Vetorecht. Zudem kann er mitbestimmen, wenn zum Beispiel Systeme zur Personalbeurteilung eingeführt werden. Ein Beispiel aus der Praxis zeigt, welche Probleme es bei einem Bewertungssystem geben kann. Kund:innenkontakte werden mittlerweile sehr regelmäßig erfasst und ausgewertet. Beinahe nach jedem Online-Einkauf werden Kund:innen aufgefordert, ein Feedback zu geben und ihren Einkauf zu bewerten. „Es gibt Fälle, in denen Vorgesetzte bei den Kund:innen intervenieren, wenn sie zu niedrig bewerten. Vorgesetzte erhalten bei einer zu niedrigen Bewertung automatisiert ein E-Mail und müssen sich um diesen ‚Fall‘ kümmern“, erzählt Eva Angerler aus der Abteilung Arbeit & Technik der Gewerkschaft GPA. Das kann sich in weiterer Folge negativ auf Arbeitnehmer:innen auswirken. Doch eine niedrige Bewertung muss nicht bedeuten, dass Kund:innen mit den Beschäftigten unzufrieden sind, sondern kann vielfältige Gründe haben, etwa dass das gekaufte Produkt nicht den Erwartungen entspricht. „Darauf haben aber Verkäufer:innen keinen Einfluss“, so Angerler.

Künstliche Intelligenz ist überall. Sie bestimmt, ob wir einen Kreditrahmen bekommen und wie die Konditionen unserer Versicherungen lauten. Sie teilt uns damit in „gute“ oder „schlechte“ Kund:innen ein – ohne, dass wir es merken.https://t.co/TdNtbokVtE

— Arbeit&Wirtschaft Magazin (@AundWMagazin) July 14, 2023

Verständnis schaffen

Mehr Mitbestimmung und einen Bottom-up-Ansatz fordern Arbeitnehmer:innen-Vertretungen hinsichtlich KI in den Unternehmen. So könnten Anwendungen gemeinsam mit den Anwender:innen, also mit den Beschäftigten, entwickelt werden. „Mit einem Bottom-up-Ansatz ist eine sinnvolle Einführung und Umsetzung von KI am Arbeitsplatz möglich. Damit können sich Arbeitnehmer:innen in den Prozess einbringen und erleben, dass die KI sie unterstützen und die Arbeitsabläufe verbessern kann“, meint Angerler. Das hätte mehrere Vorteile: Arbeitnehmer:innen hätten ein besseres Verständnis für die Anwendungen und weniger Berührungsängste mit neuen Technologien. „KI muss so eingesetzt werden, dass sie den Menschen dient und sie aufwertet. Diesen Werteansatz verfolgen wir bei der Mitbestimmung“, so Angerler.

Was reguliert die KI-Verordnung?

1. Verboten werden Anwendungen, die ein unannehmbares Risiko darstellen, etwa die Klassifizierung von Personen anhand bestimmter Merkmale (Social Scoring).

2. Reguliert werden Anwendungen, die risikobehaftet sind, weil sie sich negativ auf die Sicherheit und Grundrechte auswirken können, wie z. B. Tools zum Scannen von Lebensläufen, um Bewerber:innen zu bewerten.

3. Erlaubt und unreguliert bleiben Anwendungen, die bisher nicht als risikoreich eingestuft wurden, wie z. B. Spamfilter.