Der IA Act erläutert: Verpflichtungen und Herausforderungen für Unternehmen

Künstliche Intelligenz (KI) verändert unsere Gesellschaften und Volkswirtschaften grundlegend. Um dieses Potenzial zu kanalisieren und die Risiken zu begrenzen, wird die Europäische Union ab dem 1. August 2024 die erste umfassende Gesetzgebung zur KI einführen: den KI-Gesetzesrahmen (KI Act).

Einige Schlüsselzahlen zum KI-Markt 

KI ist zu einem entscheidenden Träger der Transformation geworden : 

• Weltweiter Markt: Schätzungsweise 500 Milliarden US-Dollar bis 2028 (Quelle: Statista). 

• Wachstum: Der Markt soll von 2024 bis 2030 jedes Jahr um 37 % wachsen (Quelle: Hostinger). 

• Öffentliche Wahrnehmung51 % der Franzosen sehen KI sowohl als Gefahr als auch als Fortschritt an (Quelle: Cluster 17 und Le Point). 

Diese Zahlen belegen die strategische Bedeutung der KI und die Notwendigkeit einer angemessenen Regulierung. 

Warum sollte künstliche Intelligenz reguliert werden? 

• Schräglagen und Diskriminierung : : Risiken der Reproduktion und Verstärkung bestehender Vorurteile in den Trainingsdaten, die zu diskriminierenden Entscheidungen führen. 

• Schutz der Privatsphäre : Risiken im Zusammenhang mit Profiling, unberechtigtem Zugriff auf personenbezogene Daten und dem Cambridge-Analytica-Vorfall. 

• Manipulation von Informationen: Problematik der Deepfakes und der Verbreitung von Fake News durch Bots. 

• Auswirkungen auf die Beschäftigung: Umgestaltung des Arbeitsmarktes mit der Schaffung neuer Möglichkeiten, aber auch möglicher Ungleichheiten. 

• Mangel an Transparenz: undurchsichtige Funktionsweise von KI-Systemen, die oft mit "Black Boxes" gleichgesetzt werden. 

• Sicherheit und GefahrenabwehrRisiken: Risiken der Entwendung oder Fehlfunktion, die zu Unfällen führen oder kritische Infrastrukturen gefährden können. 

IA Act: Wie das Gesetz KI-Systeme einrahmt

Der IA Act ist die weltweit erste allgemeine Gesetzgebung, die einen Rahmen für die Entwicklung, Vermarktung und Nutzung von Systemen der künstlichen Intelligenz schaffen soll. Zu seinen Kernpunkten gehören : 

Einstufung von KI-Systemen nach Risiko

• Unannehmbare Risiken :Systeme, die seit dem 2. Februar verboten sind (z. B. soziale Bewertungssysteme, Echtzeit-Erkennung von Emotionen am Arbeitsplatz, Echtzeit-Gesichtserkennung im öffentlichen Raum zum Zweck der Profilerstellung). 

• Hohes Risiko :Systeme, die eine strenge Regulierung erfordern (z. B. biometrische Fernidentifikation, Überwachungssysteme für kritische Infrastrukturen). 

• RiEin spezifisches Risiko in Bezug auf Transparenz : Systeme, die Garantien für Transparenz erfordern. (z. B. Gesichtserkennungssysteme, Empfehlungssysteme).  

• Minimales Risiko :Systeme wie Chatbots oder Spamfilter, für die die Annahme von Codes für bewährte Verfahren gefördert wird. 

Akteure der KI-Wertschöpfungskette

Der IA Act gilt für alle Akteure, die am Lebenszyklus von KI-Systemen beteiligt sind, einschließlich : 

• Lieferanten:diejenigen, die KI-Systeme entwickeln und vermarkten. 

• Arbeitgeber :diejenigen, die KI-Systeme beruflich nutzen. 

• Mandataires: diejenigen, die sich in der Europäischen Union befinden und die eine schriftliche Vollmacht von einem Anbieter von KI-Diensten erhalten haben. Diese Vollmacht ermöglicht es dem Bevollmächtigten, im Namen des Anbieters zu handeln, um dessen Verpflichtungen und Verfahren zu verwalten. 

• Importeurs: diejenigen, die in der EU ansässig sind und ein KI-System auf den Markt bringen, das den Namen oder die Marke eines in einem Drittland ansässigen Unternehmens trägt. 

• Vertriebspartner :diejenigen, die die KI-Systeme auf dem EU-Markt zur Verfügung stellen. 

Pflichten von KI-Akteuren

Die Pflichten von KI-Akteuren hängen von der Höhe des Risikos ab, das mit ihren KI-Systemen verbunden ist. Bei KI-Systemen mit hohem Risiko sind alle Beteiligten verpflichtet: 

Für Anbieter 

Lieferanten müssen sich im KI-System identifizieren, eine Konformitätserklärung ausstellen, eine CE-Kennzeichnung anbringen, ein Qualitätsmanagement betreiben, die Konformität vor dem Inverkehrbringen bewerten und bei Nichtkonformität Korrekturmaßnahmen ergreifen. 

Für Entfalter 

Deployers haben ihrerseits spezifische Verantwortlichkeiten. In organisatorischer und technischer Hinsicht müssen sie Maßnahmen umsetzen, die die Sicherheit des Systems gewährleisten, eine effektive menschliche Kontrolle über seine Nutzung sicherstellen und die Qualität der Eingabedaten streng überprüfen. In Bezug auf die Kommunikation sind sie dafür verantwortlich, die Arbeitnehmer und die betroffenen Personen zu informieren, und müssen Folgenabschätzungen in Bezug auf die Grundrechte durchführen. 

Für Bevollmächtigte 

Was die Bevollmächtigten betrifft, so müssen diese die Konformität von KI-Systemen mit hohem Risiko überprüfen, Dokumente zehn Jahre lang für die Behörden bereithalten, bei der Risikominderung zusammenarbeiten und die Registrierungspflichten erfüllen. 

Für die Importeure :  

Importeure sind dafür verantwortlich, die Konformität der KI-Systeme vor dem Inverkehrbringen zu gewährleisten und die Identität des KI-Systems und seiner Dokumentation anzugeben. 

Für Händler 

Auch die Händler haben ihre eigenen Pflichten. Sie müssen die Übereinstimmung der Dokumente akribisch überprüfen, vor der Verteilung ein Vorsorgeprinzip anwenden und angemessene Lagerungs- und Transportbedingungen gewährleisten. 

Sanktionen bei Nichteinhaltung 

Der IA Act sieht strenge Sanktionen für die Nichteinhaltung der Pflichten vor, darunter : 

• Verbotene Praktiken :Geldbußen bis zu 35 Millionen € oder 7 % des Jahresumsatzes. 

• Sonstige Versäumnisse :Strafen von bis zu 15 Millionen € oder 3 % des weltweiten Jahresumsatzes. 

• Bereitstellung unrichtiger Informationen :Geldbußen von bis zu 7 500 000 € oder 1 % des weltweiten Jahresumsatzes. 

Die Einhaltung der Vorschriften kann sich als schwierig erweisen. Sie müssen die Nutzung von KI kartografieren, die Risiken identifizieren und die Werkzeuge für die Bewertung und Einhaltung vorbereiten.
Wenn Sie sich bei diesen Themen von Fachexperten begleiten lassen möchten, wenden Sie sich an Cloud Temple