René Grensemann

    Was ist der EU AI Act?

    Eine verständliche Einführung für Unternehmen

    Künstliche Intelligenz (KI) verändert Geschäftsmodelle, Prozesse und ganze Branchen. Mit dem AI Act schafft die EU erstmals ein umfassendes Regelwerk für den sicheren und verantwortungsvollen Einsatz von KI. Doch was bedeutet das konkret für Unternehmen – vor allem für kleine und mittlere Betriebe?

    In diesem Beitrag erklären wir verständlich und praxisnah:

    • Was der AI Act regelt?
    • Wen betrifft er?
    • Welche Verpflichtungen entstehen?
    • Was Unternehmen jetzt tun sollten?

    1. Was ist der AI Act überhaupt?

    Der AI Act (EU-Verordnung 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Sein Ziel ist es, vertrauenswürdige KI zu fördern und die damit verbundenen Risiken für Menschen und Grundrechte zu minimieren. Außerdem soll die Verordnung Innovation in Europa ermöglichen.

    Die Verordnung ist verbindlich für alle Unternehmen, die KI-Systeme in der Europäischen Union entwickeln, anbieten oder nutzen. Dies gilt auch dann, wenn das Unternehmen seinen Sitz außerhalb der EU hat, aber seine KI-Produkte oder -Dienstleistungen auf dem EU-Markt anbietet oder deren Ergebnisse in der EU verwendet werden.

    Kernidee des AI Acts

    Der AI Act verfolgt einen risikobasierten Regulierungsansatz: Je höher das potenzielle Risiko eines KI-Systems für Menschen und ihre Grundrechte eingeschätzt wird, desto strenger sind die Anforderungen und Verpflichtungen, die Unternehmen erfüllen müssen.

    2. Wen betrifft der AI Act?

    Der AI Act hat einen breiten Anwendungsbereich und betrifft eine Vielzahl von Akteuren. Dazu gehören insbesondere:

    Wichtig: Auch die Nutzung von KI-Systemen, die von Dritten bereitgestellt werden (z.B. Chatbots, Scoring-Tools, Software für Personalanalysen), fallen unter die Regulierungspflichten des AI Acts. Es reicht also nicht, nur selbst entwickelte KI zu betrachten.

    3. Die vier Risikokategorien – und ihre Folgen

    Der AI Act stuft KI-Systeme in vier Risikokategorien ein, die jeweils unterschiedliche Konsequenzen für Unternehmen nach sich ziehen:

    Risikoklasse: Verboten

    Beispiele: Social Scoring durch Behörden, Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen (mit Ausnahmen), bestimmte Formen biometrischer Echtzeit-Fernidentifizierung im öffentlichen Raum.

    Konsequenzen für Unternehmen: Solche Systeme sind grundsätzlich nicht erlaubt und dürfen in der EU nicht eingesetzt oder in Verkehr gebracht werden.

    Risikoklasse: Hohes Risiko

    Beispiele: KI-Systeme in kritischen Infrastrukturen (z.B. Verkehr), KI in der medizinischen Diagnostik (MedTech-KI), Systeme zur Kreditwürdigkeitsprüfung (Kredit-Scoring), KI-Tools im Personalwesen (HR-Tools für Recruiting oder Leistungsbewertung), KI in der Strafverfolgung.

    Konsequenzen für Unternehmen: Hier gelten strenge Auflagen. Dazu gehören u.a. die Einrichtung eines Risikomanagementsystems, umfassende technische Dokumentation, Datenqualität und -Governance, menschliche Aufsicht, Transparenz gegenüber Nutzern, Cybersicherheit und die Registrierung in einer EU-Datenbank vor Inbetriebnahme.

    Risikoklasse: Begrenztes Risiko

    Beispiele: Chatbots, die mit Menschen interagieren, KI-Systeme, die Deepfakes erzeugen oder manipulieren (z.B. Stimm- oder Bildmanipulation).

    Konsequenzen für Unternehmen: Es besteht eine Transparenzpflicht. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren oder dass Inhalte KI-generiert oder -manipuliert sind. Bei Deepfakes muss die künstliche Erzeugung kenntlich gemacht werden.

    Risikoklasse: Minimales Risiko

    Beispiele: Die meisten derzeit gängigen KI-Anwendungen wie Spamfilter, KI-gestützte Empfehlungssysteme (z.B. in Online-Shops oder Streaming-Diensten), KI in Videospielen.

    Konsequenzen für Unternehmen: Für diese Systeme sieht der AI Act keine besonderen zusätzlichen Pflichten vor. Unternehmen werden jedoch ermutigt, freiwillige Verhaltenskodizes anzuwenden.

    4. Was Unternehmen jetzt tun sollten

    Um sich auf den AI Act vorzubereiten und Compliance sicherzustellen, sollten Unternehmen proaktiv handeln. Hier sind die wichtigsten Schritte:

    KI-Einsatz identifizieren & inventarisieren

    ✅ Verschaffen Sie sich einen Überblick: Welche KI-Systeme und -Tools werden in Ihrem Unternehmen bereits eingesetzt oder sind in Planung? Berücksichtigen Sie sowohl selbst entwickelte als auch von Dritten bezogene KI.

    Risikoklassifizierung vornehmen

    ✅ Bewerten Sie jedes identifizierte KI-System gemäß den Kategorien des AI Acts. Prüfen Sie insbesondere, ob eines Ihrer Systeme als „hochriskant“ eingestuft werden könnte. (Tipp: Eine Checkliste kann hier helfen – wir verlinken sie, sobald verfügbar!)

    Dokumentation & Governance aufbauen

    ✅ Beginnen Sie (insbesondere für Hochrisiko-KI) mit dem Aufbau der geforderten Dokumentation und Governance-Strukturen. Das umfasst Aspekte wie Datenqualität, Risikomanagement, menschliche Kontrolle, Transparenz und Cybersicherheit.

    Mitarbeitende schulen

    ✅ Sensibilisieren und schulen Sie Ihre Mitarbeitenden, insbesondere in relevanten Abteilungen wie HR, IT, Recht/Compliance, Einkauf und im Management, über die Anforderungen des AI Acts und den verantwortungsvollen Umgang mit KI.

    Auf dem Laufenden bleiben

    ✅ Der AI Act ist ein dynamisches Feld. Die genauen Anforderungen werden durch delegierte Rechtsakte, Durchführungsrechtsakte, Leitlinien der EU-Kommission und harmonisierte Normen sowie Gerichtsurteile weiter konkretisiert. Verfolgen Sie die Entwicklungen.

    5. Fazit

    Der EU AI Act ist kein fernes Zukunftsthema mehr – er ist Realität und die Übergangsfristen laufen bereits. Unternehmen, die KI einsetzen oder entwickeln, sollten ihn nicht als bloßes „Regulierungsmonster“ betrachten, sondern als eine Chance. Wer sich jetzt aktiv mit den Anforderungen auseinandersetzt und die notwendigen Maßnahmen ergreift, schafft nicht nur Rechtssicherheit, sondern auch Vertrauen bei Kunden, Geschäftspartnern und Aufsichtsbehörden. Dies kann zu einem wichtigen Wettbewerbsvorteil werden.

    Unser Tipp für den Start

    Beginnen Sie mit einer einfachen, aber gründlichen Risikoanalyse Ihrer aktuellen und geplanten KI-Anwendungen. Dies bildet die Grundlage für alle weiteren Schritte. Gerne unterstützen wir Sie dabei mit praxiserprobten Tools, maßgeschneiderten Schulungen und individueller Beratung, um den AI Act für Ihr Unternehmen handhabbar zu machen.

    Sichern Sie sich jetzt Ihren Platz!

    Begrenzte Plätze im Schulungskurs zur KI-Verordnung – inkl. Teilnahmebescheinigung.

    Jetzt zum Kurs anmelden

    Noch Fragen? Kontaktieren Sie uns – wir helfen Ihnen gerne weiter.