Was ist KI, und warum reguliert die EU sie?

Stand: 27.09.2026. Die KI-Verordnung gilt in der Fassung der Verordnung (EU) 2026/1744 („AI Omnibus", in Kraft seit 27.07.2026); das deutsche Durchführungsgesetz KI-MIG gilt seit 29.07.2026. Prüf das Datum, wenn du diese Lektion später liest.

Lernziele

Nach dieser Lektion kannst du:

Was ist Künstliche Intelligenz?

Künstliche Intelligenz (KI) bezeichnet Computersysteme, die Aufgaben erledigen, für die normalerweise menschliche Intelligenz nötig wäre: Texte verstehen und schreiben, Bilder erkennen oder erzeugen, Sprache übersetzen, Muster in Daten finden, Empfehlungen geben. Die EU-KI-Verordnung definiert ein KI-System als ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie arbeitet und aus Eingaben ableitet, welche Ausgaben es erzeugt, etwa Texte, Empfehlungen oder Entscheidungen (Art. 3 Nr. 1 KI-VO).

Die heute bekanntesten KI-Werkzeuge sind sogenannte generative KI-Systeme: ChatGPT, Microsoft Copilot, Google Gemini oder Claude erzeugen Texte; Midjourney oder Adobe Firefly erzeugen Bilder; DeepL übersetzt. Diese Systeme wurden mit riesigen Datenmengen trainiert und berechnen daraus, welche Antwort statistisch am wahrscheinlichsten passt. Das ist wichtig zu verstehen: Ein Sprachmodell „weiß" nichts im menschlichen Sinn. Es sagt das jeweils plausibelste nächste Wort voraus. Deshalb klingen seine Antworten fast immer überzeugend, sind aber nicht immer richtig.

Praxisbeispiel: Eine Bürokauffrau in einem Großhandelsbetrieb bittet ChatGPT, eine Mahnung zu formulieren. Das Ergebnis ist sprachlich tadellos, aber das Werkzeug hat eine Verzugszinsregelung „erfunden", die so nicht im Gesetz steht. Wer das ungeprüft verschickt, macht den Fehler des Werkzeugs zum Fehler des Unternehmens.

Warum reguliert die EU Künstliche Intelligenz?

Die EU hat mit der Verordnung (EU) 2024/1689, der „KI-Verordnung" oder englisch „AI Act", das weltweit erste umfassende KI-Gesetz geschaffen. Es ist am 1. August 2024 in Kraft getreten und gilt schrittweise. Die Beweggründe:

  1. Schutz von Grundrechten: KI kann diskriminieren (etwa wenn ein Bewerbungsfilter bestimmte Gruppen systematisch benachteiligt), manipulieren oder überwachen. Die EU will verhindern, dass Menschen zum Objekt undurchschaubarer Maschinenentscheidungen werden.
  2. Sicherheit: KI steckt zunehmend in Produkten und Prozessen, von der Maschinensteuerung bis zur Kreditvergabe. Fehler können dort echten Schaden anrichten.
  3. Vertrauen und Binnenmarkt: Einheitliche Regeln in allen 27 Mitgliedstaaten schaffen Rechtssicherheit. Unternehmen sollen KI einsetzen können, ohne 27 verschiedene nationale Gesetze beachten zu müssen, und Verbraucher sollen KI vertrauen können.
  4. Transparenz: Menschen sollen wissen, wann sie es mit KI zu tun haben, ob im Chat mit einem Kundenservice-Bot oder bei einem täuschend echten KI-Bild.

Der Ansatz der Verordnung ist risikobasiert: Je größer das Risiko einer KI-Anwendung für Menschen, desto strenger die Regeln. Harmlose Anwendungen bleiben weitgehend frei, gefährliche Praktiken sind ganz verboten. Die Details lernst du in Lektion 2 und 3.

Warum betrifft das dein Unternehmen?

Ein verbreiteter Irrtum lautet: „Wir entwickeln doch keine KI, uns betrifft das Gesetz nicht." Das ist falsch. Die KI-Verordnung unterscheidet zwischen Anbietern (die KI-Systeme entwickeln und auf den Markt bringen) und Betreibern (engl. „deployer"), die KI-Systeme beruflich in eigener Verantwortung nutzen (Art. 3 Nr. 4 KI-VO). Sobald dein Unternehmen ChatGPT für Angebote, DeepL für Übersetzungen oder einen KI-Chatbot auf der Website nutzt, ist es Betreiber, mit eigenen Pflichten.

Die wichtigste Pflicht gilt schon seit dem 2. Februar 2025: Nach Art. 4 KI-VO müssen Unternehmen die KI-Kompetenz ihrer Mitarbeitenden mit angemessenen Maßnahmen fördern. Diese Schulung ist eine solche Maßnahme. Seit der Änderungsverordnung (EU) 2026/1744 („AI Omnibus", in Kraft seit 27. Juli 2026) ist das ausdrücklich eine Bemühens- und keine Erfolgspflicht — nachweisen müssen Unternehmen ihre Maßnahmen aber weiterhin. Die Transparenz- und Kennzeichnungspflichten (Art. 50) gelten seit dem 2. August 2026.

Praxisbeispiel: Ein Handwerksbetrieb mit zwölf Mitarbeitenden nutzt eine KI, um aus Aufmaß-Notizen Angebote zu erstellen. Damit ist er Betreiber im Sinne der KI-VO. Die Mitarbeitenden brauchen das nötige Wissen dafür, etwa durch eine Schulung; die Ergebnisse müssen geprüft werden, und es muss klar geregelt sein, welche Kundendaten in das Werkzeug dürfen.

Merksätze

- KI sagt das Wahrscheinlichste voraus, nicht das Richtige. Jedes Ergebnis muss von einem Menschen geprüft werden. - Auch reine Nutzung macht dich zum „Betreiber" mit eigenen Pflichten nach der KI-Verordnung. - Die Pflicht zur KI-Kompetenz (Art. 4 KI-VO) gilt bereits. Diese Schulung ist ein Teil davon. - Die EU reguliert nicht die Technik, sondern das Risiko: Je riskanter die Anwendung, desto strenger die Regeln.

Quellen