Seit Februar 2025 muss die europäische KI-Verordnung (AI Act) umgesetzt werden, das betrifft auch die Erwachsenenbildung. Einrichtungen stehen damit vor neuen Pflichten: Sie müssen KI-Kompetenzen ihrer Mitarbeiter:innen sicherstellen und haften im Fall von Problemen. Viele fragen sich nun: Bin ich schon Betreiber:in, nur weil ich KI im Unterricht einsetze? Welche Anwendungen sind verboten, wann wird KI zur Hochrisiko-Anwendung – und wer trägt jeweils die Verantwortung? Antworten darauf gibt Birgit Aschemann vom Institut CONEDU, Expertin für Digitalisierung und den AI Act in der Erwachsenenbildung.

Welche großen Herausforderungen bringt der AI Act für die Erwachsenenbildung?

Birgit Aschemann: Die größte Herausforderung ist, dass sich viele in der Erwachsenenbildung gar nicht betroffen fühlen. Doch sobald eine Person oder Organisation KI beruflich verwendet, ist sie laut KI-Verordnung „Betreiberin“ und hat eine Reihe von Pflichten.

Zur Veranschaulichung: Wenn eine Einrichtung beschließt, den Microsoft Copilot beruflich im Bildungskontext zu nutzen, wird sie damit rechtlich gesehen zur Betreiberin. Und damit ist eine Kompetenzverpflichtung verbunden: Wer mit KI arbeitet, braucht KI-Kompetenz, und die verantwortliche Einrichtung muss diese Kompetenz sicherstellen. Diese Verpflichtung gilt auch, wenn Trainer:innen einer Bildungseinrichtung in ihren Kursen KI einsetzen – und das ist sinnvoll. Dabei kommt es nicht darauf an, ob die Trainer:innen angestellt oder als freie Dienstnehmer:innen beschäftigt sind.

Welche KI-Kompetenzen müssen Bildungseinrichtungen sicherstellen?

Der AI Act schreibt hinsichtlich KI-Kompetenz keine einheitlichen Standards vor, sondern fordert „ausreichende KI-Kompetenz“ in Abhängigkeit von Rolle und Einsatzfeld (Art. 4). Programmplaner:innen benötigen andere Kompetenzen als Trainer:innen. Der AI Act verwendet dafür den Begriff „AI literacy“. Dazu gehören Kenntnisse über die Möglichkeiten und Grenzen von KI, ein Verständnis für Risiken und die Fähigkeit, Anwendungen sachkundig einzusetzen. Wer zum Beispiel ChatGPT nutzt, muss sich der Risiken wie Datenschutz, Bias oder fehlerhafte Ergebnisse etc. bewusst sein.

Bildungseinrichtungen müssen daher klären: Welche Chancen, Risiken und Gefahren gibt es durch den KI-Einsatz? Was heißt sachkundiger Einsatz im eigenen Kontext?

Betrifft die KI-Kompetenzpflicht auch Teilnehmer:innen von Kursen?

Der AI Act verpflichtet Bildungseinrichtungen in erster Linie, die KI-Kompetenz ihres Personals sicherzustellen. Im Gesetzestext ist zusätzlich von „anderen Personen, die mit der Nutzung befasst sind“ die Rede. Wer diese Personen sind, bleibt undefiniert. Manche, wie der deutsche KI-Campus, interpretieren darunter auch Schüler:innen und Studierende, also möglicherweise auch Kursteilnehmer:innen. Ich halte es für wahrscheinlich, dass sich diese Auffassung durchsetzt.

Wenn das so kompliziert ist – sollte man dann lieber die Finger von KI im Bildungsbereich lassen?

Ganz klar: Das können wir uns nicht leisten. Auch aus dem Internet können wir nicht einfach aussteigen. Zu sagen „Ich mache nichts mit KI“ geht heute nicht mehr. Natürlich gibt es viele Anforderungen, aber ähnlich war es auch bei der Datenschutzgrundverordnung: Da mussten sich alle erst einarbeiten. Und so kompliziert ist der AI Act nicht, solange es um die typische Situation eines Bildungsanbieters geht. Wir haben die wichtigsten Fragen gemeinsam mit Juristen gründlich durchgearbeitet und einen vierstündigen Workshop für die Erwachsenenbildung entwickelt.

„Zu sagen ‚Ich mache nichts mit KI‘
geht heute nicht mehr.“

Manche sagen, beim Kompetenz-Paragrafen gehe es nur darum, mit Schulungen Geld zu machen. Stimmt das?

Nein, das greift zu kurz. Der AI Act verpflichtet Bildungseinrichtungen ausdrücklich, die KI-Kompetenz ihres Personals sicherzustellen. Wenn sie das nicht tun, riskieren sie Haftungsprobleme – etwa, wenn durch unsachgemäßen KI-Einsatz Fehler oder Schäden entstehen. Deshalb bleibt es die Aufgabe des Bildungsanbieters, auch Trainer:innen entsprechend zu schulen. Das hat weniger mit Geschäftemacherei zu tun, sondern mit rechtlicher Verantwortung.

„Der AI Act verpflichtet Bildungseinrichtungen
ausdrücklich, die KI-Kompetenz
ihres Personals sicherzustellen.“

Muss die Nutzung von KI ausgewiesen werden?

Ich antworte hier mal für den typischen Fall von KI-generierten Texten: Wenn am Ende eine menschliche Kontrolle erfolgt, muss nicht extra gekennzeichnet werden, dass KI beteiligt war, zumindest nicht laut AI Act. Die eigentlichen Stolperfallen liegen beim Urheberrecht und vor allem beim Datenschutz. Ganz wichtig: Niemals personenbezogene oder sensible Daten in ein KI-Tool eingeben – wirklich niemals (wenn man nicht zu den Ausnahmen gehört, die über eine lokale KI verfügen). Dazu gehören auch Betriebs- und Geschäftsgeheimnisse. Bildungseinrichtungen müssen das ihren Trainer:innen einschärfen, und diese wiederum den Teilnehmer:innen. Die Österreichische Datenschutzbehörde hat zum Zusammenspiel von KI und Datenschutz eigene Fragen & Antworten veröffentlicht, die als Orientierung dienen.

Seit 2. Februar 2025 sind auch manche KI-Praktiken verboten. Welche davon betreffen den Bildungsbereich?

Eine verbotene Praktik im Bildungsbereich ist die Anwendung von KI-Systemen zur Emotionserkennung. Ich darf also in Seminarräumen oder Videokonferenzen keine KI anwenden, die erkennt, ob Lernende aufmerksam, gelangweilt oder nervös sind – auch wenn solche Technologien frei verfügbar sind. In der traditionellen Erwachsenenbildung in Österreich ist so etwas aber ohnehin nicht üblich.

Wann wird KI im Bildungsbereich zur Hochrisiko-Anwendung?

Der AI Act nennt dafür Systeme, die über die Zulassung zu Bildungseinrichtungen entscheiden, Lernergebnisse oder Bildungsniveaus bewerten, Bildungswege zuordnen oder Prüfungen überwachen. Würde also eine KI entscheiden, ob jemand den Pflichtschulabschluss erhält oder eine Deutschprüfung besteht, die für den Aufenthaltstitel entscheidend ist, dann ist das Hochrisiko. Solche Entscheidungen haben biografische Folgen, und da greift der AI Act schützend ein mit besonderen Auflagen hinsichtlich Dokumentation, Transparenz und menschlicher Aufsicht.

Für Hochrisiko-Anwendungen gelten besondere Auflagen wie Dokumentation, Transparenz oder
menschliche Aufsicht.

Sehen Sie im AI Act auch Chancen für die Erwachsenenbildung?

Ja, für mich ist der AI Act ein klarer Ruf nach Professionalisierung. KI ist da. Wenn wir uns keine Kompetenzen aneignen, überlassen wir das Feld den KI-Anbietern mit ihren Geschäftsinteressen und verspielen unsere Chance auf einen mündigen Umgang mit dieser mächtigen Technologie, die gerade einen echten Kulturwandel auslöst. Neulich sagte ein Bekannter zu mir: „Du brauchst Google nur mehr irgendeine Frage zu stellen, und schon kommt eine super Antwort.“ Das war ein gebildeter Mensch, aber er hat den Mechanismus nicht verstanden, und prompt hat er sich auf eine fehlerhafte Antwort verlassen. Sowas ist kein kompetenter Umgang mit KI und zeigt den Handlungsbedarf. Hier ist der Kompetenz-Paragraf wertvoll: Er fordert uns auf, KI zu nutzen – aber sachkundig, informiert und mit Risikobewusstsein.

Was raten Sie Bildungseinrichtungen ganz konkret?

Mein Rat: Schulen Sie Ihr Personal rasch in KI-Kompetenz. Und arbeiten Sie einen internen Leitfaden für Kursleiter:innen aus. Nichtstun ist da wirklich riskant. Außerdem gilt es, grundlegende KI-Kompetenz in der Bevölkerung zu verbreiten. Hier wartet ein großes Aufgabenfeld.

---

Weiterbildungen zum AI Act in der Erwachsenenbildung in Ö

---

Links und Quellen

• AI-Act, konsolidierte Fassung (Stand 2024)
• EBmooc 2025: KI-Workflows: Didaktik trifft Recht
• Rufesminar von CONEDU zum AI Act in der Erwachsenenbildung

Autorin: Irene Steindl

Lust auf mehr? Zu allen Beiträgen der Serie kommst du HIER!