Der EU AI-Act in der Bildung

Ab Februar 2025 müssen alle Bildungsorganisationen sicherstellen, dass ihr Personal KI-kompetent ist. Doch was bedeutet das genau? Welche Anforderungen stellt der EU AI Act an Lehrende, Organisationen und Lernende? Und wie kannst du dich optimal darauf vorbereiten?

Click here to display content from Spotify.
Learn more in Spotify’s privacy policy.

„Spotify Embed: #130 – Yvo Wüest – Was der EU AI Act für die Bildung bedeutet“ direkt öffnen

Insgesamt ein sehr interessanter podcast, da er für Mitarbeiter und Lernende in Bildungseinrichtungen klärt,
welche Anforderungen mit der Nutzung von KI verbunden sind.

Hier eine kurze Zusammenfassung:

Der EU AI Act ist die erste umfassende Regulierung für Künstliche Intelligenz (KI) in Europa1. Sein Ziel ist es, KI sicher, transparent und ethisch vertretbar zu gestalten1. Er richtet sich an Entwicklerinnen, Anwenderinnen und Organisationen1.

Der AI Act unterscheidet KI-Systeme in vier Risikoklassen1:

  1. Verbotene KI: Systeme wie Social Scoring (Bewertung von Menschen durch Algorithmen) oder manipulative Algorithmen (die unbewusst Verhalten beeinflussen)2.
  2. Hochrisiko-KI: Systeme für Bewerbungsgespräche oder Prüfungen2. Diese unterliegen strengeren Regeln, um Diskriminierung oder Fehlentscheidungen zu vermeiden2.
  3. Begrenztes Risiko: Chatbots oder Empfehlungssysteme2. Diese Systeme müssen klar erkennbar sein, damit Nutzende wissen, dass sie mit KI interagieren2.
  4. Minimales Risiko: Automatische Übersetzer oder Spamfilter2. Diese Tools bringen kaum Risiken für die Nutzer mit sich2.

Eine zentrale Verpflichtung des AI Acts, insbesondere in Artikel 4, ist die KI-Kompetenz1…. Vereinfacht gesagt, sagt der AI Akt klar: Menschen, die KI nutzen oder von ihr betroffen sind, müssen KI verstehen1….

Warum ist KI-Kompetenz im AI Act so zentral?

Der AI Act legt allgemeine Anforderungen an KI-Kompetenz für Anbieter und Betreiber von KI-Systemen fest2. Die zentrale Verpflichtung ist, dass alle relevanten Akteure, die mit KI-Systemen arbeiten oder diese betreiben, über ausreichende Kenntnisse und Fähigkeiten im Umgang mit diesen Technologien verfügen müssen1….

Drei Gründe werden dafür genannt4:

  1. Fundierte Entscheidungen treffen: Da KI in immer mehr Bereichen wie Studienberatung, Test-Scoring oder digitalen Lernplattformen genutzt wird, müssen Nutzende verstehen, wie sie funktioniert und welche Auswirkungen sie hat.
  2. Einhaltung der Verordnung sicherstellen: Ab 2025 müssen Bildungseinrichtungen nachweisen, dass sie KI-kompetent sind. Das betrifft Lehrende und Verwaltungspersonal.
  3. Innovation gezielt fördern: KI kann Lehr- und Lernprozesse verbessern, aber nur bei bewusstseinsorientiertem und kritischem Einsatz

Was genau bedeutet KI-Kompetenz (AI Literacy)?

Laut KI-Verordnung (Artikel 3) geht es um die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen ermöglichen, KI-Systeme sachkundig einzusetzen, sich der Chancen und Risiken bewusst zu werden und mögliche Schäden zu erkennen2. Der AI Act spricht von drei zentralen Dimensionen der KI-Kompetenz4:

  1. Grundverständnis von KI: Verstehen, wie KI funktioniert und wo ihre Grenzen liegen. Dieses Grundwissen ist die notwendige Grundlage für einen professionellen Einsatz und eine kritische Einordnung4.
  2. Kritische Reflexion: Sich mit ethischen, sozialen und rechtlichen Fragen auseinandersetzen, die sich im Umgang mit KI stellen4.
  3. Praktische Anwendung: Fähigkeit, KI-Tools im Alltag sinnvoll und sicher zu nutzen. Diese Kompetenzen sind kontextabhängig4. Es reicht nicht, nur mit KI zu arbeiten; man sollte die Technologie durchdringen und reflektieren können4. Bildungsfachleute benötigen technisches Wissen, Fähigkeit zur kritischen Bewertung von Chancen und Risiken sowie praktische Anwendungskompetenzen4.

Wer muss KI-kompetent sein? KI-Kompetenz geht alle an. Der AI Act richtet sich an…:

  • Lehrkräfte und Trainerinnen: Müssen KI-gestützte Lernangebote kritisch nutzen können4….
  • Verwaltung und Organisationen: Mitarbeitende müssen KI-Dienste korrekt einsetzen4….
  • Lernende und Studierende: Sollen nachvollziehen können, wie KI-basierte Entscheidungen entstehen5.

Was kann man tun, um KI-Kompetenz aufzubauen? Es gibt viele Möglichkeiten, KI-Kompetenz gezielt aufzubauen

  1. Einen ersten Überblick verschaffen (z.B. durch Blogbeiträge oder weiterführende Ressourcen)5.
  2. Online-Kurse oder Trainings besuchen (z.B. EU AI Act Essentials oder Workshops)5.
  3. Sich aktiv mit KI-Tools auseinandersetzen und experimentieren (z.B. ChatGPT, Bildgenerierungsapps)5.
  4. Über KI diskutieren (mit Kollegen, im Team)3….
  6. KI-Kompetenz langfristig aufbauen und Weiterbildung planen3.

Obwohl die nationale Umsetzung des EU AI Acts noch aussteht, sollten sich Bildungsorganisationen proaktiv vorbereiten, um den sicheren und verantwortungsvollen Einsatz von KI zu garantieren3. Der AI Act sollte als Chance genutzt werden, KI sinnvoll und reflektiert einzusetzen3. KI wird nicht verschwinden, daher ist jetzt der richtige Zeitpunkt, sie souverän zu nutzen3. Nur Bildungsorganisationen, die KI-Kompetenz gezielt fördern, sind zukunftsfähig3.

Ähnliche Beiträge