Mit der EU-KI-Verordnung (EU AI Act) schafft die Europäische Union erstmals einen umfassenden Rechtsrahmen für den Einsatz von Künstlicher Intelligenz. Ziel ist es, Innovation zu fördern und gleichzeitig Sicherheit, Transparenz sowie den Schutz der Grundrechte zu gewährleisten. Der AI Act betrifft Unternehmen und Organisationen, die KI-Systeme entwickeln, anbieten oder nutzen, und wird seit Februar 2025 schrittweise eingeführt. Der Grossteil der Vorschriften tritt ab dem 2. August 2026 in Kraft, die vollständige Umsetzung erfolgt bis 2027.
Nachfolgend eine Zusammenfassung aus dem Bericht «Generative AI and the EUDPR»[1] der EUC
Generative Künstliche Intelligenz (KI) wie z. B. ChatGPT und Copilot oder spezialisierte KI-Systeme eröffnet für Erasmus+ Projekte zahlreiche Möglichkeiten: von der Erstellung von Lernmaterialien über Übersetzungen bis hin zur Unterstützung bei Projektmanagement, Kommunikation und Evaluation. Gleichzeitig müssen Projektträger, Bildungseinrichtungen und Projektpartner sicherstellen, dass der Einsatz solcher Systeme mit den geltenden europäischen Vorschriften vereinbar ist. Insbesondere die EU-KI-Verordnung sowie die Datenschutz-Grundverordnung (DSGVO) sind dabei zu berücksichtigen.
Ein zentraler Grundsatz besteht darin, vor dem Einsatz einer KI-Anwendung den konkreten Zweck festzulegen. Es muss klar definiert werden, wofür die KI eingesetzt wird, welche Daten verarbeitet werden und wer dafür verantwortlich ist. Die Verantwortlichkeiten zwischen Projektträger, KI-Anbieter und weiteren Beteiligten sollten dokumentiert werden. Ebenso ist zu prüfen, auf welcher rechtlichen Grundlage personenbezogene Daten verarbeitet werden.
Besondere Aufmerksamkeit erfordert der Datenschutz. Werden personenbezogene Daten von Teilnehmenden, Lehrpersonen, Mitarbeitenden oder Projektpartnern in KI-Systeme eingegeben, handelt es sich in der Regel um eine Datenverarbeitung im Sinne der DSGVO. Daher sollten nur die tatsächlich notwendigen Daten verwendet werden. Nach Möglichkeit sind anonymisierte oder synthetische Daten zu bevorzugen. Sensible Informationen sollten grundsätzlich nicht in öffentliche KI-Dienste eingegeben werden, sofern deren Verarbeitung nicht ausdrücklich geprüft und freigegeben wurde.
Darüber hinaus müssen Betroffene transparent darüber informiert werden, wenn ihre Daten im Zusammenhang mit KI-Anwendungen verarbeitet werden. Dies betrifft insbesondere Chatbots, automatische Übersetzungsdienste oder Systeme zur Analyse von Dokumenten. Teilnehmende und Mitarbeitende sollen nachvollziehen können, welche Daten verarbeitet werden, zu welchem Zweck dies geschieht und welche Rechte ihnen zustehen.
Die EU-KI-Verordnung verfolgt einen risikobasierten Ansatz. Je stärker ein KI-System in Entscheidungsprozesse eingreift, desto höher sind die Anforderungen. Besonders kritisch sind Anwendungen, die Personen bewerten, auswählen oder automatisiert Entscheidungen mit Auswirkungen auf ihre Rechte treffen. In Erasmus+ Projekten sollte daher sichergestellt werden, dass wichtige Entscheidungen weiterhin von Menschen überprüft und verantwortet werden. KI darf unterstützen, sollte aber nicht die alleinige Entscheidungsinstanz sein.
Ein weiterer wichtiger Aspekt ist die Qualität und Zuverlässigkeit der Ergebnisse. Generative KI kann fehlerhafte oder erfundene Inhalte («Halluzinationen») erzeugen. Deshalb sollten KI-generierte Texte, Übersetzungen, Analysen oder Empfehlungen stets fachlich geprüft werden. Dies gilt insbesondere für Berichte, Forschungsergebnisse, Lernmaterialien und offizielle Projektdokumente.
Schliesslich sind auch Anforderungen an Informationssicherheit und Risikomanagement zu beachten. Organisationen sollten geeignete technische und organisatorische Massnahmen etablieren, Risiken regelmässig bewerten und Mitarbeitende für den verantwortungsvollen Umgang mit KI sensibilisieren. Bei Anwendungen mit erhöhtem Risiko kann zudem eine Datenschutz-Folgenabschätzung erforderlich sein.
Fazit
Generative KI kann Erasmus+ Projekte erheblich unterstützen, wenn ihr Einsatz verantwortungsvoll erfolgt. Entscheidend sind klare Zwecke, Datenschutz, Transparenz, menschliche Aufsicht, Qualitätskontrollen und die Beachtung der Vorgaben aus der KI-Verordnung und der DSGVO. So lassen sich die Potenziale der Technologie nutzen, ohne die Rechte und Freiheiten der Beteiligten zu gefährden.
Hilfreiche Links
Dokument «Generative AI and the EUDPR» der EUC
Orientierungsleitfaden zur KI-Nutzung in Erasmus+ und zu den Schwerpunkten der KI-Verordnung
[1] European Data Protection Supervisor, 2025: Generative AI and the EUDPR. Orientations for ensuring data protection compliance when using Generative AI systems. Version 2 – 2025-10-28. edps.europa.eu.
