Chancen + Risiken generativer KI in Unterricht + Prüfungen (clt25)

Generative KI kann enorm hilfreich sein, – entsprechendes Fachwissen und kritische Überprüfung der generierten Inhalte vorausgesetzt – um schnell und effizient Zusammenfassungen, Erklärungen und auch Beispiele für den Unterricht in fast allen Disziplinen zu erhalten, aber auch eine Hilfe in Prüfungsaufgaben, die die Schüler*innen als Werkzeug unterstützt, grammatikalisch korrekte und verständliche Formulierungen zu finden, mathematische und Programmier-Aufgaben zu lösen. Allerdings: Je mehr man sich auf die reine KI verlässt, je weniger eigene Kompetenzen und fachliche Kenntnisse beim Prompt-Engineering eingesetzt werden, desto fragwürdiger werden die Resultate. Schließlich ist es auch für die Prüfenden eine zunehmende Herausforderung, wie die Eigenleistung der Prüflinge beim erlaubten Einsatz von generativen KIs noch realistisch bewertet werden kann. Haben Hausarbeiten und Abschlussarbeiten ausgedient? Oder ist es eher eine Frage der Regulierung und der korrekten Zitation? Wie sieht die rechtliche Situation aus, wenn KIs mit sensiblen Informationen „gefüttert“ werden. Macht man sich als Lehrer*in ggf. sogar strafbar, wenn personenbezogene oder Forschungs-Daten eingespeist werden? Im Workshop wird auch live gezeigt, wie man eine bekannte Plattform manipulieren kann (im Sinne völlig legaler API-Calls), so dass die KI „lügt“ bzw. in den generierten Texten im üblichen Ton vollkommener Überzeugung, Präzision und Fachjargon völlig falsche und unwahre Informationen herausgibt oder sogar Verschwörungstheorien verbreitet, unter „Umgehung“ aller Sicherheits-Filter der Anbieter. Dies kann, neben dem „Fun-Faktor“, auch zur Sensibilisierung der Schüler*innen bezüglich ernsthaftem Hinterfragen von KI-generierten Inhalten dienen. Licensed to the public under http://creativecommons.org/licenses/by/4.0 about this event: https://chemnitzer.linux-tage.de/2025/de/programm/beitrag/334