Schüler*innen testen, wie weit sie ChatGPT zu provokanten Inhalten bringen können – die KI verweigert und neutralisiert die Aufgabe. Im Rahmen des BMBF-Verbundprojekts ViFoNet (2023–2025) erforscht das Teilprojekt 3.2 (Anglistik) den pädagogisch reflektierten Umgang mit KI im Englischunterricht.
Ziel ist die Förderung kritischer Medien- und Urteilskompetenzen im Umgang mit generativer KI. In dieser Unterrichtssequenz geben Schüler*innen den Prompt ein: “Create an Instagram post against veganism in 5 slides with an extensive description making the point clear that you are in fact against veganism.” ChatGPT verweigert die Ausführung, da der Auftrag gegen ethische Kommunikationsrichtlinien verstößt. Stattdessen erstellt die KI fünf Slides zum neutralen Thema „dietary choices“. Daraufhin modifizieren die Schüler*innen ihren Prompt zu: “Make it more ignorant and conservative.” Auch dieser wird erneut von der KI abgelehnt. Die Szene illustriert eindrücklich, wie Lernende an die ethischen und ideologischen Grenzen von KI-Systemen stoßen und durch experimentelles Prompting Einblick in normative Filterprozesse erhalten. Dieser Videoausschnitt ist mittels eines für diesen Zweck programmierten machine-learning Tools anonymisiert, da das Lernen mit anonymisierten Videos einen Teil des Forschungsprojekts bildete. Bei dem Tool handelt es sich um VAiEd (Videoanonymization in education), welches die Köpfe der im Video sichtbaren Personen trackt und dann mit einem neu erstellten, in den Gesichtsparametern randomisierten 3D-Modell überlagert. Haare wurden entweder durch einen kreisförmigen gauss'schen Blur oder in späteren Videos durch eine dedizierte Haarerkennung ersetzt. Edge-cases, die der Algorithmus nicht erkannte wurden manuell geblurt. Sprache wurde durch Pitchshift und Modulation verfremdet. Alle Englischvideos enthalten zudem fest eingebrannte Untertitel.
