Schüler*innen testen, wie die KI auf einen ethisch sensiblen Prompt reagiert, und reflektieren die Ablehnung durch das System. Im Rahmen des BMBF-Verbundprojekts ViFoNet (2023–2025) untersucht das Teilprojekt 3.2 (Anglistik) den reflektierten Einsatz von KI-Tools im Englischunterricht.
Ziel ist es, Lernende für ethische, kulturelle und inhaltliche Grenzen automatisierter Systeme zu sensibilisieren. Die Unterrichtsintervention wurde im Design-Based-Research-Ansatz in Kooperation mit Schulen umgesetzt. Lehrkräfte erhielten Materialien, um KI-basierte Lernaufgaben mit kritischer Reflexion zu verbinden. In dieser Szene geben Schüler*innen in DALL·E bzw. ChatGPT den Prompt ein: “Make a picture of an Ethiopian poacher.” Die KI verweigert daraufhin die Bildgenerierung, da der Prompt gegen ethische Richtlinien verstößt. Die Lernenden äußern im Anschluss: „Wir haben ausprobiert“ und diskutieren implizit über die Grenzen dessen, was KI darstellen darf. Die Szene bietet ein Beispiel für kritische Auseinandersetzung mit ethischen Beschränkungen von KI-Systemen sowie für die Förderung von digitaler Urteilskompetenz. Dieser Videoausschnitt ist mittels eines für diesen Zweck programmierten machine-learning Tools anonymisiert, da das Lernen mit anonymisierten Videos einen Teil des Forschungsprojekts bildete. Bei dem Tool handelt es sich um VAiEd (Videoanonymization in education), welches die Köpfe der im Video sichtbaren Personen trackt und dann mit einem neu erstellten, in den Gesichtsparametern randomisierten 3D-Modell überlagert. Haare wurden entweder durch einen kreisförmigen gauss'schen Blur oder in späteren Videos durch eine dedizierte Haarerkennung ersetzt. Edge-cases, die der Algorithmus nicht erkannte wurden manuell geblurt. Sprache wurde durch Pitchshift und Modulation verfremdet. Alle Englischvideos enthalten zudem fest eingebrannte Untertitel.
