DGB 4: Grenzen und Möglichkeiten von Künstlicher Intelligenz
1.1 Lernziele
- erklären, was Künstliche Intelligenz, maschinelles Lernen und generative KI bedeuten.
- typische Anwendungen von KI im Alltag, in der Schule und in der Arbeitswelt beschreiben.
- Möglichkeiten von KI in Medizin, Verkehr, Übersetzung, Barrierefreiheit und Umweltbeobachtung erläutern.
- Grenzen von KI bei Kontextverständnis, Empathie, Verantwortungsübernahme und seltenen Ausnahmesituationen benennen.
- Fehlerquellen wie Datenlücken, Verzerrungen, Black-Box-Effekte und überzeugend klingende Falschaussagen erkennen.
- KI-Ergebnisse mit Quellen, Fachwissen und menschlichem Urteil überprüfen.
- Chancen und Risiken von KI für Datenschutz, Fairness, Arbeit, Kreativität und Demokratie diskutieren.
- Regeln für einen sicheren, fairen und verantwortungsvollen KI-Einsatz formulieren.
1.2 Lerninhalte
Die Lerninhalte führen von alltagsnahen Anwendungen zu komplexeren Fragen nach Datenqualität, Transparenz, Macht und Verantwortung, sodass Lernende Möglichkeiten und Grenzen künstlicher Intelligenz als zusammenhängendes Spannungsfeld verstehen und nicht als bloße Liste von Vorteilen und Nachteilen.
Was Künstliche Intelligenz ist
Ein tragfähiges Verständnis von KI entsteht erst dann, wenn deutlich wird, dass diese Systeme keine Menschen nachbilden, sondern statistische Muster aus Daten verarbeiten und daraus Wahrscheinlichkeiten, Entscheidungen, Empfehlungen oder neue Inhalte ableiten. Künstliche Intelligenz bezeichnet Systeme, die Aufgaben übernehmen, für die sonst menschliche Intelligenz nötig scheint, etwa Erkennen, Vorhersagen, Übersetzen, Sortieren oder Generieren. Für den Unterricht besonders relevant ist die schwache KI, also auf einzelne Aufgaben spezialisierte Systeme; eine allgemeine starke KI bleibt weiterhin theoretisch. Maschinelles Lernen nutzt Daten zum Mustererkennen, neuronale Netze modellieren komplexe
Zusammenhänge, und generative KI erzeugt Texte, Bilder, Audio oder Code auf Basis erlernter Wahrscheinlichkeiten. Begriffe Daten, Training, Modell, Muster, Prompt, Ausgabe, Wahrscheinlichkeit, Feedback.
Möglichkeiten von KI
Die Möglichkeiten von KI zeigen sich besonders dort, wo große Datenmengen schnell analysiert, wiederkehrende Aufgaben automatisiert oder individuelle Unterstützung bereitgestellt werden kann, etwa beim Lernen, Übersetzen, Erkennen, Planen oder Barrierefreiheit herstellen. KI kann medizinische Bilder auswerten, Verkehrsflüsse steuern, Texte übersetzen, Auffälligkeiten in Sensordaten erkennen und personalisierte Unterstützung bereitstellen. Sie hilft beim Filtern großer Datenmengen, beim Auffinden von Mustern und beim schnellen Erzeugen von Entwürfen. In Lernumgebungen kann sie etwa Fragen auf verschiedenen Niveaus formulieren, Zusammenfassungen erstellen, Schreibprozesse begleiten oder Inhalte sprachlich vereinfachen. Für Menschen mit Beeinträchtigungen können Untertitel, Sprachsteuerung, Texterkennung oder intelligente Assistenzsysteme den Zugang zu digitalen Angeboten verbessern. Konkrete Beispiele machen den Nutzen greifbar: Ein Übersetzungstool hilft beim Verstehen eines fremdsprachigen Textes, ein Navigationssystem berechnet Staus in Echtzeit, ein Spamfilter sortiert unerwünschte Nachrichten aus, eine Diagnose-KI markiert verdächtige Bereiche in Bilddaten, und ein Umweltmonitoring-System erkennt Veränderungen auf Satellitenbildern schneller als ein Mensch. Gerade bei Routineaufgaben, riesigen Datenmengen und Mustererkennung kann KI Tempo, Genauigkeit und Reichweite deutlich erhöhen. Beispiele Übersetzung, Diagnose, Navigation, Spamfilter, Untertitel, Lernhilfe, Verkehrssteuerung, Umweltmonitoring. Chancen Tempo, Mustererkennung, Personalisierung, Barrierefreiheit, Entlastung, Skalierung, Unterstützung, Zugänglichkeit.
Technische Grenzen von KI
Grenzen werden sichtbar, sobald Daten lückenhaft, Situationen neu, Entscheidungen folgenreich oder menschliche Fähigkeiten wie Empathie, Verantwortungsbewusstsein und tiefes Kontextverständnis gefragt sind, denn dann reichen statistische Muster allein oft nicht aus. KI ist stark von ihren Trainingsdaten abhängig. Sind diese zu klein, einseitig, veraltet oder fehlerhaft, entstehen ungenaue oder verzerrte Ergebnisse. Generative Systeme können außerdem sehr überzeugend formulieren und dabei dennoch Fakten erfinden, Quellen verwechseln oder falsche Zusammenhänge herstellen. Solche Systeme besitzen kein menschliches Weltverständnis, sondern berechnen wahrscheinliche Ausgaben auf Basis vorher gelernter Muster. Ein weiteres Problem ist die Erklärbarkeit. Manche KI-Modelle liefern zwar ein Ergebnis, doch
der genaue Weg dorthin bleibt für Nutzende schwer nachvollziehbar. Das ist besonders kritisch, wenn Entscheidungen Menschen betreffen, etwa bei Bewerbungen, Kreditvergaben, Diagnosen oder schulischen Bewertungen. In seltenen oder unerwarteten Situationen kann KI versagen, weil ihr Erfahrungsraum an die vorhandenen Daten gebunden ist. Genau deshalb bleibt menschliche Aufsicht notwendig. Grenzen Datenlücken, Verzerrungen, Black Box, Kontextmangel, Ausreißer, Fehlmuster, Falschaussagen, Überanpassung.
Gesellschaftliche und ethische Grenzen
Gesellschaftliche Fragen rücken in den Vordergrund, wenn KI über Menschen mitentscheidet, Aufmerksamkeit lenkt, Daten sammelt oder bestehende Ungleichheiten verstärkt, weil technische Systeme nie losgelöst von Interessen, Regeln, Machtverhältnissen und Grundrechten wirken. Wenn Trainingsdaten Vorurteile enthalten, kann KI diese Vorurteile verstärken. Ein System könnte bestimmte Gruppen benachteiligen, weil es aus einseitigen Beispielen gelernt hat. Ebenso wichtig ist der Datenschutz: Viele KI-Systeme benötigen große Datenmengen, und je mehr persönliche Daten verarbeitet werden, desto größer wird das Risiko für Überwachung, Missbrauch oder ungewollte Profilbildung. Auch kreative Bereiche sind betroffen, weil Fragen nach Urheberrecht, Kennzeichnung und Originalität entstehen, wenn KI Texte, Bilder oder Musik erzeugt. Hinzu kommen Folgen für Schule, Beruf und Öffentlichkeit. KI kann Arbeit erleichtern und neue Tätigkeiten schaffen, aber auch Aufgaben verdrängen oder Erwartungen an ständige Verfügbarkeit erhöhen. Die Europäische Union ordnet KI deshalb nach Risikostufen ein und verbietet bestimmte Praktiken, darunter schädliche Manipulation, Social Scoring und Emotionserkennung in Bildungseinrichtungen. UNESCO betont ergänzend Transparenz, Fairness, Rechenschaft und menschliche Aufsicht als zentrale Leitlinien für einen verantwortungsvollen Einsatz. Fragen Fairness, Datenschutz, Überwachung, Urheberrecht, Macht, Arbeit, Verantwortung, Teilhabe.
Menschliche Verantwortung und kritische Nutzung
Verantwortungsvoller Umgang mit KI bedeutet, Ergebnisse nicht als endgültige Wahrheit zu behandeln, sondern sie mit Fachwissen, Quellenprüfung und menschlicher Abwägung zu verbinden, besonders dort, wo Fehler reale Folgen für Menschen haben. KI sollte deshalb als Werkzeug verstanden werden, nicht als letzte Instanz. Eine Lehrkraft beurteilt weiterhin Lernfortschritte, ein Arzt entscheidet nicht allein auf Basis eines Modells, und in rechtlichen oder sozialen Konflikten darf Verantwortung nicht an eine Maschine abgegeben werden. Gute Nutzung bedeutet, Antworten zu prüfen, mit anderen Quellen zu vergleichen, Grenzen offen zu benennen und bei Unsicherheit menschliche Expertise einzubeziehen. OECD und NIST betonen genau diese Punkte: sichere Systeme, dokumentierte Wissensgrenzen, klare Rollen und wirksame menschliche Aufsicht.
Leitideen prüfen, vergleichen, hinterfragen, kennzeichnen, überwachen, begrenzen, korrigieren, verantworten.
Leitfragen zur Reflexion im Unterricht
Für die Reflexion im Unterricht ist entscheidend, dass Lernende konkrete Fragen an KI-Systeme stellen, denn erst durch gezieltes Prüfen von Herkunft, Zweck, Datenbasis und Folgen wird aus Nutzung echte Urteilsfähigkeit. Sinnvolle Reflexionsfragen sind zum Beispiel: Woher könnten die Daten stammen? Für welchen Zweck wurde das System entwickelt? Wer profitiert von seinem Einsatz? Welche Menschen könnten benachteiligt werden? Lässt sich das Ergebnis überprüfen? Welche Fehler wären harmlos, welche schwerwiegend? Gibt es eine transparentere oder fairere Alternative? Solche Fragen helfen dabei, KI nicht nur technisch, sondern auch sozial und ethisch zu bewerten. Prüffragen Datenbasis, Zweck, Quelle, Transparenz, Folgen, Kontrolle, Alternative, Verantwortung.
1.4 Aufgaben für den Unterricht
1.4.1 KI-Antworten prüfen und bewerten
Sorgfältige Überprüfung erzeugter Antworten stärkt fachliches Lernen besonders wirksam, weil Lernende Fehler entdecken, Begründungen einfordern, Quellen prüfen und dadurch verstehen, dass überzeugende Formulierungen nicht automatisch richtige oder faire Aussagen bedeuten. Die Klasse erhält mehrere von einer KI erzeugte Antworten zu einem fachlich überschaubaren Thema, etwa Ernährung, Klimawandel, Geschichte eines Ereignisses oder Bewerbungsschreiben. Die Antworten sollen bewusst unterschiedlich gut sein: eine weitgehend korrekt, eine ungenau, eine mit erfundenen Details, eine mit problematischen
Verallgemeinerungen. Die Schülerinnen und Schüler arbeiten zunächst einzeln und markieren Aussagen, die sie für sicher, unsicher oder falsch halten. Danach vergleichen sie ihre Einschätzungen in Partnerarbeit und begründen Abweichungen. Anschließend werden verlässliche Quellen herangezogen, um die Aussagen systematisch zu überprüfen. Zum Schluss entwickelt die Klasse gemeinsame Kriterien für den Umgang mit KI-Texten. Didaktisch stark ist die Aufgabe, weil sie Fehlvorstellungen sichtbar macht, sofortige Rückmeldung ermöglicht und fachliche Genauigkeit mit Medienkritik verbindet. Lernende erfahren, dass KI-Ausgaben überprüft werden müssen und dass Quellenkompetenz, Vorwissen und Begründungsfähigkeit unverzichtbar bleiben. Ziele Quellenkritik, Fehlererkennung, Urteilsbildung, Reflexion Material KI-Texte, Quellenblatt, Markierstifte, Endgerät Sozialform Einzelarbeit, Partnerarbeit, Plenum Ablauf markieren, vergleichen, prüfen, begründen, sichern Auswertung Kriterienliste, Tafelbild, Kurzreflexion Differenzierung Hilfekarten, Zusatztexte, Anspruchsstufen, Rollenhilfe
1.4.2 Mensch und KI im Vergleich
Der direkte Vergleich zwischen menschlichen und KI-erzeugten Lösungen macht Stärken und Schwächen beider Seiten sichtbar und fördert tiefes Lernen, weil Unterschiede in Kreativität, Genauigkeit, Empathie, Kontextverständnis und Verantwortung konkret erfahrbar werden. Die Lernenden bearbeiten dieselbe Aufgabe auf zwei Wegen: zuerst selbstständig, dann mit Unterstützung einer KI oder anhand vorbereiteter KI-Ergebnisse. Geeignet sind zum Beispiel das Schreiben eines Infotextes, das Formulieren eines Elternbriefs, das Erstellen einer Produktbeschreibung oder das Entwickeln einer Lösung für ein Alltagsproblem. Anschließend vergleichen die Schülerinnen und Schüler beide Ergebnisse mit einem Kriterienraster. Bewertet werden etwa Verständlichkeit, sachliche Richtigkeit, Zielgruppenbezug, Originalität, Angemessenheit und Nachvollziehbarkeit. In einer Reflexionsphase klären sie, wann KI hilfreich ist und wann menschliches Denken überlegen bleibt. Die Aufgabe erzeugt einen hohen Lernertrag, weil nicht abstrakt über KI gesprochen wird, sondern konkrete Produkte miteinander verglichen werden. Dadurch lernen Schülerinnen und Schüler, KI als Werkzeug mit Grenzen zu betrachten und eigene Kompetenzen realistischer einzuschätzen. Ziele Vergleichskompetenz, Selbstreflexion, Qualitätsbewusstsein, Bewertung Material Aufgabenblatt, Raster, Schreibmaterial, Endgerät Sozialform Einzelarbeit, Gruppenarbeit, Plenum Ablauf erstellen, vergleichen, bewerten, diskutieren, reflektieren Auswertung Vergleichsbogen, Blitzlicht, Lerntagebuch Differenzierung Satzstarter, Rasterhilfe, Wahlaufgaben, Expertengruppen
1.4.3 Fallanalyse zu Fairness und Verzerrung
An konkreten Fallbeispielen zu Benachteiligung und Datenverzerrung entwickeln Lernende ein belastbares Verständnis dafür, dass KI-Systeme gesellschaftliche Ungleichheiten nicht neutral abbilden, sondern verstärken können, wenn Datengrundlagen, Ziele oder Kontrollmechanismen problematisch sind. Die Klasse untersucht kurze Fallbeispiele, etwa automatische Bewerberauswahl, Gesichtserkennung, personalisierte Werbung, Kreditbewertung oder Empfehlungssysteme in sozialen Netzwerken. Jede Gruppe analysiert einen Fall anhand von Leitfragen: Welche Daten könnten verwendet worden sein? Wer profitiert? Wer könnte benachteiligt werden? Wo liegen Risiken? Welche Schutzmaßnahmen wären sinnvoll? Danach werden die Ergebnisse in einem Galeriegang präsentiert. Abschließend formuliert die Klasse Regeln für faire und verantwortungsvolle KI-Nutzung. Besonders lernwirksam ist diese Aufgabe, weil sie technische Aspekte mit ethischer und gesellschaftlicher Reflexion verbindet. Die Lernenden üben Perspektivenübernahme, erkennen Interessenkonflikte und lernen, dass digitale Systeme nicht wertfrei sind. Ziele Perspektivenwechsel, Fairnessbewusstsein, Problemanalyse, Urteilsfähigkeit Material Fallkarten, Leitfragen, Plakate, Moderationskarten Sozialform Gruppenarbeit, Galeriegang, Plenum Ablauf lesen, analysieren, dokumentieren, präsentieren, ableiten Auswertung Regelkatalog, Wandplakat, Feedbackrunde Differenzierung einfache Fälle, Leitfragenhilfe, Rollenverteilung, Zusatzauftrag
1.4.4 Debatte zur Verantwortung
Eine strukturierte Debatte fördert nachhaltiges Lernen, weil Argumente gesammelt, gewichtet und auf Gegenargumente bezogen werden müssen, wodurch fachliches Wissen, sprachliche Präzision und reflektierte Haltungen zum Einsatz von KI zusammengeführt werden. Die Lerngruppe debattiert eine zugespitzte Leitfrage, etwa: „Soll KI in Schulen zur Leistungsbewertung eingesetzt werden?“ oder „Dürfen Unternehmen Bewerbungen durch KI vorsortieren?“ Zunächst sammeln die Schülerinnen und Schüler Argumente pro und contra auf Basis von Beispielen, Quellen und eigenen Erfahrungen. Danach bereiten zwei Gruppen ihre Positionen vor, während eine dritte Gruppe als Beobachtungsteam Kriterien für faire, sachliche und gut begründete Argumentation erhält. Nach der Debatte werden starke Argumente, offene Fragen und notwendige Schutzmaßnahmen gemeinsam gesichert. Die Aufgabe hat hohe Lerntiefe, weil Fachwissen nicht bloß wiedergegeben, sondern in Entscheidungssituationen angewendet wird. Zugleich stärkt sie demokratische Gesprächskultur, Perspektivenübernahme und das Abwägen zwischen Nutzen, Risiken und Grundrechten. Ziele Argumentation, Abwägung, Urteilsbildung, Gesprächskultur Material Leitfrage, Argumentkarten, Quellen, Beobachtungsbogen Sozialform Gruppenarbeit, Debatte, Plenum Ablauf sammeln, ordnen, vorbereiten, debattieren, auswerten Auswertung Protokoll, Abstimmung, Reflexionsbogen Differenzierung Rollenhilfe, Satzstarter, Argumentkärtchen, Beobachterrolle
1.4.5 Prompting und Ergebnisqualität untersuchen
Die gezielte Veränderung von Eingaben zeigt besonders eindrücklich, wie stark KI-Ergebnisse von Formulierungen, Vorgaben und Kontext abhängen, und unterstützt damit ein tiefes Verständnis für Chancen, Steuerbarkeit und Grenzen generativer Systeme. Die Schülerinnen und Schüler erhalten eine Ausgangsfrage, zum Beispiel zur Erklärung eines Fachbegriffs, zur Erstellung eines Werbetexts oder zur Planung eines Ausflugs. Danach formulieren sie mehrere Varianten des Prompts: sehr ungenau, genauer, mit Zielgruppe, mit Stilvorgabe, mit Quellenaufforderung, mit Einschränkungen. Die entstehenden KI-Ergebnisse werden verglichen und nach Qualität, Genauigkeit, Passung und Transparenz beurteilt. Anschließend formulieren die Lernenden Regeln für gute Eingaben und reflektieren, warum selbst gute Prompts keine Garantie für richtige Inhalte bieten. Der hohe Lerneffekt entsteht dadurch, dass Lernende aktiv experimentieren und unmittelbare Auswirkungen ihrer Eingaben beobachten. So wird deutlich, dass KI weder autonom „versteht“ noch verlässlich „weiß“, sondern stark auf Anleitung und Kontrolle angewiesen ist. Ziele Steuerungskompetenz, Sprachpräzision, Qualitätsbewertung, Reflexion Material Promptkarten, Endgerät, Bewertungsraster, Arbeitsblatt Sozialform Partnerarbeit, Kleingruppe, Plenum Ablauf variieren, testen, vergleichen, bewerten, ableiten Auswertung Promptregeln, Beispielsammlung, Kurzpräsentation Differenzierung Vorlagen, Hilfsfragen, offene Erweiterung, Expertenauftrag
1.4.6 Handlungsleitfaden für die Schule entwickeln
Die gemeinsame Entwicklung eines schulischen Leitfadens verbindet Wissen, Bewertung und Anwendung besonders wirksam, weil Lernende aus Erkenntnissen konkrete Regeln ableiten und Verantwortung für einen reflektierten, fairen und sicheren KI-Einsatz übernehmen. Ausgehend von den zuvor bearbeiteten Aufgaben sammelt die Klasse Situationen, in denen KI in der Schule genutzt werden könnte: beim Recherchieren, Schreiben, Übersetzen, Gestalten, Lernen oder Organisieren. In Gruppen erarbeiten die Schülerinnen und Schüler Vorschläge für einen schulischen KI-Leitfaden. Darin sollen sie festhalten, was erlaubt, problematisch oder erklärungspflichtig ist, wann Quellen genannt werden müssen, warum Datenschutz wichtig ist und weshalb Ergebnisse überprüft werden müssen. Die Gruppen präsentieren ihre Entwürfe, diskutieren Unterschiede und verfassen anschließend eine gemeinsame Endfassung. Die Aufgabe wirkt lernstark, weil sie Transfer verlangt: Erkenntnisse aus Beispielen, Diskussionen und Analysen werden in Regeln für echte Handlungssituationen überführt. Dadurch wächst das Bewusstsein, dass Medienkompetenz immer auch Verantwortung und Aushandlung einschließt. Ziele Transfer, Regelbildung, Verantwortung, Anwendung Material Vorlagen, Plakatpapier, Quellen, Schreibmaterial Sozialform Gruppenarbeit, Redaktionsteam, Plenum Ablauf sammeln, entwerfen, abstimmen, überarbeiten, veröffentlichen Auswertung Leitfaden, Klassenfeedback, Reflexionssatz
Differenzierung Bausteine, Rollenverteilung, Pflichtpunkte, Zusatzregeln
1.4.7 Lernwirksame Sicherung und Reflexion
Nachhaltiger Kompetenzaufbau gelingt besser, wenn Erkenntnisse nicht nur erarbeitet, sondern wiederholt, geordnet und persönlich bewertet werden, damit aus Einzelbeobachtungen ein stabiles Verständnis zu Möglichkeiten, Grenzen und Verantwortung im Umgang mit KI entsteht. Zum Abschluss bearbeiten die Schülerinnen und Schüler eine kurze Sicherungsphase mit drei Teilen: Erstens notieren sie aus dem Gedächtnis zentrale Erkenntnisse über Chancen und Grenzen von KI. Zweitens ordnen sie Begriffe wie Datenbasis, Verzerrung, Verantwortung, Transparenz, Halluzination und Kontrolle passenden Beispielen zu. Drittens formulieren sie einen persönlichen Merksatz für ihren zukünftigen Umgang mit KI. Die Ergebnisse werden knapp besprochen und in einer übersichtlichen Merkliste gesichert. Diese Form der Nachbereitung erhöht die Behaltensleistung, weil Wiederholung, Abruf aus dem Gedächtnis und persönliche Verdichtung kombiniert werden. So endet der Unterricht nicht bei einzelnen Eindrücken, sondern mit dauerhaft anschlussfähigem Wissen. Ziele Sicherung, Vernetzung, Behalten, Selbstreflexion Material Merkkarten, Begriffskarten, Heft, Tafel Sozialform Einzelarbeit, Partnercheck, Plenum Ablauf erinnern, ordnen, formulieren, besprechen, sichern Auswertung Merkliste, Exit-Ticket, Hefteintrag Differenzierung Wortbank, Satzanfänge, Symbolkarten, Zusatzbeispiel
Grundlage: Digitale Grundbildung IV – Lehrband 4. Klasse, Final V2.0.