„Schau schlau“

Der gefilterte Blick auf die Welt

Logisch Denken, Lernen, Planen, Kreativität: Intelligente Maschinen sollen menschliche Fähigkeiten möglichst gut nachahmen

(Bild: Mikser45 - stock.adobe.com)

Der Einsatz von KI ist allgegenwärtig: Was sie mit der Wahrnehmung von Kindern und Jugendlichen macht und welche Vorteile und Risiken sie mit sich bringt, erklärt Informatikerin Mag.a Dr. Julia Neidhardt

Krone: Was bedeutet die rasante Entwicklung von künstlicher Intelligenz (KI) für Kinder und Jugendliche?
Mag.a Dr. Neidhardt: Überall, zu Hause und unterwegs, sind wir auf unsere Handys und Tablets fokussiert. Auch die Kleinsten kommen so schon früh mit diesen Technologien in Berührung. Plattformen wie YouTube oder Netflix verwenden sogenannte „Recommender Systems“ oder Empfehlungssysteme. Diese KI-Systeme lernen, was Usern gefällt, und empfehlen dann ähnliche Videos. Kinder, die bestimmte Videos mögen, bekommen dann immer mehr davon zu sehen, unterbrochen nur von passender Werbung. So wird es schwierig, den Blick wieder vom Bildschirm zu lösen - das Ziel dieser Systeme. Systeme wie ChatGPT können immer mehr, etwa auch Sprache verstehen - ähnlich wie Siri oder Alexa. Solche Neuerungen könnten bedeuten, dass KI bald noch einfacher für jüngere Kinder zu nutzen ist, auch wenn sie noch nicht tippen können.
Welche Vorteile und Gefahren bringt KI mit sich?
Einerseits bietet sie unglaubliche Möglichkeiten im Bildungsbereich, indem sie etwa personalisierte Lernerfahrungen ermöglicht und so auf den individuellen Wissensstand und die individuelle Lerngeschwindigkeit eingehen kann. Zudem erleichtert sie den Zugang zu einer Vielzahl von Lernmaterialien, auch über nationale und kulturelle Grenzen hinweg. Auf der anderen Seite sollten wir die Augen nicht vor den Risiken verschließen. Da geht es um Datenschutz-Themen, um mögliche soziale Effekte (z. B. Entfremdung) oder Überwachung und Kontrolle. Außerdem kann KI vorhandene gesellschaftliche Schieflagen, Stereotypen und Diskriminierung wiederholen, sogar verschlimmern. Sie kann zu einem Abhängigkeitsverhalten führen. Wir als Gesellschaft müssen ganz genau auf den Datenschutz achten und die digitale Bildung verbessern und das auch immer wieder anpassen, damit der Umgang mit der Technologie so sicher wie möglich ist.

Künftig wird KI wohl noch einfacher für jüngere Kinder zu nutzen sein.

(Bild: stock.adobe.com)

Wie erkennet man, ob etwas KI-manipuliert ist?
Gerade für Kinder und Jugendliche ist das Erkennen von KI-Manipulationen oft nicht einfach. Eine kritische Haltung gegenüber Online-Inhalten ist hier ein gangbarer Weg. Man kann auf merkwürdige Formulierungen oder Widersprüche in Texten achten sowie auf künstlich wirkende oder unstimmige Aspekte in Bildern und Videos. Auch wenn diese Hinweise nicht immer offensichtlich sind, ist es wichtig, immer ein gesundes Misstrauen gegenüber der Verlässlichkeit von Online-Inhalten zu haben und die Quelle sowie die Plausibilität zu überprüfen. Es hilft auch, Unsicherheiten durch den Vergleich mit anderen Quellen zu klären und Online-Tools zur Überprüfung der Echtheit zu nutzen. Wir alle - Eltern, PädagogInnen und die Gesellschaft - sollten unsere digitalen Kompetenzen verbessern, um Medien und Informationen kritisch zu verstehen und einzuordnen.
KI kreiert „perfekte“ Bilder, sei es von Natur oder Mensch. Wie sehr kann einen da noch die Realität beeindrucken?
KI kann unsere Wahrnehmung und Denkweise beeinflussen. Durch idealisierte Darstellungen auf Plattformen wie Instagram können unrealistische Schönheits- und Perfektionsstandards gefördert werden, die unsere Selbstwahrnehmung beeinträchtigen. Durch Empfehlung von ähnlichen Inhalten werden auch Filterblasen und Echokammern geschaffen, die unsere Sichtweise einschränken - man sieht etwa nur noch Videos mit Schönheitstipps, Fitnesstraining oder übers Abnehmen, weil man einmal daraufgeklickt hat. Es entsteht eine „gefilterte“ Sicht auf die Welt. Die Erwartung von Perfektion, angefacht durch KI-generierte Bilder, kann unsere Wertschätzung für natürliche Unvollkommenheit mindern. Auch kann die Interaktion mit KI-Systemen die Art und Weise, wie wir miteinander umgehen und wie wir die Welt um uns herum erfahren, verändern.

Künstliche Intelligenz ist in der Lage, auf Basis von Erfahrungen und unerwarteten Ergebnissen zu lernen.

(Bild: stock.adobe.com)

Was empfehlen Sie für den Umgang mit KI?
Der bewusste Umgang mit KI erfordert Bildung und Aufklärung über Funktionen und Auswirkungen. Es ist wichtig, eine kritische Denkweise zu entwickeln, um Empfehlungen oder KI-generierte Infos bewerten zu können. Den meisten Menschen ist nicht bewusst, wie weit verbreitet die Personalisierung ist und wie oft sie mit gefilterten Informationen konfrontiert werden.
Welche Programme empfehlen Sie KI-interessierten Kindern und Jugendlichen?
Einrichtungen wie das eduLAB bei uns auf der Informatik der TU Wien haben in diesem Bereich ein umfangreiches Angebot an Schulen (https://edulab.ifs.tuwien.ac.at). Um sich intensiver mit KI auseinanderzusetzen, gibt es online viel gutes Material. Ein Beispiel dafür ist Googles Teachable Machine (https://teachablemachine.withgoogle.com/). Auch auf „Scratch“, einer bekannten Programmierplattform für Kinder, kann man mittlerweile mit KI experimentieren.