Es ist Zeit für Maßnahmen in Bezug auf Bildungstechnologie und die digitalen Rechte des Kindes

Aug 31, 2023

Von Dr. Erica Southgate

Australien ist seit 1990 Unterzeichner des Übereinkommens der Vereinten Nationen über die Rechte des Kindes (CRC).

Als das am häufigsten ratifizierte Menschenrechtsabkommen der Geschichte enthält das CRC 54 Artikel oder Grundsätze, die die Grundlage dafür bilden, allen Kindern (unter 18 Jahren) eine gesunde und sichere Kindheit ohne Diskriminierung und voller Chancen auf volle Entfaltung zu ermöglichen Entwicklung.

Zu den Kinderrechten gehört das Recht auf Bildung; Informationen zu haben und weiterzugeben, die für sie nicht schädlich sind; Zugang zu zuverlässigen Informationen zu haben; und Privatsphäre.

Die CRC schreibt vor, dass Regierungen diese Rechte Kindern zur Verfügung stellen sollen.

Im Jahr 2021 haben die Vereinten Nationen ein wichtiges Dokument vorgelegt, das die Rechte des Kindes im digitalen Zeitalter hervorhebt. Der Titel lautete „Allgemeiner Kommentar Nr. 25 zu den Rechten des Kindes im digitalen Umfeld“.

Allgemeiner Kommentar Nr. 25 bietet einen umfassenden Überblick über Chancen und Herausforderungen bei der Verwirklichung der Rechte aller Kinder in der digitalen Welt und stellt fest:

Die digitale Umgebung … [umfasst] digitale Netzwerke, Inhalte, Dienste und Anwendungen, vernetzte Geräte und Umgebungen, virtuelle und erweiterte Realität, künstliche Intelligenz, Robotik, automatisierte Systeme, Algorithmen und Datenanalyse, Biometrie und Implantattechnologie … [Sie wird] immer mehr Wichtig in den meisten Lebensbereichen von Kindern, auch in Krisenzeiten, da gesellschaftliche Funktionen, einschließlich Bildung, … zunehmend auf digitale Technologien angewiesen sind. Es bietet neue Möglichkeiten für die Verwirklichung der Kinderrechte, birgt aber auch die Gefahr ihrer Verletzung oder ihres Missbrauchs. Während der Konsultationen äußerten die Kinder die Ansicht, dass die digitale Umgebung ihr sicheres und gleichberechtigtes Engagement unterstützen, fördern und schützen sollte.

Neue Arten von Technologien nutzen Sensoren, Geolokatoren und künstliche Intelligenz, um schnell Informationen über eine Person (ihre Demografie, Standort sowie Vorlieben und Zugehörigkeiten) und über eine Person (körperliche Eigenschaften und Verhaltensweisen wie Stimme, Herzfrequenz, Finger, Gliedmaßen und Augen) zu sammeln Bewegungen und sogar Pupillenerweiterung).

Diese Informationen werden von maschinellen Lernalgorithmen verwendet, um ein Profil über uns zu erstellen, vorherzusagen, was wir tun könnten, und uns sogar ohne unser Wissen in bestimmte Richtungen zu drängen.

Dabei geht es nicht nur um unser Online-Leben. Es kann sich auch allgemein auf die Möglichkeiten auswirken, die uns zur Verfügung stehen, da diese Analyseprofile von allen Arten von Organisationen verwendet werden, um Entscheidungen darüber zu automatisieren, welche Möglichkeiten uns zur Verfügung stehen und welche nicht.

Dies wirkt sich auch auf Kinder in ihrem Freizeitleben und zunehmend auch auf ihre Bildung aus.

In dieser neuen Welt der Automatisierung und algorithmischen Entscheidungsfindung ist ChatGPT die erste sichtbare Manifestation der Zukunft.

Allerdings sammeln und nutzen Bildungsverwalter und Hersteller von Bildungstechnologien schon seit langem Informationen (oder Daten, wie wir sie heute nennen), um technische und pädagogische Entscheidungen zu treffen, die die Art und Weise beeinflussen, wie Lernen in Form von automatisierten Nachhilfesystemen und pädagogischen Chatbots vermittelt wird; die Struktur der Bereitstellung über Lernmanagementsysteme; und adaptive Beurteilung.

Der Trend geht dahin, zu automatisieren, auf welche Lernmöglichkeiten Studierende Zugriff haben und wie die Lernenden selbst durch analytische Dashboards dargestellt werden.

Zweifellos werden auch die Leistungen von Lehrkräften durch solche Dashboards dargestellt und ausgewertet – wie dies nun auch für Lehrkräfte im Hochschulbereich gilt.

Dies ist nicht unbedingt ein negativer Trend, wenn es Vorschriften, Richtlinien und Produktdesign gibt, die unsere Menschenrechte und die Rechte des Kindes schützen.

Leider ist dies in Australien nicht der Fall, obwohl das Commonwealth Privacy Act derzeit überprüft wird und es Kommissionen, Ombudsmänner und Menschenrechtsagenturen gibt, die nützliche Richtlinien und eine gewisse Aufsicht bieten.

Aus der Sicht der Schüler und ihrer Familien sowie zweifellos vieler Lehrer ist oft unklar, welche Informationen von der Bildungsverwaltung gesammelt werden, mit wem sie geteilt werden und zu welchem ​​Zweck und welcher Konsequenz.

Dieser Mangel an Transparenz wird noch verstärkt, wenn wir die Datenerfassung betrachten; Nutzung und Weitergabe; und automatisierte Entscheidungsfindung in Bildungstechnologieprodukten.

Berücksichtigt ein Lehrer diese Probleme, wenn er eine neue App in den Unterricht einbringt?

Produktbedingungen und Datenschutzerklärungen erklären häufig eher, was mit den Daten von Schülern und Lehrern passiert, als dass sie klar und unklar sind. Eine Abmeldung ist keine wirkliche Option, wenn Bildungsprodukte in den alltäglichen Lernalltag eingebunden werden.

Algorithmen, die die Technologie, einschließlich der Bildungstechnologie, antreiben, werden oft als „Black Box“ bezeichnet. Das bedeutet zwei Dinge.

Die erste bezieht sich auf den Einsatz bestimmter Arten des maschinellen Lernens, bei denen der Analyseprozess so komplex ist, dass selbst die Informatiker, die die künstliche Intelligenz entwerfen, den Entscheidungsprozess der Maschine nicht verstehen können.

Die zweite bezieht sich auf den Schutz des proprietären Charakters von Algorithmen durch kommerzielle und staatliche Interessen.

Wie auch immer, wir befinden uns in einer Situation, in der die „Black-Box“-Norm zu einem Mangel an Transparenz und Erklärbarkeit führt, sowohl auf der Ebene der in Bildungstechnologieprodukten verwendeten Algorithmen als auch auf der Ebene der Bildungspolitik im Allgemeinen.

Verträge mit Bildungstechnologieunternehmen werden häufig vertraulich geschlossen und sind nicht öffentlich zugänglich.

Darüber hinaus gibt es mit Ausnahme von Standardbeschwerdeverfahren kaum Mechanismen für Schüler und ihre Familien, um automatisierte Entscheidungen über sie und Darstellungen von ihnen als Lernenden, die sich aus der Bildungstechnologie ergeben, anzufechten.

Das Problem besteht darin, dass sie sich der Rolle der Automatisierung bei Entscheidungen möglicherweise nicht bewusst sind oder nicht verstehen können, wie diese Entscheidungen getroffen wurden – aufgrund mangelnder gezielter Bildung, die es ihnen ermöglichen könnte, sich für algorithmische Transparenz sowie die Prävention und Korrektur von Algorithmen einzusetzen Schaden.

Der von mir mitverfasste Bericht „KI in Schulen“ geht detailliert darauf ein, was Schulen, Bildungsverwalter, politische Entscheidungsträger und die Industrie im australischen Kontext tun müssen.

Aber jetzt brauchen wir mehr denn je Regulierung und Gesetze, um sicherzustellen, dass die digitalen Rechte des Kindes gewahrt bleiben.

Dazu gehört, Schülern und ihren Familien die Möglichkeit zu geben, sich auf echte Weise an der Diskussion zu beteiligen, und dass Bildungsverwalter die Entwicklung ethischer und transparenter Richtlinien und Verfahren vorantreiben, damit Lehrer verstehen, worum es im neuen Maschinenzeitalter geht. Dr. Erica Southgate ist außerordentliche Professorin für neue Bildungstechnologien (Universität Newcastle). Sie ist eine Verfechterin von Gerechtigkeit, Herstellerin von Computerspielen für die Alphabetisierung, Technologieethikerin und leitende Forscherin der VR School Study, der am längsten laufenden Forschung zur immersiven virtuellen Realität in Klassenzimmern. Ihr neuestes Buch ist Virtual Reality in Curriculum and Pedagogy (Routledge). Ihre Gedanken zum neuen Maschinenzeitalter für die Bildung finden Sie auf ihrer Website.