Bertelsmann Stiftung

Educating the algorithm

Digitale Bildung birgt große Potenziale für Menschen weltweit: Neue Technologien bieten personalisierte, qualitative hochwertige Bildung, unabhängig vom geografischen oder sozialen Hintergrund des Lerners. Um das zu ermöglichen, nutzen viele Anwendungen algorithmische Entscheidungsprozesse. Jeden Tag treffen Algorithmen automatisierte Entscheidungen für Millionen von Lernern: Von der Prüfungsvorbereitung bis zur Karrierewahl gestalten sie individuelle Wahlmöglichkeiten und beeinflussen damit auch soziale Teilhabe.

Wie ein Kind lernt dabei der Algorithmus, indem er menschliche Entscheidungen beobachtet und repliziert – unabhängig davon, ob das beobachtete Verhalten ethisch ist oder nicht. Bei Kindern haben wir über Jahrhunderte hinweg gelernt, sie zu erziehen, um ihre Entscheidungen anhand gesellschaftlicher Werte und Normen auszurichten.

Wie erzieht man einen Algorithmus?

Wie wichtig diese Frage ist, zeigen bereits heute Beispiele aus der digitalen Bildung: So nutzt die Stadt New York beispielsweise ein algorithmisches Matching-Verfahren, um Schüler möglichst wunschgerecht an weiterführende Schulen zu verteilen. Wo bisher Menschen versuchten, die Komplexität von Einzelwünschen und verfügbaren Plätzen aufzulösen, führt nun ein Algorithmus Angebot und Nachfrage zusammen – in dem Fall übrigens durchaus zur Zufriedenheit der Beteiligten: Die Anzahl der Schüler, die im neuen Verfahren an der Wunschschule zugelassen wurden, hat sich inzwischen fast verdoppelt.

Matching-Algorithmen verwenden aber auch einige kommerzielle Hochschulen in den USA dazu, ihre Angebote gezielt bei potenziell angreifbaren Zielgruppen zu platzieren. Personen, die sie sich eigentlich nicht leisten können, aber aufgrund persönlicher Umstände besonders empfänglich für sie sind, erhalten verstärkt Werbung für teure Zertifikatsprogramme: alleinstehende Mütter, frisch gekündigte Mitarbeiter, Selbstständige vor der Insolvenz. Auch hier werden Angebot und Nachfrage aufeinander abgestimmt – allerdings mit dem Ziel, Schwache auszunutzen statt sie zu unterstützen.

Wie können wir den Einsatz algorithmischer Prozesse in der Bildung gestalten?

Um algorithmische Entscheidungsprozesse gestalten zu können, sind vier Schritte notwendig:

  • Eine breite gesellschaftliche Debatte über Anwendung und Ethik von Algorithmen,
  • die Bestimmung, welche Algorithmen tatsächlich teilhabe relevant sind,
  • die Festlegung von Kriterien für „gute Algorithmen“ und schließlich
  • die Umsetzung konkreter Lösungsvorschläge – diese können von gesetzlicher Regulierung (beispielsweise in Form eines „Beipackzettels“) bis hin zu einem „Algorithmen-TÜV“ reichen.

Um das große Potenzial digitaler Technologien für die Bildung zu nutzen, müssen wir ihre Anwendung proaktiv gestalten und sie an ethischen Normen ausrichten, ähnlich wie die, die auch für unsere Kinder gelten. Wir haben gelernt, Kinder zu erziehen – nun müssen wir lernen, auch Algorithmen zu erziehen.

Hier gelangen Sie zum Vortrag.



Kommentar verfassen