Stellen Sie sich vor, Sie wollen sich ein Haus kaufen. Sie haben alle notwendigen Überlegungen bereits gemacht, sind finanziell gut abgesichert und schreiten zur Bank, um eine Hypothek aufzunehmen. Die Bankangestellte teilt Ihnen mit, dass sie Ihren Wunsch leider nicht erfüllen kann. Das externe System, dass dazu eingesetzt wird Ihre Kreditwürdigkeit zu überprüfen, attestiert Ihnen keinen genügenden Kredit-Score. Obwohl Sie aufgrund der Ihnen vorliegenden Daten der Bank aufzeigen können, dass Sie sehr wohl kreditwürdig sind, wird Ihnen die Hypothek nicht gewährt.
Eine solche Szene könnte sich heute bereits abspielen, da in einigen Branchen bereits datenbasierte Systeme für automatisierte Entscheidungen eingesetzt werden. In Deutschland hat beispielsweise die SCHUFA (Schutzgemeinschaft für allgemeine Kreditsicherung) ein ADM-System (automated decision making) im Einsatz, das über die Kreditwürdigkeit der deutschen Bürgerinnen und Bürger befindet. Was dadurch deutlich wird ist, dass Algorithmen bereits heute einen direkten Einfluss auf unser Leben haben.
Perspektivenwechsel in den Bildungsraum Schweiz: Vermehrt werden auch in dessen föderalistischer Vielschichtigkeit digitale Dienste eingesetzt. Lernapplikationen sowie digitale Lehr- und Lernmittel generieren und sammeln Daten über das Lehren und Lernen an Schulen und die Gewohnheiten von Schülerinnen, Schülern und Lehrpersonen. Diese Daten bleiben in der Regel den Anbietern selber vorbehalten. Ohne hier allzu fest in Alarmismus zu verfallen: Dass mein persönlicher Bildungsweg irgendwann in naher Zukunft von automatisierten Entscheidungssystemen abhängig sein wird oder davon beeinflusst wird, kann durchaus zur Realität werden.
In diesem zunehmend digitalisierten und damit datenbasierten Umfeld müssen nicht nur entsprechende organisatorische, technische und rechtliche Rahmenbedingungen festgelegt werden, sondern auch ethische. Eine erste aus anderen Bereichen bekannte Massnahme könnte sein, ethische Grundorientierungen für den digitalen Bildungsraum Schweiz zu definieren und auf nationaler Ebene einzufordern. Sie würden das Bildungssystem dabei unterstützen, datenbasierte Systeme und die Datennutzung im Allgemeinen ethisch korrekt einzusetzen. Den Bildungsmarkt würden sie dazu bringen, ethisch korrekte Dienste und Systeme zu entwickeln.
Welche ethischen Grundorientierungen das sein müssen, muss Teil einer grossangelegten Debatte im Bildungsraum Schweiz sein und werden, die alle Anspruchsgruppen miteinbezieht. Nur so ist gewährleistet, dass sie alle Bedürfnisse dieser vielfältigen und heterogenen Bildungslandschaft mit einbezieht. Den Startschuss zu dieser Debatte haben wir bereits 2019 im Bericht «Daten in der Bildung – Daten für die Bildung» geleistet. Zeit, dass wir daran anknüpfen!
Dieser Artikel ist erstmals in unserem Jahresbericht 2021 erschienen.