Workshop
Learning Analytics
GRADE Centre
Johann-Wolfgang Goethe Universität Frankfurt
Wolfgang Greller (PH Wien)
16.-17. Mai 2019
Sechs Dimensionen von LA
W. Greller
2019
Workshop Learning Analytics
2
Nutzungsdesign Problematik
W. Greller
2019
Workshop Learning Analytics
3
Viele (berechtigte) Ängste gegenüber Learning Analytics
Nutzungsdesign Problematik
W. Greller
2019
Workshop Learning Analytics
4
Universitätsmanagers sehen:
Potenzial vs. Risiko
Nutzen vs. Kosten
Zweck vs. Konkurrenzdruck
Absichten vs. Zögern
Führt zu Verwirrung in der Umsetzung von Rahmenbedingungen
Viele (berechtigte) Ängste gegenüber Learning Analytics
Oft resultiert aus den Ängsten eine Regulierungserwartung
Vorbehalte
W. Greller
2019
Workshop Learning Analytics
5
- Mangelnde Rechtskenntnis und Kenntnis über ethische Grenzen
- Schutz der Privatsphäre
- Diskriminierung oder Stygmatisierung von Data Subjects
- Verstärkung/Bestätigung von Vorurteilen/ Machtverhältnissen
- Zwang nach vorgebenen Indikatoren handeln zu müssen
(Systembefriedigung statt Qualität und Innovation)
- Kontrollverlust durch automatisierte Entscheidungsprozesse/ Algorithmen
- Sicherheit persönlicher Daten
- Anonymität und Meinungs/Handlungsfreiheit (z.B. Lehrevaluierung)
Einige wichtige Vorbehalte gegenüber Learning Analytics:
Oft resultiert aus diesen Ängsten eine Regulierungserwartung (Gesetze!)
Information = Macht
W. Greller
2019
Workshop Learning Analytics
6
Ungleiche Machtverhältnisse und Nutzerdaten-Ausbeutung
a. Asymmetrische Verhältnisse: Eine Seite weiß mehr!
b. Ausbeutung der digitalen „Arbeitskraft“ (Monetisierung von
Nutzerdaten, Präferenzen und Aktivitäten: fb)
c. Datenmodelle nicht neutral – vermeintliche „ideale“ Identität. Von
anderen „designedte“ Identität – u.a. Spiegel globaler
Machtverhältnisse (Arora, 2015)
In institutionellen Settings für Learning Analytics wenig relevant –
Sorgepflicht und Walled Garden Umgebung
Institutionelle Zusicherungen an Data Subjects – Ombudsperson -
Mediationsprozedere
Transparenzfurcht
W. Greller
2019
Workshop Learning Analytics
7
Der gläserne Mensch
a. Transparenz = Kontrolle
b. Offen für Kritik (für nicht-konformes Handeln)
c. Handlungskorrekturen
d. System selbst ist undurchsichtig
In institutionellen Settings für Learning Analytics wenig relevant –
Sorgepflicht und Walled Garden Umgebung
Ausdrückliche Nutzung zur Eigenreflexion (ohne Intervention)
Institutionelle Zusicherungen an Data Subjects – Ombudsperson -
Mediationsprozedere
Data Ownership
W. Greller
2019
Workshop Learning Analytics
8
Data Ownership
a. Liegt beim Provider/der Institution
b. Nutzer kann Unzahl an kleinteiligen Daten nicht selber managen
c. Persönliche Cloud Datenspeicher (Learning Lockers) versprechen
nutzerzentrierte Lösungen (aber wenig aussichtsreich wegen
Datenvielfalt)
In institutionellen Settings für Learning Analytics weniger Problem –
Sorgepflicht und Walled Garden Umgebung – innerhalb des gesetzlichen
Rahmens
MIT’s openPDS “allows users to collect, store, and give fine-grained access to
their data all while protecting their privacy”
Rahmenbedingungen
W. Greller
2019
Workshop Learning Analytics
9
Zu unterscheiden:
• Konventionen: gesellschaftliche/professionelle Übereinkünfte
• Normen / Vorschriften, Standards
Die akzeptable Nutzung von Learning Analytics obliegt gewissen
Festlegungen/ Policies:
• Organisatorische
• Institutionelle
• Prozessuale
Auch:
• Ethische
• Gesetzliche
• Soziale
Trusted Learning Analytics
W. Greller
2019
Workshop Learning Analytics
10
Neue ethische Fragestellungen durch Learning Analytics.
u.a.: Wollen die Data Subjects analysiert werden?
Wie wird ethisches Handeln gesichert? Lernhilfe vs.
Überwachung. Bevormundung? Enteignung des
Entscheidungsprozesses oder Hilfe im Studium?
Missbrauch durch Lehrende/Data Clients? Verstärkung von
Vorurteilen?
Was tun mit präventiver Information? Verpflichtung zu
Handeln? Fiduciary Duty (Sorgepflicht)
Bei Verletzung ethischer Grundsätze: welche Möglichkeiten
und Konsequenzen?
Trusted Learning Analytics
W. Greller
2019
Workshop Learning Analytics
11
Einige Maßnahmen:
• Ethischer Leitfaden der Open University: Policy on Ethical
Use of Student Data for Learning Analytics (OU, 2014)
• JISC – Code of Practice for Learning Analytics (Sclater & Bailey,
2015)
• DELICATE Checklist (Drachsler & Greller, 2016)
Institutionelle Transparenz ist essenziell
Datensicherheit und Zugangskontrolle
Informed Consent Prozesse mit Opt-in Out-out
Normengerecht = Gesetzeskonformität GDPR
Interventionsabsicherung
Trusted Learning Analytics
W. Greller
2019
Workshop Learning Analytics
12
DELICATE Checklist:
D etermination: Klar definierte und kommunizierte Ziele
E xplain: Sammlung von Studentendaten und Nutzung
L egitimate: Information über rechtmäßige Datenverwendung
I nvolve: Stakeholders zu aktiven Agenten in der Entwicklung machen
C onsent: Zustimmung über klare Informed Consent Prozesse
A nonymise: Soweit als möglich und sinnvoll Daten anonymisieren
T echnical aspects: Wer hat (legitimen) Zugang zu Daten,
Datensicherheit gewährleisten. Besonders bei fluktuierendem
Personalstand
E xternal partners: Externe Service Provider sollen bestmögliche
Datensicherheit gewährleisten
Trusted Learning Analytics
W. Greller
2019
Workshop Learning Analytics
13
Studenten sollen nicht allein auf Basis gesammelter Daten beurteilt
werden:
“Furthermore, the use of digital technologies in education, whether
for assessment, learning, administrative or other purposes, results in
a wide range of data being available on each individual learner’s
learning behaviour. Analysing and interpreting this data and using it
to help make decisions is becoming more and more important –
complemented by the analysis of conventional evidence on
learner behaviour.” (DigCompEdu, Redecker, 2017)
Fragen? Diskussion!
W. Greller
2019
Workshop Learning Analytics
14
Sechs Dimensionen von LA
W. Greller
2019
Workshop Learning Analytics
15
Pädagogische Umsetzung
W. Greller
2019
Workshop Learning Analytics
16
Welche Voraussetzungen braucht die sinnvolle
Lerndatennutzung?
Pädagogische Umsetzung
W. Greller
2019
Workshop Learning Analytics
17
Unterteilung in:
- Akzeptanz
- Kompetenzen
Es braucht den Willen und die Fähigkeit Nutzen aus Learning Analytics
zu ziehen.
Pädagogische Umsetzung
W. Greller
2019
Workshop Learning Analytics
18
Akzeptanz
Ignoring the fears and public perception of the
application of analytics can lead to a lack of
acceptance, protests, and even failure of entire LA
implementations.
(LACE, 2016)
Pädagogische Kompetenzen
W. Greller
2019
Workshop Learning Analytics
19
Welches Wissen, welche Kompetenzen, benötigt man
zur nutzbringenden Anwendung von Lerndaten?
Workflow Perspektive
W. Greller
2019
Workshop Learning Analytics
20
hin zu Verständnis, Interpretation und Intervention
Sechs Kompetenzfelder
W. Greller
2019
Workshop Learning Analytics
21
Personal Evidence-Based Practice Framework (Greller, 2018)
Data Literacy
W. Greller
2019
Workshop Learning Analytics
22
Didaktisierung:
Daten im Zusammenhang sehen!
Kontextorientierung der Interpretation
Lernziel muss festgelegt und realistisch sein
Grundwissen über Daten: Verwaltung, Verwendung, Auswertung
Erfordert Kontextualisierung
Kritische Interpretation
W. Greller
2019
Workshop Learning Analytics
23
Darstellungen und Visualisierungen können komplex
und schwierig zu analysieren und interpretieren sein.
Erfordert Interpretation und Sensemaking
Ethos und Rechtsverständnis
W. Greller
2019
Workshop Learning Analytics
24
Datenschutzverpflichtung und Schutz der Privatsphäre
Studentenwohl im Blick: Lernhilfe statt „Stalking“
Datensicherheit
Obligation to act
“Ethical and responsible data use is part of knowing how to use
data, and that knowledge focuses on how to protect student privacy
and maintain confidentiality of student data.”
(Mandinach, Parton, Gummer, & Anderson, 2015)
Erfordert Transparenz und klare Kommunikation
Umgang mit Schwächen
W. Greller
2019
Workshop Learning Analytics
25
Learning Analytics kein „Allheilmittel“!
• Daten und Analytics sind nicht „neutral“. Analytics sind Narrativa, die
Daten führen zu Hypothesen, die erst getestet und verifiziert werden
müssen.
• Analytics kommt meist in Wahrscheinlichkeiten, nicht in klaren „wahr-
falsch“ Aussagen. Was tun damit?
• Pädagogischer Bias in Richtung „Instruktionismus“
(Verhaltensänderung).
• Daten zeigen nicht nur Lerner-Informationen, sondern implizit auch
Lehrerhandeln und Kontexte.
• Oftmals Eindimensionalität der Information
• Betrugsgefahr (gering?) – System überlisten wollen
Erfordert kritisches Denken und holistische Lernerperspektive
Transfer Daten zu Lernen
W. Greller
2019
Workshop Learning Analytics
26
• Reaktion auf Basis von Dateninterpretation (Hypothese): Gezielte
Intervention durch den Lehrenden (oder Lerner selbst)
• Verschiedene (drei) Wirkungsbereiche:
u.a. Kurskomponenten
Transfer Daten zu Lernen
W. Greller
2019
Workshop Learning Analytics
27
• Gegenseitige Beeinflussung von Lerndaten und Lerndesign (LALD)
• Die richtige Aktion als Folge der Datenevidenz wählen
• Das Lerndesign überdenken: was soll sich ändern? Wie geht man vor?
z.B. Erkennen und Korrektur von Fehlverständnissen
• Variieren von Variablen oder der Gewichtung von Indikatoren: was ist
wichtiger um ein fokussiertes Verständnis zu erlangen?
Erfordert wissenschaftliches Denken
Soziale Komponenten
W. Greller
2019
Workshop Learning Analytics
28
Erfordert Datenverständnis in sozialen Kontexten
“Knowledge and skills are not solely individual achievements, but
are developed, carried forward, and passed on through interaction
and collaboration.”
(Ferguson & Shum, 2012)
• Soziale Aspekte des Lernens: Kollaboration, Rollen, Gruppendynamik
usw.
• Soziale Positionierung des Lerners: Leistung im Vergleich zu Peers,
Gamification Potenzial
Fragen? Diskussion!
W. Greller
2019
Workshop Learning Analytics
29

Evidenzbasierte Bildung mit Learning Analytics - Teil 4 FRANKFURT 2019

  • 1.
    Workshop Learning Analytics GRADE Centre Johann-WolfgangGoethe Universität Frankfurt Wolfgang Greller (PH Wien) 16.-17. Mai 2019
  • 2.
    Sechs Dimensionen vonLA W. Greller 2019 Workshop Learning Analytics 2
  • 3.
    Nutzungsdesign Problematik W. Greller 2019 WorkshopLearning Analytics 3 Viele (berechtigte) Ängste gegenüber Learning Analytics
  • 4.
    Nutzungsdesign Problematik W. Greller 2019 WorkshopLearning Analytics 4 Universitätsmanagers sehen: Potenzial vs. Risiko Nutzen vs. Kosten Zweck vs. Konkurrenzdruck Absichten vs. Zögern Führt zu Verwirrung in der Umsetzung von Rahmenbedingungen Viele (berechtigte) Ängste gegenüber Learning Analytics Oft resultiert aus den Ängsten eine Regulierungserwartung
  • 5.
    Vorbehalte W. Greller 2019 Workshop LearningAnalytics 5 - Mangelnde Rechtskenntnis und Kenntnis über ethische Grenzen - Schutz der Privatsphäre - Diskriminierung oder Stygmatisierung von Data Subjects - Verstärkung/Bestätigung von Vorurteilen/ Machtverhältnissen - Zwang nach vorgebenen Indikatoren handeln zu müssen (Systembefriedigung statt Qualität und Innovation) - Kontrollverlust durch automatisierte Entscheidungsprozesse/ Algorithmen - Sicherheit persönlicher Daten - Anonymität und Meinungs/Handlungsfreiheit (z.B. Lehrevaluierung) Einige wichtige Vorbehalte gegenüber Learning Analytics: Oft resultiert aus diesen Ängsten eine Regulierungserwartung (Gesetze!)
  • 6.
    Information = Macht W.Greller 2019 Workshop Learning Analytics 6 Ungleiche Machtverhältnisse und Nutzerdaten-Ausbeutung a. Asymmetrische Verhältnisse: Eine Seite weiß mehr! b. Ausbeutung der digitalen „Arbeitskraft“ (Monetisierung von Nutzerdaten, Präferenzen und Aktivitäten: fb) c. Datenmodelle nicht neutral – vermeintliche „ideale“ Identität. Von anderen „designedte“ Identität – u.a. Spiegel globaler Machtverhältnisse (Arora, 2015) In institutionellen Settings für Learning Analytics wenig relevant – Sorgepflicht und Walled Garden Umgebung Institutionelle Zusicherungen an Data Subjects – Ombudsperson - Mediationsprozedere
  • 7.
    Transparenzfurcht W. Greller 2019 Workshop LearningAnalytics 7 Der gläserne Mensch a. Transparenz = Kontrolle b. Offen für Kritik (für nicht-konformes Handeln) c. Handlungskorrekturen d. System selbst ist undurchsichtig In institutionellen Settings für Learning Analytics wenig relevant – Sorgepflicht und Walled Garden Umgebung Ausdrückliche Nutzung zur Eigenreflexion (ohne Intervention) Institutionelle Zusicherungen an Data Subjects – Ombudsperson - Mediationsprozedere
  • 8.
    Data Ownership W. Greller 2019 WorkshopLearning Analytics 8 Data Ownership a. Liegt beim Provider/der Institution b. Nutzer kann Unzahl an kleinteiligen Daten nicht selber managen c. Persönliche Cloud Datenspeicher (Learning Lockers) versprechen nutzerzentrierte Lösungen (aber wenig aussichtsreich wegen Datenvielfalt) In institutionellen Settings für Learning Analytics weniger Problem – Sorgepflicht und Walled Garden Umgebung – innerhalb des gesetzlichen Rahmens MIT’s openPDS “allows users to collect, store, and give fine-grained access to their data all while protecting their privacy”
  • 9.
    Rahmenbedingungen W. Greller 2019 Workshop LearningAnalytics 9 Zu unterscheiden: • Konventionen: gesellschaftliche/professionelle Übereinkünfte • Normen / Vorschriften, Standards Die akzeptable Nutzung von Learning Analytics obliegt gewissen Festlegungen/ Policies: • Organisatorische • Institutionelle • Prozessuale Auch: • Ethische • Gesetzliche • Soziale
  • 10.
    Trusted Learning Analytics W.Greller 2019 Workshop Learning Analytics 10 Neue ethische Fragestellungen durch Learning Analytics. u.a.: Wollen die Data Subjects analysiert werden? Wie wird ethisches Handeln gesichert? Lernhilfe vs. Überwachung. Bevormundung? Enteignung des Entscheidungsprozesses oder Hilfe im Studium? Missbrauch durch Lehrende/Data Clients? Verstärkung von Vorurteilen? Was tun mit präventiver Information? Verpflichtung zu Handeln? Fiduciary Duty (Sorgepflicht) Bei Verletzung ethischer Grundsätze: welche Möglichkeiten und Konsequenzen?
  • 11.
    Trusted Learning Analytics W.Greller 2019 Workshop Learning Analytics 11 Einige Maßnahmen: • Ethischer Leitfaden der Open University: Policy on Ethical Use of Student Data for Learning Analytics (OU, 2014) • JISC – Code of Practice for Learning Analytics (Sclater & Bailey, 2015) • DELICATE Checklist (Drachsler & Greller, 2016) Institutionelle Transparenz ist essenziell Datensicherheit und Zugangskontrolle Informed Consent Prozesse mit Opt-in Out-out Normengerecht = Gesetzeskonformität GDPR Interventionsabsicherung
  • 12.
    Trusted Learning Analytics W.Greller 2019 Workshop Learning Analytics 12 DELICATE Checklist: D etermination: Klar definierte und kommunizierte Ziele E xplain: Sammlung von Studentendaten und Nutzung L egitimate: Information über rechtmäßige Datenverwendung I nvolve: Stakeholders zu aktiven Agenten in der Entwicklung machen C onsent: Zustimmung über klare Informed Consent Prozesse A nonymise: Soweit als möglich und sinnvoll Daten anonymisieren T echnical aspects: Wer hat (legitimen) Zugang zu Daten, Datensicherheit gewährleisten. Besonders bei fluktuierendem Personalstand E xternal partners: Externe Service Provider sollen bestmögliche Datensicherheit gewährleisten
  • 13.
    Trusted Learning Analytics W.Greller 2019 Workshop Learning Analytics 13 Studenten sollen nicht allein auf Basis gesammelter Daten beurteilt werden: “Furthermore, the use of digital technologies in education, whether for assessment, learning, administrative or other purposes, results in a wide range of data being available on each individual learner’s learning behaviour. Analysing and interpreting this data and using it to help make decisions is becoming more and more important – complemented by the analysis of conventional evidence on learner behaviour.” (DigCompEdu, Redecker, 2017)
  • 14.
  • 15.
    Sechs Dimensionen vonLA W. Greller 2019 Workshop Learning Analytics 15
  • 16.
    Pädagogische Umsetzung W. Greller 2019 WorkshopLearning Analytics 16 Welche Voraussetzungen braucht die sinnvolle Lerndatennutzung?
  • 17.
    Pädagogische Umsetzung W. Greller 2019 WorkshopLearning Analytics 17 Unterteilung in: - Akzeptanz - Kompetenzen Es braucht den Willen und die Fähigkeit Nutzen aus Learning Analytics zu ziehen.
  • 18.
    Pädagogische Umsetzung W. Greller 2019 WorkshopLearning Analytics 18 Akzeptanz Ignoring the fears and public perception of the application of analytics can lead to a lack of acceptance, protests, and even failure of entire LA implementations. (LACE, 2016)
  • 19.
    Pädagogische Kompetenzen W. Greller 2019 WorkshopLearning Analytics 19 Welches Wissen, welche Kompetenzen, benötigt man zur nutzbringenden Anwendung von Lerndaten?
  • 20.
    Workflow Perspektive W. Greller 2019 WorkshopLearning Analytics 20 hin zu Verständnis, Interpretation und Intervention
  • 21.
    Sechs Kompetenzfelder W. Greller 2019 WorkshopLearning Analytics 21 Personal Evidence-Based Practice Framework (Greller, 2018)
  • 22.
    Data Literacy W. Greller 2019 WorkshopLearning Analytics 22 Didaktisierung: Daten im Zusammenhang sehen! Kontextorientierung der Interpretation Lernziel muss festgelegt und realistisch sein Grundwissen über Daten: Verwaltung, Verwendung, Auswertung Erfordert Kontextualisierung
  • 23.
    Kritische Interpretation W. Greller 2019 WorkshopLearning Analytics 23 Darstellungen und Visualisierungen können komplex und schwierig zu analysieren und interpretieren sein. Erfordert Interpretation und Sensemaking
  • 24.
    Ethos und Rechtsverständnis W.Greller 2019 Workshop Learning Analytics 24 Datenschutzverpflichtung und Schutz der Privatsphäre Studentenwohl im Blick: Lernhilfe statt „Stalking“ Datensicherheit Obligation to act “Ethical and responsible data use is part of knowing how to use data, and that knowledge focuses on how to protect student privacy and maintain confidentiality of student data.” (Mandinach, Parton, Gummer, & Anderson, 2015) Erfordert Transparenz und klare Kommunikation
  • 25.
    Umgang mit Schwächen W.Greller 2019 Workshop Learning Analytics 25 Learning Analytics kein „Allheilmittel“! • Daten und Analytics sind nicht „neutral“. Analytics sind Narrativa, die Daten führen zu Hypothesen, die erst getestet und verifiziert werden müssen. • Analytics kommt meist in Wahrscheinlichkeiten, nicht in klaren „wahr- falsch“ Aussagen. Was tun damit? • Pädagogischer Bias in Richtung „Instruktionismus“ (Verhaltensänderung). • Daten zeigen nicht nur Lerner-Informationen, sondern implizit auch Lehrerhandeln und Kontexte. • Oftmals Eindimensionalität der Information • Betrugsgefahr (gering?) – System überlisten wollen Erfordert kritisches Denken und holistische Lernerperspektive
  • 26.
    Transfer Daten zuLernen W. Greller 2019 Workshop Learning Analytics 26 • Reaktion auf Basis von Dateninterpretation (Hypothese): Gezielte Intervention durch den Lehrenden (oder Lerner selbst) • Verschiedene (drei) Wirkungsbereiche: u.a. Kurskomponenten
  • 27.
    Transfer Daten zuLernen W. Greller 2019 Workshop Learning Analytics 27 • Gegenseitige Beeinflussung von Lerndaten und Lerndesign (LALD) • Die richtige Aktion als Folge der Datenevidenz wählen • Das Lerndesign überdenken: was soll sich ändern? Wie geht man vor? z.B. Erkennen und Korrektur von Fehlverständnissen • Variieren von Variablen oder der Gewichtung von Indikatoren: was ist wichtiger um ein fokussiertes Verständnis zu erlangen? Erfordert wissenschaftliches Denken
  • 28.
    Soziale Komponenten W. Greller 2019 WorkshopLearning Analytics 28 Erfordert Datenverständnis in sozialen Kontexten “Knowledge and skills are not solely individual achievements, but are developed, carried forward, and passed on through interaction and collaboration.” (Ferguson & Shum, 2012) • Soziale Aspekte des Lernens: Kollaboration, Rollen, Gruppendynamik usw. • Soziale Positionierung des Lerners: Leistung im Vergleich zu Peers, Gamification Potenzial
  • 29.