Soziotechnisches Design wird als Ansatz zur (möglichen) Entwicklung von ethisch vertretbarer KI vorgestellt.

1. 1
www.tugraz.at 
WISSEN
TECHNIK
LEIDENSCHAFT
Do No Evil -
Reflektives soziotechnisches
Design als Ansatz zur Entwicklung
von ethisch vertretbarer AI
Assoc.-Prof. Dr. Viktoria Pammer-Schindler, Institut für
interaktive Systeme und Data Science
viktoria.pammer-schindler@tugraz.at

2. 2
www.tugraz.at 
2
Was ist überhaupt das Problem?
Viktoria Pammer-Schindler, Institute for Interactive Systems and Data Science

3. 3
www.tugraz.at 
3
Unser aller Leben ist von Computern
durchdrungen
Wer verwendet Computer?
 Noch immer Expert*innnen
 Aber auch Kinder, ältere Leute, arme, reiche, dumme,
gescheite…
Viele Aspekte des täglichen Lebens werden von
Computern gesteuert!
Stromnetz
Ampeln
Auto
Smartphone
Laptop
SmartWatch
FitBit
Game
console

4. 4
www.tugraz.at 
4
Lösung: Soziotechnisches Design –
mit bestimmten Elementen
Ziel: Ethisch vertretbare Technologie
Referenz:
Pammer-Schindler & Rosé (2021) – Data-Related Ethics Issues in Technologies
for Informal Professional Learning. International Journal of Artificial Intelligence in
Education. https://doi.org/10.1007/s40593-021-00259-x

5. 5
www.tugraz.at 
5
Soziotechnisches System
Viktoria Pammer-Schindler, Institute for Interactive Systems and Data Science

6. 6
www.tugraz.at 
6
Viktoria Pammer-Schindler, Institute for Interactive Systems and Data Science
Mensch
Objekt d
Handelns
Commu
nity
Technik

7. 7
www.tugraz.at 
7
Perspektive Verwendung: Irgendjemand
verwendet Technologie!
Viktoria Pammer-Schindler, Institute for Interactive Systems and Data Science
Viktoria Pammer-Schindler, Institute for Interactive Systems and Data Science
Mensch
Objekt d
Handelns
Commu
nity
Technik
Viktoria Pammer-Schindler, Institute for Interactive Systems and Data Science

8. 8
www.tugraz.at 
8
Perspektive Entwicklung – irgendjemand
entwickelt* Technologie!
* Entwickeln im weitesten Sinn: Technisch, von Grund
auf, oder als Adaption v bestehendem System.
Viktoria Pammer-Schindler, Institute for Interactive Systems and Data Science
User
User
Objek
t
Com
munit
y
Tec
hnik
Mens
ch
Comm
unity
Entwickl
ungstool
s

9. 9
www.tugraz.at 
9
Soziotechnisches Design

10. 10
www.tugraz.at 
10
Soziotechnisches Design
Technologie unter Berücksichtigung folgender
Perspektiven entwickeln:
1. Nutzer*innen: Technologie als Teil von
soziotechnischem System verstehen (Perspektive
„Verwendung“)
2. Business/Strategie: Technologie als in einem
soziotechnischen System entstanden verstehen
(Perspektive „Entwicklung“)
3. Technik: Technische Perspektive beachten! – es
muss technisch klappen!
Viktoria Pammer-Schindler, Institute for Interactive Systems and Data Science

11. 11
www.tugraz.at 
11
Das Optimum ist die Harmonie: Alle drei Perspektiven
sind berücksichtigt, alle drei Bereiche „klappen“.
Business +
Strategie
Technologie
Nutzer*innen
– Einbettung v
Technologie in
Nutzer*innen-
Aktivitäten
Viktoria Pammer-Schindler, Institute for Interactive Systems and Data Science

12. 12
www.tugraz.at 
12
Welche Elemente können wir
soziotechnischem Design HINZUFÜGEN
damit ethisch vertretbare Technologie
„rauskommt“?

13. 13
www.tugraz.at 
13
Ergänzung 1: Systematische Reflexion
Reflexion als bewußter Ausstieg aus dem Tun
Rück- und Vorwärtsbezug ist notwendig!
Funktioniert für Expert*innen!

14. 14
www.tugraz.at 
14
Ergänzung 2: Ethik-orientierte
Prompts
Prompts sind Hinweise
Ethik-orientierte Prompts beinhalten Wissen über mögliche ethische
Probleme.
… und können rollenbasiert sein – je nach Position zur Technologie,
können/sollen andere reflektive Fragen gestellt werden!
Referenz:
Dennerlein, Gutounig, Wolf-Brenner, Schweiger, Pammer-Schindler (2020). Guiding
Socio-technical Reflection of Ethical Principles in TEL Software Development: The
SREP Framework. https://doi.org/10.1007/978-3-030-57717-9_32