World Usability Day Hamburg 2018 "Ethisches Design" H.Fritzenwalder

Ethisches Design
World Usability Day, Hamburg 2018
Von Henning Fritzenwalder, Experience Designer bei ThoughtWorks

Ablauf
●  Drei Thesen
●  Um welche technischen Entwicklungen geht es?
●  Inwieweit betrifft es uns als Usability Experten?
●  Was kann man jetzt und langfristig tun?
Henning Fritzenwalder, ThoughtWorks

#1
Technische Lösungen entstehen aktuell so schnell,
dass Menschen, Firmen, die Gesellschaft, Politik
und Gesetzgebung nicht hinterher kommen.

#2
Es gibt technische Entwicklungen, die bereits an den
Bedürfnissen des Menschen vorbei gehend
weitreichende negative Folgen haben - in sozialer,
politischer oder gesundheitlicher Hinsicht.

#3
Wir brauchen als Designer Ansätze um technische
Lösungen nicht einfach ethisch normativ werden zu
lassen, sondern am Menschen orientierte
Grundlagen zu entwickeln.

#1 - Erfahrung zur Digitalisierung im Gesundheitswesen
Projekte im Gesundheitswesen erfordern einen Blick auf ethische Grundsätze,
z. B. bei der Treuepflicht: Arbeitgeber können effizienzsteigernde Arbeitswesen und
Software-Systeme einführen und deren korrekte Ausführung nachverfolgen.
Das ist anders für Pflegepersonal (!)
„Als Pflegekraft kann man seinen Verpflichtungen aus dem Arbeitsverhältnis nur in
dem Maße nachkommen, in dem eine patientengerechte Behandlung möglich ist.“
Konsequenz: Software für Pflegepersonal sollte nicht primär effizienzorientiert sein,
sondern muss die Eigenverantwortlichkeit von Pflegekräften unterstützen.

Mensch oder Maschine?
Wer schreibt die Regeln?

Verbreitete Haltung
“Technisch gesehen kann man
unbegrenzt und ohne
Qualitätsverlust Musik kopieren,
verändern und weitergeben -
also muss das legal sein.”
Allgemeine Erklärung der Menschenrechte
Resolution der Generalversammlung der
Vereinten Nationen vom 10. Dezember 1948
„Jeder hat das Recht auf Schutz
der geistigen und materiellen
Interessen, die ihm als Urheber
von Werken der Wissenschaft,
Literatur oder Kunst erwachsen.“
(Artikel 27)

“Ich kann meine Daten im Internet
faktisch nicht mehr kontrollieren,
also muss ich es gut finden, wenn
jeder sie sehen kann.”
Allgemeine Erklärung der Menschenrechte
Resolution der Generalversammlung der
Vereinten Nationen vom 10. Dezember 1948
„Niemand darf willkürlichen
Eingriffen in sein Privatleben, seine
Familie, seine Wohnung und seinen
Schriftverkehr […] ausgesetzt
werden. Jeder hat Anspruch auf
rechtlichen Schutz gegen solche
Eingriffe oder Beeinträchtigungen.“
(Artikel 12)

Ethik ist nicht binär – wir müssen über Ethik mit der
Absicht sprechen verschiedene Perspektiven zu
verstehen.
0 ≠ 1

UX Design bedeutet, dass sich Technik an menschlichen Bedürfnissen orientiert
– und dazu zählt auch der Schutz vor Risiken der Technik.

Mit dem steigenden Wissen um die Formbarkeit des menschlichen Verhaltens
wächst dabei für UX Designer die Verpflichtung, die Verletzlichkeit des
menschlichen Wesens zu schützen.

UX bedeutet auch Nutzeranforderungen und
Business zusammen zu denken - unethisches
Design birgt Risiken für Unternehmen:
●  Rechtliche Risiken
●  Vertrauensverlust und geringere Motivation
●  Verringerte Innovationsfähigkeit

Hand aufs Herz:
Sind wir noch gute Anwälte des Nutzers?

ICH
Moralische Sensibilität
●  Wir sollten Dank unserer Ausbildung und Interessen besonders befähigt darin
sein, den Zusammenhang von psychologischen Mustern und moralischen
Grenzen zu erkennen: Wo ziehe ich die Grenze zwischen aufzeigen,
beeinflussen und manipulieren?
●  Wir sollten mit anderen über technische Lösungen sprechen, die menschliche
Verletzlichkeit ausnutzen.

WIR
Moralische Kreativität
●  Wir können mit anderen zusammen Technik konzeptionell anders und
menschengerechter denken (Bespiele: ecosia, duckduckgo)
●  Wir können in Teams Frameworks wie das IDEO Design Kit, Brains &
Behaviours oder Design Ethically einsetzen

ALLE
Moralische Vertretung
●  Wir können uns organisieren, Einfluss ausüben und an Grundsätzen arbeiten.
Wir können definieren wie technische Nutzung und menschliche Bedürfnisse
langfristig zusammenkommen können.
●  Wir sollten beginnen Usability auch über das Individuum hinaus zu denken,
und Gestaltung als soziale Aufgabe verstehen.

Einige Prinzipien
zum Mitnehmen

Alexander Steinhart / @quanders
Ethical Tech - A Psychologist’s Perspective
Prinzip #1:
Lass Technologie nicht etwas tun,
dass Du selbst nicht tun würdest.

Prinzip #2:
Nutze nicht mechanisch KPIs die nur auf
Nutzungszahlen und Online-Zeit schauen
–
Suche nach tieferen Metriken

Prinzip #3:
Achte darauf,
wer durch eine Lösung gewinnt
und wer verliert

Prinzip #4:
Respektiere Deine Nutzer mit ihren
Werten und Zielen
(und sei klar mit deinen eigenen)

Prinzip #5:
Individuen und Interaktionen sind
wichtiger als Werkzeuge, Software und
Technologie.

Lesenswert:
https://www.ethicsfordesigners.com/tools/
https://www.bmi.bund.de/DE/themen/it-und-digitalpolitik/datenethikkommission/datenethikkommission-node.html
https://www.copenhagencatalog.org/, https://copenhagenletter.org/
Center for humane technology, http://humanetech.com/
Marc Hurst, https://creativegood.com/blog/
https://www.smashingmagazine.com/2018/03/ethical-design-practical-getting-started-guide/
https://www.mindtheproduct.com/2018/09/first-do-no-harm-by-mariah-hay/
https://2017.ind.ie/ethical-design/

Vielen Dank!

World Usability Day Hamburg 2018 "Ethisches Design" H.Fritzenwalder

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Ähnlich wie World Usability Day Hamburg 2018 "Ethisches Design" H.Fritzenwalder

Ähnlich wie World Usability Day Hamburg 2018 "Ethisches Design" H.Fritzenwalder (20)

World Usability Day Hamburg 2018 "Ethisches Design" H.Fritzenwalder