Die Technisierung von Mensch und Umwelt schreitet unaufhaltsam voran. Neuratech installiert Microchips erfolgreich direkt ins menschliche Gehirn und Sozialwissenschaftler modernisieren Beziehungsmodelle altehrwürdiger griechischer Philosophen, um der „Freundschaft” zwischen Mensch und Maschine eine definitorische Grundlage zu geben. Die Mutter all dieser wahrgewordenen Technikfantasien: Künstliche Intelligenzen. Es wird also Zeit, dass wir uns bei der Gestaltung einer zunehmend digitalisierten Welt aktiv mit den Chancen und Risiken von KI auseinandersetzen. Eine Expertengruppe der europäischen Kommission hat mit den jüngst veröffentlichten „Ethik-Leitlinien für vertrauenswürdige KI” eine wichtige Grundlage geschaffen, die die weitere Diskussion und inhaltliche Ausgestaltung auf gesellschaftlicher Ebene ermöglicht. Der Vortrag soll für die Bedeutung und Auswirkungen von KI auf die Gestaltung soziotechnischer Systeme sensibilisieren. Hierzu möchte ich die wichtigsten Eckpfeiler der Leitlinie beispielhaft vorstellen und insbesondere die Rolle kollaborativer und mensch-zentrierter Gestaltungswerkzeuge aufzeigen. Zuletzt werde ich einzelne Aspekte aus persönlicher Perspektive kommentieren und freue mich darauf, diese mit euch zu diskutieren. Die mensch-zentrierte Gestaltung der digitalen Gesellschaft ist eine Mammutaufgabe und erfordert die interdisziplinäre Zusammenarbeit unzähliger Experten. Aber auch wenn wir noch ganz am Anfang unserer digitalen Reise stehen, ist eines bereits sicher: Eure Erfahrung und geschulte Perspektive als Gestalter:innen digitaler Produkte und Services sind dabei unerlässlich - Für intelligente Technologie, die den Menschen unterstützt und befähigt, statt ihn zu beherrschen!

1. WUD Stuttgart 2021 • Jan Groenefeld • Ergosign GmbH
Vertrauensvolle KI
Vorstellung und Kommentar der EU
Ethik-Richtlinien für KI-Anwendungen
https://www.

5.
Vertrauenswürdiger Rahmen (nach EU-
Werten) für KI- und datenbasierte
Anwendungen
Regulation für Wettbewerbsfähigkeit,
Investitionssicherheit und Akzeptanz
Digitale Technologien, bei denen der
Mensch an erster Stelle steht (ESG Ziele)
https://www.youtube.com/watch?v=AxvmIibKOEM

6. der befragten Unternehmen sagen:
K
ü
nstliche Intelligenz ist die
wichtigste Zukunftstechnologie.
69%
https://www.bitkom.org/sites/default/files/2021-04/bitkom-charts-kunstliche-intelligenz-21-04-2021_final.pdf

7. Photo by Possessed Photography on Unsplash

8. Photo by Possessed Photography on Unsplash
KI bezeichnet Systeme, die ihre Umgebung
analysieren und mit einem gewissen Grad
(intelligenter) Autonomie handeln, um
bestimmte Ziele zu erreichen.

9. https://unsplash.com/photos/0E_vhMVqL9g
ETHIK

10. Photo by Rowan Heuvel on Unsplash
Ethik befasst sich mit den Werten,
an denen sich eine [KI basierte]
Handlung orientiert. Was ist
gutes, was ist schlechtes Handeln?

11. GUTE KI,
SCHLECHTE KI

12. Intelligente Klang
fi
lter
verbessern die Stimmqualität
in Videokonferenzen.
https://taz.de/Diskriminierung-in-Videochats/!5770053/
Photo by visuals on Unsplash
Ergebnis eines Zuhörer-Voting beim WUD Stuttgart 2021

13. Photo by visuals on Unsplash
Ergebnis eines Zuhörer-Voting beim WUD Stuttgart 2021
Klang
fi
lter lassen Frauen
weniger ausdrucksstark
erscheinen – und bewirken
Benachteiligung.
https://taz.de/Diskriminierung-in-Videochats/!5770053/

14. Roboter in Singapur ahnden
schlechtes Benehmen
https://www.heise.de/news/Roboter-mahnen-schlechtes-
Benehmen-in-Singapur-an-6184973.html
Ergebnis eines Zuhörer-Voting beim WUD Stuttgart 2021

15. Autonomer Roboterhund
mit Scharfschützengewehr
https://www.heise.de/news/US-Wa
ff
enhersteller-zeigt-
Roboterhund-mit-Scharfschuetzengewehr-6217703.html
Ergebnis eines Zuhörer-Voting beim WUD Stuttgart 2021

16. DOKUMENTE &
AUSSAGEN

17. 2018 2019 2020 2021
Definition Leitlinien &
Bewertungsschema
Weißbuch -
Gesamtvision
Robotik - Haftung
und Sicherheit
Gesetzesvorschlag +
Kommunikationsstrategie, …
PAPIER IST GEDULDIG

18. Photo by Rowan Heuvel on Unsplash
KI-Systeme sollten Menschen NICHT…
unterordnen, nötigen, täuschen,
manipulieren, konditionieren oder in
eine Gruppe drängen.

19. RECHTMÄßIG, ETHISCH &
ROBUST
‣ Leitplanken
Auszug: Autonomie, Unversehrtheit, Fairness,
Erklärbarkeit, Machtbalance bei Interessensgruppen,…
‣ Design Prinzipien
Auszug: Vorrang menschlichen Handelns, Privatsphäre,
Transparenz, Nicht-Diskriminierung, Nachhaltigkeit
‣ Tooling
z. B. Fragenkatalog für Self Assessment und
Sensibilisierung
Photo by Rowan Heuvel on Unsplash

20. RISIKOKLASSEN
‣ Hochrisiko
Auszug: Verkehr und Infrastruktur, Personalwesen,
öffentliche Dienste, Strafverfolgung, Gefahr für
Gesundheit und Sicherheit
‣ EU Register und Zertifizierung
‣ KI-Gesetz
‣ Menschliche Aufsicht
‣ Cybersicherheit
‣ Verboten
Social Scoring, Diskriminierung, biometrische
Fernidentifikation, unterschwellige Beeinflussung,
Ausnutzung Schutzbedürftiger (z. B. Spielzeug)
‣ Videospiele, Spamfilter, Chatbots, …

21. FAZIT & KOMMENTAR

22. ABZUG IN DER B-NOTE
‣ Lobby-Arbeit deutlich spürbar
Militär, Verlags- und Anzeigenbranche, soziale
Netzwerke, Internetkonzerne, …
‣ Klassifizierung als Hochrisiko-System
Autonome Waffe “okay”, weil Befehl für autonomen
Angriff vom Menschen? Weniger bedenklich als KI-
Kinderspielzeug?
‣ Auslegung von “manipulativem Verhalten”
Ungeklärt, wie KI-Zertifizierungsstelle künftig z.vB.
soziale Netzwerke oder Upload-Filter bewertet?
‣ Altruismus als “gefährliche Annahme” (?)
z. B Regulierung Daten als Gemeinschaftsgut,
Beeinflussung Kaufverhalten durch Aufklärung, …
https://computerwelt.at/news/menschen-bevorzugen-nicht-menschliche-roboter/

23. DENNOCH
‣ Ich find’s gut! Trotz Lücken.
‣ Intelligente Maschinen Teil unseres Lebens
EU schafft Leitlinien für geregeltes “Miteinander”.
‣ Fortschreitende Demokratisierung
Dank Low Code und Frameworks wie Tensor Flow.
‣ Vielleicht wichtigster Gesellschaftsdiskurs
Gutes und Schlechtes selten so nahe beieinander.
Mensch-zentrierte Gestaltungswerkzeuge und
Mitwirkung von uns als Digital Designer wichtig
wie nie zuvor!
Für KI, die den Menschen unterstützt und befähigt.
https://computerwelt.at/news/menschen-bevorzugen-nicht-menschliche-roboter/

24. INSPIRATION ZUM THEMA GESUCHT?
Data as Capital
Einstieg in KI, Daten, DLT und
ökonomische Potentiale
Francesca Bria
Wirtschafts- & Sozialwissenschaftlerin;
Verfechterin für digitale Souveränität
Thomas Metzinger
Philosoph; Mitglied HREG für KI in der EU
Kommission
KI Leitlinien und Co.
https://ec.europa.eu/info/strategy/
priorities-2019-2024/europe-fit-
digital-age/excellence-trust-artificial-
intelligence_de#documents

25. Let’s shape the
future together!

26. Ihre individuelle
Digitalisierungsstrategie
mit Ergosign
Für innovative Produkte & Services, die
ihre Nutzer:innen begeistern
KONTAKT

27. 27
JAN GROENEFELD
Lead UX Designer,
Solution Manager Industry
jan.groenefeld@ergosign.de
Vielen
Dank! GET IN TOUCH

28. HEY, AVA…
KANN DAS WIRKLICH GUT GEHEN?
https://www.youtube.com/watch?v=0Gq5R5
ff
rtE

29. KI & DATEN
IN DER PRAXIS

30. https://doyouspeakhuman.com

31. Made to measure - Ein
Kunstexperiment
https://madetomeasure.online/de/experience

32. CDAC -
Neurorehabilitation für
Behandlung von Corona-
Intensivpatienten
https://cordis.europa.eu/project/id/341196
Photo by National Cancer Institute on Unsplash

33. ANTARES - Intelligente
Sensoren zur Ernährung
der wachsenden
Weltbevölkerung
https://cordis.europa.eu/project/id/739570
Photo by ThisisEngineering RAEng on Unsplash

34. WeVerify - Online-Tools
für Faktencheck und
Richtigstellung
https://ec.europa.eu/info/strategy/priorities-2019-2024/
europe-
fi
t-digital-age/excellence-trust-arti
fi
cial-
intelligence_de#eu-und-ki
Photo by Obi Onyeador on Unsplash

35. Tesla is building an AI
humanoid robot called
Optimus
https://www.newscientist.com/article/2287792-tesla-is-
building-an-ai-humanoid-robot-called-optimus-says-elon-musk/

36. Deutschland warnt: KI-
Wettrüsten bereits im
Gange
https://www.dw.com/de/deutschland-warnt-ki-wettrüsten-
bereits-im-gange/a-57782686
https://mixed.de/ki-im-krieg/

37. Darf der „Todes-
Algorithmus“ über
Leben entscheiden?
https://www.focus.de/wissen/kuenstliche-intelligenz-in-
der-medizin-der-todesalgorithmus_id_24332671.html

38. Amazon-Lieferanten
klagen über Kündigung
via Algorithmus
https://www.derstandard.de/story/2000127802686/
gefeuert-von-einem-bot-amazon-lieferanten-klagen-ueber-
kuendigung-via

39. Amazon-Zusteller:innen:
KI-Kamera im Auto senkt
Lohn durch falsche Strafen
https://www.heise.de/news/Amazon-Zusteller-KI-Kamera-im-
Fuehrerhaus-senkt-Lohn-durch-falsche-Abstrafung-6198126.html

40. Cyborg-Debatte: Wenn
Technik unter die Haut
geht
https://www.heise.de/news/Cyborg-Debatte-Wenn-Technik-
unter-die-Haut-geht-und-die-Genschere-kommt-6194433.html
https://digiwell.com/coaching-fuer-die-ersten-schritte

41. Re
fi
k Anadol unveils
‘
fi
rst-of-its-kind’ AI
artwork NFTs
https://archinect.com/news/article/150281763/re
fi
k-
anadol-unveils-
fi
rst-of-its-kind-ai-artwork-nfts
https://archinect.com/news/article/150281763/refik-anadol-unveils-first-of-its-kind-ai-artwork-n
ft
s#&gid=1&pid=1

42. Gesichtserkennungs-
Software kann Schwarze
nicht von Gorillas
unterscheiden
https://www.aargauerzeitung.ch/leben/
gesichtserkennungssoftware-kann-schwarze-nicht-von-
gorillas-unterscheiden-das-ist-peinlich-und-gefahrlich-
ld.1229298
https://www.theguardian.com/technology/2019/jul/29/what-is-facial-recognition-and-how-sinister-is-it

43. Wie die afghanische
Biometrie-Datenbank in die
Hände der Taliban gelangte
https://www.heise.de/hintergrund/Wie-die-afghanische-Biometrie-
Datenbank-in-die-Haende-der-Taliban-gelangte-6184168.html

44. Social Scoring-Systeme,
die das Verhalten der
Einwohner:innen
beurteilen.
https://www.heise.de/
https://www.netzpiloten.de/das-social-credit-system-in-china/

45. KI sucht Hinweise für
Kindesmissbrauch und
erklärt ihre Warnungen
https://www.heise.de/news/KI-sucht-Hinweise-fuer-
Kindesmissbrauch-und-erklaert-ihre-
Warnungen-6237248.html

46. DeepFakes
https://www.heise.de/hintergrund/Deepfakes-Wie-eine-KI-
App-Gesichter-von-Frauen-in-Pornos-einfuegt-6191417.html
Photo by Ava Sol / Unsplash

47. Klang
fi
lter lassen Frauen
weniger ausdrucksstark
erscheinen – und bewirken
Benachteiligung.
https://taz.de/Diskriminierung-in-Videochats/!5770053/
https://www.lokalmatador.de/thema/tipps-fuer-die-telefonkonferenz-im-home-office-2179/