SlideShare ist ein Scribd-Unternehmen logo
Können wir einer „KI“
Moral beibringen?
X-Conference 2020
Tobias Jonas
‣ Was ist KI heute?
‣ Wie können wir KI kontrollieren?
‣ Wo sind für uns als Startup die
moralischen Grenzen?
‣ Diskussion / Q&A
Agenda
„KI ist wahrscheinlich das Beste oder
das Schlimmste, was der Menschheit
passieren kann.“ 
– Stephen Hawking, Physiker
„Die Macht der künstlichen
Intelligenz ist so unglaublich, dass sie
die Gesellschaft auf tiefgehende
Weise verändern wird.“ 
– Bill Gates, Gründer Microsoft
ist eine menschenähnliche Intelligenz, die in der Lage ist Aufgaben zu lösen.
Künstliche Intelligenz (KI)
Was ist der Unterschied
zwischen menschlicher und
künstlicher Intelligenz?
Vom Programm zum Lernen
Maschinelles
Lernen
Eingabedaten
Ergebnis
Logik / Regeln
Eingabedaten
Logik / Regeln
Ergebnis
Klassische
Softwareentwicklung
Die Robotergesetze
von Isaacs Asimov
KI und Moral - Eine Grundlagendebatte
http://moralmachine.mit.edu/ https://www.nature.com/articles/s41586-018-0637-6
Armin Grunwald,
Mitglied der Ethikkommission des deutschen Bundesministeriums
„Der Algorithmus darf nicht Menschen
nach unterschiedlichen Werten
abwägen. Das ist in Deutschland
verboten. Bei uns gilt: die
Menschenwürde ist unantastbar. Und
da ist es egal, welcher Mensch das ist.“
Art 1 GG
Die Würde des
Menschen ist
unantastbar
Lawful
Robust .Ethical
Trustworthy
AI
Was ist
„Trustworthy AI“?
Die Frage ist,
was dürfen Maschinen überhaupt?
‣ Als IT Unternehmen arbeiten wir ständig mit
Daten und scheuen uns auch nicht davor
Algorithmen und Methoden auszuprobieren.
‣ Technisch können wir vieles umsetzen, hatten
aber selbst noch nicht den Case an eine für uns
moralische Grenze zu kommen, die das Leben
anderer einschränken kann.
‣ Unsere trainierten Systeme sollen den Menschen
unterstützen und nicht schädigen.
Sinnvolles Mitgestaltung anstatt Zuschauen
Unsere Sicht als junges IT Unternehmen
Würden Sie abwägen wollen?
A) Kind
B) Alte Dame
C) Lassen wir den
„mathematischen
Zufall“ entscheiden
Diskussion / Q&A

Weitere ähnliche Inhalte

Ähnlich wie Können wir einer "KI" Moral beibringen?

Künstliche Intelligenz
Künstliche IntelligenzKünstliche Intelligenz
Künstliche Intelligenz
Praktikant11
 
Break-out Session: Roboter in der Teppichetage? Cornelia Diethelm, Founder Ce...
Break-out Session: Roboter in der Teppichetage? Cornelia Diethelm, Founder Ce...Break-out Session: Roboter in der Teppichetage? Cornelia Diethelm, Founder Ce...
Break-out Session: Roboter in der Teppichetage? Cornelia Diethelm, Founder Ce...
HWZ Hochschule für Wirtschaft
 
DE- Module 5 - Legislation
DE- Module 5 - LegislationDE- Module 5 - Legislation
DE- Module 5 - Legislation
caniceconsulting
 
FUTURE-WORK: MENSCH-MASCHINE - WILL THE ROBOTS TAKE OVER?
FUTURE-WORK: MENSCH-MASCHINE - WILL THE ROBOTS TAKE OVER?FUTURE-WORK: MENSCH-MASCHINE - WILL THE ROBOTS TAKE OVER?
FUTURE-WORK: MENSCH-MASCHINE - WILL THE ROBOTS TAKE OVER?
Marc Wagner
 
RICHTIG GUT: DIE QUALITÄT VON MODELLEN VERSTEHEN
RICHTIG GUT: DIE QUALITÄT VON MODELLEN VERSTEHENRICHTIG GUT: DIE QUALITÄT VON MODELLEN VERSTEHEN
RICHTIG GUT: DIE QUALITÄT VON MODELLEN VERSTEHEN
Shirin Elsinghorst
 
Künstliche Intelligenz aus volkswirtschaftlicher Sicht
Künstliche Intelligenz aus volkswirtschaftlicher SichtKünstliche Intelligenz aus volkswirtschaftlicher Sicht
Künstliche Intelligenz aus volkswirtschaftlicher Sicht
Dr. Ralf Koelbach
 
Zukunftstrends:Work-Life Integration-Here and there and everywhere
Zukunftstrends:Work-Life Integration-Here and there and everywhereZukunftstrends:Work-Life Integration-Here and there and everywhere
Zukunftstrends:Work-Life Integration-Here and there and everywhere
Uwe Hauck
 
Social Media Workshop – Hypi Academy
Social Media Workshop – Hypi AcademySocial Media Workshop – Hypi Academy
Social Media Workshop – Hypi Academy
Marc Fischer
 
Somtypes Fokusreport Künstliche Intelligenz
Somtypes Fokusreport Künstliche IntelligenzSomtypes Fokusreport Künstliche Intelligenz
Somtypes Fokusreport Künstliche Intelligenz
Somtypes
 
5. Marketing Symposium Mensch - Maschine - Roboter Hochschule Darmstadt, Nov....
5. Marketing Symposium Mensch - Maschine - Roboter Hochschule Darmstadt, Nov....5. Marketing Symposium Mensch - Maschine - Roboter Hochschule Darmstadt, Nov....
5. Marketing Symposium Mensch - Maschine - Roboter Hochschule Darmstadt, Nov....
Restorm
 
Digitale Transformation, künstliche Intelligenz und Blockchain: Breaking the ...
Digitale Transformation, künstliche Intelligenz und Blockchain: Breaking the ...Digitale Transformation, künstliche Intelligenz und Blockchain: Breaking the ...
Digitale Transformation, künstliche Intelligenz und Blockchain: Breaking the ...
Patrick Stähler
 
Science Reality
Science Reality Science Reality
Science Reality
Elle Nerdinger
 
AI Vortrag Leuphana Universität Lüneburg
AI Vortrag Leuphana Universität LüneburgAI Vortrag Leuphana Universität Lüneburg
AI Vortrag Leuphana Universität Lüneburg
aconris
 
DDr. Alexander Petsche (Baker & McKenzie)
DDr. Alexander Petsche (Baker & McKenzie)DDr. Alexander Petsche (Baker & McKenzie)
DDr. Alexander Petsche (Baker & McKenzie)
Agenda Europe 2035
 
eLearniSummit - Thementisch "KI, VR / AR & Co" Call 21.11.19 Gütersloh
eLearniSummit - Thementisch "KI, VR / AR & Co" Call 21.11.19 GütersloheLearniSummit - Thementisch "KI, VR / AR & Co" Call 21.11.19 Gütersloh
eLearniSummit - Thementisch "KI, VR / AR & Co" Call 21.11.19 Gütersloh
Dr. Daniel Stoller-Schai
 
Small cdu 27102020_k_iund_medien
Small cdu 27102020_k_iund_medienSmall cdu 27102020_k_iund_medien
Small cdu 27102020_k_iund_medien
Jörg Müller-Lietzkow
 
Netzpolitik13: Das Internet der Dinge: Rechte, Regulierung & Spannungsfelder
Netzpolitik13: Das Internet der Dinge: Rechte, Regulierung & SpannungsfelderNetzpolitik13: Das Internet der Dinge: Rechte, Regulierung & Spannungsfelder
Netzpolitik13: Das Internet der Dinge: Rechte, Regulierung & Spannungsfelder
Peter Bihr
 
Projektgruppe Medienkompetenz
Projektgruppe MedienkompetenzProjektgruppe Medienkompetenz
Projektgruppe Medienkompetenz
Open-Enquete
 
Ausgabe 04/2019 des eStrategy-Magazins
Ausgabe 04/2019 des eStrategy-MagazinsAusgabe 04/2019 des eStrategy-Magazins
Ausgabe 04/2019 des eStrategy-Magazins
TechDivision GmbH
 
Kuenstliche Intelligenz in unserem Alltag
Kuenstliche Intelligenz in unserem AlltagKuenstliche Intelligenz in unserem Alltag
Kuenstliche Intelligenz in unserem Alltag
Matthias Stürmer
 

Ähnlich wie Können wir einer "KI" Moral beibringen? (20)

Künstliche Intelligenz
Künstliche IntelligenzKünstliche Intelligenz
Künstliche Intelligenz
 
Break-out Session: Roboter in der Teppichetage? Cornelia Diethelm, Founder Ce...
Break-out Session: Roboter in der Teppichetage? Cornelia Diethelm, Founder Ce...Break-out Session: Roboter in der Teppichetage? Cornelia Diethelm, Founder Ce...
Break-out Session: Roboter in der Teppichetage? Cornelia Diethelm, Founder Ce...
 
DE- Module 5 - Legislation
DE- Module 5 - LegislationDE- Module 5 - Legislation
DE- Module 5 - Legislation
 
FUTURE-WORK: MENSCH-MASCHINE - WILL THE ROBOTS TAKE OVER?
FUTURE-WORK: MENSCH-MASCHINE - WILL THE ROBOTS TAKE OVER?FUTURE-WORK: MENSCH-MASCHINE - WILL THE ROBOTS TAKE OVER?
FUTURE-WORK: MENSCH-MASCHINE - WILL THE ROBOTS TAKE OVER?
 
RICHTIG GUT: DIE QUALITÄT VON MODELLEN VERSTEHEN
RICHTIG GUT: DIE QUALITÄT VON MODELLEN VERSTEHENRICHTIG GUT: DIE QUALITÄT VON MODELLEN VERSTEHEN
RICHTIG GUT: DIE QUALITÄT VON MODELLEN VERSTEHEN
 
Künstliche Intelligenz aus volkswirtschaftlicher Sicht
Künstliche Intelligenz aus volkswirtschaftlicher SichtKünstliche Intelligenz aus volkswirtschaftlicher Sicht
Künstliche Intelligenz aus volkswirtschaftlicher Sicht
 
Zukunftstrends:Work-Life Integration-Here and there and everywhere
Zukunftstrends:Work-Life Integration-Here and there and everywhereZukunftstrends:Work-Life Integration-Here and there and everywhere
Zukunftstrends:Work-Life Integration-Here and there and everywhere
 
Social Media Workshop – Hypi Academy
Social Media Workshop – Hypi AcademySocial Media Workshop – Hypi Academy
Social Media Workshop – Hypi Academy
 
Somtypes Fokusreport Künstliche Intelligenz
Somtypes Fokusreport Künstliche IntelligenzSomtypes Fokusreport Künstliche Intelligenz
Somtypes Fokusreport Künstliche Intelligenz
 
5. Marketing Symposium Mensch - Maschine - Roboter Hochschule Darmstadt, Nov....
5. Marketing Symposium Mensch - Maschine - Roboter Hochschule Darmstadt, Nov....5. Marketing Symposium Mensch - Maschine - Roboter Hochschule Darmstadt, Nov....
5. Marketing Symposium Mensch - Maschine - Roboter Hochschule Darmstadt, Nov....
 
Digitale Transformation, künstliche Intelligenz und Blockchain: Breaking the ...
Digitale Transformation, künstliche Intelligenz und Blockchain: Breaking the ...Digitale Transformation, künstliche Intelligenz und Blockchain: Breaking the ...
Digitale Transformation, künstliche Intelligenz und Blockchain: Breaking the ...
 
Science Reality
Science Reality Science Reality
Science Reality
 
AI Vortrag Leuphana Universität Lüneburg
AI Vortrag Leuphana Universität LüneburgAI Vortrag Leuphana Universität Lüneburg
AI Vortrag Leuphana Universität Lüneburg
 
DDr. Alexander Petsche (Baker & McKenzie)
DDr. Alexander Petsche (Baker & McKenzie)DDr. Alexander Petsche (Baker & McKenzie)
DDr. Alexander Petsche (Baker & McKenzie)
 
eLearniSummit - Thementisch "KI, VR / AR & Co" Call 21.11.19 Gütersloh
eLearniSummit - Thementisch "KI, VR / AR & Co" Call 21.11.19 GütersloheLearniSummit - Thementisch "KI, VR / AR & Co" Call 21.11.19 Gütersloh
eLearniSummit - Thementisch "KI, VR / AR & Co" Call 21.11.19 Gütersloh
 
Small cdu 27102020_k_iund_medien
Small cdu 27102020_k_iund_medienSmall cdu 27102020_k_iund_medien
Small cdu 27102020_k_iund_medien
 
Netzpolitik13: Das Internet der Dinge: Rechte, Regulierung & Spannungsfelder
Netzpolitik13: Das Internet der Dinge: Rechte, Regulierung & SpannungsfelderNetzpolitik13: Das Internet der Dinge: Rechte, Regulierung & Spannungsfelder
Netzpolitik13: Das Internet der Dinge: Rechte, Regulierung & Spannungsfelder
 
Projektgruppe Medienkompetenz
Projektgruppe MedienkompetenzProjektgruppe Medienkompetenz
Projektgruppe Medienkompetenz
 
Ausgabe 04/2019 des eStrategy-Magazins
Ausgabe 04/2019 des eStrategy-MagazinsAusgabe 04/2019 des eStrategy-Magazins
Ausgabe 04/2019 des eStrategy-Magazins
 
Kuenstliche Intelligenz in unserem Alltag
Kuenstliche Intelligenz in unserem AlltagKuenstliche Intelligenz in unserem Alltag
Kuenstliche Intelligenz in unserem Alltag
 

Können wir einer "KI" Moral beibringen?

  • 1. Können wir einer „KI“ Moral beibringen? X-Conference 2020 Tobias Jonas
  • 2. ‣ Was ist KI heute? ‣ Wie können wir KI kontrollieren? ‣ Wo sind für uns als Startup die moralischen Grenzen? ‣ Diskussion / Q&A Agenda
  • 3. „KI ist wahrscheinlich das Beste oder das Schlimmste, was der Menschheit passieren kann.“  – Stephen Hawking, Physiker „Die Macht der künstlichen Intelligenz ist so unglaublich, dass sie die Gesellschaft auf tiefgehende Weise verändern wird.“  – Bill Gates, Gründer Microsoft
  • 4. ist eine menschenähnliche Intelligenz, die in der Lage ist Aufgaben zu lösen. Künstliche Intelligenz (KI)
  • 5. Was ist der Unterschied zwischen menschlicher und künstlicher Intelligenz?
  • 6. Vom Programm zum Lernen Maschinelles Lernen Eingabedaten Ergebnis Logik / Regeln Eingabedaten Logik / Regeln Ergebnis Klassische Softwareentwicklung
  • 8. KI und Moral - Eine Grundlagendebatte http://moralmachine.mit.edu/ https://www.nature.com/articles/s41586-018-0637-6
  • 9. Armin Grunwald, Mitglied der Ethikkommission des deutschen Bundesministeriums „Der Algorithmus darf nicht Menschen nach unterschiedlichen Werten abwägen. Das ist in Deutschland verboten. Bei uns gilt: die Menschenwürde ist unantastbar. Und da ist es egal, welcher Mensch das ist.“ Art 1 GG Die Würde des Menschen ist unantastbar
  • 11. Die Frage ist, was dürfen Maschinen überhaupt?
  • 12. ‣ Als IT Unternehmen arbeiten wir ständig mit Daten und scheuen uns auch nicht davor Algorithmen und Methoden auszuprobieren. ‣ Technisch können wir vieles umsetzen, hatten aber selbst noch nicht den Case an eine für uns moralische Grenze zu kommen, die das Leben anderer einschränken kann. ‣ Unsere trainierten Systeme sollen den Menschen unterstützen und nicht schädigen. Sinnvolles Mitgestaltung anstatt Zuschauen Unsere Sicht als junges IT Unternehmen
  • 13. Würden Sie abwägen wollen? A) Kind B) Alte Dame C) Lassen wir den „mathematischen Zufall“ entscheiden