Dem Internet der Dinge sowie dessen Ausprägungen – z.B. Industrie 4.0, Smart Cities oder Smart Grids – werden in den kommenden Jahren wegweisende Bedeutungen für den Wirtschaftsstandort Deutschland zugeschrieben. Es steht unter Anderem sinnbildlich für autonom agierende und intelligente Computersysteme, die selbständig Entscheidungen treffen können, die nur bedingt vorbestimmt sind. Der Vertrag stellt dar, für wen sich juristischen Konsequenzen aus einem intelligenten Handeln autonomer Maschinen ableiten. Dabei wird zivil-, haftungs- und datenschutzrechtlichen Fragen autonomer Software und Systeme nachgegangen und aufgezeigt, welche rechtlichen Anforderungen bei Entwicklung und Einsatz von smarten Anwendungen im Internet der Dinge zu berücksichtigen sind.

1. Autonomes Handeln
intelligenter Maschinen
Internet der Dinge und Industrie 4.0
Arbeitskreis EDV & Recht, Köln, 2.12.2015

2. Überblick
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 2

3. Wer?
• Sascha Kremer
• „Überzeugungstäter“
• Fachanwalt für IT-Recht, Datenschutzbeauftragter, Datenschutzauditor
• Lehrbeauftragter, Dozent, Autor
• „Surfer“ (Digitalisierung) und „Inselbewohner“ (Vinyl)
• twitter.com/saschakremer, slideshare.net/saschakremer
• facebook.com/lpkhb, loginpartners.de
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 3

4. Was?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 4
Industrie 4.0
1.0 = Mechanisierung
2.0 = Elektrifizierung
3.0 = Digitalisierung
4.0 = Vernetzung

5. Fragen?
• Willenserklärungen?
• Haftung autonomer Systeme/für autonome Systeme?
• Leistungsgegenstand Interaktionsfähigkeit?
• Telekommunikation?
• (Personenbezogene) Daten und Zuordnung?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 5

6. Willenserklärungen?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 6

7. Willenserklärungen
• BGB: nicht definiert
• Willenserklärung verlangt Geschäftsfähigkeit, § 105 I BGB
• Geschäftsfähigkeit verlangt Volljährigkeit, § 104, 106 BGB
• Sonderfall: beschränkte Geschäftsfähigkeit, §§ 106 ff. BGB
• Beachte: Geschäftsfähigkeit ≠ Rechtsfähigkeit
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 7

8. Willenserklärungen
• Klassisches Verständnis differenziert:
• Subjektiver Erklärungstatbestand
• Handlungsbewusstsein
• Erklärungsbewusstsein
• Geschäftsführungswille
• Objektiver Erklärungstatbestand
• Rechtsbindungswille (oder dessen Erkennbarkeit)
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 8

9. Willenserklärungen
• Klassisches Verständnis „Computererklärung“:
• Keine Verantwortlichkeit der Maschine
• Verantwortlichkeit des Entwicklers = Geschäftsfähigen
• BGH, Urt. v. 26.1.2005 – VIII ZR 79/04:
• „Die Verfälschung des ursprünglich richtig Erklärten auf dem Weg zum
Empfänger durch eine unerkannt fehlerhafte Software ist als Irrtum in der
Erklärungshandlung [der den Programmablauf bestimmenden Person]
anzusehen.“
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 9

10. Willenserklärungen
• Autonomes Handeln von Maschinen
• Autonomie-Grad 10: „The computer decides everything, acts
autonomously, ignoring the human“
• Autonome Systeme verfolgen eigene Interessen (gegen Entwickler)
• Entwickler beherrscht Programmablauf nicht (mehr)
• Subjektiver Erklärungstatbestand entfällt
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 10

11. Willenserklärungen
• Autonomes System = kein Erklärungstatbestand
• Keine Willenserklärung = keine Rechtsgeschäfte?
• Fiktion einer Willenserklärung durch (vorherigen) Vertrag?
• Vereinbarung der Parteien über Erklärungsfähigkeit autonomer Systeme
• Beachte: Relativität der Vereinbarung = Bindung nur beteiligter Parteien
• Ersetzung Willenserklärung durch Risikozuordnung?
• mit BGB unvereinbar = §§ 104 ff. BGB analog?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 11

12. Haftung?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 12

13. Haftung
• Beispiel: autonomes Fahren im Smart Car
• § 7 I StVG: „Wird bei dem Betrieb eines [Kfz ...] ein Mensch getötet
[...] oder eine Sache beschädigt, so ist der Halter verpflichtet, dem
Verletzten den daraus entstehenden Schaden zu ersetzen.“
• § 7 II StVG: „Die Ersatzpflicht ist ausgeschlossen, wenn der Unfall
durch höhere Gewalt verursacht wird.“
• Fehlfunktion autonomes System = höhere Gewalt?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 13

14. Haftung
• Beispiel: autonomes Fahren im Smart Car
• § 18 I StVG: „In den Fällen des § 7 [I] ist auch der Führer des
Kraftfahrzeugs [...] zum Ersatz des Schadens [...] verpflichtet. Die
Ersatzpflicht ist ausgeschlossen, wenn der Schaden nicht durch ein
Verschulden des Führers verursacht ist.“
• Fehlfunktion autonomes System = kein Verschulden Führer Kfz?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 14

15. Haftung
• Vertragliche Haftung
• § 280 I 1 BGB: Pflichtverletzung beim Handeln autonomer Systeme?
• § 280 I 2 BGB: Vertreten müssen der Pflichtverletzung?
• § 241 II BGB: Schutzpflichten bei autonomen Systemen?
• § 311 II BGB: Vorvertragliche Aufklärungspflichten?
• § 434 I, 633 II BGB: Sachmangel bei Fehlfunktion?
• Darlegungs- und Beweislast? Umkehrung? Sekundäre Beweislast?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 15

16. Haftung
• Gesetzliche Haftung (I)
• § 823 I BGB: Deliktische Haftung (Verschulden)?
• § 823 II BGB: Schutzgesetzverletzung?
• § 831 I BGB: Haftung für Verrichtungsgehilfen?
• Hersteller autonomer Systeme als „zur Verrichtung Bestellter“?
• Auswahlverschulden?
• Ergänzend: Organisationsverschulden, § 823 I BGB?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 16

17. Haftung
• Gesetzliche Haftung (II)
• § 830 BGB: Mittäter und Beteiligte?
• § 830 I S. 2 BGB: „Das Gleiche gilt, wenn sich nicht ermitteln lässt, wer von
mehreren Beteiligten den Schaden durch seine Handlung verursacht hat.“
• Hersteller autonomer Systeme als Beteiligter = Gesamthaftung?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 17

18. Haftung
• Gesetzliche Haftung (III)
• § 833 BGB: Tierhalterhaftung analog?
• § 836 BGB: Grundstücksbesitzer analog?
• Fehlerhafte Errichtung = Fehlerhafte Entwicklung autonomer Systeme?
• Mangelhafte Unterhaltung = Nichtvornahme erforderlicher Updates?
• Abwendung durch Beobachtung im Verkehr erforderlicher Sorgfalt?
• § 1 I Produkthaftungsgesetz?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 18

19. Haftung
• Haftungsgegner
• Vertragsparteien
• Anwender autonomer Systeme
• Hersteller autonomer Systeme, Zwischenhändler/OEM
• Softwarezulieferer
• Datenzulieferer
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 19

20. Haftung
• Versicherbarkeit Haftungsrisiken autonomer Systeme?
• Deckung durch (freiwillige) Vermögensschadenshaftpflicht?
• Deckung durch (zwingende) Haftpflichtversicherung?
• Deckung durch Berufshaftpflichtversicherung?
• Beispiele:
• Automated legal decision making
• Automated medical decision making
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 20

21. Leistungsgegenstand
Interaktionsfähigkeit?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 21

22. Interaktionsfähigkeit
• Kommunikation M2M verlangt Interaktionsfähigkeit
• Interaktionsfähigkeit = Standards und Schnittstellen
• Standards und Schnittstellen sind „moving target“
• Fehlerbehebung
• Technische Änderungen
• Funktionale Erweiterungen
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 22

23. Interaktionsfähigkeit
• Leistungsgegenstand Interaktionsfähigkeit bei Kauf
• Vereinbarte Beschaffenheit, § 434 I 1 BGB?
• Eignung für im Vertrag vorausgesetzte Verwendung,
§ 434 I 2 Nr. 1 BGB?
• Eignung für gewöhnliche Verwendung plus übliche
und zu erwartende Beschaffenheit für Sachen gleicher Art,
§ 434 I 2 Nr. 2 BGB?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 23

24. Interaktionsfähigkeit
• Leistungsgegenstand Interaktionsfähigkeit
• Erhaltung Interaktionsfähigkeit ist in Zukunft gerichtete Leistung
• Werkvertrag oder Mietvertrag mit Erhaltungspflicht?
• Kaufvertrag mit anschließendem Pflege-/Wartungsvertrag?
• Problem: Zugang Anbieter (Remote/IT-Sicherheit/Datenschutz)?
• Problem: Erhaltung Integration in Umsysteme?
• Problem: Test der (zukünftigen) autonomen Interaktionsfähigkeit?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 24

25. Telekommunikation?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 25

26. Telekommunikation
• Autonome Systeme als Telekommunikationsdienste
• Rechtsfolgen u.a.
• Meldepflicht, § 6 TKG
• Fernmeldegeheimnis, § 88 TKG
• Telekommunikationsdatenschutz, §§ 91 ff. TKG
• „Vorratsdatenspeicherung“, §§ 108 ff. TKG
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 26

27. Telekommunikation
• Telekommunikationsdienst, § 3 Nr. 24 TKG:
• „in der Regel gegen Entgelt erbrachte Dienste, die ganz oder
überwiegend in der Übertragung von Signalen über
Telekommunikationsnetze bestehen, [...]“
• Diensteanbieter, § 3 Nr. 6 TKG:
• „jeder, der [...] geschäftsmäßig a) Telekommunikationsdienste
erbringt oder b) an der Erbringung solcher Dienste mitwirkt“
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 27

28. Telekommunikation
• Signalübertragung = Rückgriff OSI-Schichtenmodell
• strittig: Einordnung OTT-Dienste („over the top“)
• VG Köln, Urt. v. 11.11.2015 – 21 K 450/15 (zu Google Mail)
• „wertend-funktionale Betrachtung“ erforderlich
• Veranlassung der Signalübertragung eines Dritten ausreichend
• Beachte: Drittbezug erforderlich (nicht ausreichend: interne Übertragung)
• Beachte: Nicht rechtskräftig, Sprungrevision zugelassen
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 28

29. (Personenbezogene) Daten
und Zuordnung?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 29

30. (personenbezogene) Daten
• Zuordnung der Daten von oder aus autonomen Systemen
• Kein Eigentum an Daten (fehlende Sacheigenschaft)
• Data Ownership bedarf vertraglicher Festlegung
• Data Quality bedarf vertraglicher Festlegung (vergleichbar SLA)
• Daten/Datensammlungen als sonstiges Recht?
• Daten/Datensammlungen als Betriebs-/Geschäftsgeheimnisse?
• Daten/Datensammlungen als Urheber-/Leistungsschutzrecht?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 30

31. (personenbezogene) Daten
• Personenbeziehbarkeit der Daten
• Weites Verständnis: absolute Theorie
• Zur Entscheidung beim EuGH – C 582/14
• Vorlage durch BGH, Beschl. v. 28.10.2014 –VI ZR 135/13
• Bei Personenbeziehbarkeit: Anwendbarkeit BDSG
• Zu beachten: ggf. Vorrang Spezialgesetze (TKG, siehe oben)
• Rechtsfolge: Verbot mit Erlaubnisvorbehalt, § 4 Abs. 1 BDSG
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 31

32. (personenbezogene) Daten
• Lösungsansätze:
• Anonymisierung, § 3 VI BDSG = Datenschutzrecht unanwendbar
• Beachte: De-Anonymisierung führt zurück ins Datenschutzrecht
• Notwendig: Fortlaufende Überprüfung der Anonymität in Prozessen
• Pseudonymisierung, § 3 VIa BDSG = Datenschutzrecht anwendbar
• Eigene Erlaubnistatbestände (z.B. § 15 Abs. 3 TMG)
• Reduzierung der Anforderungen an TOM, § 9 BDSG
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 32

33. (personenbezogene) Daten
• Folgeproblem im Datenschutzrecht: Transfer in Drittland
• Zweite Stufe Rechtmäßigkeitsprüfung, §§ 4b, 4c BDSG
• Voraussetzung: Angemessenes Datenschutzniveau im Drittland (oder
Einwilligung des Betroffenen u.a. Fälle, § 4c I BDSG)
• Unwirksamkeit Safe Harbor: EuGH, Urt. v. 6.10.2015 – C-362/14
• Alternativen:
• Binding Corporate Rules, EU Model Clauses (Standardverträge)?
• Art. 38, 39 DS-GVO (Code of Conduct, Zertifizierungen)?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 33

34. Fazit
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 34

35. Fragen?
Fragen!
Sascha Kremer
sascha.kremer@loginpartners.de
Tel +49(2238)5408700 / Mobil +49(171)8319621