Was darf KI? Ausblicke auf den AI Act und die europäische KI Gesetzgebung. RA Mag. Birgit Noha, LL.M. (Laws.at)

1. 22.02.2024 . 1
Mag Birgit Noha, LLM
Rechtsanwältin
zertifizierte
Datenschutzbeauftragte
Zieglergasse 1/18
A-1070 Wien / Vienna
Mail: Office@laws.at
Tel: +43 (0)1 / 90680 – 730
Mobil: +4369917171009

2. Was darf KI? Eine Ausblick auf die
europäische KI Gesetzgebung
22.02.2024 Mag. Birgit Noha, LL.M. 2
… und was anwendende
Unternehmen beachten
solllten

3. Künstliche Intelligenz
Anwendungen
• Automatische Erstellung von Texten für die Ausgabe von Sprache
oder Text über einen virtuellen Sprachassistenten oder Chatbot
• Drohnen
• Selbstfahrende Autos bzw Fahrassistenten
• Sprachassistenten/Gesichtserkennung
• (Rechts)datenbanken
• Musik: zB Jonny Cash sings Barbie girl (AI Cover)
• Medizin:
– Diagnostik
– Digital Death Prediction: Triage
– Digital life Prediction: RESPECT
– Psychotherapie
• KI generierte Fotos, deep fakes
Dabei wurde der Charakter der Ornella Muti des Jahres 2018 durch eine KI errechnet, die aus den Gesichtsdaten der jungen
Ornella Muti und Filmszenen des Modells Kendall Jenner neue Szenen errechnete,
• uva
22.02.2024 Mag. Birgit Noha, LL.M. 3

4. ChatGPT
• Urheberrechtliche Aspekte
• Datenschutzrechtliche Aspekte
22.02.2024 Mag. Birgit Noha, LL.M. 4

5. Können Unternehmen bei der Nutzung
von ChatGPT unbewusst
Urheberrechte verletzen?
Eine unbewusste Urheberrechtsverletzung durch die Nutzung
von Chat GPT ist möglich.
Es ist möglich, dass Texte von ChatGPT nur einen minimal von der
ursprünglichen Version stammenden Text abgeändert werden oder
sogar wesentliche Elemente vom Ursprungstext identisch
übernommen wurden. Wer dann einen solchen Text vervielfältigt
oder veröffentlicht, begeht dann ohne es beabsichtigt zu haben eine
Urheberrechtsverletzung. Der Urheber des Originals kann in einem
solchen Fall Unterlassungs-, Schadensersatz- und
Beseitigungsansprüche geltend machen.
22.02.2024 Mag. Birgit Noha, LL.M. 5

6. Was ist aus datenschutzrechtlicher Sicht bei der
Eingabe von personenbezogenen Daten und
sensiblen Unternehmensdaten auf ChatGPT zu
achten?
Es gilt die DSGVO. Daher dürfen auch keine personenbezogenen
Daten von Dritten, wie etwa Namen, Kontaktdaten, Wertungen oder
andere Daten, die eine Person identifizierbar machen, bei ChatGPT
eingegeben werden. Auch die Nutzungsbedingungen von ChatGPT
untersagen eine solche Eingabe.
Sie sollten in Ihren Unternehmen auch darauf achten, dass keine
Betriebs- oder Geschäftsgeheimnisse eingegeben werden. Auch
sind gesetzliche oder vertragliche Verschwiegenheitspflichten
zu beachten.
Auch ist zu beachten, dass wenn Geschäftsgeheimnisse des eigenen
Unternehmens eingegeben werden, diese die Einstufung als
Geschäftsgeheimnisse verlieren und von Dritten verwendet werden dürfen.
Etwaige arbeitsrechtliche Maßnahmen sind in diesen Fällen ebenfalls
gesondert zu betrachten.
22.02.2024 Mag. Birgit Noha, LL.M. 6

7. Welche Anforderungen enthalten die
Nutzungsbedingungen von ChatGPT, denen man
zum Zeitpunkt der Registrierung zustimmt?
Die Nutzung von ChatGPT ist an einige Bedingungen geknüpft.
Unter anderem dürfen die Nutzer nicht behaupten, dass der Output
von einem Menschen generiert wurde oder urheberrechtlich
geschützte Materialien, ohne die erforderliche Zustimmung des
Betroffenen verbreiten, persönliche Informationen von Dritten ohne
deren Zustimmung offenlegen oder aber die KI zur Förderung von
Diskriminierung aufgrund von Rasse, Geschlecht, Religion,
Nationalität u.a. zu verwenden.
22.02.2024 Mag. Birgit Noha, LL.M. 7

8. 22.02.2024 Mag. Birgit Noha, LL.M. 8
Der "AI Act" ist ein Gesetzesvorschlag der Europäischen Union (EU), der im April 2021 von der Europäischen
Kommission vorgelegt wurde. Dieser Gesetzesvorschlag hat den Anwendungsbereich und Inhalt im
Zusammenhang mit der Regulierung von künstlicher Intelligenz (AI) in der EU. Hier sind die wichtigsten Aspekte
des AI Act:
Anwendungsbereich des AI Act:
Der AI Act zielt darauf ab, die Nutzung von KI in der EU zu regulieren und sicherzustellen, dass KI-Systeme sicher
und ethisch verantwortlich entwickelt und eingesetzt werden. Er gilt für eine breite Palette von KI-Anwendungen
und -diensten, sowohl in der öffentlichen als auch in der privaten Sphäre. Der Geltungsbereich umfasst sowohl
Unternehmen innerhalb als auch außerhalb der EU, wenn ihre KI-Systeme in der EU genutzt werden.
Inhalt des AI Act:
Der AI Act enthält eine Vielzahl von Bestimmungen und Regelungen, darunter:
1.Risikoklassifizierung: Der Gesetzesvorschlag klassifiziert KI-Anwendungen in verschiedene Risikokategorien,
von niedrigem bis hohem Risiko. Dies hilft bei der Bestimmung des erforderlichen Maßes an Regulierung und
Überwachung.
2.Verbotene Praktiken: Der AI Act verbietet bestimmte KI-Praktiken, die als besonders gefährlich oder ethisch
bedenklich angesehen werden, wie beispielsweise die Erstellung von "Deepfake"-Inhalten zur Täuschung.
3.Transparenz und Dokumentationspflichten: Hersteller von KI-Systemen müssen umfassende
Dokumentationen bereitstellen, um die Transparenz und Rückverfolgbarkeit ihrer KI-Systeme sicherzustellen.
4.Durchführung von Risikobewertungen: Für KI-Systeme, die als hochriskant eingestuft werden, müssen
Hersteller Risikobewertungen durchführen und Sicherheitsmaßnahmen implementieren.
5.Unabhängige Konformitätsbewertungen: Hochriskante KI-Systeme müssen von unabhängigen Stellen
überprüft und bewertet werden, um sicherzustellen, dass sie den Anforderungen entsprechen.
6.Kennzeichnungspflichten: Bestimmte KI-Anwendungen müssen gekennzeichnet werden, um den Benutzern
mitzuteilen, dass sie mit einem KI-System interagieren.
7.Datenverwendung und Datenschutz: Der AI Act berücksichtigt auch die Datenschutzaspekte bei der
Verwendung von KI-Systemen und stellt sicher, dass die Datenschutzrechte der Menschen gewahrt werden.
Der AI Act ist Teil der Bemühungen der EU, die Nutzung von KI sicherer und ethischer zu gestalten und das
Vertrauen der Verbraucher in KI-Technologien zu stärken. Es handelt sich um einen wichtigen Schritt in der

9. AI Act und weitere KI
Rechtsakte
AI Act (Entwurf, wahrscheinlich 2024/2026):
Unterschiedlich weitreichende Pflichten für Anbieter
nach Risikokategorien
Der AI Act teilt Künstliche Intelligenz in drei
„unannehmbar“, „hoch“ und „gering/minimal“.
Je mehr Risiko, desto mehr Auflagen, die auch geprüft
werden.
22.02.2024 Mag. Birgit Noha, LL.M. 9

10. Unanehmbare Risken
Verboten, zB social scoring,
Emotionsüberwachung am Arbeitsplatz,
manipulative oder ausbeuterische
Praktiken, vorausschauende
Polizeiarbeit
Die Kommission möchte den Staaten in ihrem Entwurf
beim Einsatz biometrischer Überwachung einige Freiheiten
lassen. Zwar stuft sie solche Systeme als „hochriskant“ ein,
möchte aber sogenannte „biometrische Echtzeit-
Fernidentifizierungssysteme in öffentlich zugänglichen
Räumen zu Strafverfolgungszwecken dennoch zulassen.
22.02.2024 Mag. Birgit Noha, LL.M. 10

11. Für KI-Systeme mit Risikoklasse
„hoch“ (v.a. im Anhang) gelten
besondere Anforderungen
zB
• Medizin
• Rechtspflege, Justiz und ADR
• Verkehr
• Bewerbungsverfahren
• Kreditwürdigkeit
• Fraglich bei general purpose (ChatGPT)
• idF EU Parlament 14.06.2023, Hochrisikoanwendungen nur dann,
„wenn sie ein erhebliches Risiko für die Gesundheit, die Sicherheit
oder die Grundrechte von natürlichen Personen darstellen
22.02.2024 Mag. Birgit Noha, LL.M. 11

12. Anforderungen hohes Risiko,
zB
• Daten-Governance, Dokumentation und das Führen
von Aufzeichnungen,
• Transparenz und Bereitstellung von Informationen
für die Nutzer, Gewährleistung einer menschlichen
Aufsicht,
• Anforderungen an Robustheit, Genauigkeit und
Sicherheit
22.02.2024 Mag. Birgit Noha, LL.M. 12

13. Geringere Anforderungen an Systeme
mit Risikoklasse „gering/minimal“
Geringe Risiken: zB Chatbots
Vor allem Transparenzpflichten: Nutzer von Chatbots sollen wissen, dass sie
es nicht mit einem echten Menschen zu tun haben
Minimale Risiken: zB Videospiele
22.02.2024 Mag. Birgit Noha, LL.M. 13

14. Sonstiges
• Maßnahmen zur
Innovationsförderungen für KMUs
und start ups
• Offenlegungspflichten, zB bei deep-
fakes
• Beobachtungs- und Meldepflichten für
die Anbieter von KI-Systemen
22.02.2024 Mag. Birgit Noha, LL.M. 14

15. Kritik
• Kombination unbestimmter Gesetzesbegriffe mit
exzessiven Strafen
• Hohes Strafrisiko (bis 30 Mio Euro oder 6 % des
weltweiten Jahresumsatzes) und extreme
Anwendungskomplexität
• Es fehlen Methoden und Messung: zB für
Robustheit, für Möglichkeit der menschlichen
Überwachung
• Definitionen, zB zur Transparenz nicht ganz klar,
auch nicht zum Inverkehrbringen, betreiben,
nutzen……
• Militärische Nutzung ausgenommen, etc.
22.02.2024 Mag. Birgit Noha, LL.M. 15

16. KI Haftungs RL (Entwurf)
• Verschuldenshaftung
Durch die Richtlinie werden bestimmte Vorschriften für Ansprüche, die
nicht in den Anwendungsbereich der Produkthaftungsrichtlinie fallen, in
Fällen, in denen Schäden durch Fehlverhalten verursacht werden,
harmonisiert. Dies umfasst beispielsweise Vermögensschäden,
Verletzungen der Privatsphäre oder durch Sicherheitsprobleme
verursachte Schäden.
• Beweislastumkehr: Kausalitätsvermutung
• in denen Hochrisiko-KI-Systeme betroffen
sind, ein Recht auf Zugang zu
Beweismitteln
22.02.2024 Mag. Birgit Noha, LL.M. 16

17. Produkhaftungs RL neu Entwurf
(Gefährdungshaftung)
• Auch Software ist Produkt
• Beweiserleichterungen
• Neuer Schadensbegriff, zB
ausgedehnt auf Verlust von Daten
und psychische Gesundheit
• Offenlegung von Beweismitteln
22.02.2024 Mag. Birgit Noha, LL.M. 17

18. Danke für Ihre Aufmerksamkeit!

19. Mag. Birgit Noha, LLM
Zieglergasse 1/18
A-1070 WIEN
Tel: +43-1-522 27 29
Fax: + 43-1-5239001-91
E-Mail: office@laws.at
WWW.LAWS.AT
Mag. Birgit Noha, LL.M. 19
22.02.2024