SlideShare ist ein Scribd-Unternehmen logo
1 von 19
Downloaden Sie, um offline zu lesen
22.02.2024 . 1
Mag Birgit Noha, LLM
Rechtsanwältin
zertifizierte
Datenschutzbeauftragte
Zieglergasse 1/18
A-1070 Wien / Vienna
Mail: Office@laws.at
Tel: +43 (0)1 / 90680 – 730
Mobil: +4369917171009
Was darf KI? Eine Ausblick auf die
europäische KI Gesetzgebung
22.02.2024 Mag. Birgit Noha, LL.M. 2
… und was anwendende
Unternehmen beachten
solllten
Künstliche Intelligenz
Anwendungen
• Automatische Erstellung von Texten für die Ausgabe von Sprache
oder Text über einen virtuellen Sprachassistenten oder Chatbot
• Drohnen
• Selbstfahrende Autos bzw Fahrassistenten
• Sprachassistenten/Gesichtserkennung
• (Rechts)datenbanken
• Musik: zB Jonny Cash sings Barbie girl (AI Cover)
• Medizin:
– Diagnostik
– Digital Death Prediction: Triage
– Digital life Prediction: RESPECT
– Psychotherapie
• KI generierte Fotos, deep fakes
Dabei wurde der Charakter der Ornella Muti des Jahres 2018 durch eine KI errechnet, die aus den Gesichtsdaten der jungen
Ornella Muti und Filmszenen des Modells Kendall Jenner neue Szenen errechnete,
• uva
22.02.2024 Mag. Birgit Noha, LL.M. 3
ChatGPT
• Urheberrechtliche Aspekte
• Datenschutzrechtliche Aspekte
22.02.2024 Mag. Birgit Noha, LL.M. 4
Können Unternehmen bei der Nutzung
von ChatGPT unbewusst
Urheberrechte verletzen?
Eine unbewusste Urheberrechtsverletzung durch die Nutzung
von Chat GPT ist möglich.
Es ist möglich, dass Texte von ChatGPT nur einen minimal von der
ursprünglichen Version stammenden Text abgeändert werden oder
sogar wesentliche Elemente vom Ursprungstext identisch
übernommen wurden. Wer dann einen solchen Text vervielfältigt
oder veröffentlicht, begeht dann ohne es beabsichtigt zu haben eine
Urheberrechtsverletzung. Der Urheber des Originals kann in einem
solchen Fall Unterlassungs-, Schadensersatz- und
Beseitigungsansprüche geltend machen.
22.02.2024 Mag. Birgit Noha, LL.M. 5
Was ist aus datenschutzrechtlicher Sicht bei der
Eingabe von personenbezogenen Daten und
sensiblen Unternehmensdaten auf ChatGPT zu
achten?
Es gilt die DSGVO. Daher dürfen auch keine personenbezogenen
Daten von Dritten, wie etwa Namen, Kontaktdaten, Wertungen oder
andere Daten, die eine Person identifizierbar machen, bei ChatGPT
eingegeben werden. Auch die Nutzungsbedingungen von ChatGPT
untersagen eine solche Eingabe.
Sie sollten in Ihren Unternehmen auch darauf achten, dass keine
Betriebs- oder Geschäftsgeheimnisse eingegeben werden. Auch
sind gesetzliche oder vertragliche Verschwiegenheitspflichten
zu beachten.
Auch ist zu beachten, dass wenn Geschäftsgeheimnisse des eigenen
Unternehmens eingegeben werden, diese die Einstufung als
Geschäftsgeheimnisse verlieren und von Dritten verwendet werden dürfen.
Etwaige arbeitsrechtliche Maßnahmen sind in diesen Fällen ebenfalls
gesondert zu betrachten.
22.02.2024 Mag. Birgit Noha, LL.M. 6
Welche Anforderungen enthalten die
Nutzungsbedingungen von ChatGPT, denen man
zum Zeitpunkt der Registrierung zustimmt?
Die Nutzung von ChatGPT ist an einige Bedingungen geknüpft.
Unter anderem dürfen die Nutzer nicht behaupten, dass der Output
von einem Menschen generiert wurde oder urheberrechtlich
geschützte Materialien, ohne die erforderliche Zustimmung des
Betroffenen verbreiten, persönliche Informationen von Dritten ohne
deren Zustimmung offenlegen oder aber die KI zur Förderung von
Diskriminierung aufgrund von Rasse, Geschlecht, Religion,
Nationalität u.a. zu verwenden.
22.02.2024 Mag. Birgit Noha, LL.M. 7
22.02.2024 Mag. Birgit Noha, LL.M. 8
Der "AI Act" ist ein Gesetzesvorschlag der Europäischen Union (EU), der im April 2021 von der Europäischen
Kommission vorgelegt wurde. Dieser Gesetzesvorschlag hat den Anwendungsbereich und Inhalt im
Zusammenhang mit der Regulierung von künstlicher Intelligenz (AI) in der EU. Hier sind die wichtigsten Aspekte
des AI Act:
Anwendungsbereich des AI Act:
Der AI Act zielt darauf ab, die Nutzung von KI in der EU zu regulieren und sicherzustellen, dass KI-Systeme sicher
und ethisch verantwortlich entwickelt und eingesetzt werden. Er gilt für eine breite Palette von KI-Anwendungen
und -diensten, sowohl in der öffentlichen als auch in der privaten Sphäre. Der Geltungsbereich umfasst sowohl
Unternehmen innerhalb als auch außerhalb der EU, wenn ihre KI-Systeme in der EU genutzt werden.
Inhalt des AI Act:
Der AI Act enthält eine Vielzahl von Bestimmungen und Regelungen, darunter:
1.Risikoklassifizierung: Der Gesetzesvorschlag klassifiziert KI-Anwendungen in verschiedene Risikokategorien,
von niedrigem bis hohem Risiko. Dies hilft bei der Bestimmung des erforderlichen Maßes an Regulierung und
Überwachung.
2.Verbotene Praktiken: Der AI Act verbietet bestimmte KI-Praktiken, die als besonders gefährlich oder ethisch
bedenklich angesehen werden, wie beispielsweise die Erstellung von "Deepfake"-Inhalten zur Täuschung.
3.Transparenz und Dokumentationspflichten: Hersteller von KI-Systemen müssen umfassende
Dokumentationen bereitstellen, um die Transparenz und Rückverfolgbarkeit ihrer KI-Systeme sicherzustellen.
4.Durchführung von Risikobewertungen: Für KI-Systeme, die als hochriskant eingestuft werden, müssen
Hersteller Risikobewertungen durchführen und Sicherheitsmaßnahmen implementieren.
5.Unabhängige Konformitätsbewertungen: Hochriskante KI-Systeme müssen von unabhängigen Stellen
überprüft und bewertet werden, um sicherzustellen, dass sie den Anforderungen entsprechen.
6.Kennzeichnungspflichten: Bestimmte KI-Anwendungen müssen gekennzeichnet werden, um den Benutzern
mitzuteilen, dass sie mit einem KI-System interagieren.
7.Datenverwendung und Datenschutz: Der AI Act berücksichtigt auch die Datenschutzaspekte bei der
Verwendung von KI-Systemen und stellt sicher, dass die Datenschutzrechte der Menschen gewahrt werden.
Der AI Act ist Teil der Bemühungen der EU, die Nutzung von KI sicherer und ethischer zu gestalten und das
Vertrauen der Verbraucher in KI-Technologien zu stärken. Es handelt sich um einen wichtigen Schritt in der
AI Act und weitere KI
Rechtsakte
AI Act (Entwurf, wahrscheinlich 2024/2026):
Unterschiedlich weitreichende Pflichten für Anbieter
nach Risikokategorien
Der AI Act teilt Künstliche Intelligenz in drei
„unannehmbar“, „hoch“ und „gering/minimal“.
Je mehr Risiko, desto mehr Auflagen, die auch geprüft
werden.
22.02.2024 Mag. Birgit Noha, LL.M. 9
Unanehmbare Risken
Verboten, zB social scoring,
Emotionsüberwachung am Arbeitsplatz,
manipulative oder ausbeuterische
Praktiken, vorausschauende
Polizeiarbeit
Die Kommission möchte den Staaten in ihrem Entwurf
beim Einsatz biometrischer Überwachung einige Freiheiten
lassen. Zwar stuft sie solche Systeme als „hochriskant“ ein,
möchte aber sogenannte „biometrische Echtzeit-
Fernidentifizierungssysteme in öffentlich zugänglichen
Räumen zu Strafverfolgungszwecken dennoch zulassen.
22.02.2024 Mag. Birgit Noha, LL.M. 10
Für KI-Systeme mit Risikoklasse
„hoch“ (v.a. im Anhang) gelten
besondere Anforderungen
zB
• Medizin
• Rechtspflege, Justiz und ADR
• Verkehr
• Bewerbungsverfahren
• Kreditwürdigkeit
• Fraglich bei general purpose (ChatGPT)
• idF EU Parlament 14.06.2023, Hochrisikoanwendungen nur dann,
„wenn sie ein erhebliches Risiko für die Gesundheit, die Sicherheit
oder die Grundrechte von natürlichen Personen darstellen
22.02.2024 Mag. Birgit Noha, LL.M. 11
Anforderungen hohes Risiko,
zB
• Daten-Governance, Dokumentation und das Führen
von Aufzeichnungen,
• Transparenz und Bereitstellung von Informationen
für die Nutzer, Gewährleistung einer menschlichen
Aufsicht,
• Anforderungen an Robustheit, Genauigkeit und
Sicherheit
22.02.2024 Mag. Birgit Noha, LL.M. 12
Geringere Anforderungen an Systeme
mit Risikoklasse „gering/minimal“
Geringe Risiken: zB Chatbots
Vor allem Transparenzpflichten: Nutzer von Chatbots sollen wissen, dass sie
es nicht mit einem echten Menschen zu tun haben
Minimale Risiken: zB Videospiele
22.02.2024 Mag. Birgit Noha, LL.M. 13
Sonstiges
• Maßnahmen zur
Innovationsförderungen für KMUs
und start ups
• Offenlegungspflichten, zB bei deep-
fakes
• Beobachtungs- und Meldepflichten für
die Anbieter von KI-Systemen
22.02.2024 Mag. Birgit Noha, LL.M. 14
Kritik
• Kombination unbestimmter Gesetzesbegriffe mit
exzessiven Strafen
• Hohes Strafrisiko (bis 30 Mio Euro oder 6 % des
weltweiten Jahresumsatzes) und extreme
Anwendungskomplexität
• Es fehlen Methoden und Messung: zB für
Robustheit, für Möglichkeit der menschlichen
Überwachung
• Definitionen, zB zur Transparenz nicht ganz klar,
auch nicht zum Inverkehrbringen, betreiben,
nutzen……
• Militärische Nutzung ausgenommen, etc.
22.02.2024 Mag. Birgit Noha, LL.M. 15
KI Haftungs RL (Entwurf)
• Verschuldenshaftung
Durch die Richtlinie werden bestimmte Vorschriften für Ansprüche, die
nicht in den Anwendungsbereich der Produkthaftungsrichtlinie fallen, in
Fällen, in denen Schäden durch Fehlverhalten verursacht werden,
harmonisiert. Dies umfasst beispielsweise Vermögensschäden,
Verletzungen der Privatsphäre oder durch Sicherheitsprobleme
verursachte Schäden.
• Beweislastumkehr: Kausalitätsvermutung
• in denen Hochrisiko-KI-Systeme betroffen
sind, ein Recht auf Zugang zu
Beweismitteln
22.02.2024 Mag. Birgit Noha, LL.M. 16
Produkhaftungs RL neu Entwurf
(Gefährdungshaftung)
• Auch Software ist Produkt
• Beweiserleichterungen
• Neuer Schadensbegriff, zB
ausgedehnt auf Verlust von Daten
und psychische Gesundheit
• Offenlegung von Beweismitteln
22.02.2024 Mag. Birgit Noha, LL.M. 17
Danke für Ihre Aufmerksamkeit!
Mag. Birgit Noha, LLM
Zieglergasse 1/18
A-1070 WIEN
Tel: +43-1-522 27 29
Fax: + 43-1-5239001-91
E-Mail: office@laws.at
WWW.LAWS.AT
Mag. Birgit Noha, LL.M. 19
22.02.2024

Weitere ähnliche Inhalte

Ähnlich wie Fr. RA Mag. Birgit Noha, LL.M. (Laws.at)

Blockchain Agenda
Blockchain AgendaBlockchain Agenda
Blockchain Agenda
Kevin Beims
 

Ähnlich wie Fr. RA Mag. Birgit Noha, LL.M. (Laws.at) (20)

Workshop: Mit Sicherheit Datenschutz in der Gesetzlichen Unfallversicherung -...
Workshop: Mit Sicherheit Datenschutz in der Gesetzlichen Unfallversicherung -...Workshop: Mit Sicherheit Datenschutz in der Gesetzlichen Unfallversicherung -...
Workshop: Mit Sicherheit Datenschutz in der Gesetzlichen Unfallversicherung -...
 
[2017-04-18] epicenter.works 2.Stammtisch Graz
[2017-04-18] epicenter.works 2.Stammtisch Graz [2017-04-18] epicenter.works 2.Stammtisch Graz
[2017-04-18] epicenter.works 2.Stammtisch Graz
 
Megatrends der Zukunft und Ihr Einfluss auf Geschäftsmodelle
Megatrends der Zukunft und Ihr Einfluss auf GeschäftsmodelleMegatrends der Zukunft und Ihr Einfluss auf Geschäftsmodelle
Megatrends der Zukunft und Ihr Einfluss auf Geschäftsmodelle
 
Tronbotix Whitepaper ICO 2018 German
Tronbotix Whitepaper ICO 2018  GermanTronbotix Whitepaper ICO 2018  German
Tronbotix Whitepaper ICO 2018 German
 
Tronbotix Whitepaper ICO 2018 German
Tronbotix Whitepaper ICO 2018 GermanTronbotix Whitepaper ICO 2018 German
Tronbotix Whitepaper ICO 2018 German
 
Transparente und Verantwortungsbewusste KI
Transparente und Verantwortungsbewusste KITransparente und Verantwortungsbewusste KI
Transparente und Verantwortungsbewusste KI
 
DDr. Alexander Petsche (Baker & McKenzie)
DDr. Alexander Petsche (Baker & McKenzie)DDr. Alexander Petsche (Baker & McKenzie)
DDr. Alexander Petsche (Baker & McKenzie)
 
Datenschutz im Web
Datenschutz im WebDatenschutz im Web
Datenschutz im Web
 
[2018-02-25] epicenter.works Koordinationstreffen: Regierungsprogramm und Übe...
[2018-02-25] epicenter.works Koordinationstreffen: Regierungsprogramm und Übe...[2018-02-25] epicenter.works Koordinationstreffen: Regierungsprogramm und Übe...
[2018-02-25] epicenter.works Koordinationstreffen: Regierungsprogramm und Übe...
 
Datenschutz
DatenschutzDatenschutz
Datenschutz
 
Datenschutz
DatenschutzDatenschutz
Datenschutz
 
Cybercrime & Datenklau - rechtliche Aspekte
Cybercrime & Datenklau - rechtliche AspekteCybercrime & Datenklau - rechtliche Aspekte
Cybercrime & Datenklau - rechtliche Aspekte
 
Facebook & Recht Update 2015 - Aktuelle Entwicklungen zu Urheberrecht, Datens...
Facebook & Recht Update 2015 - Aktuelle Entwicklungen zu Urheberrecht, Datens...Facebook & Recht Update 2015 - Aktuelle Entwicklungen zu Urheberrecht, Datens...
Facebook & Recht Update 2015 - Aktuelle Entwicklungen zu Urheberrecht, Datens...
 
2021 Bundeskonferenz BAG - Digitale Sicherheit, persönliche Rechte
2021 Bundeskonferenz BAG - Digitale Sicherheit, persönliche Rechte2021 Bundeskonferenz BAG - Digitale Sicherheit, persönliche Rechte
2021 Bundeskonferenz BAG - Digitale Sicherheit, persönliche Rechte
 
Dipl. Bw. (FH) Manfred Brandner (BIT-Group), Dr. Alexander Janda (Kuratorium ...
Dipl. Bw. (FH) Manfred Brandner (BIT-Group), Dr. Alexander Janda (Kuratorium ...Dipl. Bw. (FH) Manfred Brandner (BIT-Group), Dr. Alexander Janda (Kuratorium ...
Dipl. Bw. (FH) Manfred Brandner (BIT-Group), Dr. Alexander Janda (Kuratorium ...
 
Buxmann_27.04.23_Vortrag_KI_ChatGPT.pdf
Buxmann_27.04.23_Vortrag_KI_ChatGPT.pdfBuxmann_27.04.23_Vortrag_KI_ChatGPT.pdf
Buxmann_27.04.23_Vortrag_KI_ChatGPT.pdf
 
Kuenstliche Intelligenz in unserem Alltag
Kuenstliche Intelligenz in unserem AlltagKuenstliche Intelligenz in unserem Alltag
Kuenstliche Intelligenz in unserem Alltag
 
Umfrage_zu_Big_Data_in_der_Schweiz_20151105
Umfrage_zu_Big_Data_in_der_Schweiz_20151105Umfrage_zu_Big_Data_in_der_Schweiz_20151105
Umfrage_zu_Big_Data_in_der_Schweiz_20151105
 
Blockchain Agenda
Blockchain AgendaBlockchain Agenda
Blockchain Agenda
 
DSGVO – Veränderungen und Folgen für den Hochschulbereich (Slides Prof. Dr. T...
DSGVO – Veränderungen und Folgen für den Hochschulbereich (Slides Prof. Dr. T...DSGVO – Veränderungen und Folgen für den Hochschulbereich (Slides Prof. Dr. T...
DSGVO – Veränderungen und Folgen für den Hochschulbereich (Slides Prof. Dr. T...
 

Mehr von Praxistage

Mehr von Praxistage (20)

Einladung zu den Praxistagen 2024 im virtuellen Landhaus
Einladung zu den Praxistagen 2024 im virtuellen LandhausEinladung zu den Praxistagen 2024 im virtuellen Landhaus
Einladung zu den Praxistagen 2024 im virtuellen Landhaus
 
Michael Jäger, MBA, Dipl. Wirtschaftsinformatiker (FH) Christian Kohler (Mait...
Michael Jäger, MBA, Dipl. Wirtschaftsinformatiker (FH) Christian Kohler (Mait...Michael Jäger, MBA, Dipl. Wirtschaftsinformatiker (FH) Christian Kohler (Mait...
Michael Jäger, MBA, Dipl. Wirtschaftsinformatiker (FH) Christian Kohler (Mait...
 
Mag.a Mary-Ann Hayes (Unicredit Bank Austria AG)
Mag.a Mary-Ann Hayes (Unicredit Bank Austria AG)Mag.a Mary-Ann Hayes (Unicredit Bank Austria AG)
Mag.a Mary-Ann Hayes (Unicredit Bank Austria AG)
 
OR Dipl.-Ing. Bettina Gastecker, Bakk (Bundesministerium für Finanzen)
OR Dipl.-Ing. Bettina Gastecker, Bakk (Bundesministerium für Finanzen)OR Dipl.-Ing. Bettina Gastecker, Bakk (Bundesministerium für Finanzen)
OR Dipl.-Ing. Bettina Gastecker, Bakk (Bundesministerium für Finanzen)
 
Dipl.-Ing. (FH) Bernd Stockinger (Citycom Telekommunikation GmbH)
Dipl.-Ing. (FH) Bernd Stockinger (Citycom Telekommunikation GmbH)Dipl.-Ing. (FH) Bernd Stockinger (Citycom Telekommunikation GmbH)
Dipl.-Ing. (FH) Bernd Stockinger (Citycom Telekommunikation GmbH)
 
Dipl.-Verww. (FH) Christian Zierau (Stadtrat für Finanzen, Personal, Ordnung ...
Dipl.-Verww. (FH) Christian Zierau (Stadtrat für Finanzen, Personal, Ordnung ...Dipl.-Verww. (FH) Christian Zierau (Stadtrat für Finanzen, Personal, Ordnung ...
Dipl.-Verww. (FH) Christian Zierau (Stadtrat für Finanzen, Personal, Ordnung ...
 
Bernd Schellnast (Sphinx IT Consulting GmbH)
Bernd Schellnast (Sphinx IT Consulting GmbH)Bernd Schellnast (Sphinx IT Consulting GmbH)
Bernd Schellnast (Sphinx IT Consulting GmbH)
 
Werner Panhauser (Helvetia Versicherungen AG)
Werner Panhauser (Helvetia Versicherungen AG)Werner Panhauser (Helvetia Versicherungen AG)
Werner Panhauser (Helvetia Versicherungen AG)
 
Michael Weilguny, Christian Schön (IVM Technical Consultants Wien Ges.m.b.H.)
Michael Weilguny, Christian Schön (IVM Technical Consultants Wien Ges.m.b.H.)Michael Weilguny, Christian Schön (IVM Technical Consultants Wien Ges.m.b.H.)
Michael Weilguny, Christian Schön (IVM Technical Consultants Wien Ges.m.b.H.)
 
Dipl.-Ing. Bob Velkov (Huawei Technologies Austria GmbH)
Dipl.-Ing. Bob Velkov (Huawei Technologies Austria GmbH)Dipl.-Ing. Bob Velkov (Huawei Technologies Austria GmbH)
Dipl.-Ing. Bob Velkov (Huawei Technologies Austria GmbH)
 
Dipl.-Ing. Werner Plessl (Hewlett Packard Enterprise)
Dipl.-Ing. Werner Plessl (Hewlett Packard Enterprise)Dipl.-Ing. Werner Plessl (Hewlett Packard Enterprise)
Dipl.-Ing. Werner Plessl (Hewlett Packard Enterprise)
 
Dipl.-Ing. Marc Haarmeier (Prime Force Group Int. AG)
Dipl.-Ing. Marc Haarmeier (Prime Force Group Int. AG)Dipl.-Ing. Marc Haarmeier (Prime Force Group Int. AG)
Dipl.-Ing. Marc Haarmeier (Prime Force Group Int. AG)
 
Mag.a Verena Becker, BSc. (Wirtschaftskammer Österreich/BSIC)
Mag.a Verena Becker, BSc. (Wirtschaftskammer Österreich/BSIC)Mag.a Verena Becker, BSc. (Wirtschaftskammer Österreich/BSIC)
Mag.a Verena Becker, BSc. (Wirtschaftskammer Österreich/BSIC)
 
Doris Ingerisch (Axians ICT Austria GmbH)
Doris Ingerisch (Axians ICT Austria GmbH)Doris Ingerisch (Axians ICT Austria GmbH)
Doris Ingerisch (Axians ICT Austria GmbH)
 
Josef Weissinger (Soroban IT-Beratung GmbH)
Josef Weissinger (Soroban IT-Beratung GmbH)Josef Weissinger (Soroban IT-Beratung GmbH)
Josef Weissinger (Soroban IT-Beratung GmbH)
 
Fr. Vanessa Kluge, BA (Kontron AIS GmbH)
Fr. Vanessa Kluge, BA (Kontron AIS GmbH)Fr. Vanessa Kluge, BA (Kontron AIS GmbH)
Fr. Vanessa Kluge, BA (Kontron AIS GmbH)
 
Ing. Boris Werner (Breitbandbüro des Bundesministeriums für Finanzen)
Ing. Boris Werner (Breitbandbüro des Bundesministeriums für Finanzen)Ing. Boris Werner (Breitbandbüro des Bundesministeriums für Finanzen)
Ing. Boris Werner (Breitbandbüro des Bundesministeriums für Finanzen)
 
Praxistage 2024 im virtuellen Landhaus, St. Pölten
Praxistage 2024 im virtuellen Landhaus, St. PöltenPraxistage 2024 im virtuellen Landhaus, St. Pölten
Praxistage 2024 im virtuellen Landhaus, St. Pölten
 
Hr. David Simon (Juniper Networks, Inc.)
Hr. David Simon (Juniper Networks, Inc.)Hr. David Simon (Juniper Networks, Inc.)
Hr. David Simon (Juniper Networks, Inc.)
 
Mag. Michael Salat (Cisco Systems Austria GmbH)
Mag. Michael Salat (Cisco Systems Austria GmbH)Mag. Michael Salat (Cisco Systems Austria GmbH)
Mag. Michael Salat (Cisco Systems Austria GmbH)
 

Fr. RA Mag. Birgit Noha, LL.M. (Laws.at)

  • 1. 22.02.2024 . 1 Mag Birgit Noha, LLM Rechtsanwältin zertifizierte Datenschutzbeauftragte Zieglergasse 1/18 A-1070 Wien / Vienna Mail: Office@laws.at Tel: +43 (0)1 / 90680 – 730 Mobil: +4369917171009
  • 2. Was darf KI? Eine Ausblick auf die europäische KI Gesetzgebung 22.02.2024 Mag. Birgit Noha, LL.M. 2 … und was anwendende Unternehmen beachten solllten
  • 3. Künstliche Intelligenz Anwendungen • Automatische Erstellung von Texten für die Ausgabe von Sprache oder Text über einen virtuellen Sprachassistenten oder Chatbot • Drohnen • Selbstfahrende Autos bzw Fahrassistenten • Sprachassistenten/Gesichtserkennung • (Rechts)datenbanken • Musik: zB Jonny Cash sings Barbie girl (AI Cover) • Medizin: – Diagnostik – Digital Death Prediction: Triage – Digital life Prediction: RESPECT – Psychotherapie • KI generierte Fotos, deep fakes Dabei wurde der Charakter der Ornella Muti des Jahres 2018 durch eine KI errechnet, die aus den Gesichtsdaten der jungen Ornella Muti und Filmszenen des Modells Kendall Jenner neue Szenen errechnete, • uva 22.02.2024 Mag. Birgit Noha, LL.M. 3
  • 4. ChatGPT • Urheberrechtliche Aspekte • Datenschutzrechtliche Aspekte 22.02.2024 Mag. Birgit Noha, LL.M. 4
  • 5. Können Unternehmen bei der Nutzung von ChatGPT unbewusst Urheberrechte verletzen? Eine unbewusste Urheberrechtsverletzung durch die Nutzung von Chat GPT ist möglich. Es ist möglich, dass Texte von ChatGPT nur einen minimal von der ursprünglichen Version stammenden Text abgeändert werden oder sogar wesentliche Elemente vom Ursprungstext identisch übernommen wurden. Wer dann einen solchen Text vervielfältigt oder veröffentlicht, begeht dann ohne es beabsichtigt zu haben eine Urheberrechtsverletzung. Der Urheber des Originals kann in einem solchen Fall Unterlassungs-, Schadensersatz- und Beseitigungsansprüche geltend machen. 22.02.2024 Mag. Birgit Noha, LL.M. 5
  • 6. Was ist aus datenschutzrechtlicher Sicht bei der Eingabe von personenbezogenen Daten und sensiblen Unternehmensdaten auf ChatGPT zu achten? Es gilt die DSGVO. Daher dürfen auch keine personenbezogenen Daten von Dritten, wie etwa Namen, Kontaktdaten, Wertungen oder andere Daten, die eine Person identifizierbar machen, bei ChatGPT eingegeben werden. Auch die Nutzungsbedingungen von ChatGPT untersagen eine solche Eingabe. Sie sollten in Ihren Unternehmen auch darauf achten, dass keine Betriebs- oder Geschäftsgeheimnisse eingegeben werden. Auch sind gesetzliche oder vertragliche Verschwiegenheitspflichten zu beachten. Auch ist zu beachten, dass wenn Geschäftsgeheimnisse des eigenen Unternehmens eingegeben werden, diese die Einstufung als Geschäftsgeheimnisse verlieren und von Dritten verwendet werden dürfen. Etwaige arbeitsrechtliche Maßnahmen sind in diesen Fällen ebenfalls gesondert zu betrachten. 22.02.2024 Mag. Birgit Noha, LL.M. 6
  • 7. Welche Anforderungen enthalten die Nutzungsbedingungen von ChatGPT, denen man zum Zeitpunkt der Registrierung zustimmt? Die Nutzung von ChatGPT ist an einige Bedingungen geknüpft. Unter anderem dürfen die Nutzer nicht behaupten, dass der Output von einem Menschen generiert wurde oder urheberrechtlich geschützte Materialien, ohne die erforderliche Zustimmung des Betroffenen verbreiten, persönliche Informationen von Dritten ohne deren Zustimmung offenlegen oder aber die KI zur Förderung von Diskriminierung aufgrund von Rasse, Geschlecht, Religion, Nationalität u.a. zu verwenden. 22.02.2024 Mag. Birgit Noha, LL.M. 7
  • 8. 22.02.2024 Mag. Birgit Noha, LL.M. 8 Der "AI Act" ist ein Gesetzesvorschlag der Europäischen Union (EU), der im April 2021 von der Europäischen Kommission vorgelegt wurde. Dieser Gesetzesvorschlag hat den Anwendungsbereich und Inhalt im Zusammenhang mit der Regulierung von künstlicher Intelligenz (AI) in der EU. Hier sind die wichtigsten Aspekte des AI Act: Anwendungsbereich des AI Act: Der AI Act zielt darauf ab, die Nutzung von KI in der EU zu regulieren und sicherzustellen, dass KI-Systeme sicher und ethisch verantwortlich entwickelt und eingesetzt werden. Er gilt für eine breite Palette von KI-Anwendungen und -diensten, sowohl in der öffentlichen als auch in der privaten Sphäre. Der Geltungsbereich umfasst sowohl Unternehmen innerhalb als auch außerhalb der EU, wenn ihre KI-Systeme in der EU genutzt werden. Inhalt des AI Act: Der AI Act enthält eine Vielzahl von Bestimmungen und Regelungen, darunter: 1.Risikoklassifizierung: Der Gesetzesvorschlag klassifiziert KI-Anwendungen in verschiedene Risikokategorien, von niedrigem bis hohem Risiko. Dies hilft bei der Bestimmung des erforderlichen Maßes an Regulierung und Überwachung. 2.Verbotene Praktiken: Der AI Act verbietet bestimmte KI-Praktiken, die als besonders gefährlich oder ethisch bedenklich angesehen werden, wie beispielsweise die Erstellung von "Deepfake"-Inhalten zur Täuschung. 3.Transparenz und Dokumentationspflichten: Hersteller von KI-Systemen müssen umfassende Dokumentationen bereitstellen, um die Transparenz und Rückverfolgbarkeit ihrer KI-Systeme sicherzustellen. 4.Durchführung von Risikobewertungen: Für KI-Systeme, die als hochriskant eingestuft werden, müssen Hersteller Risikobewertungen durchführen und Sicherheitsmaßnahmen implementieren. 5.Unabhängige Konformitätsbewertungen: Hochriskante KI-Systeme müssen von unabhängigen Stellen überprüft und bewertet werden, um sicherzustellen, dass sie den Anforderungen entsprechen. 6.Kennzeichnungspflichten: Bestimmte KI-Anwendungen müssen gekennzeichnet werden, um den Benutzern mitzuteilen, dass sie mit einem KI-System interagieren. 7.Datenverwendung und Datenschutz: Der AI Act berücksichtigt auch die Datenschutzaspekte bei der Verwendung von KI-Systemen und stellt sicher, dass die Datenschutzrechte der Menschen gewahrt werden. Der AI Act ist Teil der Bemühungen der EU, die Nutzung von KI sicherer und ethischer zu gestalten und das Vertrauen der Verbraucher in KI-Technologien zu stärken. Es handelt sich um einen wichtigen Schritt in der
  • 9. AI Act und weitere KI Rechtsakte AI Act (Entwurf, wahrscheinlich 2024/2026): Unterschiedlich weitreichende Pflichten für Anbieter nach Risikokategorien Der AI Act teilt Künstliche Intelligenz in drei „unannehmbar“, „hoch“ und „gering/minimal“. Je mehr Risiko, desto mehr Auflagen, die auch geprüft werden. 22.02.2024 Mag. Birgit Noha, LL.M. 9
  • 10. Unanehmbare Risken Verboten, zB social scoring, Emotionsüberwachung am Arbeitsplatz, manipulative oder ausbeuterische Praktiken, vorausschauende Polizeiarbeit Die Kommission möchte den Staaten in ihrem Entwurf beim Einsatz biometrischer Überwachung einige Freiheiten lassen. Zwar stuft sie solche Systeme als „hochriskant“ ein, möchte aber sogenannte „biometrische Echtzeit- Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken dennoch zulassen. 22.02.2024 Mag. Birgit Noha, LL.M. 10
  • 11. Für KI-Systeme mit Risikoklasse „hoch“ (v.a. im Anhang) gelten besondere Anforderungen zB • Medizin • Rechtspflege, Justiz und ADR • Verkehr • Bewerbungsverfahren • Kreditwürdigkeit • Fraglich bei general purpose (ChatGPT) • idF EU Parlament 14.06.2023, Hochrisikoanwendungen nur dann, „wenn sie ein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte von natürlichen Personen darstellen 22.02.2024 Mag. Birgit Noha, LL.M. 11
  • 12. Anforderungen hohes Risiko, zB • Daten-Governance, Dokumentation und das Führen von Aufzeichnungen, • Transparenz und Bereitstellung von Informationen für die Nutzer, Gewährleistung einer menschlichen Aufsicht, • Anforderungen an Robustheit, Genauigkeit und Sicherheit 22.02.2024 Mag. Birgit Noha, LL.M. 12
  • 13. Geringere Anforderungen an Systeme mit Risikoklasse „gering/minimal“ Geringe Risiken: zB Chatbots Vor allem Transparenzpflichten: Nutzer von Chatbots sollen wissen, dass sie es nicht mit einem echten Menschen zu tun haben Minimale Risiken: zB Videospiele 22.02.2024 Mag. Birgit Noha, LL.M. 13
  • 14. Sonstiges • Maßnahmen zur Innovationsförderungen für KMUs und start ups • Offenlegungspflichten, zB bei deep- fakes • Beobachtungs- und Meldepflichten für die Anbieter von KI-Systemen 22.02.2024 Mag. Birgit Noha, LL.M. 14
  • 15. Kritik • Kombination unbestimmter Gesetzesbegriffe mit exzessiven Strafen • Hohes Strafrisiko (bis 30 Mio Euro oder 6 % des weltweiten Jahresumsatzes) und extreme Anwendungskomplexität • Es fehlen Methoden und Messung: zB für Robustheit, für Möglichkeit der menschlichen Überwachung • Definitionen, zB zur Transparenz nicht ganz klar, auch nicht zum Inverkehrbringen, betreiben, nutzen…… • Militärische Nutzung ausgenommen, etc. 22.02.2024 Mag. Birgit Noha, LL.M. 15
  • 16. KI Haftungs RL (Entwurf) • Verschuldenshaftung Durch die Richtlinie werden bestimmte Vorschriften für Ansprüche, die nicht in den Anwendungsbereich der Produkthaftungsrichtlinie fallen, in Fällen, in denen Schäden durch Fehlverhalten verursacht werden, harmonisiert. Dies umfasst beispielsweise Vermögensschäden, Verletzungen der Privatsphäre oder durch Sicherheitsprobleme verursachte Schäden. • Beweislastumkehr: Kausalitätsvermutung • in denen Hochrisiko-KI-Systeme betroffen sind, ein Recht auf Zugang zu Beweismitteln 22.02.2024 Mag. Birgit Noha, LL.M. 16
  • 17. Produkhaftungs RL neu Entwurf (Gefährdungshaftung) • Auch Software ist Produkt • Beweiserleichterungen • Neuer Schadensbegriff, zB ausgedehnt auf Verlust von Daten und psychische Gesundheit • Offenlegung von Beweismitteln 22.02.2024 Mag. Birgit Noha, LL.M. 17
  • 18. Danke für Ihre Aufmerksamkeit!
  • 19. Mag. Birgit Noha, LLM Zieglergasse 1/18 A-1070 WIEN Tel: +43-1-522 27 29 Fax: + 43-1-5239001-91 E-Mail: office@laws.at WWW.LAWS.AT Mag. Birgit Noha, LL.M. 19 22.02.2024